トップ :: G 物理学 :: G10 楽器;音響




【発明の名称】 言語モデル生成装置及びこれを用いた音声認識装置、言語モデル生成方法及びこれを用いた音声認識方法、並びに言語モデル生成プログラムを記録したコンピュータ読み取り可能な記録媒体及び音声認識プログラムを記録したコンピュータ読み取り可能な記録媒体
【発明者】 【氏名】石井 純
【要約】 【課題】推定精度の高い言語モデル、認識精度の高い音声認識装置を得る。

【解決手段】学習用テキストデータ木構造クラスタリング手段２００１は、学習用テキストデータ１００１を言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、木構造学習用テキストデータクラスタ２００２を生成する。言語モデル生成手段１００４は、木構造学習用テキストデータクラスタ２００２に属する各学習用テキストデータを用いて、木構造クラスタ別言語モデル２００３を生成する。
【特許請求の範囲】
【請求項１】 学習用テキストデータを入力して、単語列の生起確率を求める言語モデルを生成する言語モデル生成装置において、上記学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、木構造学習用テキストデータクラスタを生成する学習用テキストデータ木構造クラスタリング手段と、上記木構造学習用テキストデータクラスタに属する各学習用テキストデータを用いて、木構造クラスタ別言語モデルを生成する言語モデル生成手段とを備えたことを特徴とする言語モデル生成装置。
【請求項２】 木構造クラスタ別言語モデルが位置する木構造の上位に位置する木構造クラスタ別言語モデルを用いて補間処理を行い、補間処理された木構造クラスタ別言語モデルを生成する言語モデル補間手段を備えたことを特徴とする請求項１記載の言語モデル生成装置。
【請求項３】 認識対象音声を入力して音声認識を行い音声認識結果を出力する音声認識装置において、上記認識対象音声を入力し音声特徴量を抽出する音声特徴量抽出手段と、音声の音響的な観測値系列の確率を求める音響モデルと、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルと、上記木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して最も生起確率が高い言語モデルを選択する言語モデル選択手段と、上記言語モデル選択手段により選択された言語モデルと上記音響モデルを用いて、上記音声特徴量抽出手段が抽出した音声特徴量に対して照合を行い音声認識結果を出力する照合手段とを備えたことを特徴とする音声認識装置。
【請求項４】 言語モデル選択手段が、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから言語モデルを選択することを特徴とする請求項３記載の音声認識装置。
【請求項５】 認識対象音声を入力して音声認識を行い音声認識結果を出力する音声認識装置において、上記認識対象音声を入力し音声特徴量を抽出する音声特徴量抽出手段と、音声の音響的な観測値系列の確率を求める音響モデルと、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルと、上記木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して生起確率の高い複数の言語モデルを選択する複数言語モデル選択手段と、上記複数言語モデル選択手段によって選択された複数の言語モデルを入力して混合言語モデルを生成する混合言語モデル生成手段と、上記混合言語モデル生成手段により生成された言語モデルと上記音響モデルを用いて、上記音声特徴量抽出手段が抽出した音声特徴量に対して照合を行い音声認識結果を出力する照合手段とを備えたことを特徴とする音声認識装置。
【請求項６】 複数言語モデル選択手段が、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから複数の言語モデルを選択することを特徴とする請求項５記載の音声認識装置。
【請求項７】 木構造クラスタ別言語モデルが、木構造の上位に位置する木構造クラスタ別言語モデルを用いて補間処理が行われた補間処理された木構造クラスタ別言語モデルであることを特徴とする請求項３又は請求項５記載の音声認識装置。
【請求項８】 学習用テキストデータを入力して、単語列の生起確率を求める言語モデルを生成する言語モデル生成方法において、上記学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、木構造学習用テキストデータクラスタを生成する第１のステップと、上記木構造学習用テキストデータクラスタに属する各学習用テキストデータを用いて、木構造クラスタ別言語モデルを生成する第２のステップとを備えたことを特徴とする言語モデル生成方法。
【請求項９】 木構造クラスタ別言語モデルが位置する木構造の上位に位置する木構造クラスタ別言語モデルを用いて補間処理を行い、補間処理された木構造クラスタ別言語モデルを生成する第３のステップを備えたことを特徴とする請求項８記載の言語モデル生成方法。
【請求項１０】 認識対象音声を入力して音声認識を行い音声認識結果を出力する音声認識方法において、上記認識対象音声を入力し音声特徴量を抽出する第１のステップと、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して最も生起確率が高い言語モデルを選択する第２のステップと、音声の音響的な観測値系列の確率を求める音響モデルと、上記第２のステップで選択された言語モデルを用いて、上記第１のステップで抽出した音声特徴量に対して照合を行い音声認識結果を出力する第３のステップとを備えたことを特徴とする音声認識方法。
【請求項１１】 第２のステップで、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから言語モデルを選択することを特徴とする請求項１０記載の音声認識方法。
【請求項１２】 認識対象音声を入力した音声認識を行い音声認識結果を出力する音声認識方法において、上記認識対象音声を入力し音声特徴量を抽出する第１のステップと、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して生起確率が高い複数の言語モデルを選択する第２のステップと、上記第２のステップで選択された複数の言語モデルを入力して混合言語モデルを生成する第３のステップと、音声の音響的な観測値系列の確率を求める音響モデルと、上記第３のステップで生成された言語モデルを用いて、上記第１のステップで抽出した音声特徴量に対して照合を行い音声認識結果を出力する第４のステップとを備えたことを特徴とする音声認識方法。
【請求項１３】 第２のステップで、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから複数の言語モデルを選択することを特徴とする請求項１２記載の音声認識方法。
【請求項１４】 学習用テキストデータを入力して、単語列の生起確率を求める言語モデルを生成する言語モデル生成プログラムを記録した記録媒体であって、上記学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、木構造学習用テキストデータクラスタを生成する学習用テキストデータ木構造クラスタリング手順と、上記木構造学習用テキストデータクラスタに属する各学習用テキストデータを用いて、木構造クラスタ別言語モデルを生成する言語モデル生成手順とを実現させる言語モデル生成プログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項１５】 木構造クラスタ別言語モデルが位置する木構造の上位に位置する木構造クラスタ別言語モデルを用いて補間処理を行い、補間処理された木構造クラスタ別言語モデルを生成する言語モデル補間手順を実現させる請求項１４記載の言語モデル生成プログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項１６】 認識対象音声を入力して音声認識を行い音声認識結果を出力する音声認識プログラムを記録した記録媒体であって、上記認識対象音声を入力し音声特徴量を抽出する音声特徴量抽出手順と、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して最も生起確率が高い言語モデルを選択する言語モデル選択手順と、音声の音響的な観測値系列の確率を求める音響モデルと、上記言語モデル選択手順により選択された言語モデルを用いて、上記音声特徴量抽出手順により抽出された音声特徴量に対して照合を行い音声認識結果を出力する照合手順とを実現させる音声認識プログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項１７】 言語モデル選択手順が、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから言語モデルを選択することを特徴とする請求項１６記載の音声認識プログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項１８】 認識対象音声を入力して音声認識を行い音声認識結果を出力する音声認識プログラムを記録した記録媒体であって、上記認識対象音声を入力し音声特徴量を抽出する音声特徴量抽出手順と、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して生起確率の高い複数の言語モデルを選択する複数言語モデル選択手順と、上記複数言語モデル選択手順によって選択された複数の言語モデルを入力して混合言語モデルを生成する混合言語モデル生成手順と、音声の音響的な観測値系列の確率を求める音響モデルと、上記混合言語モデル生成手順により生成された言語モデルを用いて、上記音声特徴量抽出手順により抽出された音声特徴量に対して照合を行い音声認識結果を出力する照合手順とを実現させる音声認識プログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項１９】 複数言語モデル選択手順が、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから複数の言語モデルを選択することを特徴とする請求項１８記載の音声認識プログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】【０００１】
【発明の属する技術分野】この発明は、音声認識を行う際に参照する言語モデル生成装置及びこれを用いた音声認識装置、言語モデル生成方法及びこれを用いた音声認識方法、並びに言語モデル生成プログラムを記録したコンピュータ読み取り可能な記録媒体及び音声認識プログラムを記録したコンピュータ読み取り可能な記録媒体に関するものである。
【０００２】
【従来の技術】近年、使用話者が単語を連続して入力できる連続音声認識技術の実用化検討が盛んに行われている。連続音声認識は、単語の復号列が最大事後確率を持つように、音声の音響的な観測系列に基づいて復号することである。これは次の（１）式で表される。
【数１】

ここで、Ｏは音声の音響的な観測値系列［ｏ1 ，ｏ2 ，ｏ3 ，．．．，ｏT ］であり、Ｗは単語列［ｗ1 ，ｗ2 ，ｗ3 ，．．．，ｗn ］である。Ｐ（Ｏ｜Ｗ）は単語列Ｗが与えられたときの観測値系列Ｏに対する確率であり、音響モデルによって計算するものである。Ｐ（Ｗ）は単語列Ｗの生起確率（出現確率）であり、言語モデルによって計算するものである。
【０００３】音声認識については、森北出版（株）から出版されている古井貞煕著の「音声情報処理」（以降、文献１とする）、電子情報通信学会から出版されている中川聖一著の「確率モデルによる音声認識」（以降、文献２とする）、ＮＴＴアドバンステクノロジ（株）から出版されているＬａｗｒｅｎｃｅ Ｒａｂｉｎｅｒ、Ｂｉｉｎｇ−Ｈｗａｎｇ Ｊｕａｎｇ著、古井貞煕監訳の「音声認識の基礎（上、下）」（以降、文献３とする）に詳しく説明されている。
【０００４】音響モデルによって計算するＰ（Ｏ｜Ｗ）は、最近は統計的手法である隠れマルコフモデル（ＨＭＭ）を用いる検討が盛んである。隠れマルコフモデルを用いた音響モデルは、例えば文献３の６章に詳しく述べられている。
【０００５】また、言語モデルによって計算するＰ（Ｗ）は統計的な手法を用いることが多く、代表的なものにＮ−ｇｒａｍモデルがある（Ｎは２以上）。これらについては、東京大学出版会から出版されている北研二著の「確率的言語モデル」（以下文献４とする）の３章において詳しく説明されている。Ｎ−ｇｒａｍモデルは、直前の（Ｎ−１）個の単語から次の単語への遷移確率を統計的に与えるものである。Ｎ−ｇｒａｍモデルによる単語列ｗL 1 ＝ｗ1 ．．．ｗL の生起確率は、次の（２）式によって与えられる。
【数２】

【０００６】上記（２）式において、確率Ｐ（ｗt ｜ｗt+1-N t-1 ）は（Ｎ−１）個の単語からなる単語列ｗt+1-N t-1 の後に単語ｗt が生起する確率であり、Πは積を表している。例えば、「私・は・駅・へ・行く」（・は単語の区切りを表す）といった単語列の生起確率を２−ｇｒａｍ（バイグラム）で求める場合は、次の（３）式のようになる。（３）式において、＃は文頭、文末を表す記号である。
Ｐ（私・は・駅・へ・行く）＝ Ｐ（私｜＃）Ｐ（は｜私）Ｐ（駅｜は）Ｐ（へ｜駅）Ｐ（行く｜へ）
Ｐ（＃｜行く） （３）
【０００７】確率Ｐ（ｗt ｜ｗt+1-N t-1 ）は学習用テキストデータの単語列の相対頻度によって求められる。単語列Ｗの学習用テキストデータにおける出現頻度をＣ（Ｗ）とすれば、例えば、「私・は」の２−ｇｒａｍ確率Ｐ（は｜私）は、次の（４）式によって計算される。（４）式において、Ｃ（私・は）は単語列「私・は」の出現頻度、Ｃ（私）は「私」の出現頻度である。
Ｐ（は｜私）＝Ｃ（私・は）／Ｃ（私） （４）
【０００８】しかしながら、Ｎ−ｇｒａｍモデルの確率値を単純に相対頻度によって推定すると、学習用テキストデータ中に出現しない単語組を０にしてしまうという大きな欠点がある（ゼロ頻度問題）。また、例え学習用テキストデータ中に出現したとしても出現頻度の小さな単語列に対しては、統計的に信頼性のある確率値を推定するのが難しい（スパースネスの問題）。これらの問題に対処するために、通常はスムージングあるいは平滑化と呼ばれる手法を用いる。スムージングについては、上記文献４の３．３章にいくつかの手法が述べられているので、ここでは、具体的な説明は省略する。
【０００９】言語モデルの学習には、音声認識の対象とする分野や場面・状況の文を学習用テキストデータとして用いるが、実際のアプリケーションでは、音声認識の対象がさまざまな分野や、さまざまな場面・状況の音声である場合が多い。単語列の生起確率は分野、場面・状況が違うと異なった確率となるので、分野、場面・状況の異なりを無視して学習用テキストデータを一括して学習して言語モデルを生成した場合は、言語モデルの精度は良くない。
【００１０】このような、さまざまな分野や、さまざまな場面・状況を音声認識の対象とした音声認識装置の性能を上げるために、言語モデルの学習用テキストデータをクラスタリングして、分割されたクラスタ毎に言語モデルを作成する方法が検討されている。従来技術としては、例えば、公開特許公報２０００−７５８８６号の「統計的言語モデル生成装置及び音声認識装置」（以降、文献５とする）がある。ここで、クラスタとは、例えばクラスタ１が政治、クラスタ２がスポーツといった分野別の分割や、文の距離を定義して文をクラスタリングして得ることができる。
【００１１】学習用テキストデータをクラスタに分割した場合には、クラスタ当たりの学習用テキストデータは少なくなるので、更に前述のゼロ頻度問題やスパースネスの問題が大きくなる。これに対して文献５では、クラスタに分割しない全学習用テキストデータを用いて推定した言語モデルＬＭa と、クラスタに分割された学習用テキストデータを用いて推定したクラスタ別の言語モデルＬＭck（ｋはクラスタ番号）を用いて、最大事後確率推定法によってＬＭmapkを推定することで精度の高い言語モデルを得ている。
【００１２】図１３は文献５に記述されている従来の言語モデル生成装置の構成を示すブロック図である。図において、１００１は言語モデルの学習用テキストデータ、１００２は学習用テキストデータクラスタリング手段、１００３は学習用テキストデータクラスタ、１００３−１〜１００３−Ｍはクラスタ１〜Ｍの学習用テキストデータ、１００４は言語モデル生成手段、１００５はクラスタ別言語モデル、１００５−１〜１００５−Ｍはクラスタ１〜Ｍの言語モデルである。
【００１３】次に動作について説明する。学習用テキストデータ１００１は、言語モデルを学習するためのテキストデータであり、音声認識装置が認識対象とする単語や文を文字にしたものである。この学習用テキストデータ１００１は、学習用テキストデータクラスタリング手段１００２へ入力される。
【００１４】学習用テキストデータクラスタリング手段１００２は、学習用テキストデータ１００１をクラスタリングする。文献５では、ｋ−ｍｅａｎｓ法に類似した方法を用いてテキストを文単位でクラスタリングしている。通常のｋ−ｍｅａｎｓ法と異なる点は、（１）クラスタ中心ベクトルを、そのクラスタに属する文で生成される言語モデルとすること、（２）距離尺度に文の生成確率を用いていることである。また、言語モデルにはＮ−ｇｒａｍモデルを用いている。
【００１５】学習用テキストデータクラスタ１００３は、学習用テキストデータクラスタリング手段１００２によって、Ｍ個のクラスタにクラスタリングされたクラスタ１の学習用テキストデータ１００３−１〜クラスタＭの学習用テキストデータ１００３−Ｍで構成されている。
【００１６】言語モデル生成手段１００４は、学習用テキストデータクラスタリング手段１００２によって得られたクラスタ１の学習用テキストデータ１００３−１〜クラスタＭの学習用テキストデータ１００３−Ｍをそれぞれ入力して、クラスタ１の言語モデル１００５−１〜クラスタＭの言語モデル１００５−Ｍで構成するクラスタ別言語モデル１００５を生成する。言語モデル生成手段１００４は、クラスタ毎の学習用テキストデータ数の減少による言語モデルの推定精度の低下を防ぐために、クラスタ分割しない全学習用テキストデータを用いて推定した言語モデルＬＭａと、クラスタに分割された学習用テキストデータを用いて推定したクラスタ別の言語モデルＬＭckを用いて、最大事後確率推定法によってクラスタ別の言語モデルＬＭmapkを推定している。
【００１７】次に上記言語モデル生成装置を用いた従来の音声認識装置の説明を行う。図１４は文献５に開示された従来の音声認識装置の構成を示すブロック図である。図において、１１０１は認識対象音声、１１０２は音声特徴量抽出手段、１１０３は音響モデル、１１０４は言語モデル選択手段、１１０５は照合手段、１１０６は音声認識結果である。クラスタ別言語モデル１００５は、図１３と同一の機能ブロックであり、同一の符号を付すと共に説明は省略する。
【００１８】次に動作について説明する。認識対象音声１１０１は認識対象とする音声であり、音声特徴量抽出手段１１０２へ入力される。音声特徴量抽出手段１１０２は、認識対象音声１１０１に含まれている音声特徴量を抽出する。音響モデル１１０３は音声の音響的な照合を行うためのモデルである。音響モデル１１０３は、例えば、多数の話者が発声した文や単語の音声を用いて学習した、前後音素環境を考慮した音素を認識ユニットとしたＨＭＭを用いる。
【００１９】言語モデル選択手段１１０４は、言語モデル生成装置を用いて生成したクラスタ１の言語モデル１００５−１〜クラスタＭの言語モデル１００５−Ｍで構成されるクラスタ別言語モデル１００５の中から、照合手段１１０５で用いる言語モデルを選択する。文献５では、クラスタに分割する前の不特定言語モデルを用いて照合を行い、得られた認識結果候補の単語列に対して、最も生起確率が高いクラスタ別言語モデルを、クラスタ１の言語モデル１００５−１〜クラスタＭの言語モデル１００５−Ｍから１つ選択している。
【００２０】照合手段１１０５は、言語モデル選択手段１１０４によって選択された言語モデルが設定している認識対象の単語［Ｗ（１），Ｗ（２），・・・，Ｗ（ｗｎ）］（ｗｎは認識対象とする単語数）の発音表記を認識ユニットラベル表記に変換し、このラベルにしたがって、音響モデル１１０３に格納されている音素単位のＨＭＭを連結し、認識対象単語の標準パターン［λW(1)，λW(2)，．．．，λW(wn)］を作成する。
【００２１】そして、照合手段１１０５は、認識対象単語の標準パターンと選択された言語モデルによって表される単語列の生起確率を用いて、音声特徴量分析手段１１０２の出力である音声特徴量に対して照合を行い、音声認識結果１１０６を出力する。音声認識結果１１０６は、認識対象音声１１０１に対して、認識対象単語で最も照合スコアが高い単語の単語番号系列Ｒｎ＝［ｒ（１），ｒ（２），．．．，ｒ（ｍ）］を計算し、単語番号に対応する単語Ｒｗ＝［Ｗ（ｒ（１）），Ｗ（ｒ（２）），．．．，Ｗ（ｒ（ｍ））］を出力する。ここで、ｒ（ｉ）は音声認識結果１１０６の単語系列のｉ番目の単語の単語番号を示す。また、ｍは認識単語系列の単語数を示す。
【００２２】
【発明が解決しようとする課題】従来の言語モデル生成装置は以上のように構成されているので、クラスタリングによって分割するクラスタ数が多くなると、クラスタ当たりの学習用テキストデータ数が少なくなり、言語モデルの推定精度が悪くなるので音声認識精度が高くならないという課題があった。
【００２３】また、分割するクラスタ数が多くなると、１発声が複数のクラスタの言語性質を持つような場合、認識率が高くならないという課題があった。
【００２４】この発明は、上記のような課題を解決するためになされたものであり、推定精度の高い言語モデルを作成できる言語モデル生成装置、言語モデル生成方法及び言語モデル生成プログラムを記録したコンピュータ読み取り可能な記録媒体を得ることを目的とする。
【００２５】また、この発明は、推定精度の高い言語モデルを用いて、音声認識精度の高い音声認識装置、音声認識方法及び音声認識プログラムを記録したコンピュータ読み取り可能な記録媒体を得ることを目的とする。
【００２６】
【課題を解決するための手段】この発明に係る言語モデル生成装置は、学習用テキストデータを入力して、単語列の生起確率を求める言語モデルを生成するものにおいて、上記学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、木構造学習用テキストデータクラスタを生成する学習用テキストデータ木構造クラスタリング手段と、上記木構造学習用テキストデータクラスタに属する各学習用テキストデータを用いて、木構造クラスタ別言語モデルを生成する言語モデル生成手段とを備えたものである。
【００２７】この発明に係る言語モデル生成装置は、木構造クラスタ別言語モデルが位置する木構造の上位に位置する木構造クラスタ別言語モデルを用いて補間処理を行い、補間処理された木構造クラスタ別言語モデルを生成する言語モデル補間手段を備えたものである。
【００２８】この発明に係る音声認識装置は、認識対象音声を入力して音声認識を行い音声認識結果を出力するものにおいて、上記認識対象音声を入力し音声特徴量を抽出する音声特徴量抽出手段と、音声の音響的な観測値系列の確率を求める音響モデルと、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルと、上記木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して最も生起確率が高い言語モデルを選択する言語モデル選択手段と、上記言語モデル選択手段により選択された言語モデルと上記音響モデルを用いて、上記音声特徴量抽出手段が抽出した音声特徴量に対して照合を行い音声認識結果を出力する照合手段とを備えたものである。
【００２９】この発明に係る音声認識装置は、言語モデル選択手段が、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから言語モデルを選択するものである。
【００３０】この発明に係る音声認識装置は、認識対象音声を入力して音声認識を行い音声認識結果を出力するものにおいて、上記認識対象音声を入力し音声特徴量を抽出する音声特徴量抽出手段と、音声の音響的な観測値系列の確率を求める音響モデルと、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルと、上記木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して生起確率の高い複数の言語モデルを選択する複数言語モデル選択手段と、上記複数言語モデル選択手段によって選択された複数の言語モデルを入力して混合言語モデルを生成する混合言語モデル生成手段と、上記混合言語モデル生成手段により生成された言語モデルと上記音響モデルを用いて、上記音声特徴量抽出手段が抽出した音声特徴量に対して照合を行い音声認識結果を出力する照合手段とを備えたものである。
【００３１】この発明に係る音声認識装置は、複数言語モデル選択手段が、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから複数の言語モデルを選択するものである。
【００３２】この発明に係る音声認識装置は、木構造クラスタ別言語モデルが、木構造の上位に位置する木構造クラスタ別言語モデルを用いて補間処理が行われた補間処理された木構造クラスタ別言語モデルであることを特徴とするものである。
【００３３】この発明に係る言語モデル生成方法は、学習用テキストデータを入力して、単語列の生起確率を求める言語モデルを生成するものにおいて、上記学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、木構造学習用テキストデータクラスタを生成する第１のステップと、上記木構造学習用テキストデータクラスタに属する各学習用テキストデータを用いて、木構造クラスタ別言語モデルを生成する第２のステップとを備えたものである。
【００３４】この発明に係る言語モデル生成方法は、木構造クラスタ別言語モデルが位置する木構造の上位に位置する木構造クラスタ別言語モデルを用いて補間処理を行い、補間処理された木構造クラスタ別言語モデルを生成する第３のステップを備えたものである。
【００３５】この発明に係る音声認識方法は、認識対象音声を入力して音声認識を行い音声認識結果を出力するものにおいて、上記認識対象音声を入力し音声特徴量を抽出する第１のステップと、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して最も生起確率が高い言語モデルを選択する第２のステップと、音声の音響的な観測値系列の確率を求める音響モデルと、上記第２のステップで選択された言語モデルを用いて、上記第１のステップで抽出した音声特徴量に対して照合を行い音声認識結果を出力する第３のステップとを備えたものである。
【００３６】この発明に係る音声認識方法は、第２のステップで、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから言語モデルを選択するものである。
【００３７】この発明に係る音声認識方法は、認識対象音声を入力した音声認識を行い音声認識結果を出力するものにおいて、上記認識対象音声を入力し音声特徴量を抽出する第１のステップと、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して生起確率が高い複数の言語モデルを選択する第２のステップと、上記第２のステップで選択された複数の言語モデルを入力して混合言語モデルを生成する第３のステップと、音声の音響的な観測値系列の確率を求める音響モデルと、上記第３のステップで生成された言語モデルを用いて、上記第１のステップで抽出した音声特徴量に対して照合を行い音声認識結果を出力する第４のステップとを備えたものである。
【００３８】この発明に係る音声認識方法は、第２のステップで、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから複数の言語モデルを選択するものである。
【００３９】この発明に係る言語モデル生成プログラムを記録したコンピュータ読み取り可能な記録媒体は、学習用テキストデータを入力して、単語列の生起確率を求める言語モデルを生成するものであって、上記学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、木構造学習用テキストデータクラスタを生成する学習用テキストデータ木構造クラスタリング手順と、上記木構造学習用テキストデータクラスタに属する各学習用テキストデータを用いて、木構造クラスタ別言語モデルを生成する言語モデル生成手順とを実現させるものである。
【００４０】この発明に係る言語モデル生成プログラムを記録したコンピュータ読み取り可能な記録媒体は、木構造クラスタ別言語モデルが位置する木構造の上位に位置する木構造クラスタ別言語モデルを用いて補間処理を行い、補間処理された木構造クラスタ別言語モデルを生成する言語モデル補間手順を実現させるものである。
【００４１】この発明に係る音声認識プログラムを記録したコンピュータ読み取り可能な記録媒体は、認識対象音声を入力して音声認識を行い音声認識結果を出力するもので、上記認識対象音声を入力し音声特徴量を抽出する音声特徴量抽出手順と、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して最も生起確率が高い言語モデルを選択する言語モデル選択手順と、音声の音響的な観測値系列の確率を求める音響モデルと、上記言語モデル選択手順により選択された言語モデルを用いて、上記音声特徴量抽出手順により抽出された音声特徴量に対して照合を行い音声認識結果を出力する照合手順とを実現させるものである。
【００４２】この発明に係る音声認識プログラムを記録したコンピュータ読み取り可能な記録媒体は、言語モデル選択手順が、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから言語モデルを選択するものである。
【００４３】この発明に係る音声認識プログラムを記録したコンピュータ読み取り可能な記録媒体は、認識対象音声を入力して音声認識を行い音声認識結果を出力するものであって、上記認識対象音声を入力し音声特徴量を抽出する音声特徴量抽出手順と、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して生起確率の高い複数の言語モデルを選択する複数言語モデル選択手順と、上記複数言語モデル選択手順によって選択された複数の言語モデルを入力して混合言語モデルを生成する混合言語モデル生成手順と、音声の音響的な観測値系列の確率を求める音響モデルと、上記混合言語モデル生成手順により生成された言語モデルを用いて、上記音声特徴量抽出手順により抽出された音声特徴量に対して照合を行い音声認識結果を出力する照合手順とを実現させるものである。
【００４４】この発明に係る音声認識プログラムを記録したコンピュータ読み取り可能な記録媒体は、複数言語モデル選択手順が、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから複数の言語モデルを選択するものである。
【００４５】
【発明の実施の形態】以下、この発明の一形態を説明する。
実施の形態１．図１はこの発明の実施の形態１による言語モデル生成装置の構成を示すブロック図である。図において、２００１は学習用テキストデータ木構造クラスタリング手段、２００２は木構造学習用テキストデータクラスタ、２００２−１〜２００２−Ｍは木構造クラスタ１〜Ｍの学習用テキストデータ、２００３は木構造クラスタ別言語モデル、２００３−１〜２００３−Ｍは木構造クラスタ１〜Ｍの言語モデルである。従来の言語モデル生成装置の構成を示す図１３と同一の機能ブロックについては、同一の符号を付し説明を省略する。
【００４６】なお、言語モデルの学習用テキストデータ１００１は、音声認識の認識対象とする分野や場面・状況において用いられる単語や文を文字化したものである。例えば、アナウンサーが発声する政治のニュースを音声認識対象とした場合は、新聞の政治欄の記事や、政治の放送ニュースの発声内容を文字として書き起こしたテキストデータである。
【００４７】次に動作について説明する。図２はこの発明の実施の形態１による言語モデル生成装置における言語モデル生成方法を示すフローチャートである。学習用テキストデータ木構造クラスタリング手段２００１は、ステップＳＴ１０１において、学習用テキストデータ１００１を入力し、ステップＳＴ１０２において、クラスタリングの階層Ｉを０とし、ステップＳＴ１０３において、初めに学習用テキストデータ１００１の全てに対してクラスタリングを行う。この学習用テキストデータ１００１全てに対するクラスタリングを、階層０のクラスタリングとする。
【００４８】ここで、クラスタリングとは、人手で２つ以上の分野に分けることや、文献５に示してあるｋ−ｍｅａｎｓアルゴリズムに類似した方法を用いて、学習用テキストデータを２つ以上の集合に分割することである。クラスタリングによって得られるクラスタに属する学習用テキストデータは、言語的に類似した性質を持つものとなる。
【００４９】図３は学習用テキストデータ木構造クラスタリング手段２００１で行われる学習用テキストデータ木構造クラスタリングの説明図であり、文を単位として階層的にクラスタリングしている様子を示したものである。図３では、階層０の木構造クラスタ００のクラスタリングにより、学習用テキストデータ１００１全てを２つのクラスタに分割している。分割された学習用テキストデータの集合は、階層１の木構造クラスタ１０と木構造クラスタ１１となっている。
【００５０】図２のステップＳＴ１０４において、学習用テキストデータ木構造クラスタリング手段２００１は、階層Ｉをインクリメントし、ステップＳＴ１０５において、学習用テキストデータ木構造クラスタリング手段２００１は、階層Ｉ−１（ここでは、Ｉ＝０）でクラスタリングされた各クラスタに属する学習用テキストデータに対してクラスタリングを行う。図３では、階層１のクラスタリングにより、階層１の木構造クラスタ１０から階層２の木構造クラスタ２０と木構造クラスタ２１を生成し、木構造クラスタ１１から階層２の木構造クラスタ２２と木構造クラスタ２３を生成している。
【００５１】ステップＳＴ１０６において、クラスタ数が予め定めた数Ｍになったかを調べて、予め定めた数Ｍにならない場合には、ステップＳＴ１０４に戻り、階層Ｉをインクリメントし、ステップＳＴ１０５のクラスタリングの処理を繰り返す。以上の処理をクラスタ数が予め定めた数Ｍになるまで繰り返して、木構造クラスタ１の学習用テキストデータ２００２−１〜木構造クラスタＭの学習用テキストデータ２００２−Ｍを生成する。
【００５２】予め定めたクラスタ数まで学習用テキストデータの木構造クラスタリングを行った後に、ステップＳＴ１０７において、言語モデル生成手段１００４は、クラスタリングされた木構造クラスタ別に、各クラスタに属する学習用テキストデータを用いて言語モデルの生成を行い、木構造クラスタ１の言語モデル２００３−１〜木構造クラスタＭの言語モデル２００３−Ｍで構成される木構造クラスタ別言語モデル２００３を生成する。
【００５３】上記ステップＳＴ１０６において、階層的な学習用テキストデータのクラスタリングを、予め定めたクラスタ数Ｍになるまで繰り返す。ここでは、クラスタ数をクラスタリングの終了の基準にしているが、階層数を基準としても、クラスタ内の学習用テキストデータ数がある値以下であるならば、クラスタリングを終了するとしても良い。階層的なクラスタリングによって得られるクラスタは、階層が下になるほどクラスタに属する学習テキストデータの性質は分野や場面・状況の違いをよく表現している。
【００５４】図４は木構造クラスタ別の言語モデル生成の説明図である。図４では木構造のノードが学習用テキストデータの木構造クラスタを表しており、各木構造クラスタ毎にそこに属する学習用テキストデータを用いて言語モデルの生成を行う。木構造の親ノードの木構造クラスタは、子ノードの木構造クラスタに属する学習用テキストデータ全てを含むものとなっている。図４では、例えば、木構造クラスタ００に属する学習用テキストデータを用いて生成した言語モデルが、木構造クラスタ００の言語モデルＬＭ００，木構造クラスタ１０に属する学習用テキストデータを用いて生成した言語モデルが、木構造クラスタ１０の言語モデルＬＭ１０にそれぞれ対応している。
【００５５】生成される言語モデルの性質は、下層の木構造クラスタの言語モデルへいくほど、分野や場面・状況の違いによる言語の性質の違いを、より表現した言語モデルとなる。また、上層の木構造クラスタの言語モデルは、分野や場面・状況の違いによる言語の性質の違いは細かく表していないが、複数の分野や場面・状況の言語特徴を含んでいるので、発声が複数の分野や場面・状況を含んでいる場合には、有効な言語モデルとなっている。さらに、上層の木構造クラスタの言語モデルは学習テキストデータが多いので、木構造クラスタと同数のクラスタ数に一度に分割した場合に比べてパラメータ推定精度が高い。
【００５６】言語モデルの生成の具体的方法は、文献４の３章から５章に述べられている、Ｎ−ｇｒａｍモデル、隠れマルコフモデル、確率文脈自由文法等である。
【００５７】また、この実施の形態１における言語モデル生成方法を言語モデル生成プログラムとして記録媒体に記録することもできる。この場合には、学習用テキストデータ木構造クラスタリング手段２００１と同様の処理を実現する学習用テキストデータ木構造クラスタリング手順と、言語モデル生成手段１００４と同様の処理を実現する言語モデル生成手順とから構成される言語モデル生成プログラムを記録媒体に記録する。
【００５８】以上のように、この実施の形態１の言語モデル生成装置及び言語モデル生成方法によれば、学習用テキストデータを階層的に木構造クラスタリングし、各木構造クラスタに属する学習用テキストデータを用いて、木構造クラスタ別言語モデルを生成するので、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、認識率の高い言語モデルが生成できる効果が得られる。また、認識対象の１発声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した言語モデルが存在するので、認識率の高い言語モデルが生成できる効果が得られる。
【００５９】実施の形態２．図５はこの発明の実施の形態２による言語モデル生成装置の構成を示すブロック図である。図において、３００１は言語モデル補間手段、３００２は補間処理された木構造クラスタ別言語モデル、３００２−１〜３００２−Ｍは補間処理された木構造クラスタ１〜Ｍの言語モデルである。実施の形態１の図１と同一の機能ブロックについては、同一の符号を付し説明を省略する。
【００６０】次に動作について説明する。図６はこの発明の実施の形態２による言語モデル生成装置における言語モデル生成方法を示すフローチャートである。ステップＳＴ２０１からステップＳＴ２０７までの処理は、実施の形態１の図２におけるステップＳＴ１０１からステップＳＴ１０７までの処理と同一である。
【００６１】ステップＳＴ２０８において、言語モデル補間手段３００１は、言語モデル生成手段１００４によって生成された木構造クラスタ別言語モデルである木構造クラスタ１の言語モデル２００３−１〜木構造クラスタＭの言語モデル２００３−Ｍを入力し、補間処理された木構造クラスタ１の言語モデル３００２−１〜補間処理された木構造クラスタＭの言語モデル３００２−Ｍを生成する。このときの補間処理は、補間対象のクラスタ言語モデルが位置する木構造のノードの親ノードの木構造クラスタの言語モデルを用いて補間処理を行う。
【００６２】図４の例では、木構造クラスタ２０の言語モデルＬＭ２０を補間する場合は、親ノードである木構造クラスタ１０の言語モデルＬＭ１０と、更に上層の親ノードである木構造クラスタ００の言語モデルＬＭ００とを用いて補間する。この補間処理において、例えば言語モデルがＮ−ｇｒａｍモデルである場合には、単語列ｗn+1-Nn-1に続いてｗn が生起する確率がパラメータであり、次の（５）式によって求める。
【数３】

【００６３】上記（５）式において、Ｐ’s （ｗn ｜ｗn+1-Nn-1）は補間処理された木構造クラスタＳの言語モデルにおける単語列ｗn+1-Nn-1に続いてｗn が生起する確率、Ωは木構造クラスタＳとその親ノードのクラスタ番号の集合、Ｐi （ｗn ｜ｗn+1-Nn-1）は木構造クラスタｉの言語モデルにおける単語列ｗn+1-Nn-1に続いてｗn が生起する確率、αi は重み係数である。このαi は、例えば、文献４の３章に述べられている削除補間法によって推定可能である。
【００６４】この説明では、Ｐi （ｗn ｜ｗn+1-Nn-1）は補間する前の生起確率としたが、木構造の上層から補間し、補間処理された生起確率Ｐ’i （ｗn ｜ｗn+1-Nn-1）を用いても良い。木構造クラスタでは、下層のクラスタは学習用テキストデータが少量であるので、言語モデル生成において、ゼロ頻度問題やスパースネスの問題が生じやすいが、このように、学習用テキストデータ数が多い親ノードのクラスタの言語モデルを用いて、パラメータすなわち単語列ｗn+1-Nn-1に続いてｗnが生起する確率の補間処理を行うので、言語モデル推定精度が高くなる。
【００６５】また、実施の形態２における言語モデル生成方法を言語モデル生成プログラムとして記録媒体に記録することもできる。この場合には、学習用テキストデータ木構造クラスタリング手段２００１と同様の処理を実現する学習用テキストデータ木構造クラスタリング手順と、言語モデル生成手段１００４と同様の処理を実現する言語モデル生成手順と、言語モデル補間手段３００１と同様の処理を実現する言語モデル補間手順とから構成される言語モデル生成プログラムを記録媒体に記録する。
【００６６】以上のように、この実施の形態２の言語モデル生成装置及び言語モデル生成方法によれば、学習用テキストデータを階層的に木構造クラスタリングし、各木構造クラスタに属する学習用テキストデータを用いて木構造クラスタ別言語モデルを生成し、生成されたクラスタ言語モデルを木構造の親ノードのクラスタ言語モデルを用いて補間するので、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、さらに認識率の高い言語モデルを生成できるという効果が得られる。
【００６７】また、認識対象の１発声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した言語モデルが存在するので、認識率の高い言語モデルが生成できるという効果が得られる。
【００６８】実施の形態３．図７はこの発明の実施の形態３による音声認識装置の構成を示すブロック図である。図において、実施の形態１の図１，及び従来の音声認識装置の図１４と同一の機能ブロックについては、同一の符号を付し説明を省略する。
【００６９】次に動作について説明する。図８はこの発明の実施の形態３による音声認識装置における音声認識方法を示すフローチャートである。音声特徴量抽出手段１１０２は、ステップＳＴ３０１において認識対象音声１１０１を入力し、ステップＳＴ３０２において音声特徴量を抽出する。ここで、音声特徴量とは少ない情報量で音声の特徴を表すものであり、例えば、文献１の５章で述べているようなケプストラム、ケプストラムの動的特徴で構成する特徴ベクトルである。
【００７０】ステップＳＴ３０３において、言語モデル選択手段１１０４は、照合手段１１０５で用いる言語モデルを、木構造クラスタ別言語モデル２００３の木構造クラスタ１の言語モデル２００３−１〜木構造クラスタＭの言語モデル２００３−Ｍから１つ選択する。言語モデルの選択は、例えば文献５に示されている方法を用い、最も生起確率が高い木構造クラスタの言語モデルを選択する。
【００７１】ステップＳＴ３０４において、照合手段１１０５は、言語モデル選択手段１１０４によって選択された木構造クラスタ言語モデルと、音響モデル１１０３を入力して認識対象音声１１０１の音声特徴量に対して照合を行い、最も尤度（照合スコア）が高い単語列を音声認識結果１１０６として出力する。
【００７２】この場合の照合処理を具体的に説明する。照合手段１１０５は、言語モデル選択手段１１０４によって選択された木構造クラスタ言語モデルが設定している認識対象の単語［Ｗ（１），Ｗ（２），．．．，Ｗ（ｗｎ）］（ｗｎは認識対象とする単語数）の発音表記を、認識ユニットラベル表記に変換し、このラベルにしたがって、音響モデル１１０３に格納されている音素ユニットのＨＭＭを連結し、認識対象単語の標準パターン［λW(1)，λW(2)，．．．，λW(wn)］を作成する。
【００７３】そして、照合手段１１０５は、認識対象単語標準パターンと選択された木構造クラスタ言語モデルによって表される単語列の生起確率を用いて、音声特徴量分析手段１１０２の出力である音声特徴量に対して照合を行い、音声認識結果１１０６を出力する。音声認識結果１１０６は、認識対象音声に対して認識対象単語で最も尤度が高い単語の単語番号系列Ｒｎ＝［ｒ（１），ｒ（２），．．．，ｒ（ｍ）］を計算し、単語番号に対応する単語Ｒｗ＝［Ｗ（ｒ（１）），Ｗ（ｒ（２）），．．．，Ｗ（ｒ（ｍ））］を出力する。ここで、ｒ（ｉ）は音声認識結果の単語系列のｉ番目の単語の単語番号を示し、ｍは認識単語系列の単語数を示す。
【００７４】以上は、選択対象の木構造クラスタ別言語モデルを、実施の形態１で生成した木構造クラスタ１の言語モデル２００３−１〜木構造クラスタＭの言語モデル２００３−Ｍとして説明したが、実施の形態２で生成した補間処理された木構造クラスタ１の言語モデル３００２−１〜補間処理された木構造クラスタＭの言語モデル３００２−Ｍとしても良い。
【００７５】また、実施の形態３における音声認識方法を音声認識プログラムとして記録媒体に記録することもできる。この場合には、実施の形態１の言語モデル生成プログラムに加えて、音声特徴量抽出手段１１０２と同様の処理を実現する音声特徴量抽出手順と、言語モデル選択手段１１０４と同様の処理を実現する言語モデル選択手順と、照合手段１１０５と同様の処理を実現する照合手順を含む音声認識プログラムを記録媒体に記録する。
【００７６】以上のように、この実施の形態３における音声認識装置及び音声認識方法によれば、学習用テキストデータ１００１を階層的に木構造クラスタリングし、各木構造クラスタに属する学習用テキストデータ２００２−１〜２００２−Ｍを用いて、木構造クラスタ別言語モデル２００３−１〜２００３−Ｍを生成するので、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、この木構造クラスタ別言語モデル２００３から言語モデルを選択して音声認識を行うので、認識精度が高い音声認識ができるという効果が得られる。
【００７７】また、認識対象の音声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した木構造クラスタ言語モデルを選択し音声認識を行うので、認識性能が高い音声認識ができる効果が得られる。
【００７８】実施の形態４．図９はこの発明の実施の形態４による音声認識装置の構成を示すブロック図である。図において、５００１は複数言語モデル選択手段、５００２は混合言語モデル生成手段である。実施の形態３の図７と同一の機能ブロックについては、同一の符号を付し説明を省略する。
【００７９】次に動作について説明する。図１０はこの発明の実施の形態４による音声認識装置における音声認識方法を示すフローチャートである。ステップＳＴ４０１及びステップＳＴ４０２の処理は、実施の形態３における図８のステップＳＴ３０１及びステップＳＴ３０２の処理と同一である。
【００８０】ステップＳＴ４０３において、複数言語モデル選択手段５００１は、木構造クラスタ１の言語モデル２００３−１〜木構造クラスタＭの言語モデル２００３−Ｍから２つ以上（Ｋ個以下）の木構造クラスタの言語モデルを選択する。言語モデルの選択は、例えば文献５に示されている方法を拡張し、生起確率が高い順からＫ個の言語モデルを選択する方法を用いる。
【００８１】ステップＳＴ４０４において、混合言語モデル生成手段５００２は、複数言語モデル選択手段５００１によって選択された複数の木構造クラスタ言語モデルを入力し、１つの混合言語モデルを生成する。混合モデルは、例えばＮ−ｇｒａｍモデルであるならば、次の（６）式によって生起確率を計算する。
【数４】

【００８２】上記（６）式において、Ｐm （ｗn ｜ｗn+1-Nn-1）は混合言語モデルの生起確率であり、Ψは複数言語モデル選択手段５００１によって選択された木構造クラスタ言語モデルの番号の集合、Ｐi （ｗn ｜ｗn+1-Nn-1）は選択された言語モデルの生起確率であり、βi は重み係数である。ここでβi については、例えば文献５に示されている言語モデル選択時の生起確率にしたがって、生起確率が高い言語モデルはβi が大きくなるように設定する。
【００８３】ステップＳＴ４０５において、照合手段１１０５は、混合言語モデル生成手段５００２によって生成された混合言語モデルと、音響モデル１１０３を入力し、認識対象音声１１０１の音声特徴量に対して照合を行い、最も尤度が高い単語列を音声認識結果１１０６として出力する。
【００８４】以上は、選択対象の木構造クラスタ言語モデルを、実施の形態１で生成した木構造クラスタ１の言語モデル２００３−１〜木構造クラスタＭの言語モデル２００３−Ｍとして説明したが、実施の形態２で生成した補間処理された木構造クラスタ１の言語モデル３００２−１〜補間処理された木構造クラスタＭの言語モデル３００２−Ｍとしても良い。
【００８５】また、実施の形態４における音声認識方法を音声認識プログラムとして記録媒体に記録することもできる。この場合には、実施の形態１の言語モデル生成プログラムに加えて、音声特徴量抽出手段１１０２と同様の処理を実現する音声特徴量抽出手順と、照合手段１１０５と同様の処理を実現する照合手順と、複数言語モデル選択手段５００１と同様の処理を実現する複数言語モデル選択手順と、混合言語モデル生成手段５００２と同様の処理を実現する混合言語モデル生成手順とを含む音声認識プログラムを記録媒体に記録する。
【００８６】以上のように、この実施の形態４における音声認識装置及び音声認識方法によれば、学習用テキストデータ１００１を階層的に木構造クラスタリングし、各木構造クラスタの学習用テキストデータ２００２−１〜２００２−Ｍを用いて、木構造クラスタ別言語モデル２００３−１〜２００３−Ｍを生成し、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、この木構造クラスタ別言語モデル２００３から複数選択した木構造クラスタ言語モデルによって混合言語モデルを生成して、音声認識に用いるので、さらに認識精度が高い音声認識ができるという効果が得られる。
【００８７】また、認識対象の１発声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した言語モデルを選択し混合言語モデルを生成して音声認識に用いるので、認識性能が高い音声認識ができる効果が得られる。
【００８８】実施の形態５．図１１はこの発明の実施の形態５による音声認識装置の構成を示すブロック図である。図において、６００１は葉ノードのクラスタ別言語モデル、６００１−１〜６００１−Ｌは葉ノードクラスタ１〜Ｌの言語モデルである。実施の形態３の図７と同一の機能ブロックについては、同一の符号を付し説明を省略する。
【００８９】次に動作について説明する。図１２はこの発明の実施の形態５による音声認識装置における音声認識方法を示すフローチャートである。ステップＳＴ５０１及びステップＳＴ５０２の処理は、実施の形態３における図８のステップＳＴ３０１及びステップＳＴ３０２の処理と同一である。
【００９０】ステップＳＴ５０３において、言語モデル選択手段１１０４は、木構造クラスタの葉ノードクラスタの言語モデルから、照合手段１１０５で用いる言語モデルを、葉ノードクラスタ１の言語モデル６００１−１〜葉ノードクラスタＬの言語モデル６００１−Ｌから１つ選択する。ここで、葉ノードクラスタの言語モデルとは、木構造の最も下層の木構造クラスタの言語モデルである。図４の例では、木構造クラスタ２０の言語モデルＬＭ２０，木構造クラスタ２１の言語モデルＬＭ２１，木構造クラスタ２２の言語モデルＬＭ２２，木構造クラスタ２３の言語モデルＬＭ２３が葉ノードクラスタの言語モデルに相当する。
【００９１】このような葉ノードクラスタの言語モデルは、分野や場面・状況の違いによる言語の性質の違いを詳細に表現するモデルとなっているので、分野や場面・状況が明確に分かれるような認識対象の音声である場合は有効である。また、全ての木構造クラスタ別の言語モデルを用いる場合に比べて、選択対象のクラスタ言語モデルの数が少ないので、省メモリー、演算量削減の効果がある。葉ノードクラスタの言語モデルの選択は、例えば文献５に示されている方法を用い、最も生起確率が高い葉ノードクラスタの言語モデルを選択する。
【００９２】ステップＳＴ５０４において、照合手段１１０５は、言語モデル選択手段１１０４によって選択された葉ノードクラスタの言語モデルと、音響モデル１１０３を入力して、認識対象音声１１０１の音声特徴量に対して照合を行い、最も尤度が高い単語列を音声認識結果１１０６として出力する。
【００９３】以上は、選択対象の葉ノードクラスタの言語モデルを、実施の形態１で生成した木構造クラスタ別言語モデル２００３の葉ノードクラスタの言語モデルとしたが、実施の形態２で生成した補間処理された木構造クラスタ別言語モデル３００２の葉ノードクラスタの言語モデルとしても良い。また、言語モデル選択手段１１０４を複数言語モデル選択手段５００１とし、後段に混合言語モデル生成手段５００２を接続し、混合言語モデルを用いて照合処理を行っても良い。
【００９４】また、実施の形態５における音声認識方法を音声認識プログラムとして記録媒体に記録することもできる。この場合には、実施の形態１の言語モデル生成プログラムに加えて、音声特徴量抽出手段１１０２と同様の処理を実現する音声特徴量抽出手順と、言語モデル選択手段１１０４と同様の処理を実現する言語モデル選択手順と、照合手段１１０５と同様の処理を実現する照合手順を含む音声認識プログラムを記録媒体に記録する。
【００９５】以上のように、この実施の形態５における音声認識装置及び音声認識方法によれば、学習用テキストデータ１００１を階層的に木構造クラスタリングし、各木構造クラスタの学習用テキストデータ２００２−１〜２００２−Ｍを用いて、木構造クラスタ言語モデル２００３を生成するので、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、この木構造クラスタ言語モデル２００３の葉ノードクラスタの言語モデル６００１から選択した言語モデルを音声認識に用いるので、認識精度が高い音声認識ができると共に、言語モデルのメモリ容量を削減でき、言語モデルを選択する際の演算量を削減できるという効果が得られる。
【００９６】また、認識対象の１発声が複数の分野や場面・状況を含む場合であっても、複数の葉ノードクラスタの言語モデルを選択し混合言語モデルを生成すれば、複数の分野や場面・状況の言語特徴を学習した言語モデルを音声認識に用いることになるので、認識性能が高い音声認識ができる効果が得られる。
【００９７】
【発明の効果】以上のように、この発明によれば、言語モデル生成装置が、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、木構造学習用テキストデータクラスタを生成する学習用テキストデータ木構造クラスタリング手段と、木構造学習用テキストデータクラスタに属する各学習用テキストデータを用いて、木構造クラスタ別言語モデルを生成する言語モデル生成手段とを備えたことにより、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、認識率の高い言語モデルが生成できると共に、認識対象の１発声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した言語モデルが存在するので、認識率の高い言語モデルが生成できる効果がある。
【００９８】この発明によれば、言語モデル生成装置が、木構造クラスタ別言語モデルが位置する木構造の上位に位置する木構造クラスタ別言語モデルを用いて補間処理を行い、補間処理された木構造クラスタ別言語モデルを生成する言語モデル補間手段を備えたことにより、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、さらに認識率の高い言語モデルを生成できると共に、認識対象の１発声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した言語モデルが存在するので、認識率の高い言語モデルが生成できるという効果がある。
【００９９】この発明によれば、音声認識装置が、音声特徴量抽出手段と、音響モデルと、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルと、木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して最も生起確率が高い言語モデルを選択する言語モデル選択手段と、選択された言語モデルと音響モデルを用いて、音声特徴量抽出手段が抽出した音声特徴量に対して照合を行い音声認識結果を出力する照合手段とを備えたことにより、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、木構造クラスタ別言語モデルから言語モデルを選択して音声認識を行うので、認識精度が高い音声認識ができると共に、認識対象の音声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した木構造クラスタ言語モデルを選択し音声認識を行うので、認識性能が高い音声認識ができる効果がある。
【０１００】この発明によれば、音声認識装置の言語モデル選択手段が、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから言語モデルを選択することにより、言語モデルのメモリ容量を削減でき、言語モデルを選択する際の演算量を削減できるという効果がある。
【０１０１】この発明によれば、音声認識装置が、音声特徴量抽出手段と、音響モデルと、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルと、木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して生起確率の高い複数の言語モデルを選択する複数言語モデル選択手段と、選択された複数の言語モデルを入力して混合言語モデルを生成する混合言語モデル生成手段と、生成された言語モデルと音響モデルを用いて、音声特徴量抽出手段が抽出した音声特徴量に対して照合を行い音声認識結果を出力する照合手段とを備えたことにより、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、木構造クラスタ別言語モデルから複数選択した木構造クラスタ言語モデルによって混合言語モデルを生成して、音声認識に用いるので、さらに認識精度が高い音声認識ができると共に、認識対象の１発声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した言語モデルを選択し混合言語モデルを生成して音声認識に用いるので、認識性能が高い音声認識ができる効果がある。
【０１０２】この発明によれば、音声認識装置の複数言語モデル選択手段が、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから複数の言語モデルを選択することにより、言語モデルのメモリ容量を削減でき、言語モデルを選択する際の演算量を削減できるという効果がある。
【０１０３】この発明によれば、音声認識装置の木構造クラスタ別言語モデルが、木構造の上位に位置する木構造クラスタ別言語モデルを用いて補間処理が行われた補間処理された木構造クラスタ別言語モデルであることにより、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、さらに認識率の高い言語モデルを生成できると共に、認識対象の１発声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した言語モデルが存在するので、認識率の高い言語モデルが生成できるという効果がある。
【０１０４】この発明によれば、言語モデル生成方法として、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、木構造学習用テキストデータクラスタを生成する第１のステップと、木構造学習用テキストデータクラスタに属する各学習用テキストデータを用いて、木構造クラスタ別言語モデルを生成する第２のステップとを備えたことにより、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、認識率の高い言語モデルが生成できると共に、認識対象の１発声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した言語モデルが存在するので、認識率の高い言語モデルが生成できる効果がある。
【０１０５】この発明によれば、言語モデル生成方法として、木構造クラスタ別言語モデルが位置する木構造の上位に位置する木構造クラスタ別言語モデルを用いて補間処理を行い、補間処理された木構造クラスタ別言語モデルを生成する第３のステップを備えたことにより、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、さらに認識率の高い言語モデルを生成できると共に、認識対象の１発声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した言語モデルが存在するので、認識率の高い言語モデルが生成できるという効果がある。
【０１０６】この発明によれば、音声認識方法として、音声特徴量を抽出する第１のステップと、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して最も生起確率が高い言語モデルを選択する第２のステップと、音響モデルと選択された言語モデルを用いて、音声特徴量に対して照合を行い音声認識結果を出力する第３のステップとを備えたことにより、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、木構造クラスタ別言語モデルから言語モデルを選択して音声認識を行うので、認識精度が高い音声認識ができると共に、認識対象の音声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した木構造クラスタ言語モデルを選択し音声認識を行うので、認識性能が高い音声認識ができる効果がある。
【０１０７】この発明によれば、音声認識方法の第２のステップで、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから言語モデルを選択することにより、言語モデルを選択する際の演算量を削減できるという効果がある。
【０１０８】この発明によれば、音声認識方法として、音声特徴量を抽出する第１のステップと、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して生起確率が高い複数の言語モデルを選択する第２のステップと、選択された複数の言語モデルを入力して混合言語モデルを生成する第３のステップと、音響モデルと生成された言語モデルを用いて、抽出した音声特徴量に対して照合を行い音声認識結果を出力する第４のステップとを備えたことにより、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、木構造クラスタ別言語モデルから複数選択した木構造クラスタ言語モデルによって混合言語モデルを生成して、音声認識に用いるので、さらに認識精度が高い音声認識ができると共に、認識対象の１発声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した言語モデルを選択し混合言語モデルを生成して音声認識に用いるので、認識性能が高い音声認識ができる効果がある。
【０１０９】この発明によれば、音声認識方法の第２のステップで、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから複数の言語モデルを選択することにより、言語モデルを選択する際の演算量を削減できるという効果がある。
【０１１０】この発明によれば、言語モデル生成プログラムを記録した記録媒体で、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、木構造学習用テキストデータクラスタを生成する学習用テキストデータ木構造クラスタリング手順と、木構造学習用テキストデータクラスタに属する各学習用テキストデータを用いて、木構造クラスタ別言語モデルを生成する言語モデル生成手順とを実現させることにより、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、認識率の高い言語モデルが生成できると共に、認識対象の１発声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した言語モデルが存在するので、認識率の高い言語モデルが生成できる効果がある。
【０１１１】この発明によれば、言語モデル生成プログラムを記録した記録媒体で、木構造クラスタ別言語モデルが位置する木構造の上位に位置する木構造クラスタ別言語モデルを用いて補間処理を行い、補間処理された木構造クラスタ別言語モデルを生成する言語モデル補間手順を実現させることにより、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、さらに認識率の高い言語モデルを生成できると共に、認識対象の１発声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した言語モデルが存在するので、認識率の高い言語モデルが生成できるという効果がある。
【０１１２】この発明によれば、音声認識プログラムを記録した記録媒体で、音声特徴量を抽出する音声特徴量抽出手順と、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して最も生起確率が高い言語モデルを選択する言語モデル選択手順と、音響モデルと選択された言語モデルを用いて、抽出された音声特徴量に対して照合を行い音声認識結果を出力する照合手順とを実現させることにより、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、木構造クラスタ別言語モデルから言語モデルを選択して音声認識を行うので、認識精度が高い音声認識ができると共に、認識対象の音声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した木構造クラスタ言語モデルを選択し音声認識を行うので、認識性能が高い音声認識ができる効果がある。
【０１１３】この発明によれば、音声認識プログラムの言語モデル選択手順が、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから言語モデルを選択することにより、言語モデルを選択する際の演算量を削減できるという効果が得られる。
【０１１４】この発明によれば、音声認識プログラムを記録した記録媒体で、音声特徴量を抽出する音声特徴量抽出手順と、学習用テキストデータを言語的に類似した性質を持つように階層的に分割する木構造クラスタリングを行い、各木構造クラスタの学習用テキストデータを用いて生成された木構造クラスタ別言語モデルから、音声認識結果候補の単語列に対して生起確率の高い複数の言語モデルを選択する複数言語モデル選択手順と、選択された複数の言語モデルを入力して混合言語モデルを生成する混合言語モデル生成手順と、音響モデルと、生成された言語モデルを用いて、抽出された音声特徴量に対して照合を行い音声認識結果を出力する照合手順とを実現させることにより、学習用テキストデータが少量であることによって生じる言語モデルのゼロ頻度問題やスパースネスの問題を軽減でき、木構造クラスタ別言語モデルから複数選択した木構造クラスタ言語モデルによって混合言語モデルを生成して、音声認識に用いるので、さらに認識精度が高い音声認識ができると共に、認識対象の１発声が複数の分野や場面・状況を含む場合であっても、複数の分野や場面・状況の言語特徴を学習した言語モデルを選択し混合言語モデルを生成して音声認識に用いるので、認識性能が高い音声認識ができる効果がある。
【０１１５】この発明によれば、音声認識プログラムの複数言語モデル選択手順が、木構造クラスタ別言語モデルにおける最も下層の葉ノードのクラスタ別言語モデルから複数の言語モデルを選択することにより、言語モデルを選択する際の演算量を削減できるという効果が得られる。
【出願人】 【識別番号】０００００６０１３
【氏名又は名称】三菱電機株式会社
【出願日】 平成１２年９月１４日（２０００．９．１４）
【代理人】 【識別番号】１０００６６４７４
【弁理士】
【氏名又は名称】田澤 博昭 （外１名）
【公開番号】 特開２００２−９１４８４（Ｐ２００２−９１４８４Ａ）
【公開日】 平成１４年３月２７日（２００２．３．２７）
【出願番号】 特願２０００−２８０６５５（Ｐ２０００−２８０６５５）