トップ :: H 電気 :: H04 電気通信技術




【発明の名称】 サウンド加工装置、サウンド加工装置の制御方法、プログラム、集積回路および再生装置
【発明者】 【氏名】小川 智輝
【住所又は居所】大阪府門真市大字門真1006番地 松下電器産業株式会社内

【氏名】森 美裕
【住所又は居所】大阪府門真市大字門真1006番地 松下電器産業株式会社内

【要約】 【課題】サウンドバッファのメモリを増加しないで、ボタンに関連付けられたクリックサウンドの定位を実現するサウンド加工装置を提供する。

【解決手段】インタラクティブグラフィックストリームにあるビデオ画面のサイズとボタンの表示位置、サイズの情報を、グラフィックスコントローラ105は、表示情報バッファ102に書き込み、加工部110は、それを読み出して、UO(ユーザ操作)170のあったボタンに対応付けられたサウンドIDのモノラルサウンドをサウンドバッファ101から読み出して、出力の遅延と左右の音の強度差を持たせて、ボタンの位置に定位するステレオサウンドデータに加工し、出力する。
【特許請求の範囲】
【請求項1】
グラフィックスストリームを含むデジタルストリームの再生に伴い、グラフィックスストリームに含まれる複数のオブジェクトのうちユーザにより指定されたオブジェクトに対応付けられたサウンドを加工し出力するサウンド加工装置であって、
オブジェクトに対応付けられたサウンドデータを記録しているサウンドバッファと、
ビデオ画面のサイズと各オブジェクトのビデオ画面での表示位置とからなる表示情報を前記グラフィックスストリームから抽出する抽出手段と、
抽出された表示情報に基づいて、指定されたオブジェクトの表示位置に音像が定位するように、前記オブジェクトに対応付けられたサウンドデータを前記サウンドバッファから読み出して加工し、加工したサウンドデータを出力する加工出力手段とを備えることを特徴とするサウンド加工装置。
【請求項2】
再生される前記デジタルストリームは、BD-ROMに記録されたものであり、
前記グラフィックスストリームは、インタラクティブグラフィックスストリームを含み、
前記表示情報は、いずれもピクセルを単位として記録され、
前記抽出手段は、前記表示情報をインタラクティブグラフィックスストリームから抽出することを特徴とする請求項1記載のサウンド加工装置。
【請求項3】
前記抽出手段は、ビデオ画面の幅と各オブジェクトの水平方向の表示位置とからなる表示情報を抽出し、
前記加工出力手段は、前記表示情報から、オブジェクトによるビデオ画面の幅に対する水平方向の分割比率を算出し、算出した分割比率に基づき前記オブジェクトに対応付けられたモノラルのサウンドデータをステレオのサウンドに加工し、左右の音の強度差と遅延との少なくとも一方を調節して音像が指定されたオブジェクトの水平方向の表示位置に定位するようにすることを特徴とする請求項2記載のサウンド加工装置。
【請求項4】
前記抽出手段は、ビデオ画面の高さと各オブジェクトの垂直方向の表示位置とからなる表示情報を抽出し、
前記加工出力手段は、前記抽出手段により抽出された表示情報のうち、音像が前記オブジェクトの垂直方向の位置に定位するように前記オブジェクトに対応付けられたサウンドデータに、前記オブジェクトの垂直方向の位置の比率に応じて異なるフィルターをかけることを特徴とする請求項1記載のサウンド加工装置。
【請求項5】
前記加工手段は、前記オブジェクトの垂直方向の位置が画面の上半面にあるとき、ハイパスフィルターをかけ、下半面にあるとき、ローパスフィルターをかけることを特徴とする請求項4記載のサウンド加工装置。
【請求項6】
前記複数のオブジェクトはいずれもボタンであることを特徴とする請求項1記載のサウンド加工装置。
【請求項7】
再生表示を行うディスプレイのサイズと左右のスピーカの位置との情報を追加情報として記憶する記憶手段をさらに備え、
前記加工出力手段は、前記表示情報と前記追加情報とに基づいて、指定されたオブジェクトの位置に定位するように前記オブジェクトに対応付けられたサウンドデータを加工することを特徴とする請求項1記載のサウンド加工装置。
【請求項8】
オブジェクトに対応付けられたサウンドデータを記録しているサウンドバッファを有し、グラフィックスストリームを含むデジタルストリームの再生に伴い、グラフィックスストリームに含まれる複数のオブジェクトのうちユーザにより指定されたオブジェクトに対応付けられたサウンドを加工し出力するサウンド加工装置の制御方法であって、
ビデオ画面のサイズと各オブジェクトのビデオ画面での表示位置とからなる表示情報を前記グラフィックスストリームから抽出する抽出ステップと、
抽出された表示情報に基づいて、指定されたオブジェクトの表示位置に音像が定位するように、前記オブジェクトに対応付けられたサウンドデータを前記サウンドバッファから読み出して加工し、加工したサウンドデータを出力する加工出力ステップとを有することを特徴とするサウンド加工装置の制御方法。
【請求項9】
オブジェクトに対応付けられたサウンドデータを記録しているサウンドバッファを有し、グラフィックスストリームを含むデジタルストリームの再生に伴い、グラフィックスストリームに含まれる複数のオブジェクトのうちユーザにより指定されたオブジェクトに対応付けられたサウンドを加工し出力するサウンド加工装置に、
ビデオ画面のサイズと各オブジェクトのビデオ画面での表示位置とからなる表示情報を前記グラフィックスストリームから抽出する抽出ステップと、
抽出された表示情報に基づいて、指定されたオブジェクトの表示位置に音像が定位するように、前記オブジェクトに対応付けられたサウンドデータを前記サウンドバッファから読み出して加工し、加工したサウンドデータを出力する加工出力ステップとを実行させるプログラム。
【請求項10】
グラフィックスストリームを含むデジタルストリームの再生に伴い、グラフィックスストリームに含まれる複数のオブジェクトのうちユーザにより指定されたオブジェクトに対応付けられたサウンドを加工し出力する集積回路であって、
請求項1記載のサウンド加工装置の各手段を構成することを特徴とする集積回路。
【請求項11】
グラフィックスストリームを含むデジタルストリームの再生装置であって、
請求項1記載のサウンド加工装置を備えることを特徴とする再生装置。
【発明の詳細な説明】【技術分野】
【0001】
本発明は、BD-ROM等の再生におけるサウンド加工装置に関し、特にクリックサウンドを実現する技術に関する。
【背景技術】
【0002】
ディジタルコンテンツの再生において、字幕を表示するか否か等の選択は、画面に表示された選択肢を示すボタンと呼ばれるオブジェクトの操作によりユーザが行えるようになっている。ただし、従来のDVD(Digital Versatile Disk)では、ユーザがボタンを押したときに、ボタン操作に同期したクリックサウンドを出力する規定はないため、ボタンを押したことをユーザが音声で確認することができない。これに対し、High Definition(HD)のコンテンツを対象としたBD-ROM(Blu-ray Disc-Read Only Memory)の仕様書には、クリックサウンドが規定されているので、ボタンが押されたことを確認することができる。
【0003】
このクリックサウンドは、BDにサウンドファイルとして記録されており、BDのコンテンツの再生開始前に、再生装置内のサウンドバッファと呼ばれるメモリ領域に格納される。再生中にユーザ操作により、画面に表示中のボタンが選択、または実行されると、そのボタンに関連付けられたサウンドがサウンドバッファから抽出され、出力されることでクリックサウンドが実現される。非特許文献1には、サウンドデータやボタンの定義を含むBD−ROMのデータ仕様が開示されている。
【非特許文献1】「System Description Blu-ray Disc Read-Only Format Part3」
【発明の開示】
【発明が解決しようとする課題】
【0004】
サウンドデータとして通常はモノラルのサウンドがいくつかおさめられ、あるボタンが選択されると、それに対応したサウンドが出力される。その際、スピーカが複数、たとえば左右にあっても、モノラルのサウンドがそのままで各スピーカから出力されるため、両スピーカの真中、つまり画面の中心に音像(音源)があると感じる、つまり定位することになる。そのため、ボタンが画面の端にあるとき、ユーザは違和感を抱くことになる。
【0005】
ボタンごとにそのボタンの位置に定位するようにステレオ、つまり左右スピーカ別のサウンドをすべて用意すればこの違和感は解消できるが、サウンドデータのメモリー容量が大きくなるという問題が生じる。しかし、サウンドバッファのサイズが制限されているため、サウンドデータをステレオで用意することは実際上できない。
【課題を解決するための手段】
【0006】
本発明は、上記課題に鑑みてなされたものであり、サウンドデータの容量を増やすことなく、操作されたボタンの配置に応じる定位感を持ったクリックサウンドを生成するサウンド加工装置を提供することを目的とする。
上記課題を解決するために、本発明のサウンド加工装置は、グラフィックスストリームを含むデジタルストリームの再生に伴い、グラフィックスストリームに含まれる複数のオブジェクトのうちユーザにより指定されたオブジェクトに対応付けられたサウンドを加工し出力するサウンド加工装置であって、
オブジェクトに対応付けられたサウンドデータを記録しているサウンドバッファと、
ビデオ画面のサイズと各オブジェクトのビデオ画面での表示位置とからなる表示情報を前記グラフィックスストリームから抽出する抽出手段と、
抽出された表示情報に基づいて、指定されたオブジェクトの表示位置に音像が定位するように、前記オブジェクトに対応付けられたサウンドデータを前記サウンドバッファから読み出して加工し、加工したサウンドデータを出力する加工出力手段とを備える。
【発明の効果】
【0007】
上記構成により、たとえば複数のオブジェクトが画面上の左右上下の各方向に配置されているとき、各々のオブジェクトに関連付けされているクリックサウンドが同一のモノラルサウンドの場合でも、各オブジェクトの配置に応じた定位感を持ったクリックサウンドを実現することができる。また、各オブジェクトに関連付けられるクリックサウンドが異なる場合でも、各オブジェクトには異なるモノラルのクリックサウンドを関連付けておくだけで十分であり、定位を持たせたステレオのクリックサウンドを用意する必要がないため、クリックサウンドを格納しておくバッファ容量を大きくする必要がない効果がある。なお、ボタンもオブジェクトの一つである。
【0008】
また、再生される前記デジタルストリームは、BD-ROMに記録されたものであり、前記グラフィックスストリームは、インタラクティブグラフィックスストリームを含み、前記表示情報は、いずれもピクセルを単位として記録され、前記抽出手段は、前記表示情報をインタラクティブグラフィックスストリームから抽出することとしている。
これにより、BD-ROMで規定したオブジェクトに対応するクリックサウンドを得ることができる。
【0009】
また、前記抽出手段は、ビデオ画面の幅と各オブジェクトの水平方向の表示位置とからなる表示情報を抽出し、前記加工出力手段は、前記表示情報から、オブジェクトによるビデオ画面の幅に対する水平方向の分割比率を算出し、算出した分割比率に基づき前記オブジェクトに対応付けられたモノラルのサウンドデータをステレオのサウンドに加工し、左右の音の強度差と遅延との少なくとも一方を調節して音像が指定されたオブジェクトの水平方向の表示位置に定位するようにすることとしている。
【0010】
これにより、ビデオ画面の水平方向のオブジェクトの配置に応じた定位感を持ったクリックサウンドを実現することができる。
また、前記抽出手段は、ビデオ画面の高さと各オブジェクトの垂直方向の表示位置とからなる表示情報を抽出し、前記加工出力手段は、前記抽出手段により抽出された表示情報のうち、音像が前記オブジェクトの垂直方向の位置に応じた印象を視聴者に与えるように前記オブジェクトに対応付けられたサウンドデータに、前記オブジェクトの垂直方向の位置の比率に応じて異なるフィルターをかけることとしている。
【0011】
これにより、ビデオ画面の垂直方向のオブジェクトの配置に応じた印象を視聴者に与えることができるクリックサウンドを実現することができる。
また、前記加工手段は、前記オブジェクトの垂直方向の位置が画面の上半面にあるとき、ハイパスフィルターをかけ、下半面にあるとき、ローパスフィルターをかけることとしている。
【0012】
これにより、画面上の上の方にあるボタンに対しては、高音部が強調されて軽い印象を視聴者に与え、ボタンが画面の下の方にある場合には、低音部が強調されて重たい印象を視聴者に与えるようにクリックサウンドを加工することで、オブジェクトの垂直方向の位置に関連したイメージを視聴者に与えることができる。
また、前記複数のオブジェクトはいずれもボタンであることとしている。
【0013】
これにより、ボタンに対応するクリックサウンドが得られる。
また、再生表示を行うディスプレイのサイズと左右のスピーカの位置との情報を追加情報として記憶する記憶手段をさらに備え、前記加工出力手段は、前記表示情報と前記追加情報とに基づいて、指定されたオブジェクトの位置に定位するように前記オブジェクトに対応付けられたサウンドデータを加工することとしている。
【0014】
これにより、ディスプレイのサイズと、左右のスピーカの位置の情報に基づいて、左右のスピーカ間でのボタンの位置が正確に把握できるので、ボタンの位置に定位するステレオサウンドを得ることができる。
本発明のサウンド加工装置の制御方法は、オブジェクトに対応付けられたサウンドデータを記録しているサウンドバッファを有し、グラフィックスストリームを含むデジタルストリームの再生に伴い、グラフィックスストリームに含まれる複数のオブジェクトのうちユーザにより指定されたオブジェクトに対応付けられたサウンドを加工し出力するサウンド加工装置の制御方法であって、ビデオ画面のサイズと各オブジェクトのビデオ画面での表示位置とからなる表示情報を前記グラフィックスストリームから抽出する抽出ステップと、抽出された表示情報に基づいて、指定されたオブジェクトの表示位置に音像が定位するように、前記オブジェクトに対応付けられたサウンドデータを前記サウンドバッファから読み出して加工し、加工したサウンドデータを出力する加工出力ステップとを有する。
【0015】
この制御方法により、ボタンの表示位置に定位するクリックサウンドが得られる。
本発明のプログラムは、オブジェクトに対応付けられたサウンドデータを記録しているサウンドバッファを有し、グラフィックスストリームを含むデジタルストリームの再生に伴い、グラフィックスストリームに含まれる複数のオブジェクトのうちユーザにより指定されたオブジェクトに対応付けられたサウンドを加工し出力するサウンド加工装置に、ビデオ画面のサイズと各オブジェクトのビデオ画面での表示位置とからなる表示情報を前記グラフィックスストリームから抽出する抽出ステップと、抽出された表示情報に基づいて、指定されたオブジェクトの表示位置に音像が定位するように、前記オブジェクトに対応付けられたサウンドデータを前記サウンドバッファから読み出して加工し、加工したサウンドデータを出力する加工出力ステップとを実行させる。
【0016】
このプログラムにより、ボタンの表示位置に定位するクリックサウンドが得られる。
本発明の集積回路は、グラフィックスストリームを含むデジタルストリームの再生に伴い、グラフィックスストリームに含まれる複数のオブジェクトのうちユーザにより指定されたオブジェクトに対応付けられたサウンドを加工し出力する集積回路であって、請求項1記載のサウンド加工装置の各手段を構成する。
【0017】
この集積回路により、ボタンの表示位置に定位するクリックサウンドが得られる。
本発明の再生装置は、グラフィックスストリームを含むデジタルストリームの再生装置であって、請求項1記載のサウンド加工装置を備える。
この再生装置により、ボタンの表示位置に定位するクリックサウンドが得られる。
【発明を実施するための最良の形態】
【0018】
以下、本発明に係るサウンド加工装置の実施の形態について、図面を参照して説明する。
(実施の形態1)
実施の形態1は、ボタンの水平方向の位置の定位を行なう。つまり、クリックサウンドを行なうボタンの画面上での水平表示位置に、音源が定位するようにモノラルサウンドを加工して、ステレオサウンドを作成し、出力する。
【0019】
図1は、サウンド加工装置の構成を示す図である。サウンド加工装置は再生装置に組み込まれている。図1では、サウンド加工装置に関連する再生装置の主要部も示している。
サウンド加工装置の構成要素を図1を参照して説明する。
サウンド加工装置100は、サウンドバッファ101、表示情報バッファ102、グラフィックスコントローラ105、加工部110からなる。
【0020】
サウンドバッファ101は、対話用のオブジェクトとしてのボタン等が押下されたときに使用されるサウンド(音声)データを納める。サウンドデータは、BD−ROMと呼ばれるブルーレイディスクにsound.bdmvというサウンドデータファイルとして記録され、ムービー等のコンテンツ再生開始前に、そのサウンドデータが、再生装置によりサウンドバッファ101に格納される。
【0021】
この様子を、図2と図3を使用して説明する。
図2は、BD−ROMを含む再生システムの概観の一例を示す図である。図2において、可搬性の記録媒体であるBD-ROM210は、再生装置220、テレビ230、リモコン240により形成されるシステムに、映画作品等を供給するという用途に供される。再生装置220には、サウンド加工装置100も含まれる。
【0022】
図3は、BD-ROM105の、サウンドデータファイルを含めたファイルの管理を行なうディレクトリの構成を示す図である。なお、BD-ROM105の構成301の詳細は、非特許文献1に記述されている。図3において、BD-ROMには、ROOTディレクトリの下にBDMVディレクトリがあり、BDMVディレクトリの配下には、タイトルを構成するIndex Tableが定義されたインデックスファイル(index.bdmv)、動的なシナリオを定義するムービーオブジェクトを含むファイル(MovieObject.bdmv)と、AVクリップ(01000.m2ts)を格納するSTREAMディレクトリ、AVクリップにおける論理的な再生経路(プレイリスト)を定義したプレイリストファイル(00000.mpls)を格納するPLAYLISTディレクトリ、AVクリップの管理情報を格納したクリップ情報ファイル(01000.clpi)を格納するCLIPINFディレクトリ、AUXDATAディレクトリ等が存在する。
【0023】
sound.bdmvはAUXDATAディレクトリの下で格納されている。
BD-ROM105が装着されると、再生装置により、AUXDATAディレクトリのsound.bdmv120が読み込まれ、サウンドバッファ101に格納される。
図4は、サウンドデータの構成を示す図である。サウンドデータは、複数のサウンドを管理するためのsoundIndex411と、各サウンドを納めるsoundData412とからなる。soundIndex411には、モノラル/ステレオの別を示すチャネル数などの各サウンドの属性と、soundData412における当該サウンドのアドレスと長さが納められている。soundData412の各サウンドは、48KHz、16ビット単位のLPCM(Linear Pulse Code Modulation)のサンプルからなる。本実施の形態では、各サウンドはいずれもモノラルとする。
【0024】
sound.bdmv120とサウンドバッファ101とは、いずれもサウンドデータ120の形式でサウンドデータを保持している。サウンドバッファ101は、2MBの固定長のサイズであり、したがってsound.bdmvはこのサイズ以下である。登録できるサウンド数は128までであり、各サウンドのIDは、格納順に0から順に付与される。
図1に戻って、表示情報バッファ102は、ボタンの位置等の表示情報を格納し、グラフィックスコントローラ105により更新され、加工部110により参照される。
【0025】
図5は、表示情報バッファ102に納められる表示情報の内容を示す図である。表示情報は、ビデオ場面のビデオ幅502、ビデオ高503、ボタン数504、各ボタン情報511からなる。
ビデオ画面のビデオ幅501とビデオ高502は、インタラクティブグラフィックスプレーン151の幅と高さにそれぞれ等しく、単位はピクセルである。
【0026】
ボタン情報511は、ボタンID512、ボタンの水平位置513、ボタンの垂直位置514、ボタン幅515、ボタン高516からなり、いずれも単位はピクセルである。
図6は、画面とボタンとの関係を示す図であり、図5の例で示したビデオ画面とボタンを示したものである。表示情報において、ビデオ画面1001におけるボタン1011の表示位置(256,148)は、ボタンの矩形の左上点のそれであり、ボタンの中心の表示位置(320,180)は、ボタンのサイズであるボタン幅515とボタン高516のそれぞれの半分の値を、表示位置(256,148)に加えることにより得られる。
【0027】
本実施の形態では、ボタンを定位させるとき、ボタンの中心の位置に定位させる。
本実施の形態では、また、ステレオ用の左スピーカ、右スピーカ(不図示)が画面の左端1015と右端1016にあるものと想定している。したがって、図6で示した例では、画面の左端1015からボタン1011までの距離と、ボタン1011から右端1016までの距離の比率が320:960、つまり画面の幅のうち左端から1:3の位置にボタンがある。
【0028】
このような、画面の幅をボタンが分割する比率a:bは、画面の両端に左右のスピーカがあると想定する本実施の形態の場合、左右のスピーカ間を分割する比率でもある。このa:bの分割比率は、後述する加工部110が、そのボタンの位置に音源を定位させるために行われるサウンド加工においてパラメタとして使用される。
再び図1に戻って、グラフィックスコントローラ105は、インタラクティブフィクスストリームを再生処理するインタラクティブデコーダ150の一部でもある。グラフィックスコントローラ105は、コンポジションバッファ(以下「CB」と呼ぶ)155および復号オブジェクトバッファ(Decoded Object Buffer)156を検索し、インタラクティブフィクスストーリームに含まれる表示情報バッファ102の表示情報に該当する項目が、CB155または復号オブジェクトバッファ156に記録されていれば、それらを読み出して表示情報バッファ102に書き出す。
【0029】
ディジタルストーリームのどの項目が、表示情報のどの項目に該当するかに関して説明する前に、BD-ROMのディジタルストリームについて、次に簡単に述べる。
図7は、AVクリップと呼ばれるディジタルストリームの内容を示す図である。AVクリップは、図7で示すようにインタラクティブグラフィックスストリーム、プレゼンテーショングラフィックスストリーム、ビデオストリーム、オーディオストリームを多重化したストリームであり、MPEG2(MovingPictureExpertsGroup2)形式のTSパケット、たとえばインタラクティブグラフィックスのTSパケット701等からなるストリームである。インタラクティブグラフィックスのTSパケット701は、PESパケット702を分割したものであり、PESパケット702は、インタラクティブグラフィックスのセグメントを分割したものである。他のストリームも同様に、下位から順にTSパケット、PESパケット、セグメントという階層からなる。インタラクティブグラフィックスのセグメントにはICS(Interactive Composition Segment)、ODS(Object Definition Segment)等がある。
【0030】
図8は、ICSの内容を示す図である。
図8において、ICS801には、インタラクティブグラフィックスストリームの制御情報等が納められている。図8では、そのうち特に、ビデオのサイズを示すvideo_width802、video_height803、ボタン数を示すnumber_of_butons804と、各ボタンの情報811を示している。ボタン情報811において、ボタンID(button_id)812は、ボタンの識別子であり、UO(ユーザ操作)があったときグラフィックスコントローラ105は、どのボタンの操作であるかをボタンID(button_id)812として特定する。
【0031】
ボタンの水平位置(button_horizontal_position)813および垂直位置(button_vertical_position)814はボタンの表示位置を示し、これはたとえば図6で示したボタン1011の矩形領域の左上角の表示位置を示す。また、normal_start_object_id_ref825は、ノーマル状態のボタンiをアニメーションで描画する場合、アニメーションを構成する複数ODSに付加された連番のうち、最初の番号がこのnormal_start_object_id_ref825に記述される。normal_end_object_id_ref826は、ノーマル状態のボタンiをアニメーションで描画する場合、アニメーションを構成する複数ODSに付加された連番たるobject_IDのうち、最後の番号がこのnormal_end_object_id_ref826に記述される。このnormal_end_object_id_ref826に示されるIDが、normal_start_object_id_ref825に示されるIDと同じである場合、このIDにて示されるグラフィックスオブジェクトの静止画が、ボタンiの絵柄になる。また、selected_state_sound_id_ref817は、当該ボタンが選択されたときに使用するサウンドのサウンドIDであり、selected_start_object_id_ref818は、当該ボタンが選択されたときに最初に、また、selected_end_object_id_ref819は最後に表示するオブジェクトのオブジェクトIDである。
【0032】
当該ボタンの選択状態のサイズは、selected_start_object_id_ref818が示すオブジェクトのサイズである。同様に、アクティベートされたときに参照されるactivated_state_sound_id_ref820activated_start_object_id_ref721、activated_start_object_id_ref822がそれぞれ規定されており、それぞれの示す意味も同様である。なお、selected_start_object_id_ref818が指すオブジェクトのサイズとactivated_start_object_id_ref822の指すオブジェクトのサイズは同じである。
【0033】
また、number_of_navigation_commands823およびnavigation_commands824は当該ボタンがアクティベートされたとき、グラフィックスコントローラ105により実行されるコマンドの数とコマンドである。
図9は、ODSの内容を示す図である。
ODSは、一つまたは複数で一つのオブジェクトを定義する。図9に示した例においては、ODS901は、あるボタンオブジェクトを定義する2つのオブジェクトのうちの先頭のODSである。ODS901には、object_id911、last_in_sequence_flag912、object_data_fragment915等が記載される。
【0034】
object_id911は、このオブジェクトのオブジェクトIDであり、last_in_sequence_flag912は、当該ODSが当該オブジェクトの定義を行なう最後のセグメントか否かのフラグである。object_data_fragment915において、object_data_length922は、ランレングス圧縮形式でオブジェクトの表示イメージを納めた圧縮オブジェクト925のうち、ODS901で定義した長さを示す。
【0035】
object_width923およびobject_height924は当該オブジェクトの幅と高さとを示し、図8のボタン情報811で示したボタンのボタン幅とボタン高は、selected_start_object_id_ref818あるいはactivated_start_object_id_ref822が示すオブジェクトID (object_id911)のオブジェクトの幅と高さである。
次に、図1を参照して、再生装置によりディジタルストーリームが処理され、出力に至るまでの概要を説明し、次にインタラクティブグラフィックスの処理の詳細と、表示情報バッファ102に格納される表示情報の各項目が、どこにあるかについて順次説明する。
【0036】
MPEG2-TSパケット121が順次、PIDフィルタ122に入力され、各TSパケットのPIDに応じたトランスポートバッファ(TB)に分配される。例えば、インタラクティブグラフィックスストリームの場合、TSパケットのPIDは、0x1400〜141Fが与えられる。
たとえば、プレゼンテーショングラフィックスストリームの場合、プレゼンテーショングラフィックスデコーダ130がトランスポートバッファ123から、TSパケットを取り出して、復号し、プレゼンテーショングラフィックスデータを出力する。プレゼンテーショングラフィックスプレーン131はそのデータを入力して展開し、CLUT132により色表示処理され、ビデオ出力される。
【0037】
また、ビデオストリームの場合、ビデオデコーダ140がTB124から、ビデオのTSパケットを取り出して復号(decode)し、ビデオデータを出力する。ビデオプレーン141は、そのデータを入力して展開し、ビデオ出力する。
また、オーディオの場合、オーディオデコーダ160がTB126から、TSパケットを取り出して復号し、オーディオデータを出力する。ミキサ161は、そのデータを入力して、サウンド加工装置100からのサウンドデータと共に出力する。
【0038】
最後に、インタラクティブグラフィックスストリームの場合、インタラクティブグラフィックスデコーダ150がトランスポートバッファ123から、TSパケットを取り出して、復号し、オブジェクトデータを出力する。インタラクティブグラフィックスプレーン151はそのオブジェクトを展開する。展開されたオブジェクトはCLUT152で色表示処理され、ビデオ出力される。
【0039】
次に、インタラクティブグラフィックスデコーダ(Interactive Graphics Decoder)150の処理を詳細に説明する。
インタラクティブグラフィックスデコーダ150は、EB(コーディッドデータバッファ)153、ストリームグラフィックスプロセサ154、CB155、復号オブジェクトバッファ156からなる。
【0040】
TB125からEB153への転送時に、TSパケットと、PESパケットの各ヘッダーは削除され、セグメントのデータとして格納される。ストリームグラフィックスプロセッサ154は、EB153に格納されているセグメントがICS801であれば、それをCB155に転送し、ODSであれば復号オブジェクトバッファ156に転送する。この段階で、表示のために必要なセグメントが全て該当のバッファに格納されている。
【0041】
このとき、グラフィックスコントローラ105は、CB155に格納されているICS801から、video_width802とvideo_height803とを読み出し、図5に示す表示情報バッファ102に、それぞれビデオ幅502、ビデオ高503として書き出す。また、同様に、ICS801のnumber_of_butons804をボタン数504として表示情報バッファ102に書き出す。そして、各ボタンについて、button_id812をボタンID512とし、button_horizontal_position813とbutton_vertical_position814を、ボタンの水平位置513、ボタンの垂直位置514として表示情報バッファ102に書き出す。また、復号オブジェクトバッファ156のODS901において、selected_start_object_id_ref818のオブジェクトIDと一致するODS901(複数あれば先頭のODS)を検索し、そのobject_width923とobject_width923とを、それぞれ当該ボタンのボタン幅515とボタン高516として表示情報バッファ102に書き出す。
【0042】
そして、グラフィックスコントローラ105は、ICS801のセグメントに記載された項目のうちPTS( Presentation Time Stamp:不図示) の時刻が来ると、復号オブジェクトバッファ156に格納されているボタンのオブジェクトをインタラクティブグラフィックスプレーン151に出力する。
画面に表示されたボタンに対して、ユーザが選択(Select) あるいはアクティベート( ENTERキーを押下)によりUO(ユーザ操作)170を行うと、グラフィックスコントローラ105は、そのボタンのボタンIDと、そのボタンに関連付けられたクリックサウンドのサウンドIDとを、CB155のICS801および復号オブジェクトバッファ156のODSに基づいて特定し、加工部110に通知する。
【0043】
ここで、グラフィックスコントローラ105が特定する、ボタンに関連付けられたクリックサウンドのサウンドIDは、UO170がボタンの選択の場合、図8に示したICS801の当該ボタンIDと一致するbutton_id812のselected_state_sound_id_ref817であり、また、UO170がボタンのアクティベートの場合、activated_state_sound_id_ref820である。
【0044】
図10は、UO170において、ボタンの表示とリモコンの一例を示す図である。
図10(a)は、ボタンの表示例を示している。画面1001には、「字幕あり」と「字幕なし」の2つのボタンが示されている。初めて表示のとき、「字幕あり」を示すボタンとして、ボタン1011だけが表示されている。
ユーザは、図10(b)に示したリモコン240の上下左右の各キーを操作して、たとえば「字幕あり」ボタンを選択する。グラフィックスコントローラ105により、選択されたことを示すボタン1013をボタン1011に上書きして表示する。このとき図10の画面1001には、選択されたことを示すボタン等が一見して異なる位置に表示しているように見えるが、そうではなくボタン1011と同じ位置に表示する。リモコン240で、ユーザがさらに、Enterキーを押下すると、現在選択されているボタンがアクティベートの状態となり、グラフィックスコントローラ105は、アクティベートされたことを示すボタン1014をボタン1013に上書きして表示する。
【0045】
図1に戻って、加工部110は、モノラルのサウンドデータをステレオのサウンドデータに加工し、そのステレオのサウンドデータを出力する。
加工部110は、グラフィックスコントローラ105から、ユーザ操作のあったボタンのボタンIDと、そのボタンに対応付けられたサウンドIDとからなる通知を受け取ると、サウンドIDが示すサウンドデータをサウンドバッファ101から読み出して、ボタンIDが示すボタンの表示位置に定位するように、読み出したサウンドデータをステレオサウンドに加工し、ミキサ161に出力する。ここで、ボタンの表示位置とは、ボタンの中心の水平方向の表示位置をいう。
【0046】
図11は、ボタン等の表示を行なうディスプレイ1111と視聴者1115とを上方から見た平面図であり、サウンド加工で使用される各種パラメタを示している。図11を参照して、まず、加工部110によるサウンドデータの加工の際使用するパラメタについて説明する。
図11において、ディスプレイ1111の左端に左スピーカ1112が、また、右端に右スピーカ1113がある。また、ボタン1114の中心の水平方向の表示位置は、ピクセル幅がW、つまりビデオ幅Wで表示するディスプレイ1111をa:bに分割しているとする。上記で得られたボタン1114の中心の水平方向の位置をcとすると、a:b=c/W:(W-c)/W である。
【0047】
そして、ボタンの操作者である視聴者1115は、両耳間の長さがhであり、ディスプレイ1111の中心を通る垂線上の、ディスプレイ1111から距離dの位置にいる。ボタン1114から視聴者1115の右耳、左耳までの距離をそれぞれr、lとする。ここで、加工部110は、図7のビデオ幅Wとして、図7の表示情報バッファ102に格納されているビデオ幅502を読み込んで使用する。
【0048】
次に、加工部110によるサウンドデータの加工で使用する数式を説明する。ここで、音速をvとすると、l、rの2乗は、それぞれ式(1)、(2)のようになる。
【0049】
【数1】


【0050】
【数2】


これらの式からlとrをもとめ、次の式(3)に代入し、ステレオサウンドのRに対するLの遅延時間を求める。ここで、w、d、h、vには、たとえば、それぞれ0.6、2、0.2、340(メートル単位)の数値を代入する。ただし、d、h、vの値の設定は可変であり、上述の値に限られない。
【0051】
【数3】


また、L(左)の音の強度を、R(右)の音の強度に基づく式(4)により求める。
【0052】
【数4】


加工部110はグラフィックスコントローラ105から指定のあったサウンドIDが示すモノラルのサウンドデータをステレオサウンドのRのサウンドとしてそのまま出力し、Lのサウンドは、式(4)で強度の加工を施したサウンドを、式(3)で示す時間だけ、Rに遅延して出力する。
【0053】
次に、サウンド加工装置100の動作について説明する。
図12は、実施の形態1におけるサウンド加工装置の動作の流れを示すフローチャートである。
AVクリップ740のディジタルストリームは、再生装置により、インタラクティブグラフィックスストリーム等に分かれて、インタラクティブグラフィックスデコーダ150等により復号される。インタラクティブグラフィックスストリームは、ICS801がCB155に、またODS901等が復号オブジェクトバッファ156に、それぞれ格納される。
【0054】
グラフィックスコントローラ105は、CB155にICS801を検索し(S1305、ここで、Sはステップの略、以下同様)、格納されていれば、表示情報バッファ102をクリアし、video_width802とvideo_height803とを読み出し、表示情報バッファ102にそれぞれビデオ幅502、ビデオ高503として書き出す。また、同様に、ICS801のnumber_of_butons804をボタン数504として、また各ボタンについて、button_id812をボタンID512として、button_horizontal_position813とbutton_vertical_position814とをボタンの水平位置513、ボタンの垂直位置514として、それぞれ表示情報バッファ102に書き出す(S1310)。
【0055】
次に、グラフィックスコントローラ105は、復号オブジェクトバッファ156にselected_start_object_id_ref818のオブジェクトIDと一致するODS901(複数あれば先頭のODS)を検索し(S1315)、あればそのobject_width923とobject_width923とを、それぞれ当該ボタンのボタン幅515とボタン高516として表示情報バッファ102に書き出す(S1320)。
【0056】
グラフィックスコントローラ105は、復号オブジェクトバッファ156にあるボタンオブジェクト等をインタラクティブグラフィックスプレーン151に出力する。
グラフィックスコントローラ105は、ボタン操作を受け付けるインタラクティブ処理の終了か否かを判定し(S1325)、終了のとき、サウンド加工装置100の動作は終了する(S1330)。
【0057】
ユーザのボタン操作、つまりUO170を待つ(S1335)。UO170があれば、グラフィックスコントローラ105は、CB155にあるICS801と復号オブジェクトバッファ156にあるODS901等から、操作されたボタンのボタンIDを得るとともに、ボタンの選択操作のとき、ICS801の当該ボタンのselected_state_sound_id_ref817を、また同様に、アクティベート操作のとき、activated_state_sound_id_ref820を、当該ボタンに対応するサウンドIDとして得る(S1340)。
【0058】
グラフィックスコントローラ105は、ボタンIDとサウンドIDとを加工部110に通知する。通知を受けた加工部110は、次に述べる加工処理を行なう(S1345)。
加工処理は加工部110が行なう。加工部110は、表示情報バッファ102からビデオ幅502と、通知されたボタンIDに該当するボタンの水平位置513とボタン幅128とを読み出す(S1360)。
【0059】
通知されたサウンドIDのサウンドデータをサウンドバッファ101から読み出す(S1360)。ボタンの中心の水平方向の位置を、ボタンの水平位置513とボタン幅515から算出する(S1370)。
ボタンがディスプレイ1111の幅を水平方向に分割する比率a:bを、ビデオ幅502とボタンの中心の水平方向の位置とから算出する(S1375)。
【0060】
加工部110は、図11に示すパラメタをもとに、式(1)(2)から、lとrとを求める。ここで、w、d、h、vには、たとえば、それぞれ0.6、2、0.2、340(メートル単位)の数値とする。
加工部110は、グラフィックスコントローラ105から指定のあったサウンドIDが示すモノラルのサウンドデータをステレオサウンドのR(チャネル)のサウンドとしてそのまま出力し、Lのサウンドは、式(4)で強度の加工を施したサウンドを、式(3)で示す時間だけRに対して遅延させ(S1380)、ミキサ161に出力する(S1385)。
【0061】
(実施の形態2)
実施の形態2は、実施の形態1で行なったボタンの水平方向の位置の定位の補正を行なう。
実施の形態2の構成は、実施の形態1と同じであり、加工部110の処理だけが異なる。
【0062】
図13(a)は、左右のスピーカがディスプレイから離れている場合のディスプレイとスピーカを正面からみた外観図であり、図13(b)は、ボタンの位置と定位する位置との関係を示す図である。
図13(a)は、ディスプレイ1401、左スピーカ1402、右スピーカ1403、ディスプレイ1401に向かって右方に表示されたボタン1404を示し、ディスプレイ1401の幅はw、スピーカ間の距離はs、各スピーカはディスプレイ1401から等距離にあることを示している。ここでX軸1411の原点は、ディスプレイ1401の中心である。
【0063】
実施の形態1では、図11に示すように、画面の両端の位置にスピーカの中心線が設置されていると想定して、水平方向の定位を実現した。そのとき、たとえばディスプレイ1401の右端近くにボタンがある場合、定位は実際のボタンが表示されている位置より右スピーカ1403の側に寄り、実際に定位すべきボタンの位置から右にずれてしまう。
図13(b)において、X軸は、ボタンのディスプレイでの水平方向の位置をピクセル単位で示し、Y軸は、図13(a)のX軸上において、加工後のステレオサウンドが定位する位置をメートル単位で示している。
【0064】
グラフ1422は、ボタンの定位が正しく行なわれていることを示しており、グラフ1421は、実施の形態1による定位を示す図である。なお、sがwと等しい場合は、グラフ1421は、グラフ1422と同じとなる。
ボタンの位置とクリックサウンドの定位の位置のずれ1412は、加工部110が想定するスピーカの位置(ディスプレイの両端)と、実際のスピーカの位置のずれによって生じる。また、ディスプレイ1401の中央付近では、ボタンの表示位置と、クリックサウンドが定位する位置のずれは比較的小さいが、ボタンの表示位置が画面の両端に近いほど、そのずれが大きくなる。したがって、あらかじめスピーカの位置が画面から離れて設置されるものとして、加工部110が定位をするようにしてもよい。これは、グラフ1423で示したような定位をクリックサウンドに与えるようにすることで実現される。つまり、ボタンが画面の両端に近いほど、クリックサウンドの定位を、グラフ1421より内側になるように補正する。
【0065】
この補正のためのグラフ1423を適用することにより、ずれの少ない、自然な定位を持ったクリックサウンドを出力することが可能となる。
(実施の形態3)
実施の形態3は、ボタンの垂直方向の位置に定位するようにモノラルサウンドを加工してステレオサウンドを作成し、出力する。
【0066】
本実施の形態におけるサウンド加工装置の構成は、実施の形態1と同様であり、加工部110の処理だけが異なる。本実施の形態における加工部110はフィルタ処理を行なうので、まずフィルタについて述べる。
図14は、実施の形態2において使用する各種フィルタの例を示す図である。
図14(a)は、ハイパスフィルタ1501の一例である。ハイパスフィルタ1501は、周波数が略2KHz以上の周波数帯域の音の強度はそのままとし、略2KHz未満の音の強度を0Hzに近づくほど音の強度を減少させる。したがって、このフィルタ処理の結果、高音が主に出力される。
【0067】
図14(b)は、ローパスフィルタ1511の一例である。ローパスフィルタ1511は、ハイパスフィルタ1501とは逆に、周波数が略2KHz以上の周波数帯域の音の強度を、周波数が20KHzに近づくほど減少させ、略2KHz未満の音の強度をそのままとする。したがって、このフィルタ処理の結果、低音が主に出力される。
本実施の形態の加工部110は、グラフィックスコントローラ105から、UO170により操作されたボタンのボタンIDと、そのボタンに対応付けられたサウンドIDとを受け取ると、表示情報バッファ102に格納されているビデオ高502と、当該ボタンIDのボタンの垂直位置514とボタン高516とを読み出す。そして、ボタンの中心の垂直方向の位置を、ボタンの垂直位置514にボタン高516の半分の値を加算することにより算出する。
【0068】
ボタンの中心の垂直方向の位置がボタン高516の半分以下の値のとき、ボタンは画面の上半面にあり、ボタンの中心の垂直方向の位置がボタン高516の半分以上の値のとき、ボタンは画面の下半面にある。
本実施の形態では、加工部110は、ボタンが画面の上半面にあるとき、ボタンに対応するモノラルサウンドに対しハイパスフィルタ1501で処理し、下半面にあるとき、ボタンに対応するモノラルサウンドに対しローパスフィルタ1502で処理することにより、ボタンの垂直方向の位置、つまりディスプレイ画面の上半分または下半分に応じた印象を与えるクリックサウンドを出力するようにする。
【0069】
また、上記の変形例として、ボタンが上半面にあるとき、ハイパスフィルタ1501のかわりに、図14(c)のハイパスフィルタ1521を使用して、略2KHz以上の高帯域の音の強度をさらに増加させるようにしてもよい。同様に、ボタンが下半面にあるとき、ローパスフィルタ1511のかわりに、図14(c)のローパスフィルタ1521を使用して、略2KHz未満の低帯域の音の強度をさらに増加させるようにしてもよい。
【0070】
上記で述べた4種類のフィルタは、いずれも略2KHzを高帯域と低帯域の境界値としたが、この値は略2KHzからr略3KHzの範囲で可変であり、たとえば略3KHzとしてもよい。
また、フィルタ処理の対象となるサウンドを、モノラルサウンドとしたが、実施の形態1で加工された左右のステレオサウンドとして、水平方向の定位もあわせて行なうようにしてもよい。
【0071】
(実施の形態4)
実施の形態4は、実施の形態1の構成に、さらにディスプレイの幅(m単位)とスピーカ間距離を構成情報として追加し、サウンド加工時に参照して、ボタンの水平方向における音源の定位の精度を上げるようにしている。
図15は、実施の形態4の構成を示す図である。
【0072】
本実施の形態におけるサウンド加工装置1600の構成は、構成情報バッファ1611と加工部1630とが実施の形態1と異なる。
以下では、実施の形態1との相違点だけ述べる。
図16(a)は、構成情報バッファ1611の例を示す図である。
図16(a)において、構成情報バッファ1611は、ディスプレイ幅1612、左右のスピーカ間距離1613からなる構成情報を格納している。構成情報バッファ1701への構成情報の書き込みは、前以って専用のツールにより行なう。
【0073】
図16(b)は、構成情報バッファ1611の例で示した数値をもとにディスプレイ1111、左スピーカ1112、右スピーカ1113を、図11と同様に示した図である。これらの図の相違点は、図11では、スピーカ間距離1713が、ディスプレイ1111の幅と同じであるが、図16(b)では指定値としている。
図16(b)におけるボタン1114が、ディスプレイ幅wをa:bに分割する位置にあるとする。ディスプレイ幅をw、スピーカ間距離をsとし、各スピーカはディスプレイの中心から等距離にあるとする。
【0074】
ボタン1114が、スピーカ間をm:nに分割するとすると、m:nは図16(b)に示すように
m:n = ((s−w)/2+aw/(a+b)) : ((s−w)/2+bw/(a+b))
となり、m、nは既知の値であるa,b,w,sにより算出できる。
式(3)で示す「Lの遅延時間」等の算出の際の前提である図11で示した分割比率a:bは、実際にはスピーカ間の分割比率である。
【0075】
したがって、加工部1630は、構成情報バッファ1611の構成情報を読み出して、m:nを算出する。そして、式(1)と(2)のaに上記で得たmの値を、またbにnの値をそれぞれ代入し、残った変数d、l、rについては実施の形態1と同様な値を代入して、式(3)と(4)からLの遅延時間とLの音の強度とを得る。
左右のスピーカが、ディスプレイの両端から離れている場合、図13で示したような、実施の形態1による定位のずれ1412、あるいは実施の形態2で示した補正の必要がなくなり、ボタンの水平方向の位置への定位が精度高く実現できる。
【0076】
以上、本発明を4つの実施の形態に基づいて説明してきたが、本発明は、それらに限定されないのはもちろんである。以下のような場合も本発明に含まれる。
実施の形態1では、表示情報バッファ102に、垂直方向の情報、たとえばビデオ高、ボタンの垂直位置、ボタン高も格納するとしたが、これらは実施の形態1だけでなく、実施の形態3,4においてはなくてもよい。逆に実施の形態2では、垂直方向の情報だけ格納するようにしてもよい。
【0077】
また、実施の形態では、定位するボタンの位置を、ボタンの中心の位置としたが、たとえばボタン幅がビデオ幅に対して所定の比率以下の時、たとえば5%以下のとき、ボタンの矩形領域の角、たとえば左上角の位置としてもよい。
ステレオサウンドのLの遅延、音の強度の設定を式(3)、(4)に基づいて行ったが、これらの式に限定されるものではないのは勿論であり、実験等から得られた式を適用してもよい。
【0078】
本発明の制御方法を、コンピュータシステムを用いて実現するためのコンピュータプログラムであるとしてもよいし、前記プログラムを表すデジタル信号であるとしてもよい。
また、本発明は、前記プログラム又は前記デジタル信号を記録したコンピュータ読取り可能な記録媒体、例えば半導体メモリ等であるとしてもよい。
また、本発明は、電気通信回線、無線又は有線通信回線、若しくはインターネットに代表されるネットワーク等を経由して伝送される前記コンピュータプログラム又は前記デジタル信号であるとしてもよい。
【産業上の利用可能性】
【0079】
本発明に係るサウンド加工装置は、再生機器に付属する装置として映画産業や再生機器の産業において高い利用可能性をもつ。
【図面の簡単な説明】
【0080】
【図1】実施の形態1のサウンド加工装置の構成を示す図である。
【図2】上記実施の形態の再生装置を含む再生システムを示す図である。
【図3】BD-ROMの構成を示す図である。
【図4】サウンドデータの内容を示す図である。
【図5】上記実施の形態の定位情報バッファの内容を示す図である。
【図6】上記実施の形態の画面とボタンとの関係を示す図である。
【図7】上記実施の形態のAVクリップの内容を示す図である。
【図8】上記実施の形態のICSの内容を示す図である。
【図9】上記実施の形態のODSの内容を示す図である。
【図10】上記実施の形態のボタンの表示とリモコンの一例を示す図である。
【図11】上記実施の形態のサウンドの加工のパラメタを示す図である。
【図12】上記実施の形態のサウンド加工装置の動作を示すフローチャートである。
【図13】実施の形態2の画面の表示位置と定位位置の関係を示す図である。
【図14】実施の形態3のフィルタの例を示す図である。
【図15】実施の形態4のサウンド加工装置の構成を示す図である。
【図16】上記実施の形態の追加定位情報バッファの内容を示す図である。
【符号の説明】
【0081】
100 サウンド加工装置
101 サウンドバッファ(Sound buffer)
102 表示情報バッファ
105 グラフィックスコントローラ(Graphics controller)
110 加工部
120 サウンドデータ(Sound data)
121 MPEG-2TSパケット(MPEG-2 Transport Stream Packet)
122 PIDフィルタ(PID Filter)
123-126 トランスポートバッファ(TB: Transport Buffer)
130 プレゼンテーショングラフィックスデコーダ(Presentation Graphics Decoder)
131 プレゼンテーショングラフィックスプレーン(Presentation Graphics Plane)
132 CLUT(Color LookUp Table:色参照テーブル)
140 ビデオデコーダ(Video Decoder)
141 ビデオプレーン(Video Plane)
150 インタラクティブグラフィックスデコーダ(Interactive Graphics Decoder)
151 インタラクティブグラフィックスプレーン((Interactive Graphics Plane)
152 CLUT
153 コーディッドデータバッファ(EB: Coded Data Buffer)
154 ストリームグラフィックスプロセッサ(Stream Graphics Processor)
155 コンポジションバッファ(CB: Composition Buffer)
156 復号オブジェクトバッファ(Decoded Object Buffer)
160 オーディオデコーダ(Audio Decoder)
161 ミキサ(audio Mixer)
210 BD−ROM
220 再生装置(Playback unit)
230 テレビ(TV)
240 リモコン(Remote Controller)
301 BD−ROMの構成
801 ICS(Interactive Composition Segment)
901 ODS(Object Definition Segment)
【出願人】 【識別番号】000005821
【氏名又は名称】松下電器産業株式会社
【住所又は居所】大阪府門真市大字門真1006番地
【出願日】 平成17年3月2日(2005.3.2)
【代理人】 【識別番号】100090446
【弁理士】
【氏名又は名称】中島 司朗

【公開番号】 特開2006−245936(P2006−245936A)
【公開日】 平成18年9月14日(2006.9.14)
【出願番号】 特願2005−57876(P2005−57876)