トップ :: H 電気 :: H04 電気通信技術




【発明の名称】 映像再生装置、方法およびプログラム
【発明者】 【氏名】山本 晃司

【要約】 【課題】容易な操作のみで短時間で正確なとばし見による視聴を行うこと。

【構成】映像再生装置であって、入力された映像データに含まれるフレームの特徴量を求め、フレーム間における特徴量の類似度合いに基づいて映像データを複数のフレームからなるシーンに分割するシーン分割部103と、シーンを、シーン間のシーンの特徴量の類似度合いに基づいて複数のシーンを含むグループに分類するシーン分類部104と、グループに属するシーンが反復して出現するか否かを判断し、反復して出現するシーンを、映像の意味的な単位のシーンを示す典型シーンとして選択する典型シーン選択部105と、利用者からスキップ入力を受け付けた場合に、現在の再生位置のフレームより再生時刻が後の時刻で、かつ最も近い位置の典型シーンのフレームに、再生位置を移動する再生位置制御部106とを備えた。
【特許請求の範囲】
【請求項1】
入力された映像データに含まれるフレームの特徴を示す第1特徴情報を前記フレームごとに求め、前記フレーム間における前記第1特徴情報の類似度合いに基づいて、前記映像データを複数のフレームからなるシーンに分割するシーン分割部と、
前記シーンごとに前記シーンの特徴を示す第2特徴情報を求め、前記シーンを、前記シーン間の前記第2特徴情報の類似度合いに基づいて複数の前記シーンを含むグループに分類するシーン分類部と、
前記グループに属する前記シーンが反復して出現するか否かを判断し、反復して出現する前記シーンを、映像の意味的な単位のシーンを示す典型シーンとして選択する典型シーン選択部と、
利用者から、前記映像データの前記フレームをとばして視聴する旨を指示するスキップ入力を受け付ける入力受付け部と、
前記スキップ入力を受け付けた場合に、前記典型シーンの中で、現在のフレームより再生時刻が後の時刻であって、かつ最も近い位置の前記典型シーンのフレームに、再生位置を移動する再生位置制御部と、
を備えたことを特徴とする映像再生装置。
【請求項2】
前記典型シーン選択部は、前記グループに含まれるシーン数または合計時間、あるいは前記映像データに対するシーン数または合計時間の割合が、反復して出現するシーンが満たすべき第1基準を満たすか否かを判断し、前記第1基準を満たす前記グループの前記シーンを前記典型シーンとして選択することを特徴とする請求項1に記載の映像再生装置。
【請求項3】
前記典型シーン選択部は、さらに、前記第1基準を満たすグループの前記シーンと既に前記典型シーンとして選択されているグループの前記シーンとの時間的分布の重複度合いが、前記典型シーンが満たすべき第3基準を満たすか否かを判断し、前記第3基準を満たすグループの前記シーンを、前記典型シーンとして選択することを特徴とする請求項2に記載の映像再生装置。
【請求項4】
前記再生位置制御部は、前記スキップ入力を受け付けた場合に、前記典型シーンの中で、現在のフレームより再生時刻が後の時刻であって、かつ最も近い位置の前記典型シーンを選択し、選択された前記典型シーンの直前のシーンが、反復して出現するシーンが満たすべき第4基準を満たす場合に、前記直前のシーンのフレームに、前記再生位置を移動することを特徴とする請求項1に記載の映像再生装置。
【請求項5】
前記映像データの映像内容と、前記典型シーンからの前記再生位置の変位量とを対応付けた変位情報を記憶する変位情報記憶部と、
入力された前記映像データの前記映像内容を取得する映像内容取得部と、をさらに備え、
前記再生位置制御部は、前記スキップ入力を受け付けた場合に、前記典型シーンの中で、現在のフレームより再生時刻が後の時刻であって、かつ最も近い位置の前記典型シーンのフレームから、取得した前記映像内容に対応する前記変位量を加えた位置に前記再生位置を移動することを特徴とする請求項1に記載の映像再生装置。
【請求項6】
前記典型シーンの特徴を示す第3特徴情報が、特徴的典型シーンを選択するための第5基準を満たすか否かを前記典型シーンごとに判断し、前記第3特徴情報が前記第5基準を満たす前記典型シーンを前記特徴的典型シーンとして選択する特徴的典型シーン選択部を更に備え、
前記再生位置制御部は、前記特徴的典型シーンのフレームに前記再生位置を移動することを特徴とする請求項1に記載の映像再生装置。
【請求項7】
前記第3特徴情報は、前記映像データに含まれる音声情報であり、
前記特徴的典型シーン選択部は、前記典型シーンの前記音声情報が前記第5基準を満たすか否かを判断することを特徴とする請求項6に記載の映像再生装置。
【請求項8】
前記第3特徴情報は、前記典型シーンの時間的な分布の密度であり、
前記特徴的典型シーン選択部は、前記典型シーンの時間的な分布の密度が前記第5基準を満たすか否かを判断し、前記時間的な分布の密度によって分類されるグループの先頭または最後の前記典型シーンを前記特徴的典型シーンとして選択することを特徴とする請求項6に記載の映像再生装置。
【請求項9】
前記映像データの中の広告映像の区間を取得する広告区間情報取得部を更に備え、
前記第3特徴情報は、前記広告映像の区間を除外した前記典型シーンの時間的な分布の密度であることを特徴とする請求項8に記載の映像再生装置。
【請求項10】
入力された映像データに含まれるフレームの特徴を示す第1特徴情報を前記フレームごとに求め、前記フレーム間における前記第1特徴情報の類似度合いに基づいて、前記映像データを複数のフレームからなるシーンに分割するステップと、
前記シーンごとに前記シーンの特徴を示す第2特徴情報を求め、前記シーンを、前記シーン間の前記第2特徴情報の類似度合いに基づいて複数の前記シーンを含むグループに分類するステップと、
前記グループに属する前記シーンが反復して出現するか否かを判断し、反復して出現する前記シーンを、映像の意味的な単位のシーンを示す典型シーンとして選択するステップと、
利用者から、前記映像データの前記フレームをとばして視聴する旨を指示するスキップ入力を受け付けるステップと、
前記スキップ入力を受け付けた場合に、前記典型シーンの中で、現在のフレームより再生時刻が後の時刻であって、かつ最も近い位置の前記典型シーンのフレームに、再生位置を移動するステップと、
を含むことを特徴とする映像再生方法。
【請求項11】
入力された映像データに含まれるフレームの特徴を示す第1特徴情報を前記フレームごとに求め、前記フレーム間における前記第1特徴情報の類似度合いに基づいて、前記映像データを複数のフレームからなるシーンに分割するステップと、
前記シーンごとに前記シーンの特徴を示す第2特徴情報を求め、前記シーンを、前記シーン間の前記第2特徴情報の類似度合いに基づいて複数の前記シーンを含むグループに分類するステップと、
前記グループに属する前記シーンが反復して出現するか否かを判断し、反復して出現する前記シーンを、映像の意味的な単位のシーンを示す典型シーンとして選択するステップと、
利用者から、前記映像データの前記フレームをとばして視聴する旨を指示するスキップ入力を受け付けるステップと、
前記スキップ入力を受け付けた場合に、前記典型シーンの中で、現在のフレームより再生時刻が後の時刻であって、かつ最も近い位置の前記典型シーンのフレームに、再生位置を移動するステップと、
をコンピュータに実行させる映像再生プログラム。
【発明の詳細な説明】【技術分野】
【0001】
本発明は、映像データを再生する際に、利用者によるスキップ入力によって、映像をとばして再生する映像再生装置、方法およびプログラムに関する。
【背景技術】
【0002】
近年、放送の多チャンネル化等、情報インフラの発展により、多くの映像コンテンツが流通するようになっている。一方で、映像録画装置についても、ハードディスク・レコーダーやチューナー搭載パソコンの普及によって、映像コンテンツをデジタルデータとして保存し、デジタル化された映像コンテンツの解析処理を行うことで、種々の視聴方法が可能となってきている。
【0003】
このような映像データの解析処理の一例として、映像中の場面であるシーンの類似性を利用した技術がある。特に、一部のスポーツ中継の映像では、カメラが固定されており、同じ動作が繰り返されるため、類似したシーンが何度も現れる。例えば、野球中継の投球シーンやテニス中継のサーブのシーン等が該当する。これらのシーンはそのスポーツにおいて、1つのプレイの開始となるシーンであり、映像の意味的な区切りと言える。このため、この映像の意味的な区切りの単位で映像のとばし見を行えば、映像を短時間で効率よく視聴することができる。
【0004】
このようなシーンの類似性を用いた第1の従来技術として次のような技術が開示されている。第1の従来技術では、複数のシーンをその類似性に基づいてグループに分類し、グループの代表フレームを一覧表示する。そして、利用者は、この一覧表示から、視聴したい場面をブラウジングして検索し、グループを選択して、選択したグループに含まれるシーンを表示したり、ダイジェストとして、順次、シーンを再生する(例えば、特許文献1参照)。
また、第2の従来技術では、複数のシーンをその類似性に基づいてグループに分類し、分類されたシーンに対してグループごとに同じIDを付与し、映像中のIDの並びをデータベースと照合する。そして、照合の結果、特定のパターンが出現したときにイベント(ホームランなど)発生などの意味を持つシーン群として検出するものである(例えば、特許文献2参照)。
【0005】
【特許文献1】特開2003−283968号公報
【特許文献2】特開2004−336556号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかしながら、これらの従来技術には次のような問題がある。第1の従来技術では、野球中継をとばし見する場合には、一覧表示されたグループの代表フレームの中から、毎回、投球シーンに該当するグループを利用者が自ら選択しなければならない。このためには視聴画面と別に、選択画面を表示する必要があり、インタフェースや操作が煩雑となる。
【0007】
また、操作に不慣れな利用者にとっては、多数のシーンの中から所望のシーンを探索したり、選択したりする操作が負担となるという問題がある。
【0008】
また、第2の従来技術では、予め投球シーンとそれに続くシーンのIDの並びのパターンをデータベースに登録しておかなければならない。しかしながら、投球シーンに続くシーンは打撃結果によって様々なシーンがあり得るため、全てのパターンを予期して網羅的にデータベースに登録しておくことは困難であり、その結果、所望のシーンを検出することができないという問題がある。
【0009】
本発明は、上記に鑑みてなされたものであって、容易な操作のみで短時間で正確なとばし見による視聴を行うことができる映像再生装置、方法およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0010】
上述した課題を解決し、目的を達成するために、本発明にかかる映像再生装置は、入力された映像データに含まれるフレームの特徴を示す第1特徴情報を前記フレームごとに求め、前記フレーム間における前記第1特徴情報の類似度合いに基づいて、前記映像データを複数のフレームからなるシーンに分割するシーン分割部と、前記シーンごとに前記シーンの特徴を示す第2特徴情報を求め、前記シーンを、前記シーン間の前記第2特徴情報の類似度合いに基づいて複数の前記シーンを含むグループに分類するシーン分類部と、前記グループに属する前記シーンが反復して出現するか否かを判断し、反復して出現する前記シーンを、映像の意味的な単位のシーンを示す典型シーンとして選択する典型シーン選択部と、利用者から、前記映像データの前記フレームをとばして視聴する旨を指示するスキップ入力を受け付ける入力受付け部と、前記スキップ入力を受け付けた場合に、前記典型シーンの中で、現在のフレームより再生時刻が後の時刻であって、かつ最も近い位置の前記典型シーンのフレームに、再生位置を移動する再生位置制御部と、を備えたことを特徴とする。
【0011】
また、本発明は、上記映像再生装置で実行される映像再生方法およびプログラムである。
【発明の効果】
【0012】
本発明によれば、容易な操作のみで短時間で正確なとばし見による視聴を行うことができるという効果を奏する。
【発明を実施するための最良の形態】
【0013】
以下に添付図面を参照して、この発明にかかる映像再生装置、方法およびプログラムの最良な実施の形態を詳細に説明する。
【0014】
(実施の形態1)
図1は、実施の形態1にかかる映像再生装置の機能的構成を示すブロック図である。本実施の形態にかかる映像再生装置100は、DVDメディアやハードディスクドライブ装置などの記憶媒体に記録された映像データ、あるいはネットワークにより受信した映像データの再生を行うものである。ここで、映像データは、複数のフレームの画像と音声とから構成されている。
【0015】
本実施の形態にかかる映像再生装置100は、図1に示すように、映像入力部102と、シーン分割部103と、シーン分類部104と、典型シーン選択部105と、再生位置制御部106と、入力受付部107と、表示制御部108と、キーボードやマウス、各種ボタン等を備えたリモートコントローラ等の入力装置110と、ディスプレイ装置等の表示装置120とを主に備えている。
【0016】
映像入力部102は、DVDメディアやハードディスクドライブ装置などの記憶媒体に記録された映像データ101、あるいはネットワークにより受信した映像データ101の入力を行う処理部である。
【0017】
まず、本実施の形態にかかる映像再生装置100による映像再生処理の概要について説明する。図2は、本実施の形態にかかる映像再生装置100により野球中継番組の映像再生における操作例を示す説明図である。図2において、映像データ101中では、右に向かって時間が進行するものとする。斜線部202は、投球シーンを示す。投球シーンはピッチャーの後方からバッター方向を撮影したシーンである。野球中継では投球の度にこの投球シーンに切り替わることが多く、カメラの位置や向きは毎回ほぼ同じである。このため、野球中継番組中、繰り返し反復して複数回の投球シーンが出現する。このように、本実施の形態では、映像データ中に複数回反復して出現するシーンを典型シーンとする。
【0018】
203は野球中継番組の映像データにおける典型シーンとしての投球シーンの先頭フレームを示している。野球の1プレイは、これらの投球から始まり、打撃の結果で終わると考えることができる。そして、これらのプレイとプレイの間は動きのない区間となる。例えば、同じバッターに対する次の投球までの時間、アウトやチェンジになってバッターやチームが入れ替わる時間、ホームインした後の盛り上がりが落ち着いて、次のバッターになるまでの時間などが動きのない区間に相当する。そして、この動きのない区間を飛ばして視聴することができれば、大幅に視聴時間を減らすことができる。205は利用者が動きがなくなったと判断し、スキップの入力指示を与えた時点を示す。本実施の形態にかかる映像再生装置100では、利用者によるスキップ入力指示があった場合に、矢印の区間だけ映像データのフレームをスキップし、次の投球シーンから再生される。このように本実施の形態では、スキップ入力指示があるたびに、次の典型シーンまでスキップすることで、投球シーンという意味的な単位で映像データを飛ばして視聴することができる。
【0019】
また、本実施の形態にかかる映像再生装置100では、スキップをするかどうかはあくまで利用者の判断に委ねられるため、視聴したいシーンが誤ってスキップされたり、もう少し続きを見たいときに勝手に次のシーンにスキップしたりすることがない。このため、本実施の形態にかかる映像再生装置100によれば、次々とシーンを自動的にスキップしながら再生するダイジェスト再生と比較して、主体性を持って視聴することができる。
【0020】
次に、図1に戻り、本実施の形態にかかる映像再生装置100の機能的構成について説明する。シーン分割部103は、入力された映像データ101を、映像データ101に含まれるフレームの特徴量(第1特徴情報)を抽出し、フレーム間におけるフレームの特徴を示す特徴量(第1特徴情報)の類似度合いに基づいて、複数のフレームからなるシーンに分割する処理部である。
【0021】
まず、シーン分割部103によるフレームの特徴量抽出について説明する。図3は、入力された映像データからの特徴量抽出について説明するための模式図である。
【0022】
301は映像データ101のフレームを順次並べたものである。これらの映像データのフレーム301の中から直接特徴量を抽出することもできるが、本実施の形態では、シーン分割部103は時間的サンプリングおよび空間的にサンプリングを行うことで処理量を削減しつつ、特徴量を抽出している。時間的サンプリングは302のように映像データの一部のフレームを抽出して処理する。具体的には、時間的サンプリングは、映像データのフレームを一定間隔で抽出する他、MPEGのIピクチャだけを抽出するように構成することができる。303は抽出された1フレームを示す。そして、シーン分割部103は、抽出されたフレーム303を縮小してサムネール画像304を生成して空間的にサンプリングする。この空間的サンプリングは、複数の画素の平均値を求めてフレーム303を縮小する他、MPEGのIピクチャのDCT係数のDC成分だけを復号化して算出するように構成してもよい。そして、シーン分割部103は、このサムネール画像を複数のブロックに分割し、ブロックごとに色のヒストグラム分布305を求める。この色ヒストグラム分布をフレーム303の特徴量として求めている。
【0023】
次に、シーン分割部103によるフレームの特徴量の類似度合いに基づいたシーン分割は次のように行われる。シーン分割部103は、時間的にサンプリングした2つのフレーム302の特徴量を比較することにより類似度合いを求めてシーン分割する。具体的には、シーン分割部103は、2つのフレームの特徴量の距離を算出し、この距離が第1閾値より小さい場合には、2つのフレームは類似していると判断して同一シーンとし、距離が第1閾値より大きければ2つのフレームは類似していないと判断して異なるシーンとして2つのフレームを分割する。これを、サンプリングされた全てのフレームに対して行うことにより、フレームをシーンに分割している。
【0024】
ここで、特徴量の距離としては、例えば、ユークリッド距離を用いる。フレームiのa番目ブロックのヒストグラムにおけるb番目の頻度をh(a,b)とすると、ユークリッド距離dは次の(1)式で算出される。
【0025】
【数1】


【0026】
図1に戻り、シーン分類部104は、シーンごとに、シーンの特徴を示す特徴量(第2特徴情報)を求め、シーンを、シーン間の特徴量の類似度合いに基づいて複数のシーンを含むグループに分類する処理部である。具体的には、シーン分類部104は、シーンの特徴量として、シーンの先頭フレームの画像の特徴量を用い、任意の2つのシーンの特徴量で定められる上述したユークリッド距離が予め定められた第2の閾値より小さい場合に、2つのシーンは類似しているとして2つのシーンを統合して1つのグループにする。一方、シーン分類部104は、上記ユークリッド距離が第2の閾値より大きい場合には、2つのシーンは類似していないと判断して、2つのシーンを異なるグループに分類する。このような処理をすべてのシーンに対して行うことにより、類似するシーンのグループ同士が順次統合され、シーンが分類される。
【0027】
なお、本実施の形態では、シーンの特徴量として、シーンの先頭フレームの画像の特徴量を用いているが、これに限定されるものではなく、シーン中のいずれのフレームの特徴量を用いてもよい。
【0028】
典型シーン選択部105は、グループに属するシーンが予め定められた第1基準以上反復して出現するか否かを判断し、第1基準に基づいて反復して出現するシーンを、典型シーンとして選択し、選択された全ての典型シーンを時間順にソートして典型シーンデータとしてメモリ等の記憶媒体に保存する処理部である。ここで、典型シーンとは、第1基準に基づいて反復して出現し、映像の意味的な単位のシーンである。
【0029】
具体的には、典型シーン選択部105は、グループに属するシーンが第1基準以上反復して出現するか否かを、グループに含まれるシーン数または合計時間の割合、あるいは映像データ101に対するシーン数または合計時間の割合が第1基準としての一定の割合以上であるか否かを調べることにより行う。
【0030】
図4は、典型シーンデータの一例を示す説明図である。典型シーンデータ401は、図4に示すように、典型シーン402として選択されたシーンの開始フレームの時刻が時間順に並んでいる。なお、フレームを一意に特定することが可能であれば、時刻の代わりにフレーム番号などを用いて典型シーンを示すように構成してもよい。
【0031】
入力受付部107は、利用者による入力装置110の操作をイベント等により受け付ける処理部であり、本実施の形態では、利用者の入力装置110の操作による映像のとばし見を指示するスキップ入力をイベント等により受け付ける。
【0032】
再生位置制御部106は、スキップ入力を受け付けた場合に、典型シーンの中で、現在の再生位置のフレームより再生時刻が後の時刻で、かつ最も近い位置の典型シーンのフレームに、再生位置を移動する処理部である。
【0033】
ここで、現在のフレームの再生時刻を、00:02:00.00とすると、図4の典型シーンの例では、典型シーン402が現在フレームより、後の時刻で、かつ最初の典型シーンなので、典型シーン402が再生位置の移動先となる。なお、典型シーンの開始フレームから前後に予め定められた時間あるいはフレーム数だけ、ずらした位置を再生位置の移動先とするように構成してもよい。
【0034】
表示制御部108は、表示装置120に対する各種データの表示制御を行う処理部である。本実施の形態では、再生位置制御部106で制御される再生位置から映像データ101を表示装置120に表示する制御を行う。
【0035】
次に、以上のように構成された本実施の形態にかかる映像再生装置100による映像再生処理について説明する。図5は、実施の形態1にかかる映像再生処理の全体の流れを示すフローチャートである。
【0036】
まず、映像入力部102により映像データ101の入力を行う(ステップS1)。そして、シーン分割部103により入力された映像データ101からフレームの特徴量を算出し、特徴量が類似する連続フレームの集合であるシーンに分割するシーン分割処理を行う(ステップS2)。次に、シーン分類部104によって、シーンの特徴量を算出しその類似度合いによって、シーンをグループに分類するシーン分類処理を行う(ステップS3)。次に、典型シーン選択部105によって、グループに含まれるシーンが第1基準以上の反復を伴うグループを選択して、当該グループに含まれるシーンを典型シーンとする典型シーン選択処理を行う(ステップS4)。次に、入力受付部107でスキップ入力指示を受け付けたか否かを調べ(ステップS5)、スキップ入力指示を受け付けた場合には(ステップS5:Yes)、再生位置制御部106により、典型シーンデータに基づいて、再生位置の移動先を求めるスキップ位置算出処理を行い(ステップS6)、現在の再生位置をステップS6で算出された移動先に移動する(ステップS7)。
【0037】
一方、ステップS5において、ステップ入力の受付けがない場合には(ステップS5:No)、映像データが現在再生中か調べ(ステップS8)、再生が終了している場合には(ステップS8:No)、全体の処理を終了し、再生中である場合には(ステップS8:Yes)、ステップS5へ戻る。
【0038】
次に、ステップS2のシーン分割処理について説明する。図6は、実施の形態1のシーン分割部103によるシーン分割処理の手順を示すフローチャートである。以下のフローチャートにおいて、iは処理対象のフレームを示し、i=1,2,...N(初期値i=1)である。Nはフレームの総数である。ここで、処理対象のフレームとは、上述した時間的にサンプリングしたフレームである。
【0039】
まず、シーン分割部103は、フレームiとフレームi+1の各特徴量を求め、2つのフレームの特徴量のユークリッド距離を(1)式から算出する(ステップS11)。そして、ユークリッド距離が第1閾値より大きいか否かを調べる(ステップS12)。そして、ユークリッド距離が第1閾値より大きい場合には、フレームiとフレームi+1は類似しないと判断して、フレームiとフレームi+1の間でシーンを分割する(ステップS13)。すなわち、フレームiとフレームi+1を異なるシーンとする。
【0040】
一方、ステップS12で、ユークリッド距離が第1閾値以下である場合には(ステップS12:No)、フレームiとフレームi+1の間でシーンを分割せずに、両フレームを同一のシーンとする。
【0041】
そして、かかるステップS11からS13までの処理を、サンプリングされた全てのフレームについて完了したか否かを調べ(ステップS14)、まだ完了していない場合には、処理対象のフレームiを次にフレームi+1に設定して(ステップS15)、ステップS11からS13までの処理を繰り返す。このようにして、ステップS11からS13までの処理を、サンプリングされた全てのフレームについて実行することにより、複数のフレームをシーンが分割される。
【0042】
次に、ステップS7のシーン分類部104によるシーン分類処理について説明する。図7は、実施の形態1のシーン分類処理の手順を示すフローチャートである。以下のフローチャートにおいて、iは処理対象のシーンを示し、i=1,2,...N(初期値i=1)である。Nはシーンの総数である。
【0043】
まず、シーン分類部104は、シーンjをシーンi+1とし(ステップS21)、シーンiとシーンの特徴量(各シーンの先頭フレームの特徴量)を求め、各シーンの特徴量のユークリッド距離を(1)式で求めて、求めたユークリッド距離が第2閾値以下であるか否かを調べる(ステップS22)。
【0044】
そして、ユークリッド距離が第2閾値以下である場合には(ステップS22:Yes)、シーンiとシーンjは類似していると判断して、シーンiの属するグループとシーンjの属するグループとを統合して一つのグループとする(ステップS23)。
【0045】
一方、ステップS22において、ユークリッド距離が第2閾値以下である場合には(ステップS22:No)、シーンiとシーンjは類似していない判断して、シーンiの属するグループとシーンjの属するグループとの統合は行わず別のグループとする。
【0046】
次いで、シーンjが映像データ中の最終のシーンであるか否かを調べる(ステップS24)。そして、最終のシーンでない場合、すなわち、j<Nの場合には(ステップS24:No)、j=j+1とすることによってシーンjを更新し(ステップS25)、ステップS22〜S24までの処理を繰り返す。
【0047】
一方、ステップS24において、シーンjが映像データ中の最終のシーンである場合、すなわち、j=Nの場合には(ステップS24:Yes)、i=i+1とすることによってシーン iを更新し(ステップS26)、処理対象を次のシーンとする。そして、シーンiが映像データ中の最終のシーンであるか否かを調べる(ステップS27)。
【0048】
そして、シーンiが映像データ中の最終のシーンでない場合には(ステップS27:No)、ステップS21からS26までの処理を繰り返す。一方、シーンiが映像データ中の最終のシーンである場合には(ステップS27:Yes)、処理を終了する。これにより、類似するシーンのグループ同士が順次統合されていき、その結果、シーンが分類されることになる。
【0049】
次に、ステップS4の典型シーン選択部105による典型シーン選択処理について説明する。図8は、実施の形態1の典型シーン選択処理の手順を示すフローチャートである。以下のフローチャートにおいて、iは処理対象のグループを示し、i=1,2,...N(初期値i=1)である。Nはグループの総数である。
【0050】
まず、典型シーン選択部105は、グループiに第1基準以上の反復があるシーンが存在するか否かを調べる(ステップS31)。ここで、第1基準以上の反復があるか否かについては、上述したように、グループに含まれるシーン数または合計時間の割合、あるいは映像データ101に対するシーン数または合計時間の割合が第1基準としての予め定められた一定の割合以上であるか否かを調べることにより判断する。すなわち、シーン数または合計時間の割合が一定割合以上であれば、第1基準以上の反復があると判断し、シーン数または合計時間の割合が一定割合より小さければ第1基準以上の反復がないと判断する。
【0051】
そして、グループiに第1基準以上の反復があるシーンが存在する場合には(ステップS31:Yes)、グループiに含まれるシーンを典型シーンとして選択する(ステップS32)。一方、グループiに第1基準以上の反復があるシーンが存在しない場合には(ステップS31:No)、典型シーンとしての選択は行わない。
【0052】
そして、全てのグループに対して上記ステップS31からS33までの処理を完了したか否かを調べ(ステップS33)、完了していない場合には(ステップS33:No)、i=i+1とすることによりiを更新し(ステップS34)、処理対象を次のグループとして、ステップS31からS33までの処理を繰り返し行う。
【0053】
一方、ステップS33において、全てのグループに対して上記ステップS31からS33までの処理を完了したと判断した場合には(ステップS33:Yes)、典型シーンを時間順に並べ換えて(ステップS35)、図4に示す典型シーンデータを生成してメモリ等の記憶媒体に保存し、処理を終了する。以上のような処理により、典型シーンが選択されることになる。
【0054】
次に、ステップS6における再生位置制御部106によるスキップ位置算出処理について説明する。図9は、スキップ位置算出処理の手順を示すフローチャートである。以下のフローチャートにおいて、iは処理対象の典型シーンを示し、i=1,2,...N(初期値i=1)である。Nは典型シーンの総数である。
【0055】
まず、再生位置制御部106は、典型シーンiが現在の再生位置のフレーム(現在のフレーム)より前の時刻に存在するか否かを調べる(ステップS41)。そして、典型シーンiが現在の再生位置のフレームより後の時刻に存在する場合には(ステップS41:No)、典型シーンiの先頭フレームを再生位置の移動先(スキップ先)の位置とする(ステップS44)。
【0056】
一方、ステップS41において、典型シーンiが現在の再生位置のフレームより前の時刻に存在する場合には(ステップS41:Yes)、i=i+1としてiを更新し(ステップS42)、処理対象を次の典型シーンとして、全ての典型シーンについてステップS41、S42の処理を繰り返し行う(ステップS43)。
【0057】
以上のような処理により、再生位置の移動先が決定され、上述したステップS7において、かかる移動先に再生位置を移動して映像データを再生することになる。
【0058】
このように実施の形態1にかかる映像再生装置100では、利用者は、映像データ視聴しながら入力装置110のスキップボタン等によりをスキップ入力を行って、次の意味的な区切りである典型シーンに再生位置を次々と移動することができるので、短時間で正確に映像データを再生することができる。
【0059】
例えば、野球中継番組の映像データの例では、典型シーンを投球シーンとして選択することができ、ある投球に対する結果(見送り、三振、ヒットなど)が判別したら、すぐに次の典型シーンである投球シーンに再生位置を移動してスキップすることができ、その間の動きのない区間の映像のフレームを飛ばすことができる。このため、利用者が行う操作はスキップ入力というボタンを1つの押下のみであり、映像再生装置に不慣れな利用者であっても操作が容易となる。また、再生位置を移動するか否かは利用者の意志によって判断されるため、従来技術のようなシーンが次々と切り替わる自動的なダイジェスト再生と異なり、利用者の主体性を保持することが可能となる。
【0060】
(実施の形態1の変形例)
次に、上述した実施の形態1にかかる映像再生装置の種種の変形例について説明する。図10は、実施の形態1の変形例にかかる映像再生装置1000の機能的構成を示すブロック図である。
【0061】
実施の形態1の変形例にかかる映像再生装置1000は、図10に示すように、映像入力部102と、シーン分割部1003と、シーン分類部104と、典型シーン選択部1005と、再生位置制御部1006と、入力受付部107と、表示制御部108と、キーボードやマウス、各種ボタン等を備えたリモートコントローラ等の入力装置110と、ディスプレイ装置等の表示装置120とを主に備えている。なお、映像入力部102、入力受付部107、シーン分類部104、表示制御部108、入力装置110、表示装置120の機能および構成については実施の形態1と同様である。
【0062】
(変形例1)
変形例1では、シーン分割部1003のシーン分割処理が実施の形態1と異なっている。
【0063】
シーン分割部1003は、2つのフレームの特徴量が予め定められた第2基準を満たすか否かを判断し、満たさない場合に、2つのフレームのそれぞれを異なるシーンに分割し、第2基準を満たす場合に、2つのフレームは同一のシーンであると判断する処理部である。
【0064】
図11は、実施の形態1の変形例におけるフレームの特徴量抽出を説明するための模式図である。シーン分割部1003では、図4に示したサムネール画像を1101のように縦方向に分割する。各領域内で色が一定の条件を満たす画素の数をカウントし、1102に示すヒストグラム分布を求め、このヒストグラム分布としてのヒストグラムの頻度の合計値、すなわちフレーム全体に占める特定の色の割合を特徴量とする。なお、特徴量は、ヒストグラムの頻度の合計値に限定されるものではない。
【0065】
例えば、白い文字によるテロップが1103のように左右に縦に表示されており、条件を輝度が一定以上の白い画素だとすると特徴量は、1102のように左右に2つのピークを持つ分布となる。尚、本実施の形態では、サムネイル画像を縦方向に分割しているが、これに限定されるものではなく、横方向や格子状に分割するように構成してもよい。
【0066】
そして、シーン分割部1003は、このようにして求めた特徴量が第2基準を満たすか否かを判断する。ここで、第2基準を満たすか否かは、ヒストグラムの頻度の合計値、すなわちフレーム全体に占める特定の色の割合が一定の割合以上であるか否かで判断する。そして、第2基準を満たす特徴量のフレームは互いに類似しているとし、第2基準を満たさないフレームは、第2基準を満たすフレームと類似しないとして異なるシーンとしてシーン分割する。
【0067】
次に、この変形例1のシーン分割部1003によるシーン分割処理について説明する。図12は、実施の形態1の変形例1のシーン分割処理の手順を示すフローチャートである。以下のフローチャートにおいて、iは処理対象のフレームを示し、i=1,2,...N(初期値i=1)である。Nはフレームの総数である。
【0068】
まず、シーン分割部1003は、フレームiの特徴量を上述のように求め、求めた特徴量が第2基準を満たすか否かを判断する(ステップS51)。すなわち、フレーム全体に占める特定の色の割合が一定の割合以上であるか否かを判断する。
【0069】
そして、フレームiの特徴量が第2基準を満たさない場合(ステップS51:No)、すなわち、フレーム全体に占める特定の色の割合が一定の割合に達しない場合には、i=i+1として次のフレームを処理対象とする(ステップS57)。そして、全てのフレームについてS51、S57処理が完了したか否かを調べ(ステップS58)、完了していない場合には、ステップS51に戻り、次のフレームに対して同様の処理を行う。
【0070】
一方、ステップS58において、全てのフレームについてS51、S57の処理が完了している場合には(ステップS58:Yes)、処理を終了する。
【0071】
ステップS51に戻り、フレームiの特徴量が第2基準を満たす場合(ステップS51:Yes)、すなわちフレーム全体に占める特定の色の割合が一定の割合以上である場合には、フレームiをシーンの開始点とする(ステップS52)。そして、i=i+1として次のフレームを処理対象とする。全てのフレームについて処理が完了したか否を調べ、完了している場合には、最終フレームをシーンの終了点とする(ステップS59)。
【0072】
一方、ステップS54において、まだ全てのフレームについて処理が完了していない場合には、次のフレームであるフレームiが第2基準を満たすか否かを判断する(ステップS55)。そして、フレームiが第2基準を満たす場合には(ステップS55:Yes)、ステップS53,S54の処理を繰り返す。
【0073】
一方、ステップS55において、フレームiが第2基準を満たさない場合には(ステップS55:No)、当該フレームは、直前のフレームと類似しないと判断して、フレームiの直前をシーンの終了点とし(ステップS56)、ステップS51へ戻る。
【0074】
以上のような処理により、複数のフレームをシーンが分割される。
【0075】
(変形例2)
変形例2では、典型シーン選択部1005による典型シーン選択処理が実施の形態1と異なっている。
【0076】
この変形例2では、典型シーン選択部1005は、グループに属するシーンが第1基準に基づいて反復して出現するか否かを判断し、第1基準に基づいて反復して出現するシーンと既に典型シーンとして選択されているグループのシーンとの時間的分布の重複度合いが予め定められた第3基準を満たす場合に、反復して出現するシーンを典型シーンとして選択する処理を行う。第1基準の具体的な判断としては、グループに含まれるシーンの総数が定められた閾値を超えているかを判断したり、グループに含まれるシーンの総時間が映像データの時間に対して一定以上の割合を占めるかを調べることにより行う。
【0077】
また、第3基準による重複度合いの判断は、次のように行う。グループiのシーンが分布する範囲をti1〜ti2(秒)、グループjのシーンが分布する範囲をtj1 〜tj2(秒)とする。tj1〜tj2に存在するグループiのシーン数をsi、ti1 〜ti2に存在するグループjのシーン数をsjとする。このとき、S=si +sjを重複するシーン数とし、Sが一定の閾値以下であれば、重複が第3基準以下であるとする。
【0078】
図13は、実施の形態1の変形例の典型シーン選択処理の手順を示すフローチャートである。以下のフローチャートにおいて、iは処理対象のグループを示し、i=1,2,...N(初期値i=1)である。Nはグループの総数である。
【0079】
まず、典型シーン選択部1005は、グループiに第1基準以上の反復があるシーンが存在するか否かを調べる(ステップS61)。そして、グループiに第1基準以上の反復があるシーンが存在しない場合には(ステップS61:No)、グループiに対して典型シーンの選択は行わず、ステップS64の処理を行う。
【0080】
一方、ステップS61において、グループiに第1基準以上の反復があるシーンが存在する場合には(ステップS61:Yes)、既に典型シーンとして選択済みのグループの典型シーンとの重複が第3基準以下であるか否かを調べる(ステップS62)。そして、グループiに第3基準より大きい反復があるシーンが存在する場合には(ステップS62:No)、既に典型シーンとして選択済みのグループの典型シーンとの重複が第3基準より大きい場合には(ステップS62:No)、ステップS61に戻る。
【0081】
一方、既に典型シーンとして選択済みのグループの典型シーンとの重複が第3基準以下である場合には(ステップS62:Yes)、グループiに含まれるシーンを典型シーンとして選択する(ステップS63)。
【0082】
そして、全てのグループに対してステップS61からS63までの処理が完了したか否かを調べ(ステップS64)、完了していなければ、i=i+1としてiの更新を行って(ステップS65)、次のグループを処理対象とし、ステップS61からS63までを繰り返す。一方、全てのグループに対してステップS61からS63までの処理が完了している場合には、典型シーンを時間順に並べ換えて(ステップS66)、図4に示す典型シーンデータを生成してメモリ等の記憶媒体に保存し、処理を終了する。以上のような処理により、典型シーンが選択されることになる。
【0083】
(変形例3)
変形例3では、再生位置制御部1006によるスキップ位置算出処理が実施の形態1と異なっている。
【0084】
変形例3の再生位置制御部1006は、スキップ入力を受け付けた場合に、典型シーンの中で、現在の再生位置のフレームより再生時刻が後の時刻で、かつ最も近い位置の典型シーンを選択し、選択された典型シーンの直前のシーンが予め定められた第4基準を満たす反復がある場合に、直前のシーンのフレームに、再生位置を移動する処理を行う。ここで、第1基準については、実施の形態1と同様である。第4基準による判断としては、例えば、シーンの属するグループに含まれるシーンの総数が定められた閾値を超えているかを調べたり、グループに含まれるシーンの総時間が元映像の時間に対して一定以上の割合を占めるかを調べることで判断する。
【0085】
次に、変形例3の再生位置制御部1006によるスキップ位置算出処理について説明する。図14は、実施の形態1の変形例のスキップ位置算出処理の手順を示すフローチャートである。以下のフローチャートにおいて、iは処理対象の典型シーンを示し、i=1,2,...N(初期値i=1)である。Nは典型シーンの総数である。
【0086】
まず、再生位置制御部1006は、典型シーンiが現在の再生位置のフレームより前の時刻に存在するか否かを調べる(ステップS71)。そして、典型シーンiが現在の再生位置のフレームより後の時刻に存在する場合には(ステップS71:No)、典型シーンiの直前のシーンが第4基準以上の反復があるか否かを調べる(ステップS74)。そして、直前のシーンが第4基準以上の反復がない場合には(ステップS74:No)、典型シーンiの先頭フレームを再生位置の移動先(スキップ先)の位置とする(ステップS75)。
【0087】
一方、ステップS74において、直前のシーンが第4基準以上の反復がある場合には(ステップS74:Yes)、典型シーンiの直前シーンの先頭フレームを再生位置の移動先(スキップ先)の位置とする(ステップS76)。
【0088】
ステップS71に戻り、典型シーンiが現在の再生位置のフレームより前の時刻に存在する場合には(ステップS71:Yes)、i=i+1としてiを更新し(ステップS72)、全ての典型シーンについてステップS71、S72の処理を繰り返し行う(ステップS73)。
【0089】
以上のような処理により、再生位置の移動先が決定され、上述したステップS7において、かかる移動先に再生位置を移動して映像データを再生することになる。
【0090】
なお、本変形例では、典型シーンの直前の1シーンに遡ってステップS74の判断をしているが、直前シーンのさらに直前のシーンの反復を調べることを繰り返すことで、複数のシーンを遡るように構成してもよい。
【0091】
(実施の形態2)
実施の形態2にかかる映像再生装置は、典型シーンに再生位置を決定する際に、映像内容に応じて典型シーンから変位した位置に再生位置を決定するものである。
【0092】
図15は、実施の形態2にかかる映像再生装置1500の機能的構成を示すブロック図である。本実施の形態にかかる映像再生装置1500は、図15に示すように、映像入力部102と、シーン分割部103と、シーン分類部104と、典型シーン選択部105と、再生位置制御部1506と、映像内容取得部1501と、入力受付部107と、変位テーブル1502と、表示制御部108と、キーボードやマウス、各種ボタン等を備えたリモートコントローラ等の入力装置110と、ディスプレイ装置等の表示装置120とを主に備えている。
【0093】
ここで、映像入力部102、シーン分割部103、シーン分類部104、典型シーン選択部105、入力受付部107、表示制御部108、入力装置110、表示装置120の機能および構成は実施の形態1と同様である。
【0094】
映像内容取得部1501は、入力された映像データの映像内容を取得する処理部である。映像内容とは、映像データの番組の種別などであり、例えば、スポーツの映像の場合には、野球、サッカー、テニスなどが映像内容に該当する。映像内容取得部1501は、具体的には、映像データが、例えば、電子番組ガイド(EPG:Electronic Program Guide)により予約されて録画されたものである場合には、電子番組ガイドにより生成されて記憶媒体などに保存されている予約データを読み込んで、映像データの映像内容を取得するように構成することができる。
【0095】
変位テーブル1502は、映像内容と典型シーンからの変位量とを対応付けたテーブルであり、メモリやHDD等の記憶媒体に予め記憶されている。変位量は、典型シーンからの変位した位置を特定できるものであれば、いずれでもよく、時間やシーン数等を変位量として用いることができる。
【0096】
図16および図17は、変位テーブルの一例を示す説明図である。図16に示すように、変位テーブル150は、野球、テニスなどの映像内容と、時間で示される変位量が対応付けられている。また、図17では、映像内容と、シーン数で示される変位量が対応付けられている。
【0097】
再生位置制御部1506は、スキップ入力を受け付けた場合に、典型シーンの中で、現在の再生位置のフレームより再生時刻が後の時刻で、かつ最も近い位置の典型シーンのフレームから、映像内容取得部1501で取得した映像内容に対応する変位量を加えた位置に再生位置を移動する処理を行う。
【0098】
このように変位量を設けて、スキップ先の再生位置を映像内容によって変化させるのは、野球やテニスなどによって、典型シーンとなるシーンが実際の意味ある単位のシーンの開始時点とずれる場合があり、これに正確に対応して再生位置を制御するためである。例えば、映像内容が野球の映像であれば、投球シーンが典型シーンとなり、典型シーンの先頭はピッチャーのセットポジションなどの映像から始まるため、スキップ先の再生位置を典型シーンの先頭フレームとしても利用者が視聴したい位置へスキップすることができる。
【0099】
これに対し、テニス等の場合には、意味ある単位のシーンはサーブから始まるが、サーブ時の映像は、種種の角度から撮影した映像であることが多く、本実施の形態では、反復したシーンを典型シーンとして選択する処理を行っているため、サーブの映像が典型シーンとして選択されない場合が多い。一方、サーブの開始前後にコート全面を固定カメラから反復して撮影される場合が多く、このため、映像内容がテニスの場合には、典型シーンは、サーブの映像からではなく、サーブからずれて撮影されたコート全面の映像から始まる可能性が高い。このため、本実施の形態では、このような映像内容の番組では、典型シーンから変位量だけずれた位置にスキップさせることにより、利用者にとって視聴したい映像に確実にスキップさせているのである。
【0100】
次に、以上のように構成された実施の形態2にかかる映像再生装置1500によるスキップ位置算出処理について説明する。なお、映像再生の全体処理、シーン分割処理、シーン分類処理、典型シーン選択処理については実施の形態1と同様に行われる。
【0101】
図18は、実施の形態2にかかるスキップ位置算出処理の手順を示すフローチャートである。以下のフローチャートにおいて、iは処理対象の典型シーンを示し、i=1,2,...N(初期値i=1)である。Nは典型シーンの総数である。
【0102】
まず、再生位置制御部1506は、典型シーンiが現在の再生位置のフレームより前の時刻に存在するか否かを調べる(ステップS81)。そして、典型シーンiが現在の再生位置のフレームより後の時刻に存在する場合には(ステップS81:No)、映像内容取得部1501で取得した映像内容に対応する変位量を変位テーブルから取得する(ステップS84)。そして、典型シーンiの位置に変位量を加えた位置を、再生位置の移動先(スキップ先)の位置とする(ステップS85)。
【0103】
一方、ステップS81において、典型シーンiが現在の再生位置のフレームより前の時刻に存在する場合には(ステップS81:Yes)、i=i+1としてiを更新し(ステップS82)、全ての典型シーンについてステップS81、S82の処理を繰り返し行う(ステップS83)。
【0104】
このように実施の形態2にかかる映像再生装置1500では、映像内容ごとに変位量を定めて、スキップ先の再生位置を映像内容によって典型シーンから変化させているので、映像内容の種類に的確に対応して、利用者にとって所望の位置に正確に再生位置を移動することが可能となる。
【0105】
(実施の形態3)
実施の形態3にかかる映像再生装置は、典型シーンの中から更に特徴的なシーンを選択して、選択された特徴的典型シーンに再生位置を移動するものである。
【0106】
図19は、実施の形態3にかかる映像再生装置1900の機能的構成を示すブロック図である。本実施の形態にかかる映像再生装置1900は、図19に示すように、映像入力部102と、シーン分割部103と、シーン分類部104と、典型シーン選択部105と、特徴的典型シーン選択部1901と、再生位置制御部1906と、CM区間情報取得部1902と、入力受付部107と、表示制御部108と、キーボードやマウス、各種ボタン等を備えたリモートコントローラ等の入力装置110と、ディスプレイ装置等の表示装置120とを主に備えている。
【0107】
ここで、映像入力部102、シーン分割部103、シーン分類部104、典型シーン選択部105、入力受付部107、表示制御部108、入力装置110、表示装置120の機能および構成は実施の形態1と同様である。
【0108】
CM区間情報取得部1902は、映像データの中から、本編以外のCM区間の情報を取得するものである。CM区間の情報を取得する手法としては、音声がステレオかモノラルかによってCM区間を識別する等の公知の手法を用いることができる。
【0109】
特徴的典型シーン選択部1901は、典型シーンの中から、典型シーンの特徴量(第3特徴情報)が予め定められた第5基準を満たすか否かを判断し、第3特徴情報が前記第5基準を満たす典型シーンを特徴的典型シーンとして選択する処理を行う。
【0110】
ここで、特徴的典型シーンを選択するための典型シーンの特徴量は、シーン分類部104でシーンを分類する際に使用した特徴量と異なる特徴量として、音声の大きさと時間を用いている。ただし、これに限定されるものではなく、典型シーンの中から特徴的典型シーンを特定することができる特徴量であれば任意の特徴量を使用することができる。また、本実施の形態では、特徴的典型シーンを選択するための典型シーンの特徴量として、音声の大きさや時間というシーン分類処理で用いた特徴量と異なるものを使用しているが、シーン分類処理で用いた特徴量と同じ特徴量を使用してもよい。
【0111】
まず、音声の大きさを特徴量とした場合の例について説明する。図20は、典型シーンの中から次の典型シーンまでに歓声の上がったシーンを特徴的典型シーンとして選択した例を示す説明図である。
【0112】
例えば、野球中継の映像データにおいて、典型シーンである複数の投球シーンの中から歓声の上がった投球シーンだけを特徴的典型シーンとして選択する場合を考える。この場合、特徴量として、典型シーンの開始フレームから次の典型シーンの直前のフレームまでの音声の大きさを用い、一定の大きさ以上の音声が一定の時間以上継続している場合に、第5基準を満たすと判断する。その結果、選択された特徴的典型シーンは、図20の斜線で示される典型シーンの中から、歓声の上がったシーン901が特徴的典型シーンとして選択されることになる。
【0113】
次に、時間を特徴量とした場合の例について説明する。図21は、特徴的典型シーンの選択の際に特徴量として時間を使用する場合の例を示す説明図である。
【0114】
図21では、野球中継の映像において、典型シーンである投球シーンの時間的な分布の密度を特徴量として用い、かかる特徴量によって分類されるグループの先頭の投球シーン(典型シーン)を特徴的典型シーンとして選択している。すなわち、投球シーンを、典型シーンの時間間隔によって回の表裏ごとに分類し、その先頭シーン、すなわち、その回の先頭打者に対する投球シーン2001を特徴的典型シーンとして選択している。これにより、回の表裏の単位での飛ばし見が可能となる。
【0115】
この場合に特徴量としては、典型シーンの時間的な分布の密度、具体的には典型シーンの時間間隔を用い、特徴的典型シーン選択部1901は、当該時間間隔が一定の時間以上である場合に、第5基準を満たすと判断する。
【0116】
なお、この例では、典型シーンの時間的な分布の密度によって分類されるグループの先頭の典型シーンを特徴的典型シーンとして選択しているが、これに限定されるものではなく、分類されるグループの最終の典型シーンを特徴的典型シーンとして選択するように構成してもよい。
【0117】
図22は、特徴的典型シーンの選択の際に特徴量として時間を使用する場合の別の例を示す説明図である。図22では、時間的にまとまりのある典型シーンとしての投球シーンから最終の投球シーンを特徴的典型シーンとして選択する例を示している。
【0118】
回の表裏の最終投球2101やヒットなどのイベントが発生した投球シーン2102を検出できる。また、民間の放送では回の表裏が替わるときに、CM区間2103が存在することが多いので、CM区間情報取得部1902によってCM区間を取得し、イベントが発生した投球だけにスキップして視聴することができる。
【0119】
すなわち、野球中継の映像において、CM区間情報取得部1902によってCM区間を除外した典型シーンである投球シーンの時間的な分布の密度を特徴量として用い、かかる特徴量によって分類されるグループの先頭の投球シーン(典型シーン)を特徴的典型シーンとして選択している。なお、CM区間の除外は、特徴的典型シーン選択処理よりも前に予め行う他、特徴的典型シーン選択処理の特徴量を判断する際に行うように構成することができる。
【0120】
なお、この例では、典型シーンの時間的な分布の密度によって分類されるグループの最終の典型シーンを特徴的典型シーンとして選択しているが、これに限定されるものではなく、分類されるグループの先頭の典型シーンを特徴的典型シーンとして選択するように構成してもよい。
【0121】
再生位置制御部1906は、利用者からスキップ入力があった場合に、再生位置を特徴的典型シーンのフレームに移動する処理を行う。
【0122】
次に、以上のように構成された実施の形態3にかかる映像再生装置1900による映像再生処理について説明する。図23は、実施の形態3の映像再生処理の全体の流れを示すフローチャートである。
【0123】
本実施の形態では、実施の形態1と同様に、映像データの入力からシーン分割処理、シーン分類処理、典型シーン選択処理を行う(ステップS91〜S84)。そして、特徴的典型シーン選択部1901による特徴的典型シーン選択処理を行う(ステップS95)。これ以降は、実施の形態1と同様に行われる。
【0124】
次に、ステップS95における特徴的典型シーン選択処理について説明する。図24は、実施の形態3にかかる特徴的典型シーン選択処理の手順を示すフローチャートである。以下のフローチャートにおいて、iは処理対象の典型シーンを示し、i=1,2,...N(初期値i=1)である。Nは典型シーンの総数である。
【0125】
まず、特徴的典型シーン選択部1901は、典型シーンiの特徴量を抽出し(ステップS101)、抽出した特徴量が第5基準を満たすか否かを調べる(ステップS102)。
【0126】
そして、特徴量が第5基準を満たす場合には(ステップS102:Yes)、この典型シーンiを特徴的典型シーンとして選択する(ステップS103)。一方、特徴量が第5基準を満たさない場合には(ステップS102:No)、典型シーンiを特徴的典型シーンとして選択しない。
【0127】
そして、全ての典型シーンに対してステップS101からS103までの処理を完了したか否か調べ(ステップS104)、完了していない場合には、i=i+1としてiを更新して(ステップ」S105)、次の典型シーンを処理対象としてステップS101からS103までの処理を繰り返す。一方、全ての典型シーンに対してステップS101からS103までの処理を完了した場合には、処理を終了する。このような処理によって、特徴的典型シーンが選択され、再生位置制御部1906によって選択された特徴的典型シーンのフレームに再生位置を移動する。
【0128】
このように実施の形態3にかかる映像再生装置1900では、典型シーンの中からさらに特徴量に基づいて特徴的典型シーンを選択して、特徴的典型シーンに再生位置を移動しているので、利用者にとって所望の位置により正確に再生位置を移動することが可能となる。
【0129】
図25は、実施の形態1〜3にかかる映像再生装置のハードウェア構成を示すブロック図である。
【0130】
実施の形態1〜3にかかる映像再生装置は、CPU51などの制御装置と、ROM(Read Only Memory)52やRAM53などの記憶装置と、HDD57と、DVDドライブ装置などの外部記憶装置54とがバス62に接続されており、また、ディスプレイ装置などの表示装置120と、キーボードやマウスなどの入力装置110を備え、通常のコンピュータを利用したハードウェア構成となっている。
【0131】
実施の形態1〜3にかかる映像再生装置で実行される映像再生プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録されて提供される。
【0132】
また、実施の形態1〜3にかかる映像再生装置で実行される映像再生プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、実施の形態1〜3にかかる映像再生装置で実行される映像再生プログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。
【0133】
また、実施の形態1〜3にかかる映像再生装置で実行される映像再生プログラムを、ROM等に予め組み込んで提供するように構成してもよい。
【0134】
実施の形態1〜3にかかる映像再生装置で実行される映像再生プログラムは、上述した各部(シーン分割部、シーン分類部、典型シーン選択部、再生位置制御部、特徴的典型シーン選択部、映像内容取得部等)を含むモジュール構成となっており、実際のハードウェアとしてはCPU(プロセッサ)が上記記憶媒体から〜プログラムを読み出して実行することにより上記各部が主記憶装置上にロードされ、シーン分割部、シーン分類部、典型シーン選択部、再生位置制御部、特徴的典型シーン選択部、映像内容取得部が主記憶装置上に生成されるようになっている。
【0135】
なお、実施の形態1〜3では、映像再生装置を通常のコンピュータに適用した例を説明しているが、これに限定されるものではなく、DVD再生装置、ビデオ再生装置、デジタル放送再生装置など、映像再生のための専用の装置に本発明を適用することができる。この場合には、表示装置120の構成を有する必要はない。
【0136】
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
【図面の簡単な説明】
【0137】
【図1】実施の形態1にかかる映像再生装置の機能的構成を示すブロック図である。
【図2】実施の形態1にかかる映像再生装置100により野球中継番組の映像再生における操作例を示す説明図である。
【図3】入力された映像データからの特徴量抽出について説明するための模式図である。
【図4】典型シーンデータの一例を示す説明図である。
【図5】実施の形態1にかかる映像再生処理の全体の流れを示すフローチャートである。
【図6】実施の形態1のシーン分割部103によるシーン分割処理の手順を示すフローチャートである。
【図7】実施の形態1のシーン分類処理の手順を示すフローチャートである。
【図8】実施の形態1の典型シーン選択処理の手順を示すフローチャートである。
【図9】スキップ位置算出処理の手順を示すフローチャートである。
【図10】実施の形態1の変形例にかかる映像再生装置1000の機能的構成を示すブロック図である。
【図11】実施の形態1の変形例におけるフレームの特徴量抽出を説明するための模式図である。
【図12】実施の形態1の変形例1のシーン分割処理の手順を示すフローチャートである。
【図13】実施の形態1の変形例の典型シーン選択処理の手順を示すフローチャートである。
【図14】実施の形態1の変形例のスキップ位置算出処理の手順を示すフローチャートである。
【図15】実施の形態2にかかる映像再生装置1500の機能的構成を示すブロック図である。
【図16】変位テーブルの一例を示す説明図である。
【図17】変位テーブルの別な例を示す説明図である。
【図18】実施の形態2にかかるスキップ位置算出処理の手順を示すフローチャートである。
【図19】実施の形態3にかかる映像再生装置1900の機能的構成を示すブロック図である。
【図20】典型シーンの中から次の典型シーンまでに歓声の上がったシーンを特徴的典型シーンとして選択した例を示す説明図である。
【図21】特徴的典型シーンの選択の際に特徴量として時間を使用する場合の例を示す説明図である。
【図22】特徴的典型シーンの選択の際に特徴量として時間を使用する場合の別の例を示す説明図である。
【図23】実施の形態3の映像再生処理の全体の流れを示すフローチャートである。
【図24】実施の形態3にかかる特徴的典型シーン選択処理の手順を示すフローチャートである。
【図25】実施の形態1〜3にかかる映像再生装置のハードウェア構成を示すブロック図である。
【符号の説明】
【0138】
1003 シーン分割部
1006 再生位置制御部
100,1000,1500,1900 映像再生装置
101 映像データ
102 映像入力部
103 シーン分割部
104 シーン分類部
105 典型シーン選択部
106,1506 再生位置制御部
107 入力受付部
108 表示制御部
110 入力装置
120 表示装置
1502 変位テーブル
1901 特徴的典型シーン選択部
1902 CM区間情報取得部
【出願人】 【識別番号】000003078
【氏名又は名称】株式会社東芝
【出願日】 平成18年8月18日(2006.8.18)
【代理人】 【識別番号】100089118
【弁理士】
【氏名又は名称】酒井 宏明


【公開番号】 特開2008−48279(P2008−48279A)
【公開日】 平成20年2月28日(2008.2.28)
【出願番号】 特願2006−223356(P2006−223356)