トップ :: H 電気 :: H04 電気通信技術




【発明の名称】 画像処理装置、画像処理方法及び画像処理プログラム
【発明者】 【氏名】氏郷 隆信

【氏名】綱島 宣浩

【要約】 【課題】海などの周期的な揺らぎを伴う監視対象から不審物等を検出するのは困難である。

【構成】静止画像データを矩形状の領域に均等に分割する。分割領域毎に特徴量を計算する。各分割領域毎の特徴量と、所定の値との距離を計算する。得られた距離を閾値と比較して、背景であるか否かを判定する。
【特許請求の範囲】
【請求項1】
入力画像データが保存される画像保存部と、
前記画像保存部中の前記入力画像データを均等な面積且つ一定の形状に分割する領域分割部と、
前記領域分割部にて分割された分割領域毎に特徴量を算出する特徴量算出部と、
前記特徴量算出部によって得られた前記分割領域毎の特徴量と、所定の値との距離を計算し、得られた距離に基づいて背景か否かを決定する距離計算部と
よりなることを特徴とする画像処理装置。
【請求項2】
前記所定の値はサンプルの背景特徴量であることを特徴とする、請求項1記載の画像処理装置。
【請求項3】
前記所定の値は入力画像データ全体の特徴量の平均値であることを特徴とする、請求項1記載の画像処理装置。
【請求項4】
前記所定の値は分割領域毎の特徴量であり、得られた距離に基づいて分割領域同士が類似するか否かを判定してグルーピング処理することを特徴とする、請求項1記載の画像処理装置。
【請求項5】
前記領域分割部は、
水平線に平行に分割する水平領域分割部と、
前記水平領域分割部にて分割された水平分割領域を更に分割する小領域分割部と
よりなり、
前記距離計算部は前記水平分割領域毎に演算を行うことを特徴とする、請求項1記載の画像処理装置。
【請求項6】
更に、
前記距離計算部より得られる各分割領域毎の判定結果を、所定時間毎に保存する分割領域フラグ保存部と、
前記分割領域フラグ保存部に保存されている複数の前記判定結果を比較する、不審物領域移動量・方向算出部とを含むことを特徴とする、請求項1記載の画像処理装置。
【請求項7】
入力画像データを均等な面積且つ一定の形状に分割するステップと、
分割された入力画像データから特徴量を計算するステップと、
各分割領域毎の特徴量と所定値との距離を計算するステップと、
距離計算にて得られた距離に基づいて、前記各分割領域毎に背景か否かを判定するステップと
よりなることを特徴とする画像処理方法。
【請求項8】
入力画像データを均等な分割領域にて分割する機能と、
前記分割領域毎の特徴量を計算する機能と、
前記分割領域毎の特徴量と、所定の値との距離を計算する機能と、
前記距離を所定の閾値と比較し、その比較結果を前記分割領域が背景であるか否かを判断する根拠とする機能と
よりなることを特徴とする画像処理プログラム。
【発明の詳細な説明】【技術分野】
【0001】
本発明は、画像信号処理装置、画像処理方法及び画像処理プログラムに関する。
より詳細には、監視カメラが所定の監視場所を撮像して得られた映像から、不審物や不審者を検出するために適用して好適な技術に関する。
【背景技術】
【0002】
従来より、監視カメラによって撮像された映像を所定の監視モニタを介して視認することにより、所定の監視対象を監視する監視システムが知られている。
このような監視カメラにおいては、監視対象となる場所が多くなるにつれ、24時間監視者がモニタを監視し続けることは困難である。また、監視カメラに接続されるビデオレコーダにおいても、必要最低限の映像のみ記録する等、実稼働時間を短縮する必要に迫られている。
このため、機械が入力画像から不審物或は不審者を検出する技術の確立が求められている。
例えば銀行のATM等においては、人体を検出するセンサさえあれば比較的容易に上述のような要求を満たすことができる。
ところが、海辺のような、遠くの景色から不審船等を検出する場合は、このようなセンサは使用できない。
【特許文献1】特開2006−14215号公報
【特許文献2】特開平10−328226号公報
【発明の開示】
【発明が解決しようとする課題】
【0003】
従来、このような状況においては、特許文献1に記載されているような、直前の画像データとの比較を行う、という手法が多く採用されていた。
映像中に物体が進入すると、映像データ中におけるその物体の部分は、明るさが変わる。したがって、映像内で輝度値に差異がある領域を差異領域として検出することで、物体の検知が可能になる。ところが、海、砂漠、草原、空等の自然の風景の場合、検知対象である物体以外の水、砂、草、雲なども動いている。このため、これらを直前の画像データと比較して異なっているとして、誤って検知してしまう、という問題があった。
【0004】
この問題を解決する一つの方法として、例えば特許文献2に記載される技術が挙げられる。
特許文献2には、現在の時刻に撮影された画像と、過去に撮影された画像との差分値を作成し、閾値処理によって二値化する。その際に、過去の差分値の累積結果を基に閾値を変動させた背景画像を作成する。こうして、背景画像中に存在する木や水面による揺らぎの誤検出の低減を試みている。
しかしながら、この技術では、木の揺らぎ等による輝度値の変化が大きいときには、閾値が大きくなりすぎる場合が十分考えられる。そのような場合、肝心の侵入者等が侵入してきたときに検出漏れが生じてしまう虞がある。
【0005】
本発明はかかる点に鑑みてなされたものであり、海、砂漠、草原等、主に自然現象等によって撮影画像に揺らぎが生じるような場所を監視対象とする監視カメラによって得られる画像データから、不審者或は不審物等の侵入を安定して行うことのできる画像処理装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記課題を解決するための本発明は、入力画像データを一旦保存した後、均等な領域に分割し、分割領域毎に特徴量を算出する。その特徴量算出によって得られた特徴量と、所定の値との距離を計算し、得られた距離に基づいて背景か否かを決定する。そして、その決定によって得られた判定結果に基づいて、不審物等の存在の有無を出力する。
【0007】
発明者は、海のような自然の風景は一定の規則性を持ちながら動く撮影対象に対して背景と不審物等を判別するには、従来技術において周知の、直前の画像データとの比較による方法は不適当であると判断した。そこで、発明者は入力された画像データのみを用いて背景と不審物等を判別する技術を模索した。その結果、背景と不審物等の判別のための技術として、画像データを所定の領域に分割し、その領域毎に特徴量を計算し、これを所定の値との距離を計算することを思いついた。
仮に、画像データ全体が背景であるならば、その画像データを分割しても、それぞれの分割領域の特徴量は殆ど変わらない。この技術思想による画像処理方法であれば、海や空など、自然現象によって生じる変化があっても、これを含めて一定の特徴を有する背景と判別することができる。
【発明の効果】
【0008】
本発明により、特に海や草原等の、一定の揺らぎを伴う風景を監視する監視装置において、海の波や空の雲などの自然現象も誤認識せずに背景と認識できる、優れた画像処理装置を提供できる。
【発明を実施するための最良の形態】
【0009】
以下、本発明の実施の形態を、図1〜図21を参照して説明する。
【0010】
[1.実施形態の概略]
図1は、本発明の実施形態の共通概念よりなる、監視装置の全体ブロック図である。図1(a)は実際の装置の中身に即したブロック図であり、図1(b)は機能を中心に見た仮想的なブロック図である。
図1(a)において、監視装置101は撮像カメラ102から得られる画像データから不審物の存在の有無を検出し、不審物の有無を知らせる二値信号(アラーム出力)か、または所定の処理を施した画像信号を出力するものである。撮像カメラ102は例えばCCD撮像素子等からなる、画像信号を出力する周知のカメラである。出力される画像信号は、例えばHDD等の大容量ストレージや、通信回線等で他のホスト装置へ送出される。
監視装置101は主にマイクロコンピュータよりなる。マイクロコンピュータを構成するCPU103、ROM104、RAM105とバス106は、撮像カメラ102から得られる画像データに所定の処理を行って、出力インターフェース107を通じて所定の信号等を出力する。
なお、図1(a)の構成は、この後詳述する各実施形態全てに共通の構成である。
【0011】
図1(b)において、実体がRAM105である画像保存部112と、RAM105或はROM104等よりなる所定値115を除いて、各部はマイクロコンピュータ上にて実行されるソフトウェアプログラムである。これらソフトウェアはROM104に格納されている。
撮像カメラ102から得られる画像信号は、入力静止画像データとして画像保存部112に保存される。
領域分割部113は画像保存部112内の入力静止画像データに対し、均等な面積と形状を備える矩形状の分割領域を与える。
特徴量算出部114は、領域分割部113によって分割された画像保存部112内の入力静止画像データの各領域毎に、特徴量データを作成する。
所定値115は、特徴量算出部114によって得られた特徴量データ或はこれに基づく所定のデータの比較対象を提供する。そして、距離計算部116は特徴量算出部114によって得られた特徴量データ或はこれに基づく所定のデータと、所定値115との距離の計算を行う。
距離計算部116の演算結果は、二値のアラーム、或は画像データとしてストレージやネットワーク等に出力される。
なお、図1(b)の構成は、この後詳述する各実施形態全てに共通の概念である。
【0012】
ここで特徴量とは、画像の模様、或は質感である。一般的な描画ソフトウェア等において「テクスチャ(texture)」と呼ばれるものとほぼ同義である。
草原であれば、緑色の濃淡が斜め方向に放物線状に多数存在する。
穏やかな海面であれば、濃青色を基調として、日光を反射する水平線に平行な細かい模様や、波しぶき等の白色の部分が一面に多数存在する。
これら自然の風景は、人工的に作成されたタイル等の、機械的に一定の模様を形成しているものではない。しかし、ランダムなばらつきを有するものの、一定の類似する模様のような特徴を形成していると認められる。草原に波しぶきは存在しないし、穏やかな海面に斜め方向の濃淡は存在しないのである。
これら自然の風景は時刻と共に自然現象によって動く。したがって、従来技術のように単純に時間差を伴う複数の静止画像を比較しただけでは、本来的に背景であるにもかかわらずそれが動いているもの、すなわち不審物であると誤認識してしまう。
本実施形態においては、この「動く背景」に対し、「背景のテクスチャ」を捉えることにより、時間軸上の変化に惑わされず、背景を背景としっかり認識する技術を提供する。
背景のテクスチャ或は背景の模様を捉える、ということは、背景の中に存在する異物の特徴も捉えることができることを意味する。これが特徴量の算出である。
入力画像データを均等な細かい領域に分割し、それぞれの分割領域毎に特徴量を算出する。算出した各々の分割領域毎の特徴量のうち、背景の特徴量から逸脱した値を示すものは、不審物が存在する領域であると判断する。このために、サンプルの特徴量と目的とする分割領域の特徴量がどれだけ似ているか、似ていないかを計算する。これが「距離の計算」である。最終的には、得られた距離を所定の閾値と比較する等して、背景であるか否かを判定する。これは、従来より周知である、単一の画素同士の輝度の差を計算する技術思想の延長である。
以上が、全実施形態における共通の概念である。
特徴量とはどのように得るのか、特徴量同士の距離計算とはどのように行うのかについては、後述する。
【0013】
[2.第1の実施の形態]
これより第1の実施形態を説明する。始めに本実施形態の概略を説明する。本実施形態では、予めサンプルの画像データを与え、そこから背景部分を手作業で指定し、その特徴量を保持しておく。そして、その後装置が本稼動すると入力画像データの分割領域毎に保持している背景サンプルの特徴量データと比較する。
図2は、本発明の第1の実施形態よりなる監視装置のブロック図である。図1(b)の内容に基づくものである。
撮像カメラ102から得られる入力静止画像データは、一旦画像保存部112に保存される。
領域分割部113は入力静止画像データを分割領域毎に細かく分割する。
特徴量算出部114は分割された各々の画像データの特徴量計算を行う。
一方、背景特徴量保存部202は、予め操作者の操作によって特定された背景領域の特徴量を保存している。
距離計算部116は、特徴量算出部114から得られる各分割領域毎の特徴量と、背景特徴量保存部202内に保存されている背景特徴量との距離を計算する。距離計算部116による距離計算の結果、背景でないと判断された分割領域は、不審物が存在するものと判断し、アラーム出力をする。
【0014】
背景特徴量保存部202には、表示部203と入力部204が接続されている。
表示部203は例えばLCD等の、周知のディスプレイ装置である。
入力部204は例えばマウス等の、周知のポインティングデバイスである。
背景特徴量保存部202は、サンプルとなる背景の特徴量を保存するものである。本装置の本稼動の前に、予めサンプルとなる入力画像データを表示部203にて表示し、そこに入力部204によって背景を取得する範囲を入力する。そして、特徴量算出部114にて特徴量を算出し、これを保存する。
【0015】
図3(a)、(b)及び(c)は、入力画像データを例示して第1の実施形態による監視装置の動作の概略を示すイメージ図である。
図3(a)において、入力画像データとして、海302と空303と不審物である船304を含む画像データ301がある。これは画像保存部112に保存されている。
図3(b)において、背景特徴量保存部202では、操作者の操作により、入力画像データを表示部203にて表示し、入力部204にて背景部分を囲む。図3(a)の点線で囲まれている範囲が、操作者による入力部204の操作によって入力された背景部分領域である。この領域を、特徴量算出部114にて算出し、背景特徴量保存部202に保存しておく。図3(a)では、空の部分と海の部分とで二つの背景サンプルB(1)とB(2)が保存されている。
図3(c)において、入力画像データは領域分割部113にて細かく分割され、それぞれの領域に対して特徴量算出部114が特徴量を算出する。図3(c)では、S(1)〜S(25)迄の25個の分割領域が設けられている。
距離計算部116は、背景サンプルと分割領域の距離を計算する。この計算は一つずつ順番に行われる。つまり、
背景サンプルB(1)と分割領域S(1)との距離を計算し、
背景サンプルB(2)と分割領域S(1)との距離を計算し、
背景サンプルB(1)と分割領域S(2)との距離を計算し、
背景サンプルB(2)と分割領域S(2)との距離を計算し、
という演算作業を順番に行い、最後に
背景サンプルB(1)と分割領域S(25)との距離を計算し、
背景サンプルB(2)と分割領域S(25)との距離を計算して終了する。
【0016】
図4と図5と図6にて、これら動作をより詳細に説明する。
図4は、第1の実施形態にかかる監視装置の、実稼動に先立つ前処理を示すフローチャートである。
処理を開始すると(S401)、サンプルとなる入力静止画像データをRAMに取り込む(S402)。
次に、入力静止画像データを表示部203にて表示する(S403)。
操作者はこれを目視で確認しながら、入力部204を操作して背景領域のアドレス範囲を入力する(S404)。
入力が確定されると、指定されたアドレス範囲をRAM等に保存する(S405)。
そして、サンプルの入力静止画像データから指定されたアドレス範囲のピクセルを抜き出し、特徴量を算出し、保存し(S406)、終了する(S407)。
【0017】
図5と図6は、第1の実施形態にかかる監視装置の、実稼動状態を示すフローチャートである。
処理を開始すると(S501)、サンプルとなる入力静止画像データをRAMに取り込む(S502)。
次に、領域分割部113にて分割した各分割領域毎の特徴量を、特徴量算出部114にて算出する(S503)。
これ以降は、算出した各領域毎の特徴量と背景サンプルとの距離を順番に計算する処理である。
最初に変数iを1に初期化する(S504)。変数iは各領域毎の特徴量を特定する変数である。
次に変数jを1に初期化する(S505)。変数jは背景サンプルを特定する変数である。
そして、背景サンプルB(j)と、分割領域特徴量S(i)との距離を計算する(S506)。
次に、距離計算の結果得られた距離を、予め別途保持している閾値と比較する(S507)。距離が閾値以上であれば、フラグ変数f(i)を1に上げる(S508)。フラグ変数f(i)は、分割領域と同じ数だけ設けられている変数であり、1でフラグが上がっているものとされ、0でフラグが下りているものとされる。なお、距離が閾値以上でなければ、フラグf(i)を0に下げる(S509)。
【0018】
次に、変数jが最大値に達したか否かを検証する(S610)。図4の場合であれば、背景サンプルは二つなので、jが2に達したか否かを見ることとなる。jが最大値であれば、全ての背景サンプルと現在検証対象としている分割領域との距離の計算が終わったことになるので、変数iをインクリメントする(S611)。つまり、次の分割領域の評価に移行する。jが最大値でなければ、まだ距離の計算が残っている背景サンプルがあるので、jをインクリメントする(S612)。
フラグを下ろした後、変数iを検証する(S613)。検証の結果、最大値でなければ、iをインクリメントする(S614)。これは、フラグを下ろした、ということは、距離計算による検証の結果、当該分割領域が背景であるものと判断されたことに因る。図4の例では、最初に空の背景サンプルとの距離を計算した結果、それが空であるものと判断されたら、次に海の背景サンプルとの距離を計算する必要はない。このため、次の背景サンプルとの距離計算処理をスキップするためにこの処理を行うものである。
変数iが最大値に達していれば、全ての分割領域に対して距離計算が終了したことを意味する。そこで、フラグ変数f(i)を全て見て、フラグが上がっている変数があるか否かを検証する(S615)。
検証の結果、フラグが全く上がっていなければ、全ての分割領域は背景であり、不審物は存在しないと判断できる。
逆に検証の結果、フラグが一つでも上がっているものがあれば、当該分割領域は背景ではなく、不審物はそこに存在するものと判断できる。
不審物の存在が認められたら、アラームを出力して(S616)、終了する(S617)。
【0019】
本実施形態においては、予め背景のサンプルを手作業で指定する。このため、背景の特徴量が変化すると、これに追従できない、という欠点がある。例えば海を監視する場合においては、海が天候によって荒れたり、撮像カメラ102が撮影角度を移動したりして空と海との配置関係が変わったりすると、誤認識を引き起こしてしまうだろう。
しかしながら、これら特徴を十分に把握した上で、適切な監視対象に対して適切な設置を行えば、本実施形態は十分にその機能を発揮し得る。背景特徴量があまり変わらない監視対象であったり、撮像カメラ102を固定して運用する場合、あるいは背景特徴量が変わった際に再度背景サンプルを入力し直してもよいような場合には、この方法を用いてもよい。
【0020】
ところで、分割領域の大きさをどう決定するかは、監視対象によって若干異なる。例えば、複雑な模様を形成する背景に対してあまり小さ過ぎる分割領域を設定しても、特徴量を適切に演算できるとはいえない。しかし、検出したい不審物の大きさが小さい場合には、あまり大き過ぎる分割領域を設定しても、得られる特徴量にその変化が現れ難くなってしまう。したがって、最適な分割領域面積は監視対象に応じて変更する必要がある。このため、監視装置を実稼動させる前に予め試験的に分割領域面積を変更しながら試験運転を行い、最適値を決定するとよいだろう。
【0021】
以上に説明したことをまとめる。
本実施形態の監視装置201は、主にマイクロコンピュータ上で稼動するソフトウェアよりなる。
入力静止画像データが監視装置201に入力されると、これを画像保存部112(実体はRAM105)内に保存する。その領域分割部113にて均等な面積形状に分割された後、特徴量算出部114にて特徴量データを分割領域毎に作成する。次に、得られた特徴量データを、予め手入力により範囲を設定され、演算処理後保持されている所定値115との距離を計算し、得られた「距離」を所定の閾値と比較する。閾値に満たない距離の領域は、背景であるものと判断する。そして、背景と判断された分割領域を示すフラグを下ろす。
以上の処理により、入力静止画像データから特徴量演算と距離計算を経て、背景の領域とそれ以外の部分の領域とを判別することができる。
【0022】
[2.1.特徴量演算方法]
ここで、特徴量の演算方法を説明する。
特徴量とは、一定の範囲の画像データを読み込み、その画像データに現れている特長を数値化したものである。
画像データの特徴とは様々なものが考えられる。色度、彩度、模様等多岐に渡る。したがって、単一のスカラ量であることはあり得ず、沢山の要素よりなる行列で表される。
図7(a)、(b)及び(c)は本発明にて説明する全ての実施形態に共通に利用可能である特徴量演算方法の一つ、色ヒストグラムを説明する概略図である。
図7(a)は入力画像データのサンプルを示す。入力画像データ701には、海702が全体に広がっており、その中に不審物である船703が存在する。不審物は黒色のピクセルよりなる。
図7(b)は図7(a)に示した入力画像データのサンプルのうち、海の部分を拡大したものを示す。海702には波しぶき704が生じている。海水705の部分は青色のピクセルにて、波しぶき704の部分は白色のピクセルにてなる。
図7(c)は全ての色成分を行列にしたものである。図7(a)の入力画像データに存在する各ピクセルを、この行列706に該当する箇所の要素に一つずつ加算していく。すると、波しぶきを表現する白色の領域707と、海水を表現する青色の領域708と、不審物である船を表現する黒色の領域709に累積点が集中する。つまり、この三箇所において、周知のガウス曲面のような曲面が形成されるものと思っていただければよいだろう。
以上説明したように、色ヒストグラムは、カラー画像データ中の各ピクセル毎に、色の出現頻度を計数したものである。画像を構成する色の粒をばらばらにして、同じ色素毎にかき集めたと考えても良いだろう。このため、生成したデータには模様の概念が失われることとなる。
【0023】
図8(a)、(b)、(c)及び(d)は本発明にて説明する全ての実施形態に共通に利用可能である特徴量演算方法の一つ、周波数解析を説明する概略図である。
図8(a)は、入力画像データの一部801を示す。これは図7(b)で示したものと同じ、入力画像データのサンプルのうち、海の部分を拡大したものを示す。更に、図8(b)はその一部分を更に拡大して、波しぶきの一部を示す。波しぶきに該当するピクセルは明るく、海水に該当するピクセルは暗い。この、各ピクセル802の輝度を取得する。
図8(c)は、入力画像データを構成する各ピクセルの明度を左側から右側へ順番にプロットしたものの一例を示す。海水に該当する箇所は輝度が低く、波しぶきに該当する箇所は輝度が高いことがわかる。そして、このようにして得られる図形を、あたかも信号のようにみなし、その周波数成分を解析するのが、周波数解析である。
図8(d)は、その周波数解析の結果の一例を示す。図8(c)でプロットした波形をフーリエ解析し、横軸に周波数、縦軸にレベルを取る。最終的には、このようにして得られたデータを行列とする。つまり、画像データの輝度を波形化したものの周波数成分よりなる行列である。
以上説明したように、周波数解析は、画像データ中の各ピクセル毎に、輝度の変化を波形と見立てて周波数成分を分析すべく、フーリエ変換したものである。このため、濃淡のパターン、転じて所定の模様のパターンが周波数成分となって表現されることとなる。
【0024】
図9は、同時生起確率行列の概要を説明するための図である。
図9(a)において、P1とP2は画像データ中の任意の二つのピクセルである。ピクセルP1からピクセルP2へは、距離rと角度θだけ離れている。このrとθを相対位置関数δとする。δ=(r,θ)と表す。
図9(b)において、δ1=(1,0°)である場合、ピクセルP1に対してピクセルP2は隣り合う次のピクセルを指し示す。
図9(c)において、δ1=(1,90°)である場合、ピクセルP1に対してピクセルP2は隣り合う真上のピクセルを指し示す。
同時生起確率行列は、この一定の相対位置関数δだけ離れている二点のピクセルの輝度の組み合わせを、輝度を要素数とする正方行列に加算する仕組みである。
【0025】
図10に、説明のために簡素化した画像データと簡素化した同時生起確率行列を示す。
図10(a)において、4×4の16ピクセルよりなる画像データ内の各ピクセルは、0〜3迄の4段階の輝度を有する。
図10(b)は、4段階の輝度よりなる4×4の正方行列である同時生起確率行列である。ここで、相対位置関数δ=(r,θ)=(1,0°)の関係にて、図10(a)の画像データから同時生起確率行列を作成する手順を以下に示す。
図10(a)の(x,y)=(0,0)をピクセルP1とすると、ピクセルP2は(x,y)=(1,0)となる。このとき、ピクセルP1の輝度iは0、ピクセルP2の輝度jは0である。したがって、(i,j)=(0,0)に1を加える。更に、往復カウントを行うので、(i,j)=(0,0)に1を加える。
図10(a)の(x,y)=(1,0)をピクセルP1とすると、ピクセルP2は(x,y)=(2,0)となる。このとき、ピクセルP1の輝度iは0、ピクセルP2の輝度jは1である。したがって、(i,j)=(0,1)に1を加える。更に、往復カウントを行うので、(i,j)=(1,0)に1を加える。
以上のように、相対位置関数δだけ離れている各ピクセルの輝度の組み合わせに相当する行列の要素をカウントアップする動作を、全てのピクセルに対して行う。つまり、この正方行列は、二つのピクセルの輝度の組み合わせの出現回数を示す、カウンタの行列である。
なお、往復カウントをするか否かは設計者の任意である。
【0026】
同時生起確率行列はその性質上、相対位置関数を複数取って、それぞれに複数の行列を生成することが望まれる。画像を構成する模様が水平や垂直とは限らないからである。最低でも縦と横の相対位置関数は取ることが望ましい。
【0027】
これら特徴量演算方法により、沢山の数値データよりなる行列よりなる特徴量が、入力画像データの分割領域毎に作成される。
得られた特徴量を、予め保持している所定のサンプル値や他の特徴量と比較して、「距離」を算出する。この演算を特徴量距離計算といい、後述する。
なお、以上に例示列挙した特徴量演算方法のいずれを採用するかは、得られる特徴量の精度と演算量とのトレードオフにて、設計者が決定する。
【0028】
[2.2.特徴量距離計算方法]
以上説明した特徴量演算方法により、入力画像データの分割領域毎に特徴量が作成される。これらは全て沢山の数値データよりなる行列である。
行列データ同士を比較するにはどうするか。ここで、求めたい値とは、二つの行列データの類似度である。前述の第1の実施形態にあっては、サンプル背景データの特徴量を構成する行列データと、分割領域の特徴量を構成する行列データである。
行列データの類似度を得るための方法は従来より様々な方法知られている。以下に例示列挙する。
(1)行列の各要素毎に差を取り、得られた行列の各要素の総和を取る方法(SAD: Sum of Absolute Difference)。
(2)行列の各要素毎に差を取り、得られた行列の各要素を二乗し、その後各要素の総和を取る方法(SSD: Sum of Squared Difference)。
(3)行列の各要素をベクトルの成分として捉え、行列同士の内積を取る方法。すなわち、行列の各要素同士の積を取り、得られた行列の各要素の総和を取る方法(内積: Normalization)。
【0029】
これら特徴量の比較演算により、最終的には単一のスカラ値よりなる「距離」が得られる。
得られた距離を予め保持している所定の閾値と比較して、所定の判断を行う。
なお、例示列挙した特徴量距離計算方法のいずれを採用するかは、得られる距離の精度と演算量とのトレードオフにて、設計者が決定する。
【0030】
以上に述べた特徴量演算方法と特徴量距離計算方法は、前述の第1の実施形態、そして後述する第2、第3、第4、第5の全ての実施形態において共通に選択して利用可能な技術である。すなわち、いずれの実施形態においても、特徴量演算方法として色ヒストグラム、周波数解析、同時生起確率行列のいずれを採用してもよいし、特徴量距離計算方法としてSAD、SSD、内積のいずれを採用してもよい。
【0031】
[3.第2の実施の形態]
図11は、本発明の第2の実施形態よりなる監視装置のブロック図である。図1(b)の内容に基づくものである。なお、第1の実施形態を説明した図2と共通の部分については、重複を避けるために説明を割愛する。
第2の実施形態の、第1の実施形態と異なる部分は、背景特徴量保存部202の代わりに平均値保存部1102が設けられている点である。
平均値保存部1102は、特徴量算出部114から得られる各分割領域毎の特徴量の平均値を保存する。
距離計算部116は、特徴量算出部114から得られる各分割領域毎の特徴量と、平均値保存部1102内に保存されている平均値との距離を計算する。距離計算部116による距離計算の結果、背景でないと判断された分割領域は、不審物が存在するものと判断し、アラーム出力をする。
【0032】
図12(a)、(b)及び(c)は、入力画像データを例示して第2の実施形態による監視装置の動作の概略を示すイメージ図である。
図12(a)において、入力画像データとして、海1202と不審物である船1204を含む画像データ1201がある。
図12(b)において、平均値保存部1102には、特徴量算出部114にて算出された、各分割領域毎の特徴量S(1)〜S(25)の平均値が格納される。つまり、全ての分割領域の特徴量の総和を、分割領域の数で割った値である。
距離計算部116は、平均値と分割領域との距離を計算する。この距離計算は一つずつ順番に行われる。つまり、
平均値Bと分割領域S(1)との距離を計算し、
平均値Bと分割領域S(2)との距離を計算し、
という演算作業を順番に行い、最後に、
平均値Bと分割領域S(25)との距離を計算して終了する。
【0033】
図13と図14は、第2の実施形態にかかる監視装置の動作を示すフローチャートである。
処理を開始すると(S1301)、サンプルとなる入力静止画像データをRAMに取り込む(S1302)。
次に、領域分割部113にて分割した各分割領域毎の特徴量を、特徴量算出部114にて算出する(S1303)。
そして、得られた全ての各分割領域毎の特徴量から、平均値を算出する(S1304)。
これ以降は、算出した各領域毎の特徴量と平均値との距離を順番に計算する処理である。
最初に変数iを1に初期化する(S1305)。変数iは各領域毎の特徴量を特定する変数である。
そして、平均値Bと、分割領域特徴量S(i)との距離を計算する(S1306)。
次に、距離計算の結果を、予め別途保持している閾値と比較する(S1307)。距離が閾値以上であれば、フラグ変数f(i)を1に上げる(S1308)。フラグ変数f(i)は、分割領域と同じ数だけ設けられている変数であり、1でフラグが上がっているものとされ、0でフラグが下りているものとされる。
【0034】
次に、変数iを検証する(S1409)。検証の結果、最大値でなければ、iをインクリメントする(S1410)。変数iが最大値に達していれば、全ての分割領域に対して距離計算が終了したことを意味する。そこで、フラグ変数f(i)を全て見て、フラグが上がっている変数があるか否かを検証する(S1411)。
検証の結果、フラグが全く上がっていなければ、全ての分割領域は背景であり、不審物は存在しないと判断できる。
逆に検証の結果、フラグが一つでも上がっているものがあれば、当該分割領域は背景ではなく、不審物はそこに存在するものと判断できる。
不審物の存在が認められたら、アラームを出力し(S1412)、終了する(S1413)。
【0035】
以上に説明したことをまとめる。
本実施形態の監視装置1101は、主にマイクロコンピュータ上で稼動するソフトウェアよりなる。
入力静止画像データが監視装置1101に入力されると、これを画像保存部112(実体はRAM105)内に保存する。その領域分割部113にて均等な面積形状に分割された後、特徴量算出部114にて特徴量データを分割領域毎に作成する。その後、全分割領域の特徴量データの平均を算出し、平均値保持部1102(実体はRAM105)内に保存する。次に、得られた特徴量データと、平均値保持部1102内の平均値との距離を計算し、この結果得られた距離を所定の閾値と比較する。閾値に満たない距離の領域は、背景であるものと判断する。そして、背景と判断された分割領域を示すフラグを下ろす。
以上の処理により、入力静止画像データから特徴量演算と距離計算を経て、背景の領域とそれ以外の部分の領域とを判別することができる。
【0036】
[4.第3の実施の形態]
図15(a)及び(b)は、本発明の第3の実施形態よりなる監視装置のブロック図である。図1(b)の内容に基づくものである。なお、第2の実施形態を説明した図11と共通の部分については、重複を避けるために説明を割愛する。
図15(a)において、第3の実施形態の、第2の実施形態と異なる部分は、特徴量算出部114と比較部1504との間にクラスタリング処理部1503が設けられ、比較部1504はこのクラスタリング処理部1503と閾値1502とを比較している点である。
クラスタリング処理部1503は、特徴量算出部114から得られる各分割領域毎の特徴量同士の距離を計算し、距離が近いと判断できる分割領域同士、すなわち類似すると判断できる分割領域同士を類似する画像であるとみなしてグルーピング化する、「クラスタリング」という処理を行う。この処理により、各々の類似する分割領域は同じ画像部分に属する集合として分類される。
比較部1504は、クラスタリング処理部1503から得られる各分割領域の集合の要素数と閾値1502とを比較する。比較部1504による比較の結果、背景でないと判断された分割領域の集合は、不審物が存在するものと判断し、アラーム出力をする。
【0037】
図15(b)は図15(a)のクラスタリング処理部1503の内部構成を示すブロック図である。
距離計算対象設定部1513は、特徴量算出部114から得られた特徴量1512の、どの特徴量同士を距離計算の対象とするか、決定する。
距離計算部1514は、距離計算対象設定部1513によって選択された二つの特徴量同士の距離を計算する。
比較部1516は、距離計算部1514より得られた距離を、閾値1515と比較する。この比較結果は、二つの領域を併合するか否かの判定に繋がる。
グルーピング処理部1517は、比較部1516の比較結果に応じて、二つの領域を併合し、或は併合せずそのままにする。
以上、一連の処理を通じて、分割領域毎の特徴量は幾つかの類似する特徴量同士の群に分類される。この処理の後、特徴量の群の数を表すデータは、比較部1504にて閾値1502と比較され、背景であるか否かの判定に繋がる。
【0038】
図16(a)、(b)、(c)及び(d)は、入力画像データを例示して第3の実施形態による監視装置の動作の概略を示すイメージ図である。
入力画像データとして、海と不審物である船を含む画像データ1601がある。
クラスタリング処理部1503は、特徴量算出部114にて算出された、各分割領域毎の特徴量S(1)〜S(25)を全て見比べて、類似する領域をまとめる処理を行う。
先ず、図16(a)の、画像データ1601を分割した領域の一番左上の領域S(1)と、その隣の領域S(2)との距離を、距離計算部1514にて計算する。距離計算の結果得られた二つの特徴量の距離を、別途予め用意している閾値1502と比較して、互いの分割領域が類似するものであるか否かを判断する。図16(a)では、領域S(1)とS(2)は両方とも海の部分であるので、その特徴量は類似するため、距離は近い。そこで、同じ模様であるとみなし、一つにまとめる。これが図16(b)に示す処理である。つまり、領域S(1)とS(2)を一つにして、境界線を消去する概念である。
図16(b)から更に隣り合う領域同士の距離計算と、得られた距離と閾値1502との比較による類似判断を進めていく。すなわち、図16(c)に示すように、類似する画像の分割領域の境界線が次々と消去されるイメージである。
最後には、図16(d)に示すように、他の分割領域とは特徴量が大きく異なり、距離が遠いと認められる分割領域S(12)、S(13)及びS(14)が残る。これが、不審物が存在する領域となる。
【0039】
図17は、第3の実施形態にかかる監視装置の動作を示すフローチャートである。
処理を開始すると(S1701)、サンプルとなる入力静止画像データをRAMに取り込む(S1702)。
次に、領域分割部113にて分割した各分割領域毎の特徴量を、特徴量算出部114にて算出する(S1703)。
そして、得られた全ての各分割領域毎の特徴量を基に、クラスタリング処理を行う(S1704)。クラスタリング処理の結果、分割領域は類似する領域同士にまとめられる。
次に、領域の面積、すなわち類似する領域を構成する分割領域の数と、閾値1502とを比較し、背景と認められない狭い領域があるか否かを検証する(S1705)。
検証の結果、全ての領域を構成する分割領域の数が閾値1502以上であれば、全ての分割領域は背景であり、不審物は存在しないと判断できる。
逆に検証の結果、特定の領域を構成する分割領域の数が閾値1502に満たないものがあれば、当該領域は背景ではなく、不審物はそこに存在するものと判断できる。
不審物の存在が認められたら、アラームを出力し(S1706)、終了する(S1707)。
【0040】
以上に説明したことをまとめる。
本実施形態の監視装置1501は、主にマイクロコンピュータ上で稼動するソフトウェアよりなる。
入力静止画像データが監視装置1501に入力されると、これを画像保存部112(実体はRAM105)内に保存する。次に、領域分割部113にて均等な面積形状に分割された後、特徴量算出部114にて特徴量データを分割領域毎に作成する。その後、クラスタリング処理部1503にて、全分割領域の特徴量データ同士の距離を計算し、得られた距離が小さい領域同士を同じ模様の領域であると判断し、それらを統合する、クラスタリング処理を行う。こうして、複数の分割領域が幾つかの領域の集合体に分類される。
次に、分類された複数の分割領域の集合体を構成する分割領域の数を、所定の閾値1502と比較する。閾値1502以上の数の分割領域よりなる集合は、背景であるものと判断する。そして、背景と判断された分割領域を示すフラグを下ろす。
以上の処理により、入力静止画像データから特徴量演算と比較演算を経て、背景の領域とそれ以外の部分の領域とを判別することができる。
【0041】
[5.第4の実施の形態]
図18(a)、(b)及び(c)は、本発明の第4の実施形態よりなる監視装置の動作の概略を例示して示すイメージ図と、全体ブロック図である。
図18(a)において、入力画像データ1801には、海1802と空1803と、海に浮かぶ不審物としての船1804が存在する。この海1802は遠方を撮影した風景であり、入力画像データ1801中の海の部分の下の方と水平線近傍とでは、実際の距離は大きく異なる。このために、海面上に生じている波しぶきは、手前のものは大きく、遠方のものは小さく見える。すなわち、撮影された静止画像データ上に海が全体では一様な模様を構成していない。
このような入力画像データ1801を、全体を対象として評価すると、精緻な結果を得難い。
そこで、図18(b)に示すように、入力画像データ1801を水平線方向に複数に分割し、水平分割領域1805、1806、1807、1808、1809及び1810を作成する。
この、分割した画像データのそれぞれの水平分割領域に対して、特徴量演算や比較等を行う。
【0042】
この技術思想を実現するためのブロック図を図18(c)に示す。これは図1(b)と殆ど同じである。図18(c)に示される監視装置1811の、図1(b)の監視装置101と異なる点は、領域分割部1813が、水平領域分割部1813aと小領域分割部1813bに区分されている点である。
実際の演算処理は、第1の実施形態、第2の実施形態及び第3の実施形態にて説明した処理を、水平分割領域1805、1806、1807、1808、1809及び1810に対して実施することとなる。
なお、水平領域分割部1813aの分割幅をどのように設定するかは、処理対象となる入力画像データ1801の状態と、処理に要する演算量とのトレードオフにて、設計時点或は装置の実稼動前に決定される。
第1の実施形態乃至第3の実施形態による処理の結果が芳しくないときに、本実施形態を試みる、という処理の流れであってもよい。
【0043】
以上に説明したことをまとめる。
本実施形態の監視装置1811は、主にマイクロコンピュータ上で稼動するソフトウェアよりなる。
入力静止画像データが監視装置1811に入力されると、これを画像保存部112(実体はRAM105)内に保存する。次に、領域分割部113内の水平領域分割部1813aにて水平線に平行な方向に分割された後、小領域分割部1813bにて均等な面積形状の小領域に分割される。その後、特徴量算出部114による特徴量演算と、距離計算部116による距離計算を、水平分割領域毎に行う。
水平分割領域毎に、評価対象である小分割領域が背景か否かを判断する。そして、背景と判断された小分割領域を示すフラグを下ろす。
以上の処理により、入力静止画像データから特徴量演算と距離計算を経て、背景の領域とそれ以外の部分の領域とを判別することができる。
【0044】
[6.第5の実施の形態]
図19は、本発明の第5の実施形態よりなる監視装置のブロック図である。
図19において、監視装置1901内の分割領域判定部1902は、図1(b)の監視装置101と同じである。すなわち、この部分では前述の第1、第2、第3、第4のいずれかの実施形態と同じ機能が稼動する。
分割領域判定部1902からは、領域分割部113にて分割された入力画像データの各分割領域毎に、不審物の存在の有無を記すフラグのデータの集合が、距離計算部116を通じて出力される。
タイマ1903は、分割領域判定部1902を定時間隔で稼動させるトリガを出力する。
分割領域フラグ保存部1904はRAMよりなり、分割領域判定部1902から出力されるフラグのデータの集合を複数記憶する。
不審物領域移動量・方向算出部1905は、分割領域フラグ保存部1904に記憶されている複数のフラグのデータの集合同士を比較して、不審物と思しき領域が移動しているか否か、また移動しているとすればその移動方向を算出し、移動していると認められればアラームを出力する。
【0045】
図20(a)及び(b)は、入力画像データを例示して第5の実施形態による監視装置の動作の概略を示すイメージ図である。フラグの集合体のイメージを示すものでもある。
分割領域判定部1902によって、入力画像データに対して分割領域毎に不審物であるか否かを示すフラグの集合が出力される。図20(a)中、0は不審物でない、つまり背景であると判断された分割領域を示し、1は不審物であると判断された分割領域を示す。
通常、不審物は移動する。移動しない不審物は存在し得ないだろう。したがって、分割領域判定部1902を一定時間間隔毎に稼動させ、出力されるフラグの集合を比較すれば、不審物を示す分割領域が移動することがわかる。図中、不審物と判断された領域は時間の経過と共に移動している。
つまり、従来技術で行っていた、時間間隔を置いた静止画像同士の比較を、生の静止画像の代わりに本実施形態による背景の判定技術に基づく分割領域のフラグにて比較する。
背景を判定することにより、背景が動くことによる誤認識を排除し、従来技術よりはるかに高い精度にて不審物の移動を検出することができる。
【0046】
図21は、第5の実施形態にかかる監視装置の動作を示すフローチャートである。
処理を開始すると(S2101)、サンプルとなる入力静止画像データをRAMに取り込む(S2102)。
次に、前述の第1、第2、第3及び第4の実施形態にて説明した分割領域の判定処理を行う(S2103)。すなわち、入力静止画像データを領域分割部113にて分割し、各分割領域毎に特徴量を計算し、全ての各分割領域毎の特徴量を基に、距離計算を行う。こうして、各分割領域毎に背景であるか不審物であるかが判定される。そして、判定の結果得られた各分割領域のフラグの集合を、分割領域フラグ保存部1904(RAM105)に記憶する(S2104)。
次に、RAM105内に直前のフラグの集合があるか否か確認する(S2105)。直前のフラグの集合がなければ、最初に行った判定結果であるので、タイマ1903によるインターバルを経て、再び入力静止画像データを取り込んで一連の処理を行う。
直前のフラグの集合があれば、各々のフラグの集合同士を比較する(S2106)。比較の結果、一定値以上の差異があれば(S2107)、それは不審物の移動を示しているので、アラームを出力する(S2108)。
【0047】
以上に説明したことをまとめる。
本実施形態の監視装置1811は、主にマイクロコンピュータ上で稼動するソフトウェアよりなる。
分割領域判定部1902は、タイマ1903より発生するトリガに呼応して、入力静止画像データを画像保存部112(実体はRAM105)内に保存する。入力静止画像データは領域分割部113にて均等な面積形状に分割された後、特徴量算出部114にて特徴量データを分割領域毎に作成する。次に、得られた特徴量データを、所定値115との距離を計算し、得られた距離を所定の閾値と比較する。閾値に満たない距離の領域は、背景であるものと判断する。そして、背景と判断された分割領域を示すフラグを下ろす。
以上の過程にて得られたフラグの集合体を、タイマ1903が発するトリガに呼応して、分割領域フラグ保存部1904に順次保存する。保存された一定時間間隔毎のフラグの集合体を不審物領域移動量・方向算出部1905が比較して、移動している不審物の有無を判定する。
以上の処理により、入力静止画像データから特徴量演算と比較演算を経て、背景の領域とそれ以外の部分の領域とを判別することができる。
【0048】
本実施形態には、以下のような応用例が考えられる。
(1)マイクロコンピュータによる実装の代わりに、プログラマブル・ロジック・デバイス(Programmable Logic Device: PLD)を用いてもよい。
(2)前述の第1、第2、第3及び第4の実施形態において、不審物と誤認識し易い背景部分を特徴量計算処理の対象から外す、除外処理を追加することができる。
(3)前述の第1、第2、第3、第4及び第5の実施形態を、単一の監視装置内で同時に複数稼動させることもできる。演算処理の結果得られた、各領域毎のフラグの集合は、全て論理積にて併合したり、或いは加算処理の後所定の閾値にて比較することができる。
【0049】
本実施形態においては、静止画像データから背景とは異なる物体を判別することができる。この処理は従来技術において周知の、直前の画像データとの比較による手法とは異なり、入力された画像データのみを用いて判別する。このため、撮像カメラを旋回装置に設置して左右に回転駆動する監視の形態において特に好適である。
また、本実施形態では判別のために、画像データを所定の領域に分割して、分割領域毎に特徴量を計算する。そして各々の分割領域毎の特徴量と、所定の値との距離を計算する。このため、海や空など、自然現象によって生じる変化があっても、これを含めて一定の特徴を有する背景と判別することができる。
したがって、本実施形態の画像処理装置を撮像カメラと組み合わせることによって、従来技術と比べると、海の波や空の雲などの自然現象も誤認識せずに背景と認識できる、優れた監視装置を提供できる。
【0050】
以上、本発明の実施形態例について説明したが、本発明は上記実施形態例に限定されるものではなく、特許請求の範囲に記載した本発明の要旨を逸脱しない限りにおいて、他の変形例、応用例を含むことは言うまでもない。
【図面の簡単な説明】
【0051】
【図1】本発明の実施の形態に共通する技術思想による画像処理装置の全体ブロック図である。
【図2】第1の実施の形態による画像処理装置の全体ブロック図である。
【図3】第1の実施の形態の動作を概略的に示すイメージ図である。
【図4】第1の実施の形態の監視装置の処理内容のうち、前処理を示すフローチャートである。
【図5】第1の実施の形態の監視装置の処理内容のうち、実稼動時の処理を示すフローチャートである。
【図6】第1の実施の形態の監視装置の処理内容のうち、実稼動時の処理を示すフローチャートである。
【図7】特徴量演算方法の一つである、色ヒストグラムを説明する概略図である。
【図8】特徴量演算方法の一つである、周波数解析を説明する概略図である。
【図9】特徴量演算方法の一つである、同時生起確率行列を説明する概略図である。
【図10】画像データと同時生起確率行列との関係を説明する概略図である。
【図11】第2の実施の形態による画像処理装置の全体ブロック図である。
【図12】第2の実施の形態の動作を概略的に示すイメージ図である。
【図13】第2の実施の形態の監視装置の処理内容を示すフローチャートである。
【図14】第2の実施の形態の監視装置の処理内容を示すフローチャートである。
【図15】第3の実施の形態による画像処理装置の全体ブロック図である。
【図16】第3の実施の形態の動作を概略的に示すイメージ図である。
【図17】第3の実施の形態の監視装置の処理内容を示すフローチャートである。
【図18】第4の実施形態による画像処理装置の動作を概略的に示すイメージ図と、全体ブロック図である。
【図19】第5の実施の形態による画像処理装置の全体ブロック図である。
【図20】第5の実施の形態の動作を概略的に示すイメージ図である。
【図21】第5の実施の形態の監視装置の処理内容を示すフローチャートである。
【符号の説明】
【0052】
101…監視装置、102…撮像カメラ、103…CPU、104…ROM、105…RAM、106…バス、107…出力インターフェース、112…画像保存部、115…所定値、113…領域分割部、114…特徴量算出部、115…所定値、116…距離計算部
【出願人】 【識別番号】000002185
【氏名又は名称】ソニー株式会社
【出願日】 平成18年8月31日(2006.8.31)
【代理人】 【識別番号】100122884
【弁理士】
【氏名又は名称】角田 芳末

【識別番号】100133824
【弁理士】
【氏名又は名称】伊藤 仁恭


【公開番号】 特開2008−60967(P2008−60967A)
【公開日】 平成20年3月13日(2008.3.13)
【出願番号】 特願2006−236145(P2006−236145)