| 【発明の名称】 |
撮像装置のフリッカ検出方法と装置 |
| 【発明者】 |
【氏名】目崎 茂
|
| 【要約】 |
【課題】CMOSを用いた撮像素子を有する撮像装置を用い、どのような撮影条件に於いても、確実にフリッカを検出できるようにした撮像装置のフリッカ検出方法と装置を提供することが課題である。
【構成】マトリクス状に配列された各画素への電荷の蓄積と読み出しを、画素行単位の走査で行う撮像装置を用い、1フレームの画像データを垂直方向に複数の枠に分割して枠毎の平均輝度を算出すると共に、前後のフレームの画像データにおける対応する枠の平均輝度との差分をとり、フリッカ成分を抽出するフリッカ検出を実施して、画像データに含まれるフリッカの有無と周波数とを検出する撮像装置のフリッカを検出方法において、フリッカ検出を実施する時、撮像素子における電荷蓄積時間をフリッカを生じさせる光源の点滅周期より短くするようにした。 |
【特許請求の範囲】
【請求項1】 マトリクス状に配列された各画素への電荷の蓄積及び読み出しを画素行単位の走査で行う撮像素子を備えた撮像装置であって、時間的に連続する複数フレーム間の蓄積電荷量の差分を取り、点滅する光源下で発生するフリッカ成分を検出する撮像装置のフリッカ検出方法において、 前記フリッカ検出のための前記複数フレームにおける電荷蓄積時間を、前記光源の点滅周期より短かくしてフリッカを検出することを特徴とする撮像装置のフリッカ検出方法。 【請求項2】 前記時間的に連続する複数フレーム間の蓄積電荷量の差分は、前記フレームを垂直方向に複数の枠に分割して枠毎の平均輝度を算出し、前記時間的に連続するフレームにおける対応する枠の平均輝度との間で差分を取って算出することを特徴とする請求項1に記載した撮像装置のフリッカ検出方法。 【請求項3】 前記フリッカ検出時、前記撮像装置における撮像フレームレートを高くしてフリッカを検出することを特徴とする請求項1または2に記載した撮像装置のフリッカ検出方法。 【請求項4】 前記フリッカ検出は、被写体の明るさを定期的に確認し、被写体の明るさが予め定められた値を下回った場合に実施することを特徴とする請求項1乃至3のいずれかに記載した撮像装置のフリッカ検出方法。 【請求項5】 前記フリッカ検出のために取得したフレームは、表示または記憶に使わないことを特徴とする請求項1乃至4のいずれかに記載した撮像装置のフリッカ検出方法。 【請求項6】 前記フリッカ検出時は、前記フリッカを生じさせる光源の点滅周期より短くした撮像素子における電荷蓄積時間に対応させて、撮像素子からの画像データの増幅ゲインを上げることを特徴とする請求項1乃至5のいずれかに記載した撮像装置のフリッカ検出方法。 【請求項7】 各画素がマトリクス状に配列され、電荷の蓄積及び読み出しを画素行単位の走査で行う撮像素子を備えた撮像装置と、該撮像装置からの画像データに含まれるフリッカの有無と周波数とを検出するフリッカ検出状態において、時間的に連続する複数フレーム間の蓄積電荷量の差分を取り、点滅する光源下で発生するフリッカ成分を検出するフリッカ検出部とからなる撮像装置のフリッカ検出装置において、 前記フリッカ検出状態において、前記複数フレームにおける電荷蓄積時間を光源の点滅周期より短くする指示を前記撮像装置に送る制御手段を備えたことを特徴とする撮像装置のフリッカ検出装置。 【請求項8】 前記フリッカ検出装置は、前記フレームを垂直方向に複数の枠に分割して算出した枠毎の平均輝度を記憶する記憶手段と、前記枠毎の平均輝度の算出及び、前記記憶手段に記憶した時間的に連続するフレームにおけるそれぞれ対応する枠の平均輝度との差を取って蓄積電荷量の差分の算出を行い、フリッカ成分を抽出する算出手段とからなることを特徴とする請求項7に記載した撮像装置のフリッカ検出装置。 【請求項9】 前記制御手段は前記フリッカ検出状態において、前記撮像装置における撮像フレームレートを高くする指示を前記撮像装置に送ることを特徴とする請求項7または8に記載した撮像装置のフリッカ検出装置。 【請求項10】 前記フリッカ検出部は被写体の明るさを定期的に確認する明るさ検出手段を有し、前記制御手段は、前記明るさ検出手段により被写体の明るさが予め定められた値を下回ったという信号を受けて、フリッカ検出を前記撮像装置と前記フリッカ検出部に指示することを特徴とする請求項7乃至9のいずれかに記載した撮像装置のフリッカ検出装置。 【請求項11】 前記制御手段は前記フリッカ検出状態で取得したフレームを、表示または記憶に使わない指示を行うことを特徴とする請求項7乃至10のいずれかに記載した撮像装置のフリッカ検出装置。 【請求項12】 前記制御手段は前記フリッカ検出状態において、前記フリッカを生じさせる光源の点滅周期より短くした撮像素子における電荷蓄積時間に対応させ、前記撮像素子からの画像データの増幅ゲインを上げるよう前記撮像装置に指示することを特徴とする請求項7乃至11のいずれかに記載した撮像装置のフリッカ検出装置。
|
【発明の詳細な説明】【技術分野】 【0001】 本発明は、例えば蛍光灯のように電源周波数に起因して明るさが変化する光源で照明した被写体を、CMOS(Complementary Metal Oxide Semiconducter)で構成した撮像装置のように、個々の撮像素子における画像データとしての電荷の蓄積と読み出しを画素行単位の走査で行う撮像装置で撮像したときに画像に生じるフリッカを、確実に検出できるようにした撮像装置のフリッカ検出方法と装置に関するものである。 【背景技術】 【0002】 ビデオカメラやデジタルカメラの撮像装置を構成する撮像素子には、従来から、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconducter)が用いられている。このうちCMOSを用いた撮像素子は、CCDを用いた撮像素子に較べてLSIと同様の製造プロセスが使用できるために量産性に優れ、増幅器を始め様々な機能を画素毎に設けることも可能で、回路全体のサイズを小さくできると共にコスト的にも有利になる。また、電源が低電圧の単一電源で済み、CCDでは問題となるスミアが無視できるほど小さい上に、データの読み出しが高速に行える等の利点がある。 【0003】 しかしながらCMOSを用いた撮像素子は、ノイズが多いということと、各画素を構成する撮像素子からの撮像データをCCDと異なって個別に取り出すため、撮像に際し、電荷露光を行うタイミングがライン毎に異なると共に画像データを時系列に読み出すことになり、走査線ごとに走査に要する時間だけ蓄積時間がずれてしまう、という欠点がある。この欠点のため、CMOSを用いた撮像装置では、高速で動いている被写体を撮像した場合に走査方向に曲がった画像が出力されたり、被写体の照明に、例えば蛍光灯のように、電源周波数に起因して明るさが変化する光源を用いた場合、図7に誇張して示したようにフリッカと呼ばれる画像に明暗のある縞模様が発生する。 【0004】 このフリッカは、電源周波数によって蛍光灯が1秒間に100回(50Hzの場合)、あるいは120回(60Hzの場合)点滅を繰り返すことにより生じるもので、例えば撮像装置のフレームレートを15回/秒とすると、1フレーム中にこの点滅が50Hzの場合で約6.7回、60Hzの場合は8回起こることになり、各撮像素子における電荷蓄積時間がこの光源の点滅周期の整数倍でない場合、図7に示したような縞模様が画像に発生するわけである。 【0005】 それに対してCCDでは、光の照射によって同一時刻に蓄積した電荷をそのままの状態で転送機能を用いて増幅器に運ぶため、データ全体の読み出しはCMOSに較べて遅くなるが画面内に明暗のムラが生じるといったことはなく、また、CCD自体の感度がCMOSに対して高い上にノイズも少ない。 【0006】 しかしながら、例えば一眼レフ型のデジタルカメラなどにおいてはセンサのサイズを大きくできるため、感度やノイズの改善が容易である。さらにCMOSを用いた撮像素子は、その高速性によって一眼レフ型のデジタルカメラ等に要求される連写機能を容易に実現することができ、前記したCMOSを用いた撮像素子の利点と相俟って、最近の一眼レフ型デジタルカメラではこのCMOSを用いた撮像素子を備えたものが多くなっている。また、前記したフリッカの問題についても、シャッタ時間、すなわちCMOSにおける個々の撮像素子の電荷蓄積時間を明暗の生じる間隔、すなわち電源周波数による光源の点滅周期の倍数とすることで防ぐことができる。 【0007】 しかしながら前記したように、フリッカによる縞模様を無くすか目立たないようにするためには、電源周波数に起因する光源の点滅周期を正確に検出する必要がある。こういった技術に関しては例えば特許文献1に、CCDを用いた単板式テレビカメラに関するものではあるが、蛍光灯などのフリッカを持つ照明下でちらつきを生じさせないよう、蓄積時間を1/30秒とすることが示され、さらにこのように蓄積時間を1/30秒とした場合、移動する車などを撮像すると画像がボケてしまう(被写体ブレ)という問題が生じるのを防止するため、蓄積時間をフレーム周期とフィールド周期に切り換え可能とし、且つ、切り換え時における信号のレベル変化を無くし、さらに、撮像している被写体の状態、例えば光量が充分か否か、フリッカが多いか少ないか、また、被写体の動きが多いか少ないかなどを判断して自動的に蓄積時間を切り換え、再生画像のS/N、フリッカの量、及び蓄積時間による動的解像度が最良の状態となるような制御を行う、蓄積時間切り換え固体撮像装置が示されている。 【0008】 また、特許文献2には、画像を垂直走査方向に分割して複数のフリッカ検波枠を設定すると共に、各フリッカ検波枠毎に輝度データの検波を行ない、さらに各フリッカ検波枠毎に前後の2つのフレームの輝度データとの差分をとってフリッカ成分を抽出することで、フリッカの周波数を算出する方法が示されている。なお、この特許文献2に示されたフリッカ検出方法では、前後のフレームの差分をとった場合にフリッカ成分が消えないよう、撮像信号のフレームレートとフリッカ周波数とを同期させないように調整している。 【0009】 【特許文献1】特開昭63−20977号公報 【特許文献2】特開2003−189129号公報 【発明の開示】 【発明が解決しようとする課題】 【0010】 しかしながら特許文献1に示された蓄積時間切り換え固体撮像装置は、光量、フリッカの量、被写体の動き、再生画像のS/Nなどによって蓄積時間をフレーム周期とフィールド周期に切り換え、それによって動的解像度が最良の状態となるような制御しているだけで、フリッカの周波数を検出することについては記載が無く、また、特許文献2のフリッカ検出方法では、被写体が高速で動くために生じる像ブレや、撮像装置を完全に固定せずに手で持っているためにフレーム間で画像のブレ(手ブレ)が発生すると、フリッカ成分を抽出するため、各フリッカ検波枠毎に前後の2つのフレームの輝度データとの差分をとる処理に際し、検出の精度が落ちてフリッカ成分抽出がうまくできない場合があるという問題が生じる。 【0011】 そのため本発明においては、CMOSを用いた撮像素子を有する撮像装置を用い、どのような撮影条件に於いても、確実にフリッカを検出できるようにした撮像装置のフリッカ検出方法と装置を提供することが課題である。 【課題を解決するための手段】 【0012】 上記課題を解決するため本発明になる撮像装置のフリッカ検出方法は、 マトリクス状に配列された各画素への電荷の蓄積及び読み出しを画素行単位の走査で行う撮像素子を備えた撮像装置であって、時間的に連続する複数フレーム間の蓄積電荷量の差分を取り、点滅する光源下で発生するフリッカ成分を検出する撮像装置のフリッカ検出方法において、 前記フリッカ検出のための前記複数フレームにおける電荷蓄積時間を、前記光源の点滅周期より短かくしてフリッカを検出することを特徴とする。 【0013】 また、この方法を実施する撮像装置のフリッカ検出装置は、 各画素がマトリクス状に配列され、電荷の蓄積及び読み出しを画素行単位の走査で行う撮像素子を備えた撮像装置と、該撮像装置からの画像データに含まれるフリッカの有無と周波数とを検出するフリッカ検出状態において、時間的に連続する複数フレーム間の蓄積電荷量の差分を取り、点滅する光源下で発生するフリッカ成分を検出するフリッカ検出部とからなる撮像装置のフリッカ検出装置において、 前記フリッカ検出状態において、前記複数フレームにおける電荷蓄積時間を光源の点滅周期より短くする指示を前記撮像装置に送る制御手段を備えたことを特徴とする。 【0014】 このようにフリッカ検出にあたり、電荷蓄積時間をフリッカを生じさせる光源の点滅周期より短くすることで、撮像した画像のデータは光源のフリッカに起因する明暗を顕著に反映したデータとなり、フリッカをより高い精度で検出できるようになると共に、電荷蓄積時間を短くしたことにより、被写体ブレや手ブレに対しても画像データに対する影響が少なくなり、より効果的にフリッカ検出を行うことができる。 【0015】 そして、前記時間的に連続する複数フレーム間の蓄積電荷量の差分は、前記フレームを垂直方向に複数の枠に分割して枠毎の平均輝度を算出し、前記時間的に連続するフレームにおける対応する枠の平均輝度との間で差分を取って算出するよう、フリッカ検出方法と装置を構成することで、フリッカを顕著に反映したデータが得られ、フリッカをより高い精度で検出できる。 【0016】 また、前記フリッカ検出時、前記撮像装置における撮像フレームレートを高くしてフリッカを検出するようフリッカ検出方法と装置を構成することで、被写体ブレや手ブレの画像データに対する影響がさらに少なくなり、より高い精度でフリッカ検出を行うことができる。 【0017】 さらに、前記フリッカ検出は、被写体の明るさを定期的に確認し、被写体の明るさが予め定められた値を下回った場合に実施するようフリッカ検出方法と装置を構成することで、例えば明るさ検出手段として撮像装置からの画像データ、若しくは別途設けた測光センサなどを用い、その出力で被写体の明るさ、すなわち照度が一般的な蛍光灯の照度(約300Luxから700Lux)よりも明らかに大きいと判断されたきは、屋外と判断してフリッカ検出を行わないようにすることで、誤検出を防ぐこともできる。 【0018】 そして、前記フリッカ検出のために取得したフレームは、表示または記憶に使わないようフリッカ検出方法と装置を構成することで、フリッカ検出時には通常より電荷蓄積時間を短くし、画像データの増幅ゲインを大きくするからその分ノイズが増えるが、このように表示または記憶に使わないようにすることで、画質の悪化を防ぐことが可能となる。 【0019】 また、前記フリッカ検出時は、前記フリッカを生じさせる光源の点滅周期より短くした撮像素子における電荷蓄積時間に対応させて、撮像素子からの画像データの増幅ゲインを上げるようフリッカ検出方法と装置を構成することで、フリッカの検出が容易に行える。 【発明の効果】 【0020】 本発明によれば、何らかの特別な装置を付加することなく、フリッカ成分の検出精度を高め、確実にフリッカを検出することができる。 【発明を実施するための最良の形態】 【0021】 以下、図面を参照して本発明の好適な実施例を例示的に詳しく説明する。但しこの実施例に記載されている構成部品の寸法、材質、形状、その相対的配置等は、この発明の範囲をそれに限定する趣旨ではなく、単なる説明例に過ぎない。 【実施例1】 【0022】 図1は、本発明になるフリッカ検出装置を有する撮像装置における一実施形態の概略構成を示すブロック図である。図中10はCMOSを撮像素子として用い、その撮像素子からの出力信号を増幅するゲインアンプや、アナログ画像信号をデジタルの画像信号に変換するA/Dコンバータなどを有し、撮像した画像の信号を出力する撮像部、11は撮像部10からの画像信号に対し、カラー調整、ガンマ補正、輝度信号生成等の演算を施す画像処理部、12は被写体が電源周波数などに起因する光量変化を有する光源で照明されたことで生じるフリッカを検出するフリッカの検出部で、このフリッカ検出部12は、後記するように連続する複数フレーム間の蓄積電荷量の差分を取るため、1フレームの画像信号を垂直方向に複数の枠に分割し、枠毎の平均輝度を算出して連続するフレームにおける対応する枠の平均輝度の差分を取る機能を有し、これら平均輝度と差分の算出手段、記憶装置などを有している。また、フリッカの検出以外に撮像部10から送られてくる画像信号中の輝度信号を用いたり、別途設けた測光センサなどを用いて被写体の明るさを検出し、その明るさ、すなわち照度が一般的な蛍光灯の照度(約300Luxから700Lux)よりも明らかに大きいと判断されたきは、屋外と判断してフリッカ検出を行わないようにするため、上記照度値を下回っている場合、システム制御部13にその旨の信号を出力する機能も有する。 【0023】 13は撮像部10を撮像部制御信号18により制御すると共に、フリッカ検出部12からの明るさが予め定められた値を下回っている旨の信号を受け、フリッカ有り/無しの判定、フリッカ周波数の判定を行うためのフリッカ検出を撮像部10とフリッカ検出部12に指示し、フリッカ検出部12からの評価値に基づいて、フリッカ有り/無しの判定、フリッカ周波数の判定を行うと共に、画像データ格納用の画像メモリ16の制御、LCD等の画像表示部17の制御などを行うCPUを有したシステム制御部、14はキースイッチやダイヤル等を有し、フリッカ検出を行わないときに撮像した画像データをフリッカ検出部12を通過させ、そのスルー画像を画像表示部17に表示させたり、画像メモリ16に記録等を行わせるモードを選択させるための手段等を有する操作部、15はメモリバスである。 【0024】 本発明になるフリッカ検出装置を有する撮像装置は、フリッカ検出を行わない通常の状態では、システム制御部13からの指示により、撮像部10で撮像素子からの画像信号をゲインアンプで増幅した後、このアナログ画像信号をA/Dコンバータでデジタル画像信号に変換し、画像処理部11でカラー調整、ガンマ補正、輝度信号生成等の演算を施す。そして、システム制御部13からフリッカ検出部12にフリッカ検出指示信号が来ていないから、このフリッカ検出部12においては何も処理をせずに画像信号をメモリバス15を介して画像表示部17に送り、表示させる。また、操作部14からシステム制御部13に画像データを画像メモリ16に記憶させる旨の指示が来ている場合、画像メモリ16に指示を送って画像信号を記憶させる。 【0025】 このように構成した撮像装置において、被写体が電源周波数などに起因する光量変化を有する光源で照明されたことで前記したように被写体の明るさが予め定められた値を下回り、フリッカを生じる可能性があると判断された場合、フリッカの有無、フリッカ周波数の判定が行われる。 【0026】 図2はフリッカ検出部12によるフリッカ検出の概略を説明するための図で、(A)はフリッカ検出を行うときに1フレーム分の画像データを分割した状態を示した図、(B)は(A)のように分割した各枠内における輝度信号の平均値を示した図、(C)はフリッカの周波数を検出するためのバンドパスフィルタ(BPF)を示した図、図3は本発明のフリッカ検出方法のフロー図である。また、図4乃至図6は、本発明のフリッカ検出方法を説明するための図であり、図4は、CMOSを用いた撮像素子における電荷蓄積時間を短くして画像上にフリッカにより生じる縞模様が明確に現れるようにした場合、図5は通常フレームの間に、周期的にフリッカ検出を行うためにフレームレートを上げたフレームを挿入し、また、そのフレームで取り込んだ画像はスルー像として用いないことを説明するための図、図6は電荷蓄積時間を短くせず、フレームレートも上げなかった場合のフリッカにより生じる縞模様の状態を示した図である。 【0027】 本発明になる撮像装置におけるフリッカの検出方法では、周期的(例えば5秒または10秒毎)にシステム制御部13からフリッカ検出部12に、図3に示したフローによるフリッカ検出を行うよう指示が出される。その指示により図3のステップS61でこの処理がスタートすると、まずステップS62で、フリッカ検出部12が撮像部10から送られてくる画像信号中の輝度信号、または別途設けた測光センサにより被写体の明るさを検出し、その信号を受けたシステム制御部13が、ステップS63でその明るさが予め定められた値を下回っているか否かを判断する。下回っていない場合はフリッカ検出の必要がないとしてステップS76に行き、処理が終了する。 【0028】 このように例えば5秒から10秒に1回の割でフリッカ検出の実施指示を出すのは、被写体を照明している光源が変化する可能性があるからである。また、被写体の明るさを検出してフリッカ検出を実施するか否かを判断するのは、不要なフリッカ検出を実施することで誤検知が行われるのを防止するためであるが、フリッカ検出をこのように被写体の明るさを検出して実施するか否か判断するのではなく、システム制御部13からフリッカ検出実施の指示が出た場合は、必ず実施するようにしても良い。 【0029】 そして、ステップS63で明るさが規定値以下と判断された場合、処理がステップS64に進んでフリッカ検出のための用意を行う。すなわちシステム制御部13は、まず、撮像部10から画像処理部11を介して送られてくる1フレーム分の画像データをフリッカ検出部12で、図2(A)に示したように検出枠[0]、検出枠[1]、……、検出枠[15]と垂直方向に等分割する。この1フレーム分の画像データの分割数は、それぞれの枠内の走査に要する合計時間が検出対象とすべき光源点滅周期より短くなるようにする。すなわち前記したように、例えば撮像部のフレームレートを15回/秒とすると、1フレーム中にこの点滅が50Hzの場合で約6.7回、60Hzの場合は8回起こることになるから、最小輝度部と最大輝度部を別々の枠とするためには、少なくとも16分割以上にする必要がある。枠の分割数はより大きい方が周波数検出精度に対しては有利となるが、演算処理の負荷が増大することになるので、その点を考慮して決める。なお、以下の説明では、一例として1フレーム分の画像データを16分割した場合を例に説明するが、これは16分割に限らず、上記した16分割以上であれば任意の数に分割しても良いことは自明である。 【0030】 そして、次にシステム制御部13はステップS65で、撮像部10を構成するCMOSを用いた撮像素子の電荷蓄積時間を図4に33で示したように、フリッカによる明暗が明確に現れるような値に設定し、それによる蓄積電荷量の低下を、撮像部10が有するアンプのゲインを上げて補うよう指示する。なお、この図4において31は垂直同期信号であり、32は電源周波数による光源の明るさの変化状態を示したもの、33はそれぞれの黒線がCMOSを用いた撮像素子の各水平行毎の電荷蓄積時間の長さを示したもの、34は撮像された画像データによって生じるフリッカによる明暗を表している。なお、以下で説明する図5、図6に於いて上記と同一の番号が付けられたものは同じものである。 【0031】 この図4からわかるように、フリッカ検出処理において、撮像部10を構成するCMOSを用いた撮像素子の電荷蓄積時間33を短くする程、各水平素子間の光量積分値の相対比が大きくなる。この場合は、34で示したようにフリッカによる明るさの変化が顕著に現れたデータが得られるため、フリッカ検出の精度が高くなる。また、電荷蓄積時間33を短くしたことにより、被写体ブレや手ブレに対しても画像データに対する影響が少なくなり、より効果的にフリッカ検出を行うことができる。 【0032】 それに反し、図6に示したように撮像部10を構成するCMOSを用いた撮像素子の電荷蓄積時間を、光源の明るさの変化周期32よりも51のように長くすると、各素子は、被写体におけるフリッカにより変化した明るさを積分して撮像するから、得られる画像データは、被写体を照明する光源の明るさ変化を平均した値が記録されることになり、52に示したように、フリッカによる画像への影響は比較的小さなものとなる。従って、この場合はフリッカ検出が困難になる。 【0033】 再度図3に戻って、次にステップS66でシステム制御部13は、フリッカ検出を容易にするため、図5に示したように、フレームレートを上げるよう撮像部10に指示する。この図5の場合、31で示した垂直同期信号が時間t3とt5の中間のt4にも入り、通常の1フレーム間隔である時間t3とt5の間に2フレーム分の画像を取得する。こうすると、フレーム間の時間差が小さくなり、被写体ブレや手ブレの発生確率・影響が小さくなって、フリッカ検出精度が向上する。なお、この図5に示したフリッカ検出用のフレームレートは通常の2倍としたが、これは一例であり、もっと高いレートに設定しても良いことは自明である。 【0034】 またこのステップS66でシステム制御部13は、このフリッカ検出を行うためのフレームレートを、1フレーム毎に画面上のフリッカによる明暗の縞模様が現れる位置が異なるようなフレームレート(1秒間のコマの数)に設定し、撮像部10に撮像部制御信号18を介して信号を送る。 【0035】 なお、この図4、図5において33、43で示したフリッカ検出用の短くした電荷蓄積時間は、前記したように画像データ出力を小さくするから、それを補うため、撮像部10が有するゲインアンプのゲインを上げる。しかしこの場合、ゲインを上げたフレームは、それだけノイズも増え、また、このフレームは、意図的にフリッカが強調された画像だから、この間の画像データはシステム制御部13からの指示により、画像表示部17への表示、若しくは画像メモリ16への記憶をさせないようにする。この処理により、フリッカ検出時は、周期的(例えば5秒毎)に画像表示のフレームレートが下がることになるが、ドロップするフレーム数の割合から、実使用上全く障害にならないと考えられる。 【0036】 この図5における42は、この間の様子を示したもので、フリッカ検出でない通常のフレームレートで、41で示したように通常の電荷蓄積時間で撮像が行われた画像データは、更新(N)、更新(N+1)、更新(N+2)として示された時間t1とt2の間、時間t2とt3の間、時間t3とt5の間はデータが更新されて、画像表示部17への表示、若しくは画像メモリ16への記憶が行われるが、31における時間t3とt5の間のフリッカ検出時には、電荷蓄積時間が43で示したように短時間でゲインアンプのゲインが上げられているため、この間のデータはフリッカ検出のみに用いられ、42の時間t5とt6の間、時間t6とt7の間のように、更新(N+2)がそのまま保持されて画像表示部17への表示、若しくは画像メモリ16への記憶が行われることを示している。 【0037】 また、この図5に示したようにフレームレートを上げることで、そのフレームレートに合わせて撮像部10を構成するCMOSを用いた撮像素子の電荷蓄積時間を短くするが、電荷蓄積時間をさらに短くしても良い。こうすると、前記したように被写体ブレや手ブレの画像データに対する影響が少なくなり、より高精度にフリッカ検出を行うことができる。 【0038】 再度図3に戻って次にシステム制御部13は、ステップS67でフリッカ検出部12に指示し、撮像部10から画像処理部11を介して送られてくる1フレーム分の画像データを、図2(A)に示したように検出枠[0]、検出枠[1]、……、検出枠[15]と垂直方向に等分割し、それぞれの枠内における輝度信号の平均値を図2(B)に、Y[0]、Y[1]、……、Y[15]で示したように算出して記憶する。 【0039】 そして次のステップS68でシステム制御部13は、フリッカ検出部12に次のフレームを取得させて同様にして検出枠[0]、検出枠[1]、……、検出枠[15]に分割すると共に、それぞれの枠内における輝度信号の平均値を図2(B)に、Y[0]、Y[1]、……、Y[15]で示したように算出し、さらに次のステップS69で、先に記憶した最初のフレームの輝度信号の平均値との差分を算出させる。 【0040】 この差分算出処理は、画像データに含まれる被写体のデータ分を消去し、フリッカによる明暗の縞模様(フリッカ成分)だけを抽出するためである。また、このとき、前記したように差を取る2つのフレームにおけるフリッカの現れる位置を異ならせているが、これは、差分をとったときに、フリッカによる明暗だけが残るようにするためで、このとき、フレームレートとフリッカ周波数(蛍光灯の電源周波数)とを同期させてしまうと、フリッカが発生する位置が画面上で固定されてしまうこととなり、差分を取った時にフリッカ成分も消えてしまう。フリッカ周波数と同期してしまうフレームレートは蛍光灯の電源周波数を正整数で割った値、若しくは正整数倍した値であり、例えば電源周波数が50Hzの場合、100フレーム/秒、50フレーム/秒、25フレーム/秒、………となり、60Hzの場合、120フレーム/秒、60フレーム/秒、30フレーム/秒、………となる。そこで、それを回避するため、フレームレートがこのフリッカ周波数と同期する値より遅くなった値、又は早くなった値となるよう、水平同期周期を長く又は短くとるような操作をシステム制御部13で行い、フリッカ成分を浮き上がらせるようにしている。 【0041】 こうしてフリッカ成分が抽出されるとシステム制御部13は、このフリッカ成分を含む図2(B)にY[0]、Y[1]、……、Y[15]で示した輝度信号平均値を、ステップS70で図2(C)に示したバンドパスフィルタにおける輝度信号平均値入力端子21に入力する。バンドパスフィルタ22、23は、フリッカの原因となる被写体を照明する光源の電源周波数を検出するためのもので、光源の明るさは電源周波数の2倍のサイクルで変化するため、22は100Hzに対応させ、23は120Hzに対応させて設けられている。 【0042】 そのため、このバンドパスフィルタ22、23からは、入力した輝度信号平均値の周波数に対応した周波数の波が出力されるから、システム制御部13は、出力端子24、25に出た出力によってステップS71で、フリッカの有無、周波数の判定を行う。そして、次のステップS72でシステム制御部13は、フリッカがない場合は処理をステップS74に進めて撮像素子の電荷蓄積時間をフリッカ検出用設定前の値に再設定し、フリッカが有る場合はステップS73に進んで検出したフリッカ周波数に基づき、撮像部10におけるCMOSを用いた撮像素子の電荷蓄積時間(シャッタ時間)を、フリッカ間隔の整数倍とするフリッカ対応蓄積時間に設定するよう、図1における撮像部制御信号18を撮像部10に送る。そしてステップS75で、撮像部10のフレームレートをフリッカ検出用設定前の値に再設定し、ステップS76で終了する。 【0043】 なお、このフリッカの有無、周波数の判定は、図2(B)に示した輝度信号平均値によって行っても良い。すなわち、フリッカは、図2(B)に示した各枠の輝度信号平均値に差が生じている場合にフリッカがあると判定できるから、1つの枠における輝度をその隣、1つ置いた更に隣、更にその隣……と比較することを全ての枠の輝度信号平均値について行い、明暗の差が一定間隔で生じている場合にフリッカがあると判定し、さらにその間隔により、フリッカ周波数を算出する。つまり前記したように、撮像部のフレームレートを15回/秒とすると、1フレーム中にこの点滅が50Hzの場合で約6.7回、60Hzの場合は8回起こることになるから、分割数を16とした場合、50Hzの場合で2つか3つおきに、60Hzの場合は2つおきに暗部、または明部が来ることになるから、それによって周波数を決定すればよい。 【0044】 このようにフリッカ検出にあたり、電荷蓄積時間をフリッカを生じさせる光源の点滅周期より短くすることで、撮像した画像のデータは光源のフリッカに起因する明暗を顕著に反映したデータとなり、フリッカをより高い精度で検出できるようになると共に、電荷蓄積時間を短くしたり、フレームレートを高くしたことで、被写体ブレや手ブレに対しても画像データに対する影響が少なくなり、より効果的にフリッカ検出を行うことができる。 【産業上の利用可能性】 【0045】 本発明によれば、CMOSを用いた撮像素子を有する撮像装置を用いても、高精度にフリッカを検出できるから、フリッカの発生を押さえた画像を得ることのできる撮像装置を提供することができる。 【図面の簡単な説明】 【0046】 【図1】本発明になる撮像装置の一実施形態の概略構成を示すブロック図である。 【図2】フリッカ検出部12によるフリッカ検出の概略を説明するための図で、(A)はフリッカ検出を行うときに1フレーム分の画像データを分割した状態を示した図、(B)は(A)のように分割した各枠内における輝度信号の平均値を示した図、(C)はフリッカの周波数を検出するためのバンドパスフィルタ(BPF)を示した図である。 【図3】本発明のフリッカ検出方法のフロー図である。 【図4】本発明のフリッカ検出方法を説明するための図で、CMOSを用いた撮像素子における電荷蓄積時間を短くして画像上にフリッカにより生じる縞模様が明確に現れるようにした場合である。 【図5】本発明のフリッカ検出方法を説明するための図で、通常フレームの間に、周期的にフリッカ検出を行うためにフレームレートを上げたフレームを挿入し、また、そのフレームで取り込んだ画像はスルー画像として用いないことを説明するための図である。 【図6】電荷蓄積時間を短くせず、フレームレートも上げなかった場合のフリッカにより生じる縞模様の状態を示した図である。 【図7】CMOSを撮像素子として使い、被写体の照明に、電源周波数に起因して明るさが変化する光源を用いたことにより生じるフリッカを誇張して示した図である。 【符号の説明】 【0047】 10 撮像部 11 画像処理部 12 フリッカ検出部 13 システム制御部 14 操作部 15 メモリバス 16 画像メモリ 17 画像表示部 18 撮像部制御信号 20 1フレームの画像信号 21 輝度信号平均値入力端子 22 100Hzに対応したバンドパスフィルタ 23 120Hzに対応したバンドパスフィルタ 24、25 検出出力の出力端子
|
| 【出願人】 |
【識別番号】000006633 【氏名又は名称】京セラ株式会社
|
| 【出願日】 |
平成18年6月29日(2006.6.29) |
| 【代理人】 |
【識別番号】100083024 【弁理士】 【氏名又は名称】高橋 昌久
【識別番号】100137257 【弁理士】 【氏名又は名称】松本 廣
|
| 【公開番号】 |
特開2008−11226(P2008−11226A) |
| 【公開日】 |
平成20年1月17日(2008.1.17) |
| 【出願番号】 |
特願2006−180018(P2006−180018) |
|