トップ :: H 電気 :: H04 電気通信技術




【発明の名称】 画像データ修復装置、撮像装置、画像データ修復方法、及び画像データ修復プログラム
【発明者】 【氏名】岩淵 浩志

【要約】 【課題】画質劣化を抑制しながら静止画の手振れ補正を実現することが可能な方法を提供する。

【構成】撮像素子による撮像で得られた静止画像データSを修復する方法であって、撮像時における撮像素子のY方向へのぶれに関するぶれ情報を取得し、該ぶれ情報に基づいて、該ぶれ情報に基づくぶれがない状態で被写体を撮像したときに得られる理想的な画像データOを静止画像データSから復元するための復元行列Wを設定し、復元行列Wと静止画像データSとの掛け算により画像データOを復元し、復元した画像データOに復元行列Wに起因してY方向に向かって周期的に重畳される複数種類のノイズを、復元行列Wとぶれ行列Hとの積によって求めた該ノイズのノイズ重畳周期に関するノイズ周期情報と、復元した画像データOと、静止画像データSとに基づいて算出し、算出したノイズを復元した画像データOから除去して修復処理を終了する。
【特許請求の範囲】
【請求項1】
被写体を撮像素子によって撮像して得られた静止画像データを、前記撮像時における前記撮像素子の一次元方向へのぶれに関するぶれ情報に基づいて修復する画像データ修復装置であって、
前記ぶれ情報に基づくぶれがない状態で前記被写体を撮像したときに得られる理想的な画像データを前記静止画像データから復元するための復元行列であって、前記ぶれ情報に基づくぶれによる前記理想的な画像データの前記一次元方向への広がりを表すぶれ行列の擬似逆行列である復元行列と、前記静止画像データとの掛け算により、前記理想的な画像データを復元する画像データ復元手段と、
前記復元行列に起因して前記画像データ復元手段によって復元された画像データに前記一次元方向に向かって周期的に重畳される複数種類のノイズを算出するノイズ算出手段と、
前記ノイズ算出手段で算出されたノイズを前記画像データ復元手段によって復元された画像データから除去するノイズ除去手段とを備え、
前記復元行列は、前記ぶれ行列を近似した近似行列であって、前記ぶれ情報に基づくぶれによって前記理想的な画像データの端部から前記一次元方向外側に広がる画素データの値に、所定の値が外挿されるように表された近似行列、の逆行列であり、
前記ノイズ算出手段は、前記復元行列と前記ぶれ行列との積によって求められた前記複数種類のノイズ毎のノイズ重畳周期に関するノイズ周期情報と、前記画像データ復元手段によって復元された画像データと、前記静止画像データとに基づいて、前記複数種類のノイズを算出する画像データ修復装置。
【請求項2】
請求項1記載の画像データ修復装置であって、
前記所定の値が、前記理想的な画像データの前記端部の画素データの値である画像データ修復装置。
【請求項3】
請求項1又は2記載の画像データ修復装置であって、
前記復元行列と前記ぶれ行列との積により前記ノイズ周期情報を生成するノイズ周期情報生成手段を備える画像データ修復装置。
【請求項4】
請求項1又は2記載の画像データ修復装置であって、
前記ノイズ算出手段が、前記ぶれ情報に対応する前記ノイズ周期情報が予め記録された記録媒体から、前記ぶれ情報に対応する前記ノイズ周期情報を読み出して、前記ノイズの算出に用いる画像データ修復装置。
【請求項5】
請求項1〜4のいずれか1項記載の画像データ修復装置であって、
前記静止画像データ及び前記画像データ復元手段で復元された画像データは、それぞれ、前記一次元方向に並ぶ多数の画素データからなる画素データ列が前記一次元方向と直交する方向に多数配列された構成であり、
前記ノイズ算出手段が、
前記画像データ復元手段によって復元された画像データの各画素データ列の復元もととなった前記静止画像データの画素データ列の各画素データを、前記ノイズ周期情報にしたがったノイズ重畳周期毎にサンプリングする第1のサンプリング手段と、
前記復元もととなった前記静止画像データの画素データ列から復元された画素データ列の各画素データを、前記ノイズ周期情報にしたがったノイズ重畳周期毎に前記第1のサンプリング手段と同一数サンプリングする第2のサンプリング手段と、
前記第2のサンプリング手段によってサンプリングされた画素データの積算値から前記第1のサンプリング手段によってサンプリングされた画素データの積算値を減算した値を前記サンプリングした数で割って前記ノイズを算出する割り算手段とを含む画像データ修復装置。
【請求項6】
請求項1〜5のいずれか1項記載の画像データ修復装置であって、
前記ぶれ情報に基づいて、前記ぶれ行列を生成するぶれ行列生成手段と、
前記ぶれ行列生成手段によって生成されたぶれ行列から前記近似行列を生成する近似行列生成手段と、
前記近似行列生成手段で生成された近似行列の逆行列を求めて前記復元行列を生成する復元行列生成手段とを備える画像データ修復装置。
【請求項7】
請求項1〜5のいずれか1項記載の画像データ修復装置であって、
前記ぶれ情報に対応する前記復元行列が予め記録された記録媒体から、前記ぶれ情報に対応する前記復元行列を読み出す手段を備える画像データ修復装置。
【請求項8】
請求項1〜7のいずれか1項記載の画像データ修復装置と、
前記撮像素子と、
前記撮像素子の出力信号から前記静止画像データを生成する静止画像データ生成手段と、
前記撮像時における前記撮像素子の前記一次元方向へのぶれを検出して前記ぶれ情報を生成するぶれ情報生成手段とを備える撮像装置。
【請求項9】
被写体を撮像素子によって撮像して得られた静止画像データを、前記撮像時における前記撮像素子の一次元方向へのぶれに関するぶれ情報に基づいて修復する画像データ修復方法であって、
前記ぶれ情報に基づくぶれがない状態で前記被写体を撮像したときに得られる理想的な画像データを前記静止画像データから復元するための復元行列であって、前記ぶれ情報に基づくぶれによる前記理想的な画像データの前記一次元方向への広がりを表すぶれ行列の擬似逆行列である復元行列と、前記静止画像データとの掛け算により、前記理想的な画像データを復元する画像データ復元ステップと、
前記復元行列に起因して前記画像データ復元ステップによって復元された画像データに前記一次元方向に向かって周期的に重畳される複数種類のノイズを算出するノイズ算出ステップと、
前記ノイズ算出ステップで算出されたノイズを前記画像データ復元ステップによって復元された画像データから除去するノイズ除去ステップとを備え、
前記復元行列は、前記ぶれ行列を近似した近似行列であって、前記ぶれ情報に基づくぶれによって前記理想的な画像データの端部から前記一次元方向外側に広がる画素データの値に、所定の値が外挿されるように表された近似行列、の逆行列であり、
前記ノイズ算出ステップでは、前記復元行列と前記ぶれ行列との積によって求められた前記複数種類のノイズ毎のノイズ重畳周期に関するノイズ周期情報と、前記画像データ復元ステップによって復元された画像データと、前記静止画像データとに基づいて、前記複数種類のノイズを算出する画像データ修復方法。
【請求項10】
請求項9記載の画像データ修復方法であって、
前記所定の値が、前記理想的な画像データの前記端部の画素データの値である画像データ修復方法。
【請求項11】
請求項9又は10記載の画像データ修復方法であって、
前記復元行列と前記ぶれ行列との積により前記ノイズ周期情報を生成するノイズ周期情報生成ステップを備える画像データ修復方法。
【請求項12】
請求項9又は10記載の画像データ修復方法であって、
前記ノイズ算出ステップでは、前記ぶれ情報に対応する前記ノイズ周期情報が予め記録された記録媒体から、前記ぶれ情報に対応する前記ノイズ周期情報を読み出して、前記ノイズの算出に用いる画像データ修復方法。
【請求項13】
請求項9〜12のいずれか1項記載の画像データ修復方法であって、
前記静止画像データ及び前記画像データ復元ステップで復元された画像データは、それぞれ、前記一次元方向に並ぶ多数の画素データからなる画素データ列が前記一次元方向と直交する方向に多数配列された構成であり、
前記ノイズ算出ステップが、
前記画像データ復元ステップによって復元された画像データの各画素データ列の復元もととなった前記静止画像データの画素データ列の各画素データを、前記ノイズ周期情報にしたがったノイズ重畳周期毎にサンプリングする第1のサンプリングステップと、
前記復元もととなった前記静止画像データの画素データ列から復元された画素データ列の各画素データを、前記ノイズ周期情報にしたがったノイズ重畳周期毎に前記第1のサンプリングステップと同一数サンプリングする第2のサンプリングステップと、
前記第2のサンプリングステップによってサンプリングされた画素データの積算値から前記第1のサンプリングステップによってサンプリングされた画素データの積算値を減算した値を前記サンプリングした数で割って前記ノイズを算出する割り算ステップとを含む画像データ修復方法。
【請求項14】
請求項9〜13のいずれか1項記載の画像データ修復方法であって、
前記ぶれ情報に基づいて、前記ぶれ行列を生成するぶれ行列生成ステップと、
前記ぶれ行列生成ステップによって生成されたぶれ行列から前記近似行列を生成する近似行列生成ステップと、
前記近似行列生成ステップで生成された近似行列の逆行列を求めて前記復元行列を生成する復元行列生成ステップとを備える画像データ修復方法。
【請求項15】
請求項9〜13のいずれか1項記載の画像データ修復方法であって、
前記ぶれ情報に対応する前記復元行列が予め記録された記録媒体から、前記ぶれ情報に対応する前記復元行列を読み出すステップを備える画像データ修復方法。
【請求項16】
請求項9〜15のいずれか1項記載の画像データ修復方法の各ステップをコンピュータに実行させるための画像データ修復プログラム。
【発明の詳細な説明】【技術分野】
【0001】
本発明は、被写体を撮像素子によって撮像して得られた静止画像データを修復する画像データ修復装置に関する。
【背景技術】
【0002】
一般に、被写体像を光電変換し、コンピュータ等の演算装置を用いて画像処理を行なう装置がある。この画像処理装置を用いて、撮影時の手ぶれ等により生じた画像の劣化を修復する技術・装置に関して提案されている。このような画像修復処理では、画像の劣化につながる像のある1点のその周辺の像への滲みや広がりを広がり関数として数学的に扱い、演算処理を可能にしている。
【0003】
例えば、特許文献1には、広がり関数の行列表現であるぶれ行列の擬似逆行列を、不足データを外挿することにより求め、この擬似逆行列とぶれのある画像データとの掛け算により、ぶれのない画像データを復元する方法が開示されている。
【0004】
【特許文献1】特開平6−118468号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかし、特許文献1に開示された方法では、不足データを外挿しているため、復元される画像データにノイズがのってしまい、画質が劣化してしまう。特許文献1には、このノイズ対策については全く開示がなく、このままでは良好な修復画像が得られない。
【0006】
本発明は、上記事情に鑑みてなされたものであり、ぶれの発生している画像データからぶれの発生していない画像データを、画質劣化を抑制しながら復元することが可能な画像データ修復装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記課題は以下の(1)〜(16)によって解決される。
【0008】
(1)被写体を撮像素子によって撮像して得られた静止画像データを、前記撮像時における前記撮像素子の一次元方向へのぶれに関するぶれ情報に基づいて修復する画像データ修復装置であって、前記ぶれ情報に基づくぶれがない状態で前記被写体を撮像したときに得られる理想的な画像データを前記静止画像データから復元するための復元行列であって、前記ぶれ情報に基づくぶれによる前記理想的な画像データの前記一次元方向への広がりを表すぶれ行列の擬似逆行列である復元行列と前記静止画像データとの掛け算により、前記理想的な画像データを復元する画像データ復元手段と、前記復元行列に起因して前記画像データ復元手段によって復元された画像データに前記一次元方向に向かって周期的に重畳される複数種類のノイズを算出するノイズ算出手段と、前記ノイズ算出手段で算出されたノイズを前記画像データ復元手段によって復元された画像データから除去するノイズ除去手段とを備え、前記復元行列は、前記ぶれ行列を近似した近似行列であって、前記ぶれ情報に基づくぶれによって前記理想的な画像データの端部から前記一次元方向外側に広がる画素データの値に、所定の値が外挿されるように表された近似行列、の逆行列であり、前記ノイズ算出手段は、前記復元行列と前記ぶれ行列との積によって求められた前記複数種類のノイズ毎のノイズ重畳周期に関するノイズ周期情報と、前記画像データ復元手段によって復元された画像データと、前記静止画像データとに基づいて、前記複数種類のノイズを算出する画像データ修復装置。
【0009】
(2)(1)記載の画像データ修復装置であって、前記所定の値が、前記理想的な画像データの前記端部の画素データの値である画像データ修復装置。
【0010】
(3)(1)又は(2)記載の画像データ修復装置であって、前記復元行列と前記ぶれ行列との積により前記ノイズ周期情報を生成するノイズ周期情報生成手段を備える画像データ修復装置。
【0011】
(4)(1)又は(2)記載の画像データ修復装置であって、前記ノイズ算出手段が、前記ぶれ情報に対応する前記ノイズ周期情報が予め記録された記録媒体から、前記ぶれ情報に対応する前記ノイズ周期情報を読み出して、前記ノイズの算出に用いる画像データ修復装置。
【0012】
(5)(1)〜(4)のいずれか1つ記載の画像データ修復装置であって、前記静止画像データ及び前記画像データ復元手段で復元された画像データは、それぞれ、前記一次元方向に並ぶ多数の画素データからなる画素データ列が前記一次元方向と直交する方向に多数配列された構成であり、前記ノイズ算出手段が、前記画像データ復元手段によって復元された画像データの各画素データ列の復元もととなった前記静止画像データの画素データ列の各画素データを、前記ノイズ周期情報にしたがったノイズ重畳周期毎にサンプリングする第1のサンプリング手段と、前記復元もととなった前記静止画像データの画素データ列から復元された画素データ列の各画素データを、前記ノイズ周期情報にしたがったノイズ重畳周期毎に前記第1のサンプリング手段と同一数サンプリングする第2のサンプリング手段と、前記第2のサンプリング手段によってサンプリングされた画素データの積算値から前記第1のサンプリング手段によってサンプリングされた画素データの積算値を減算した値を前記サンプリングした数で割って前記ノイズを算出する割り算手段とを含む画像データ修復装置。
【0013】
(6)(1)〜(5)のいずれか1つ記載の画像データ修復装置であって、前記ぶれ情報に基づいて前記ぶれ行列を生成するぶれ行列生成手段と、前記ぶれ行列生成手段によって生成されたぶれ行列から前記近似行列を生成する近似行列生成手段と、前記近似行列生成手段で生成された近似行列の逆行列を求めて前記復元行列を生成する復元行列生成手段とを備える画像データ修復装置。
【0014】
(7)(1)〜(5)のいずれか1つ記載の画像データ修復装置であって、前記ぶれ情報に対応する前記復元行列が予め記録された記録媒体から、前記ぶれ情報に対応する前記復元行列を読み出して設定する手段を備える画像データ修復装置。
【0015】
(8)(1)〜(7)のいずれか1つ記載の画像データ修復装置と、前記撮像素子と、前記撮像素子の出力信号から前記静止画像データを生成する静止画像データ生成手段と、前記撮像時における前記撮像素子の前記一次元方向へのぶれを検出して前記ぶれ情報を生成するぶれ情報生成手段とを備える撮像装置。
【0016】
(9)被写体を撮像素子によって撮像して得られた静止画像データを、前記撮像時における前記撮像素子の一次元方向へのぶれに関するぶれ情報に基づいて修復する画像データ修復方法であって、前記ぶれ情報に基づいて、前記ぶれ情報に基づくぶれがない状態で前記被写体を撮像したときに得られる理想的な画像データを前記静止画像データから復元するための復元行列であって、前記ぶれ情報に基づくぶれによる前記理想的な画像データの前記一次元方向への広がりを表すぶれ行列の擬似逆行列である復元行列と前記静止画像データとの掛け算により、前記理想的な画像データを復元する画像データ復元ステップと、前記復元行列に起因して前記画像データ復元ステップによって復元された画像データに前記一次元方向に向かって周期的に重畳される複数種類のノイズを算出するノイズ算出ステップと、前記ノイズ算出ステップで算出されたノイズを前記画像データ復元ステップによって復元された画像データから除去するノイズ除去ステップとを備え、前記復元行列は、前記ぶれ行列を近似した近似行列であって、前記ぶれ情報に基づくぶれによって前記理想的な画像データの端部から前記一次元方向外側に広がる画素データの値に、所定の値が外挿されるように表された近似行列、の逆行列であり、前記ノイズ算出ステップでは、前記復元行列と前記ぶれ行列との積によって求められた前記複数種類のノイズ毎のノイズ重畳周期に関するノイズ周期情報と、前記画像データ復元ステップによって復元された画像データと、前記静止画像データとに基づいて、前記複数種類のノイズを算出する画像データ修復方法。
【0017】
(10)(9)記載の画像データ修復方法であって、前記所定の値が、前記理想的な画像データの前記端部の画素データの値である画像データ修復方法。
【0018】
(11)(9)又は(10)記載の画像データ修復方法であって、前記復元行列と前記ぶれ行列との積により前記ノイズ周期情報を生成するノイズ周期情報生成ステップを備える画像データ修復方法。
【0019】
(12)(9)又は(10)記載の画像データ修復方法であって、前記ノイズ算出ステップでは、前記ぶれ情報に対応する前記ノイズ周期情報が予め記録された記録媒体から、前記ぶれ情報に対応する前記ノイズ周期情報を読み出して、前記ノイズの算出に用いる画像データ修復方法。
【0020】
(13)(9)〜(12)のいずれか1つ記載の画像データ修復方法であって、前記静止画像データ及び前記画像データ復元ステップで復元された画像データは、それぞれ、前記一次元方向に並ぶ多数の画素データからなる画素データ列が前記一次元方向と直交する方向に多数配列された構成であり、前記ノイズ算出ステップが、前記画像データ復元ステップによって復元された画像データの各画素データ列の復元もととなった前記静止画像データの画素データ列の各画素データを、前記ノイズ周期情報にしたがったノイズ重畳周期毎にサンプリングする第1のサンプリングステップと、前記復元もととなった前記静止画像データの画素データ列から復元された画素データ列の各画素データを、前記ノイズ周期情報にしたがったノイズ重畳周期毎に前記第1のサンプリングステップと同一数サンプリングする第2のサンプリングステップと、前記第2のサンプリングステップによってサンプリングされた画素データの積算値から前記第1のサンプリングステップによってサンプリングされた画素データの積算値を減算した値を前記サンプリングした数で割って前記ノイズを算出する割り算ステップとを含む画像データ修復方法。
【0021】
(14)(9)〜(13)のいずれか1つ記載の画像データ修復方法であって、前記ぶれ情報に基づいて前記ぶれ行列を生成するぶれ行列生成ステップと、前記ぶれ行列生成ステップによって生成されたぶれ行列から前記近似行列を生成する近似行列生成ステップと、前記近似行列生成ステップで生成された近似行列の逆行列を求めて前記復元行列を生成する復元行列生成ステップとを備える画像データ修復方法。
【0022】
(15)(9)〜(13)のいずれか1つ記載の画像データ修復方法であって、前記ぶれ情報に対応する前記復元行列が予め記録された記録媒体から、前記ぶれ情報に対応する前記復元行列を読み出すステップを備える画像データ修復方法。
【0023】
(16)(9)〜(15)のいずれか1つ記載の画像データ修復方法の各ステップをコンピュータに実行させるための画像データ修復プログラム。
【発明の効果】
【0024】
本発明によれば、ぶれの発生している画像データからぶれの発生していない画像データを、画質劣化を抑制しながら復元することが可能な画像データ修復装置を提供することができる。
【発明を実施するための最良の形態】
【0025】
以下、本発明の実施形態について図面を参照して説明する。
【0026】
図1は、本発明の実施形態を説明するための撮像装置の一例である手ぶれ補正機能を有するデジタルカメラの概略構成を示す図である。
図1に示すデジタルカメラ100は、撮像部1、アナログ信号処理部2、A/D変換部3、駆動部4、ぶれ検出部5、デジタル信号処理部6、圧縮/伸張処理部7、システム制御部9、内部メモリ10、メディアインタフェース(I/F)11、記録メディア12、操作部13、画像データ修復部60、及びシステムバス14を有する。
【0027】
システムバス14には、画像データ修復部60、デジタル信号処理部6、圧縮/伸張処理部7、システム制御部9、内部メモリ10およびメディアインタフェース11が接続されている。
【0028】
撮像部1は、撮影レンズ1aを含む光学系と、この光学系を通して被写体からの光を受光するCCD型やCMOS型のイメージ(エリア)センサ等の撮像素子1bとを含み、被写体を撮影し、その撮像信号(アナログ信号)を出力する。
【0029】
アナログ信号処理部2は、撮像部1からの撮像信号に対し、所定のアナログ信号処理を施す。A/D変換部3は、アナログ信号処理部2で信号処理されたアナログ信号をデジタル信号に変換する。
【0030】
駆動部4は、デジタルカメラ100が撮影モードに設定されると、システム制御部9から供給される駆動パルスに従って、撮像素子1b、アナログ信号処理部2、A/D変換部3を駆動する。ここで、撮影モードとは、被写体を撮影し、撮影して得られた撮像信号から生成した画像データを記録可能なモードである。
【0031】
デジタル信号処理部6は、A/D変換部3からのデジタル信号に対し、操作部13で設定された動作モードに応じたデジタル信号処理を行い、撮影画像データを生成する。デジタル信号処理部6におけるデジタル信号処理には、黒レベル補正処理(OB処理)、リニアマトリクス補正処理、ホワイトバランス調整処理、ガンマ補正処理、同時化処理等が含まれる。このデジタル信号処理部6は、例えばDSPで構成される。デジタル信号処理部6で生成された撮影画像データは、内部メモリ10に一時記憶される。
【0032】
圧縮/伸張処理部7は、デジタル信号処理部6で生成された撮影画像データに対して圧縮処理を施すとともに、記録メディア12から得られた圧縮画像データに対して伸張処理を施す。
【0033】
内部メモリ10は、例えばDRAMからなり、デジタル信号処理部6やシステム制御部9や画像データ修復部60のワークメモリとして利用される他、記録メディア12に記録される撮影画像データを一時的に記憶するバッファメモリとして利用される。
【0034】
メディアインタフェース11は、メモリカード等の記録メディア12との間でデータの入出力を行う。操作部13は、デジタルカメラに対して各種操作を行うものであり、撮影を指示するためのレリーズボタン(図示せず)を含む。
【0035】
ぶれ検出部5は、システム制御部9からの指示に従って、撮像素子1bの撮像(露光)中におけるデジタルカメラ100のぶれ(撮像素子1bのぶれと同義)を検出し、検出したぶれに関するぶれ情報を生成し、ぶれ情報をシステム制御部9に出力する。このぶれ情報は、このぶれ情報を生成した撮像時に得られた撮影画像データと共に、システム制御部9により内部メモリ10に記録される。ぶれを検出する方法としては、ジャイロスコープや圧電素子等のセンサによってぶれを検出する方法や、露光によって得られた画像データから画像処理によって導出する方法がある。画像処理により導出する方法としては、輪郭のぶれ方向から導出する方法や、ある特定のマークを被写体の一部に入れて撮影してそのマークのぶれから導出する方法等がある。これら、ぶれを検出する方法についてはいずれも公知であるため、説明を省略する。
【0036】
ぶれ検出部5で生成されるぶれ情報は、例えば、ぶれの方向と、画素数(撮像素子1bの光電変換素子の個数と対応)で表されるぶれの大きさと、ぶれの速度とを含む。
【0037】
システム制御部9は、撮影動作を含むデジタルカメラ100全体の統括制御を行う。
【0038】
画像データ修復部60は、デジタル信号処理部6で生成された静止画撮影時に得られた撮影画像データ(以下、静止画像データという)と、その静止画像データを得るための撮像時にぶれ検出部5で検出して生成されたぶれ情報とに基づいて、当該静止画像データを修復して、ぶれのない状態で撮像して得られた静止画像データを復元する。
【0039】
ここで、ぶれの発生している静止画像データを修復する方法について説明する。
撮像素子1bが全くぶれない状態で被写体を撮像したときにデジタル信号処理部6で生成されるぶれのない理想的な静止画像データOの模式図を図2(a)に示す。静止画像データOは、垂直方向Yに順番に配列された画素データO1〜O10の10個の画素データからなる画素データ列が、垂直方向Yに直交する水平方向Xに多数配列されたもの、又は、水平方向Xに配列された多数の画素データからなる画素データ行が、垂直方向Yに10個配列されたものとなっている。
【0040】
又、図2(a)には、撮像中に撮像素子1bがY方向に向かって2つの光電変換素子分ぶれたときに、撮像素子1bの撮影範囲内に新たに入る被写体から得られる2画素データ行分の画素データを画素データO11,O12として図示してある。画素データO11,O12は、撮像素子1bのぶれによって理想的な静止画像データOの端部(画素データO10)よりもY方向外側に広がった画素データを示す。図2(a)に示した各画素データ列とそれのY方向外側に続く画素データO11と画素データO12と併せた行列表現は、以下の数1に示すような列ベクトル[O]として表現することができる。
【0041】
【数1】


【0042】
一方、撮像素子1bが、静止画像データOを得るための撮像を行っている状態に対してぶれた状態で被写体を撮像したときにデジタル信号処理部6で生成された静止画像データSの模式図を図2(b)に示す。静止画像データSは、垂直方向Yに順番に配列された画素データS1〜S10の10個の画素データからなる画素データ列が、垂直方向Yに直交する水平方向Xに多数配列されたもの、又は、水平方向Xに配列された多数の画素データからなる画素データ行が、垂直方向Yに10個配列されたものとなっている。静止画像データSの各画素データ列は、以下の数2に示すような列ベクトル[S]として表現することができる。
【0043】
【数2】


【0044】
ここで、静止画像データSを得るための撮像時において、撮像素子1bが、Y方向に向かって2つの光電変換素子分ぶれたものとする。このぶれによる静止画像データOのY方向の広がりを表すz領域で表される点広がり関数(以下、ぶれ伝達関数という)の行列表現であるぶれ行列をHとすると、以下の数3の関係が成立する。
【0045】
【数3】


【0046】
最終的に求めたいのは、ぶれのない理想的な静止画像データOであるため、この静止画像データOを復元するには、以下の数4で示される演算が必要となる。数4において、Wはぶれ行列Hの逆行列である。
【0047】
【数4】


【0048】
数3を見て分かるように、[S]のデータ数と[O]のデータ数は異なるため、ぶれ行列Hは、10行×12列の行列となり、正則になっていない。このため、ぶれ行列Hの逆行列を求めることはできない。そこで、ぶれ行列Hの擬似逆行列を求め、これをWとすることで、[O]の値を求めることができる。このような処理を行って、静止画像データOの各画素データ列のデータを復元することで、ぶれのない静止画像データを得ることができる。このようにして復元された静止画像データOを以下では復元画像データOともいう。以下では、上記Wのことを、静止画像データOを復元するための行列であることから、復元行列という。
【0049】
本実施形態のデジタルカメラに搭載される画像データ修復部60は、上記復元行列Wを用いて復元画像データOを生成したことによって、復元画像データOに重畳されるノイズを効果的に除去する機能を有する。
【0050】
以下では、デジタル信号処理部6で生成される静止画像データを、図2(b)に示したものとし、画像データ修復部60で復元される静止画像データを、図2(a)に示したものとして説明する。
【0051】
図3は、図1に示す画像データ修復部60の内部構成を示すブロック図である。
画像データ修復部60は、内部メモリ10からぶれ情報(以下、Aとする)を取得するぶれ情報取得部62と、ぶれ情報Aに基づいて復元行列Wを設定する復元行列設定部63と、復元行列設定部63で設定された復元行列Wと内部メモリ10に記録されているぶれ情報Aに対応する静止画像データSとの掛け算により、理想的な静止画像データOを復元する画像データ復元部64と、復元行列設定部63で設定された復元行列Wに起因して画像データ復元部64によって復元された復元画像データOの各画素データ列にY方向に向かって周期的に重畳されるノイズの種類及び重畳周期に関するノイズ周期情報を生成するノイズ周期情報生成部67と、該ノイズを算出するノイズ算出部65と、該算出されたノイズを画像データ復元部64によって復元された復元画像データOから除去するノイズ除去部66とを備える。
【0052】
復元行列設定部63は、ぶれ情報Aに基づいてぶれ行列Hを生成するぶれ行列生成部63aと、ぶれ行列生成部63aによって生成されたぶれ行列Hから近似行列Fを生成する近似行列生成部63bと、近似行列生成部63bで生成された近似行列Fの逆行列を求めて復元行列Wを生成する復元行列生成部63cとを備え、復元行列生成部63cで生成された復元行列Wを設定する。
【0053】
画像データ復元部64は、復元行列設定部63で設定された復元行列Wと、内部メモリ10に記録されている静止画像データSの各画素データ列[S]との掛け算を行って、多数の画素データ列からなる静止画像データOを復元する。
【0054】
ぶれ行列生成部63aは、ぶれ情報Aに基づくぶれの方向、大きさ、及び速度から、z領域で表されるぶれ伝達関数を生成し、このぶれ伝達関数を行列に変換してぶれ行列Hを生成する。例えば、ぶれの方向がY方向であり、大きさが2光電変換素子分であり、速度が等速であった場合、ぶれ伝達関数H(z)は{(1+Z−1+Z−2)/3}で表され、その行列表現は図4(a)に示したものとなる。
【0055】
近似行列生成部63bは、ぶれ行列Hを正則にするために、ぶれ情報Aに基づくぶれによる理想的な静止画像データOの広がりによって、理想的な静止画像データOの端部よりもY方向外側に存在する画素データ(図2(a)の画素データO11,O12)の値に、画素データO10と同じ値が外挿されるように表された近似行列Fを生成する。ぶれ行列Hが図4(a)のような形だった場合、近似行列生成部63bは、ぶれ行列Hの一番右から2列を削除し、削除後の行列の一番右の列の一番下の行とその上の行の値にそれぞれ“1”と“2”をプラスした図4(b)に示すような近似行列Fを生成する。
【0056】
近似行列Fが図4(b)に示すような形だった場合、復元行列生成部63cで生成される復元行列Wは図4(c)に示したものとなる。
【0057】
このように、復元行列Wは、ぶれ情報が決まれば一意に決まるものであるため、想定される様々なぶれ情報に対応する復元行列Wを別のコンピュータ等で求め、この復元行列Wをデジタルカメラ内部のROM等に予め記録しておき、撮影が行われた際に、復元行列設定部63が、ぶれ情報に対応する復元行列WをこのROMから読み出し、読み出した復元行列Wを設定するようにしても良い。
【0058】
図4(a)に示すぶれ行列Hと、図4(c)に示す復元行列Wとの積W*Hが図4(d)に示す行列となる。復元行列Wは、ぶれ行列Hの逆行列として求められているため、図4(d)に示す行列の右から3列のデータのうち、右から3番目の列の一番下の行のデータは1となり、それ以外のデータは0となるのが理想である。しかし、復元行列Wはぶれ行列Hの擬似逆行列であるため、W*Hの値は理想的なものとはならない。そこで、W*Hの理想的な値と、W*Hの実際の値とを比較することで、復元行列Wを用いた復元により得られた復元画像データOに重畳されるノイズを検出することができる。
【0059】
図4(d)に示すW*Hの行列は、1行目と4行目と7行目に同一のノイズ(1)が加わっており、2行目と5行目と8行目に同一のノイズ(2)が加わっており、3行目と6行目と9行目に同一のノイズ(3)が加わっており、10行目のデータが不正確となっていることが分かる。このことから、復元行列Wを用いて復元された復元画像データOは、nを1〜3としたとき、{3(n−1)+1}行周期でノイズ(1)が加わっており、{3(n−1)+2}行周期でノイズ(2)が加わっており、{3(n−1)+3}行周期でノイズ(3)が加わっており、10行目のデータが不正確となっていることを検出することができる。
【0060】
このことを利用して、ノイズ周期情報生成部67は、ぶれ行列生成部63aで生成されたぶれ行列Hと、復元行列生成部63cで生成された復元行列Wとの積を求め、この積で得られる行列から、上述したようなノイズの種類((1)〜(3))と、そのノイズの重畳周期とを検出し、ノイズ種類毎のノイズ重畳周期を示すノイズ周期情報を生成する。
【0061】
ノイズ種類毎のノイズ重畳周期が分かれば、ノイズ種類毎のノイズ値を推測することが可能である。例えば、図4(d)に示す行列からノイズ重畳周期を検出した場合を例にすると、復元画像データOの1つの画素データ列(以下、Bとする)に対し、{3(n−1)+1}行毎に画素データのサンプリングを行ったときに得られる画素データの総和Σ1は、以下の式1となる。
Σ1=画素データO1+画素データO4+画素データO7+(3×ノイズ(1))・・・式1
【0062】
ここで、「画素データO1+画素データO4+画素データO7」の値は、「画素データS1+画素データS4+画素データS7」とそれほど変わらないため、この値で近似することができる。つまり、式1は、式2のように近似することができる。
Σ1=画素データS1+画素データS4+画素データS7+(3×ノイズ(1))・・・式2
【0063】
Σ1と画素データS1,S4,S7は既知であるため、この式2を変形した以下の式3により、ノイズ(1)の値を求めることができる。
ノイズ(1)={Σ1−(画素データS1+画素データS4+画素データS7)}/3・・・式3
【0064】
同様に、画素データ列Bに対し、{3(n−1)+2}行毎に画素データのサンプリングを行ったときに得られる画素データの総和Σ2は、以下の式4となる。
Σ2=画素データO2+画素データO5+画素データO8+(3×ノイズ(2))・・・式4
【0065】
式4は、以下の式5のように近似することができる。
Σ2=画素データS2+画素データS5+画素データS8+(3×ノイズ(2))・・・式5
【0066】
式5を変形した以下の式6により、ノイズ(2)の値を求めることができる。
ノイズ(2)={Σ2−(画素データS2+画素データS5+画素データS8)}/3・・・式6
【0067】
同様に、画素データ列Bに対し、{3(n−1)+3}行毎に画素データのサンプリングを行ったときに得られる画素データの総和Σ3は、以下の式7となる。
Σ3=画素データO3+画素データO6+画素データO9+(3×ノイズ(3))・・・式7
【0068】
式7は、以下の式8のように近似することができる。
Σ3=画素データS3+画素データS6+画素データS9+(3×ノイズ(3))・・・式8
【0069】
この式8を変形した以下の式9により、ノイズ(3)の値を求めることができる。
ノイズ(3)={Σ3−(画素データS3+画素データS6+画素データS9)}/3・・・式9
【0070】
このような処理により、復元画像データOを構成する各画素データ列毎に、そこに重畳されるノイズを算出することができる。
【0071】
ノイズ算出部65は、このような処理を行うために、静止画像データサンプリング部65aと、復元画像データサンプリング部65bと、割り算部65cとを備える。
【0072】
静止画像データサンプリング部65aは、内部メモリ10に記録されている静止画像データSの各画素データ列[S]を、ノイズ周期情報に含まれる各ノイズ種類毎のノイズ重畳周期でサンプリングする。
【0073】
復元画像データサンプリング部65bは、画像データ復元部64で生成された復元画像データOの各画素データ列[O]を、ノイズ周期情報に含まれる各ノイズ種類毎のノイズ重畳周期でサンプリングする。
【0074】
割り算部65cは、各ノイズ重畳周期で復元画像データサンプリング部65bによりサンプリングされた画素データの総和(例えば、上記Σ1)から、該ノイズ重畳周期で静止画像データサンプリング部65aによりサンプリングされた画素データの総和(例えば、上記「画素データS1+画素データS4+画素データS7」)を減算し、減算して得られる値を、該ノイズ重畳周期でサンプリングしたサンプリング数(例えば3)で割って、復元画像データOの各画素データ列[O]に重畳される各ノイズ種類のノイズ値を算出する。
【0075】
尚、ノイズ算出部65で使用するノイズ周期情報も、ぶれ情報が決まれば一意に決まるものであるため、想定される様々なぶれ情報に対応するノイズ周期情報を別のコンピュータ等で求め、このノイズ周期情報をデジタルカメラ内部のROM等に予め記録しておき、撮影が行われた際に、ノイズ算出部65が、ぶれ情報に対応するノイズ周期情報をこのROMから読み出し、読み出したノイズ周期情報を静止画像データサンプリング部65a,復元画像データサンプリング部65bに供給するようにしても良い。
【0076】
ノイズ除去部66は、割り算部65cから出力されたノイズを復元画像データOから除去し、除去後の復元画像データを例えば内部メモリ10に記録する。記録された復元画像データは、圧縮/伸張処理部で圧縮処理が施された後、記録メディア12に記録される。
【0077】
例えば、図4(d)に示す行列からノイズ重畳周期を検出した場合を例にすると、ノイズ除去部66は、復元画像データOの各画素データ列[O]の{3(n−1)+1}行目の画素データから、その画素データ列[O]について算出されたノイズ(1)を除去し、復元画像データOの各画素データ列[O]の{3(n−1)+2}行目の画素データから、その画素データ列[O]について算出されたノイズ(2)を除去し、復元画像データOの各画素データ列[O]の{3(n−1)+3}行目の画素データから、その画素データ列[O]について算出されたノイズ(3)を除去する。
【0078】
以上の説明では、撮像素子1bが等速でぶれた場合を例にしたが、撮像素子1bが非等速でぶれた場合でも、同様にノイズを除去することが可能である。例えば、ぶれ情報Aに基づくぶれの方向がY方向であり、大きさが2光電変換素子分であり、速度が非等速であった場合、ぶれ伝達関数H(z)は{(1+Z−2)/2}で表され、その行列表現は図5(a)に示したものとなり、近似行列Fは図5(b)に示したものとなり、復元行列Wは図5(c)に示したものとなり、復元行列Wと復元行列Hの積は図5(d)に示したものとなる。
【0079】
図5(d)に示すW*Hの行列は、1行目と5行目と9行目に同一のノイズ(1)が加わっており、2行目と6行目に同一のノイズ(2)が加わっており、3行目と7行目に同一のノイズ(3)が加わっており、4行目と8行目に同一のノイズ(4)が加わっており、10行目のデータが不正確となっていることが分かる。このことから、復元行列Wを用いて復元された復元画像データOは、{4(n−1)+1}行周期(n=1〜3)でノイズ(1)が加わっており、{4(n−1)+2}行周期(n=1,2)でノイズ(2)が加わっており、{4(n−1)+3}行周期(n=1,2)でノイズ(3)が加わっており、{4(n−1)+4}行周期(n=1,2)でノイズ(4)が加わっており、10行目のデータが不正確となっていることを検出することができる。
【0080】
又、以上の説明では、近似行列Fを求める際に外挿するデータを、画素データO10と同じ値としているが、特許文献1に開示されているような一階の階差式や二階の階差式で求めた値を外挿しても構わない。
【0081】
例えば、ぶれ行列Hが図4(a)に示すものとすると、一階の階差式で外挿を行った場合の近似行列Fは図6(a)に示すようになり、近似行列Fの逆行列である復元行列Wは図6(b)に示すようになり、ぶれ行列Hと復元行列Wとの積は図6(c)に示すようになる。又、二階の階差式で外挿を行った場合の近似行列Fは図7(a)に示すようになり、近似行列Fの逆行列である復元行列Wは図7(b)に示すようになり、ぶれ行列Hと復元行列Wとの積は図7(c)に示すようになる。
【0082】
図6(c),図7(c)の各々に示すW*Hの行列は、1行目と4行目と7行目に同一のノイズ(1)が加わっており、2行目と5行目と8行目に同一のノイズ(2)が加わっており、3行目と6行目に同一のノイズ(3)が加わっており、9,10行目のデータが不正確となっていることが分かる。このことから、図6(c),図7(c)の各々の復元行列Wを用いて復元された復元画像データOは、{3(n−1)+1}行周期(n=1〜3)でノイズ(1)が加わっており、{3(n−1)+2}行周期(n=1〜3)でノイズ(2)が加わっており、{3(n−1)+3}行周期(n=1,2)でノイズ(3)が加わっており、9,10行目のデータが不正確となっていることを検出することができる。
【0083】
図6,図7から分かるように、一階の階差式や二階の階差式で外挿を行った場合は、外挿するデータを画素データO10と同じ値にする場合に比べ、不正確なデータが1行分増えている。このため、復元画像データOの復元精度を向上させるためには、外挿するデータを画素データO10と同じ値にすることが好ましい。
【0084】
次に、画像データ修復部60の動作について説明する。
図8は、画像データ修復部60の動作を説明するためのフローチャートである。
まず、撮像素子1bにより撮像が行われると、その撮像中の撮像素子1bのぶれに関するぶれ情報が生成され、このぶれ情報が、その撮像により得られる静止画像データSと対応付けて内部メモリ10に記録される。
【0085】
内部メモリ10に静止画像データSとぶれ情報が記録された後、画像データ修復部60は、内部メモリ10からぶれ情報を取得する(ステップS1)。次に、画像データ修復部60は、このぶれ情報にしたがってぶれ行列Hを生成し(ステップS2)、このぶれ行列Hから近似行列Fを生成し(ステップS3)、この近似行列Fから復元行列Wを生成し(ステップS4)、この復元行列Wを設定する(ステップS5)。
【0086】
次に、画像データ修復部60は、設定した復元行列Wと内部メモリ10に記録されている静止画像データSとの積により静止画像データOを復元する(ステップS6)。次に、ステップS2で生成したぶれ行列HとステップS4で生成された復元行列Wとの積からノイズ周期情報を生成する(ステップS7)。
【0087】
次に、画像データ修復部60は、内部メモリ10に記録されている静止画像データSをノイズ周期情報にしたがってサンプリングし(ステップS8)、ステップS6で復元された復元画像データOをノイズ周期情報にしたがってサンプリングし(ステップS9)、ステップS7,S8でサンプリングしたデータを基に、復元画像データOに重畳されているノイズを算出する(ステップS10)。次に、画像データ修復部60は、ステップS6で復元した復元画像データOからステップS10で算出したノイズを除去し(ステップS11)、除去後の復元画像データOを外部に出力して、画像データ修復処理を終了する。
【0088】
以上のように、本実施形態の画像データ修復部60によれば、ぶれ行列Hの擬似逆行列Wを用いて静止画像データOを復元した場合に、復元された静止画像データOに重畳されているノイズを効果的に除去することができる。このため、画質劣化を抑制しながら、ぶれの発生してない静止画像データOを復元することができ、信頼性の高い手ぶれ補正機能を備えたデジタルカメラを提供することが可能となる。
【0089】
尚、上述した実施形態の画像データ修復部60は、コンピュータを画像データ修復部60内の各部として機能させるための画像データ修復プログラム、又は、図8に示した画像データ修復部60の各処理ステップをコンピュータに実行させるための画像データ修復プログラムを、デジタルカメラに搭載されている演算処理装置等のコンピュータ(例えば、デジタル信号処理部6やシステム制御部9)が実行することでも実現できる。又、デジタルカメラ等から得られた静止画像データSとそれに対応するぶれ情報を、そのままパーソナルコンピュータの内部メモリに取り込み、上記の画像データ修復プログラムをこのコンピュータが実行することで、このコンピュータを画像データ修復部60として機能させることも可能である。
【0090】
デジタルカメラとは別のコンピュータによって画像データ修復プログラムを実行する場合、このコンピュータはメモリを多く搭載することができるため、上述したように、復元行列Wやノイズ周期情報を、様々なぶれ情報毎にメモリに記録しておき、画像データ修復処理実行時に、このメモリから復元行列Wやノイズ周期情報を読み出して使用するようにすることが好ましい。このようにすれば、画像データ修復処理を高速に行うことができる。
【図面の簡単な説明】
【0091】
【図1】本発明の実施形態を説明するための手ぶれ補正機能を有するデジタルカメラの概略構成を示す図
【図2】ぶれの発生している静止画像データを修復する方法を説明するための図
【図3】図1に示す画像データ修復部の内部構成を示すブロック図
【図4】(a)は撮像素子が一次元方向に等速でぶれたときのぶれ行列の一例を示す図、(b)は(a)のぶれ行列を近似した近似行列を示す図、(c)は(b)の近似行列の逆行列である復元行列を示す図、(d)は(a)のぶれ行列と(c)の復元行列との積で得られる行列を示す図
【図5】(a)は撮像素子が一次元方向に等速でぶれたときのぶれ行列の一例を示す図、(b)は(a)のぶれ行列を近似した近似行列を示す図、(c)は(b)の近似行列の逆行列である復元行列を示す図、(d)は(a)のぶれ行列と(c)の復元行列との積で得られる行列を示す図
【図6】(a)は撮像素子が一次元方向に等速でぶれたときのぶれ行列の一例を示す図、(b)は(a)のぶれ行列を近似した近似行列を示す図、(c)は(b)の近似行列の逆行列である復元行列を示す図、(d)は(a)のぶれ行列と(c)の復元行列との積で得られる行列を示す図
【図7】(a)は撮像素子が一次元方向に等速でぶれたときのぶれ行列の一例を示す図、(b)は(a)のぶれ行列を近似した近似行列を示す図、(c)は(b)の近似行列の逆行列である復元行列を示す図、(d)は(a)のぶれ行列と(c)の復元行列との積で得られる行列を示す図
【図8】図1に示す画像データ修復部の動作を説明するためのフローチャート
【符号の説明】
【0092】
1 撮像部
2 アナログ信号処理部
3 A/D変換部
4 駆動部
5 ぶれ検出部
6 デジタル信号処理部
7 圧縮/伸張処理部
9 システム制御部
10 内部メモリ
11 メディアインタフェース
12 記録メディア
13 操作部
14 システムバス
60 画像データ修復部
【出願人】 【識別番号】306037311
【氏名又は名称】富士フイルム株式会社
【出願日】 平成18年9月1日(2006.9.1)
【代理人】 【識別番号】100115107
【弁理士】
【氏名又は名称】高松 猛

【識別番号】100132986
【弁理士】
【氏名又は名称】矢澤 清純


【公開番号】 特開2008−61100(P2008−61100A)
【公開日】 平成20年3月13日(2008.3.13)
【出願番号】 特願2006−237856(P2006−237856)