トップ :: H 電気 :: H04 電気通信技術




【発明の名称】 画像処理装置及び画像処理方法
【発明者】 【氏名】石田 晃三

【氏名】久野 徹也

【氏名】伊藤 俊

【氏名】守谷 正太郎

【要約】 【課題】簡単な構成で、入力画像のダイナミックレンジを適切に改善することができる画像処理装置及び画像処理方法を提供する。

【構成】入力画像信号Xinを画素ごとに補正して、補正後の画像信号Xoutを生成する画像処理装置5であって、補正を行う画素と該補正を行う画素の周辺画素の輝度の分布を求めて出力するフィルタ手段2と、フィルタ手段2の出力から、補正を行う画素の補正利得を求める補正利得検出手段3と、補正利得検出手段3によって求められた補正利得を用いて、入力画像信号の画素ごとに演算を施す演算手段4とを有する。
【特許請求の範囲】
【請求項1】
入力画像信号を画素ごとに補正して、補正後の画像信号を生成する画像処理装置において、
補正を行う画素と該補正を行う画素の周辺画素の輝度の分布を求めて出力するフィルタ手段と、
前記フィルタ手段の出力から、前記補正を行う画素の補正利得を求める補正利得検出手段と、
前記補正利得検出手段によって求められた前記補正利得を用いて、前記入力画像信号の画素ごとに演算を施す演算手段と
を有することを特徴とする画像処理装置。
【請求項2】
前記補正を行う画素の周辺画素は、
iを所定の整数としたときに、前記補正を行う画素のi画素前の画素から前記補正を行う画素の1画素前の画素まで、及び、前記補正を行う画素の1画素後の画素から前記補正を行う画素のi画素後の画素まで、又は、
所定の整数iが1であるときに、前記補正を行う画素の1画素前の画素、及び、前記補正を行う画素の1画素後の画素である
ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記フィルタ手段は、非巡回型デジタルフィルタであることを特徴とする請求項1又は2に記載の画像処理装置。
【請求項4】
前記演算手段による前記演算は、乗算であることを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
【請求項5】
前記補正利得検出手段は、前記補正利得に前記フィルタ手段の出力を乗算した値が単調増加関数となるように、前記補正利得を算出することを特徴とする請求項4に記載の画像処理装置。
【請求項6】
前記フィルタ手段の出力をYavgとし、
前記フィルタ手段の出力の最大値Ymaxとし、
前記補正利得をGとし、
前記補正利得の最大値をGmaxとしたときに、次式
【数1】


の関係を満たすことを特徴とする請求項4に記載の画像処理装置。
【請求項7】
前記フィルタ手段の出力をYavgとし、
前記フィルタ手段の出力の最大値Ymaxとし、
前記補正利得をGとし、
前記補正利得の最大値をGmaxとし、
前記補正利得の最小値をGminとしたときに、次式
【数2】


の関係を満たすことを特徴とする請求項4に記載の画像処理装置。
【請求項8】
前記入力画像信号から入力画像の黒浮きの程度を示す第1のオフセット量を検出するオフセット検出手段と、
前記入力画像信号から、前記第1のオフセット量を減算するオフセット減算手段と、
前記演算手段の出力に、前記第1のオフセット量に等しいか又は前記第1のオフセット量より小さい第2のオフセット量を加算するオフセット加算手段と
を有し、
前記演算手段による前記演算は、前記オフセット減算手段の出力に対して行われる
ことを特徴とする請求項1乃至7のいずれか1項に記載の画像処理装置。
【請求項9】
前記フィルタ手段は、1次元のローパスフィルタ、イプシロンフィルタ、メジアンフィルタ、スタックフィルタのいずれかを有することを特徴とする請求項1又は8に記載の画像処理装置。
【請求項10】
入力画像信号を画素ごとに補正して、補正後の画像信号を生成する画像処理方法において、
補正を行う画素と該補正を行う画素の周辺画素の輝度の分布を求めるステップと、
前記輝度の分布から、前記補正を行う画素の補正利得を求めるステップと、
前記求められた前記補正利得を用いて、前記入力画像信号の画素ごとに演算を施すステップと
を有することを特徴とする画像処理方法。
【発明の詳細な説明】【技術分野】
【0001】
本発明は、入力画像のダイナミックレンジを適切に改善する画像処理装置及び画像処理方法に関するものである。
【背景技術】
【0002】
従来、画像の階調特性を改善する方法として、1画面の入力画像から同一輝度の画素の画素数を累積することによって得られる累積頻度(ヒストグラム)が、均等に分布するように階調変換を行う、ヒストグラムイコライゼーションが提案されている(例えば、特許文献1参照)。
【0003】
また、入力画像から空間的な輝度変化の加重平均を求め、求められた加重平均の対数変換値と、入力画像の対数変換値とから、改善された輝度信号を算出することで、画像のダイナミックレンジを改善させるRETINEXと呼ばれる方法が提案されている(例えば、非特許文献1及び特許文献2参照)。
【0004】
【特許文献1】特開2002−27285号公報(段落0029−0041、図1)
【特許文献2】特開2005−38119号公報(段落0028−0031、図1)
【非特許文献1】Z.Rahman et al., “A Multiscale Retinex For Color Rendition and Dynamic Range Compression”, XIX Proc. SPIE Vol.2847, pp.183−191, Nov.1996
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかしながら、前述のヒストグラムイコライゼーションでは、少なくとも1画面分の画像のヒストグラムデータを記録し、記録されたヒストグラムデータからヒストグラムの偏りを解析し、この解析結果をもとに階調特性を決める。このため、解析に使用した画像と解析結果を反映する画像との間には、1画面以上のタイミングずれが生じるので、入力画像のダイナミックレンジが適切に改善されない場合があった。例えば、動画像において、上記のような1画面以上のタイミングずれがある場合は、解析に使用した画像と解析結果を反映する画像との違いによって、解析結果を反映する画像に対して最適な階調特性を決めることができないという問題があった。
【0006】
また、RETINEXを用いる方法では、加重平均を用いるための畳み込み積分及び加重平均と入力信号の対数計算などの計算処理が複雑であるので、ハードウェア(例えば、ASIC(特定用途向け集積回路)やFPGA(フィールド プログラマブル ゲート アレイ))や組込みマイコンによってRETINEXを実行する場合に、処理時間が長くなる、実装容量(ゲート規模、メモリ容量)が大きくなるという問題があった。
【0007】
そこで、本発明は、上記従来技術の課題を解決するためになされたものであり、その目的は、簡単な構成で、入力画像のダイナミックレンジを適切に改善することができる画像処理装置及び画像処理方法を提供することにある。
【課題を解決するための手段】
【0008】
本発明の画像処理装置は、入力画像信号を画素ごとに補正して、補正後の画像信号を生成する装置であって、補正を行う画素と該補正を行う画素の周辺画素の輝度の分布を求めて出力するフィルタ手段と、前記フィルタ手段の出力から、前記補正を行う画素の補正利得を求める補正利得検出手段と、前記補正利得検出手段によって求められた前記補正利得を用いて、前記入力画像信号の画素ごとに演算を施す演算手段とを有することを特徴としている。
【0009】
また、本発明の画像処理方法は、入力画像信号を画素ごとに補正して、補正後の画像信号を生成する画像処理方法であって、補正を行う画素と該補正を行う画素の周辺画素の輝度の分布を求めるステップと、前記輝度の分布から、前記補正を行う画素の補正利得を求めるステップと、前記求められた前記補正利得を用いて、前記入力画像信号の画素ごとに演算を施すステップとを有することを特徴としている。
【発明の効果】
【0010】
本発明によれば、補正を行う画素の周辺画素の輝度分布に基づいて画素ごとに補正利得を求め、この補正利得を用いて補正を行う画素を補正するので、入力画像の階調特性を適切に改善することができる。
【0011】
また、本発明によれば、複雑な演算を行う必要が無く、計算や処理を簡素化することができるので、構成の簡素化、その結果、コスト低減を図ることができる。
【発明を実施するための最良の形態】
【0012】
実施の形態1.
図1は、本発明の実施の形態1に係る画像処理装置(実施の形態1に係る画像処理方法を実施する装置)5の構成を概略的に示すブロック図である。図1に示されるように、実施の形態1に係る画像処理装置5は、輝度検出手段1と、フィルタ手段2と、補正利得検出手段3と、演算手段4とを有する。なお、本出願において「…手段」と呼ばれる構成は、電気回路などのハードウェア、プログラムにより動作するソフトウェア、又はハードウェアとソフトウェアの組み合わせのいずれで構成してもよい。例えば、輝度検出手段1と、フィルタ手段2と、補正利得検出手段3と、演算手段4は、マイコン(図示せず。)を用いたソフトウェアによって実現することができる。
【0013】
実施の形態1に係る画像処理装置5は、入力画像信号Xinに基づいて画素ごとに補正利得Gを算出し、算出された補正利得Gを用いて入力画像信号Xinに画素ごとに補正処理を施して、補正後の画像信号Xoutを生成する。画像処理装置5の補正処理では、例えば、固体撮像素子を用いて撮像された撮像画像のダイナミックレンジを改善する。この補正処理により、従来、黒つぶれしやすかった撮像画面内の低輝度領域のコントラストを改善し、認識性能・撮像性能を向上させることができる。
【0014】
入力画像信号Xinは、例えば、8ビット階調で、水平640×垂直480画素に2次元配列された赤(R)、緑(G)、青(B)の3色の画像信号(以下「RGB信号」と言う。)である。入力画像信号XinのR信号レベルをR(M,N)、入力画像信号XinのG信号レベルをG(M,N)、入力画像信号XinのB信号レベルをB(M,N)と表記する。ここで、Mは水平画素位置、Nは垂直画素位置を示す。
【0015】
入力画像信号Xinは、RGB信号に限らず、YCbCr信号、L*a*b*信号、又はHSV(Hue、Saturation、Value)信号などであってもよい。画像処理装置5は、入力画像信号XinとしてYCbCr信号、L*a*b*信号、又はHSV信号を用いる場合には、各色空間の信号をRGB信号に色変換処理する色変換手段(図示せず)を備える。また、入力画像信号Xinの階調数は、上記8ビットに限定されず、静止画ファイルで用いられる10ビット又は12ビットなどの他の階調数であってもよい。さらに、入力画像信号Xinの画素数は、上記値に限定されず、水平1024×垂直960画素などの他の画素数であってもよい。
【0016】
輝度検出手段1は、入力画像信号Xinから輝度信号成分を求めて出力する。ITU−R BT.709規定の場合、輝度信号Yは、RGB信号から、次式(1)で求めることができる。
Y=0.299×R(M,N)+0.587×G(M,N)+0.114×B(M,N)
…(1)
なお、RGB信号から輝度信号Yを求めるための変換式は、上記式(1)に限定されず、画像処理を行うシステムが採用する色空間の規格によって規定される。また、入力画像信号Xinに輝度信号Yが含まれる場合は、輝度検出手段1は、輝度信号Yを求めるための計算を行わずに、入力画像信号Xinの輝度信号Yをフィルタ手段2に出力する。
【0017】
フィルタ手段2は、1次元nタップの非巡回型デジタルフィルタであり、ディレイ手段6と、係数手段7と、加算手段8とを有する。ディレイ手段6は、入力画像信号Xinの輝度信号を遅延させる遅延素子DL(−1)、遅延素子DL(−1)の出力を遅延させる遅延素子DL(0)、及び遅延素子DL(0)の出力を遅延させる遅延素子DL(1)を有する。係数手段7は、遅延素子DL(−1)の出力に係数a(−1)を乗算する乗算器、遅延素子DL(0)の出力に係数a(0)を乗算する乗算器、及び遅延素子DL(1)の出力に係数a(1)を乗算する乗算器を有する。なお、タップ数nは、n=2×k+1(kは正の整数)を満たす。
【0018】
フィルタ手段2は、輝度検出手段1から出力された輝度信号にフィルタ処理を施して、フィルタ処理後のフィルタ信号を出力する。図1は、タップ数nが3タップである場合を示す。なお、フィルタ手段2から出力されるフィルタ信号は、例えば、平均輝度Yavgであり、次式(2)で求めることができる。
【数3】


【0019】
式(2)において、Y(−1)、Y(0)、及びY(1)はそれぞれ、補正を行う画素の1画素後の画素の輝度信号、補正を行う画素の輝度信号、及び補正を行う画素の1画素前の画素の輝度信号を示す。ここで、係数a(−1)=a(0)=a(1)=1とすると、式(2)の分母は、次式のようになる。
【数4】


【0020】
したがって、式(2)により、補正を行う画素と、補正を行う画素の周辺画素の平均輝度を求めることができる。なお、「補正を行う画素の周辺画素」とは、iを所定の整数としたときに、補正を行う画素のi画素前の画素から補正を行う画素の1画素前の画素まで、及び、補正を行う画素の1画素後の画素から補正を行う画素のi画素後の画素までである。所定の整数iが1であるときには、「補正を行う画素の周辺画素」は、補正を行う画素の1画素前の画素、及び、補正を行う画素の1画素後の画素である。
【0021】
このように1次元の非巡回型デジタルフィルタの構成を用いることで、輝度検出手段1の輝度信号Yの1次元方向のフィルタ出力を求めることができる。求められたフィルタ出力は、輝度信号Yと補正を行う画素の周辺画素の平均値を求めるように構成することで、1次元方向の明るさの分布の変化を求めることができる。よって、明るさの分布の変化に対応した補正利得を検出することができ、明るさの分布の変化を考慮した、信号のコントラストを補正することができる。また、デジタル信号処理回路としては、一般的な構成であり、回路規模の簡素化が図れ、ゲート規模削減、コスト低下の効果がある。
【0022】
タップ数nは、3タップに限らず、任意のタップ数とすることができる。タップ数を増やすことで、カットオフ周波数の特性を細かく設定することができ、また、広い範囲に及ぶ緩やかな輝度変化を検出することができる。このように、タップ数nを切替えることで、入力画像内の異なる照明条件による輝度分布の変化に応じて最適なフィルタ手段2を構成することができる。
【0023】
以上の説明においては、フィルタ手段2が1次元の非巡回型デジタルフィルタである場合を説明したが、フィルタ手段2は2次元の非巡回型デジタルフィルタであってもよい。2次元の非巡回型デジタルフィルタを用いることによって、入力画像の輝度の領域的な変化を検出することができる。
【0024】
また、フィルタ手段2は、上記式(2)に基づく平均輝度Yavgを算出する処理を行う構成に限定されず、明るさの分布の変化を求めることができる構成であれば良く、加重平均を出力する構成、ローパスフィルタを用いた構成、又はバンドパスフィルタを用いた構成等のような他の構成とすることができる。
【0025】
補正利得検出手段3は、フィルタ手段2から出力されたフィルタ信号である平均輝度Yavgに基づいて補正利得Gを算出して出力する。補正利得Gの算出処理の詳細は、後述する。
【0026】
演算手段4は、補正利得検出手段3から出力された補正利得Gが入力され、入力画像信号Xinに補正利得Gを乗算して出力する。
【0027】
図2は、実施の形態1に係る画像処理装置5の動作(実施の形態1に係る画像処理方法)を概略的に示すフローチャートである。図2に示されるように、実施の形態1に係る画像処理装置5は、フィルタ処理(ステップS1)、画素ごとの補正利得の演算処理(画素利得演算処理)である補正利得検出処理(ステップS2)、及び補正利得を用いて入力画像信号を補正する処理である演算処理(ステップS3)を行う。フィルタ処理(ステップS1)において、フィルタ処理手段2は入力画像信号Xinの平均輝度Yavgにフィルタ処理を施し、フィルタ処理後の輝度信号を出力する。次の補正利得検出処理(ステップS2)において、フィルタ処理手段2からの出力に応じて画素ごとの補正利得Gを求める。次の補正利得演算処理(ステップS3)において、演算手段4は補正利得検出処理(ステップS2)によって得られた補正利得Gを用いて入力画像信号Xinの演算を画素ごとに行い、補正後の画像信号Xoutを出力する。
【0028】
以下に、補正利得検出手段3及び演算手段4の動作を詳細に説明する。補正利得検出手段3は、例えば、次式(3)により補正利得Gを求める。
【数5】


式(3)において、Yavgは、フィルタ手段2から出力され補正利得検出手段3に入力される平均輝度を示し、Gmaxは、補正利得の最大値である最大利得を示し、Ymaxは、フィルタ手段2の最大出力である最大輝度を示す。
【0029】
最大輝度Ymaxは、画像信号のデジタル分解能(階調数)により一義的に決まる。例えば、8ビット階調の場合は、最大輝度Ymaxは255であり、10ビット階調の場合は、最大輝度Ymaxは1023である。
【0030】
最大利得Gmaxは、入力画像のダイナミックレンジを向上させ、コントラストが改善できるように、予め統計的、実験的に得られた補正利得である。γ補正を行うことで、メリハリの無いコントラストの低い画像処理であったが、補正利得を用いることで、コントラスト感の高い、画像となり、表示品位が向上する。補正利得検出手段3は、最大利得Gmaxを入力画像のレベルによらず一定値とする構成とすることができ、又は、入力画像の黒レベルと白レベルの頻度や、平均映像信号レベルなどの入力画像から得られる、画面全体や被写体の明るさ、コントラスト、輝度分布、輝度のヒストグラム、色の分布等の情報に応じて最大利得Gmaxを切替える構成とすることもできる。このように最大利得Gmaxが調整可能であることは、動画像に用いた場合に、動画像内の明るさの分布に最適な補正利得を得られ、画質の最適化を図れる。
【0031】
図3は、補正利得検出手段3から出力される補正利得Gを示すグラフであり、図4は、補正利得検出手段3から出力される補正利得Gを示す表である。図3において、横軸は、最大輝度で規格化された平均輝度Yavg/Ymaxを示し、縦軸は、補正利得Gを示す。
【0032】
図3及び図4に示されるように、最大利得Gmaxが1より大きい場合には、最大輝度で規格化された平均輝度Yavg/Ymaxが増加するにつれて(すなわち、平均輝度Yavgが増加するにつれて)、補正利得Gは最大利得Gmaxから減少し、平均輝度Yavgが最大輝度Ymaxに等しくなると(すなわち、Yavg/Ymax=1になると)、補正利得Gは1倍になる。また、最大利得Gmaxが1である場合には、補正利得Gは1倍になる。
【0033】
なお、補正利得検出手段3として、式(3)による演算を実行して補正利得Gを得る構成を説明したが、予め平均輝度Yavgに対応する補正利得Gをルックアップテーブルとして保持しておくこともできる。このようなルックアップテーブルを用いた場合には、割り算処理を行う必要が無くなるので、補正利得検出手段3における計算処理の簡素化を図ることができる。
【0034】
図5は、実施の形態1において用いる補正利得を、最大輝度で規格化した平均輝度に乗算した値を示すグラフである。図5において、横軸は、最大輝度で規格化された平均輝度Yavg/Ymaxを示し、縦軸は、最大輝度で規格化された平均輝度Yavg/Ymaxに補正利得Gを乗算した値G×Yavg/Ymaxを示す。
【0035】
ここで、補正利得Gは、補正輝度G×Yavg/Ymaxが単調増加関数になるように求めた値である。図5には、最大利得Gmaxが1倍、3倍、5倍の場合の補正輝度G×Yavg/Ymaxを示している。補正輝度は、G×Yavg/Ymax以外の計算に基づく補正輝度を用いてもよい。図5から分かるように、最大利得Gmaxが1倍の場合は、入力画像信号Xinがそのまま出力される。図5から分かるように、最大利得Gmaxが大きくなるにつれて、低輝度側の傾きが大きく、高輝度側の傾きが小さくなる。低輝度側の傾きを大きくすることで、黒つぶれしやすい低域の信号成分を増幅して出力することができ、低輝度部のコントラストが改善できる。また、高輝度側の傾きを低輝度側に比べて1.0倍程度に小さくすることで、高輝度側の輝度信号やコントラストの信号が維持される。これにより、高輝度側が白つぶれする問題を防ぐことができ、高輝度や低輝度の信号においてもコントラスの高い信号を取り出せ、視認性の向上が図れる。
【0036】
図6は、実施の形態1に係る画像処理装置5による補正処理前の画像の一例を示す図であり、図7は、実施の形態1に係る画像処理装置5による補正処理後の画像の一例を示す図である。
【0037】
図6は、明るい領域、すなわち、窓の外の景色(符号DS1で示される部分)が鮮明に再現されているが、暗い領域、すなわち、室内の人物HD1などは、黒潰れに近い状態になっていることを示している。
【0038】
図8(a)及び(b)は、実施の形態1に係る画像処理装置において、撮像画像の明るい領域(すなわち、図6において窓を通して部屋の外が見える領域DS1)の処理に関し、図8(a)は、画素位置p0から画素位置p6までにおける規格化された輝度信号Xin/Ymaxと規格化された平均輝度Yavg/Ymaxを示す図であり、図8(b)は、図8(a)と同じ画素位置p0から画素位置p6までにおける規格化された輝度信号Xin/Ymaxと規格化された出力信号Xout/Ymaxを示す図である。
【0039】
図8(a)に破線で示されるように、入力画像信号の規格化された輝度信号Xin/Ymaxは、画素位置p1において0.6、画素位置p2において0.7、画素位置p3において0.8、画素位置p4において0.7、画素位置p5において0.8、画素位置p6において0.6である。
【0040】
よって、図8(a)に実線で示されるように、タップ数nが3であるときには、規格化された平均輝度Yavg/Ymaxは、画素位置p1において0.66、画素位置p2において0.70、画素位置p3において0.73、画素位置p4において0.76、画素位置p5において0.70、画素位置p6において0.70となる。
【0041】
最大利得Gmaxが3倍であるとき、求めた平均輝度Yavgと式(3)より、補正利得Gは、画素位置p1において1.29倍、画素位置p2において1.25倍、画素位置p3において1.22倍、画素位置p4において1.19倍、画素位置p5において1.25倍、画素位置p6において1.25倍となる。このように、各画素の平均輝度Yavgを求めることで、各画素の補正利得Gを求めることができる。
【0042】
図8(b)は、図8(a)と同じ画素位置p0から画素位置P6までにおける規格化された輝度信号Xin/Ymaxと、規格化された出力信号Xout/Ymaxを示す図である。図8(b)に破線で示されるように、入力画像信号の規格化された輝度信号Xin/Ymaxは、画素位置p1において0.6、画素位置p2において0.7、画素位置p3において0.8、画素位置p4において0.7、画素位置p5において0.8、画素位置p6において0.6である。
【0043】
座標(M,N)の画素の利得補正した出力画像信号Xout(M,N)は、座標(M,N)の画素の入力画像信号Xin(M,N)と利得Gを用いて、次式(4)で求めることができる。
Xout(M,N)=G×Xin(M,N) …(4)
【0044】
図8(b)に実線で示されるように、利得補正後の規格化された出力画像信号Xout/Ymaxは、画素位置p1において0.77、画素位置p2において0.88、画素位置p3において0.98、画素位置p4において0.83、画素位置p5において1.00、画素位置p6において0.75となる。
【0045】
なお、一般に、入力画像がRGB信号の場合は、次式(5a)、(5b)、(5c)が成り立つ。
Rout(M,N)=G×Rin(M,N) …(5a)
Gout(M,N)=G×Gin(M,N) …(5b)
Bout(M,N)=G×Bin(M,N) …(5c)
ここで、Rout(M,N)は、座標(M,N)の画素の利得補正した出力R信号であり、Rin(M,N)は、座標(M,N)の画素の入力R信号であり、Gout(M,N)は、座標(M,N)の画素の利得補正した出力G信号であり、Gin(M,N)は、座標(M,N)の画素の入力G信号であり、Bout(M,N)は、座標(M,N)の画素の利得補正した出力B信号であり、Bin(M,N)は、座標(M,N)の画素の入力B信号である。
【0046】
また、一般に、入力画像が、YCbCr信号の場合は、次式(6a)、(6b)、(6c)が成り立つ。
Yout(M,N)=G×Yin(M,N) …(6a)
Cbout(M,N)=G×(Cbin(M,N)−Cbof)+Cbof
…(6b)
Crout(M,N)=G×(Crin(M,N)−Crof)+Crof
…(6c)
ここで、Yout(M,N)は、座標(M,N)の画素の利得補正した輝度信号であり、Yin(M,N)は、座標(M,N)の画素の入力輝度信号であり、Cbout(M,N)及びCrout(M,N)は、座標(M,N)の画素の利得補正した色差信号であり、Cbin(M,N)及びCrin(M,N)は、座標(M,N)の画素の入力色差信号であり、Cbof及びCrofは、色差信号を信号処理する際のオフセット量である。
【0047】
また、式(5a)、(5b)、(5c)に示すように、RGB信号一律に同じ補正利得Gを乗算することにより、局所領域でのホワイトバランスが、ずれることなく、ダイナミックレンジを改善することができる。
【0048】
図9(a)及び(b)は、実施の形態1に係る画像処理装置において、撮像画像の暗い領域(輝度が低い領域)HD1の処理に関し、図9(a)は、画素位置q0から画素位置q6までにおける規格化された輝度信号Xin/Ymaxと規格化された平均輝度Yavg/Ymaxを示す図であり、図9(b)は、図9(a)と同じ画素位置q0から画素位置q6までにおける規格化された輝度信号Xin/Ymaxと規格化された出力信号Xout/Ymaxを示す図である。
【0049】
図9(a)に破線で示されるように、入力画像の規格化された輝度信号Xin/Ymaxは、輝度が低い領域HD1内の画素位置q1において0.1、画素位置q2において0.2、画素位置q3において0.3、画素位置q4において0.2、画素位置q5において0.3、画素位置q6において0.1である。また、図9(a)に実線で示されるように、規格化された平均輝度Yavg/Ymaxは、画素位置q1において0.16、画素位置q2において0.20、画素位置q3において0.23、画素位置q4において0.26、画素位置q5において0.20、画素位置q6において0.20となる。また、補正利得Gは、画素位置q1において2.25倍、画素位置q2において2.14倍、画素位置q3において2.05倍、画素位置q4において1.97倍、画素位置q5において2.14倍、画素位置q6において2.14倍である。
【0050】
図9(b)に実線で示されるように、入力画像の信号は、輝度信号レベルに一致しているとすると、各画素の利得補正した出力画像信号Xoutは、画素位置q1において0.23、画素位置q2において0.43、画素位置q3において0.62、画素位置q4において0.39、画素位置q5において0.64、画素位置q6において0.21となる。
【0051】
図8(b)から分かるように、明るい領域DS1では、補正利得が約1.2倍と、ほぼ入力画像と同一の信号レベルの出力画像が出力される。これにより、明るい領域の画素単位のコントラストは、保持される。これに対し、図9(b)から分かるように、暗い領域HD1では、補正利得が約2倍となる。このことは、黒レベルで圧縮されていた信号レベルが、明るくなった上、暗い領域の画素単位のコントラストも増幅されていることを示している。
【0052】
以上に説明したように、平均輝度Yavgにより画素ごとに補正利得Gを求め、補正利得Gを画像信号に画素ごとに乗算する処理を施すことにより、暗い領域HD1は鮮明に(図7のHD2)、明るい領域DS1は、そのままのコントラストを維持する(図7のDS2)のように、ダイナミックレンジを改善できる。
【0053】
図10は、入力画像の各輝度レベルにおける発生頻度(度数)をヒストグラムにより示す図であり、図11は、改善された画像の各輝度レベルにおける発生頻度(度数)をヒストグラムにより示す図である。図10及び図11は、図6、図7、図8(a)、(b)、図9(a)、(b)のダイナミックレンジ改善の効果をヒストグラムにより示している。
【0054】
図10及び図11に示されるように、入力画像の明るい領域(図10のDS1)は、高輝度領域であるため、撮像画像は、高い輝度レベルに分布する。また、入力画像の暗い領域HD1は、低輝度領域であるため、撮像画像は、低い輝度レベルに分布する。
【0055】
図10及び図11に示されるように、入力画像の補正を行うと、明るい領域DS1では、補正利得が小さいため、領域DS2の高い輝度レベルに分布していた2点鎖線で示される信号は、領域DS2の実線で示される信号になるが、変化は小さい。これに対し、領域HD1の低輝度レベルに分布した2点鎖線で示される信号は、領域HD2の実線で示される信号になり、変化が大きい。
【0056】
このことは、式(3)を用いた補正を行うことで、低輝度においても、高輝度においても、コントラストが改善され、低輝度側の黒つぶれが解消されること、及び、低輝度の信号が大きく高輝度側に移動することで、視認性のより、メリハリのあるダイナミックレンジが改善された画像が得られることを示している。さらに、補正を行うことで、平均輝度が中央付近に分布することになり、ダイナミックレンジの狭い表示装置(例えば、液晶ディスプレイ)においても、表示品位の向上が図れる。
【0057】
また、実施の形態1に係る画像処理装置5によれば、補正を行う画素の周辺画素の輝度分布に基づいて、補正を行う画素のダイナミックレンジを補正するので、解析結果の反映タイミングを極力短くするができ、入力画像のダイナミックレンジを適切に改善することができる。
【0058】
さらに、実施の形態1に係る画像処理装置5によれば、外付けフレームメモリを用いることなく画素単位でダイナミックレンジ拡大を実現でき、また、複雑な演算を行う必要が無く、計算や処理を簡素化することができるので、構成の簡素化、その結果、コスト低減を図ることができる。
【0059】
実施の形態2.
図12は、本発明の実施の形態2に係る画像処理装置(実施の形態2に係る画像処理方法を実施する装置)12の構成を概略的に示すブロック図である。実施の形態2に係る画像処理装置12は、輝度検出手段1と、フィルタ手段2と、補正利得検出手段3と、乗算手段4と、オフセット検出手段9と、オフセット減算手段10と、オフセット加算手段11とを有する。図12において、図1の構成と同一又は対応する構成には、同じ符号を付す。
【0060】
実施の形態2に係る画像処理装置12は、入力画像の信号レベルのオフセットを調整する手段を有している。オフセットは、入力画像を撮影した撮像装置(図示せず)が、逆光状態であったり、撮像装置のレンズのフレアーが画像に影響を及ぼしたり、被写体の撮像環境・条件により、信号レベルが黒浮きした状態である。
【0061】
以下に、オフセット調整を行った場合の詳細な補正の動作を説明する。オフセット検出手段9は、入力画像Xinの最小信号を検出することで、入力画像の黒浮きの程度を示すオフセット量を求める。オフセット量Offsetは、次式(7)で求めることができる。
Offset=P×MIN(R,G,B) …(7)
ここで、MIN(R,G,B)は、入力画像RGB信号の最小値を示しており、Pは、0≦P≦1を満たす正の実数である。オフセット量Offsetは、1フレーム以上前の補正を行うために有効な1画面分の画像のR,G,B信号の最小値MIN(R,G,B)を検出し、記憶することで、自動検出することができる。
【0062】
図12では、オフセット検出手段9によってオフセット量Offsetを入力画像Xinから自動検出する場合の構成を示しているが、オフセット量Offsetを外部装置から入力する構成を採用することもできる。外部装置において、補正を行いたい対象の信号に対して、補正利得を向上することで、外部装置の性能改善が行える。具体的には、外部装置では、指紋、静脈、顔などのバイオメトリック認証や、形状認証、文字認識などの高度な画像処理を行い、被写体の特徴点(顔認証の場合は、顔)を検出し、特徴点の検出結果をもとに認証を行う機能を有している。外部装置においては、画像処理装置5の画像より、特徴点を有する領域と、領域内の信号レベルを検出した結果より、オフセット量Offsetを求め、設定することで、特徴点の信号を強調することが可能となる。また、特徴点の信号レベルが増大することで、外部装置の検出精度、認証率などの性能を向上させることができる。
【0063】
オフセット減算手段10は、オフセット検出手段9で求めたオフセット量Offsetを、座標(M,N)の入力R信号Rin(M,N)、座標(M,N)の入力G信号Gin(M,N)、座標(M,N)の入力B信号Bin(M,N)のそれぞれから減算して、
Rin(M,N)−Offsetと、
Gin(M,N)−Offsetと、
Bin(M,N)−Offsetと
を出力する。
【0064】
演算手段4は、オフセット減算手段10からのオフセット量Offsetを減算した信号に、補正利得検出手段3で得た補正利得Gを乗算して、
×(Rin(M,N)−Offset)と、
×(Gin(M,N)−Offset)と、
×(Bin(M,N)−Offset)と
を出力する。
【0065】
オフセット加算手段11は、乗算手段8からの乗算信号が入力され、オフセット減算手段10と同じオフセット量Offsetを加算して、
×(Rin(M,N)−Offset)+Offsetと、
×(Gin(M,N)−Offset)+Offsetと、
×(Bin(M,N)−Offset)+Offsetと
を出力する。
【0066】
オフセット減算手段10、演算手段4、及びオフセット加算手段11の処理をまとめると、次式(8a)、(8b)、(8c)のようになる。
Rout(M,N)=G×(Rin(M,N)−Offset)+Offset
…(8a)
Gout(M,N)=G×(Gin(M,N)−Offset)+Offset
…(8b)
Bout(M,N)=G×(Bin(M,N)−Offset)+Offset
…(8c)
【0067】
オフセット補正を行わない場合、補正利得Gがオフセット量Offsetを増幅してしまい、コントラストを向上させたい信号への補正利得が減少し、全体的にコントラストの無い信号へ変換してしまう。オフセット補正を行うことで、コントラストを向上させたい信号への補正利得を増大させることができ、コントラストの高い処理が実現できる。
【0068】
なお、オフセット減算手段10とオフセット加算手段11のオフセット量は、0≦P≦1を満たす範囲で、異なる値になってもよい。特に、オフセット加算手段11のオフセット補正量Offset1をオフセット減算手段10のオフセット量Offsetに比べ小さくすることで、黒浮きが軽減される効果を有する。つまり、オフセット補正後の信号は、オフセット量Offset1により、画像の黒つぶれを防いだ上で、オフセット補正前の黒浮き分が補正され、メリハリの無い、黒信号のしまりのない画質を改善できる。つまり、黒レベルのしまった画像を得られる。オフセット加算手段11のオフセット補正量Offset1をオフセット減算手段10のオフセット量Offsetに比べ小さくする処理は、次式(9a)、(9b)、(9c)、(9d)のようになる。
Rout(M,N)=G×(Rin(M,N)−Offset)+Offset1
…(9a)
Gout(M,N)=G×(Gin(M,N)−Offset)+Offset1
…(9b)
Bout(M,N)=G×(Bin(M,N)−Offset)+Offset1
…(9c)
Offset>Offset1 …(9d)
【0069】
なお、実施の形態2において、上記以外の点は、上記実施の形態1の場合と同じである。
【0070】
実施の形態2に係る画像処理装置12によれば、画像のオフセット量を検出することができ、検出したオフセット量に基づいてオフセット補正することで、低い輝度に分布した信号のコントラストを改善による画質の向上を図れる。
【0071】
また、実施の形態2に係る画像処理装置においては、補正利得処理前のオフセット量の減算量と補正利得処理後のオフセット量の加算量を切替えることが可能であり、オフセット補正後の黒信号のしまりを向上させることができ、画質の向上を図れる。
【0072】
実施の形態3.
実施の形態3に係る画像処理装置は、補正利得検出手段3による補正利得算出の計算式が、上記実施の形態1において示した式(3)と異なる。具体的には、補正利得Gは、最大利得Gmaxと、最小利得Gmin、平均輝度Yavgと、最大輝度Ymaxを用いて、次式(10)により得る。
【数6】


ここで、Gminは、入力画像の高輝度信号に乗算する最小利得を示している。
【0073】
図13は、式(10)の演算を行う補正利得検出手段3から出力される補正利得Gを示すグラフであり、図14は、実施の形態3において用いる補正利得を、最大輝度で規格化した平均輝度に乗算した値を示すグラフである。図14において、横軸は、最大輝度で規格化された平均輝度Yavg/Ymaxを示し、縦軸は、最大輝度で規格化された平均輝度Yavg/Ymaxに補正利得Gを乗算した値G×Yavg/Ymaxを示す。
【0074】
実施の形態3の補正利得は、Gminは、実験的、統計的な処理で得られた補正利得の最小値であり、式(1)に比べ、Yavg/Ymaxが大きくなっても、補正利得Gは、1未満の値を持つ。平均輝度が高い領域では、平均輝度を中心に画素ごとの信号レベルはばらついている。この画素ごとの信号のバラツキに対して補正利得を式(3)に比べて、小さくすることができ、高輝度部の白つぶれを防止することができる。高輝度部のコントラスト信号を白つぶれにて無くすことを防ぎ、補正利得Gminにより、圧縮してコントラスト信号を保存することができる。
【0075】
なお、補正利得の特性は、図14に示されるような特性に限らず、例えば、図15又は図16に示されるような特性を持つ補正利得を実現することもできる。このような補正利得を用いることによって、表示装置(図示せず)や撮像装置の階調特性を考慮した、表示装置や撮像装置に最適なダイナミックレンジ改良を行うことができる。
【0076】
また、実施の形態3において、上記以外の点は、上記実施の形態1又は2の場合と同じである。
【0077】
実施の形態3の画像処理装置5または、画像処理装置12によれば、明るさが明るい分布の高輝度信号のコントラスト情報を維持することができ、白つぶれすることを防ぐことができる。
【0078】
実施の形態4.
本発明の実施の形態4に係る画像処理装置は、フィルタ手段2によるフィルタ処理の内容が、上記実施の形態1乃至3の場合と相違する。実施の形態4においては、フィルタ手段は、例えば、非線形フィルタであるイプシロンフィルタ(εフィルタ)を有している。
【0079】
図17は、実施の形態4におけるフィルタ手段の非線形フィルタをεフィルタで構成する場合の区間線形関数を示す図である。また、図18は、フィルタ手段として線形フィルタを用いた比較例の補正後の輝度信号レベルを示す図である。また、図19は、実施の形態4の非線形フィルタを用いた場合の補正後の輝度信号レベルを示す図である。
【0080】
図18に示されるように、フィルタ手段として線形フィルタを用いた比較例の場合には、入力画像は平滑化されるため、領域輝度が急激に変化する領域(例えば、図18の補正前の輝度レベルは画素位置5と6の間で急激に変化している)が入力画像中に存在した場合、平均輝度Yavgは、急激な輝度変化の影響を受ける。なお、図18に示される平均輝度(フィルタ出力)は、タップ数n=5で求めた値である。
【0081】
画素位置5では、画素位置6以降の高い輝度信号の影響を受け、画素位置1から画素位置4までの平均輝度(フィルタ出力)に比べ、平均輝度が高いレベルで出力される。平均輝度が高くなることで、補正利得は小さくなり、画素位置5の補正後の出力画像(図18における太い実線)の信号レベルは小さくなっていることが分かる。
【0082】
また、画素位置6においては、平均輝度が、画素位置5以前の輝度信号の影響を受け、小さな値となる。このため、補正利得は大きくなり、補正後の出力レベル(図18における太い実線)は大きな値となる。画素間の輝度変化が激しい領域(エッジ領域)において、補正利得が大きくなることで、エッジ部の信号が強調される、アパーチャ効果によりコントラスト感を強調できる。アパーチャ効果を持つことは、写真、ディスプレイなどの観賞を目的とした画像処理や、エッジが強調された画像を用いて認識処理が可能な認識装置において、エッジ部が強調され、メリハリのある、視感度の高い、表示品位の高い画像を生成することができる。
【0083】
一方、微少のコントラスト差から特徴点を検出する認証装置においては、前処理において、エッジ強調をかけずに、忠実な信号を出力する必要がある。したがって、このように、輝度の変化が激しい領域が存在する場合、平均輝度において、輝度の変化を考慮する必要がある。
【0084】
そこで、実施の形態4においては、フィルタ手段2に非線形のフィルタ特性を持たせることで、輝度の変化が激しい場合においても、前述の問題を除くことが可能となる。例えば、フィルタ手段2に非線形のεフィルタを用いる。一般に、一次のεフィルタは、次式(11)及び(12)で定義される。
【数7】


このとき、関数f(x)は、xを変数とする区間線形関数であり、次式(13)で与えられる。y(n)は、Y信号のεフィルタの出力の平均輝度を、x(n)は、n画素の輝度を示している。式(13)は、画素(n)と、平均を求める画素間(±k画素)の差分値を求める。差分値が、ε以内であれば平均値を求めるために差分値を用い、差分値がεを超える場合はα(ここでは、0)を用いる。このような処理を行うことで、急激な輝度変化を伴うエッジやノイズによる特異的に輝度が変化する場合など、輝度の急激な変化量に対して平均値が引きずられることが無く補正利得を求めることができる。
【数8】


ここで、α=0とした関数が、図17に示される区間線形関数である。
【0085】
フィルタ手段2に非線形のεフィルタを用いた場合の平均輝度を図19に示す。画素位置5や画素位置6においても、入力画像の輝度の変化(傾向)を再現している。また、補正利得を演算した出力画像の信号レベルにおいても、図18の特性とは異なり、入力画像の輝度の変化(傾向)を再現できている。
【0086】
このように、εフィルタを用いることで、入力画像において、急峻な輝度変化の存在する画像においてもエッジ情報を保持したうえで、最適なダイナミックレンジ変換処理を実現することができる。
【0087】
εフィルタは、コンパレータとラインメモリで構成でき、ハードウェアの実装面積の縮小、ソフトウェア処理時間の短縮化などの効果がある。
【0088】
なお、εフィルタに限らず、領域の輝度レベルを検出することが可能な手段であれば、メジアンフィルタ、スタックフィルタなどの非線形フィルタを用いた構成でもよい。
【0089】
また、実施の形態4において、上記以外の点は、上記実施の形態1乃至3の場合のいずれかと同じである。
【0090】
実施の形態4の信号処理装置5、信号処理装置12によれば、フィルタ手段の出力が、エッジ情報を保持することができ、急激な輝度変化の場合のマッハ効果を抑制することができる。
【図面の簡単な説明】
【0091】
【図1】本発明の実施の形態1に係る画像処理装置(実施の形態1に係る画像処理方法を実施する装置)の構成を概略的に示すブロック図である。
【図2】実施の形態1に係る画像処理装置の動作(実施の形態1に係る画像処理方法)を概略的に示すフローチャートである。
【図3】実施の形態1に係る画像処理装置において用いる補正利得を示すグラフである。
【図4】実施の形態1に係る画像処理装置において用いる補正利得を示す表である。
【図5】実施の形態1に係る画像処理装置において用いる補正利得を、規格化した平均輝度に乗算した値を示すグラフである。
【図6】実施の形態1に係る画像処理装置による補正処理前の画像の一例を示す図である。
【図7】実施の形態1に係る画像処理装置による補正処理後の画像の一例を示す図である。
【図8】(a)は、図6に示される輝度の高い領域における規格化された輝度(破線)及び規格化された平均輝度(実線)を示し、(b)は、図6に示される輝度の高い領域における規格化された輝度(破線)及び規格化された出力輝度(実線)を示す図である。
【図9】(a)は、図6に示される輝度の低い領域における規格化された輝度(破線)及び規格化された平均輝度(実線)を示し、(b)は、図6に示される輝度の低い領域における規格化された輝度(破線)及び規格化された出力輝度(実線)を示す図である。
【図10】入力画像の各輝度の発生頻度(度数)をヒストグラムにより示す図である。
【図11】改善された画像の各輝度の発生頻度(度数)をヒストグラムにより示す図である。
【図12】本発明の実施の形態2に係る画像処理装置(実施の形態2に係る画像処理方法を実施する装置)の構成を概略的に示すブロック図である。
【図13】本発明の実施の形態3に係る画像処理装置において用いる補正利得を示すグラフである。
【図14】実施の形態3に係る画像処理装置において用いる補正利得を、規格化した平均輝度に乗算した値を示すグラフである。
【図15】実施の形態3に係る他の画像処理装置において用いる補正利得を、規格化した平均輝度に乗算した値を示すグラフである。
【図16】実施の形態3に係る他の画像処理装置において用いる補正利得を、規格化した平均輝度に乗算した値を示すグラフである。
【図17】本発明の実施の形態4に係る画像処理装置のフィルタ手段をεフィルタで構成する場合の区間線形関数を示す図である。
【図18】フィルタ手段として線形フィルタを用いた比較例の画像処理装置の補正後の輝度信号レベルを示す図である。
【図19】実施の形態4に係る画像処理装置のフィルタ手段として非線形フィルタを用いた場合の補正後の輝度信号レベルを示す図である。
【符号の説明】
【0092】
1 輝度検出手段、 2 フィルタ手段、 3 補正利得検出手段、 4 演算手段、 5,12 画像処理手段、 6 ディレイ手段、 7 係数手段、 8 加算手段、 9 オフセット検出手段、 10 オフセット減算手段、 11 オフセット加算手段。

【出願人】 【識別番号】000006013
【氏名又は名称】三菱電機株式会社
【出願日】 平成18年9月14日(2006.9.14)
【代理人】 【識別番号】100083840
【弁理士】
【氏名又は名称】前田 実

【識別番号】100116964
【弁理士】
【氏名又は名称】山形 洋一


【公開番号】 特開2008−72450(P2008−72450A)
【公開日】 平成20年3月27日(2008.3.27)
【出願番号】 特願2006−249281(P2006−249281)