| 【発明の名称】 |
画像表示装置 |
| 【発明者】 |
【氏名】尾崎 修
|
| 【要約】 |
【課題】路面上に立体物がある場合でもその影響を低減し、路面状態自体の変化に応じて補正された俯瞰画像を表示することができる画像表示装置を提供する。
【構成】画像表示装置10は、車体11に、カメラ12a〜12d、レーザレーダ16a〜16d、俯角補正値計算装置22、立体物検出装置26、視点変換装置28を備えている。レーザレーダ16a〜16dがカメラ12a〜12dに対する路面の状態の変化を検出し、俯角補正値計算装置22がカメラ12a〜12dの俯角値に補正値を加え、視点変換装置28は、レーザレーダ16a〜16dが検出した路面状態の変化が、立体物検出装置26が検出した立体物に基づくものである場合に、俯角補正値計算装置22の補正値を減少させるため、路面上に立体物がある場合でもその影響を受けずに、路面状態の変化に応じて補正された俯瞰画像を表示することができる。 |
【特許請求の範囲】
【請求項1】 撮像手段により得られた車両の周囲の原画像を前記撮像手段の俯角値に基づいて視点変換して俯瞰画像を表示する画像表示装置において、 前記撮像手段に対する路面の状態の変化を検出する路面状態検出手段と、 前記路面状態検出手段が検出した路面の状態の変化に対応して、前記撮像手段の俯角値に補正値を加える俯角補正値計算手段と、 前記俯角補正値計算手段の補正値を減少させる俯角補正値修正手段と、 路面に存在する立体物を検出する立体物検出手段と、 を備え、 前記俯角補正値修正手段は、前記路面状態検出手段が検出した路面の状態の変化が、前記立体物検出手段が検出した立体物に基づくものである場合に、前記俯角補正値計算手段の補正値を減少させる画像表示装置。 【請求項2】 前記路面状態検出手段は、前記撮像手段と路面との距離を測定するものであり、 前記俯角補正値修正手段は、前記路面状態検出手段が検出した前記撮像手段と路面との距離が、前記立体物検出手段が検出した立体物と前記撮像手段との距離であると判断した場合に、前記俯角補正値計算手段の補正値を減少させる、請求項1に記載の画像表示装置。 【請求項3】 前記路面状態検出手段は、前記撮像手段と路面との距離をレーザレーダによって測定するものである、請求項2に記載の画像表示装置。
|
【発明の詳細な説明】【技術分野】 【0001】 本発明は画像表示装置に関し、特に、撮像手段により得られた車両の周囲の原画像を視点変換して俯瞰画像を表示する画像表示装置に関するものである。 【背景技術】 【0002】 従来、車両に搭載され、運転者に対して障害物までの距離等を認識させるための駐車アシスト装置が知られている。このような装置では、車両に搭載されたカメラによって車両周囲を撮像して得られた原画像を、カメラの俯角値に基づいて視点変換して俯瞰画像を生成し、当該俯瞰画像を運転者に表示する。しかし、実際の道路上で車両を操作する際には、路面の起伏及び傾斜や、車両への荷物の搭載や、車両の経年変化等により、路面に対するカメラの角度が変化して、初期に設定したカメラの俯角値では、正しい俯瞰画像への視点変換ができない。そのため、路面に対するカメラの角度が変化することにより、スケールが異なったり、歪み補正が自然ではない俯瞰画像が生成される恐れがある。 【0003】 この問題を解決するために、特許文献1には、指向性のあるレーザ光線を発するレーザ発光装置やハイトセンサを使用して、路面に対するカメラの角度を測定し、当該測定結果に基づきカメラの俯角値に補正値を加えることにより、路面に対するカメラの角度の変化に応じて俯瞰画像を生成する技術が記載されている。 【特許文献1】特開2003−274394号公報 【発明の開示】 【発明が解決しようとする課題】 【0004】 しかしながら、上記の技術では、路面上には立体物は存在しないことが前提となっている。そのため、路面上に縁石や輪止め等の立体物がある場合、実際には路面に対するカメラの角度に影響を与えないにも関わらず、その場所を路面としてカメラの俯角値の補正値を計算してしまうため、想定外の補正値になり、最終的に運転者に大きな違和感を与える俯瞰画像を表示してしまうことになる。 【0005】 本発明は、かかる事情に鑑みてなされたものであり、その目的は、路面上に立体物がある場合でもその影響を低減し、路面状態自体の変化に応じて補正された俯瞰画像を表示することができる画像表示装置を提供することにある。 【課題を解決するための手段】 【0006】 本発明は、撮像手段により得られた車両の周囲の原画像を撮像手段の俯角値に基づいて視点変換して俯瞰画像を表示する画像表示装置において、撮像手段に対する路面の状態の変化を検出する路面状態検出手段と、路面状態検出手段が検出した路面の状態の変化に対応して、撮像手段の俯角値に補正値を加える俯角補正値計算手段と、俯角補正値計算手段の補正値を減少させる俯角補正値修正手段と、路面に存在する立体物を検出する立体物検出手段とを備え、俯角補正値修正手段は、路面状態検出手段が検出した路面の状態の変化が、立体物検出手段が検出した立体物に基づくものである場合に、俯角補正値計算手段の補正値を減少させることを特徴とする。 【0007】 この構成によれば、路面状態検出手段が撮像手段に対する路面の状態の変化を検出し、俯角補正値計算手段が撮像手段の俯角値に補正値を加え、俯角補正値修正手段は、路面状態検出手段が検出した路面状態の変化が、立体物検出手段が検出した立体物に基づくものである場合に、俯角補正値計算手段の補正値を減少させるため、路面上に立体物がある場合でもその影響を低減し、路面状態自体の変化に応じて補正された俯瞰画像を表示することができる。 【0008】 なお、本発明で「立体物」とは、路面上に存在する異物や、路面の表面の凹凸であって、その存在が、撮像手段の方向と路面との角度に変動を与えない程度の物を意味する。 【0009】 この場合、路面状態検出手段は、撮像手段と路面との距離を測定するものであり、俯角補正値修正手段は、路面状態検出手段が検出した撮像手段と路面との距離が、立体物検出手段が検出した立体物と撮像手段との距離であると判断した場合に、俯角補正値計算手段の補正値を減少させることが好適である。 【0010】 この構成によれば、路面状態検出手段は撮像手段と路面との距離を測定し、俯角補正値修正手段は、路面状態検出手段が検出した撮像手段と路面との距離が、立体物検出手段が検出した立体物と撮像手段との距離であると判断した場合に、俯角補正値計算手段の補正値を減少させるため、立体物によって誤った補正を行う可能性をより少なくすることができる。 【0011】 この場合、路面状態検出手段は、撮像手段と路面との距離をレーザレーダによって測定するものであることが好適である。 【0012】 この構成によれば、路面状態検出手段は、撮像手段と路面との距離をレーザレーダによって測定するものであるため、正確に撮像手段と路面との距離を測定することができる。 【発明の効果】 【0013】 本発明の画像表示装置によれば、路面上に立体物がある場合でもその影響を低減し、路面状態自体の変化に応じて補正された俯瞰画像を表示することができる。 【発明を実施するための最良の形態】 【0014】 以下、本発明の実施の形態に係る画像表示装置について添付図面を参照して説明する。 【0015】 図1は、実施形態に係る画像表示装置の構成を示すブロック図である。図1に示すように、本実施形態の画像表示装置10は、車体11に、カメラ(撮像手段)12a〜12d、画像入力装置14、レーザレーダ(路面状態検出手段)16a〜16d、レーダ信号入力装置18、入力同期装置20、俯角補正値計算装置(俯角補正値計算手段)22、初期セットアップ情報格納部24、立体物検出装置(立体物検出手段)26、視点変換装置(俯角補正値修正手段)28、映像合成装置30、映像出力装置32、ディスプレイ34を備えている。 【0016】 カメラ12a〜12dは、CCDあるいはCMOS等の半導体素子を用いた単眼カメラであり、比較的に広角なレンズまたは魚眼レンズが装着されている。図2は、実施形態に係るカメラの配置の例を示す斜視図である。図2に示すように、この例では、魚眼レンズが装着された4台のカメラ12a〜12dが、車体11の前後左右側にそれぞれ一台ずつ設置されており、車体11の全周囲を撮像して確認することができるようにされている。 【0017】 図1に戻り、画像入力装置14は、カメラ12a〜12dのカメラ映像を取得する。画像入力装置14は、ある一定周期毎に、任意のタイミングでフレームの画像を取得する。このときのタイミングは同期をとってもよいし、非同期でも構わない。 【0018】 レーザレーダ16a〜16dは、カメラ12a〜12dに対する路面の状態の変化を検出するためのもので、通常は障害物の接近を検知するために、レーザを照射する方向を周期的に左右上下に振り、ある程度の画角を確保している。本実施形態では、レーザレーダ16a〜16dは、ある角度で照射した場合の結果のみを捕捉するようにしている。レーザレーダ16a〜16dは、本来ならカメラ1台に対してレーザレーダ1台が配置されていることが望ましい。具体的には、レーザレーダ16a〜16dには、一般的に車両に搭載されている二次元スキャンレーザレーダを用いればよい。このレーザを90°回転させて設置した場合、より自車に近い場所の距離が測定できる。本実施形態では、近距離を1点のみ計測することができるレーザレーダを用いる。 【0019】 レーダ信号入力装置18は、レーザレーダ16a〜16dのレーザレーダ計測信号(水平方向角度、垂直方向角度、当該方向の距離)を取得する。レーダ信号入力装置18は、実際には、ある一定周期毎に非同期に任意のタイミングでレーダ計測信号を取得する。 【0020】 入力同期装置20は、画像入力装置14及びレーダ信号入力装置18の信号の入力タイミングを調整する装置である。例えば、時刻T時には、画像IM(T)とレーザレーダ計測信号(T)とを対応付けることができ、時刻T+1時には、画像IM(T+1)とレーザレーダ計測信号(T+1)とを対応付けることができる。 【0021】 俯角補正値計算装置22は、初期セットアップ情報格納部24に格納されている初期セットアップ情報の路面が水平である場合の路面までの距離と、レーザレーダ16a〜16dによって走行中に計測した路面までの距離とを用いて俯角値の補正値を求める装置である。 【0022】 初期セットアップ情報格納部24は、レーザレーダ距離計測初期情報(路面が水平である場合の水平方向角度HA、垂直方向角度VA、当該方向の距離L0)と、車両が水平面にいる際に計測したカメラ12a〜12dの俯角τ0、焦点距離f、設置高さHを格納している。また、初期セットアップ情報格納部24は、カメラ12a〜12dとレーザレーダ16a〜16dとの対応付け情報、すなわちカメラ12a〜12dとレーザレーダ16a〜16dとのそれぞれが組みであることを示す情報も格納している。 【0023】 立体物検出装置26は、カメラ12a〜12dで撮影した画像を用いて立体物を検出する装置である。 【0024】 視点変換装置28は、例えば、特開平10−211849号公報、特開2003−274394号公報等に記載の手法を用いて、画像入力装置14が取得した画像を平面投影やお椀型モデル等にマッピングして、平面視の画像に変換し、映像合成の準備を行うためのものである。レーザレーダ16a〜16dのレーザビームを照射する位置に立体物が重なって検出された場合は、俯角補正値計算装置22が計算した俯角補正値を減少させて、平面視の画像への変換を行う。 【0025】 図3は、実施形態に係る透視変換原理を示す図である。図3に示す透視変換では、路面の画像の位置データをカメラ位置Rから焦点距離fにあるスクリーン平面Pに投影するときの透視変換を実行する。カメラ12aは、Z軸上の点R(0,0,H)に位置し、俯角(見下ろし角)τで路面(xy座標面)における画像をモニタしているとする。この場合、次式(1)に示すようにして、スクリーン平面P(撮像画面上)の2次元座標(α,β)を路面上の座標(俯瞰図座標)に変換(逆の透視変換)できる。 【数1】
【0026】 つまり、上記式(1)を用いることにより、図4に示すように変換前イメージI1を変換後イメージI2へと変換でき、投影画像データ(俯瞰図画像)を作成できる。 【0027】 映像合成装置30は、例えば、特開2003−91720号公報、特開2002−166802号公報、特許第3300334号公報等に記載の手法を用いて、視点変換装置28によって補正されたカメラ12a〜12dからの4枚の画像を1枚の画像に合成する装置である。 【0028】 映像出力装置32は、合成された俯瞰画像をビデオ信号等に変換して出力するための装置である。 【0029】 ディスプレイ34は、輝度補正処理を施した俯瞰画像をドライバーに提示するためのものである。一般的には、ディスプレイ34には、液晶モニタやナビゲーション用モニタを適用することができる。 【0030】 次に、図5を参照して、本実施形態の画像表示装置10の動作について説明する。図5は、実施形態に係る画像表示装置の動作を示すフロー図である。図5に示すように、ステップS1では、カメラ12a〜12dから画像入力装置14によって、画像表示装置10のシステム内に画像を取り込む。画像取得のタイミングは、任意のタイミングで構わないが、全てのカメラ12a〜12dの同期を取って取得することが望ましく、画像取得の速度はリアルタイムに近いものとするため、30fps以上であることが望ましい。 【0031】 ステップS2では、レーザレーダ16a〜16dからレーダ信号入力装置18によって、画像表示装置10のシステム内にレーザレーダ計測信号を取り込む。信号を取り込む速度は、リアルタイムに近いものとするため、30Hz以上であることが望ましい。 【0032】 ステップS3では、入力同期装置20が、ステップS1で取り込んだ画像及びステップS2で取り込んだレーザレーダ計測信号を取得するためのトリガーを発生させ、情報取得を行う。ステップS1及びステップS2は並列処理でシステムにデータを送るため、情報取得のトリガーはステップS1及びステップS2の処理とは別に非同期で発生させ、リアルタイムに近いものとするため、30回/s以上の頻度でデータ取得を行う。データ取得は、ステップS1及びステップS2の処理で送られてくるデータのうち、最新の情報を取得するようにする。以上のステップS3の処理は、カメラ12a〜12d及びレーザレーダ16a〜16dの全ての組に対して行う。 【0033】 ステップS4では、俯角補正値計算装置22が、ステップS3のトリガーで取得したレーザレーダ計測信号を基に、それぞれのカメラ12a〜12d及びレーザレーダ16a〜16dの組に対して俯角補正値の計算を行う。以下に、車体前方のカメラ12aとレーザレーダ16aとの組に対して俯角補正値を取得する方法を示す。 【0034】 上述した図3で示した通り、路面上のY軸をカメラ12aの光軸方向とし、その光軸方向に対して−90°回転させた軸をX軸、XY平面に対して上向きをZ軸として定義する。これを前方に取り付けたカメラ12aとレーザレーダ16aの組に対して適用すると、図6及び7に示すとおりの座標系をとることになる。なお、車両の左右および後方に設置されたカメラ12b〜12d及びレーザレーダ16b〜16dについても、座標位置関係は同様とする。初期セットアップ情報格納部24に格納しているレーザレーダ距離計測初期情報(路面が水平である場合の水平方向角度HA、垂直方向角度VA、当該方向の距離L0)は、図6及び7に示すように、水平方向角度HAはY軸方向を0°として上方から見て反時計回りにHA=θHA=0°、垂直方向角度VAはZ軸方向を0°としてθVAだけ俯角をもつところであるVA=θVA=135°に設定する。 【0035】 図8は、上り坂の場合における俯角の補正の原理を示す図である。図8に示すように、上り坂(自車に対して斜面が近づいている)の場合、s0を初期セットアップ情報格納部24に格納されているレーザレーダ16aの設置位置とする。また、d0をレーザレーダ16aのレーザビームの仮想水平面Hへの着地点とする。なお、仮想水平面Hは、初期セットアップ時は実平面Gであるが、走行中は仮想水平面となる。また、s0とd0との間の距離はL0とする。これらのs0,d0,L0は既知の値である。さらに、θVAも予め設定されているレーザレーダ16aの設置俯角である。 【0036】 図8のような傾斜に車両が差し掛かった場合、レーザレーダ16aでは、d0点ではなくdr点からレーザビームが反射し、測定される距離は、s0とdrとの間の距離Lが検出される。このLが常にL0になるように実平面Gの傾斜Φに応じて俯角を調整する。補正する俯角Δθは、s0とcとの距離をL0とするような角度になる。このとき、俯角の補正値は以下の式(2)のようなLの関数で表わされる。 【数2】
【0037】 図9は、下り坂の場合における俯角の補正の原理を示す図である。図9に示すように、下り坂(自車に対して斜面が遠ざかる)の場合も、上り坂のときと同様に図中の位置関係に基づいて俯角の補正値Δθを求める。この場合、レーザレーダ16aの設置位置s0とレーザレーダ16aで検出した点drとの距離は、初期セットアップ情報格納部24に格納されているL0(s0とd0との間の距離)よりも長い距離Lが検出される。これを、上述した上り坂の場合と同様に、計測したLがL0となるような実平面G上の位置cを求め、俯角の補正値Δθを求める。このとき、俯角の補正値は以下の式(3)のようなLの関数で表わされる。 【数3】
【0038】 ステップS5では、立体物検出装置26が、ステップS1においてカメラ12b〜12d各々で取得した時刻Tの時の画像IM(T)及び時刻T+1の時の画像IM(T+1)を用いて立体物の検出を行う。立体物の検出は、特開2001−187553号公報等に記載の技術を用いて行うことができる。すなわち、時刻Tの時の画像IM(T)及び時刻T+1の時の画像IM(T+1)より、それぞれ少なくとも2点を抽出し、三角測量を行うことにより、車両と当該立体物との距離を算出することができる。次に、画像IM(T)及び画像IM(T+1)から当該立体物のエッジを検出し、画像IM(T)及び画像IM(T+1)に撮像された同一のエッジの座標データと、車両の移動データとを用いて、車両から立体物のエッジまでの距離を算出することができる。この処理を行うことにより、画像IM(T+1)内に存在する立体物の領域を求めることができる。 【0039】 ステップS6では、視点変換装置28が、ステップS4及びステップS5で取得した情報を用いて視点変換を行い、撮像した画像を仮想水平面に投影する。ここでは、ステップS4におけるレーザビーム着地点drがS5で検出した立体物の領域に含まれるかどうかを検証する。 【0040】 レーザレーダ16aの座標系(以下、レーザレーダ座標系と呼ぶ)における点drと原点Oとの距離drはdr=LsinθVAで求められるが、その場合、カメラ12aの設置位置を原点とする座標系(以下、画像座標系と呼ぶ)との位置関係を求めなくてはならない。レーザレーダ座標系と画像座標系との位置関係を求めるには、立体物認識を実施したカメラ12aのパラメータを用い、画像座標系をレーザレーダ座標系に変換する必要がある。つまり、俯角θVAでのカメラ12aによる立体物検出領域Bの座標の座標変換(視点変換)を行えば良い。ただし、カメラ12aの設置位置とレーザレーダ16aの設置位置とが同じとは限らないため、画像座標系とレーザレーダ座標系とのY軸方向のズレ量Δyを考慮する必要がある。つまり、レーザビーム着地点をdr’=dr−Δyとして、当該レーザビーム着地点dr’が座標変換済みの立体物領域内に含まれるなら、立体物「あり」、含まれないなら立体物「なし」とする。 【0041】 立体物「あり」と判断したときは、ステップS4で求めた俯角の補正値Δθを修正し、視点変換への影響度を小さくする。本実施形態では、俯角の補正値Δθ=0として修正する。 【0042】 立体物「なし」と判断したときであって、L0≧Lのときは、図8からも判るように、俯角の補正値Δθを以下の式(4)で適用し、実際に補正を行う俯角を求める。 【数4】
【0043】 立体物「なし」と判断したときであって、L0<Lのときは、図9からも判るように、俯角の補正値Δθを以下の式(5)で適用し、実際に補正を行う俯角を求める。 【数5】
【0044】 以上のようにして、修正後俯角τを求め、上述した式(1)により、視点変換を実施する。これをカメラ12a〜12d及びレーザレーダ16a〜16dの全ての組について実施する。 【0045】 ステップS7では、映像合成装置30が、ステップS6において視点変換した画像を先行技術にあるような手法を用い、カメラ12a〜12dからの4枚の画像を合成する。画像の合成は、例えばαブレンディングを用いて、前後左右の重複領域の合成を実施する。本実施形態では前後画像はα値=100%で合成し、左右画像はα値=0%で合成する。 【0046】 ステップS8では、映像出力装置32が、ステップS5で生成した合成画像をビデオ信号等に変換して、ディスプレイ34に出力する。 【0047】 ステップS9では、車両のエンジンの停止等により、画像表示装置10の動作を終了する。 【0048】 本実施形態によれば、レーザレーダ16a〜16dがカメラ12a〜12dに対する路面の状態の変化を検出し、俯角補正値計算装置22がカメラ12a〜12dの俯角値に補正値を加え、視点変換装置28は、レーザレーダ16a〜16dが検出した路面状態の変化が、立体物検出装置26が検出した立体物に基づくものである場合に、俯角補正値計算装置22の補正値を減少させるため、路面上に立体物がある場合でもその影響を受けずに、路面状態自体の変化に応じて補正された俯瞰画像を表示することができる。そのため、路面上に縁石や輪止め等がある場合であっても、その影響を受けずにドライバーに違和感を与えることなく俯瞰画像を表示できる。 【0049】 特に本実施形態によれば、レーザレーダ16a〜16dはカメラ12a〜12dと路面との距離を測定し、視点変換装置28は、レーザレーダ16a〜16dが検出したカメラ12a〜12dと路面との距離が、立体物検出装置26が検出した立体物とカメラ12a〜12dとの距離であると判断した場合に、俯角補正値計算装置22の補正値を減少させるため、立体物によって誤った補正を行う可能性をより少なくすることができる。 【0050】 加えて、レーザレーダ16a〜16dは、レーザビームを路面に照射することにより、正確にカメラ12a〜12dと路面との距離を測定することができる。 【0051】 以上、本発明の実施の形態について説明したが、本発明は、上記実施形態に限定されるものではなく種々の変形が可能である。 【図面の簡単な説明】 【0052】 【図1】実施形態に係る画像表示装置の構成を示すブロック図である。 【図2】実施形態に係るカメラの配置を示す斜視図である。 【図3】実施形態に係る透視変換原理を示す図である。 【図4】実施形態に係る透視変換前後のイメージを示す図である。 【図5】実施形態に係る画像表示装置の動作を示すフロー図である。 【図6】実施形態に係るカメラとレーザレーダの座標系を示す図である。 【図7】実施形態に係るカメラとレーザレーダの座標系を示す図である。 【図8】上り坂の場合における俯角の補正の原理を示す図である。 【図9】下り坂の場合における俯角の補正の原理を示す図である。 【図10】立体物とレーザビームの着地点との重複の様子を示す図である。 【符号の説明】 【0053】 10…画像表示装置、11…車体、12a,12b,12c,12d…カメラ、14…画像入力装置、16a,16b,16c,16d…レーザレーダ、18…レーダ信号入力装置、20…入力同期装置、22…俯角補正値計算装置、24…初期セットアップ情報格納部、26…立体物検出装置、28…視点変換装置、30…映像合成装置、32…映像出力装置、34…ディスプレイ、P…スクリーン平面、I1…変換前イメージ、I2…変換後イメージ、D…カメラとレーザレーダの方向。
|
| 【出願人】 |
【識別番号】000003207 【氏名又は名称】トヨタ自動車株式会社
|
| 【出願日】 |
平成18年7月26日(2006.7.26) |
| 【代理人】 |
【識別番号】100088155 【弁理士】 【氏名又は名称】長谷川 芳樹
【識別番号】100113435 【弁理士】 【氏名又は名称】黒木 義樹
【識別番号】100122770 【弁理士】 【氏名又は名称】上田 和弘
|
| 【公開番号】 |
特開2008−34966(P2008−34966A) |
| 【公開日】 |
平成20年2月14日(2008.2.14) |
| 【出願番号】 |
特願2006−203666(P2006−203666) |
|