トップ :: B 処理操作 運輸 :: B66 巻上装置;揚重装置;牽引装置




【発明の名称】 機器搬入出システム
【発明者】 【氏名】水野 公元

【氏名】亀井 克之

【氏名】宮田 亮

【氏名】酒井 満治

【要約】 【課題】設置が容易でしかも安価な移動クレーンによる機器、制御盤の搬入、搬出システムを提供する。

【解決手段】搬入、搬出建物近傍の固定位置に既知寸法の基準構造物(基準直方体、基準正方形、基準ポール)を設置し、既知寸法を持つクレーンにより吊り上げられた搬入、搬出品の各座標軸に関連した既知寸度とともに撮像する。取得された画像データに対して搬入或いは搬出位置、搬入或いは搬出品を画像上でマウス、ライトペン、キーボード等により指示することにより演算処理を施し、基準構造物および既知寸度の3次元の位置関係、即ち基準構造物と搬入、搬出位置の3次元距離、基準構造物と搬入、搬出品の3次元距離とを求めることにより、搬入、搬出品の目標値である搬入、搬出位置との3次元偏差を計測する。この偏差により、移動クレーンの各駆動部を制御する。
【特許請求の範囲】
【請求項1】
固定位置に設けられて、少なくとも1軸の寸法が既知の直交3軸を有する基準構造物と、ブームの旋回およびブーム起伏機能を持つ移動クレーンにより吊り上げられた少なくとも1軸の既知寸法を有し、かつその既知寸法部が上記基準構造物の直交3軸の少なくとも1面に平行な搬入出品、または、該移動クレーンにより吊り上げられた少なくとも直交2軸の既知寸法を有する搬入出品とを同時に撮像する撮像手段と、
上記撮像手段により取得された画像データを記憶する記憶手段と、
上記基準構造物の直交3軸とその既知寸法および上記搬入出品の既知寸法に基づいて上記画像データの2次元座標を3次元座標に変換する演算処理手段と、
上記画像データを表示する表示装置とを備え、
上記演算処理手段により変換された上記3次元座標に基づいて、上記基準構造物と上記搬入出品の既知寸法部との3次元の位置関係を求め、上記基準構造物の直交3軸を基準座標とした上記搬入出品の搬入出位置と上記搬入出品の現在位置とを上記表示装置に表示することにより、上記移動クレーンの運転支援を行うことを特徴とした機器搬入出システム。
【請求項2】
固定位置に設けられて、少なくとも1軸の寸法が既知の直交3軸を有する基準構造物と、ブームの旋回およびブーム起伏機能を持つ移動クレーンにより吊り上げられた少なくとも1軸の既知寸法を有し、かつその既知寸法部が上記基準構造物の直交3軸の少なくとも1面に平行な搬入出品、または、該移動クレーンにより吊り上げられた少なくとも直交2軸の既知寸法を有する搬入出品とを同時に撮像する撮像手段と、
上記撮像手段により取得された画像データを記憶する記憶手段と、
上記基準構造物の直交3軸とその既知寸法および上記搬入出品の既知寸法に基づいて上記画像データの2次元座標を3次元座標に変換する演算処理手段と、
上記画像データを表示する表示装置とを備え、
上記演算処理手段により変換された上記3次元座標に基づいて、上記基準構造物と上記搬入出品の既知寸度部との3次元の位置関係を求め、上記搬入出品の搬入出位置に対応する上記移動クレーンの駆動要素の目標値と上記搬入出品の現在位置に対応する上記移動クレーンの駆動要素の現在値とを求め、上記移動クレーンの駆動要素の目標値と現在値とを上記表示装置に表示することにより、前記移動クレーンの運転支援を行うことを特徴とした機器搬入出システム。
【請求項3】
固定位置に設けられて、少なくとも1軸の寸法が既知の直交3軸を有する基準構造物と、ブームの旋回およびブーム起伏機能を持つ移動クレーンにより吊り上げられた少なくとも1軸の既知寸法を有し、かつその既知寸法部が上記基準構造物の直交3軸の少なくとも1面に平行な搬入出品、または、該移動クレーンにより吊り上げられた少なくとも直交2軸の既知寸法を有する搬入出品とを同時に撮像する撮像手段と、
上記撮像手段により取得された画像データを記憶する記憶手段と、
上記基準構造物の直交3軸とその既知寸法および上記搬入出品の既知寸法に基づいて上記画像データの2次元座標を3次元座標に変換する演算処理手段と、
上記画像データを表示する表示装置とを備え、
上記演算処理手段により変換された上記3次元座標に基づいて、上記基準構造物と上記搬入出品の既知寸度部との3次元の位置関係を求め、上記搬入出品の搬入出位置に対応する上記移動クレーンの駆動要素の目標値と上記搬入出品の現在位置に対応する上記移動クレーンの駆動要素の現在値とを求め、上記駆動要素の目標値と現在値との偏差がゼロとなるように前記移動クレーンの駆動軸の制御を行うことを特徴とした機器搬入出システム。
【請求項4】
上記画像データが表示された上記表示装置の2次元画像上にて上記搬入出位置の指定を行う手段を有することを特徴とした請求項1乃至請求項3のいずれか1項に記載の機器搬入出システム。
【請求項5】
上記画像データが表示された上記表示装置の2次元画像上にて上記搬入出品の移動禁止領域の指定を行う手段を有することを特徴とした請求項1乃至請求項3のいずれか1項に記載の機器搬入出システム。
【請求項6】
上記搬入出品が指定された移動禁止領域に移動した場合、上記移動クレーンの駆動を停止させ、警報を鳴らすことを特徴とした請求項5記載の機器搬入出システム。
【請求項7】
上記画像データが表示された上記表示装置の2次元画像上にて上記ブームの旋回中心および旋回平面位置の指定を行う手段を有することを特徴とした請求項2又は請求項3記載の機器搬入出システム。
【請求項8】
上記搬入出位置の手前の所定位置から該搬入出位置までの上記搬入出品の移動は地上面と平行に移動させることを特徴とした請求項1乃至請求項7のいずれか1項に記載の機器搬入出システム。
【請求項9】
上記移動クレーンはウェートバランサーを利用して上記搬入出品を吊り上げていることを特徴とした請求項1乃至請求項8のいずれか1項に記載の機器搬入出システム。
【請求項10】
上記移動クレーンは大気に対して推力を生じる機器を利用して、上記搬入出品の所定の辺又は面が搬入出建物と平行、或いは所定の一定角度になるように該搬入出品を吊り上げていることを特徴とした請求項1乃至請求項9のいずれか1項に記載の機器搬入出システム。
【請求項11】
システムの起動時、上記画像データの2次元座標から上記基準構造物および上記搬入出品の搬入出位置の3次元座標への変換が実行され、変換された上記基準構造物および上記搬入出品の搬入出位置の3次元座標が上記記憶手段に格納され、
システムの起動後、所定のサンプリング時間毎に上記画像データの2次元座標から上記搬入出品の現在位置の3次元座標への変換が実行されることを特徴とした請求項1乃至請求項10のいずれか1項に記載の機器搬入出システム。
【発明の詳細な説明】【技術分野】
【0001】
この発明は、画像処理技術を応用してトラッククレーン、ラフタークレーン等の移動クレーンにより、他の工場等により製造された制御盤等の機器を建屋内の電気室に搬入したり、或いは不用となった制御盤等の機器を建屋外に搬出するシステムに関し、特に搬入、搬出の対象物である機器(例えば、各種制御盤、操作盤、各種機械装置、部品)及び搬入、搬出場所の近傍にITVカメラ或いはビデオカメラ等を設置して、収得されたデジタル画像を演算処理することにより、搬入、搬出の為の移動クレーン等の操作支援システム或いは自動化システムに関するものである。
【背景技術】
【0002】
従来の機器搬入方法は、移動クレーンのロープに取り付けられたフックに搬入機器を掛けて吊り上げ、移動クレーンのブームを起伏、旋回させて例えば搬入位置である搬入バルコニーに吊り降ろしていた。この時、クレーン操作員は、搬入位置である搬入バルコニーの裏面しか見えない為、或いは吊り荷である搬入機器の水平、垂直位置を見難い為、地上側および搬入バルコニー側で搬入機器と搬入バルコニーとの位置関係を合図する作業員の助けを借りて、クレーン作業を行っていた。
【0003】
しかしながら、このような移動クレーンを利用した従来の機器搬入出方法では、次ぎの不具合が生じていた。
(a)搬入バルコニー上で合図する作業員は地上側のクレーン操作員に判るように合図を行う必要があり、搬入バルコニー上の安全柵を外した端に立って合図をすることになり、作業に夢中になり油断すると地上へ落下する危険があった。
(b)また、地上側の作業員はクレーン操作員に吊り荷の水平位置、揺れ状態、判る範囲での垂直位置等を合図する必要があり、しばしば、禁止されている作業行為ではあるが、吊り荷の下部の位置に入ったりして合図をすることもあり、ロープ切れ等の場合には非常に危険が伴う作業を行っていた。
(c)更には、作業コストを安く抑える為、作業人員削減等の要求も日々大きいものであった。
【0004】
このような状況を鑑み、クレーン作業の自動化にITVカメラを利用し画像処理を応用したシステムが種々提案されている(例えば、特許文献1,2参照)。
しかし、それらは、工場内を横行、走行する天井クレーン、港等のガントリークレーン、自動倉庫等、移動範囲が固定され、画像の利用も2次元の濃淡画像を扱うものがほとんどであった。
【0005】
【特許文献1】特開平07−311013号公報
【特許文献2】特開平11−002508号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかし、ITVカメラ等を利用した画像処理装置を応用した従来のシステムでは、工場内を横行、走行する天井クレーン、港等のガントリークレーン、自動倉庫等、移動範囲が固定されたクレーンに適用するものであり、トラッククレーン、ラフタークレーン等の移動クレーンに適用できるものではなかった。
しかも、従来のシステムでは、画像の利用も2次元の濃淡画像を扱うものがほとんどであり、精度の面で十分なものではなかった。
【0007】
この発明は、新たな設備を設けることなく、ITVカメラ或いはビデオカメラ等を利用して、設置が容易で、安価で、且つ簡単な基準構造物を撮像し、パーソナルコンピュータおよび専用画像処理ソフトウェアを追加することのみで、立体的な基準構造物の3次元変換座標を計測基準とすることにより、トラッククレーン等の移動クレーンにより、各種機械装置や制御盤等の機器を地上から階上の電気室等への搬入する場合、搬入バルコニー等に搬入する場合、或いは逆に搬出する場合の高い信頼性で移動クレーンの操作支援、或いは自動化運転をする機器搬入出システムを提供することにある。
【課題を解決するための手段】
【0008】
この発明においては、固定位置に設けられて、少なくとも1軸の寸法が既知の直交3軸を有する基準構造物と、ブームの旋回およびブーム起伏機能を持つ移動クレーンにより吊り上げられた少なくとも1軸の既知寸法を有し、かつその既知寸法部が上記基準構造物の直交3軸の少なくとも1面に平行な搬入出品、または、該移動クレーンにより吊り上げられた少なくとも直交2軸の既知寸法を有する搬入出品とを同時に撮像する撮像手段と、上記撮像手段により取得された画像データを記憶する記憶手段と、上記基準構造物の直交3軸とその既知寸法および上記搬入出品の既知寸法に基づいて上記画像データの2次元座標を3次元座標に変換する演算処理手段と、上記画像データを表示する表示装置とを備え、上記演算処理手段により変換された上記3次元座標に基づいて、上記基準構造物と上記搬入出品の既知寸法部との3次元の位置関係を求め、上記基準構造物の直交3軸を基準座標とした上記搬入出品の搬入出位置と上記搬入出品の現在位置とを上記表示装置に表示することにより、上記移動クレーンの運転支援を行う。
【発明の効果】
【0009】
この発明によれば、機器を外部から建物内の電気室等に搬入、搬出時の作業員の省力化、さらにはトラッククレーン等の移動クレーン操作の支援、或いは自動化が可能となる。
【発明を実施するための最良の形態】
【0010】
実施の形態1.
この発明の実施の形態1による機器搬入出システムの適用例および動作原理について図1乃至図8を参照しつつ説明する。
【0011】
図1はこの発明の実施の形態1に係る機器搬入出システムの一適用例を示す斜視図、図2はこの発明の実施の形態1に係る機器搬入出システムの他の適用例を示す斜視図、図3は図2における搬出作業をITVカメラにより異なる角度から撮像する様子を示す斜視図である。
図1では、移動クレーン12が、地上に置かれた搬入出品(搬入出機器)である制御盤8を吊り上げて、搬入出建物3の搬入位置である2階バルコニー9に搬入する様子を示している。この移動クレーン12による制御盤8の搬入動作がITVカメラ4により撮像されている。
図2では、移動クレーン12が、搬入出建物3の2階バルコニー9に置かれた制御盤8を吊り上げて、搬出位置である地上に搬出する様子を示している。また、図3では、2階バルコニー9の底の部分がITVカメラ4により撮像されていることを示している。
【0012】
そして、クレーン操作員12Aが、後述するように、ITVカメラ4による撮像画像を画像処理して得られる情報を利用して、移動クレーン12のブーム11の起伏、旋回、伸縮等の操作を行い、搬入出機器を搬入位置或いは搬出位置に搬入出することになる。
【0013】
なお、図1乃至図3において、搬入出建物3には、窓1,2や今回利用していない1階搬入出口7が設けられている。そして、2階搬入出口5の2階バルコニー9には、安全柵6が設置されている。また、各図中、2階バルコニー9に搬入された制御盤8、あるいは地上に搬出された制御盤8を、便宜的に制御盤8Aとして示している。また、移動クレーン12は、伸縮自在に構成されたブーム11、ブーム11の起伏駆動する駆動シリンダー11A、搬入出機器を吊り上げるためのロープ10およびフック13等を備えている。
【0014】
つぎに、本発明を実施する為の基本要素である座標系基準および搬入出機器の目印である基準寸法の取り方について図4乃至図6を参照しつつ説明する。
図4乃至図6はそれぞれこの発明の実施の形態1に係る機器搬入出システムを利用して制御盤8を2階バルコニー9に搬入する様子を示す斜視図である。各図において、搬入位置として2階搬入出口5および2階バルコニー9を利用している。
【0015】
まず、図4では、既知寸法La、Lb、Lcを持つ直交3軸の座標基準(X,Y,Z)を搬入位置の点O10を原点とするようにとり、座標基準の高さ方向(X軸)に平行な制御盤8の辺14(既知寸法Lnを持つ)を制御盤8(搬入出機器)の基準寸法にとっている。そして、座標基準と制御盤8の基準寸法とに基づいて、ITVカメラ4により撮像された2次元画像を演算により3次元画像に変換することにより搬入位置と制御盤8の3次元位置との偏差を計算するようにしている。ここで、2階搬入出口5および2階バルコニー9が既知寸法La、Lb、Lcの直交3軸をもつ基準構造物となる。
【0016】
図5は、2階搬入出口5および2階バルコニー9の寸法が未知であったり、これらの構造物から直交3軸の座標基準を抽出することが困難な場合に対応するものである。この場合、既知寸法La、Lb、Lcを持つ基準構造物としての基準直方体(或いは立方体)21を2階バルコニー9に設置し、この基準直方体21により座標基準を取得している。この時、座標基準の原点は基準直方体(或いは立方体)21の点Oとなる。また、制御盤8の高さ方向(X軸)に平行な辺14(既知寸法Lnを持つ)を搬入出機器の基準寸法とすることは図4と同じである。
なお、基準直方体21が搬入出作業の障害となる場合には、基準座標を取得した後、撤去も可能である。
【0017】
図6は、図5と同様に、2階搬入出口5および2階バルコニー9の寸法が未知であったり、これらの構造物から直交3軸の座標基準を抽出することが困難な場合に対応するものである。この場合、既知寸法La、Lb、Lcを持つ基準直方体(或いは立方体)21を地上に設置し、この基準直方体21により座標基準を取得している。この時、座標基準の原点は基準直方体(或いは立方体)21の点Oとなる。また、制御盤8の高さ方向(X軸)の辺14(既知寸法Lnを持つ)を搬入出機器の基準寸法とすることは図4と同じである。
【0018】
つぎに、この発明におけるITVカメラ4により取得した2次元画像から3次元距離を計算する基本原理について図7および図8を参照しつつ説明する。
【0019】
(計算原理)
まず、直交3軸の座標基準は、搬入出建物3の2階バルコニー9、あるいは搬入出建物3の近傍の地上面に設置されている基準直方体21の既知寸法La、Lb、Lcを有する3辺とする。なお、前述したように、2階搬入出口5および2階バルコニー9の構造物から直交3軸の座標基準を抽出できれば、2階搬入出口5および2階バルコニー9の建物の一部の構造物から座標基準を抽出してもよい。また、基準直方体21は、La=Lb=Lcを満たす基準立方体であってもよいが、ここでは、直方体のうちの特殊形状に立方体が含まれるものと見なして、以下、代表的に基準直方体21と総称する。
一方、移動クレーン12により吊り上げられた制御盤8のX軸と平行となる高さ方向の辺14を既知の基準寸法Lnとする。Lnは通常、地上面に対して垂直になる。
【0020】
ここで、基準直方体21の底面(O、F、G、E)は、地上面に対して平行な位置関係を満たしているものとする。
また、基準直方体21の各頂点間の辺の長さは、以下の3つの式を満たす関係にある。
OA=BE=DF=CG=La
OF=AD=BC=EG=Lb
OE=AB=CD=FG=Lc
図7および図8に示される基準直方体21において、各辺を実3次元(X,Y,Z)座標に変換すると、辺OAはX軸、辺OEはZ軸、辺OFはY軸となる。
【0021】
このとき、搬入出機器である制御盤8の各辺を画像処理により抽出した基準寸法Lnと、基準直方体21との3次元距離関係は、X軸距離O〜X1(=Lx)、Y軸距離Z1〜O1(=Ly)、Z軸距離X1〜Z1(=Lz)で表すものとする。なお、制御盤8の各辺を画像処理して基準寸法Lnを抽出しているが、既知寸法Lnを持つ基準物を制御盤8に貼り付け等により設置して基準寸法Lnとしてもよい。
基準直方体21(基準構造物)の底面および上面は、地上面と平行な座標面に対して平行であり、基準直方体21は、地上面(座標面)に対して垂直方向の既知寸法を有する。
また、後述するように、ITVカメラ4には、図49、50、52に示したようにPC(パソコン)102〜102Cが接続されており、PC102〜102Cは、ITVカメラ4により取得された画像データを記憶する記憶手段129,129A,130,130Aと、画像データに含まれる基準直方体21(基準構造体)および制御盤8(搬入出機器)の基準寸法、設定された搬入出位置の撮像された2次元座標(基準直方体21を基準として得られる)を3次元座標に変換する演算処理手段128,128Aとを含み、得られた3次元座標に基づいて搬入出位置と制御盤8の現在値の3次元の座標位置を求めることにより、それらの偏差を計測する。
【0022】
図7および図8には、搬入出建物3の近傍の地上面などの固定位置に設けられた基準直方体21と、移動クレーン12に吊り上げられて空中に浮かんだ基準寸法Lnを持つ制御盤8を、デジタル式の1台のITVカメラ4(その他、一般のビデオカメラからなり、以下、単に「カメラ4」ともいう)で同時に撮影した場合に、基準画像において得られる2次元座標(u,v)と、実3次元座標(X,Y,Z)との関係が示されている。
図8において、u、v座標値は、カメラ画像の2次元座標を示している。周知のように、デジタルカメラの2次元座標は、画素数によって決定し、u軸1024分解、v軸1024分解とすると、総画素数は約百万画素となる。
図8においては、カメラ4で収得した2次元座標上において、基準直方体21の点Oの座標を(u2,v8)とし、制御盤8と関係する点X1の座標を(u2,v9)とし、点Z1の座標を(u5,v12)としている。また、制御盤8の下部O1の座標を(u6,v11)とし、制御盤8の上部T1の座標を(u6,v10)としている。
つまり、図8に示す画像上において、制御盤8の基準寸法の上部T1から下部O1までのv軸方向の長さ(v10〜v11)は、実3次元座標上での長さLnとなる。
【0023】
図7および図8では、基準直方体21の画像(2次元座標)から実際の3次元座標への変換原理を示している。
図7において、基準直方体21の各頂点O、A、B、C、D、E、F、Gの画像の2次元座標と実3次元座標とを対比させると、以下のように、各頂点の2次元画像座標(左側)と3次元実座標(右側)とを、それぞれ、並列に表記することができる。
O(u2,v8)(0,0,0)
A(u2,v4)(La,0,0)
B(u1,v2)(La,0,Lc)
C(u3,v1)(La,Lb,Lc)
D(u4,v3)(La,Lb,0)
E(u1,v6)(0,0,Lc)
F(u4,v7)(0,Lb,0)
G(u3,v5)(0,Lb,Lc)
【0024】
図8には、基準直方体21および空中に吊り上げられた制御盤8の基準寸法Lnを含む画像(2次元座標)から実際の3次元座標への変換時の各座標位置が示されている。
図8においては、上記各頂点座標に加えて、制御盤8の基準寸法Lnの位置関係を示す各点X1、Z1、O1、T1に対しても、以下のように、2次元座標(左側)と、実3次元座標(右側)とを対比させて、それぞれ、並列に表記することができる。
X1(u2,v9)(Lx,0,0)
Z1(u5,v12)(Lx,0,Lz)
O1(u6,v11)(Lx,Ly,Lz)
T1(u6,v10)(Lx+Ln,Ly,Lz)
なお、各点X1、Z1、O1、T1の表記座標において、各記号には、±符号が含まれる。
【0025】
次に、既知の寸法La、Lb、Lc、Lnから、座標変換により、未知の寸法Lx、Ly、Lzを算出する方法の一例について、公知文献「3次元ビジョン」(徐剛および辻三郎、共立出版、1998年)を参考として説明する。
未知の寸法Lx、Ly、Lzの算出手順の要旨は、以下の(1a)〜(1d)で表される。
(1a)3次元座標系から画像座標系への変換を、3×4の変換行列Pで表す。
(1b)基準直方体の頂点(6点以上)の座標と、各頂点の画像上での座標を得る。
(1c)各頂点の対応関係から、変換行列Pを求める。
(1d)変換行列Pと基準寸法Lの画像上の座標とにより、制御盤の基準寸法の下部O1の3次元座標(L,L,L)を算出する。
【0026】
(準備)
ついで、上記算出手順(1a)〜(1d)について、具体的に説明する。
まず、座標系を設定する。
3次元座標系で、直方体の1頂点を原点として、辺をX、Y、Z軸にとると、8個の頂点の座標は、それぞれ、(0,0,0)、(L,0,0)、(0,L,0)、(0,0,L)、(L,L,0)、(L,0,L)、(0,L,L)、(L,L,L)となる。
上記頂点座標のうち、ITVカメラ8から見えているn個の頂点座標を(X,Y,Z)と表す(i=1、2,・・・n)。
また、画像座標系で、写真画像上にu軸、v軸をとり、このとき、見えているi個目の頂点は、(u,v)に写るとする。
(1a)まず、3次元座標系から画像座標系への変換は、以下の式(1)のように、変換行列Pで表現することができる。
【0027】
【数1】


【0028】
なお、式(1)において、α、αは、焦点距離に画像のスケールファクタを乗じたものであり、θは画像座標系のu、v軸のなす角(通常は90度)、(u,v)は画像中心(以上、カメラの内部パラメータ)、Rは3次元の回転を表す3×3の行列、tは平行移動を表す3次元の縦ベクトル(以上は、外部パラメータ)である。また、sはスカラである。
【0029】
(1b)続いて、直方体のi個目の頂点の変換は、以下の式(2)のようになる。
【0030】
【数2】


【0031】
(1c)また、変換行列Pを決定する。式(1)を展開してsを消去すれば、以下の式(3)となる。
【0032】
【数3】


【0033】
ここで、n個の頂点についてまとめると、以下の式(4)となる。
【0034】
【数4】


【0035】
このとき、変換行列Pの成分からなるベクトルpは、BBの最小の固有値に対応する固有ベクトルとして求められる。
さらに、||(p31,p32,p33)||で各要素を除し、スケールを調整して変換行列Pとする。以降、変換行列Pは既知となる。
【0036】
(1d)最後に、(L,L,L)を算出する。このとき、未知寸法の3次元座標を(L,L,L)、(L+L,L,L)とし、これらの画像上の座標を(u,v)、(u,v)とすると、変換行列Pにより、以下の式(5)となる。
【0037】
【数5】


【0038】
式(5)を展開してs、sを消去し、さらに、(L,L,L)について整理すると、以下の式(6)が得られる。
【0039】
【数6】


【0040】
以下、式(6)を解いて、(L,L,L)を得る。
【0041】
実施の形態2.
この実施の形態2は、上記の実施の形態1を拡張したものであり、その2つの適用例を図9および図10に示し、その原理を図11に従って説明する。
【0042】
図9は、図4に示した搬入構成図の内、制御盤8の高さ方向を搬入出機器の基準寸法とする代わりに、地上面(YZ面)に平行な制御盤8の幅、或いは奥行きの1辺14Aを搬入出機器の基準寸法Lnとした構成図である。この場合、基準寸法Lnの線分は必ずしも直交3軸の座標基準のY軸およびZ軸とは必ずしも平行とならないが、YZ面に平行な線分である必要がある。
図10は、図6に示した構成図の内、搬出時の構成図を示す。搬入出建物3の地上の近傍に置かれた基準直方体(或いは立方体)21を座標基準、2階バルコニー9上の制御盤8の高さ方向を搬入出機器の基準寸法Lnとし、搬出位置14Bを特定する為に地上面(YZ面)のO20の位置に既知寸法を持つ基準寸法Ln1をYZ面に平行な地面に置いた構成図である。この場合も、基準寸法Ln1の線分は必ずしも直交3軸の座標基準のY軸およびZ軸とは必ずしも平行とならないが、YZ面に平行な線分である必要がある。
【0043】
以下、図11に基づいて、実施の形態2におけるITVカメラ4で取得した2次元画像から3次元距離を計算する原理について説明する。
まず、上記実施の形態1で説明した方法により、基準直方体21に設定したワールド座標系の任意の点M=(X,Y,Z)を画像上の点m=(u,v)に投影する3×4の透視投影変換行列P=[pij]が求まる。即ち、
【0044】
【数7】


【0045】
或いは
【0046】
【数8】


【0047】
ここで、式(8)を整理してsを消去すると、式(9)となる。
【0048】
【数9】


【0049】
そして、式(9)において、X項および定数項を移項して、式(10)となる。
【0050】
【数10】


【0051】
そして、式(10)において、YおよびZについて解くことにより、YおよびZは変数Xの一次式(式(11))で表される。
【0052】
【数11】


【0053】
(解法)
今、図11においてYZ面上にある底辺の両端A1およびB1の座標値を(X,Y,Z)および(X,Y,Z)とすると(この時、X座標は等しい)、式(12)が得られる。
【0054】
【数12】


【0055】
ところで、辺A1B1の長さはLnであるから、
【0056】
【数13】


【0057】
となり、Xについて2次方程式が得られ、これを解くことにより、(X、Y、Z)および(Y、Z)が求められる。
解は2通りあるが、両者は投影中心に関して点対象の関係にあり、基準直方体21と同じ側にあるものが解となる。また、Lx、Ly、LzはX、Y、Zに他ならない。
また、
【0058】
【数14】


【0059】
である。
【0060】
実施の形態3.
この実施の形態3は、上記実施の形態1を拡張したものであり、その適用例を図12に示し、その原理を図13に従って説明する。
【0061】
図12は、図4に示した搬入構成図の内、吊り上げた制御盤8或いは搬入機器(例えば図66の8A)が傾斜し、制御盤8の各辺の基準寸法の線分が基準座標系の3面(XY、YZ、ZX)のいずれとも平行とならない場合、図14の(a)に示した直交2軸の既知寸法を有する画像を描いた紙或いは板14Bを制御盤8に貼り付けて2軸の基準寸法Lnとした場合の構成図である。また、図14の(b)に示されるように、1辺を寸法Lnとする正方形の紙或いは板14Cを制御盤に貼り付けて直交する2辺を基準寸法Lnとするようにしてもよい。さらに、図14の(c)に示される基準直方体21を搬入出建物3の地上階に設置して、直交3軸の座標基準を抽出するようにしてもよい。
【0062】
以下、図13に基づき本実施の形態3の場合のITVカメラ4により取得した2次元画像から3次元距離を計算する原理を述べる。
上記実施の形態1のケースで述べたように、透視投影変換行列P=[pij]が求まっている場合に、ワールド座標系の任意の点M=(X,Y,Z)とその投影像m=(u,v)との間には以下の関係式(式(15))が成り立つ。
【0063】
【数15】


【0064】
(解法)
図13のABCワールド座標値とそれらの投影像の画像座標値を以下のようにおく。
(X,Y,Y) → (u,v)
(X,Y,Y) → (u,v)
(X,Y,Y) → (u,v)
これらを式(15)に代入して以下の連立方程式を得る。
【0065】
【数16】


【0066】
また、辺A1B1および辺A1C1の長さがLnであり、両者が直交していることから
【0067】
【数17】


【0068】
となり、これらを9個の式を連立して解くことにより、X、Y、Z、X、Y、Z、X、Y、Zが求まる。
最終的に12個の方程式を解くことになるので、解は12通りある。投影中心に関して鏡像関係にあるものを除くと6通り、さらに、一部の点がカメラの後方に来るものを除けば限定できる。この条件で一意にならない場合、第4の点(例えばD1点)を用いれば一意に求めることができる。
【0069】
実施の形態4.
上記実施の形態1〜3では、基準直方体の直交3軸が既知寸法La,Lb,Lcを有するものとして計算しているが、この実施の形態4では、基準直方体の直交3軸の1軸のみが既知寸法Laを有するものとして説明する。つまり、1軸(既知寸法La)と2組の消失点(図15のPx、Py、Pzのいずれか2組)の位置座標が明確化すれば、基準直方体の未知寸法Lb、Lc、或いは図8におけるLnも計算することができる。
以下、その計算方法の一例を特開平9−2373355号公報(画像合成装置)等を参考として図15に基づいて説明する。なお、図15において、21Aは2次元画像座標、21は1軸の寸法Laのみ既知の直交3軸を有する基準直方体、焦点距離fは視点21Bから画像21Aへの垂線との交点、即ち画像中心Oi(0,0)との距離である。
以下の解法では上方向にv軸をとって説明する。
【0070】
(解法)
通常、取得画像は、
(1)画像中心(u,v)は一般に取得画像の中心である。取得画像の中心に画像座表系の原点Oi(0,0)をとる(u=v=0)。
(2)画像の縦方向、横方向の1画素当たりの単位長(αu=αv)は同じである。
(3)画像の両軸(u,v)のなす角(θ)は90°である。
の条件が成立するので、
原点O(0,0,0)、既知点A(La、0,0)が、それぞれPo(u,v)、PA(u,v)に投影され、X軸消失点、Y軸消失点が、それぞれPx(uX,vX)、Py(uY,vY)であるとする。
【0071】
この場合、前述の式(1)は、以下の式(18)となる。
【0072】
【数18】


【0073】
まず、視点位置から画像平面状の消失点に向かうベクトルe,e
【0074】
【数19】


【0075】
を考えると、これらは、世界座標系のそれぞれX軸、Y軸に平行で互いに直交するので、
【0076】
【数20】


【0077】
であり、これにより焦点距離fを求めることができる。
さらに、世界座標系でのX軸方向のベクトルは、(1,0,0)と表現されるので、kをパラメータとして、
【0078】
【数21】


【0079】
同様に、Y軸方向のベクトル(0,1,0)について、
【0080】
【数22】


【0081】
また、視点位置からZ軸方向に向かうベクトルeは、
【0082】
【数23】


【0083】
になるので、
【0084】
【数24】


【0085】
となり、回転行列Rが定まる。
つぎに、原点については、
【0086】
【数25】


【0087】
より、sを消去して、
【0088】
【数26】


【0089】
同様に、既知点Aについては、
【0090】
【数27】


【0091】
より、sを消去して、
【0092】
【数28】


【0093】
式(26)、式(27)より、
【0094】
【数29】


【0095】
となるので、この式によりtを決定する。以上により、透視投影変換行列Pが定まる。
この透視投影変換行列Pを式(18)に代入し、未知点F(0,L、0)がPB(u,v)に投影されているときには
【0096】
【数30】


【0097】
より、sを消去して、
【0098】
【数31】


【0099】
により、Lbが求まる。この時、Lbは2組求まるが、異なる場合は平均をとるなどして平滑する。
以下同様な計算方法により、Lc、或いは搬入出品の基準寸法Lnの3次元位置を計算できる。
また、基準直方体の直交3軸La,Lb,Lcの2組の寸法が既知で、1つの消失点の座標が明確な場合も、同様にして計算できる。つまり、基準直方体の直交3軸のうちの1軸、或いは2軸の寸法が既知であり、消失点の画像座標が明確化できれば、上記実施の形態1〜3と同等の結果が得られる。この場合も、透視投影変換行列Pの計算は電源投入時1度計算するのみでよい。
また、以下の各実施の形態では、基準直方体の直交3軸の3軸の寸法La,Lb,Lcが既知として説明する。
【0100】
実施の形態5.
上記実施の形態1〜3を利用した実際の制御システム構成図の一例を図49〜図53に示し、その制御フローチャートの1例を図54〜図67に示し、またカメラ制御PC(パソコン)102の表示画面の一例、実際の座標基準、搬入、搬出位置等の設定、計測寸法の一例を図16〜図27に示す。
【0101】
(PC画面の実施例1:3次元XYZ軸表示)
図16はこの発明の実施の形態5に係る機器搬入出システムにおけるカメラ制御パソコンのメニュー画面の実施例1を示す図である。このメニュー画面には、搬入出建物3の近傍の固定位置に設置されたITVカメラ4で撮像されたライブ画像16と、画像メニュー50とが表示されている。そして、画像メニュー50には、「XYZ座標系設定」、「搬入位置設定」、「搬出位置設定」、「搬入搬出品設定」、「クレーン旋回位置設定」、「クレーン選択」、「定数設定」、「計測寸法表示」、「搬入搬出支援画面表示」等のメニューが準備されている。それらのメニューをマウス108、或いはキーボード、ライトペン等により指定することにより、各々のメニューに対応する画面に切り替わるようにプログラムが構成されている。このプログラムのフローチャートを図54のステップ200〜ステップ227に示す。
【0102】
(XYZ座標系設定画面)
まず、マウス108により図16の画像メニュー50から「XYZ座標系設定」を指定すると、カメラ制御PC102の画面は図17に示されるXYZ座標系設定画面に切り替わる。そして、図17の画像メニュー51から「XYZ座標系設定」を選択すると、ITVカメラ4にて撮像されたライブ画像16A上にXYZポインター17が現れる。このXYZポインター17をマウス108等でクリックアンドドロップによりXYZ座標系の基準となる構造物、例えば、2階搬入出口5および2階バルコニー9の部分に移動し、図17中「17A」の如く、既知寸法La、Lb、Lcに合わせる。この合わせ作業が終了した後、画像メニュー51から「基準寸法設定」を選択し、既知寸法La、Lb、Lcを入力する。入力後、誤りがなければ、画像メニュー51から「XYZ座標系確立」を選択する。また、誤りがあれば、画像メニュー51から「XYZ座標系取消」を選択し、再設定を行なう。
【0103】
このシステムでは、図6に示した基準直方体21を利用していないが、基準直方体21を利用するシステムでは、基準直方体21をXYZポインター17で指示をすることになる。これらの操作により、実施の形態1〜3に示した解法、或いは図15に示した消失点Px、Py、Pzを利用した実施の形態4に示した解法の適用が可能となり、取得画像の3次元座標基準がもとまる。この場合、消失点は既知の直交関係にある6頂点が確定しておれば求めることができる。図4および図18ではP1、P2、O10、M1、M2、M3点が相当する。この演算により、例えば、図4のP5、P6が求まる。
つまり、2階搬入出口5および2階バルコニー9により構成された搬入出建物3の構造物の一部は、基準直方体21と等価になる。
【0104】
(搬入位置設定画面)
ついで、マウス108により図17の画像メニュー51から「次画面へ」を指定すると、カメラ制御PC102の画面は図18に示される搬入位置設定画面に切り替わる。そして、図18の画像メニュー54から「搬入位置形状選択」を選択し、ライブ画像16Cの下部のメニューバー53の「YZ面」を選択し、さらに方形「53B」を選択することにより、ライブ画像16CにYZ面長方形画像19が現れる。ついで、このYZ面長方形画像19をマウス108等でクリックアンドドロップにより搬入場所を画像上で指定する。図18では、搬入位置19Aを2階バルコニー9のO10、M1、M2、M3としている。そして、画像メニュー54から「搬入位置寸法設定」を選択し、O10〜M3、O10〜M1の寸法をLy、Lzとして入力する。その時、Lxは設定不要である。この画面では、Ly=Lb、Lz=Lcとなる。ついで、画面をチェックし問題なければ、画像メニュー54から「搬入位置確立」を選択し、誤りがあれば、「搬入位置取消」を選択し、再設定を行なう。
【0105】
また、画像メニュー54から「座標位置表示」を選択すれば、座標系原点O10に対する搬入位置の3次元座標が上記実施の形態1,2にて説明した方式により計算、表示される。ここで、図18では座標系原点O10と搬入位置は同じ位置の為、搬入位置の3次元座標は(0,0,0)である。なお、基準直方体21を地上に置いた場合には、搬入位置の3次元座標は所定の値が表示される。
【0106】
(搬出位置設定画面)
ここで、搬出モードの時は、図16に示されるメニュー画面に戻り、画像メニュー50から「搬出位置設定」を選択する。これにより、カメラ制御PC102の画面は、図19に示される搬出位置設定画面に切り替わる。そして、図19において、画像メニュー54Aから「搬出位置形状選択」を選択し、ライブ画像16Dの下部のメニューバー53の「YZ面」を選択し、ついで「方形」53Bの方形を選択することにより、YZ面長方形画像19がライブ画像16Dに現れる。搬出位置は通常、地上面であったり、トラックの荷台上であったりするので、その目印として、所定の寸法Ln1を持つポール21A、或いはYZ面に平行な画像14Bが地面に置いてある。そして、メニューバー53の「X軸」を選択することによりX軸直線18がライブ画像16D中に現れ、また「YZ面」を選択し、さらに「方形」53Bを選択することによりYZ面長方形画像19がライブ画像16D中に現れる。
【0107】
ついで、マウス108等でクリックアンドドロップにより、X軸直線18をポール21Aに移動し、或いはYZ面長方形画像19を画像14Bに移動して、搬出場所を画像上で特定する。そして、画像メニュー54Aから「搬出位置寸法設定」を選択し、Lnの寸法をLnx(X軸平行)、LnyまたはLnz(YZ面平行)として入力する。その時は寸法が不明な軸の設定は不要である。また、前述したように画面をチェックし問題なければ、画像メニュー54Aから「搬出位置確立」を選択する。もし、誤りがあれば、画像メニュー54Aから「搬出位置取消」を選択し、再設定を行なう。さらに、画像メニュー54Aから「座標位置表示」を選択すれば、座標系原点O10に対する搬出位置の3次元座標を上記の実施の形態1,2にて説明した方式により計算し、O20表示(Lx2、Ly2、Lz2)を行なう。
【0108】
(搬入搬出品設定画面)
ついで、図19の画像メニュー54Aから「次画面へ」を選択し、或いは画像メニュー54Aから「メニュー画面」を選択し、さらに図16の画像メニュー50から「搬入搬出品設定」を選択する。これにより、カメラ制御PC102の画面は、図20に示される搬入搬出品設定画面に切り替わる。
そして、図20の画像メニュー54Bから「搬出位置形状選択」を選択し、ライブ画像16Bの下部のメニューバー53から「X軸」を選択し、さらに「直線」53Aを選択することにより、直線画像18がライブ画像16B中に現れる。また、メニューバー53から「YZ面」を選択し、さらに「方形」53Bを選択することにより、YZ面長方形画像19がライブ画像16B中に現れる。それらの画像18,19を制御盤8の画像上に貼り付ける。図20中、画像18,19の貼り付け画像を18A,19Cとして示している。ついで、画像メニュー54Bから「搬入出品寸法設定」を選択し、Ln、或いはW,Dを入力する。そして、搬入出品が制御盤8等の直方体の場合で、かつ、底面がYZ面と平行な場合には、前述の実施の形態1,2によりLn、或いはW,Dの1軸の寸法を入力するのみでOnの3次元座標を特定することができる。
また、図20では、搬入出品としてメニューバー53の直方体53Cを選択し、貼り付けてもよい。
【0109】
次に、画像メニュ−54Bから「吊り位置オフセット設定」を選択し、X、Y、Z軸のオフセット値を入力する。ここで、吊り位置オフセットについて図21および図22を用いて説明する。
【0110】
制御盤8を搬入位置基準(図21および図22ではO10)に搬入する場合、O10と制御盤8の高さ方向の辺LnのOn点座標との距離を計算して目標値との偏差にしているが、実際には2階バルコニー9上のLnを所定値ずらしたLn1点を目標値にする必要がある。これを吊り位置オフセットという。その値がY軸のオフセット値On1〜Y1=Ly4およびZ軸のオフセット値On1〜Z1=Lz4である。X軸のオフセット値は記載していないが、2階バルコニー9のY軸およびZ軸オフセット値を考慮した搬入位置19BのX軸上方の所定位置(X軸オフセット)を目標値として移動クレーン12を操作し、制御盤8がその所定位置に移動された後、ロープ10を下げ、制御盤8を搬入位置19Bに下ろす。従って、搬入する場合は座標軸基準O10と制御盤8の原点Onのオフセットを考慮したX1軸原点On1点との偏差を零になるように移動クレーン12を操作、或いは自動運転すれば良い。On1点の3次元座標は図22に示すように(−Lxn,Lyn-Ly4,−Lzn+Lz4)となる。
【0111】
また、座標系基準の直方体21を地上に設置した場合の搬入位置原点O10、搬入品基準On、2階バルコニー9のY軸およびZ軸オフセット値(Ly4、Lz4)の関係を図23および図24に示す。移動クレーン12の制御をする為には、O10(Lx1,Ly1、Lz1)を目標値、On1(Lxn,Lyn−Ly4、−Lzn+Ly4)(但し、Lxnの初期値は0)を制御対象の現在値として制御すれば良いことになる。
そこで、図33の搬入、搬出支援画面に移行し、そのXYZ表示57に、目標値の座標値にO10の座標(Lx1,Ly1、Lz1)を表示し、現在値の座標値にOn1の座標(Lxn,Lyn−Ly4、−Lzn+Ly4)を表示し、XYZ座標値の目標値と現在値とを比較し、その偏差が0になるようにクレーンの駆動を制御したり、手動運転時の支援を行なう。
【0112】
(移動禁止領域設定画面)
次に、図20の画像メニュー54Bから「次画面へ」を選択し、或いは「メニュー画面へ」を選択し、さらに図16の画像メニュー50から「移動禁止領域設定」を選択する。これにより、カメラ制御PC102の画面は、図25に示される移動禁止領域設定画面に切り替わる。この移動禁止領域設定画面は、制御盤8(搬入出品)が搬入出建物3や2階バルコニー9と干渉しないように、吊り荷である制御盤8の位置を監視する為のものである。そして、移動クレーン12等の操作ミス等により、制御盤8と移動禁止領域との距離が所定値以下となった場合に異常警報を鳴らすと共に、移動クレーン12の駆動を緊急停止する。
【0113】
図25の画像メニュー55から「移動禁止領域形状選択」を選択し、ライブ画像16Eの下部のメニューバー53から「XY面」或いは「XZ面」を選択した後、「方形」53Bを選択する。これにより、ライブ画像16EにXY面長方形画像或いはXZ面長方形20が現れる。このXY面長方形画像を2階バルコニー9の下部の移動禁止領域(O10、N2、N3、M1)および(M2、M3、N5、N4)に貼り付ける。また、XZ面長方形画像20を2階バルコニー9の下部の移動禁止領域(M1、M2、N4、N3)および搬入出建物3の壁面(P3、P4、N7、N6)に貼り付ける。なお、図25中、画像20の貼り付け画像を20A,20Bとして示している。
そして、前述したように画面をチェックし問題なければ、画像メニュー55から「移動禁止領域確立」を選択する。もし、誤りがあれば、画像メニュー55から「移動禁止領域取消」を選択し、再設定を行なう。
【0114】
図26は、図23に示した搬入出建物3の近傍に基準直方体21を置いて座標系基準とした状態の2階バルコニー9の下部を移動禁止領域に設定した場合の三次元座標値を示す。また、図27は、図26に示した2階バルコニー9の下部を移動禁止領域に設定した画像に更に、搬入出建物3の壁面(P3、P4、N7、N6)も移動禁止領域に設定した場合の三次元座標値を示す。また、図25の画像メニュー55の「移動禁止領域寸法設定」には、X=、Y=、Z=が記載されているが、設定した面が3次元座標原点からメニューバー53のX軸、Y軸、Z軸の直線53A、および、XY面、YZ面、ZX面の方形53Bで連続して設定されておれば、それらの設定は不要となり、演算により座標値を計算することが出来る。
【0115】
なお、これらの設定或いは計測した3次元座標値は、図16に示されるメニュー画面の画像メニュー50から「計測寸法表示」を選択することにより、図22、図24、図26および図27に示されるように、画面表示することができる。
【0116】
(PC画面の実施例2:搬入出バルコニーがない場合の画面例)
ここでは、上記実施の形態1を利用し、2階バルコニー9がない搬入出口に制御盤8を搬入、搬出する場合における座標基準、搬入・搬出位置の設定、計測寸法の一例を図28乃至図32を用いて説明する。
【0117】
図28および図29は、制御盤8を「特許第3066821号」(物品の揚重装置)の図3および図4等に示されたウェートバランサー22を介して移動クレーン12により吊り下げ搬入作業を行なう場合の搬入動作図を示している。このウェートバランサー22には制御盤8とその重量に対して、平行バランスをとるようにアーム長が変化する釣り合い錘23が取り付けられている。このウェートバランサー22を利用した場合、吊り中心にあるロープ10およびフック13は制御盤8のYZ面の座標位置は異なる為、図29に示したように2階バルコニーの無い搬入出口5Aにも搬入出することができる。この場合は2階バルコニーが無い為、構造物を座標基準とすることは出来ない。そこで、搬入出建物3の近傍に図6,23,24と同じように基準直方体21を設置する必要がある。その時の座標系の一例を図30に示す。搬入位置基準O10を2階搬入出口5Aの1辺としている。又、制御盤8の基準既知寸法Lnを図6、23、24の基準既知寸法Lnとは異なった辺としている。その時の制御盤8の原点Onのオフセット(Ly4,Lz4)を考慮した各要素の3次元座標寸法の関係を図31に示す。また、移動禁止領域P3−P4−N7−N6を追加した図を図32に示す。
【0118】
このよう各要素の3次元座標寸法をとれば、上述のPC画面の実施例1と同様に移動クレーン12を制御できる。
なお、これらの設定或いは計測した3次元座標値は、PC画面の実施例1で述べたように、図16に示されるメニュー画面の画像メニュー50から「計測寸法表示」を選択することにより、図31および図32に示されるように、画面表示することが出来る。
【0119】
(PC画面の実施例3:クレーン駆動系表示)
図33は移動クレーンを運転する場合の搬入、搬出支援画面(XYZ表示)の一例を説明する図、図34はクレーン駆動系表示の搬入出支援画面を表示する為に必要なクレーン旋回位置設定定画面を説明する図、図35はクレーン駆動系表示の搬入出支援画面を説明する図である。
【0120】
図33および図35に示される搬入、搬出支援画面は、図16に示されるメニュー画面の画像メニュー50から「搬入搬出支援画面表示」を選択することにより表示される。「XYZ表示」と「クレーン駆動系表示」との切り替えは、図33および図35における表示選択メニュー56により、切り替え可能となる。また、図33および図35における目標値選択メニュー56Aにより「搬入、搬出品上部」、「搬入、搬出位置前方」、「搬入、搬出位置上部」および「搬入、搬出位置」の表示を切り替えることができる。これらの位置の詳細は図39に示す。図39における「8A1」の位置が「搬入、搬出品上部」、「8A2」の位置が「搬入、搬出位置前方」、「8A3」の位置(図省略)が「搬入、搬出位置上部」、「8A4」の位置が「搬入、搬出位置」となる。自動運転の場合はそれらの目標値は搬入、搬出品が目標値の所定範囲内に入った時、次の目標値に自動的に変更される。
【0121】
(クレーン旋回位置設定、クレーン選択、定数選択、クレーン旋回面設定)
図35に示される搬入、搬出支援画面(クレーン駆動系表示)は、図16のメニュー画面の画像メニュー50における「クレーン旋回位置設定」および「クレーン選択、定数選択」が既に選択・設定されている必要がある。また、図34における画像メニュー58に示された各メニューを設定する必要がある。
【0122】
まず、図34のクレーン旋回位置設定画面において、画像メニュー58から「クレーン旋回面設定」を選択すると、ライブ画像16FにYZ面に平行な長方形59が表われる。そして、その長方形59をドラッグアンドドロップにより画面中の移動クレーン12の旋回面59Aにあわせ、その1辺Ldの長さを設定する。また、画像メニュー58から「クレーン旋回中心設定」を選択することにより、ライブ画像16FにX軸と平行な直線60が表われ、その直線60をドラッグアンドドロップにより画面中の移動クレーン12の旋回面上の旋回中心に合わせる。ライブ画像16F中、直線60Aが旋回中心に合わせられた直線である。その時、旋回中心O30は自動的に旋回面として設定した長方形59A上に設定されることになる。これらの設定により、旋回中心の3次元座標は上記実施の形態2に示した計算方法により特定される。
なお、画面中のクレーン画像上の旋回中心にXY面、XZ面或いはXY面と平行な既知寸法を有する部材が写っている場合には旋回面の設定は不要であり、その既知寸法を有する部材の画像に直線60を合わせ、既知寸法Ldを設定するのみでも良い。
【0123】
ここで、移動クレーン12の構造により、移動クレーン12の旋回中心とブーム11の下端の位置が異なるものがある。この場合、図34の画像メニュー58から「クレーン旋回中心〜ブーム間長さ設定」を選択し、移動クレーン12の旋回中心とブーム11の下端の位置との間の長さLb1を設定する必要がある。図38におけるO30〜Q5の長さがLb1に相当する。
これらの設定終了後、画面をチェックし問題なければ、画像メニュー58から「クレーン旋回位置確立」を選択し、誤りがあれば「クレーン旋回位置取消」を選択し、再設定を行なう。さらに、画像メニュー58から「座標位置表示」を選択することにより、原点O10に対する、制御盤8(搬入出品)の現在地On、クレーン旋回中心位置O30等の3次元座標値を表示する。その1例を図37および図38に示す。図37はクレーン旋回中心とブーム11の下端が同一点O30にある場合の3次元座標値を示している。この場合はLb1=0である。また、図38はクレーンの旋回中心とブーム11の下端の位置が異なる場合の3次元座標値を示している。
【0124】
次に、図39〜図48に従って、制御盤8の搬入出位置19A、現在値3次元座標8、8A1、8A2の時点のクレーンの駆動系要素に変換する方法を説明する。
図39は制御盤8を2階バルコニー9に移設する場合の移動順序を示す斜視図、図40はその時のクレーンのブーム11の動きを示した斜視図である。図41および図42は図40の上面図である。ここで、図39〜図48は搬入動作の例を示しているので、これら図の説明では制御盤8(搬入出品)は搬入品、2階バルコニー9は搬入バルコニーと呼ぶ。
【0125】
まず、搬入品8は、図39および図40に示したように、搬入品8の上部にブーム11の先端を位置決めし、ロープ10により「8A1」の位置に搬入品8を吊り上げる。そして、搬入品8を搬入位置19Aの前方位置19Eに、ブーム延長、旋回、起伏したりしながら移動させる。そして、ブーム延長、旋回駆動軸をクリープ速度にて搬入位置19Aの上部へ搬入品8を移動させ、ロープ10を下げ、搬入位置19Aへ搬入品8を下ろす。この動作状態を図40ではS21→S22→S23→S24→S25と変化させる。S21→S22の移動ではロープ吊り上げ動作、S22→S23の移動ではブーム伸縮、旋回、起伏動作、S23→S24の移動はブーム旋回、伸縮、S24→S25ではロープ吊り下げ動作となる。また、ブーム長は(O30〜S1)→(O30〜S2)→(O30〜S3)となる。搬入品8の基準線分はLn→Ln2→Ln3→Ln4→Ln1のごとく刻々と移動する。その場合、Ln、Ln2、Ln3、Ln4、Ln1は、3次元画像ではX軸に平行で長さの等しい既知寸法であるが、搬入品8は初期値として設定した座標状態から刻々と変化するので、設定した基準線分の取得画像上で抽出する必要がある。その一般的な抽出方法としては、たとえば、カラー画像を収得し、フィルタにより濃淡画像に変換し、濃淡画像から濃度値のu軸、v軸方向の1次微分(または、2次微分)によってエッジを強調させる方法、勾配ベクトルを用いて勾配ベクトルの大きさおよび方向の各値を抽出する方法、ハフ(Hough)変換により線分長さLnを抽出する方法、ならびに、パターンマッチング法などが利用される。これにより、線分長さLnが2値線分化されて抽出される。
【0126】
これらの線分抽出処理においては、前述した図14(a)および図14(b)等の画像を周囲画像と比較して濃淡の明確な色を利用して描いた紙14B,14C等を搬入品8に貼り付けるとかすることにより、刻々の基準線分Ln*の抽出を容易にすることができる。この基準線分の抽出方法により既述の計算方法により搬入品8の刻々の3次元現在位置を計算することが出来る。
ここで利用される抽出方法については、公知の既刊参考書、例えば画像処理工学基礎編(谷口慶冶編、共立出版、2001年)に記載された画像処理を適用することができるうえ、この発明に直接関連しないので、詳述を省略する。
【0127】
図40に示した搬入品8および移動クレーン12のブーム11,11A,11Bの変化の斜視図の上面図を図41および図42に示す。図40と図41の正面図は基本的に同じものであるが、図41は搬入品8を置く搬入バルコニー(O10,M1,M2,M3)のオフセットの設定値を、Y軸をLy4とし、Z軸をLz4としたものである。その時、搬入位置は原点O10からY軸をLy4およびZ軸をLz4の位置である。つまり、搬入品8の現在値を計算する場合、搬入品基準線分Ln*の位置OnをS2点ではY軸はLy4、Z軸はLc+Lz4だけずらした位置を目標値とし、S3点ではY軸はLy4、Z軸Lz4の位置を目標値として、搬入品8の中心位置S1をS1→S2→S3の如く移動させるように制御する。
【0128】
図42は搬入品8を置く搬入位置の中心を搬入バルコニー(O10,M1,M2,M3)の中心位置としたものである。その時、搬入位置基準は原点O10からY軸をLb/2、Z軸をLc/2とした位置である。つまり、搬入品8の現在値を計算する場合、搬入品基準線分Ln*の位置からd/2,w/2の位置、即ち、搬入品8のYZ面のセンターS1をS2点ではY軸はLb/2、Z軸はLc+Lc/2=3Lc/2だけ移動した位置を目標値とし、S3点ではY軸をLb/2、Z軸をLc/2の位置を目標値として、搬入品8の中心位置S1をS1→S2→S3の如く移動させるように制御するようにしたものである。
【0129】
図41ではクレーンのブーム長のYZ面への投影は11(ブーム長=BL1)→11A(ブーム長=BL2)→11B(ブーム長=BL3)の如く変化する。図42ではクレーンのブーム長のYZ面への投影は11(ブーム長=BL1)→11C(ブーム長=BL4)→11D(ブーム長=BL5)の如く変化する。なお、図41および図42では、搬入物8の1辺は搬入出建物3、或いは搬入位置に対して平行として記載してあるが、実際はS2、S3位置では平行とならない為、搬入位置の大きさは搬入品8に対して大きくする必要がある。(厳密には搬入品8のX軸中心の回転を考慮すると搬入位置の1辺は搬入品8のYZ面対角線の長さ以上にする必要がある)。
【0130】
(ブームの旋回中心とブームの下端が一致する場合)
次に、ブーム11の旋回中心とブーム11の下端が一致する場合、図41に旋回角θ、起伏角Φ、搬入品8の高さLx*を追加した斜視図を図43に示す。図43のS20位置は図21〜図24等のOnに相当する。また、S20,S21,S22はITVカメラ画像から計算により、また、クレーン旋回中心O30、搬入位置前方S23、搬入位置上部S24、搬入位置S25はITVカメラ画像、及び、初期設定により3次元座標原点O10(0,0,0)に対する3次元座標値を特定できる。そこで、これらのXYZ座標値を利用して、移動クレーン12の駆動要素であるブーム長、旋回角および起伏角に変換することができる。
図44は、図43におけるクレーン駆動要素に変換する為の計算要素のみを記載した図であり、座標原点をO30としている。この時、搬入品8のS101位置の3次元座標を(X0,Y0,Z0)(ITVカメラ画像より計算)、ロープ長をL0(クレーン取付の検出器により測定)、ブーム長BL、旋回角θ、起伏角Φとした時、
【0131】
【数32】


【0132】
となる。この式(32)を所定のサンプリング速度にて刻々と計算することによりにより、図35の搬入、搬出支援画面におけるクレーン駆動系表示57Aに、駆動要素の目標値S20〜S25を表示することができる。さらに、クレーン駆動系表示57Aに、クレーンの駆動要素の現在値(クレーン取り付けの専用検出器により検出)を表示し、駆動要素の目標値と現在値とを比較し、偏差が0になるようにクレーンの駆動系を制御したり、手動運転時の支援を行なう。
また、搬入位置前方S23(高さLX6)から搬入位置上部S24(高さLX6)への移動時、X,Y軸はそのままでZ軸目標値を刻々と
(−LC−LZ4−w/2 +△Z・t) (t:サンプリング周期)
のように(−LZ4−w/2)まで変化させるように、ブーム長BL、旋回角θを制御することにより、図41および図42に示したように搬入品8、又はブーム11の先端のS2→S3とZ軸に平行に移動させることができる。
なお、S2→S3の移動をZ軸に平行に移動させる理由は、搬入出バルコニーの幅が狭い場合に効果を奏する。即ち、搬入位置の前方位置からブーム長を変化させないとブーム先端が図41および図42のS4点に移動し、安全柵6に接触したり、搬入品8が搬入バルコニー9からはみ出したりする場合がある為である。
【0133】
(ブームの旋回中心とブームの下端の位置が異なる場合)
次に、ブーム11の旋回中心とブーム11の下端が異なる場合、図41にブーム旋回角θ、起伏角Φ、搬入品の高さLx*を追加した斜視図を図45に示す。図45のS20位置は図21〜図24等のOnに相当する。この場合も搬入位置の目標値、搬入品の現在値等も図43および図44と同様にXYZ座標値を利用して、クレーンの駆動要素であるブーム長、旋回角、起伏角に変換することができる。
図46は、図45におけるクレーン駆動要素に変換する為の計算要素のみを記載した図であり、座標原点をO30としている。但し、ブーム旋回中心とブーム下端の距離をLb1としている。この時、搬入品8のS101位置の3次元座標を(X0,Y0,Z0)(ITVカメラ画像より計算)、ロープ長をL0(クレーン取付の検出器により測定)、ブーム長BL、旋回角θ、起伏角Φとした時、
【0134】
【数33】


【0135】
となる。以下、前述の図43および図44と同じとなる。
【0136】
(ブームの旋回中心とブームの下端が一致し、ブーム先端に定寸のジグを取り付けた場合)
次に、ブーム11の旋回中心とブーム11の下端が一致し、ブーム先端に定寸J0のジグ11Cを取り付けた場合、図41にブーム旋回角θ、起伏角Φ、搬入品の高さLx*、ジグ11Cの起伏角Φjを追加した斜視図を図47および図48に示す。図47のS20位置は図21〜図24等のOnに相当する。この場合も搬入位置の目標値、搬入品の現在値等も図43,44、45、46と同様にXYZ座標値を利用して、クレーンの駆動要素であるブーム長、旋回角、起伏角に変換することができる。
図48は、図47におけるクレーン駆動要素に変換する為の計算要素のみを記載した図であり、座標原点をO30としている。但し、ブーム11の先端には定寸J0のジグ11Cがついている。この時、搬入品8のS101位置の3次元座標を(X0,Y0,Z0)(ITVカメラ画像より計算)、ロープ長をL0(クレーン取付の検出器により測定)、ブーム長BL、旋回角θ、起伏角Φとした時、
【0137】
【数34】


【0138】
となる。以下、前述の図43,44、45、46と同じとなる。
なお、J0、図43,44,45,46,47等のクレーンの型式の選択、或いはブームの起伏角、ブーム長の過重による制限、その他機構による制限等は、図16のメニュー画面における画像メニユー50から「クレーン選択、定数設定」(画面省略)を選択することにより、設定、選択することができる。
以上、搬入動作について説明したが、搬出動作は目標値の刻々の変化を搬入動作の逆とすれば良い為、その説明は省略する。
【0139】
(システムの構成の1例)
図49および図50に本発明のシステムを実現する為のハードウェアー構成の一例を示し、図51にクレーン操作箱の一例を示し、また図52に図50のハードウェアー構成の詳細図を示し、図53に制御対象である移動クレーンの制御対象である駆動系の概要を示す。
【0140】
図49において、ITVカメラ4は三脚103に取り付けられて搬入出品の搬入出状況を撮影するように設置されている。このITVカメラ4は信号ケーブル101を介してカメラ制御パソコン102に接続され、クレーン操作箱106およびマウス108が制御ケーブル104,107を介してカメラ制御パソコン102に接続されている。また、通信パソコン102Aがクレーンの運転席114に設置されている。マウス108Aおよびクレーン駆動部110が制御ケーブル107F,112により通信パソコン102Aに接続されている。
そして、ITVカメラ4で撮像された画像は信号ケーブル101を介してカメラ制御パソコン102に取り込まれる。そして、カメラ制御パソコン102にて、各種設定、2次元画像から3次元画像への変換を行い、クレーン操作箱106にて、自動、手動運転操作を行う。そして、得られたクレーン駆動部110の各駆動軸の指令値が、カメラ制御パソコン102から通信制御部105,105Aを介して無線にて通信パソコン102Aに送られる。さらに、クレーン駆動部110の各駆動軸の指令値は、制御ケーブル112を介してクレーン駆動部110に伝送され、移動クレーン12が制御される。
【0141】
また、図50は他のハードウェアー構成の一例を示している。このシステムでは、図49に示したクレーン操作箱106をクレーン運転室114、或いはクレーン近傍に取り付け、ITVカメラ4の近傍に取り付けられたカメラ通信パソコン102Bから取得した画像を無線、或いは光ケーブル等にてクレーン制御バソコン102Cへ伝送する。この時、伝送時間を短縮する為に、所定時間毎に所得する画像の前回取得画像データと今回取得画像データの差分を伝送する。伝送されたデータにより、クレーン制御パソコン102Cで各種設定、2次元画像から3次元画像への変換を行い、クレーン操作箱106にて自動、手動運転操作を行い、クレーン駆動部110の各駆動軸の指令値を制御ケーブル112,113を介してクレーン駆動部110に伝送して移動クレーンを制御する。
【0142】
クレーン操作箱106は、図51に示されるように、自動/手動切換スイッチ123を手動に切り換えることにより、クレーンのブーム旋回115、ブーム伸縮116、ブーム起伏117、巻上げ118の各レバーにより駆動することが出来る。また、自動/手動切換スイッチ123を自動に切り換え、自動起動スイッチ120を押すことにより、取得した2次元画像から3次元画像への変換、クレーン駆動部110の各駆動軸の指令値をクレーン駆動部110に伝送して移動クレーンを制御する。また、移動クレーン12の駆動を停止するための停止ボタン119や非常停止ボタン121が備えられている。さらに、異常表示122が備えられている。
【0143】
ついで、図50に示されるシステムのハードウェアー構成について図52を参照しつつ説明する。
カメラ通信パソコン102Bは、CPU128、ハードディスク129、RAM130、通信制御部105、キーボード/マウスインターフェース131、画像インターフェイス/メモリ132、モニタ制御部133を備え、これらは内部バス107Bに接続されている。そして、マウス108がケーブル107を介してキーボード/マウスインターフェース131に接続され、キーボード135がケーブル107Aを介してキーボード/マウスインターフェース131に接続されている。また、モニタ134が制御ケーブル107Cを介してモニタ制御部133に接続されている。さらに、搬入出画像140を撮像するITVカメラ4が、通信ケーブル107Eを介して画像信号処理部139に接続され、画像信号処理部139がケーブル107Dを介して画像インターフェイス/メモリ132に接続されている。
【0144】
クレーン制御パソコン102Cは、CPU128A、ハードディスク129A、RAM130A、通信制御部105A、キーボード/マウスインターフェース131A、モニタ制御部133A、操作スイッチインターフェイス136、駆動部インターフェイス138を備え、これらは内部バス107Jに接続されている。そして、マウス108Aがケーブル107Fを介してキーボード/マウスインターフェース131Aに接続され、キーボード135Aがケーブル107Kを介してキーボード/マウスインターフェース131Aに接続されている。また、モニタ134Aが制御ケーブル107Lを介してモニタ制御部133Aに接続されている。さらに、操作スイッチインターフェイス136が、通信ケーブル104を介してクレーン操作箱106に接続されている。また、駆動部インターフェイス138が、制御ケーブル112を介してクレーン駆動部110に接続されている。
【0145】
ここで、ITVカメラ4が撮像手段に相当し、CPU128,128Aが演算処理手段に相当し、ハードディスク129,129AおよびRAM130,130Aが記憶手段に相当し、モニタ134,134Aが表示装置に相当する。
そして、各種の演算処理プロフラムが図示しないROMやハードディスク129,129AおよびRAM130,130Aの記憶手段に格納されており、演算処理プログラムに用いられる各種データが上述の記憶手段に格納されている。
そして、CPU128,128Aはマウス108により選択された指令に基づいて、記憶手段に格納されているデータを読み出し、所望の演算処理プログラムを実行する。この演算処理プログラムの実行により得られたデータは、記憶手段に格納される。
【0146】
駆動部110は、図53に示したクレーンの駆動系の巻上げ油圧モータ142を制御する巻き上げ駆動制御部124、ブーム旋回油圧モータ143を制御するブーム旋回駆動制御部125、ブーム起伏油圧シリンダー144を制御するブーム起伏駆動制御部126、ブーム伸縮油圧シリンダー145を制御するブーム伸縮駆動制御部127から構成されている。これらの制御要素の一例は、図44および図46におけるL0,θ,Φ,BLに相当する。図53中、発電機141は油圧モータ142,143および油圧シリンダー144,145へ油圧を供給する油圧モータを駆動する。また、図53には詳細は記載していないが、各駆動部の機構には駆動要素L0,θ,Φ,BLを検出するエンコーダ等の検出器が組み込まれている。また図には記載していないが、巻上げ油圧モータ142の近傍には荷過重等を検出するロードメータ等が取り付けられている。これらの検出器の値は各駆動制御部にて、指令値と突き合わされ、その偏差を0にするように各駆動要素が制御される。
【0147】
(フローチャートの構成図)
つぎに、図50、図52および図53に示した実施の形態5のシステム構成に適用する本発明を実現する為のフローチャートについて説明する。
まず、図54は図16のメニュー画面のフローチャートの一例である。そして、マウス108により画面上の画像メニュー50からメニューを選択(ステップ202〜210)することにより、各メニューの設定画面(ステップ211〜219)に切り替わり、各々の設定(ステップ220〜226)を実行する。
ついで、図55は、カメラ画像から、XYZの三次元座標系へ変換する変換行列Pを求め、所定のメモリー、例えばハードディスク129やRAM130に記憶する為のフローチャートである。ここで、変換行列Pを求める計算原理は上記実施の形態1に詳細に述べられている方法に基づく(ステップ228〜230,230A,231〜238)。なお、このフローチャートは3次元座標基準設定時、例えばシステム起動時に一度実行するのみで良い。
【0148】
そして、図56は、画面から設定された搬入位置を抽出し、もとめられた変換行列Pにより搬入位置(Lx1,Ly1,Lz1)の3次元座標を求める為のフローチャート(ステップ239〜253)である。もし、搬入位置が画面上にみつからない場合は計測範囲外異常(ステップ251)となり、異常表示(図省略)を点燈させるとともに異常ブザー(図省略)で鳴動させる(ステップ252)。なお、このフローチャートは目標値設定時、例えばシステム起動時に一度実行するのみで良い。
そして、図57は、画面から設定された搬出位置を抽出し、求められた変換行列Pにより搬出位置(Lx2,Ly2,Lz2)の3次元座標を求める為のフローチャート(ステップ255〜269)である。もし、搬入位置が画面上にみつからない場合は計測範囲外異常(ステップ267)となり、異常表示(図省略)を点燈させるとともに異常ブザー(図省略)で鳴動させる(ステップ268)。なお、このフローチャートは目標値設定時、例えばシステム起動時に一度実行するのみで良い。
【0149】
そして、図58は、画面から設定された搬入、搬出品現在値を抽出し、求められた変換行列Pにより搬出位置(Lxn,Lyn,Lzn)の3次元座標を求める為のフローチャート(ステップ270〜282)である。もし、搬入位置が画面上にみつからない場合は計測範囲外異常(ステップ280)となり、異常表示(図省略)を点燈させるとともに異常ブザー(図省略)で鳴動させる(ステップ281)。なお、このフローチャートは通常、移動時には所定の高速サンプリング周期(一般に数ms)毎、実行する必要がある。
そして、図59は、画面から設定されたクレーン旋回位置を抽出し、求められた変換行列Pによりクレーン旋回位置(Lx3,L31,Lz3)の3次元座標を求める為のフローチャート(ステップ283〜294)である。もし、クレーン旋回位置が画面上にみつからない場合は計測範囲外異常(ステップ251)となり、異常表示(図省略)を点燈させるとともに異常ブザー(図省略)で鳴動させる(ステップ252)。なお、このフローチャートは目標値設定時、例えばシステム起動時に一度実行するのみで良い。
【0150】
そして、図60は、画面から設定された移動禁止領域位置を抽出し、もとめられた変換行列Pにより移動禁止領域位置(Lx,Ly,Lz)の3次元座標を求める為のフローチャート(ステップ295〜304)である。もし、移動禁止領域位置が画面上にみつからない場合は「移動禁止領域は無い」とみなされる。なお、このフローチャートは目標値設定時、例えばシステム起動時に一度実行するのみで良い。
【0151】
また、図61は、搬入、搬出支援画面(XYZ表示)計算フローチャート(ステップ305〜310)である。つまり、移動目標値である搬入、或いは搬出位置と刻々と変化する搬入出品の現在位置、残り移動量を3次元座標表示にて行なう。なお、このフローチャートは通常、移動時には所定の低速サンプリング周期(一般に数十ms)毎、実行する必要がある。
また、図62は、搬入、搬出支援画面(クレーン駆動系表示)計算フローチャート(ステップ311〜317)である。つまり、移動目標値である搬入、或いは搬出位置と刻々と変化する搬入出品の現在位置、残り移動量表示を駆動要素L0,θ,Φ,BLにて行なう。なお、このフローチャートは通常、移動時には所定の低速サンプリング周期(一般に数十ms)毎、実行する必要がある。
【0152】
また、図63は、最初に搬入出品を吊り上げる為に、搬入出品上部へブームを移動させる必要がある。その時の移動自動搬入、搬出クレーン制御計算(搬入出品上部へのブーム移動)フローチャート(ステップ318〜331)である。移動目標値である搬入、或いは搬出位置の駆動要素値L0,θ,Φ,BLと現在の駆動要素値L0,θ,Φ,BLとを比較し、その偏差が0となるように、刻々と変化する駆動要素L0,θ,Φ,BLを制御する。なお、このフローチャート中、ステップ324〜328,330は通常、移動時には所定の高速サンプリング周期(一般に数ms)毎、実行する必要がある。その他は目標値設定時、例えばシステム起動時に一度実行するのみで良い。
【0153】
また、図64および図65は、搬入出品を吊り上げて搬入位置へ移動させるクレーン搬入制御計算のフローチャート(ステップ332〜358、332A、340A,340B)である。まず、搬入品を巻き上げ(ステップ338〜340)、最初の目標値を搬入位置前方のS25として計算する。そして、S25近傍に駆動要素L0,θ,Φ,BLを制御する(ステップ342〜347)。そして、目標値S25近傍に位置決め完了後、目標値を搬入位置上部S24とし、駆動要素θ,BLを制御する(ステップ348〜354)。そして、搬入位置上部S24位置決め後、所定の搬入位置S25までロープを吊り下げ、搬入品を所定の搬入位置S25まで吊り下げる(ステップ355〜357)。
【0154】
また、図66および図67は、搬入出品を吊り上げて搬出位置へ移動させるクレーン搬入制御計算のフローチャート(ステップ359〜385、359A、367A、367B)である。まず、搬入品を巻き上げ(ステップ364〜367)、最初の目標値を搬入位置前方のS23として計算する。そして、S23近傍に駆動要素,θ,BLを制御する(ステップ369〜373)。そして、目標値S23近傍に位置決め完了後、目標値を搬出位置上部S22とし、駆動要素θ,Φ,BLを制御する(ステップ374〜380)。そして、搬入位置上部S22位置決め後、所定の搬入位置S25までロープを吊り下げ、搬入品を所定の搬入位置S20まで巻き下げる(L0)(ステップ381〜385)。
【0155】
また、図52のカメラ通信PC102Bのフローチャートは割愛したが、カメラ通信パソコン(PC)102Bは所定のサンプリング周期毎ITVカメラ4の画像を取得し、移動クレーン12が動作中は数msの高速サンプリングが必要な為、前回のサンプリング時のデータとつき合わせ、変化した分のデータを抽出し、通信制御部(アンテナ込み)105,105Aを経由して、クレーン制御パソコン(PC)102Cに伝送する。また、移動クレーン12が停止時はデータの累積誤差を低減する為に所定時間毎、全画像データを通信制御部(アンテナ込み)105,105Aを経由して、クレーン制御パソコン(PC)102Cに伝送する。
【0156】
実施の形態6.
ロープ10の捩れ、風等により制御盤(搬入出品)8が吊リロープ10を軸として、即ちX軸の回転がある場合、或いは、通常の搬入動作においても図41に示したようにブーム旋回により搬入位置に移動する為、搬入位置では搬入品のY、或いはZ軸が2階バルコニー9のY,Z軸に平行とならない(図39〜図42では厳密に明示せず)。このように制御盤8が吊り上げ後ロープ10等の捩れ等により回転すると、搬入位置19A,19Bが狭い場合、或いは図29の2階搬入出口5Aが狭かったりした場合、はみだしたり、搬入口に当たったりする可能性がある。このような場合に本発明を適用する一例を図68に示す。
【0157】
図68では移動クレーン12のフック13に吊り下げられたロープ10に平行駆動バー24を取り付け、それを通して制御盤(搬入出品)8を吊り上げる。平行駆動バー24の両端には大気を反力とするプロペラファン25,25A、或いは圧縮空気等を入れたエアーボンベ等(図示せず)が取り付けられている。その他は、他の実施の形態と全く同じである。従って、本システムでは詳細は割愛するが、基準直方体21により3次元座標基準を求め、制御盤8の一辺(Lnz=w)14Aの両端の三次元座標を刻々と計算し、制御盤8の一辺(Lnz=w)14AがY軸、或いはZ軸との角度偏差を求め、平行になる(偏差が0になる)ようにプロペラファン25,25Aを正転、逆転させる。プロペラファン25,25Aの代わりに圧縮空気等を入れた左右のエアーボンベ等の場合は、左右のエアータンクのエアーを噴出したり、停止したりしながら制御する。これらのプロペラファン25,25Aの駆動モータ、或いはエアータンクのサーボ弁の開閉の電源は一般にロープ10、ブーム11等に沿わせクレーン側から給電される(図省略)。このような構成にすることにより本発明は更に高精度の制御が可能となる。
【0158】
この実施の形態6によれば、移動クレーン12のフック13に吊り下げられたロープ10に平行駆動バー24を取り付け、平行駆動バー24の両端には大気を反力とするプロペラファン25,25Aを取り付けている。そこで、例えば、制御盤8がロープ10の捻れや風によりロープ10を軸として回転して、制御盤8のY軸やZ軸が2階バルコニー9のY軸やZ軸に平行とならなくなっても、プロペラファン25,25Aを作動させて制御盤8のY軸やZ軸を2階バルコニー9のY軸やZ軸に平行に制御でき、制御盤8を搬入口に当たることなく2階バルコニー9に搬入できる。
また、この方式では制御盤(搬入出品)の空中での現在値を刻々と検出しているので、これらの現在位置から移動クレーン12の駆動要素値L0,θ,Φ,BLの現在値を計算により求めることができる。このようにして、クレーン側の機構に取り付けてある駆動系の検出器ロープ長L0,旋回角θ,起伏角Φ,ブーム長BLの現在値検出器を省略したシステムの構築も本実施の形態のみならず、実施の形態5にても可能となる。
【0159】
実施の形態7.
また、上記の図63,64,65,66,67におけるフローチャートでは、移動クレーン12の駆動要素L0,θ,Φ,BLと現在の駆動要素値L0,θ,Φ,BLを比較し、その偏差を求める計算をクレーン制御パソコン(PC)102Cにて実行するシステム構成について説明してあるが、この偏差の計算をクレーン駆動部110にて実行し、クレーン制御パソコン102Cからクレーン駆動部110へはL0,θ,Φ,BLの指令値のみを出力するシステム構成にすれば、前述の高速サンプリングは不必要となりクレーン制御パソコン(PC)102Cの負荷を低減させることが出来る。この方式ではITVカメラ4を単なる、デジタルカメラを利用して、駆動前に1度撮像した画像にて、移動クレーン12の旋回中心と搬入出位置(目標値)の座標から移動クレーン12の駆動要素L0,θ,Φ,BLの目標値を計算し、クレーン駆動部へ指令を与えるのみでも制御は可能である。
【0160】
なお、上記各実施の形態では、既知寸法の直交3軸を持つ基準構造物と1台のITVカメラでシステムを構成しているが、それらを利用しない、例えば、谷口慶冶編、画像処理工学基礎編(共立出版、2001年)のP181〜182に記載されている両眼ステレオ法によってもシステムの構成は可能である。この場合は、既知間隔、既知角度で取り付けられた2台のITVカメラで構成し、その2組のカメラ画像をパソコンで取得し、パソコンにより、2組の画像中の搬入出位置、搬入出品、クレーンの旋回平面、旋回中心等の同一物を指定することにより可能となる。
【0161】
また、基準構造物、搬入制御盤等は直方体、或いは立方体等であるので、初期画像から、人間が設定しなくてもコンピュータ内部に記憶されている直方体モデル等のパターンマッチング技術、画像から直線線分抽出技術等を用いることも可能である。また、制御盤等に貼られた図14(a),(b)に示される画像抽出もこれらの技術により可能である。
また、本発明の説明では、ITVカメラ、或いはビデオカメラにて画像を取得して行なうように説明してあるが、レーザスキャナー等による画像取得方式でも構成可能である。
【0162】
また、以上の説明では、画像の取得をITVカメラ或いはビデオカメラ等を利用し、刻々と搬入出品の三次元位置を計算を行いながら行う制御方式で説明してきた。
しかし、起動時、デジタルカメラにより取得した1枚の画像を利用し、前述した手法により搬入出品、搬入出位置、移動禁止領域、移動クレーンの旋回中心位置、その他の各種クレーンの機械定数を設定、観測することにより、移動クレーンの駆動要素であるブーム旋回角度、ブーム起伏角度、ブーム伸長長さ、ロープ長等の初期値と目標値は一意に決定することができるので、搬入出品の現在位置をITVカメラ、ビデオカメラ等により刻々と観測、計算しなくても制御は可能となる。この場合は、搬入出品の吊り上げ移動時のロープ、風等による回転、揺れ、或いは各駆動要素の検出機の誤動作ミスによる移動禁止領域への侵入は観測、制御できないが、図52のカメラ通信PC(パソコン)102B、クレーン制御PC(パソコン)102Cの演算速度の性能を下げることが可能となる。
【0163】
また、図49および図50ではクレーン操作箱106は制御ケーブル104にてパソコン102,102Cと接続されているが、クレーン操作箱106に通信制御部105を内蔵するシステム(図示せず)を構築すれば、例えば2階バルコニー9からも操作は可能となる。
また、工場内の専用走行クレーン等で利用されているように、搬入出品の上部に専用の吊り上げ金具(図示せず)を付け、クレーンのフック部に専用のチャッキング装置(図示せず)をつければ、玉掛け作業等も不要となり、制御盤等の搬入出作業を1人で行うことも可能となる。
【0164】
この発明によれば、建物近傍の固定位置に設置された基準直方体(基準立方体)、或いは基準直方体(基準立方体)として設定した建物構造物の一部、基準線分が画像処理により抽出しやすい形状をした搬入出品そのもの、或いは搬入出品に取り付けられた基準正方形(基準長方形)または基準直線画像とを同時にITVカメラで撮像し、ITVカメラの画像を演算処理することのみにより、移動クレーンにより吊り上げられた搬入出品の現在値と指定された搬入出位置のXYZ軸の三次元の偏差を容易に計測することができる。
このとき、カメラの設置精度も全く要求されないので、設置作業などが簡単であり、どんな場所であっても容易に設置することができ、移動クレーンを利用した低価格な機器の自動搬入システムを構成することができる。また、この発明によれば、搬入出品が制御盤のような直方体の場合は制御盤が風等により揺れてもカメラ画像から演算により制御盤の現在値を特定することも可能である。
また、この発明によれば、取得画像上で搬入出位置、搬入出品を設定することにより移動クレーンの駆動要素であるブーム長、ブーム旋回角、ブーム起伏角、ロープ巻上げ、下げ長の制御も可能となる。従って、移動クレーンの運転支援或いは自動運転も可能となり、機器の搬入出作業に必要な作業員の数も削減が可能となる。
【産業上の利用可能性】
【0165】
この発明は、制御盤や各種機械装置等の機器を建物内の電気室、或いは機械室等に据え付ける為に移動クレーン(トラッククレーン、ラフタークレーン等)により搬入したり、或いはリプレースの為に建物内の電気室、或いは機械室等から撤去し、搬出する場合、建物の近傍にITVカメラ或いはビデオカメラ等を設置し、基準寸法とともに収得されたカメラ画像(デジタル画像)に対して、画像処理技術を応用した演算処理を施すことにより、搬入出時、機器の搬入出作業に利用する移動クレーンの運転支援、自動運転システムとして利用される。また、本発明のシステムは機器の搬入出システムのみでなく例えば、自動車道路脇等に設置されている道路監視用カメラポール、或いは堤防に設置されている河川監視用カメラポール等の設置工事支援として、監視用カメラポールを移動クレーンにより吊り上げ、所定の基礎の上部に位置決めし、ポールを基礎にボルト締めにより取り付ける場合等にも利用可能である。
【図面の簡単な説明】
【0166】
【図1】この発明の実施の形態1に係る機器搬入出システムの一適用例を示す斜視図である。
【図2】この発明の実施の形態1に係る機器搬入出システムの他の適用例を示す斜視図である。
【図3】図2における搬出作業をITVカメラにより異なる角度から撮像する様子を示す斜視図である。
【図4】この発明の実施の形態1に係る機器搬入出システムにおける直交3軸の座標基準および搬入出品の基準寸法の取り方を一例を説明する図である。
【図5】この発明の実施の形態1に係る機器搬入出システムにおける直交3軸の座標基準および搬入出品の基準寸法の取り方を他の例を説明する図である。
【図6】この発明の実施の形態1に係る機器搬入出システムにおける直交3軸の座標基準および搬入出品の基準寸法の取り方をさらに他の例を説明する図である。
【図7】この発明の機器搬入出システムにおける座標変換原理をカメラ撮像座標とともに示す説明図であり、基準直方体の2次元画像から3次元座標への変換原理を示している。
【図8】この発明の機器搬入出システムにおける座標変換原理をカメラ撮像座標とともに示す説明図であり、搬入出位置或いは搬入、搬出品のX軸と平行な既知の基準寸法を含む画像(2次元座標)から実際の3次元座標への変換時の各座標位置を示している。
【図9】この発明の実施の形態2に係る機器搬入出システムにおける3次元座標を決定する基準寸法を建物の2階バルコニーとし、制御盤のYZ面に並行な既知の1辺を搬入物の基準寸法とした時の説明図である。
【図10】この発明の実施の形態2に係る機器搬入出システムにおける3次元座標を決定する基準寸法を地上に置かれた基準直方体とし、制御盤の高さ方向を搬出品の基準寸法とし、搬出位置を特定するために基準寸法をYZ面に平行な時面に置いた時の説明図である。
【図11】この発明の実施の形態2に係る機器搬入出システムにおける座標変換原理をカメラ撮像座標とともに示す説明図であり、搬入搬出位置或いは搬入、搬出品のY軸、Z軸とも平行でないYZ面と平行な既知の基準寸法を含む画像の場合の3次元座標を示している。
【図12】この発明の実施の形態3に係る機器搬入出システムにおける3次元座標を決定する基準寸法を建物の2階バルコニーとし、XYZ軸に並行でない制御盤の既知の2辺を搬入品の基準寸法とした時の説明図である。
【図13】この発明の実施の形態3に係る機器搬入出システムにおける座標変換原理をカメラ撮像座標とともに示す説明図であり、搬入搬出位置或いは搬入、搬入品のXYZ軸とも平行でない場合の既知の直交2軸基準寸法を画像の場合の3次元座標を示している。
【図14】この発明の実施の形態3に係る機器搬入出システムにおける搬入出品の基準寸法となる辺、エッジが指示し難い時に利用する基準寸法並びに搬入出位置を指示するための画像を説明する図である。
【図15】この発明の実施の形態4に係る機器搬入出システムにおける座標変換原をカメラ撮像画像(u,v)とともに示す図であり、基準構造物の直交3軸と消失点の関係を示している。
【図16】この発明の実施の形態5に係る機器搬入出システムにおけるPC画面のメニュー画面である。
【図17】この発明の実施の形態5に係る機器搬入出システムにおけるPC画面のXYZ座標系設定画面である。
【図18】この発明の実施の形態5に係る機器搬入出システムにおけるPC画面の搬入位置設定画面である。
【図19】この発明の実施の形態5に係る機器搬入出システムにおけるPC画面の搬出位置設定画面である。
【図20】この発明の実施の形態5に係る機器搬入出システムにおけるPC画面の搬入搬出品設定画面である。
【図21】この発明の実施の形態5に係る機器搬入出システムにおける搬入品と設定した搬入位置と実際の搬入位置と三次元画像原点との距離関係を示した図である。
【図22】図21の線分要素のみを記載した詳細図である。
【図23】この発明の実施の形態5に係る機器搬入出システムにおける座標系基準の直方体を地上に設置した場合の搬入位置原点、搬入品基準、2階バルコニーのY軸およびZ軸オフセット値の関係を示した図である。
【図24】図22の線分要素のみを記載した詳細図である。
【図25】この発明の実施の形態5に係る機器搬入出システムにおけるPC画面の移動禁止領域面設定画面である。
【図26】この発明の実施の形態5に係る機器搬入出システムにおける搬入搬出品の移動禁止領域面を記載した斜視図である。
【図27】この発明の実施の形態5に係る機器搬入出システムにおける搬入搬出品の移動禁止領域面を記載した斜視図である。
【図28】この発明の実施の形態5に係る機器搬入出システムにおけるウェートバランサーを用いて搬入作業を行っている状態を示す斜視図である。
【図29】この発明の実施の形態5に係る機器搬入出システムにおけるウェートバランサーを用いて搬入作業を行っている状態を示す斜視図である。
【図30】図28における三次元画像原点を持つ基準直方体と搬入品の位置、搬入位置の距離関係を示す斜視図である。
【図31】図28におけるオフセットを考慮した基準直方体と搬入品の位置、搬入位置の3次元座標寸法の関係を示す斜視図である。
【図32】図31に移動禁止領域を追加した図である。
【図33】この発明の実施の形態5に係る機器搬入出システムにおけるPC画面の搬入搬出支援画面(XYZ表示)である。
【図34】この発明の実施の形態5に係る機器搬入出システムにおけるPC画面のクレーン旋回位置設定画面である。
【図35】この発明の実施の形態5に係る機器搬入出システムにおけるPC画面の搬入搬出支援画面(クレーン駆動系表示)である。
【図36】この発明の実施の形態5に係る機器搬入出システムにおける搬入位置、搬入物、クレーンの旋回面、旋回中心の三次元座標関係を示した斜視図である。
【図37】図36の要素線分のみ記載した詳細図であり、旋回ブームの下端が旋回中心である場合を示している。
【図38】図36の要素線分のみ記載した詳細図であり、旋回ブームの下端が旋回中心からLb1離れている場合を示している。
【図39】この発明の実施の形態5に係る機器搬入出システムにおけるクレーンのブームにより搬入品を持ち上げ、旋回し、搬入位置の手前まで移動した後、徐行速度にて正規の2階バルコニーの上部の搬入位置まで移動させている状態を示す模式図である。
【図40】図39の搬入品を2階バルコニー上の搬入位置まで移動させる際のブームの移動状態を示す模式図である。
【図41】図40の上面図であり、2階バルコニー上の搬入位置Ly4を設定した場合のYZ面の要素線分の詳細図である。
【図42】図40の上面図であり、2階バルコニー上の搬入位置中心を搬入品中心に設定した場合のYZ面の要素線分の詳細図である。
【図43】図36、40、41の搬入位置と搬入品、クレーン位置の三次元座標上のブーム下端が旋回中心と一致する場合の寸法、旋回角、ブーム長等の斜視図である。
【図44】図43の場合のBL,L0,Φ,θを3次元座標系で計算する為の図である。
【図45】図43の搬入位置と搬入品、クレーン位置の三次元座標上のブーム下端が旋回中心と異なる場合の寸法、旋回角、ブーム長等の斜視図である。
【図46】図45の場合のBL,L0,Φ,θを3次元座標系で計算する為の図である。
【図47】クレーンのブーム上部にジグが取り付けられている場合の搬入位置と搬入品、クレーン位置の三次元上の寸法、旋回角、ブーム長等の斜視図である。
【図48】図47の場合のBL,L0,Φ,θを3次元座標系で計算する為の図である。
【図49】この発明の実施の形態5に係る機器搬入出システムの一例を示すシステム構成図である。
【図50】この発明の実施の形態5に係る機器搬入出システムの他の例を示すシステム構成図である。
【図51】この発明の実施の形態5に係る機器搬入出システムにおけるクレーンの操作盤の構成を説明する図である。
【図52】図51に示される機器搬入出システムのシステム構成図の詳細図である。
【図53】この発明の実施の形態5に係る機器搬入出システムにおける移動クレーンの駆動部を示す構成図である。
【図54】この発明の実施の形態5に係る機器搬入出システムにおけるメニュー画面からの分岐フローチャートの一例を示す図である。
【図55】この発明の実施の形態5に係る機器搬入出システムにおけるITVカメラにて取得したニ次元画像から基準直方体を利用してXYZ三次元画像座標系への変換行列のフローチャートの一例を示す図である。
【図56】この発明の実施の形態5に係る機器搬入出システムにおける三次元画像座標系にて搬入位置を計算するフローチャートの一例を示す図である。
【図57】この発明の実施の形態5に係る機器搬入出システムにおける三次元画像座標系にて搬出位置を計算するフローチャートの一例を示す図である。
【図58】この発明の実施の形態5に係る機器搬入出システムにおける三次元画像座標系にて、搬入出品の現在位置を計算するフローチャートの一例を示す図である。
【図59】この発明の実施の形態5に係る機器搬入出システムにおける三次元画像座標系にてクレーン旋回位置を計算するフローチャートの一例を示す図である。
【図60】この発明の実施の形態5に係る機器搬入出システムにおける三次元画像座標系にて移動禁止領域位置を計算するフローチャートの一例を示す図である
【図61】この発明の実施の形態5に係る機器搬入出システムにおけるXYZ軸表示による搬入、搬出支援画面用フローチャートの一例を示す図である。
【図62】この発明の実施の形態5に係る機器搬入出システムにおけるブーム長や旋回角度等クレーン駆動系表示による搬入、搬出支援画面用フローチャートの一例を示す図である。
【図63】この発明の実施の形態5に係る機器搬入出システムにおける搬入出品を吊り上げる為、搬入品、搬出品の上部へクレーンのブームを移動する場合のフローチャートの一例を示す図である。
【図64】この発明の実施の形態5に係る機器搬入出システムにおける搬入の場合のクレーン自動制御フローチャートの一例を示す図である。
【図65】この発明の実施の形態5に係る機器搬入出システムにおける搬入の場合のクレーン自動制御フローチャートの一例を示す図である。
【図66】この発明の実施の形態5に係る機器搬入出システムにおける搬出の場合のクレーン自動制御フローチャートの一例を示す図である。
【図67】この発明の実施の形態5に係る機器搬入出システムにおける搬出の場合のクレーン自動制御フローチャートの一例を示す図である。
【図68】この発明の実施の形態6に係る機器搬入出システムにおけるプロペラファンを取り付けた水平ビームを用いて搬入する動作を示す斜視図である。
【符号の説明】
【0167】
4 ITVカメラ(撮像手段)、8 制御盤(搬入出品)、11 ブーム、12 移動クレーン、21 基準直方体(基準構造物)、22 ウェートバランサー、25,25A プロペラファン、108 マウス、128,128A CPU(演算処理手段)、129,129A ハードディスク(記憶手段)、130,130A RAM(記憶手段)、134,134A モニタ(表示装置)。
【出願人】 【識別番号】000006013
【氏名又は名称】三菱電機株式会社
【出願日】 平成17年7月7日(2005.7.7)
【代理人】 【識別番号】100057874
【弁理士】
【氏名又は名称】曾我 道照

【識別番号】100110423
【弁理士】
【氏名又は名称】曾我 道治

【識別番号】100084010
【弁理士】
【氏名又は名称】古川 秀利

【識別番号】100094695
【弁理士】
【氏名又は名称】鈴木 憲七

【識別番号】100111648
【弁理士】
【氏名又は名称】梶並 順


【公開番号】 特開2007−15814(P2007−15814A)
【公開日】 平成19年1月25日(2007.1.25)
【出願番号】 特願2005−198685(P2005−198685)