拡張現実の最近のブログ記事
パブリックドメインソースを公開したので、次にプログラムをまとめたものを公開します。
FingerDetect1.0.zip
-- < プログラムの使い方 > ---
０．Webカメラが２つあることが最低条件です。
ちなみに僕のは"Qcam Pro for Notebooks"。他のカメラでは試していないので、動くかどうかはわからないです。
あと、２つのカメラの設定を同じにしてください。
１．２つのカメラの向きを平行にして、まっすぐに並べる。
２．緑色のキャップのようなもの（作者は風船を使用）を用意し、それを親指に付けます。
３．TwoViewに関する説明(http://render.s73.xrea.com/pipe_render/2008/05/artoolkittwoview.html)を読み、"WDM_camera_flipV_01.xml"、"WDM_camera_flipV_02.xml"を作成し、Dataフォルダに入れる。
４．マーカーと手を表示し、マーカーと指の距離が表示されることを確認します。
５．親指と人差し指を近づけて、カーソルがクリック状態になるかどうか（２つの指の間の線が赤くなる）を確認します。
６．マーカー上の立方体に指近づけて、クリック状態にします。
７．クリック状態で指を移動すると、立方体も移動します。
８．立方体の移動中にクリックを解除すると、立方体の移動が止まります。
--- < ソースの概要 > ---
今回のプログラムでは、いくつかのクラスを追加しました。
・CHandContourクラス：手の輪郭線を扱います。指の認識などを行えます。
・CPointActionクラス：複数の点を用いたカーソルアクションを行います。
こちらについては、近いうちにドキュメントを公開する予定です。
FingerDetect1.0.zip
-- < プログラムの使い方 > ---
０．Webカメラが２つあることが最低条件です。
ちなみに僕のは"Qcam Pro for Notebooks"。他のカメラでは試していないので、動くかどうかはわからないです。
あと、２つのカメラの設定を同じにしてください。
１．２つのカメラの向きを平行にして、まっすぐに並べる。
２．緑色のキャップのようなもの（作者は風船を使用）を用意し、それを親指に付けます。
３．TwoViewに関する説明(http://render.s73.xrea.com/pipe_render/2008/05/artoolkittwoview.html)を読み、"WDM_camera_flipV_01.xml"、"WDM_camera_flipV_02.xml"を作成し、Dataフォルダに入れる。
４．マーカーと手を表示し、マーカーと指の距離が表示されることを確認します。
５．親指と人差し指を近づけて、カーソルがクリック状態になるかどうか（２つの指の間の線が赤くなる）を確認します。
６．マーカー上の立方体に指近づけて、クリック状態にします。
７．クリック状態で指を移動すると、立方体も移動します。
８．立方体の移動中にクリックを解除すると、立方体の移動が止まります。
--- < ソースの概要 > ---
今回のプログラムでは、いくつかのクラスを追加しました。
・CHandContourクラス：手の輪郭線を扱います。指の認識などを行えます。
・CPointActionクラス：複数の点を用いたカーソルアクションを行います。
こちらについては、近いうちにドキュメントを公開する予定です。
ソースの公開ですが、まず最初に新規に作成した指認識のソースだけ公開いたします。
これは一応ライセンス上の体裁を整えるためだけの行為なので、この後にまとめたソースをちゃんと公開いたします。
というのも、このソースについてはGPLライセンスではなく、パブリックドメインになっています。
なので、この部分だけ分離し、先に公開しました。
（実際にはここまで厳密にやらなくてもいいと思いますが。
指認識部分のソース：
CHandContour1.0.zip
パブリックドメインソフトウェア（PDS）については以下のよう説明されています。
Wikipedeia:パブリックドメインソフトウェア
ここで、日本では著作人格権を放棄できないので、以下のようにしなくてはいけないと書かれています。
それから今回、コメントをdoxygenの形式に対応いたしました。近いうちにドキュメントを作成し、公開する予定です。
これは一応ライセンス上の体裁を整えるためだけの行為なので、この後にまとめたソースをちゃんと公開いたします。
というのも、このソースについてはGPLライセンスではなく、パブリックドメインになっています。
なので、この部分だけ分離し、先に公開しました。
（実際にはここまで厳密にやらなくてもいいと思いますが。
指認識部分のソース：
CHandContour1.0.zip
パブリックドメインソフトウェア（PDS）については以下のよう説明されています。
Wikipedeia:パブリックドメインソフトウェア
ここで、日本では著作人格権を放棄できないので、以下のようにしなくてはいけないと書かれています。
...「将来にわたって著作権（及び著作者人格権）を主張しないことを宣言する」などと明記することによって、事実上の PDS として扱われる...これによりこの部分のソースについては、利用者は著作権による制限なしにソフトウェアを利用することができます。GPLのような「ソース公開の義務」も発生いたしません。
それから今回、コメントをdoxygenの形式に対応いたしました。近いうちにドキュメントを作成し、公開する予定です。
指が認識できたら、これをポインティングデバイスとして利用します。
これで、普段僕らがやっている「手で掴む・離す」という作業をそのままＵＩとして利用できるので、より自然な操作が可能になるはずです。
--- < 概要 > ---
今回、「つまむ」という動作を検出するために、以下の２つが必要になりました。
・親指の判断
・指がくっついた状態でも手の領域が重ならないようにする
この問題を解決するために、親指に緑色のキャップを装着しました。
これで、指先に緑の領域がある場合は親指であると判定でき、さらに指がくっついた状態でも、キャップの緑が邪魔をして肌色領域が混ざるのを防ぐことができました。
ここで指がくっついた状態では、親指じゃない方の指が親指だと判定される現象が発生しましたが、そのときの２つの指の座標はほぼ同じになるので、あまり問題ありませんでした。
ポインティングのために行った処理を説明します。
１．指を認識する
２．親指を探す
３．親指と他の指との距離を測る
４．距離がある程度近い場合はドラッグ開始
５．ドラッグ中に距離が離れたら、ドラッグ終了
それぞれの詳細は以下の通りです。
--- < １．指を認識する > ---
指の認識は、前回の処理とほぼ同様です。
今回追加した処理では、左右のカメラで指を一致させるために、指のマッチングを行いました。
左右画像での指のマッチングは単純で、基準の位置座標を各指を元に変えながら、その他の指の距離を測定し、最も近いものを探しているだけです。
マッチングで指先だけでなく、指の付け根も比較対象に加えることで、マッチングの精度が上がりました。さらに指認識の精度も上がります。
--- < ２．親指を探す > ---
親指には緑のキャップがあるはずなので、各指先でその緑を探します。
そして、最も緑の領域が多い指を親指であるとします。
また、親指のマッチングも行います。
--- < ３．親指と他の指との距離を測る > ---
左右の画像で一致した指の座標が取得できたので、前回と同様三角測量で指の３次元座標を計算します。
全ての指の３次元座標が分かったら、親指とその他の指との距離を計算します。そして、距離が最も近い指を探します。
--- < ４．距離がある程度近い場合はドラッグ開始 > ---
近い指までの距離が分かったら、その距離がある値より小さいかどうか調べます。そして、小さいときに「つまんでいる状態」のフラグを立てます。
「つまんでいる状態」で立方体との衝突判定を行い、
衝突していたら、ドラックを開始します。
ドラッグ中は立方体が指に追従して移動します。
--- < ５．ドラッグ中に距離が離れたら、ドラッグ終了 > ---
親指と近傍の指との距離が一定値より離れた場合、
「つまんでいる状態」フラグを下げます。
ドラッグ中に「つまんでいる状態」フラグが下がったら、ドラッグを中止します。これでドロップができます。
最後のドラッグ＆ドロップは、前回の色認識ポインティングと同様です。
最近はARToolKitのプログラムも少しできてきたので、
次は手とかをそのまま認識させたいと思っていました。
そしたらちょうどmasafumiさんという方のブログで手認識を使ったARという記事を見つけました。
この方法は認識精度が高そうなので、twoViewでの物体認識にも使えそうです。
この手認識ARの研究は、手を認識することによってマーカーの代わりにしようというものです。
ソースも公開されているので、すぐにこのプログラムを使った動画がアップされています。
見ての通り、指認識の精度は非常に高いです。
というわけで今回は、この指認識のアルゴリズムだけをいただき、
この情報を元にtweVIewから指の３次元座標を計算してみました。
これで綿棒や色の付いた目印を使う必要がなくなります。
--- < 指認識の概要 > ---
指認識では、おおまかに以下のような処理を行っています。
１．手の色に近い領域を探し、輪郭線で分ける
２．距離変換画像を作成する
３．輪郭線を使ったラベリング
４．手の輪郭のカーブ具合を調べる
５．カーブ具合から指の判定
僕が感動したのは、手の輪郭線から指を判定する処理です。
--- < １．手の色に近い領域を探し、輪郭線で分ける > ---
やはり最初は手の色を判定し、それを元に２値画像を作成します。
元のプログラムではここでRGBをYCrCbという色空間に変換し、
ヒストグラムなどを使って肌色を判定していました。
ですが、僕のプログラムでは前回のHSV色空間を使用しました。
そしてさらに、この肌色の２値画像から輪郭線情報を作成します。
輪郭線はOpenCVのcvFindContoursを使用して作成します。
--- < ２．距離変換画像を作成する > ---
次に、２値化画像から距離変換画像を作成します。
距離変換とは、値のある現在の点から値のない点への最短距離を求める計算です。
この最短距離を画像に書き込むと、上の１つめの画像のようになります。
この距離変換によって、肌色に近い領域で一番大きなものが大体分かります。
今回は、「その一番大きな領域が手である」という判定をしています。
--- < ３．輪郭線を使ったラベリング > ---
この手の領域を判別するために、輪郭線を使用します。
１．まっさらな画像を用意
２．画像に対し、各輪郭ごとに内部を塗りつぶしていく
３．塗りつぶすたびに、「距離変換の値が最大となる座標」が塗り潰されたかどうか判定する。
４．もし塗りつぶされいれば、その輪郭が「求める手の領域」のものになる。
この処理によってラベリングを行わずに、最大面積の領域を判定できてしまいます。
ラベリング処理は重いものが多いので、これはとても便利です。
結果的に上の２つ目の画像のようなものができあがります。
--- < ４．手の輪郭のカーブ具合を調べる > ---
手の輪郭を取得できたので、次にこれを用いて指を判定します。
指判定には、各輪郭点の狭い範囲で内積と外積を計算します。
１．輪郭線上の全ての点を調べる
２．各点の狭い範囲で、先の輪郭点へのベクトルと、後の輪郭点へのベクトルを取得する。
３．２つのベクトルの内積を計算し、それがある程度大きければ、その点はカーブしていると判定
４．２つのベクトルの外積を計算し、そのカーブの方向を判定
５．調べる範囲を変えて、２～４の処理を繰り貸す。
６．求める値になったら、そのカーブが指に似た曲がり具合であると判断する。
この処理で、上の３つ目の画像ができあがります。
--- < ５．カーブ具合から指の判定 > ---
上記の処理で指っぽいカーブは分かりましたが、これが本当に指かどうかはまだ分かりません。
また、場合によってはその指がどの指なのかも判定が必要です。
ですが、今回のプログラムではその処理を入れていません。
ここでは最後に、前回同様ステレオでこの２次元座標を３次元に変換して終わりです。
これで上の最後の画像のようになります。
元の研究では、事前に指の理想的な位置を取得しておいて、
それと比較することで各指を認識したりしているようです。
僕のプログラムも指っぽい形状の認識の精度は高くなりましたが、
その後の指判定はまだできていません。
ソースの清書も含め、その辺が今後の課題となります。
次は手とかをそのまま認識させたいと思っていました。
そしたらちょうどmasafumiさんという方のブログで手認識を使ったARという記事を見つけました。
この方法は認識精度が高そうなので、twoViewでの物体認識にも使えそうです。
この手認識ARの研究は、手を認識することによってマーカーの代わりにしようというものです。
ソースも公開されているので、すぐにこのプログラムを使った動画がアップされています。
見ての通り、指認識の精度は非常に高いです。
というわけで今回は、この指認識のアルゴリズムだけをいただき、
この情報を元にtweVIewから指の３次元座標を計算してみました。
これで綿棒や色の付いた目印を使う必要がなくなります。
--- < 指認識の概要 > ---
指認識では、おおまかに以下のような処理を行っています。
１．手の色に近い領域を探し、輪郭線で分ける
２．距離変換画像を作成する
３．輪郭線を使ったラベリング
４．手の輪郭のカーブ具合を調べる
５．カーブ具合から指の判定
僕が感動したのは、手の輪郭線から指を判定する処理です。
--- < １．手の色に近い領域を探し、輪郭線で分ける > ---
やはり最初は手の色を判定し、それを元に２値画像を作成します。
元のプログラムではここでRGBをYCrCbという色空間に変換し、
ヒストグラムなどを使って肌色を判定していました。
ですが、僕のプログラムでは前回のHSV色空間を使用しました。
そしてさらに、この肌色の２値画像から輪郭線情報を作成します。
輪郭線はOpenCVのcvFindContoursを使用して作成します。
--- < ２．距離変換画像を作成する > ---
次に、２値化画像から距離変換画像を作成します。
距離変換とは、値のある現在の点から値のない点への最短距離を求める計算です。
この最短距離を画像に書き込むと、上の１つめの画像のようになります。
この距離変換によって、肌色に近い領域で一番大きなものが大体分かります。
今回は、「その一番大きな領域が手である」という判定をしています。
--- < ３．輪郭線を使ったラベリング > ---
この手の領域を判別するために、輪郭線を使用します。
１．まっさらな画像を用意
２．画像に対し、各輪郭ごとに内部を塗りつぶしていく
３．塗りつぶすたびに、「距離変換の値が最大となる座標」が塗り潰されたかどうか判定する。
４．もし塗りつぶされいれば、その輪郭が「求める手の領域」のものになる。
この処理によってラベリングを行わずに、最大面積の領域を判定できてしまいます。
ラベリング処理は重いものが多いので、これはとても便利です。
結果的に上の２つ目の画像のようなものができあがります。
--- < ４．手の輪郭のカーブ具合を調べる > ---
手の輪郭を取得できたので、次にこれを用いて指を判定します。
指判定には、各輪郭点の狭い範囲で内積と外積を計算します。
１．輪郭線上の全ての点を調べる
２．各点の狭い範囲で、先の輪郭点へのベクトルと、後の輪郭点へのベクトルを取得する。
３．２つのベクトルの内積を計算し、それがある程度大きければ、その点はカーブしていると判定
４．２つのベクトルの外積を計算し、そのカーブの方向を判定
５．調べる範囲を変えて、２～４の処理を繰り貸す。
６．求める値になったら、そのカーブが指に似た曲がり具合であると判断する。
この処理で、上の３つ目の画像ができあがります。
--- < ５．カーブ具合から指の判定 > ---
上記の処理で指っぽいカーブは分かりましたが、これが本当に指かどうかはまだ分かりません。
また、場合によってはその指がどの指なのかも判定が必要です。
ですが、今回のプログラムではその処理を入れていません。
ここでは最後に、前回同様ステレオでこの２次元座標を３次元に変換して終わりです。
これで上の最後の画像のようになります。
元の研究では、事前に指の理想的な位置を取得しておいて、
それと比較することで各指を認識したりしているようです。
僕のプログラムも指っぽい形状の認識の精度は高くなりましたが、
その後の指判定はまだできていません。
ソースの清書も含め、その辺が今後の課題となります。
新しいプログラムは「物体認識」とか凄そうな名前を付けましたが、
基本的にはtwoViewを使ったプログラムの延長です。
今回は、前回のプログラムの色認識を改良しました。
少しずつ純粋なARToolKitから離れてきています。
--- < HSV色空間について > ---
HSVなんて聞きなれない単語ですが、簡単に言うとRGBの親戚みたいなものです。
知っての通り、RGBは「赤・緑・青」の色を組み合わせて多くの色を表現しますが、
HSVでは代わりに「色相・彩度・明度」という属性を組み合わせることで色を作ります。
詳しくは、Wikiを参照してください。
なぜRGBじゃなくてHSVを使うのかというと、こっちの方が特定の色を見つけやすいからです。
Wikiを見てもらえば分かるように、HSVでは赤とか青とかの情報は色相を見れば大体分かります。
残りの彩度や明度は、言ってみれば明るさや暗さみたいなもので、ほとんど無視していいものです。
逆に言えば「明るい赤」も「暗い赤」も、同じ赤として認識してくれることになります。
実際には、物体の「影の部分」や「光が反射している部分」まで認識してくれる可能性がある、
ということです。
--- < 実行結果 > ---
今回は、このHSV色空間で画像を扱うために、OpenCVというフリーの画像処理ライブラリを使用しました。
また指定色の物体は綿棒ではなく、色風船の端を切って指にはめてみました。
HSV色系を用いる以外の処理は、今までと一緒です。
とりあえずはうまくいっているようです。
しかし、欠点もあります。
HSV色系はそのままだと感度が良すぎて、余計なものまで認識してしまいます。
上の画像では、閾値を狭くしたので指の先を正しく認識できていません。
そこで、閾値を広くすると下の画像のようになります。
閾値が広いと指の部分を正しく取得できますが、同時に関係ない部分まで誤認してしまっています。
このような結果にならないように、「彩度・明度」も考量しなくてはならず、
「色相」の閾値も、そのつど微調整が必要です。
またこれまで以上に、撮影環境に気を使わなくてはいけないかもしれません。
この辺は今後の課題です。
基本的にはtwoViewを使ったプログラムの延長です。
今回は、前回のプログラムの色認識を改良しました。
少しずつ純粋なARToolKitから離れてきています。
--- < HSV色空間について > ---
HSVなんて聞きなれない単語ですが、簡単に言うとRGBの親戚みたいなものです。
知っての通り、RGBは「赤・緑・青」の色を組み合わせて多くの色を表現しますが、
HSVでは代わりに「色相・彩度・明度」という属性を組み合わせることで色を作ります。
詳しくは、Wikiを参照してください。
なぜRGBじゃなくてHSVを使うのかというと、こっちの方が特定の色を見つけやすいからです。
Wikiを見てもらえば分かるように、HSVでは赤とか青とかの情報は色相を見れば大体分かります。
残りの彩度や明度は、言ってみれば明るさや暗さみたいなもので、ほとんど無視していいものです。
逆に言えば「明るい赤」も「暗い赤」も、同じ赤として認識してくれることになります。
実際には、物体の「影の部分」や「光が反射している部分」まで認識してくれる可能性がある、
ということです。
--- < 実行結果 > ---
今回は、このHSV色空間で画像を扱うために、OpenCVというフリーの画像処理ライブラリを使用しました。
また指定色の物体は綿棒ではなく、色風船の端を切って指にはめてみました。
HSV色系を用いる以外の処理は、今までと一緒です。
とりあえずはうまくいっているようです。
しかし、欠点もあります。
HSV色系はそのままだと感度が良すぎて、余計なものまで認識してしまいます。
上の画像では、閾値を狭くしたので指の先を正しく認識できていません。
そこで、閾値を広くすると下の画像のようになります。
閾値が広いと指の部分を正しく取得できますが、同時に関係ない部分まで誤認してしまっています。
このような結果にならないように、「彩度・明度」も考量しなくてはならず、
「色相」の閾値も、そのつど微調整が必要です。
またこれまで以上に、撮影環境に気を使わなくてはいけないかもしれません。
この辺は今後の課題です。
お待たせしました。
twoViewを使った、ステレオマッチングプログラムのソース公開です。
StereoAnyColor1.0.zip
--- < プログラムの使い方 > ---
０．Webカメラが２つあることが最低条件です。
ちなみに僕のは"Qcam Pro for Notebooks"。他のカメラでは試していないので、動くかどうかはわからないです。
あと、２つのカメラの設定を同じにしてください。
１．２つのカメラの向きを平行にして、まっすぐに並べる。
２．赤・黄・青など特徴的な色の物体を用意し、場所は白いテーブルの上など選んだ色が他にはないような所にする。
３．TwoViewに関する説明を読み、"WDM_camera_flipV_01.xml"、"WDM_camera_flipV_02.xml"を作成。
４．プログラムを起動して"Video Source 1"ウィンドウで、用意した特長的な色の物体を画面に表示して、それを左クリックします。
５．物体が画面に映っている状態で、Fキーを押してラベリング画像を表示。
６．Kキーを押して続けて閾値を下げ、目的の物体が一番大きくラベリングされるようにします。
７．押しすぎて全くラベリングされなくなったら、Jキーを押して閾値を上げます。
８．もう１つの物体を認識させたいときは、右クリックで画面上の物体の色を指定します。
９．２つの物体が一番大きくラベリングされるようになったらOKです、Fキーを押して元の画面に戻ります。
１０．マーカーを表示し、マーカーと２つの物体の距離が表示されることを確認します。
１１．２つの物体の距離を近づけて、カーソルがクリック状態になるかどうか（２つの物体間の線が赤くなる）を確認します。
１２．マーカー上の立方体にカーソルを重ねて、クリック状態にします。
１３．クリック状態でカーソルを移動すると、立方体も移動します。
１４．立方体の移動中にクリックを解除すると、立方体の移動が止まります。
以上です。
まだ色の識別が甘いので、上手く認識しないかもしれません。
今後の課題です。
--- < ソースの概要 > ---
今回のプログラムでは、いくつかのクラスを追加しました。
・CCamerasRelationクラス：カメラ間の関係
・CStereoAnyColorPointクラス：指定色のステレオ処理を行う
・CFindColorPosInImgクラス：画像認識を行い、指定色のスクリーン上の座標等を計算
・CCamSimpleTriangulationクラス：３角測量を行う
以上のクラスは次のように使います。
１．インスタンスの定義
２．クラスの初期化
３．画像認識の計算
４．結果の取得
--- < １．インスタンスの定義 > ---
改良したtwoView.cでは、以下のようにクラスのインスタンスを作成します。
--- < ２．クラスの初期化 > ---
次に、この変数を初期化します。
CCamerasRelationの初期化では、SetCamParamで各カメラに透視投影行列を設定します。
マーカーを認識できた時点で、もう１度別の初期化を行います
CCamerasRelationで、カメラ間の関係を計算します
--- < ３．画像認識の計算 > ---
必要な情報をセットできたら、画像処理を行います。
--- < ４．結果の取得 > ---
計算が上手くいったら、結果の３次元ベクトルを取得します
twoViewを使った、ステレオマッチングプログラムのソース公開です。
StereoAnyColor1.0.zip
--- < プログラムの使い方 > ---
０．Webカメラが２つあることが最低条件です。
ちなみに僕のは"Qcam Pro for Notebooks"。他のカメラでは試していないので、動くかどうかはわからないです。
あと、２つのカメラの設定を同じにしてください。
１．２つのカメラの向きを平行にして、まっすぐに並べる。
２．赤・黄・青など特徴的な色の物体を用意し、場所は白いテーブルの上など選んだ色が他にはないような所にする。
３．TwoViewに関する説明を読み、"WDM_camera_flipV_01.xml"、"WDM_camera_flipV_02.xml"を作成。
４．プログラムを起動して"Video Source 1"ウィンドウで、用意した特長的な色の物体を画面に表示して、それを左クリックします。
５．物体が画面に映っている状態で、Fキーを押してラベリング画像を表示。
６．Kキーを押して続けて閾値を下げ、目的の物体が一番大きくラベリングされるようにします。
７．押しすぎて全くラベリングされなくなったら、Jキーを押して閾値を上げます。
８．もう１つの物体を認識させたいときは、右クリックで画面上の物体の色を指定します。
９．２つの物体が一番大きくラベリングされるようになったらOKです、Fキーを押して元の画面に戻ります。
１０．マーカーを表示し、マーカーと２つの物体の距離が表示されることを確認します。
１１．２つの物体の距離を近づけて、カーソルがクリック状態になるかどうか（２つの物体間の線が赤くなる）を確認します。
１２．マーカー上の立方体にカーソルを重ねて、クリック状態にします。
１３．クリック状態でカーソルを移動すると、立方体も移動します。
１４．立方体の移動中にクリックを解除すると、立方体の移動が止まります。
以上です。
まだ色の識別が甘いので、上手く認識しないかもしれません。
今後の課題です。
--- < ソースの概要 > ---
今回のプログラムでは、いくつかのクラスを追加しました。
・CCamerasRelationクラス：カメラ間の関係
・CStereoAnyColorPointクラス：指定色のステレオ処理を行う
・CFindColorPosInImgクラス：画像認識を行い、指定色のスクリーン上の座標等を計算
・CCamSimpleTriangulationクラス：３角測量を行う
以上のクラスは次のように使います。
１．インスタンスの定義
２．クラスの初期化
３．画像認識の計算
４．結果の取得
--- < １．インスタンスの定義 > ---
改良したtwoView.cでは、以下のようにクラスのインスタンスを作成します。
CCamerasRelation gCamRelate(CONTEXTSACTIVECOUNT);今回はグローバル変数で定義しました。
CStereoAnyColorPoint g_stereoOperator;
--- < ２．クラスの初期化 > ---
次に、この変数を初期化します。
// グローバル変数の初期化CStereoAnyColorPointの初期化では、指定色をAddTargetColorで追加します。
static void InitGlobalValue()
{
// 画像認識の色を指定
g_stereoOperator.ClearTargetColor();
g_stereoOperator.AddTargetColor( g_cnColorRealRed );
g_stereoOperator.AddTargetColor( g_cnColorRealYellow );
// カメラの投影行列
gCamRelate.SetCamParam( 0, arParam.mat );
gCamRelate.SetCamParam( 1, arParam.mat );
}
CCamerasRelationの初期化では、SetCamParamで各カメラに透視投影行列を設定します。
マーカーを認識できた時点で、もう１度別の初期化を行います
CCamerasRelationで、カメラ間の関係を計算します
// 2つのカメラが、同じマーカーを認識できてるかどうかCStereoAnyColorPointでは、新しいカメラ画像をセット
if ( gContextsActive[0].id == gContextsActive[1].id )
{
// カメラ１の変換行列を保存
CopyArray3x4ToMatrix4x4( mtrxTemp1, gContextsActive[0].patt_trans );
CopyArray3x4ToMatrix4x4( mtrxTemp2, gContextsActive[1].patt_trans );
gCamRelate.CalcRelation(0, 1, mtrxTemp1, mtrxTemp2 );
}
g_stereoOperator.InitImgSource( arImXsize, arImYsize,
gContextsActive[0].ARTImage,
gContextsActive[1].ARTImage );
--- < ３．画像認識の計算 > ---
必要な情報をセットできたら、画像処理を行います。
g_stereoOperator.RecognitionColor3DPos(&gCamRelate);画像処理では、カメラの関係を引数として指定します。
--- < ４．結果の取得 > ---
計算が上手くいったら、結果の３次元ベクトルを取得します
for ( int iTarget = 0 ; iTarget < g_stereoOperator.GetTargetPosCount() ; iTarget++ )GetTargetPos(const int ciTarget, double dPos[3])で、指定色のベクトルを取得できます。
{
double dPos[3];
if ( !g_stereoOperator.GetTargetPos(iTarget, dPos) )
continue;
}
twoViewを使ったプログラム、４つ目はポインティングデバイスです。
これは、前回の３つのプログラムの機能を合わせて作成しています。
------- < 機能の概要 > -------
以下、プログラムの処理です。
１．最初にカメラ間の関係を表す、変換行列を計算しておく
２．次に、特徴的な色の検出を行う
３．２の結果から、その色の物体の位置を検出
４．２つの物体の位置を元に、ポインティングを行う
１～３までは、これまでのtwoViewを用いたプログラムに対応しています。
------- < ４．２つの物体の位置を元に、ポインティングを行う > -------
ポインティングは次のような手順です
１．２つの目印の距離を測る
２．距離が短いときは、クリックしていると判定
３．クリック中に、３Dモデルとの衝突判定を行う
４．衝突していたら、モデルをカーソルと一緒に移動する
５．距離が離れてクリックが解除されたら、モデルの移動も止める
------- < 参考にした作品 > -------
③にも書きましたが、色認識を用いて物体の位置を求めるアイデアは、こちらの動画からいただきました。
求めた物体の座標をポインティングデバイスとして使用するアイデアは、この動画からのものです。
お二人には、この場を借りて感謝いたします。
また、他の開発者の皆さんからも、たくさんアイデアを頂いています。
良い作品を見せていただき、ありがとうございました。
これからも、よろしくお願いします。
これは、前回の３つのプログラムの機能を合わせて作成しています。
------- < 機能の概要 > -------
以下、プログラムの処理です。
１．最初にカメラ間の関係を表す、変換行列を計算しておく
２．次に、特徴的な色の検出を行う
３．２の結果から、その色の物体の位置を検出
４．２つの物体の位置を元に、ポインティングを行う
１～３までは、これまでのtwoViewを用いたプログラムに対応しています。
------- < ４．２つの物体の位置を元に、ポインティングを行う > -------
ポインティングは次のような手順です
１．２つの目印の距離を測る
２．距離が短いときは、クリックしていると判定
３．クリック中に、３Dモデルとの衝突判定を行う
４．衝突していたら、モデルをカーソルと一緒に移動する
５．距離が離れてクリックが解除されたら、モデルの移動も止める
------- < 参考にした作品 > -------
③にも書きましたが、色認識を用いて物体の位置を求めるアイデアは、こちらの動画からいただきました。
求めた物体の座標をポインティングデバイスとして使用するアイデアは、この動画からのものです。
お二人には、この場を借りて感謝いたします。
また、他の開発者の皆さんからも、たくさんアイデアを頂いています。
良い作品を見せていただき、ありがとうございました。
これからも、よろしくお願いします。
長い時間上手くいかず悩んでいましたが、やっとそれらしい結果が出るようになりました。
前回の特徴物体の位置から、物体までの距離を求めます。
参考にしたのは、以下の動画です。
この方は、他にもARToolKitと物理演算を合わせたりと、かなり高度なことをやっています。
今回は、簡単な三角測量を用いて距離計算を行っています。
簡単なケースでは、２つのカメラの向きを平行にして、Y・Z座標の位置も同じにします。
ちなみに失敗していた理由は、VIEW_SCALEFACTORという値を考えていなかったからでした。
これは、ARToolKitの長さの単位から、OpenGLの単位へ変換するときに必要になります。
まだ誤差などがあるようなので、これから調整します。
--------- < 追記 > ---------
○08/05/29
誤差が安定してきたので、処理を大まかに説明。
前回(その②)の各カメラでの、特徴点のスクリーン座標系の位置を取得。
これを、透視投影変換の逆行列を使って、カメラ座標系の位置に変換。
また、その①で求めたカメラ間の変換行列から、カメラのX座標系での距離を取得しておく。
そこで、以下の計算を行う。
１．a = カメラ間のXの距離 / (カメラ１での特徴点のX座標 - カメラ２での特徴点のX座標)
２．カメラ１の特徴点の座標（カメラ座標系）をa倍する。
３．２の結果が、特徴点で示した物体の３次元空間上での座標（カメラ座標系）になる。
４．カメラ１で、マーカーからの変換行列の逆行列を計算しておく
５．２の結果に対し、４の逆行列をかけて、マーカー座標系での特徴物体の座標を計算する。
６．５に対し、VIEW_SCALEFACTORをかけて、OpenGLの長さの単位にする。
このようにして、出た座標を表示すると、最初のような画像になります。
画像では、[マーカー座標系の原点]から[特徴物体の真下]までの線と、そこから[特徴物体]までの線を描画しています。
○08/05/30
まだ微妙な誤差がありましたが、三角測量の倍数の計算で、
X値だけじゃなくY値も入れた距離で計算したら上手くいきました。
前回の特徴物体の位置から、物体までの距離を求めます。
参考にしたのは、以下の動画です。
この方は、他にもARToolKitと物理演算を合わせたりと、かなり高度なことをやっています。
今回は、簡単な三角測量を用いて距離計算を行っています。
簡単なケースでは、２つのカメラの向きを平行にして、Y・Z座標の位置も同じにします。
ちなみに失敗していた理由は、VIEW_SCALEFACTORという値を考えていなかったからでした。
これは、ARToolKitの長さの単位から、OpenGLの単位へ変換するときに必要になります。
まだ誤差などがあるようなので、これから調整します。
--------- < 追記 > ---------
○08/05/29
誤差が安定してきたので、処理を大まかに説明。
前回(その②)の各カメラでの、特徴点のスクリーン座標系の位置を取得。
これを、透視投影変換の逆行列を使って、カメラ座標系の位置に変換。
また、その①で求めたカメラ間の変換行列から、カメラのX座標系での距離を取得しておく。
そこで、以下の計算を行う。
１．a = カメラ間のXの距離 / (カメラ１での特徴点のX座標 - カメラ２での特徴点のX座標)
２．カメラ１の特徴点の座標（カメラ座標系）をa倍する。
３．２の結果が、特徴点で示した物体の３次元空間上での座標（カメラ座標系）になる。
４．カメラ１で、マーカーからの変換行列の逆行列を計算しておく
５．２の結果に対し、４の逆行列をかけて、マーカー座標系での特徴物体の座標を計算する。
６．５に対し、VIEW_SCALEFACTORをかけて、OpenGLの長さの単位にする。
このようにして、出た座標を表示すると、最初のような画像になります。
画像では、[マーカー座標系の原点]から[特徴物体の真下]までの線と、そこから[特徴物体]までの線を描画しています。
○08/05/30
まだ微妙な誤差がありましたが、三角測量の倍数の計算で、
X値だけじゃなくY値も入れた距離で計算したら上手くいきました。
日々ARToolKitに関するニュースを探しているPipeRですが、
先日ARToolKitをFlashに移植されたというブログを見つけました。
FlashのActionScriptは昔少しだけ触ったことがありますが、
これでARToolKitを作ってしまえるとは驚きました。
ARToolKitをJAVAに移植したA虎@さんのNyARToolkitといい、
スキルの高い開発者の方々が、ARToolKitのさらなるマルチプラットフォーム化を進めています。
これは、より多くの人がARToolKitを使えるようになる、すばらしいことです。
私の開発の目的はあくまで自分の勉強のためですが、
このような方々のように、もっと有用なプログラムを作りたいですね。
あと有用なプログラムといえば、ギズモード・ジャパンで紹介されていた、
ARToolKitを使ったゲームなんてのもあります。
これも非常に面白くて、ARToolKitを上手く生かしてると思いました。
先日ARToolKitをFlashに移植されたというブログを見つけました。
FlashのActionScriptは昔少しだけ触ったことがありますが、
これでARToolKitを作ってしまえるとは驚きました。
ARToolKitをJAVAに移植したA虎@さんのNyARToolkitといい、
スキルの高い開発者の方々が、ARToolKitのさらなるマルチプラットフォーム化を進めています。
これは、より多くの人がARToolKitを使えるようになる、すばらしいことです。
私の開発の目的はあくまで自分の勉強のためですが、
このような方々のように、もっと有用なプログラムを作りたいですね。
あと有用なプログラムといえば、ギズモード・ジャパンで紹介されていた、
ARToolKitを使ったゲームなんてのもあります。
これも非常に面白くて、ARToolKitを上手く生かしてると思いました。
twoViewを使ったプログラム、２回目は特徴色の認識ですが、
正直これだけならtwoViewは関係ありません。
ですがこれができれば、次に面白いことができます。
ということで、軽く説明いたします。
基本は、解析のところでやったことに似ています。
--- < 処理の概要 > ---
処理は以下のようなものになります。
１．認識したい特徴的な色を取得する。
２．カメラに映った画像を、特徴色で２値化する。
３．２値化画像に対して、各閉領域を区別する。
４．閉領域を絞り込んで、適切なものを選択する。
--- < １．認識したい特徴的な色を取得する > ---
最初に認識したい物体の色を取得します。
この色は、周囲の色とは違う特徴的な色でなくてはいけません。
マウスで画面内の特徴色をクリックし、その色を取得します。
--- < ２．カメラに映った画像を、特徴色で２値化する > ---
次に、与えられた画像を特徴色で２値化します。
画像の全ての点の色を調べ、特徴色に近いものだけ白にして、その他は黒にします。
--- < ３．２値化画像に対して、各閉領域を区別する > ---
白い領域に対してのみラベリングを行い、各閉領域を区別します。
ここでは、異なる色で各閉領域を表しています。
またこのとき、閉領域の面積や外接矩形も計算しておきます。
--- < ４．閉領域を絞り込んで、適切なものを選択する > ---
最後に、特徴色だと判定する閾値を変えたり、
閉領域の面積が小さい・大きいものを除外したりして、目的の閉領域を求めます。
目的の閉領域が、影などにより分かれてしまっていた場合、
外接矩形を見てくっつける、なんてこともできそうです。
さて次はこれを使って、とても面白いプログラムができるはずなのですが、
勉強不足のため、なかなか上手くいきません。
ついつい、学生の頃愛用していた3Dグラフィックス数学の本を買ってしまいました。
もっと数学の勉強をしないとだめです。
正直これだけならtwoViewは関係ありません。
ですがこれができれば、次に面白いことができます。
ということで、軽く説明いたします。
基本は、解析のところでやったことに似ています。
--- < 処理の概要 > ---
処理は以下のようなものになります。
１．認識したい特徴的な色を取得する。
２．カメラに映った画像を、特徴色で２値化する。
３．２値化画像に対して、各閉領域を区別する。
４．閉領域を絞り込んで、適切なものを選択する。
--- < １．認識したい特徴的な色を取得する > ---
最初に認識したい物体の色を取得します。
この色は、周囲の色とは違う特徴的な色でなくてはいけません。
マウスで画面内の特徴色をクリックし、その色を取得します。
--- < ２．カメラに映った画像を、特徴色で２値化する > ---
次に、与えられた画像を特徴色で２値化します。
画像の全ての点の色を調べ、特徴色に近いものだけ白にして、その他は黒にします。
--- < ３．２値化画像に対して、各閉領域を区別する > ---
白い領域に対してのみラベリングを行い、各閉領域を区別します。
ここでは、異なる色で各閉領域を表しています。
またこのとき、閉領域の面積や外接矩形も計算しておきます。
--- < ４．閉領域を絞り込んで、適切なものを選択する > ---
最後に、特徴色だと判定する閾値を変えたり、
閉領域の面積が小さい・大きいものを除外したりして、目的の閉領域を求めます。
目的の閉領域が、影などにより分かれてしまっていた場合、
外接矩形を見てくっつける、なんてこともできそうです。
さて次はこれを使って、とても面白いプログラムができるはずなのですが、
勉強不足のため、なかなか上手くいきません。
ついつい、学生の頃愛用していた3Dグラフィックス数学の本を買ってしまいました。
もっと数学の勉強をしないとだめです。
