Processing

Please wait...

Settings

Settings

Goto Application

1. WO2020137185 - DISTANCE MEASURING DEVICE AND DISTANCE MEASURING METHOD

Document

明 細 書

発明の名称 距離計測装置および距離計測方法

技術分野

0001  

背景技術

0002  

先行技術文献

特許文献

0003  

発明の概要

発明が解決しようとする課題

0004   0005  

課題を解決するための手段

0006  

発明の効果

0007  

図面の簡単な説明

0008  

発明を実施するための形態

0009   0010   0011   0012   0013   0014   0015   0016   0017   0018   0019   0020   0021   0022   0023   0024   0025   0026   0027   0028   0029   0030   0031   0032   0033   0034   0035   0036   0037   0038   0039   0040   0041   0042   0043   0044   0045   0046   0047   0048   0049   0050   0051   0052   0053   0054   0055   0056   0057   0058   0059   0060   0061   0062   0063   0064   0065   0066   0067   0068   0069   0070   0071   0072   0073   0074   0075   0076   0077   0078   0079   0080   0081   0082   0083   0084   0085   0086   0087   0088   0089   0090   0091   0092   0093   0094   0095   0096   0097   0098   0099   0100   0101   0102   0103   0104   0105   0106   0107   0108   0109   0110   0111   0112   0113   0114   0115   0116   0117   0118   0119   0120   0121   0122   0123   0124   0125   0126   0127   0128   0129   0130   0131   0132   0133   0134   0135   0136   0137   0138   0139   0140   0141   0142   0143   0144   0145   0146   0147   0148   0149   0150   0151   0152   0153   0154   0155   0156   0157   0158   0159   0160   0161   0162   0163   0164   0165   0166   0167   0168   0169   0170   0171   0172   0173   0174   0175   0176   0177   0178   0179   0180   0181   0182   0183   0184   0185   0186   0187   0188   0189   0190   0191   0192   0193   0194   0195   0196   0197   0198   0199   0200   0201   0202   0203  

符号の説明

0204  

請求の範囲

1   2   3   4   5   6   7   8   9   10   11   12   13   14   15  

図面

1   2   3   4   5   6   7   8   9   10   11   12   13   14   15   16   17   18   19   20   21   22   23   24   25   26   27   28   29   30   31   32   33   34   35   36   37   38   39   40   41   42   43   44   45   46   47   48   49   50   51   52   53   54   55   56   57   58   59   60   61   62   63   64   65   66   67   68   69  

明 細 書

発明の名称 : 距離計測装置および距離計測方法

技術分野

[0001]
 本発明は、距離計測装置および距離計測方法に関する。本発明は2018年12月26日に出願された日本国特許の出願番号2018-242875の優先権を主張し、文献の参照による織り込みが認められる指定国については、その出願に記載された内容は参照により本出願に織り込まれる。

背景技術

[0002]
 特許文献1には、撮影後のフォーカス調整(リフォーカス)、オートフォーカス、測距等を行う高機能な撮像装置を実現するための構成として、「撮像面にアレイ状に配列された複数の画素に取り込まれた光学像を画像信号に変換して出力する画像センサと、前記画像センサの受光面に設けられ、光の強度を変調する変調器と、前記画像センサから出力される画像信号を一時的に格納する画像記憶部と、前記画像記憶部から出力される画像信号の画像処理を行う信号処理部と、を具備し、前記変調器は、複数の同心円から構成される第1の格子パターンを有し、前記信号処理部は、前記画像センサから出力される画像信号を、複数の同心円から構成される第2の格子パターンで変調することでモアレ縞画像を生成する」ことを特徴とする撮像装置が開示されている。

先行技術文献

特許文献

[0003]
特許文献1 : 国際公開第2017/149687号

発明の概要

発明が解決しようとする課題

[0004]
 特許文献1に記載の撮像装置では、距離計測を行うため、撮像結果のコントラストの高低を基に距離情報を抽出している。しかし、当該発明の撮像装置の構成では、正確な距離情報を生成することが困難である。
[0005]
 本発明は、このような状況に鑑みてなされたものであり、撮像装置等の距離計測演算において、正確な距離情報を生成できるようにすることを目的とする。

課題を解決するための手段

[0006]
 本願は、上記課題の少なくとも一部を解決する手段を複数含んでいるが、その例を挙げるならば、以下のとおりである。上記課題を解決すべく、本発明の一態様に係る距離計測装置は、光を電気信号に変換し、センサ画像を生成する画像センサと、撮影用パターンに基づいて上記画像センサ上に投影される光の強度を変調する変調器と、上記センサ画像から複素数を有する複素センサ画像を生成する複素センサ画像生成部と、上記複素センサ画像の位相情報を基に評価指標配列を生成する評価指標配列生成部と、上記評価指標配列を用いて距離情報を生成する距離情報生成部と、を有し、上記評価指標配列生成部は、ピント距離に応じた複数の互いに異なる現像用パターンを含む評価用パターンを生成し、上記複素センサ画像と複数の上記現像用パターンとの相互相関演算を行って複数の現像画像を生成し、上記複数の現像画像をピント距離が近い順に積層させることで平面および奥行き方向を有する三次元の複素情報配列を生成し、上記複素情報配列について上記三次元の少なくとも一つの方向に所定の範囲で平滑化して二次元配列を複数生成し、該二次元配列を上記積層方向に積層させた三次元配列を上記評価指標配列とすることを特徴とする。

発明の効果

[0007]
 本発明によれば、正確な距離情報を生成することができる。上記した以外の課題、構成及び効果は、以下の実施形態の説明により明らかにされる。

図面の簡単な説明

[0008]
[図1] 本発明に係る第1の実施形態である距離計測装置の構成例を示すブロック図である。
[図2] 撮像部の構成例を示す図である。
[図3] 撮像部の他の構成例を示す図である。
[図4] 撮影用パターンまたは現像用パターンの一例を示す図である。
[図5] 撮影用パターンまたは現像用パターンの一例を示す図である。
[図6] 斜め入射平行光によるパターン基板表面から画像センサへの射影像が面内ずれを生じさせることを説明するための図である。
[図7] 撮影用パターンの一例の投影像を示す図である。
[図8] 現像用パターンの一例を示す図である。
[図9] 相関現像方式による現像画像の一例を示す図である。
[図10] フリンジスキャンにおける初期位相の組合せの例を示す図である。
[図11] 撮影用パターンの一例を示す図である。
[図12] 時分割フリンジスキャンの場合の距離計測装置の構成例を示す図である。
[図13] 空間分割フリンジスキャンの場合の距離計測装置の構成例を示す図である。
[図14] 物体が無限距離にある場合に撮影用パターンが投影されることを示す図である。
[図15] 物体が有限距離にある場合に撮影用パターンが拡大されることを示す図である。
[図16] 複素センサ画像の生成方法を示す図である。
[図17] 複素センサ画像の例を示す図である。
[図18] 評価用パターンの例を示す図である。
[図19] 距離計測の一例を示す図である。
[図20] 評価指標配列の例を示す図である。
[図21] 複素現像画像のプロファイルの一例を示す図である。
[図22] 複素現像画像のプロファイルの一例を示す図である。
[図23] 複素現像画像のプロファイルの一例を示す図である。
[図24] 複素現像画像のプロファイルの一例を示す図である。
[図25] 複素現像画像のプロファイルの一例を示す図である。
[図26] 評価指標配列の配列要素の値が評価用パターンのピッチに応じて変化する様子の一例を示す図である。
[図27] 距離計測処理の一例を説明するフローチャートである。
[図28] 評価指標配列をサンプリングする様子の一例を示す図である。
[図29] 距離情報をデータ変換した距離画像の一例を示す図である。
[図30] 複素センサ画像生成方法の一例を示す図である。
[図31] 本発明に係る第2の実施形態である距離計測装置の構成例を示すブロック図である。
[図32] 複素情報配列の虚部絶対値とサンプリング点の様子の一例を示す図である。
[図33] 複素情報配列の虚部絶対値とサンプリング点の様子の一例を示す図である。
[図34] 複素情報配列の虚部絶対値とサンプリング点の様子の一例を示す図である。
[図35] 複素センサ画像と評価用パターンの相互相関演算結果の位相角をピッチ係数β’に対してプロットした結果の一例を示す図である。
[図36] 評価指標配列生成部の構成の一例を示すブロック図である。
[図37] 複素情報配列の生成方法の一例を示す図である。
[図38] 評価指標配列変換部の構成の一例を示す図である。
[図39] モアレ現像方式によるモアレ縞の一例を示す図である。
[図40] 撮影用パターンおよび評価指標配列生成用パターンの一例を示す図である。
[図41] 撮影用パターンおよび評価指標配列生成用パターンの一例を示す図である。
[図42] 液晶表示素子における透明電極の一例を示す図である。
[図43] 液晶表示素子における透明電極の電圧印加パターンの一例を示す図である。
[図44] 液晶表示素子における透明電極の電圧印加パターンの一例を示す図である。
[図45] 液晶表示素子における透明電極の電圧印加パターンの一例を示す図である。
[図46] 液晶表示素子における透明電極の電圧印加パターンの一例を示す図である。
[図47] 評価指標配列の配列要素の値が評価用パターンのピッチに応じて変化する様子の一例を示す図である。
[図48] 評価指標配列の配列要素の値が評価用パターンのピッチに応じて変化する様子の一例を示す図である。
[図49] 平滑化パターン生成の様子の一例を示す図である。
[図50] 平滑化されていない評価用パターンを用いた場合の複素情報配列の一例を示す図である。
[図51] 平滑化パターンを用いた場合の複素情報配列の一例を示す図である。
[図52] 加重平滑化パターン生成の様子の一例を示す図である。
[図53] 加重平滑化パターン生成の重み付けの一例を示す図である。
[図54] 距離計測ソフトウェアのユーザーインターフェースの一例を示す図である。
[図55] 奥行き方向の平滑化パターン生成の一例を示す図である。
[図56] 奥行き方向の平滑化パターン生成の一例を示す図である。
[図57] 奥行き方向の平滑化パターン生成の一例を示す図である。
[図58] 奥行き方向の平滑化パターン生成の一例を示す図である。
[図59] 奥行き方向の平滑化パターン生成の一例を示す図である。
[図60] 複素現像画像のプロファイルを示す図である。
[図61] 平滑化カーネルの一例を示す図である。
[図62] 平滑化カーネルのカーネル幅の一例を示す図である。
[図63] 複素現像画像のプロファイルの一例を示す図である。
[図64] 複素現像画像のプロファイルを微分した一例を示す図である。
[図65] 複素微分パターン生成の一例を示す図である。
[図66] 面内平滑化による距離計測処理の一例を説明するフローチャートである。
[図67] 微分平滑化パターン生成の一例を示す図である。
[図68] 距離計測処理の一例を説明するフローチャートである。
[図69] 微分パターンの他の例を示す図である。

発明を実施するための形態

[0009]
 以下の実施の形態においては便宜上その必要があるときは、複数のセクションまたは実施の形態に分割して説明するが、特に明示した場合を除き、それらはお互いに無関係なものではなく、一方は他方の一部または全部の変形例、詳細、補足説明等の関係にある。
 また、以下の実施の形態において、要素の数等(個数、数値、量、範囲等を含む)に言及する場合、特に明示した場合および原理的に明らかに特定の数に限定される場合等を除き、その特定の数に限定されるものではなく、特定の数以上でも以下でもよい。
[0010]
 さらに、各実施の形態において、その構成要素(要素ステップ等も含む)は、特に明示した場合および原理的に明らかに必須であると考えられる場合等を除き、必ずしも必須のものではないことは言うまでもない。同様に、以下の実施の形態において、構成要素等の形状、位置関係等に言及するときは特に明示した場合および原理的に明らかにそうではないと考えられる場合等を除き、実質的にその形状等に近似または類似するもの等を含むものとする。このことは、上記数値および範囲についても同様である。また、各実施の形態を説明するための全図において、同一の部材には原則として同一の符号を付し、その繰り返しの説明は省略する。
[0011]
 以下、本発明の実施例について図面を用いて説明する。
[0012]
<第一の実施の形態>
<無限遠物体の撮影原理>
 図1は、本発明に係る第一の実施の形態である距離計測装置101の構成例を示している。
[0013]
 距離計測装置101は、結像させるレンズを用いることなく、外界の物体の画像を取得するものであり、図1に示すように、撮像部102、画像処理部106、コントローラ107、および距離計測変数設定部111から構成されている。
[0014]
 画像処理部106は、複素センサ画像生成部108、評価指標配列生成部109、及び距離情報生成部110を有する。
[0015]
 図2は、撮像部の構成例を示す図である。撮像部102は、画像センサ103、パターン基板104、撮影用パターン105から構成されている。
[0016]
 パターン基板104は、その一方の平面が画像センサ103の受光面に密着して固定されており、他方の平面には撮影用パターン105が形成されている。パターン基板104は、例えばガラスやプラスティックなどの可視光に対して透明な材料からなる。
[0017]
 撮影用パターン105は、例えば半導体プロセスに用いられるスパッタリング法などによってアルミニウム、クロムなどの金属を蒸着することによって形成される。アルミニウムが蒸着されたパターンと蒸着されていないパターンによって濃淡がつけられる。
[0018]
 なお、撮影用パターン105の形成はこれに限定されるものでなく、例えばインクジェットプリンタなどによる印刷などによって濃淡をつけるなど、透過率の変調を実現できる手段であればどのように形成してもよい。また、ここでは可視光を例に説明したが、例えば遠赤外線の撮影を行う際には、パターン基板104は例えばゲルマニウム、シリコン、カルコゲナイドなどの遠赤外線に対して透明な材料とするなど、撮影対象となる波長に対して透明な材料を用い、撮影用パターン105は遮断する材料を用いればよい。
[0019]
 なお、ここでは撮影用パターン105をパターン基板104に形成する方法について述べたが、図3に示すように形成してもよい。
[0020]
 図3は、撮像部の他の構成例を示す図である。撮像部102は、撮影用パターン105を薄膜に形成し、支持部材301により保持されている。なお、距離計測装置101において、撮影画角はパターン基板104の厚さによって変更可能である。よって、例えばパターン基板104が図3の構成であり支持部材301の長さを変更可能な機能を有していれば、撮影時に画角を変更して撮影することも可能となる。
[0021]
 画像センサ103の表面には、受光素子である画素103aが格子状に規則的に配置されている。この画像センサ103は、画素103aが受光した光画像を電気信号である画像信号に変換する。画像センサ103から出力された画像信号は、画像処理部である画像処理部106によって画像処理されて出力される。
[0022]
 以上の構成において、撮影する場合には、撮影用パターン105を透過する光は、そのパターンによって光強度が変調され、透過した光は画像センサ103にて受光される。画像センサ103から出力された画像信号は、画像処理部106によって画像処理されたデータがコントローラ107に出力される。コントローラ107は、画像処理部106の出力をホストコンピュータや外部記録媒体に出力する場合には、USB等のインターフェイスに適合するようデータ形式を変換し出力する。
[0023]
 続いて、距離計測装置101における画像撮影原理について説明する。まず、撮影用パターン105は、中心からの半径に対して反比例してピッチが細かくなる同心円状のパターンである。ここで、撮影用パターン105を、同心円の中心である基準座標からの半径r、ピッチ係数βを用いて、次式(1)のように定義する。
[0024]
[数1]


[0025]
 撮影用パターン105は、式(1)に比例して透過率変調されているものとする。
[0026]
 撮影用パターン105のような縞を持つプレートは、ガボールゾーンプレートやフレネルゾーンプレートと呼ばれる。図4に式(1)のガボールゾーンプレート、図5に式(1)を閾値1で2値化したフレネルゾーンプレートの例を示す。
[0027]
 なお、ここより以降、簡単化のためにx軸方向についてのみ数式で説明するが、同様にy軸方向について考慮することで2次元に展開して考えることが可能である。
[0028]
 撮影用パターン105が形成された厚さdのパターン基板104に、図6に示すようにx軸方向に角度θ で平行光が入射したとする。パターン基板104中の屈折角をθとして幾何光学的には、表面の格子の透過率が乗じられた光が、k=d・tanθだけずれて画像センサ103に入射する。このとき、次式(2)に示されるような強度分布を持つ当映像が画像センサ103上で検出される。
[0029]
[数2]


[0030]
 なお、Φは式(1)の透過率分布の初期位相を示す。この撮影用パターン105の投影像は式(2)のようにkシフトして投影される。これが撮像部102の出力となる。
[0031]
 撮影した画像の現像では、撮影用パターン105の投影像(図7)と現像用パターン801(図8)との相互相関関数を演算することにより、シフト量kの輝点(図9)を得る。
[0032]
 なお、一般的に相互相関演算を2次元畳込み演算で行うと演算量が大きくなってしまうので、演算量が少ないフーリエ変換を用いて演算する例について、数式を用いて原理を説明する。
[0033]
 まず、現像用パターン801は、撮影用パターン105と同様にガボールゾーンプレートやフレネルゾーンプレートを用いるため、現像用パターン801は、初期位相Φを用いて、次式(3)のように表すことができる。
[0034]
[数3]


[0035]
 現像用パターン801は、画像処理部106による画像処理で使用されるため、式(1)のように1でオフセットさせる必要はなく、負の値を有していても問題ない。
[0036]
 式(2)、(3)のフーリエ変換は、それぞれ次式(4)、(5)のようになる。
[0037]
[数4]


[0038]
[数5]


[0039]
 ここで、Fはフーリエ変換の演算を表し、uはx方向の周波数座標、括弧を伴うδはデルタ関数である。式(4)、(5)で重要なことは、フーリエ変換後の式もまたフレネルゾーンプレートやガボールゾーンプレートとなっている点である。よって、式(4)、(5)に基づいてフーリエ変換後の現像用パターンを直接的に生成してもよい。これにより演算量を低減することが可能である。
[0040]
 次に、式(4)と式(5)を乗算して次式(6)を得る。
[0041]
[数6]


[0042]
 式(6)における指数関数で表された項exp(-iku)が信号成分であり、この項をフーリエ変換すると、次式(7)のように変換され、元のx軸においてkの位置に輝点を得ることができる。
[0043]
[数7]


[0044]
 この輝点が無限遠の光束を示しており、距離計測装置101による撮影像となる。
[0045]
 なお、相関現像方式では、パターンの自己相関関数が単一のピークを有するものであれば、フレネルゾーンプレートやガボールゾーンプレートに限定されないパターン、例えばランダムなパターンで実現してもよい。
[0046]
〈ノイズキャンセル〉
 ところで、上述した式(6)から式(7)への変換については、信号成分に着目して説明したが、実際には信号成分以外の項が現像を阻害してノイズを生じさせてしまう。そこで、フリンジスキャンに基づくノイズキャンセルを行う。具体的には、三角関数の直交性を利用して、次式(8)に示されるように、式(6)の乗算結果を初期位相Φに関して積分すると、ノイズ項がキャンセルされて、信号項の定数倍だけを残すことができる。
[0047]
[数8]


[0048]
 なお、式(8)は積分の形で示しているが、実際には、図10に示す複数種類(同図の場合4種類)の初期位相Φ(Φ=0,Φ=π/2,Φ=π,Φ=3π/2)の組合せの総和を計算することによっても同様の効果が得られる。この組合せのように、位相Φは、0~2πの間の角度を等分するように設定すればよい。
[0049]
 以上で説明したフリンジスキャンでは、撮影用パターン105として初期位相Φが異なる複数のパターンを使用する必要がある。これを実現するには時分割でパターンを切り替える方法と、空間分割でパターンを切り替える方法がある。
[0050]
 時分割でパターンを切り替えてフリンジスキャンを実現する場合の距離計測装置101の構成を図12に示す。撮影用パターン1201としては、図10に示された複数の初期位相Φを電気的に切り替えて表示することが可能な液晶表示素子などを用いればよい。この液晶表示素子の切替タイミングと画像センサ103のシャッタタイミングを変調器制御部1202で同期して制御し、4枚の画像を取得後、フリンジスキャン演算を実施する。
[0051]
 なお、液晶表示素子を用いてフリンジスキャンを行う場合、液晶表示素子を駆動する電極は、例えば図42に示すように構成すればよい。該電極は、撮影用パターン105の1周期を4分割するように同心円状透明電極が構成されており、内側から4本おきに外側の電極と結線されて、最終的に端子部4201では電極の駆動端子として4本の電極が出力されている。なお、撮影用パターン105の1周期は図4で示した撮影用パターンの白い円環と隣り合う黒い円環(もしくは黒い円)の一セット分にあたる。これらに所定の電圧を印加して実際に初期位相を可変するには、4つの電極に印加する電圧状態を“0”と“1”の2つの状態で時間的に切り替え、図43に示す初期位相Φ=0の状態、図44に示す初期位相Φ=π/2の状態、図45に示す初期位相Φ=πの状態、図46に示す初期位相Φ=3π/2の状態を表示し、液晶表示素子における光透過率を変化させることで実現している。
[0052]
 対して、空間分割でパターンを切り替えてフリンジスキャンを実現する場合の距離計測装置101の構成を図13に示す。撮影用パターン1301としては、図11に示す複数の初期位相を有する撮影用パターン1301を使用すればよい。そして、1枚の画像を取得後、画像分割部1302においてそれぞれの初期位相のパターンに対応して4枚に分割した後、フリンジスキャン演算を実施する。
[0053]
<距離計測原理>
 図14は、これまで述べた被写体が遠い場合(物体が無限距離にある場合)における撮影用パターン105の画像センサ103への射影の様子を示している。遠方の物体を構成する点1401からの球面波は、十分に長い距離を伝搬する間に平面波となり撮影用パターン105を照射し、その投影像1402が画像センサ103に投影される場合、投影像は撮影用パターン105とほぼ同じ形状となる。よって、投影像1402に対して、現像用パターン801を用いて現像処理を行うことにより、単一の輝点を得ることが可能である。続けて、有限距離の物体に対する撮像について説明する。
[0054]
 図15は、撮像する物体が有限距離にある場合に、撮影用パターン105の画像センサ103への射影が撮影用パターン105より拡大されることを示す図である。物体を構成する点1501からの球面波が撮影用パターン105を照射し、その投影像1502が画像センサ103に投影される場合、投影像はほぼ一様に拡大される。なお、投影像と撮影用パターンのサイズ比αは、撮影用パターン105から点1501までの距離fを用いて、次式(9)のように算出できる。
[0055]
[数9]


[0056]
 そのため、平行光に対して設計された現像用パターン801をそのまま用いて現像処理したのでは、ピントの合った画像が現像できない。そこで、一様に拡大された撮影用パターン105の投影像に合わせて、現像用パターン801に次式(10)に示すピッチ係数β’を乗算して拡大させれば、ピントの合った画像の現像が可能となる。
[0057]
[数10]


[0058]
 したがって、現像時にピントの合った画像が再生できる現像用パターン801の拡大率α を求めることで、撮影対象までの距離を計測することが可能となる。
[0059]
 通常のカメラで撮影した画像のピントのボケを基に距離計測を行うレンズ焦点法では、主に画像のコントラストが高くなるピント位置を算出することで距離情報を抽出するが、距離計測装置101では、点広がり関数が通常のカメラのようなガウス関数型形状でなく、正負に振動するSinc関数型の形状をしている。このため、単純に画像のコントラストを基に距離情報を抽出する方法では、抽出した距離情報に含まれる誤差が大きくなり、高精度な距離計測が出来ない。
[0060]
 そこで、距離計測装置101では、現像画像のコントラストとは異なる評価指標を用いてピントの合う現像用パターン801の拡大率α を求め、その拡大率α を基に距離情報を抽出するようにする。
[0061]
 以上のように構成される距離計測装置101による距離計測方法を説明する。距離計測装置101では、画像センサ103で生成したセンサ画像(画像信号)を画像処理部106に供給し、所定の画像処理によって距離情報を生成する。なお、図12に示した時分割フリンジスキャンを行う場合の構成では、変調器制御部1202で撮影用パターン1201に、図10に示された複数の初期位相Φを切り替えて表示して4枚の画像を撮影し、画像処理部106に4枚のセンサ画像を供給する。
[0062]
 一方、図13に示した空間分割フリンジスキャンを行う場合の構成では、画像分割部1302で、1枚のセンサ画像を4つの領域に分割して、図10に示された複数の初期位相Φで撮影したセンサ画像を生成した後に画像処理部106へとセンサ画像を供給する。
[0063]
 画像処理部106は、複素センサ画像生成部108、評価指標配列生成部109、及び距離情報生成部110が順次、所定の処理を実施する。すなわち、複素センサ画像生成部108は、画像センサ103の出力であるセンサ画像1601に基づいて、複素センサ画像1602を生成する。
[0064]
 図16は、複素センサ画像の生成方法を示す図である。ここで、4つのセンサ画像をI S1、I S2、I S3、I S4、各センサ画像に対応した撮影用パターン105の初期位相をΦ 、Φ 、Φ 、Φ 、とする。たとえば、図10や図11に示した撮影用パターンを使用する場合は、Φ =0、Φ =π/2、Φ =π、Φ =3π/2としうる。複素センサ画像生成部108は、画像センサ103の出力である4つのセンサ画像1601に基づいて、複素センサ画像1602を生成する。そして、次式(11)に示すように、各センサ画像にそれぞれexp(iΦ )、exp(iΦ )、exp(iΦ )、exp(iΦ )を乗算した結果を加算することで複素センサ画像1602を生成する。
[0065]
[数11]


[0066]
 次に、評価指標配列生成部109は、複素センサ画像生成部108の出力である複素センサ画像1602に基づいて、評価指標配列1603を生成する。評価指標配列1603の生成方法について、図17、図18、図20~25、図36、図37を参照して説明する。
[0067]
 図17は、複素センサ画像の例を示す図である。被写体が点光源であった場合、複素センサ画像1602は、実部と虚部からなる情報となる。
[0068]
 拡大率α で撮影用パターン105を拡大した場合のピッチ係数をβ’とした場合、評価指標配列生成部109では、図18に示すようにβ’を変化させながら(β’>β0,β’=β0,β’<β0)評価指標配列生成用パターン1801と、複素センサ画像1602との相互相関演算を行う。図21乃至図25は、その相互相関演算結果の例を示している。
[0069]
 図36は、評価指標配列生成部の構成の一例を示すブロック図である。評価指標配列生成部109は、評価用パターン生成部3601と、評価用パターン格納部3602と、相互相関演算部3603と、評価指標配列変換部3604と、を含む。
[0070]
 評価用パターン生成部3601は、評価用に、異なるピッチ係数β’の現像用パターン801を複数枚生成する。この評価用の複数の現像用パターンは、評価指標配列生成用パターン(以後、評価用パターンと称呼することもある)1801である。なお、評価用パターン生成部3601は、距離計測変数設定部111からの入力を用いて、現像用パターン801のピッチ係数β’を決定する。
[0071]
 評価用パターン生成部3601は、生成された評価用パターン1801を評価用パターン格納部3602に格納する。評価用パターン格納部3602は、読み書き可能な記憶領域であり、例えば不揮発性記憶素子により実現されうる。
[0072]
 相互相関演算部3603は、複素センサ画像生成部108から入力された複素センサ画像1602が入力される都度、評価用パターン格納部3602から評価用パターン1801を読み込む。
[0073]
 図37は、複素情報配列の生成方法の一例を示す図である。相互相関演算部3603は、図37に示すように、複素センサ画像1602ごとに、評価用パターン1801内のすべてのパターンとの相互相関演算を行い、複素現像画像を生成し、複素現像画像の配列である複素情報配列3701を生成する。
[0074]
 たとえば、評価用パターン1801がN(Nは自然数)枚のパターン(ピッチ係数がそれぞれβ’ 、β’ 、・・・、β’ )からなる場合、相互相関演算部3603は一つの複素センサ画像1602に対してN枚の評価用パターン1801との相互相関演算を都合N回行い、N枚の複素現像画像を生成する。相互相関演算部3603は、N枚の複素現像画像を奥行き方向(距離計測装置101からみた被写体1901の方向の延長上にて距離計測装置101からのピント距離が近い順に積層させた積層方向)にスタック(積層)した3次元の複素情報配列3701として出力する。
[0075]
 評価指標配列変換部3604は、複素情報配列3701を用いて、距離計測の評価指標として使用される評価指標配列1603を生成し出力する。評価指標配列1603は、図20にその例が示されている。
[0076]
 図20は、評価指標配列の例を示す図である。評価指標配列1603は、奥行き方向の情報に応じて2次元の画像情報の評価配列を有する、3次元配列である。
[0077]
 図18に示すように、評価用パターン生成部3601が生成する異なるピッチ係数β’の現像用パターン801に関して、ピッチ係数β は、センサ画像1601に投影された撮影用パターン投影像の係数である。図21乃至図25に示された相互相関演算の結果で注目すべきは、ピッチ係数β’がピッチ係数β と一致する場合には、破線で示した相互相関演算結果の虚数成分がゼロになり、ピッチ係数の差が増加するにつれて虚数成分の振幅が増加する点である。よって、この虚数成分がゼロとなるピッチ係数β’を探索することが、後述する距離情報生成部110における処理となる。
[0078]
 そこで、評価指標配列変換部3604では、複素情報配列3701の虚部絶対値を評価指標配列1603に格納、出力する。なお、複素情報配列3701内の各複素現像画像の画素数がL×Mであるとすると、図20に示す通り、評価指標配列1603はN枚のL×Mの2次元配列から構成される3次元配列となる。
[0079]
 最後に、距離情報生成部110は、評価指標配列変換部3604の出力である評価指標配列1603に基づいて距離情報2901を生成する。前述したように評価指標配列1603はピッチ係数β’がピッチ係数β と一致する場合にゼロとなるが、一般の被写体の場合にはゼロにはならないことがある。
[0080]
 図26は、評価指標配列の配列要素の値が評価用パターンのピッチに応じて変化する様子の一例を示す図である。いいかえると、図26は、評価指標配列1603のある要素における、ピッチ係数β’依存性を示している。
[0081]
 図26は、図20に示されたN枚のL×M配列の中から、それぞれ(l、m)番目の配列要素2001、2002、2003を抜き出し、これらN個の配列要素をプロットすることで作成する。
[0082]
 図26から、周囲の要素の影響により、評価指標配列1603の配列要素はゼロにならないが、β’=β となる条件で最小値を示すことを読み取ることができる。このように、評価指標配列1603の配列要素が最小値となる点のβ’から、式(10)を満たす拡大率α が求まり、式(9)から被写体1901までの距離fを算出することが出来る。
[0083]
 コントローラ107は、距離情報生成部110の出力である距離情報2901を用途に応じたデータ変換を行なって出力する。例えば、図19に示すように、被写体1901を撮影したセンサ画像を基に距離情報2901を生成し、ディスプレイに距離画像を表示する場合、図29のような距離画像にデータ変換して出力する。この場合、図29の距離画像のうち、被写体1901に対応する領域2902の距離情報は被写体までの距離fとして出力される。なお、図29に示したように、コントローラ107は出力する距離画像として、距離情報2901と撮影対象を撮影した通常画像をオーバーラップしたものを出力してもよい。また、距離情報2901を機械装置の制御に用いる場合は、距離情報2901から目的とする制御量を達成するための操作量を算出し、算出した操作量を出力してもよい。また、ユーザーインターフェースを介して距離計測変数を距離計測変数設定部111に入力し、その入力変数に応じてコントローラ107から出力されるデータのデータ形式を変更しても良い。
[0084]
 図27は、距離計測処理の一例を説明するフローチャートである。距離計測処理が開始されると、はじめに、ステップ2701において、評価用パターン生成部3601は、β’の異なるN個の現像用パターン801からなる評価用パターン1801を生成する。
[0085]
 次に、ステップ2702において、画像センサ103がセンサ画像1601を取得する。そして、ステップ2703において、複素センサ画像生成部108は、ステップ2702で取得したセンサ画像1601を基に複素センサ画像1602を生成する。
[0086]
 そして、ステップ2704において、相互相関演算部3603は、ステップ2703で生成された複素センサ画像1602と、ステップ2701で生成された評価用パターン1801と、の間で図37のように相互相関演算を行い、複素現像画像を複数含む複素情報配列3701を生成する。
[0087]
 そして、ステップ2705において、評価指標配列変換部3604は、複素情報配列3701を基に評価指標配列1603を生成する。評価指標配列1603は図20に示すような3次元配列として生成される。
[0088]
 そして、ステップ2706において、距離情報生成部110は、ステップ2705で生成された評価指標配列1603を基に距離情報2901を生成し、距離情報2901をコントローラ107に出力して、距離計測処理を終了する。
[0089]
 なお、図26に曲線で示した評価指標配列1603の配列要素の値は、ステップ2701で生成した評価用パターン1801に含まれる現像用パターン801の枚数Nと、同数のN点のサンプリング点でサンプリングされるため、図28に黒い点で示すように、β’に対して離散的に評価指標の値が求まる。ステップ2706では、サンプリングを行ったN個のβ’の中で評価指標が最小となるβ’を探索しても良い。また、図28のデータ点数に対してカーブフィッティングや補間処理を行うことで、距離情報2901の精度を高めてもよい。
[0090]
 なお、後述の説明では、センサ画像1601として4枚の画像を用いたが、図30に示すように、少なくとも2枚の画像があれば、距離計測ができる。この場合、例えば、複素センサ画像生成部108は、センサ画像1601の2枚の画像からそれぞれの画像の低周波成分3001、3002を除去したセンサ画像3003を生成した後に、複素センサ画像1602を生成する。低周波成分3001、低周波成分3002の除去は、例えばセンサ画像1601の平均輝度をオフセット除去することで行っても良いし、センサ画像1601にハイパスフィルター処理を行い、低周波成分を除去することで行っても良い。
[0091]
 2枚のセンサ画像1601から距離計測を行うようにすれば、時分割フリンジスキャンの場合は、センサ画像の取得時間を短縮することが可能となり、空間分割フリンジスキャンの場合は、センサ画像の分割数を少なくすることで分割後のセンサ画像の解像度が向上し、距離情報2901の解像度を高めることが可能となる。
[0092]
 なお、3枚のセンサ画像1601から距離計測を行っても良いし、5枚以上の画像を用いることでノイズをより低減させるようにしても良い。
[0093]
 なお、低周波成分とは、センサ画像中に含まれる信号成分の空間周波数よりも低い周波数成分を指す。
[0094]
 また、上述した説明では、複素情報配列3701の虚部絶対値を最小とするピッチ係数β’を求めたが、このほかにも、例えば、評価指標配列1603に、複素情報配列3701の虚部絶対値と実部絶対値の比を距離情報2901生成時の指標として用いても良い。この場合、評価指標配列1603の配列要素が最大もしくは最小となるピッチ係数β’をもとに距離情報2901が生成できる。
[0095]
 また、複素情報配列3701の虚部絶対値の代わりに、複素情報配列3701の虚部を評価指標配列1603に格納しても良い。このようにすることで、評価指標配列1603の配列要素は正負の符号を有する値となり、一枚のL×M配列から、撮影対象の位置がピント位置に対して手前もしくは奥にあるなどの位置関係を判定することが可能となる。
[0096]
 また、評価用パターン1801内の現像用パターン801生成に用いる複数のβ’の決定方法は、ユーザーインターフェースを介して距離計測変数設定部111に入力された距離計測レンジと距離計測分解能を基に、評価指標配列生成部109がβ’を選択し、図28で示したサンプリング点の個数、間隔を決定しても良い。
[0097]
 また、評価指標配列1603の生成では、複素センサ画像1602と現像用パターン801の相互相関演算を用いたが、複素センサ画像1602に対して、現像用パターン801を掛け合わせて図39に示すようなモアレ縞を生成した後にモアレ縞のフーリエ変換を行うことで、評価指標配列1603を生成しても良い。
[0098]
 また、撮影用パターン105や現像用パターン801として、図4や図5に示したガボールゾーンプレートやフレネルゾーンプレートを用いる構成で説明したが、図40に示した楕円状のパターンを、撮影用パターン105や現像用パターン801として用いても良い。このような構成とすることで、画像センサ103として長方形のセンサを用いた場合でも、センサの縦横方向のサイズ、解像度に対して最適なピッチのパターンで撮影できるようになり、距離情報2901の解像度を最適化することが出来る。なお、楕円状のパターンで時分割フリンジスキャンを行う場合は、図42で示した同心円状の透明電極パターンを楕円状のものに置き換えればよい。
[0099]
 また、図41に示すランダムパターンを撮影用パターン105や評価用パターン1801として用いても良い。このような構成とすることで、距離計測を行うための評価用パターン1801を秘匿化し、セキュリティを高めることが可能になる。
[0100]
 以上に説明した構成・方法によれば、図1に示した簡単な構成の距離計測装置101において、被写体の距離情報を計測することができる。
[0101]
<第二の実施の形態>
<非探索型測距 最小値算出型>
 図31は、本発明に係る第二の実施形態である距離計測装置の構成例を示すブロック図である。第二の実施形態に係る距離計測装置101では、第一の実施形態に係る距離計測装置101と基本的に同一であるが、一部相違がある。具体的には、その相違は、第二の実施形態に係る距離計測装置101には、距離計測レンジ入力部3101が追加されており、評価指標配列が所定の条件を満たす評価指標配列生成用パターン1801のピッチ係数β’を非探索的に算出する。これにより高速に距離情報2901を生成するため、非探索型の距離計測を行うことができる。
[0102]
 第二の実施の形態に係る距離計測装置101では、距離計測レンジ入力部3101は、ユーザーが入力する距離計測レンジを受け付けて距離計測変数設定部111に供給する。ユーザーは、例えば距離計測レンジのうち、最近距離L と、最遠距離L とを指定することにより距離計測レンジを入力する。
[0103]
 距離計測変数設定部111は、最近距離L と最遠距離L に基づいて評価用パターン生成部3601で生成する評価用パターン1801に含まれる複数の現像用パターン801のピッチ係数を決定し、評価指標配列生成部109に出力する。
[0104]
 評価指標配列生成部109では、決定されたピッチ係数に応じて評価用パターン生成部3601で評価用パターン1801を生成し、評価用パターン格納部3602に格納する。相互相関演算部3603は入力された複素センサ画像と評価用パターン1801内の各現像用パターン801の相互相関演算により、複素情報配列3701を生成し出力する。評価指標配列変換部3604は複素情報配列3701を基に評価指標配列1603を生成し出力する。
[0105]
 距離情報生成部110は、評価指標配列生成部109の出力である評価指標配列1603を基に距離情報2901を生成する。
[0106]
 図32は、複素情報配列3701の虚部絶対値とサンプリング点の様子の一例を示す図である。
[0107]
 距離情報生成部110は、サンプリング点3201~3204のみから距離情報2901を算出する。サンプリング点3201,3202における値は、f<L となるようなβ’の現像用パターン801と複素センサ画像1602の相互相関演算で生成した複素現像画像の虚部絶対値であり、サンプリング点3203,3204の値は、f>L となるようなβ’の現像用パターン801と複素センサ画像1602の相互相関演算で生成した複素現像画像の虚部絶対値である。
[0108]
 距離情報生成部110は、これら4点の値を基に複素現像画像の虚部絶対値が最小になるβ’を算出する。例えば、サンプリング点3201,3202を通る直線3205を算出するとともに、サンプリング点3203,3204を通過する直線3206を算出し、直線3205と直線3206の交点を算出することで、複素現像画像の虚部絶対値が最小になるβ’を導出し、距離情報2901を生成してもよい。
[0109]
 図33は、複素情報配列の虚部絶対値とサンプリング点の様子の一例を示す図である。図33に示すようにサンプリング点を3点に減らし、サンプリング点3301,3302を通過する直線3304を算出した後、直線3304の傾きの符号を反転させた傾きを持ち、点3303を通過する直線3305を算出し、直線3304と直線3305の交点から距離情報2901を生成してもよい。
[0110]
 図34は、複素情報配列の虚部絶対値とサンプリング点の様子の一例を示す図である。図34に示すように、距離計測変数設定部111で、L <f<L となるような3つのβ’を選んだのち、距離情報生成部110で、3点の評価指標であるサンプリング点3401~3403に対して放物線3404でカーブフィッティングを行うことで、距離情報2901を生成してもよい。
[0111]
 以上説明したように、距離計測装置101は、図32、図33、図34のようにサンプリング点を減らすことにより、図28に示すような5点以上のサンプリング点による距離計測よりも精度は低下するものの、より高速に距離情報を生成することが可能となる。
[0112]
 なお、非探索型測距により粗い精度の距離情報を生成した後に、高精度な探索型の距離情報生成を、非探索型測距により得られた狭い距離計測レンジ内で行うことで、距離情報生成速度と精度の向上を両立させてもよい。
[0113]
<第三の実施の形態>
<非探索型測距 ゼロ交差算出型>
 本発明に係る第三の実施の形態である距離計測装置について説明する。第三の実施の形態である距離計測装置は、距離計測装置101(図1)と同様に構成されるが、評価指標配列の位相角を基に距離情報を生成する点が異なる。
[0114]
 非探索型測距よりもさらに少ないサンプリング点で距離情報2901を生成するためには、図35に示すようなピッチ係数β’に対して線形に変化する評価指標配列を使用することが考えられる。
[0115]
 図35は、複素センサ画像1602と評価用パターン1801の相互相関演算結果の位相角を、評価用パターン1801のピッチ係数β’に対してプロットした結果を示す図である。
[0116]
 たとえば、複素センサ画像1602と現像用パターン801の相互相関演算による複素現像画像の虚数成分および位相角は、β’=β を中心とした一定の領域でピッチ係数β’に対して線形に変化する。
[0117]
 このため、評価指標配列生成部109において、複素センサ画像1602と任意の2つのβ’の現像用パターン801からなる評価用パターン1801の相互相関演算で得た複素情報配列3701の虚数成分もしくは位相角を評価指標配列1603とし、図35に示すようにサンプリング点3501,3502の2点間を通過する直線3503を算出する。その後、直線3503がゼロと交差するβ’を算出し、距離情報2901を生成する。
[0118]
 以上のように距離情報を生成すれば、評価指標配列1603生成に用いるピッチ係数β’を2つにまで低減することができ、高速な距離情報生成が可能となる。
[0119]
 なお、距離情報生成部110は、評価指標配列要素の値を、ピッチ係数β’の代わりに、拡大率α や距離fに対して線形に変化する値に変換し、拡大率α を基に距離情報2901を生成して演算量を減らしてもよい。
[0120]
<第四の実施の形態>
<奥行き方向平滑化パターン>
 本発明に係る第四の実施の形態である距離計測装置について説明する。第四の実施の形態である距離計測装置は、距離計測装置101(図1)と同様に構成されるが、奥行き方向(被写体方向)の現像用パターンを重ねた平滑化パターンを用いることで、ピント位置の範囲を拡大する点において異なる。
[0121]
 図47は、評価指標配列の配列要素の値が評価用パターンのピッチに応じて変化する様子の一例を示す図である。このように、評価指標配列1603の配列要素の値は、ピッチ係数β’、すなわちピント位置を変更すると所定の関数を描くように変化する。なお、当該グラフでは、実線は評価指標配列1603として複素情報配列3701の虚部を用いた場合を示し、破線は複素情報配列3701の虚部の絶対値を用いた場合を示している。
[0122]
 最小値の探索を行う場合において、複素情報配列3701の中に、f 以下(f より近接)もしくはf 2以上(f より遠隔)の位置にピントを合わせた複素現像画像が含まれている場合は、評価指標配列1603の配列要素の値はf 以下もしくはf 以上の領域でほぼゼロになる。そのため、最小値がf 以下もしくはf 以上の領域で発見されると、誤った距離情報2901を出力してしまう可能性がある。
[0123]
 また、上述のゼロ交差算出型の場合には、複素情報配列3701に含まれる2つの複素現像画像のピント位置がf 3との間の範囲外にあると、本来の合焦位置と無関係の位置でゼロ交差してしまう。そのため、本来の被写体距離と異なる距離情報2901が生成されてしまう可能性がある。
[0124]
 これらの可能性を考慮して、本実施形態では、測距演算に使用可能なピント位置の範囲を拡大することで、より高精度な距離計測を実現する。
[0125]
 第四の実施形態では、評価用パターン1801を構成する複数の現像用パターンとして、撮影用パターンと相似形で、ピッチ係数β’が異なる複数のパターンを加算して生成した平滑化パターンを用いる。これについて、図49を用いて説明する。
[0126]
 図49は、平滑化パターン生成の様子の一例を示す図である。評価用パターン1801の現像用パターン801の実部として、撮影用パターン105と相似形であって、ピッチ係数β’が互いに異なる複数のパターン4901~4904を足し合わせた平滑化パターン4905を用いる。
[0127]
 また、評価用パターン1801の現像用パターン801の虚部として、撮影用パターン105と相似形であって、ピッチ係数β’が互いに異なる複数のパターン4906~4909を足し合わせた平滑化パターン4910を用いる。
[0128]
 なお、ここでは実部、虚部ともにそれぞれ4枚のパターンを加算して平滑化パターンを作成する例を示したが、加算するパターンの数は4に限らず、2以上であれば何枚でもよい。また、複数のパターンの加算ではなく、式(3)をβについて積分した式から直接、平滑化パターンを生成して演算効率を高めてもよい。
[0129]
 このような平滑化パターン4905、4910のそれぞれと、複素センサ画像1602との相互相関演算によって生成される複素現像画像は、図18で示した評価用パターン1801を用いて生成した複素情報配列3701を奥行き方向に平滑化したものと同一となる。
[0130]
 なお、距離計測変数設定部111における、平滑化パターン作成に用いるβ’の決定方法としては、複数の方法が考えられ、いずれも効果を奏する。
[0131]
 図55は、奥行き方向の平滑化パターン生成の一例を示す図である。図55では、評価用パターンがN枚の平滑化パターンで構成される場合のβ’の選択方法の一例が示されている。図55は、縦軸にサンプリング番号(1~N)、横軸に被写体までのフォーカス距離をとり、各サンプリング番号に一つのフォーカス距離の範囲を示す領域が設定されていることを示す。第一の領域5501、第二の領域5502、第三の領域5503、第四の領域5504は、それぞれ1、2、3、N番目のサンプリング番号に対応している。
[0132]
 つまり、第一の領域5501、第二の領域5502、第三の領域5503、第四の領域5504は、それぞれが、奥行き方向の平滑化パターンに含まれるフォーカス距離fの範囲を示す。撮影用パターンと相似形であって、ピッチ係数β’が互いに異なる複数のパターンが各領域において加算され、平滑化パターンが作成される。すなわち、各範囲は、ピント位置の範囲を示す。
[0133]
 図48は、評価指標配列の配列要素の値が評価用パターンのピッチに応じて変化する様子の一例を示す図である。以上のように奥行き方向に平滑化した評価用パターンを用いることで、最小値探索による距離計測で使用可能なピント範囲はf ’~f ’に拡大され、ゼロ交差点算出による距離計測で使用可能なピント範囲もf ’~f ’に拡大させることができる。また、以上のような平滑化パターンを使用することで、相互相関演算と同時に奥行き方向の平滑化が実行できるため、複素現像画像生成後に奥行き方向で平滑化する場合に比べ1フレームあたりの演算処理の負荷・時間を低減することが可能である。
[0134]
 ここで、点光源を撮影した場合の複素情報配列を図37の奥行き方向に広がる面3702に沿って切出した場合の等高線プロットを、図50と図51に示す。
[0135]
 図50は、平滑化されていない評価用パターンを用いた場合の複素情報配列の一例を示す図である。図50が示すように、撮影用パターンと相似形の単一のパターンを現像用パターンとして使用すると、デフォーカスに応じた点光源の広がりは図50のように急峻なものとなる。
[0136]
 図51は、平滑化パターンを用いた場合の複素情報配列の一例を示す図である。図51に示すように、平滑化パターンを現像用パターンとして使用すると、デフォーカスに応じた点光源の広がりは緩慢になる。このため、平滑化パターンの使用によって、距離計測に使用可能なピント範囲が広がるだけでなく、面内の他ピクセルからのボケの伝搬の影響も抑制することができ、距離計測結果の外乱を抑制することが可能となる効果がある。
[0137]
<奥行き方向の平滑化パターン作成時の重み付け>
 図49では、平滑化パターン生成の際に、複数のパターン4901~4904および複数のパターン4906~4909をそれぞれ同じ重みで加算した。しかし、これに限られるものではなく、図52に示した通り、それぞれのパターンに異なる重みづけ係数W1(5201)~W4(5204)を乗算するようにしてもよい。
[0138]
 図53は、加重平滑化パターン生成の重み付けの一例を示す図である。重みづけ係数W1(5201)~W4(5204)のそれぞれは、例えば、図53に示すようにガウス関数型の重み5301に沿った値を取ることにより、平滑化範囲を広くとった場合でも、評価指標配列の配列要素の値がピント位置に対して単調増加でなくなることを防ぐことができる。また、非対称な重み5302に沿った重みづけ係数W1(5201)~W4(5204)を付加すれば、評価指標配列の要素の値がゼロと交差する位置がずれることを抑制できる。
[0139]
<奥行き方向の平滑化パターンの担当範囲の多様化>
 平滑化パターンの平滑化レンジの取り方は図55に示したように第一の領域5501、第二の領域5502、第三の領域5503、第四の領域5504のそれぞれは等距離を等間隔で範囲とするものに限らない。
[0140]
 図56は、奥行き方向の平滑化パターン生成の一例を示す図である。図56に示すように、平滑化パターンの領域同士で平滑化レンジが重なっていてもよい。つまり、図56では、第一の領域5501と第二の領域5502、第二の領域5502と第三の領域5503、のそれぞれの間で、重複するフォーカス位置の現像用パターンが含まれることになるが、その場合であっても問題なく採用できる。
[0141]
 図57は、奥行き方向の平滑化パターン生成の一例を示す図である。図57に示すように、フォーカス位置の遠隔化に応じて徐々に平滑化範囲を広げてもよい。すなわち、フォーカス位置が手前にあるほど、平滑化の範囲を狭くするようにしてもよい。一般的にフォーカス位置が遠くにあるほど、現像画像の被写界深度は深くなるため、このような平滑化範囲の取り方によって、近距離の物体、遠距離の物体ともに同程度の平滑化効果をもたらすことが可能となる。
[0142]
 また、フォーカス位置の近接化に応じて徐々に平滑化範囲を広げてもよい。一般的にフォーカス位置が近くにあるほど、より細かなフォーカス位置の検出が必要となることが多いためである。
[0143]
 図58は、奥行き方向の平滑化パターン生成の一例を示す図である。図58に示すように、平滑化パターン同士の間隔を対数スケールで等間隔な場合、平滑化範囲も対数スケールで等しい長さになるように選択してもよい。
[0144]
 図59は、奥行き方向の平滑化パターン生成の一例を示す図である。図59に示すように、平滑化範囲内に負のピント位置が含まれる場合、すなわちピント位置が撮影用パターン105よりもセンサ面側にある場合(距離f-averaging range<0の場合)には、ピッチ係数が無限に発散してしまいエラーとなる可能性がある。この場合でも、第一の領域5501のうち、破線で囲んだ部分(負のfの値となる場合)については平滑化パターンに含まないようにすることでエラーを回避することができる。
[0145]
 図54は、距離計測ソフトウェアのユーザーインターフェースの一例を示す図である。このユーザーインターフェースは、距離計測装置101のディスプレイまたはこれに付随するコンピュータのディスプレイに表示される画面である。距離計測装置101は、この画面を介して距離計測範囲の最小値(Depth Min)、最大値(Depth Max)、平滑化パターンの平滑化レンジ(Depth Averaging Range)および平滑化解像度(Depth Resolution)の入力を受け付ける。なお、距離計測範囲(距離計測レンジ)は、距離計測範囲の最小値(Depth Min)から最大値(Depth Max)までの距離である。
[0146]
 入力された最小値、最大値、平滑化レンジおよび平滑化解像度は、距離計測変数設定部111が評価指標配列生成部109に受け渡す。評価指標配列生成部109は、入力された値を基に評価用パターン1801の現像用画像生成に使用するピッチ係数β’を選択する。たとえば、最小値探索を行う場合は、評価指標配列生成部109は、N枚の現像用パターンのうち1枚目は最小値以下のピント位置に対応するように選択し、N枚目は最大値以上のピント位置に対応するように任意のあるいは所定の値を選択する。なお、入力された距離計測範囲の最小値(Depth Min)は、ピント距離が最短となる平滑化範囲の中央値であり、距離計測範囲の最大値(Depth Max)は、ピント距離が最長となる平滑化範囲の中央値である。
[0147]
 また、ゼロ交差算出処理を行う場合は、評価指標配列生成部109は、2枚の現像用パターンのうち1枚目は最小値以下のピント位置に対応するように選択し、2枚目は最大値以上のピント位置に対応するように選択する。また、平滑化範囲(各領域が担当するフォーカス幅)については、評価指標配列生成部109は、入力された平滑化レンジ(Depth Averaging Range)を使用する。また、平滑化範囲の重なり具合、つまり各平滑化範囲の中央値間の距離については、評価指標配列生成部109は、入力された平滑化解像度(Depth Resolution)を使用する。
[0148]
 なお、評価指標配列生成部109は、入力する平滑化レンジはピント範囲そのものの値以外にも、ピント位置に対する割合等のピント範囲を特定する値を受け付けることで、図57や図58に示したような平滑化範囲で平滑化パターンを作成してもよい。
[0149]
 このように、平滑化を積層方向についての平滑化として、評価指標配列を構成する二次元配列は、奥行き方向(積層方向)の平滑化範囲が互いに異なるようにしても良いし、積層方向の平滑化範囲が、ピント距離が近いほど狭いものとしても良いし、ピント距離が近いほど広いものとしてもよい。
[0150]
 上述のように、第四の実施の形態によれば、奥行き方向(被写体方向)の現像用パターンを重ねた平滑化パターンを用いることで、ピント位置の範囲を拡大することが可能となり、より高精度な距離計測を実現することができる。
[0151]
<第五の実施の形態>
<面内平滑化>
 本発明に係る第五の実施の形態である距離計測装置について説明する。第五の実施の形態である距離計測装置は、距離計測装置101(図1)と同様に構成されるが、複素情報配列の平面内での平滑化を行う点が異なる。
[0152]
 図60は、複素現像画像のプロファイルを示す図である。図60では、線6001により、点光源撮影時のβ’>β となる現像用パターンで現像した複素現像画像の虚部の断面プロットを示す。
[0153]
 複素現像画像の虚部は、中心部から離れるにつれ振動し、符号が反転する特性があるため、ピントが合っていない状態でも値がゼロになる画素(以下、ゼロ点)が面内に存在する。これらのゼロ点に相当する画素は、距離計測結果に誤差をもたらすおそれがあるため、ゼロ点の影響を抑制するのが望ましい。
[0154]
 図38は、評価指標配列変換部内の構成の一例を示す。評価指標配列生成部109の評価指標配列変換部3604は、平滑化カーネル生成部3801と、平滑化カーネル格納部3802と、虚部絶対値変換部3803と、面内平滑化演算部3804と、を含む。
[0155]
 相互相関演算部3603から入力された複素情報配列3701は、虚部絶対値変換部3803へと入力される。虚部絶対値変換部3803は、複素情報配列3701内の各複素現像画像の虚部の絶対値を出力する。
[0156]
 このことを図60のグラフを用いて説明する。図60の線6001に示した複素現像画像が、虚部絶対値変換部3803に入力されると、虚部絶対値変換部3803は、図60に示した線6002に示す虚部絶対値配列を出力する。線6002の出力には依然、ゼロ点が存在しうる。そのため、面内平滑化演算部3804が平滑化カーネル格納部3802に格納されている平滑化カーネルを用いて演算により面内の平滑化を行い、図60の線6003に示す、ゼロ点を除去した虚部絶対値平滑化配列を評価指標配列1603として出力する。
[0157]
 以上のように複素情報配列について、平面内で絶対値変換後に平滑化を行う構成により、ゼロ点を除去して、距離情報の誤差を抑制することができる。
[0158]
 なお、面内平滑化演算部3804での平滑化に使用する平滑化カーネルは、距離計測変数設定部111から入力された平滑化カーネル幅に応じて平滑化カーネル生成部3801で生成されたのち、平滑化カーネル格納部3802に格納され、面内平滑化演算部3804での平滑化処理に合わせて面内平滑化演算部3804へと受け渡される。
[0159]
 また、平滑化カーネル生成部3801で生成されるカーネル関数の形状は距離計測変数設定部111からの入力に基づいて決定しうる。たとえば、平滑化カーネル生成部3801は、図61の例のように平滑化カーネルを決定する。
[0160]
 図61は、平滑化カーネルの一例を示す図である。平滑化カーネル生成部3801は、断面プロット6101に示すような矩形型もしくは円柱型カーネル関数を決定するようにしてもよいし、断面プロット6102に示すような錐型のカーネル関数を決定するようにしてもよいし、断面プロット6103に示すようなガウス関数型のカーネル関数を決定するようにしてもよい。
[0161]
 また、平滑化カーネルのカーネル幅についても、平滑化カーネル生成部3801は、図62の例のように距離計測変数設定部111からの入力に基づいて決定する。
[0162]
 図62は、平滑化カーネルのカーネル幅の一例を示す図である。図60に示した複素現像画像の線6001の幅は、一般的に現像用パターンのピッチ係数β’に対して反比例の関係にある。そのため、評価用パターン生成部3601で生成される複数の現像用パターンのβ’に対して、それぞれ図62に示すカーネル幅の平滑化カーネルを作成すればよい。
[0163]
 なお、現像用パターンとして第四の実施形態における平滑化パターン(奥行き方向の平滑化パターン)を使用する場合には、平滑化カーネル生成部3801は、平滑化範囲中の代表的なβ’を基にカーネル幅を決定すればよい。なお、すべての複素現像画像の虚部絶対値に対して同一の平滑化カーネルパターンによる平滑化を行ってもよい。
[0164]
 図66は、面内平滑化による距離計測処理の一例を説明するフローチャートである。ステップ6601では、評価用パターン生成部3601が、評価用パターン1801を生成する。
[0165]
 そして、ステップ6602では、平滑化カーネル生成部3801が、平滑化カーネルを生成し、平滑化カーネル格納部3802に格納する。そして、ステップ6603では、画像センサ103が、センサ画像を取得する。画像センサ103により取得されたセンサ画像を用いて、ステップ6604において複素センサ画像生成部108が複素センサ画像1602を生成する。
[0166]
 ステップ6605では、複素センサ画像1602と評価用パターン1801の相互相関演算を相互相関演算部3603で行い、複素情報配列3701を生成する。
[0167]
 ステップ6606では、虚部絶対値変換部3803が、複素情報配列3701の虚部絶対値を抽出し、面内平滑化演算部3804が、複素情報配列3701の虚部絶対値をステップ6602で生成した平滑化カーネルを用いて平滑化し、評価指標配列1603を生成する。
[0168]
 ステップ6607では、距離情報生成部110が、評価指標配列1603を用いて距離情報を生成し出力する。
[0169]
 以上が、平滑化カーネルを用いて面内平滑化を行う場合の距離計測処理の一例である。面内平滑化を行うことにより、エッジ内外での測距誤差を小さくすることができる。なお、ステップ6601で生成する評価用パターン1801を構成する現像用パターンは、撮影用パターンと相似形のパターンであってもよいし、第四の実施形態において説明した、撮影用パターンと相似形のパターンを複数枚足し合わせた平滑化パターンであってもよい。
[0170]
 平滑化パターンを現像用パターンとして生成することにより、第四の実施形態において説明した奥行き方向の平滑化による測距レンジ拡大効果と、第五の実施形態において説明した面内方向の平滑化による測距精度向上効果と、の両方を得られる。
[0171]
 また、ステップ6602の平滑化カーネル生成のタイミングは、ステップ6601の直後に実施するに限られず、ステップ6606の実施前であれば、いつ行っても構わない。
[0172]
<第六の実施の形態 微分>
 本発明に係る第六の実施の形態である距離計測装置について説明する。第六の実施の形態である距離計測装置は、距離計測装置101(図1)と同様に構成されるが、複素現像画像に対して面内の微分演算を行う点において異なる。
[0173]
 図63は、複素現像画像のプロファイルの一例を示す図である。このプロファイルは、一般的な被写体(風景等)を撮影した場合の複素現像画像虚部の様子を示す。被写体中にステップ応答6301のような輝度変化がある場合、β’<β における複素現像画像の虚部は、プロット6302に示すように、左右非対称な形状になる。一方、β’>β における複素現像画像の虚部は、プロット6303に示す通り、プロット6302と左右が反転した非対称な形状になる。なお、一般被写体の場合、ステップ応答6301の左側領域は必ずしもゼロではないため、複素現像画像虚部にはフロアとしてオフセット成分6304が加算される。
[0174]
 その結果、そのままではステップ応答6301のエッジ部分(図の縦の破線)では複素現像画像の値がβ’に対して変化しないため、前述の最小値探索およびゼロ交差点の算出による距離情報生成は行えない。また、エッジの外側(左側)では、オフセット成分6304の影響を受け、最小値探索およびゼロ交差点の算出のいずれを用いた場合も、距離情報の値が実際の距離よりも大きくなる。一方で、エッジの内側(右側)では、オフセット成分6304の影響を受け、最小値探索およびゼロ交差点の算出のいずれを用いた場合も、距離情報の値が実際の距離よりも小さくなる。
[0175]
 以上をまとめると、一般被写体の場合、エッジ部分そのものでは距離情報の生成が行えず、エッジの外側では実際よりも遠方に被写体があり、エッジの内側では実際よりも近くに被写体があることを示す距離情報が生成されてしまう。つまり、異なる二色で構成された被写体は、等距離にあるにも関わらず、色の部分により異なる距離が算出されることがある。
[0176]
 図64は、複素現像画像のプロファイルを微分した一例を示す図である。図64に示すように、図63に示した一般被写体のプロファイルであっても、複素現像画像を微分することで、複素現像画像のエッジ部分の非対称性とオフセット成分を除去することができる。そのため、エッジ部分での距離情報の生成とエッジ内外での距離情報の誤差を同時に解決することができる。
[0177]
 このような微分処理を適用するために、相互相関演算部3603において、複素微分パターンと複素センサ画像とを用いて相互相関演算を行うことが考えられる。このような複素微分パターンの生成方法について、図65を用いて説明する。
[0178]
 図65は、複素微分パターン生成の一例を示す図である。複素微分パターンは評価用パターン1801の現像用パターン801の一例ともいえる。評価用パターン生成部3601は、現像用パターンの実部として、撮影用パターン105と相似形のピッチ係数β’のパターン6501と、パターン6501と同ピッチ係数のパターン6502との差を用いて、複素微分パターン6503を生成する。ただし、パターン6501とパターン6502のパターン中心は、いずれかの方向に少なくとも1ピクセル以上ずれている。
[0179]
 評価用パターン生成部3601は、現像用パターンの虚部として、撮影用パターン105と相似形のピッチ係数β’のパターン6504と、パターン6504と同ピッチ係数のパターン6505との差を用いて、複素微分パターン6506を生成する。ただし、虚部のパターン6504のパターン中心は、実部のパターン6501のパターン中心と一致し、虚部のパターン6505のパターン中心は、実部のパターン6502のパターン中心と一致するものとする。
[0180]
 以上のようにして生成された複素微分パターン6503、6506からなる複素微分パターンを用いて、複素センサ画像1602との相互相関演算を相互相関演算部3603が行うことで、図64で示すようなプロファイルを有する複素現像画像を生成できる。そして、微分された複素現像画像を用いて評価指標配列1603を生成させることで、距離情報生成部110において生成される距離情報の精度、とくにエッジ部の距離情報の精度を向上させることが可能となる。なお、以上のように複素微分パターンを用いて相互相関演算を行うことにより、複素現像画像を生成後に微分フィルタをかける処理を省略することができる。つまり、1フレームごとの処理の負荷・時間を低減することができる。
[0181]
 上記の複素微分パターンを用いる距離計測フローは、図27に示したフローと基本的に同様である。一部相違する点は、ステップ2701において生成する評価用パターン1801が、複素微分パターンである点である。なお、複素微分パターンを用いて相互相関演算を行う処理においては、平滑化パターンを用いた相互相関演算による奥行き方向の平滑化と、平滑化カーネルを用いた面内方向平滑化とのいずれかまたは両方を組み合わせて適用してもよい。
[0182]
<第七の実施の形態 奥行き方向平滑化と微分>
 第七の実施の形態は、第四の実施の形態における平滑化パターンによる奥行き方向の平滑化と、第六の実施の形態における複素微分パターンによる演算と、を組み合わせる距離計測装置に係る実施の形態である。第七の実施の形態に係る距離計測装置が実施する評価用パターンの生成方法について、以下に説明する。
[0183]
 第七の実施の形態に係る評価用パターンは、図27に示したステップ2701において、評価用パターン生成部3601により生成される。具体的には、評価用パターン生成部3601は、図67に示すように、評価用パターン1801の実部および虚部ともに、異なるピッチ係数β´を有するパターンから生成された複素微分パターンを複数加算して、微分平滑化パターンを生成する。
[0184]
 図67は、微分平滑化パターン生成の一例を示す図である。微分平滑化パターン生成においては、評価用パターン生成部3601は、評価用パターン1801の現像用パターンの実部として、複素微分パターンの実部6701~6704を加算して生成した微分平滑化パターン6705を生成する。同様に、評価用パターン生成部3601は、評価用パターン1801の現像用パターンの虚部として、複素微分パターンの虚部6706~6709を加算して生成した微分平滑化パターン6710を生成する。
[0185]
 なお、複素微分パターン6701~6704のそれぞれの作成に用いる2つのパターンのピッチ係数は、複素微分パターン6701~6704のそれぞれで互いに異なる。また、実部の複素微分パターン6701と対応する虚部の複素微分パターン6706は、同じピッチ係数のパターンから生成されている。複素微分パターン6702~6704と、複素微分パターン6707~6709についても、同様である。
[0186]
 なお、第四の実施形態においても説明した通り、微分平滑化パターン6705と、微分平滑化パターン6710との生成に用いる微分パターンはそれぞれ4枚に限られず、2枚以上であれば何枚使用しても構わない。また、式(3)をβについて積分し、微分処理することで直接的に微分平滑化パターンを生成してもよい。このようにすることで、演算量を抑制することができる。
[0187]
 以上が、第七の実施の形態に係る距離計測装置である。第七の実施の形態に係る距離計測装置によれば、ピント位置の範囲を拡大するとともに、エッジがある場合でも精度の高い距離を計測することができる。
[0188]
<第八の実施の形態 奥行き方向平滑化、面内平滑化および微分>
 第八の実施の形態は、第四の実施の形態における奥行き方向の平滑化と、第五の実施の形態における平滑化カーソルを用いた平滑化フィルタによる面内平滑化と、第六の実施の形態における複素微分パターンによる演算と、を組み合わせる距離計測装置に係る実施の形態である。第八の実施の形態に係る距離計測装置が実施する評価用パターンの生成方法について、図66を用いて以下に説明する。
[0189]
 第八の実施の形態に係る距離計測方法では、基本的には図66に示した第五の実施の形態に係る距離計測装置と同様の処理を行う。ただし、第八の実施の形態に係る評価用パターンは、図66に示したステップ6601において、評価用パターン生成部3601により、複素微分パターンまたは微分平滑化パターンとして生成される。具体的には、評価用パターン生成部3601は、評価用パターン1801の実部および虚部ともに、同じピッチ係数β´を有するパターンの中心を一ピクセル以上所定の方向にずらして差分を取った複素微分パターンを生成する。もしくは、評価用パターン生成部3601は、評価用パターン1801の実部および虚部ともに、異なるピッチ係数β´を有するパターンから生成された複素微分パターンを複数加算して、微分平滑化パターンを生成する。
[0190]
 また、複素微分パターンは、図65に示した方法以外にも、たとえば図69に示すような方法を採用できる。図69は、微分パターンの他の例を示す図である。評価用パターン生成部3601は、縦方向に一ピクセル以上ずらして2枚のパターンの差分を取るように生成してもよいし、斜め方向に一ピクセル以上ずらして2枚のパターンの差分を取るように生成してもよい。あるいは、評価用パターン生成部3601は、下式(12),(13)に示したラプラシアンカーネルとの畳み込み演算によって生成するようにしてもよい。
[0191]
[数12]


[0192]
[数13]


[0193]
 このように、第八の実施の形態に係る距離計測装置によれば、演算量を抑制しつつ、高速かつ正確に距離を計測することができる。
[0194]
<第九の実施の形態 複数の評価用パターンの統合>
 第九の実施の形態は、第一の実施の形態~第八の実施の形態に示した各実施の形態に係る距離計億装置において、複数の評価用パターンによる演算の結果得られる距離情報を統合して距離情報を得る距離計測装置に係る実施の形態である。第九の実施の形態に係る距離計測装置が実施する距離計測方法について、図68を用いて以下に説明する。
[0195]
 第九の実施の形態に係る距離計測装置の距離計測方法は、基本的に第一の実施形態に係る距離計測装置の距離計測方法と同様であるが、一部に相違がある。以下、相違点を中心に説明する。
[0196]
 図68は、距離計測処理の一例を説明するフローチャートである。まず、評価用パターン生成部3601は、ステップ6801において、評価用パターンを2つ以上(例えば、2種類)生成し、ステップ6803~ステップ6806においてそのうちの一つと、複素センサ画像1602と、を用いて相互相関演算を行って距離情報1を算出する。同様に、ステップ6807~ステップ6809において残る一つと、複素センサ画像1602と、を用いて相互相関演算を行って距離情報2を算出する。それ以上の評価用パターンがある場合には、その残りの評価用パターンについても同様に距離情報を算出する。
[0197]
 ステップ6810において、距離情報1と距離情報2とを統合し、一つの距離情報として出力する。その統合方法は、例えば、距離情報1と距離情報2の同一画素における平均値を計算する方法が考えられる。距離情報が複数得られた場合には、同様に平均値、最頻値、中央値等の各種統計的な値を用いて統合することができる。
[0198]
 なお、評価用パターン生成部3601は、ステップ6801において、面内方向の互いに異なる方向について微分した複数の評価用パターンを生成するようにしてもよい。
[0199]
 以上が、第九の実施の形態に係る距離計測装置の例である。第九の実施の形態に係る距離計測装置によれば、より精度の高い距離情報を得ることができる。
[0200]
 なお、本発明は上記した実施の形態に限定されるものではなく、様々な変形が可能である。例えば、上記した各実施の形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。
[0201]
 また、ある実施の形態の構成の一部を他の実施の形態の構成に置き換えたり、追加したりすることが可能である。
[0202]
 また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。
[0203]
 また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。

符号の説明

[0204]
101・・・距離計測装置、102・・・撮像部、103・・・画像センサ、103a・・・画素、104・・・パターン基板、105・・・撮影用パターン、106・・・画像処理部、107・・・コントローラ、108・・・複素センサ画像生成部、109・・・評価指標配列生成部、110・・・距離情報生成部、111・・・距離計測変数設定部、801・・・現像用パターン、1201・・・撮影用パターン、1202・・・変調器制御部、1301・・・撮影用パターン、1302・・・画像分割部、1401・・・点、1402・・・投影像、1501・・・点、1502・・・投影像、1601・・・センサ画像、1602・・・複素センサ画像、1603・・・評価指標配列、1801・・・評価用パターン、1901・・・被写体、2901・・・距離情報、3101・・・距離計測レンジ入力部、3601・・・評価用パターン生成部、3602・・・評価用パターン格納部、3603・・・相互相関演算部、3604・・・評価指標配列変換部、3701・・・複素情報配列、3801・・・平滑化カーネル生成部、3802・・・平滑化カーネル格納部、3803・・・虚部絶対値変換部、3804・・・面内平滑化演算部

請求の範囲

[請求項1]
 光を電気信号に変換し、センサ画像を生成する画像センサと、
 撮影用パターンに基づいて前記画像センサ上に投影される光の強度を変調する変調器と、
 前記センサ画像から複素数を有する複素センサ画像を生成する複素センサ画像生成部と、
 前記複素センサ画像の位相情報を基に評価指標配列を生成する評価指標配列生成部と、
 前記評価指標配列を用いて距離情報を生成する距離情報生成部と、を有し、
 前記評価指標配列生成部は、
 ピント距離に応じた複数の互いに異なる現像用パターンを含む評価用パターンを生成し、
 前記複素センサ画像と複数の前記現像用パターンとの相互相関演算を行って複数の現像画像を生成し、
 前記複数の現像画像をピント距離が近い順に積層させることで平面および奥行き方向を有する三次元の複素情報配列を生成し、
 前記複素情報配列について前記三次元の少なくとも一つの方向に所定の範囲で平滑化して二次元配列を複数生成し、該二次元配列を前記積層方向に積層させた三次元配列を前記評価指標配列とする、
 ことを特徴とする距離計測装置。
[請求項2]
 請求項1に記載の距離計測装置であって、
 前記現像用パターンは、前記撮影用パターンと相似形であり、
 前記距離情報生成部は、前記現像用パターンの前記撮影用パターンからの拡大率を用いて前記距離情報を生成する、
 ことを特徴とする距離計測装置。
[請求項3]
 請求項1に記載の距離計測装置であって、
 前記現像用パターンは、前記撮影用パターンと相似形であって拡大率が互いに異なる複数のパターンを足し合わせて生成されたものであり、
 前記評価指標配列生成部は、
 前記現像用パターンと相互相関演算を行うことで、前記複素情報配列の前記積層方向の平滑化を行う、
 ことを特徴とする距離計測装置。
[請求項4]
 請求項3に記載の距離計測装置であって、
 前記評価指標配列生成部は、前記拡大率が互いに異なる複数のパターンをそれぞれ異なる重みづけにより前記現像用パターンを生成する、
 ことを特徴とする距離計測装置。
[請求項5]
 請求項1に記載の距離計測装置であって、
 前記平滑化は積層方向についての平滑化であり、
 前記評価指標配列を構成する前記二次元配列は、前記積層方向の平滑化範囲が互いに異なる、
 ことを特徴とする距離計測装置。
[請求項6]
 請求項5に記載の距離計測装置であって、
 前記現像用パターンは、前記撮影用パターンと相似形であって拡大率が互いに異なる複数のパターンを足し合わせて生成されたものであり、
 前記評価指標配列生成部は、
 前記現像用パターンと相互相関演算を行うことで、前記複素情報配列の前記積層方向の平滑化を行う、
 ことを特徴とする距離計測装置。
[請求項7]
 請求項1に記載の距離計測装置であって、
 前記現像用パターンは、前記撮影用パターンと相似形であって、
 前記評価指標配列生成部は、
 前記複素情報配列の虚部絶対値について、前記平面の面内方向に平滑化を行う、
 ことを特徴とする距離計測装置。
[請求項8]
 請求項1に記載の距離計測装置であって、
 前記現像用パターンは、前記撮影用パターンと相似形であって、
 前記評価指標配列生成部は、
 前記複素情報配列の虚部絶対値について、前記平面の面内方向に平滑化を行い、
 前記平滑化に用いる平滑化カーネルのカーネル幅を、前記現像用パターンの前記撮影用パターンからの拡大率を用いて特定する、
 ことを特徴とする距離計測装置。
[請求項9]
 請求項1に記載の距離計測装置であって、
 前記評価指標配列生成部は、
 前記複素情報配列について前記平面内の少なくとも一方向について微分演算を行った結果を用いて、前記評価指標配列を生成する、
 ことを特徴とする距離計測装置。
[請求項10]
 請求項1に記載の距離計測装置であって、
 前記評価指標配列生成部は、
 前記複素情報配列について前記平面内の少なくとも一方向について微分演算を行った結果を用いて、前記評価指標配列を生成するものであり、
 前記撮影用パターンと相似形のパターンであって互いに少なくとも1画素以上平行移動した位置ずれを有する少なくとも二つのパターンの差を、前記現像用パターンとして生成し、
 前記現像用パターンを用いて前記複素センサ画像と相互相関演算を行うことで、前記微分演算を行う、
 ことを特徴とする距離計測装置。
[請求項11]
 請求項1に記載の距離計測装置であって、
 前記評価指標配列生成部は、
 面内方向の互いに異なる方向について微分する複数の前記評価用パターンを生成することで複数の前記評価指標配列を生成し、
 前記距離情報生成部は、
 複数の前記評価指標配列を用いて複数の前記距離情報を生成し、
 前記複数の距離情報を統合することで前記距離情報を生成する、
 ことを特徴とする距離計測装置。
[請求項12]
 請求項1に記載の距離計測装置であって、
 前記評価指標配列の各配列要素は正負の値を取りうる数値の集合であり、
 前記現像用パターンは、前記撮影用パターンを所定の拡大率で拡大した相似形であり、
 前記距離情報生成部は、前記各配列要素がゼロになる前記拡大率を特定して該拡大率に応じて前記距離情報を生成する、
 ことを特徴とする距離計測装置。
[請求項13]
 請求項1に記載の距離計測装置であって、
 前記現像用パターンは、前記撮影用パターンを所定の拡大率で拡大した相似形であり、
 前記評価指標配列の各配列要素は、前記拡大率に比例して変化する、
 ことを特徴とする距離計測装置。
[請求項14]
 請求項1に記載の距離計測装置であって、
 前記現像用パターンは、前記撮影用パターンを所定の拡大率で拡大した相似形であり、
 距離計測対象までの距離に応じて、距離計測範囲と距離計測分解能とを設定する距離計測変数設定部を有し、
 前記評価指標配列生成部は、前記距離計測範囲と前記距離計測分解能とに応じて前記現像用パターンの前記撮影用パターンからの拡大率を選択して前記評価用パターンを生成する、
 ことを特徴とする距離計測装置。
[請求項15]
 光を電気信号に変換し、センサ画像を生成するセンサ画像生成ステップと、
 撮影用パターンに基づいて前記画像センサ上に投影される光の強度を変調する変調ステップと、
 前記センサ画像から複素数を有する複素センサ画像を生成する複素センサ画像生成ステップと、
 前記複素センサ画像の位相情報を基に評価指標配列を生成する評価指標配列ステップと、
 前記評価指標配列を用いて距離情報を生成する距離情報生成ステップを有し、
 前記評価指標配列生成ステップでは、ピント距離に応じた複数の互いに異なる現像用パターンを含む評価用パターンを生成し、
 前記複素センサ画像と複数の前記現像用パターンとの相互相関演算を行って複数の現像画像を生成し、
 前記複数の現像画像をピント距離が近い順に積層させることで平面および奥行き方向を有する三次元の複素情報配列を生成し、
 前記複素情報配列について前記三次元の少なくとも一つの方向に所定の範囲で平滑化して二次元配列を複数生成し、該二次元配列を前記積層方向に積層させた三次元配列を前記評価指標配列とする、
 ことを特徴とする距離計測方法。

図面

[ 図 1]

[ 図 2]

[ 図 3]

[ 図 4]

[ 図 5]

[ 図 6]

[ 図 7]

[ 図 8]

[ 図 9]

[ 図 10]

[ 図 11]

[ 図 12]

[ 図 13]

[ 図 14]

[ 図 15]

[ 図 16]

[ 図 17]

[ 図 18]

[ 図 19]

[ 図 20]

[ 図 21]

[ 図 22]

[ 図 23]

[ 図 24]

[ 図 25]

[ 図 26]

[ 図 27]

[ 図 28]

[ 図 29]

[ 図 30]

[ 図 31]

[ 図 32]

[ 図 33]

[ 図 34]

[ 図 35]

[ 図 36]

[ 図 37]

[ 図 38]

[ 図 39]

[ 図 40]

[ 図 41]

[ 図 42]

[ 図 43]

[ 図 44]

[ 図 45]

[ 図 46]

[ 図 47]

[ 図 48]

[ 図 49]

[ 図 50]

[ 図 51]

[ 図 52]

[ 図 53]

[ 図 54]

[ 図 55]

[ 図 56]

[ 図 57]

[ 図 58]

[ 図 59]

[ 図 60]

[ 図 61]

[ 図 62]

[ 図 63]

[ 図 64]

[ 図 65]

[ 図 66]

[ 図 67]

[ 図 68]

[ 図 69]