Pesquisa nas coleções internacionais e nacionais de patentes
Algum conteúdo deste aplicativo está indisponível no momento.
Se esta situação persistir, por favor entre em contato conoscoFale conosco & Contato
1. (WO2018179875) IMAGE CAPTURING DEVICE, FOCUS CONTROL METHOD AND FOCUS DETERMINATION METHOD
Document

明 細 書

発明の名称 撮像装置とフォーカス制御方法およびフォーカス判定方法

技術分野

0001  

背景技術

0002  

先行技術文献

特許文献

0003  

発明の概要

発明が解決しようとする課題

0004   0005  

課題を解決するための手段

0006   0007   0008   0009   0010   0011   0012   0013   0014   0015  

発明の効果

0016  

図面の簡単な説明

0017  

発明を実施するための形態

0018   0019   0020   0021   0022   0023   0024   0025   0026   0027   0028   0029   0030   0031   0032   0033   0034   0035   0036   0037   0038   0039   0040   0041   0042   0043   0044   0045   0046   0047   0048   0049   0050   0051   0052   0053   0054   0055   0056   0057   0058   0059   0060   0061   0062   0063   0064   0065   0066   0067   0068   0069   0070   0071   0072   0073   0074   0075   0076   0077   0078   0079   0080   0081   0082   0083   0084   0085   0086   0087   0088   0089   0090   0091   0092   0093   0094   0095   0096   0097   0098   0099   0100   0101   0102   0103   0104   0105   0106   0107   0108   0109   0110   0111   0112   0113   0114   0115   0116   0117   0118   0119   0120   0121   0122   0123   0124   0125   0126   0127   0128   0129   0130   0131   0132   0133   0134   0135   0136   0137   0138   0139   0140   0141   0142   0143   0144   0145   0146   0147   0148   0149   0150   0151   0152   0153   0154   0155   0156   0157   0158   0159   0160   0161   0162   0163   0164   0165   0166   0167   0168   0169   0170   0171   0172   0173   0174   0175   0176   0177   0178   0179   0180   0181   0182   0183   0184   0185   0186   0187   0188   0189   0190   0191  

産業上の利用可能性

0192  

符号の説明

0193  

請求の範囲

1   2   3   4   5   6   7   8   9   10   11   12   13   14   15   16   17   18   19   20  

図面

1   2   3   4   5   6   7   8   9   10   11   12   13   14   15  

明 細 書

発明の名称 : 撮像装置とフォーカス制御方法およびフォーカス判定方法

技術分野

[0001]
 この技術は、撮像装置とフォーカス制御方法およびフォーカス判定方法に関し、高速かつ品位のよいオートフォーカス動作を行えるようにする。

背景技術

[0002]
 従来、撮像装置では、フォーカス制御方法として、フォーカスレンズを移動させながら撮像素子で生成された撮像信号に基づきコントラスト評価値を算出して、コントラスト評価値が最大となるフォーカスレンズ位置を探索するコントラスト検出方式のフォーカス制御が行われている。また、フォーカス制御方法では、撮像光学系における互いに異なる射出瞳領域を通過した光束を撮像面に設けた位相差検出画素で受光して得た2つの位相差画像の位相ズレに基づいてデフォーカス量を算出して、デフォーカス量に相当する移動量だけフォーカスレンズを移動させる像面位相差方式のフォーカス制御が行われている。さらに、特許文献1では、位相差を検出するための画素を有する撮像素子を用いて、像面位相差方式のフォーカス制御だけでなく、コントラスト方式のフォーカス制御を行うことが開示されている。

先行技術文献

特許文献

[0003]
特許文献1 : 特開2008-134389号公報

発明の概要

発明が解決しようとする課題

[0004]
 ところで、像面位相差方式のフォーカス制御では、例えば焦点距離が長い撮像レンズを用いた場合にフォーカスが大きくずれた状態となると、撮像面上の画像も大きくぼけてしまう。このため、位相差情報の情報量が少なくデフォーカス量を正しく算出することが困難となる。このような場合、制御方法をコントラスト検出方式に切り替えることで所望の被写体に焦点を合わせることができる。しかし、コントラスト検出方式では、フォーカスレンズを移動させて評価値の算出を行い、算出した評価値に基づき合焦方向や合焦位置の検出が行われる。したがって、コントラスト検出方式に切り替えられる頻度が高くなると、合焦状態となるまでに時間を要する場合が多くなり、品位も低下する。
[0005]
 そこで、この技術では、高速かつ品位のよいオートフォーカス動作を可能とする撮像装置とフォーカス制御方法およびフォーカス判定方法を提供することを目的とする。

課題を解決するための手段

[0006]
 この技術の第1の側面は、
 画像出力画素と位相差検出画素とを含む撮像素子と、
 所定期間に亘って前記位相差検出画素を用いて得られる像面位相差情報に基づいたフォーカス制御を行いながら得られるフォーカス状態情報に基づいてフォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成し、
前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化であることを示す場合、前記像面位相差情報に基づく像面位相差フォーカス制御を継続する制御部と
を備える撮像装置にある。
[0007]
 この技術においては、画像出力画素と位相差検出画素とを含む撮像素子を用いて撮像が行われる。制御部では、所定期間に亘って位相差検出画素を用いて得られる像面位相差情報に基づいたフォーカス制御を行い、フォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成する。
[0008]
 制御部は、フォーカス状態の変化が単調変化か否かを、例えばフォーカスレンズのレンズ実位置の変化量または像面位相差情報が示すデフォーカス量の変化量に基づいて判定してフォーカス状態変化情報を生成する。また、制御部は、フォーカスレンズのレンズ実位置の変化量または像面位相差情報が示すデフォーカス量の変化量の周波数特性に基づいて判定してフォーカス状態変化情報を生成してもよく、フォーカスレンズのレンズ実位置または像面位相差情報が示すデフォーカス量に基づいて判定してフォーカス状態変化情報を生成してもよい。
[0009]
 制御部は、フォーカス状態変化情報が、フォーカス状態の変化が単調変化であることを示す場合、像面位相差情報に基づくフォーカス制御を継続する。また、制御部は、制御部は、フォーカス状態変化情報が、フォーカス状態の変化が単調変化でないことを示す場合、像面位相差情報に基づくフォーカス制御から、像面位相差情報以外の情報に基づくフォーカス制御、または像面位相差情報と像面位相差情報以外の情報とに基づくフォーカス制御に切り替える。像面位相差情報以外の情報に基づくフォーカス制御としては、画像出力画素を用いて得られる画像情報または撮像素子と別個に設けられた測距情報生成素子で得られた測距情報に基づくフォーカス制御を行ってもよく、画像出力画素を用いて得られる画像情報に基づくフォーカス制御と画像情報と異なる情報に基づくフォーカス制御の切り替えを行ってもよい。
[0010]
 また、制御部は、所定期間に先だって、位相差検出画素の出力から得られる視差を持つ2像の相関演算を行い、相関演算結果の信頼性を判定して、相関演算結果の信頼性があると判定した場合にフォーカス状態変化情報を生成して、相関演算結果の信頼性がないと判定した場合、フォーカスレンズを一方の端部側から他方の端部側へ移動して合焦位置を検出する全サーチ動作を行う。
[0011]
 この技術の第2の側面は、
 画像出力画素と像面位相差検出画素とを含む撮像素子と、
 所定期間に亘って前記位相差検出画素を用いて得られる像面位相差情報に基づく像面位相差フォーカス制御を行いながら得られるフォーカス状態情報に基づいて、フォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成し、前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化であることを示す場合、フォーカスレンズの焦点位置ズレが大きい状態と判定して、前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化でないことを示す場合、前記画像出力画素によって撮像された被写体のコントラストが低い状態と判定する判定部と
を備える撮像装置にある。
[0012]
 この技術においては、画像出力画素と位相差検出画素とを含む撮像素子を用いて撮像が行われる。判定部では、所定期間に亘って位相差検出画素を用いて得られる像面位相差情報に基づいたフォーカス制御を行い、フォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成する。例えば、フォーカス状態情報は、フォーカスレンズのレンズ実位置または像面位相差情報が示すデフォーカス量であり、判定部は、フォーカス状態の変化が単調変化か否かをレンズ実位置の変化量またはデフォーカス量の変化量で判定する。また、フォーカス状態情報は、フォーカスレンズのレンズ実位置または像面位相差情報が示すデフォーカス量であり、判定部は、フォーカス状態の変化が単調変化か否かをフォーカスレンズのレンズ実位置の変化量の周波数特性またはデフォーカス量の変化量の周波数特性で判定する。また、フォーカス状態情報は、フォーカスレンズのレンズ実位置及び像面位相差情報が示すデフォーカス量であり、判定部は、フォーカス状態の変化が単調変化か否かをフォーカスレンズのレンズ実位置とデフォーカス量の双方に基づいて判定する。
[0013]
 また、判定部は、所定期間に先だって、像面位相差検出画素の出力から得られる視差を持つ2像の相関演算結果の信頼性を判定し、相関演算結果の信頼性があると判定した場合に、制御部は、フォーカス状態変化情報の生成を開始する。また、判定部は、状態判定結果をユーザに提示する情報提示部での状態判定結果の提示を制御する。
[0014]
 この技術の第3の側面は、
 画像出力画素と位相差検出画素とを含む撮像素子の前記位相差検出画素を用いて所定期間に亘って得られる像面位相差情報に基づいた像面位相差フォーカス制御を行いながら得られるフォーカス状態情報に基づいて、フォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成することと、
前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化であることを示す場合、前記像面位相差情報に基づく像面位相差フォーカス制御を継続することと
を含むフォーカス制御方法にある。
[0015]
 この技術の第4の側面は、
 画像出力画素と像面位相差検出画素とを含む撮像素子の前記位相差検出画素を用いて所定期間に亘って得られる像面位相差情報に基づいた像面位相差フォーカス制御を行いながら得られるフォーカス状態情報に基づいて、フォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成することと、
前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化であることを示す場合、フォーカスレンズの焦点位置ズレが大きい状態と判定し、前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化でないことを示す場合、前記画像出力画素によって撮像された被写体のコントラストが低い状態と判定することと
を含むフォーカス制御方法。

発明の効果

[0016]
 この技術によれば、画像出力画素と位相差検出画素とを含む撮像素子が用いられて、制御部は、所定期間に亘って位相差検出画素を用いて得られる像面位相差情報に基づいたフォーカス制御を行いながら得られるフォーカス状態情報に基づいてフォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成し、フォーカス状態変化情報が、フォーカス状態の変化が単調変化であることを示す場合、像面位相差情報に基づく像面位相差フォーカス制御を継続する。このため、例えばコントラスト方式のオートフォーカス動作を行う頻度が少なくなり、高速かつ品位のよいオートフォーカス動作が可能となる。なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。

図面の簡単な説明

[0017]
[図1] 第1の実施の形態の構成を例示した図である。
[図2] 第1の実施の形態の動作を示すフローチャートである。
[図3] 像面位相差AF動作を行った場合における被写体とレンズ位置の軌跡およびデフォーカス量の軌跡の関係を例示した図である。
[図4] フォーカス状態変化情報の生成動作を例示したフローチャートである。
[図5] レンズ位置変化量の単調変化を説明するための図である。
[図6] 第1の実施の形態の動作例を示す図である。
[図7] 評価関数に用いるパラメータを説明するための図である。
[図8] 第2の実施の形態の動作を示すフローチャートである。
[図9] 第3の実施の形態の構成を例示した図である。
[図10] 第3の実施の形態の動作を示すフローチャートである。
[図11] 第4の実施の形態の動作を示すフローチャートである。
[図12] 手術室システムの全体構成を概略的に示す図である。
[図13] 集中操作パネルにおける操作画面の表示例を示す図である。
[図14] 手術室システムが適用された手術の様子の一例を示す図である。
[図15] 図14に示すカメラヘッド及びCCUの機能構成の一例を示すブロック図である。

発明を実施するための形態

[0018]
 以下、本技術を実施するための形態について説明する。なお、説明は以下の順序で行う。
 1.第1の実施の形態
 2.第2の実施の形態
 3.第3の実施の形態
 4.第4の実施の形態
 5.他の実施の形態
 6.応用例
[0019]
 <1.第1の実施の形態>
 次に、本技術の撮像装置の第1の実施の形態について説明する。図1は、第1の実施の形態の構成を例示している。
[0020]
 撮像装置10は、撮像レンズ20と本体部30で構成されている。撮像レンズ20は、撮像光学系21とレンズ駆動処理部22を有している。撮像光学系21はフォーカスレンズを用いた構成されている。また、撮像光学系21は、フォーカスレンズだけでなくズームレンズや絞り機構等を用いた構成であってもよい。
[0021]
 レンズ駆動処理部22は、本体部30からのレンズ制御信号に基づき、撮像光学系21におけるフォーカスレンズのレンズ位置を移動させる。また、レンズ駆動処理部22は、フォーカスレンズのレンズ実位置(以下「レンズ位置」という)を示す情報等を生成して本体部30へ出力する。
[0022]
 本体部30は、撮像部31、前処理部32、画像処理部33、表示部35、記録部36、ユーザインタフェース(I/F)部39、制御部51を備えて構成されている。なお、本体部30は、図に記載されていない機能ブロックを有してもよく、図に記載されている機能ブロックの一部を含まない構成であってもよい。
[0023]
 撮像部31は、CMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を用いて構成されている。また、撮像素子では、撮像面内に画像出力画素と位相差検出画素が設けられている。画像出力画素と位相差検出画素は、独立して設けられる場合に限らず、画像出力画素に位相差検出の機能を設けることで、撮像面内に画像出力画素と位相差検出画素を設けた構成としてもよい。
[0024]
 撮像部31の撮像面には、撮像レンズ20からの被写体光が入射される。撮像部31は、後述する制御部51からの制御信号に基づき、撮像素子の露光動作の開始及び終了や、各画素の出力選択、画素信号の読出し等の動作を行い、画像出力画素によって撮像された被写体を示す画像信号の生成と、位相差検出画素で生成された位相差画像例えば2つの位相差画像の位相差を示す位相差情報(以下「像面位相差情報」という)の生成を行う。撮像部31は、生成した画像信号を前処理部32へ出力する。また、撮像部31は、生成した像面位相差情報を制御部51へ出力する。
[0025]
 前処理部32は、撮像部31から出力される画像信号に対して所定の信号処理、例えばノイズ除去処理や利得調整、クランプ処理等を行う。また、前処理部32は、アナログ/デジタル変換処理を行い、所定の信号処理が行われたアナログの画像信号をデジタルの画像信号に変換して画像処理部33へ出力する。
[0026]
 画像処理部33は、前処理部32から出力される画像信号に対して所定の信号処理、例えば、デジタル画像信号の黒レベルを基準の黒レベルとする黒レベル補正、被写体の白色部分が正しく白色として表示および記録されるように赤色や青色のレベルを補正するホワイトバランス制御、画像信号の階調特性を補正するガンマ補正等の信号処理を行う。画像処理部33は、信号処理後の画像信号を表示部35や記録部36、制御部51へ出力する。また、画像処理部33は、画像信号の符号化処理を行い記録部36へ出力してもよく、記録部36から供給された符号化信号の復号処理を行い、得られた画像信号を表示部35へ出力してもよい。
[0027]
 表示部35は、画像処理部33で処理された画像信号に基づき撮像画を表示する。また、表示部35は、制御部51からの制御信号に基づいてメニュー画面等の表示を行う。さらに、表示部35は、制御部51からの状態判定信号に基づいて、フォーカス位置に対するフォーカスレンズの位置ズレが大きい状態であること、または撮像された被写体のコントラストが低い状態であることをユーザに提示する。
[0028]
 記録部36は、画像処理部33で信号処理された画像信号または符号化信号を記録媒体に記録する。また、記録部36は、画像処理部33で信号処理が行われる前のRAW画像信号を記録媒体に記録してもよい。記録部36は、記録媒体に記録されている画像信号または符号化信号を読み出して画像処理部33へ出力する。
[0029]
 ユーザインタフェース部39は操作スイッチや操作ボタン等を用いて構成されている。ユーザインタフェース部39は、ユーザ操作に応じた操作信号を生成して制御部51へ出力する。なお、ユーザインタフェース部39は、本体部30に設けられている場合に限らず、本体部30と別個に設けられて例えば離れた位置から通信路等を介して制御部51へ操作信号の送信等を行える構成であってもよい。
[0030]
 制御部51は、例えば制御プログラムを記憶するROMや一時的にデータを記憶するフラッシュメモリ等の記憶部が内蔵されたマイクロコンピュータを用いて構成されている。制御部51は、制御プログラムを実行して、ユーザインタフェース部39からの操作信号に基づき、ユーザが所望する動作を撮像装置10で行うように各部の動作を制御して、動画や静止画の撮像や記録等を行う。
[0031]
 また、制御部51は、所定期間に亘って位相差検出画素を用いて得られる像面位相差情報に基づいたフォーカス制御を行い、フォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成して、フォーカス状態変化情報が、フォーカス状態の変化が単調変化であることを示す場合、像面位相差情報に基づくフォーカス制御を継続する。また、制御部51は、フォーカス状態変化情報が、フォーカス状態の変化が単調変化でないことを示す場合、像面位相差情報に基づくフォーカス制御から、像面位相差情報以外の情報に基づくフォーカス制御に切り替える。制御部51は、このようなフォーカス制御によってオートフォーカス動作を行うために、判定部511とフォーカス制御部512を有している。
[0032]
 判定部511は、所定期間に亘って位相差検出画素の出力に応じたフォーカス制御を行い、フォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成する。判定部511は、撮像レンズ20から取得したフォーカスレンズのレンズ実位置を示す情報や、位相差検出画素の出力に応じたフォーカス制御を行いながら撮像部31の位相差検出画素を用いて生成された像面位相差情報等に基づき、フォーカス変化情報を生成する。撮像レンズ20は、撮像装置10に固定して設けられたレンズであってもよく、着脱可能な交換レンズであってもよい。撮像レンズ20が交換レンズである場合、制御部51は交換レンズと通信を行い、交換レンズからフォーカスレンズのレンズ実位置を取得して、判別部511は取得したレンズ実位置をフォーカス状態変化情報として用いる。
[0033]
 フォーカス制御部512は、判定部511で生成されたフォーカス状態変化情報が、フォーカス状態の変化が単調変化であることを示す場合、像面位相差情報に基づくフォーカス制御を継続する。また、フォーカス制御部512は、判定部511で生成されたフォーカス状態変化情報が、フォーカス状態の変化が単調変化でないことを示す場合、像面位相差情報に基づくフォーカス制御から、像面位相差情報以外の情報に基づくフォーカス制御例えば画像処理部33から供給された画像信号に基づくコントラスト方式のフォーカス制御を行う。フォーカス制御部512は、像面位相差情報に基づくフォーカス制御(像面位相差フォーカス制御)を行う場合、像面位相差情報によって示されるデフォーカス量に応じてフォーカス制御信号を生成して撮像レンズ20のレンズ駆動処理部22へ出力することでオートフォーカス動作(以下「像面位相差AF動作」という)を行う。また、フォーカス制御部512は、画像信号に基づくフォーカス制御(コントラストフォーカス制御)を行う場合、測距エリア内の画素群の画素値を用いて算出したコントラストAF評価値に基づきフォーカス制御信号を生成して撮像レンズ20のレンズ駆動処理部22へ出力することでオートフォーカス動作(以下「コントラストAF動作」という)を行う。
[0034]
 次に、本技術の撮像装置の第1の実施の形態の動作について説明する。図2は、第1の実施の形態の動作を示すフローチャートである。撮像装置は、シャッター操作やシャッター動作が行われたときフローチャートの動作を開始する。シャッター操作は、ユーザによるシャッター全押し操作やシャッター半押し操作などである、シャッター動作は、ユーザ操作にかかわらず自動的に行われるシャッター動作で、例えばタイマー動作や被写体の認識結果に基づくオートシャッタ動作などである。
[0035]
 ステップST1で制御部は像面位相差AF動作を開始する。制御部51は、像面位相差情報によって示されるデフォーカス量に応じたフォーカス制御信号の生成を開始して撮像レンズ20のレンズ駆動処理部22へフォーカス制御信号を出力することで、像面位相差AF動作を開始してステップST2に進む。
[0036]
 ステップST2で制御部は、フォーカス状態変化情報を生成する。制御部51は、ステップST1で開始した像面位相差AF動作を所定時間行う。また、制御部51は、像面位相差AF動作を所定時間行ったときのフォーカス状態の変化が単調変化か否かを示すフォーカス状態変化情報を生成する。制御部51は、例えば変化量の周波数特性、像面位相差情報が示すデフォーカス量、レンズ位置、デフォーカス量とレンズ位置のいずれかによってフォーカス状態の変化が単調変化か否かを判定してフォーカス状態変化情報を生成する。なお、フォーカス状態変化情報の生成についての詳細は後述する。制御部51は、フォーカス状態変化情報を生成してステップST3に進む。
[0037]
 ステップST3で制御部は、フォーカス状態の変化が単調変化であるか判定する。制御部51は、ステップST2で生成したフォーカス状態変化情報が単調変化であることを示している場合はステップST4に進み、単調変化でないことを示している場合はステップST5に進む。
[0038]
 ステップST4で制御部は像面位相差AF動作を継続する。制御部51は、フォーカス状態の変化が単調変化であることから大ぼけ状態(「out of focus」「Big Defocus」または「largely defocus」ともいう)であるとして、像面位相差AF動作を継続する。
[0039]
 ステップST5で制御部はコントラストAF動作への切り替えを行う。制御部51は、フォーカス状態の変化が単調変化でないことから低コントラスト状態であるとして、フォーカス制御動作を像面位相差AF動作からコントラストAF動作に切り替える。
[0040]
 次に、フォーカス状態変化情報の生成について説明する。図3は、大ぼけ状態から像面位相差AF動作を開始した場合における被写体とレンズ位置の軌跡およびデフォーカス量の軌跡の関係を例示している。図3の(a)(b)はコントラストが高い被写体を撮像した場合を示しており、図3の(a)はレンズ位置の軌跡、図3の(b)はデフォーカス量の軌跡を例示している。また、図3の(c)(d)は大ぼけ状態から低コントラストの被写体を撮像した場合を示しており、図3の(c)はレンズ位置の軌跡、図3の(d)はデフォーカス量の軌跡を例示している。なお、図3では、像面位相差AF動作の開始時が大ぼけの状態を実線、合焦状態のときを破線で示している。
[0041]
 コントラストの高い(低くない)被写体とは、位相差検出画素の出力を用いて位相差を算出する場合に、2画像の位相差を正しく算出できるコントラストを有した被写体をいう。低コントラストの被写体とは、位相差検出画素の出力を用いて位相差を算出する場合に、コントラストが低いために2画像の位相差を正しく算出できないコントラストの状態である被写体をいう。
[0042]
 コントラストの高い被写体を撮像した場合、像面位相差AF動作を行うと、レンズ位置は、図3の(a)の実線で示すようにリニアな単調変化、すなわち、レンズ位置は、リニアで常に一定方向(合焦に近づく方向)への変化で合焦位置に収束する。また、デフォーカス量は、レンズ駆動量に応じたレンズ移動の反映の遅れ分の影響を受けて、図3の(b)の実線で示すように非線形の単調変化で合焦位置に収束する。
[0043]
 また、低コントラストの被写体を撮像した場合、像面位相差AF動作を行うと、像面位相差を正しく算出できないことから、デフォーカス量は誤差が大きく、図3の(d)で示すように値の変化が一定方向とならない。また、レンズ位置はハンチングを生じて、図3の(c)の実線で示すように合焦位置に収束しない。なお、レンズ位置の変化は、レンズ駆動量に応じたレンズ移動の反映の遅れ分の影響を受けることから、デフォーカス量の変化に比べて変化周波数が低くなる。また、レンズ位置の変化は、デフォーカス量の変化に比べて変化周波数が低くなる。したがって、レンズ位置の変化に基づきフォーカス状態変化情報を生成すれば、デフォーカス量に基づいてフォーカス状態変化情報を生成する場合に比べて容易にフォーカス状態変化情報を生成できる。
[0044]
 以上のように、コントラストの高い被写体を撮像した場合のレンズ位置およびデフォーカス量の軌跡は合焦位置に向けた単調変化となり、低コントラストの被写体を撮像した場合とは変化が異なる。したがって、制御部51の判定部511は、フォーカス状態の変化が単調変化であるかを示すフォーカス状態変化情報を、レンズ位置やデフォーカス量等の軌跡を利用して生成する。
[0045]
 図4は、フォーカス状態変化情報の生成動作を例示したフローチャートである。ステップST11で判定部は軌跡(フォーカス状態の変化)が単調変化を示しているか判定する。判定部511は、所定期間行われた像面相差AF動作中にフォーカス状態に関係する状態情報を所定間隔で取得して、取得した状態情報に基づき経過時間に対するレンズ位置やデフォーカス量等の軌跡が単調変化を示しているは判別する。状態情報は、例えばレンズ位置の変化量またはデフォーカス量の変化量であってもよく、レンズ位置そのものやデフォーカス量そのものであってもよい。また、レンズ位置の変化量の周波数特性またはデフォーカス量の変化量の周波数特性であってもよい。判定部511は、軌跡が単調変化を示している場合にステップST12に進み、単調変化を示していない場合にステップST13に進む。
[0046]
 判定部511は、例えば変化量が単調変化であるか判定する。図5は、レンズ位置変化量の単調変化を説明するための図である。なお、図5では所定期間TWに所定間隔で算出された変化量を黒丸で例示している。判定部511は、図5の(a)に示すように、所定期間TWにおける変化量の極性が開始時から変化していない場合は単調変化であると判定する。また、判定部511は、図5の(b)に示すように、所定期間TWにおける変化量の極性が変化した場合は単調変化でないと判定する。なお、図3や図5に示すように、開始時のレンズ位置やデフォーカス量が合焦位置よりプラス側(例えばテレ側)の場合は、所定期間TWに所定間隔で算出された変化量が0を含むマイナス側であるとき単調変化であると判定しているが、開始時のレンズ位置やデフォーカス量が合焦位置よりマイナス側(例えばワイド側)の場合は、所定期間TWに所定間隔で算出された変化量が0を含むプラス側の変化量であるとき単調変化であると判定する。また、変化量はレンズ位置変化量に限らず像面位相差情報が示すデフォーカス量の変化量を用いてもよい。
[0047]
 また、判定部511は、所定期間TWにおいて所定時間間隔毎にレンズ位置やデフォーカス量の変化傾きを算出して、算出した変化傾きの累積値の平均が予め設定された閾値以下であるときは単調変化であると判定して、累積値の平均が予め設定された閾値を超えるときは単調変化でないと判定してもよい。
[0048]
 判定部511は、変化量に限らずレンズ位置を用いてもよい。具体的には、レンズ位置が開始時から一方の方向のみに移動している場合は単調変化であると判定して、レンズ位置が逆方向に移動した場合は単調変化でないと判定する。
[0049]
 また、判定部511は、デフォーカス量とレンズ位置の双方に基づき、フォーカス状態の変化が単調変化か否かを判定してもよい。デフォーカス量は、上述のように、レンズ駆動量に応じたレンズ移動の反映の遅れ分の影響を受けることから、デフォーカス量のみで判定すると、フォーカス状態の変化が単調変化であるか否かを正しく判定できないおそれがある。そこで、判定部511は、デフォーカス量とレンズ位置に基づいてフォーカス状態の変化が単調変化か否かを判定すれば、より正しくフォーカス状態の変化を判定できるようになる。
[0050]
 さらに、判定部511は、変化量やレンズ位置に限らず変化量の周波数特性に基づき、フォーカス状態の変化が単調変化か否かを判定してフォーカス状態変化情報を生成してもよい。例えば、レンズ位置自体にFFT(Fast Fourier Transform)をかけることで、変化量を周波数成分に変換して、周波数成分が所定閾値以上である場合は、フォーカス状態の変化が単調変化でないと判定する。変化周波数の周波数成分が所定閾値未満である場合は、フォーカス状態の変化が単調変化であると判定する。
[0051]
 ステップST12で判定部は、単調変化であることを示す単調変化フラグのセットを行う。判定部511は、フォーカス状態の変化が単調変化であることを示す単調変化フラグの設定を行い、処理を終了する。
[0052]
 ステップST13で判定部は、単調変化でないことを示す単調変化フラグのセットを行う。判定部511は、フォーカス状態の変化が単調変化でないことを示す単調変化フラグの設定を行い、処理を終了する。
[0053]
 図6は、第1の実施の形態の動作例を示している。なお、図6の(a)(b)は、大ぼけ状態、図6の(c),(d)は低コントラスト状態、図6の(a)(c)はレンズ位置の時間変化、図6の(b)(d)はレンズ位置変化量の時間変化をそれぞれ示している。
[0054]
 時点t0でオートフォーカス動作を開始して所定期間Twが経過する時点t1までは、像面位相差AF動作を行う。ここで、図6の(b)に示すように、所定期間中のレンズ位置変化量が極性の変化を生じていない場合は単調変化と判定して、像面位相差AF動作を継続する。したがって、図6の(a)に示すように時点t2でレンズ位置は合焦位置となる。
また、図6の(d)に示すように、所定期間中のレンズ位置変化量が極性の変化を生じている場合は単調変化でないと判定して、像面位相差AF動作からコントラストAF動作に切り替えられる。したがって、図6の(c)に示すように時点t3でレンズ位置は合焦位置となる。
[0055]
 このように、第1の実施の形態によれば、フォーカス状態変化情報によってフォーカス状態変化が単調変化であることが示された場合、すなわち大ぼけ状態であると判定された場合は像面位相差AF動作が継続される。また、フォーカス状態変化情報によってフォーカス状態変化が単調変化でないことが示された場合、すなわち被写体が低コントラストであると判定された場合は像面位相差AF動作からコントラストAF動作に切り替えられる。したがって、像面位相差AF動作でオートフォーカス動作が困難である場合にコントラストAF動作に切り替えられることから、コントラストAF動作が行われる頻度を低くして高速かつ品位のよいオートフォーカス動作を行うことができる。
[0056]
 <2.第2の実施の形態>
 次に、本技術の撮像装置の第2の実施の形態について説明する。第2の実施の形態の撮像装置は、像面位相差AF動作の信頼性を判定して、信頼性がある場合に第1の実施の形態と同様にフォーカス状態変化が単調変化であるか否かに応じてオートフォーカス動作の切り替えを行う。また、撮像装置は、像面位相差AF動作の信頼性がない場合、レンズ位置を一方の端部側から他方の端部側へ移動して合焦位置を探索するサーチ動作を行い、探索した合焦位置へのレンズ移動を行う。
[0057]
 第2の実施の形態の構成は、図1に示す第1の実施の形態と同様な構成とする。第2の実施の形態において、制御部51は、所定期間に先だって、位相差検出画素の出力から得られる視差を持つ2像の相関演算を行い、相関演算結果の信頼性すなわち像面位相差情報の信頼性を判定部511で判定する。制御部51は、相関演算結果の信頼性があると判定した場合、判定部511におけるフォーカス状態変化情報の生成およびフォーカス制御部512におけるフォーカス状態変化情報に基づいたオートフォーカス動作の切り替えを行う。また、制御部51は、信頼性がないと判定した場合、フォーカス制御部512で全サーチ動作を行い合焦位置を探索して、探索された合焦位置へフォーカスレンズを移動させるレンズ駆動制御を行う。
[0058]
 像面位相差AF動作の信頼性の判定は、視差を持つ2像の相関演算を行い例えば信頼性評価値を算出する。式(1)は信頼性評価値を算出するための評価関数を例示しており、図7は評価関数に用いるパラメータを説明するための図である。式(1)において、「n」は、図7の(a)に示すAFエリアEf内のAFラインLfにおける像面位相差AF画素対の総数を表し、「Xi」は、そのAFラインLfにおける左端からi番目の像面位相差AF画素対の位置を表すとともに、「Yi」は、この位置Xiにおける像面位相差AF画素対の画素出力を表している。なお、像面位相差AF画素対は、撮像部31の位相差検出画素の対である。
[0059]
[数1]


[0060]
 図7の(b)は像面位相差AF画素対の構成を例示している。射出瞳の右側部分Qaからの光束Taと左側部分Qbからの光束Tbとを分離させるための開口部OPの位置が鏡面対象となっている遮光板312a、312bを有した一対の位相差検出画素311a、311bが水平方向に沿って2以上配列されている。より詳細には、スリット状の開口部OPが直下の光電変換部(フォトダイオード)PDに対して右側に偏った遮光板312aを有する第1位相差検出画素311aと、スリット状の開口部OPが直下の光電変換部PDに対して左側に偏った遮光板312bを有する第2位相差検出画素311bとがAFラインLfで交互に配置されている。これにより、射出瞳の右側部分Qaからの光束TaがマイクロレンズMLおよび遮光板312aの開口部OPを通過して第1位相差検出画素311aの光電変換部PDで受光され、射出瞳の左側部分Qbからの光束TbがマイクロレンズMLおよび遮光板312bの開口部OPを通過して第2位相差検出画素311bの光電変換部PDで受光されることとなる。換言すれば、第1位相差検出画素311aと第2位相差検出画素311bとで構成される像面位相差AF画素対では、射出瞳において水平方向に沿って互いに逆向きに偏った右側部分および左側部分(一対の部分領域)Qa、Qbを通過した被写体の光束Ta、Tbそれぞれが受光される。なお、図7に示す構成の場合、像面位相差情報は、第1位相差検出画素系列の像列と第2位相差検出画素系列の像列との位相差を示す情報である。
[0061]
 制御部51は、式(1)を用いて算出した信頼性評価値Jが、予め定められた閾値Jthより大きい場合には信頼性が高いと判断して、閾値Jth以下の場合には信頼性が低いと判断する。このようにして制御部51は、信頼性評価値Jに基づき、像面位相差AF動作の簡易な信頼性評価を行う。
[0062]
 次に、本技術の撮像装置の第2の実施の形態の動作について説明する。図8は、第2の実施の形態の動作を示すフローチャートである。ステップST21で制御部は信頼性評価値を算出する。制御部51は、フォーカスレンズを移動する前に、上述のように評価関数を用いて信頼性評価値Jを算出してステップST22へ進む。
[0063]
 ステップST22で制御部は像面位相差AF動作の信頼性があるか判定する。制御部51は、ステップST21で算出した信頼性評価値Jと予め定められた閾値Jthを比較する。制御部51は、信頼性評価値Jが閾値Jthより大きい場合に信頼性があると判定してステップST23へ進む。また、制御部51は、信頼性評価値Jが閾値Jth以下の場合に信頼性が低いと判断してステップST28へ進む。
[0064]
 ステップST23で制御部は像面位相差AF動作を開始する。制御部51は、像面位相差情報によって示されるデフォーカス量に応じたフォーカス制御信号の生成を開始して撮像レンズ20のレンズ駆動処理部22へフォーカス制御信号を出力することで、像面位相差AF動作を開始してステップST24に進む。
[0065]
 ステップST24で制御部は、フォーカス状態変化情報を生成する。制御部51は、ステップST23で開始した像面位相差AF動作を所定時間行う。また、制御部51は、像面位相差AF動作を所定時間行ったときのフォーカス状態の変化が単調変化か否かを示すフォーカス状態変化情報を生成する。制御部51は、例えばレンズ位置や像面位相差情報が示すデフォーカス量、レンズ位置やデフォーカス量の変化量、変化量の周波数特性等に基づきフォーカス状態の変化が単調変化か否かを判定してフォーカス状態変化情報を生成する。制御部51は、フォーカス状態変化情報を生成してステップST25に進む。
[0066]
 ステップST25で制御部は、フォーカス状態の変化が単調変化であるか判定する。制御部51は、ステップST24で生成したフォーカス状態変化情報が、フォーカス状態の変化が単調変化であることを示している場合はステップST26に進み、フォーカス状態の変化が単調変化でないことを示している場合はステップST27に進む。
[0067]
 ステップST26で制御部は像面位相差AF動作を継続する。制御部51は、フォーカス状態の変化が単調変化であることから大ぼけ状態であるとして、像面位相差AF動作を継続する。
[0068]
 ステップST27で制御部はコントラストAF動作への切り替えを行う。制御部51は、フォーカス状態の変化が単調変化でないことから低コントラスト状態であると判定して、オートフォーカス動作を像面位相差AF動作からコントラストAF動作に切り替える。
[0069]
 ステップST22からステップST28に進むと、制御部は全サーチ動作を行う。制御部51は、レンズ位置を一方の端部側から他方の端部側へ移動して合焦位置を探索するサーチ動作を行い、探索した合焦位置へのレンズ移動を行う。
[0070]
 このように、第2の実施の形態によれば、第1の実施の形態と同様に、大ぼけ状態であると判定された場合は像面位相差AF動作が継続されて、被写体が低コントラストであると判定された場合は像面位相差AF動作からコントラストAF動作に切り替えられる。したがって、像面位相差AF動作でオートフォーカス動作が困難である場合にコントラストAF動作に切り替えられることから、コントラストAF動作が行われる頻度を低くして高速かつ品位のよいオートフォーカス動作を行うことができる。また、像面位相差AF動作の信頼性が判定されて、信頼性がない場合は、全サーチ動作が行われることから、信頼性の低い状態で像面位相差AF動作が行われることがなく、精度よく高速かつ品位のよいオートフォーカス動作を行うことができる。
[0071]
 <3.第3の実施の形態>
 次に、本技術の撮像装置の第3の実施の形態について説明する。第3の実施の形態では、上述の撮像部31と別個に設けられた測距情報生成素子、例えば専用位相差検出部を設けた場合を示している。
[0072]
 図9は、撮像装置の第3の実施の形態の構成を例示している。撮像装置10aは、撮像レンズ20と本体部30aで構成されている。撮像レンズ20は、撮像光学系21とレンズ駆動処理部22を有している。撮像光学系21はフォーカスレンズを用いた構成されている。また、撮像光学系21は、フォーカスレンズだけでなくズームレンズや絞り機構等を用いた構成であってもよい。
[0073]
 レンズ駆動処理部22は、本体部30aからのレンズ制御信号に基づき、撮像光学系21におけるフォーカスレンズのレンズ位置を移動させる。また、レンズ駆動処理部22は、フォーカスレンズのレンズ位置を示す情報等を生成して本体部30aへ出力する。
[0074]
 本体部30aは、撮像部31、前処理部32、画像処理部33、表示部35、記録部36、ユーザインタフェース(I/F)部39、透過ミラー部45、専用位相差検出部46、制御部51を備えて構成されている。なお、本体部30は、図に記載されていない機能ブロックを有してもよく、図に記載されている機能ブロックの一部を含まない構成であってもよい。
[0075]
 撮像部31は、CMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を用いて構成されている。また、撮像素子では、撮像面内に画像出力画素と位相差検出画素が設けられている。撮像部31の撮像面には、撮像レンズ20からの被写体光が透過ミラー部45を介して入射される。撮像部31は、後述する制御部51からの制御信号に基づき、撮像素子の露光動作の開始及び終了や、各画素の出力選択、画素信号の読出し等の動作を行い、画像出力画素によって撮像された被写体を示す画像信号の生成と、位相差検出画素で生成された位相差画像例えば2つの位相差画像の位相差を示す像面位相差情報の生成を行う。撮像部31は、生成した画像信号を前処理部32へ出力する。また、撮像部31は、生成した像面位相差情報を制御部51へ出力する。
[0076]
 前処理部32は、撮像部31から出力される画像信号に対して所定の信号処理、例えばノイズ除去処理や利得調整、クランプ処理等を行う。また、前処理部32は、アナログ/デジタル変換処理を行い、所定の信号処理が行われたアナログの画像信号をデジタルの画像信号に変換して画像処理部33へ出力する。
[0077]
 画像処理部33は、前処理部32から出力される画像信号に対して所定の信号処理、例えば、デジタル画像信号の黒レベルを基準の黒レベルとする黒レベル補正、被写体の白色部分が正しく白色として表示および記録されるように赤色や青色のレベルを補正するホワイトバランス制御、画像信号の階調特性を補正するガンマ補正等の信号処理を行う。画像処理部33は、信号処理後の画像信号を表示部35や記録部36、制御部51へ出力する。また、画像処理部33は、画像信号の符号化処理を行い記録部36へ出力してもよく、記録部36から供給された符号化信号の復号処理を行い、得られた画像信号を表示部35へ出力してもよい。
[0078]
 表示部35は、画像処理部33で処理された画像信号に基づき撮像画を表示する。また、表示部35は、制御部51からの制御信号に基づいてメニュー画面等の表示を行う。さらに、表示部35は、制御部51からの状態判定信号に基づいて、フォーカス位置に対するフォーカスレンズの位置ズレが大きい状態であること、または撮像された被写体のコントラストが低い状態であることをユーザに提示する。
[0079]
 記録部36は、画像処理部33で信号処理された画像信号または符号化信号を記録媒体に記録する。また、記録部36は、記録媒体に記録されている画像信号または符号化信号を読み出して画像処理部33へ出力する。
[0080]
 ユーザインタフェース部39は操作スイッチや操作ボタン等を用いて構成されている。ユーザインタフェース部39は、ユーザ操作に応じた操作信号を生成して制御部51へ出力する。
[0081]
 透過ミラー部45は、撮像部31の撮像面側に設けられており、撮像レンズ20からの被写体光を、撮像部31と専用位相差検出部46に分離して入射させる。
[0082]
 専用位相差検出部46は、例えば二次結像レンズと一対のAFセンサが設けられている。専用位相差検出部46は、透過ミラー部45を介して入射した被写体光に応じて一対のAFセンサのそれぞれで生成されたセンサ出力信号の位相差を示す専用センサ位相差情報を生成して制御部51へ出力する。
[0083]
 制御部51は、例えば制御プログラムを記憶するROMや一時的にデータを記憶するフラッシュメモリ等の記憶部が内蔵されたマイクロコンピュータを用いて構成されている。制御部51は、制御プログラムを実行して、ユーザインタフェース部39からの操作信号に基づき、ユーが所望する動作を撮像装置10で行うように各部の動作を制御する。また、制御部51は前処理部32から供給された像面位相差情報、または専用位相差検出部46から供給された専用センサ位相差情報に基づいてフォーカス制御(測距情報フォーカス制御)を行う。
[0084]
 ここで、専用位相差検出部46から供給された専用センサ位相差情報に基づいてフォーカス制御を行う場合、専用位相差検出部46のAFセンサは、撮像部31の撮像面と異なる位置に設けられている。したがって、専用位相差検出部46からの専用センサ位相差情報によって示されるデフォーカス量に応じてフォーカス制御信号を生成して撮像レンズ20のレンズ駆動処理部22へ出力することでオートフォーカス動作(以下「専用位相差AF動作」という)を行う場合、像面位相差AF動作に比べて精度が低下するおそれがある。また、専用位相差検出部46のAFセンサは、撮像部31の撮像面と異なる位置に設けられることから、撮像部31の位相差検出画素を用いる場合に比べて、ぼけが少なくなるように設定できるので、大ぼけが生じないフォーカスレンズ位置範囲すなわち位相差検出範囲を広く設定することが可能である。したがって、専用位相差AF動作は、像面位相差AF動作に比べて、ぼけが大きい場合でもオートフォーカス動作が可能となる。
[0085]
 制御部51は、オートフォーカス動作を行うために判定部511とフォーカス制御部512を有している。
[0086]
 判定部511は、所定期間に先だって、位相差検出画素の出力から得られる視差を持つ2像の相関演算を行い、相関演算結果の信頼性すなわち像面位相差情報の信頼性を判定する。判定部511は、像面位相差情報の信頼性が有ると判別した場合、所定期間に亘って位相差検出画素の出力に応じたフォーカス制御を行い、フォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成する。判定部511は、撮像レンズ20から取得したレンズ位置を示す情報や、位相差検出画素の出力に応じたフォーカス制御を行いながら撮像部31の位相差検出画素を用いて生成された像面位相差情報等に基づき、フォーカス変化情報を生成する。また、判定部511は、像面位相差情報の信頼性がないと判別した場合、信頼性がないことをフォーカス制御部512へ通知する。
[0087]
 フォーカス制御部512は、判定部511で生成されたフォーカス状態変化情報が、フォーカス状態の変化が単調変化であることを示す場合、撮像部31で生成された像面位相差情報に基づくフォーカス制御を継続する。また、フォーカス制御部512は、判定部511で生成されたフォーカス状態変化情報が、フォーカス状態の変化が単調変化でないことを示す場合、撮像部31で生成された像面位相差情報に基づくフォーカス制御から、専用位相差検出部46で生成された専用センサ位相差情報に基づくフォーカス制御に切り替える。また、フォーカス制御部511は、像面位相差情報の信頼性がないと判定した場合、全サーチ動作を行い合焦位置を探索して、探索された合焦位置へフォーカスレンズを移動させるレンズ駆動制御を行う。
[0088]
 次に、本技術の撮像装置の第3の実施の形態の動作について説明する。図10は、第3の実施の形態の動作を示すフローチャートである。ステップST31で制御部は信頼性評価値を算出する。制御部51は、上述のように評価関数を用いて信頼性評価値Jを算出してステップST32へ進む。
[0089]
 ステップST32で制御部は像面位相差AF動作の信頼性があるか判定する。制御部51は、ステップST31で算出した信頼性評価値Jと予め定められた閾値Jthを比較する。制御部51は、信頼性評価値Jが閾値Jthより大きい場合に信頼性があると判定してステップST33へ進む。また、制御部51は、信頼性評価値Jが閾値Jth以下の場合に信頼性が低いと判断してステップST38へ進む。
[0090]
 ステップST33で制御部は像面位相差AF動作を開始する。制御部51は、像面位相差情報によって示されるデフォーカス量に応じたフォーカス制御信号の生成を開始して撮像レンズ20のレンズ駆動処理部22へフォーカス制御信号を出力することで、像面位相差AF動作を開始してステップST34に進む。
[0091]
 ステップST34で制御部は、フォーカス状態変化情報を生成する。制御部51は、ステップST33で開始した像面位相差AF動作を所定時間行う。また、制御部51は、像面位相差AF動作を所定時間行ったときのフォーカス状態の変化が単調変化か否かを示すフォーカス状態変化情報を生成する。制御部51は、例えばレンズ位置や像面位相差情報が示すデフォーカス量、レンズ位置やデフォーカス量の変化量、変化量の周波数特性等に基づきフォーカス状態の変化が単調変化か否かを判定してフォーカス状態変化情報を生成する。制御部51は、フォーカス状態変化情報を生成してステップST35に進む。
[0092]
 ステップST35で制御部は、フォーカス状態の変化が単調変化であるか判定する。制御部51は、ステップST34で生成したフォーカス状態変化情報が、フォーカス状態の変化が単調変化であることを示している場合はステップST36に進み、フォーカス状態の変化が単調変化でないことを示している場合はステップST37に進む。
[0093]
 ステップST36で制御部は像面位相差AF動作を継続する。制御部51は、フォーカス状態の変化が単調変化であることから大ぼけ状態であるとして、像面位相差AF動作を継続する。
[0094]
 ステップST37で制御部は専用位相差AF動作への切り替えを行う。制御部51は、フォーカス状態の変化が単調変化でないことから低コントラスト状態であるとして、フォーカス制御動作を像面位相差AF動作からぼけに対する性能が高い専用位相差AF動作に切り替える。
[0095]
 ステップST32からステップST38に進むと、制御部は全サーチ動作を行う。制御部51は、レンズ位置を一方の端部側から他方の端部側へ移動して合焦位置を探索するサーチ動作を行い、探索した合焦位置へのレンズ移動を行う。
[0096]
 このように、第3の実施の形態によれば、大ぼけ状態であると判定された場合は像面位相差AF動作が継続されて、被写体が低コントラストであると判定された場合は像面位相差AF動作から専用位相差AF動作に切り替えられる。したがって、像面位相差情報に基づくフォーカス制御ではオートフォーカス動作が困難な場合でも専用位相差情報に基づくフォーカス制御によってオートフォーカス動作が可能となり、高速かつ品位のよいオートフォーカス動作が可能なぼけ範囲を広くできる。
[0097]
 また、第3の実施の形態では、像面位相差AF動作の信頼性を判定しているが、第1の実施の形態と同様に、像面位相差AF動作の信頼性の判定が行われない動作であってもよい。なお、像面位相差AF動作の信頼性を判定する場合、像面位相差AF動作の信頼性がないと判定されると、全サーチ動作が行われる。このため、信頼性の低い状態で像面位相差AF動作が行われることがなく、精度よく高速かつ品位のよいオートフォーカス動作を行うことができる。
[0098]
 なお、第3の実施の形態では透過ミラーを用いた構成した場合を例示しているが、反射ミラーを用いた構成としてもよい。この場合、被写体光を撮像部31に入射させて像面位相差AF動作を開始して、専用位相差AF動作への切り替えを行うと判別した場合は、反射ミラーによって被写体光を専用位相差検出部46に入射させればよい。
[0099]
 <4.第4の実施の形態>
 本技術の撮像装置の第4の実施の形態では、ハイブリッドAF動作を行う場合について説明する。ハイブリッドAF動作では、異なる方式のフォーカス制御を切り替え可能として、何れかの方式でフォーカス制御を行い、その後、高精度でフォーカス制御を行うことができるように他の方式に切り替えてフォーカス制御を行う。例えば、第4の実施の形態では、コントラスト方式から像面位相差AF動作に切り替えてフォーカス制御を行う場合について例示する。
[0100]
 第4の実施の形態の構成は、図1に示す第1の実施の形態と同様な構成とする。図11は、第4の実施の形態の動作を示すフローチャートである。ステップST41で制御部は信頼性評価値を算出する。制御部51は、上述のように評価関数を用いて信頼性評価値Jを算出してステップST42へ進む。
[0101]
 ステップST42で制御部は像面位相差AF動作の信頼性があるか判定する。制御部51は、ステップST41で算出した信頼性評価値Jと予め定められた閾値Jthを比較する。制御部51は、信頼性評価値Jが閾値Jthより大きい場合に信頼性があると判定してステップST43へ進む。また、制御部51は、信頼性評価値Jが閾値Jth以下の場合に信頼性が低いと判断してステップST48へ進む。
[0102]
 ステップST43で制御部は像面位相差AF動作を開始する。制御部51は、像面位相差情報によって示されるデフォーカス量に応じたフォーカス制御信号の生成を開始して撮像レンズ20のレンズ駆動処理部22へフォーカス制御信号を出力することで、像面位相差AF動作を開始してステップST44に進む。
[0103]
 ステップST44で制御部は、フォーカス状態変化情報を生成する。制御部51は、ステップST43で開始した像面位相差AF動作を所定時間行う。また、制御部51は、像面位相差AF動作を所定時間行ったときのフォーカス状態の変化が単調変化か否かを示すフォーカス状態変化情報を生成する。制御部51は、例えばレンズ位置や像面位相差情報が示すデフォーカス量、レンズ位置やデフォーカス量の変化量、変化量の周波数特性等に基づきフォーカス状態の変化が単調変化か否かを判定してフォーカス状態変化情報を生成する。制御部51は、フォーカス状態変化情報を生成してステップST45に進む。
[0104]
 ステップST45で制御部は、フォーカス状態の変化が単調変化であるか判定する。制御部51は、ステップST44で生成したフォーカス状態変化情報が、フォーカス状態の変化が単調変化であることを示している場合はステップST46に進み、フォーカス状態の変化が単調変化でないことを示している場合はステップST47に進む。
[0105]
 ステップST46で制御部は像面位相差AF動作を継続する。制御部51は、フォーカス状態の変化が単調変化であることから大ぼけ状態であるとして、像面位相差AF動作を継続する。
[0106]
 ステップST47で制御部はハイブリッドAF動作への切り替えを行う。制御部51は、フォーカス状態の変化が単調変化でないことから低コントラスト状態であるとして、フォーカス制御動作を像面位相差AF動作からハイブリッドAF動作に切り替える。
[0107]
 ハイブリッドAF動作では、低コントラスト状態において像面位相差AF動作よりもフォーカス制御可能範囲が広いコントラストAF動作を行う。制御部は、測距エリア内の画素群の画素値を用いて算出したコントラストAF評価値に基づきフォーカス制御信号を生成して撮像レンズ20のレンズ駆動処理部22へ出力することでコントラストAF動作を行う。制御部は、例えば測距エリア内の画素群の画素を用いて隣接画素間の差分絶対値を算出して、算出した差分絶対値の総和をコントラストAF評価値として用いる。制御部は、フォーカスレンズを一定方向に移動させつつ順次にコントラストAF評価値を算出して、コントラストAF評価値が単調に増加してからピークを超えた場合、コントラスト方式よりも精度の高い像面位相差AF動作に切り替えてフォーカスレンズをさらに高精度に合焦位置へ移動させる。
[0108]
 ステップST42からステップST48に進むと、制御部は全サーチ動作を行う。制御部51は、レンズ位置を一方の端部側から他方の端部側へ移動して合焦位置を探索するサーチ動作を行い、探索した合焦位置へのレンズ移動を行う。
[0109]
 このように、第4の実施の形態によれば、大ぼけ状態であると判定された場合は像面位相差AF動作が継続されて、被写体が低コントラストであると判定された場合は像面位相差AF動作から専用位相差AF動作に切り替えられる。
[0110]
 したがって、像面位相差AF動作ではフォーカス制御が困難な場合でもハイブリッドAF動作によってフォーカス制御が可能となり、高速かつ品位のよいオートフォーカス動作を行うことができる。
[0111]
 なお、第4の実施の形態では、オートフォーカス動作の開始時に像面位相差AF動作の信頼性を判定しているが、第1の実施の形態と同様に、像面位相差AF動作の信頼性の判定が行われない動作であってもよい。また、この場合、ハイブリッドAF動作において、コントラストAF動作から像面位相差AF動作に切り替えるとき像面位相差AF動作の信頼性を判定する。この判定で信頼性があると判定された場合にオートフォーカス動作の切り替えを行うようにすれば、コントラストAF動作から像面位相差AF動作に切り替えたことによりフォーカスすれが生じてしまうことを防止できる。
[0112]
 また、オートフォーカス動作の開始時に像面位相差AF動作の信頼性を判定する場合、像面位相差AF動作の信頼性がないと判定されると、全サーチ動作が行われる。このため、信頼性の低い状態で像面位相差AF動作が行われることがなく、精度よく高速かつ品位のよいオートフォーカス動作を行うことができる。
[0113]
 <5.他の実施の形態>
 また、上述の実施の形態では、像面位相差AF動作と異なる他のオートフォーカス動作として、コントラストAF動作や専用位相差AF動作を行う場合について説明したが、撮像部と別個に設けられる測距情報生成素子として、例えば測距センサ等を用いて測距結果に基づきフォーカスレンズを駆動するオートフォーカス動作等を行ってもよい。
[0114]
 また、上述の実施の形態では、判定部511の状態判定結果に応じて像面位相差AF動作から他のオートフォーカス動作へと自動的に切り替える場合について声明したが、判定部511の状態判定結果を情報提示部からユーザに提示して、ユーザが提示された状態判定結果を利用してどのようなフォーカス動作を行うか選択できるようにしてもよい。
[0115]
 撮像装置の構成が図1に示す構成である場合、判定部511は、状態判定結果をユーザに提示する情報提示部での状態判定結果の提示を制御する。例えば、判定部511は、状態判定結果を示す画像信号を情報提示部である表示部35へ出力して、状態判定結果を画像でユーザに提示する。また、判定部511は、ユーザインタフェース部39を情報提示部として用いて、状態判定結果を示す情報を外部へ出力することで、状態判定結果をユーザインタフェース部39でユーザに提示できるようにしてもよい。
[0116]
 ユーザは表示部35やユーザインタフェース部39等を用いて提示された状態判定結果に基づき撮像装置を操作して、高精度なオートフォーカス動作を行えるようにする。例えば、フォーカス状態の変化が単調変化でない場合、コントラストの高い被写体が測距エリアに含まれるようにズーム操作等を行い、その後、合焦位置でフォーカスレンズの位置を固定したのち逆方向の操作を行う。このような操作をユーザが行えば、フォーカス状態の変化が単調変化でない低コントラストの被写体に精度よくフォーカスを合わせることができる。
[0117]
 <6.応用例>
 また、本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。
[0118]
 図12は、本開示に係る技術が適用され得る手術室システム5100の全体構成を概略的に示す図である。図12を参照すると、手術室システム5100は、手術室内に設置される装置群が視聴覚コントローラ(AV Controller)5107及び手術室制御装置5109を介して互いに連携可能に接続されることにより構成される。
[0119]
 手術室には、様々な装置が設置され得る。図12では、一例として、内視鏡下手術のための各種の装置群5101と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ5187と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ5189と、複数の表示装置5103A~5103Dと、レコーダ5105と、患者ベッド5183と、照明5191と、を図示している。
[0120]
 ここで、これらの装置のうち、装置群5101は、後述する内視鏡手術システム5113に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム5113に属する各装置は医療用機器とも呼称される。一方、表示装置5103A~5103D、レコーダ5105、患者ベッド5183及び照明5191は、内視鏡手術システム5113とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム5113に属さない各装置は非医療用機器とも呼称される。視聴覚コントローラ5107及び/又は手術室制御装置5109は、これら医療機器及び非医療機器の動作を互いに連携して制御する。
[0121]
 視聴覚コントローラ5107は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム5100が備える装置のうち、装置群5101、シーリングカメラ5187及び術場カメラ5189は、手術中に表示すべき情報(以下、表示情報ともいう)を発信する機能を有する装置(以下、発信元の装置とも呼称する)であり得る。また、表示装置5103A~5103Dは、表示情報が出力される装置(以下、出力先の装置とも呼称する)であり得る。また、レコーダ5105は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ5107は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報(例えば、患者の身体情報や、過去の検査結果、術式についての情報等)等である。
[0122]
 具体的には、視聴覚コントローラ5107には、装置群5101から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ5187から、表示情報として、当該シーリングカメラ5187によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ5189から、表示情報として、当該術場カメラ5189によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム5100に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ5107は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。
[0123]
 あるいは、例えば、レコーダ5105には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ5107によって記録されている。視聴覚コントローラ5107は、表示情報として、レコーダ5105から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ5105には、手術に関する各種の情報も事前に記録されていてもよい。
[0124]
 視聴覚コントローラ5107は、出力先の装置である表示装置5103A~5103Dの少なくともいずれかに、取得した表示情報(すなわち、手術中に撮影された画像や、手術に関する各種の情報)を表示させる。図示する例では、表示装置5103Aは手術室の天井から吊り下げられて設置される表示装置であり、表示装置5103Bは手術室の壁面に設置される表示装置であり、表示装置5103Cは手術室内の机上に設置される表示装置であり、表示装置5103Dは表示機能を有するモバイル機器(例えば、タブレットPC(Personal Computer))である。
[0125]
 また、図12では図示を省略しているが、手術室システム5100には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるPC、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ5107は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。
[0126]
 手術室制御装置5109は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置5109は、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191の駆動を制御する。
[0127]
 手術室システム5100には、集中操作パネル5111が設けられており、ユーザは、当該集中操作パネル5111を介して、視聴覚コントローラ5107に対して画像表示についての指示を与えたり、手術室制御装置5109に対して非医療機器の動作についての指示を与えることができる。集中操作パネル5111は、表示装置の表示面上にタッチパネルが設けられて構成される。
[0128]
 図13は、集中操作パネル5111における操作画面の表示例を示す図である。図13では、一例として、手術室システム5100に、出力先の装置として、2つの表示装置が設けられている場合に対応する操作画面を示している。図13を参照すると、操作画面5193には、発信元選択領域5195と、プレビュー領域5197と、コントロール領域5201と、が設けられる。
[0129]
 発信元選択領域5195には、手術室システム5100に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域5195に表示されているいずれかの発信元装置から選択することができる。
[0130]
 プレビュー領域5197には、出力先の装置である2つの表示装置(Monitor1、Monitor2)に表示される画面のプレビューが表示される。図示する例では、1つの表示装置において4つの画像がPinP表示されている。当該4つの画像は、発信元選択領域5195において選択された発信元装置から発信された表示情報に対応するものである。4つの画像のうち、1つはメイン画像として比較的大きく表示され、残りの3つはサブ画像として比較的小さく表示される。ユーザは、4つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、4つの画像が表示される領域の下部には、ステータス表示領域5199が設けられており、当該領域に手術に関するステータス(例えば、手術の経過時間や、患者の身体情報等)が適宜表示され得る。
[0131]
 コントロール領域5201には、発信元の装置に対して操作を行うためのGUI(Graphical User Interface)部品が表示される発信元操作領域5203と、出力先の装置に対して操作を行うためのGUI部品が表示される出力先操作領域5205と、が設けられる。図示する例では、発信元操作領域5203には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作(パン、チルト及びズーム)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域5195において選択されている発信元の装置がレコーダである場合(すなわち、プレビュー領域5197において、レコーダに過去に記録された画像が表示されている場合)には、発信元操作領域5203には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのGUI部品が設けられ得る。
[0132]
 また、出力先操作領域5205には、出力先の装置である表示装置における表示に対する各種の操作(スワップ、フリップ、色調整、コントラスト調整、2D表示と3D表示の切り替え)を行うためのGUI部品が設けられている。ユーザは、これらのGUI部品を適宜選択することにより、表示装置における表示を操作することができる。
[0133]
 なお、集中操作パネル5111に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル5111を介して、手術室システム5100に備えられる、視聴覚コントローラ5107及び手術室制御装置5109によって制御され得る各装置に対する操作入力が可能であってよい。
[0134]
 図14は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ5187及び術場カメラ5189は、手術室の天井に設けられ、患者ベッド5183上の患者5185の患部に対して処置を行う術者(医者)5181の手元及び手術室全体の様子を撮影可能である。シーリングカメラ5187及び術場カメラ5189には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明5191は、手術室の天井に設けられ、少なくとも術者5181の手元を照射する。照明5191は、その照射光量、照射光の波長(色)及び光の照射方向等を適宜調整可能であってよい。
[0135]
 内視鏡手術システム5113、患者ベッド5183、シーリングカメラ5187、術場カメラ5189及び照明5191は、図12に示すように、視聴覚コントローラ5107及び手術室制御装置5109(図14では図示せず)を介して互いに連携可能に接続されている。手術室内には、集中操作パネル5111が設けられており、上述したように、ユーザは、当該集中操作パネル5111を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。
[0136]
 以下、内視鏡手術システム5113の構成について詳細に説明する。図示するように、内視鏡手術システム5113は、内視鏡5115と、その他の術具5131と、内視鏡5115を支持する支持アーム装置5141と、内視鏡下手術のための各種の装置が搭載されたカート5151と、から構成される。
[0137]
 内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ5139a~5139dと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ5139a~5139dから、内視鏡5115の鏡筒5117や、その他の術具5131が患者5185の体腔内に挿入される。図示する例では、その他の術具5131として、気腹チューブ5133、エネルギー処置具5135及び鉗子5137が、患者5185の体腔内に挿入されている。また、エネルギー処置具5135は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具5131はあくまで一例であり、術具5131としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
[0138]
 内視鏡5115によって撮影された患者5185の体腔内の術部の画像が、表示装置5155に表示される。術者5181は、表示装置5155に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具5135や鉗子5137を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ5133、エネルギー処置具5135及び鉗子5137は、手術中に、術者5181又は助手等によって支持される。
[0139]
 (支持アーム装置)
 支持アーム装置5141は、ベース部5143から延伸するアーム部5145を備える。図示する例では、アーム部5145は、関節部5147a、5147b、5147c、及びリンク5149a、5149bから構成されており、アーム制御装置5159からの制御により駆動される。アーム部5145によって内視鏡5115が支持され、その位置及び姿勢が制御される。これにより、内視鏡5115の安定的な位置の固定が実現され得る。
[0140]
 (内視鏡)
 内視鏡5115は、先端から所定の長さの領域が患者5185の体腔内に挿入される鏡筒5117と、鏡筒5117の基端に接続されるカメラヘッド5119と、から構成される。図示する例では、硬性の鏡筒5117を有するいわゆる硬性鏡として構成される内視鏡5115を図示しているが、内視鏡5115は、軟性の鏡筒5117を有するいわゆる軟性鏡として構成されてもよい。
[0141]
 鏡筒5117の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡5115には光源装置5157が接続されており、当該光源装置5157によって生成された光が、鏡筒5117の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者5185の体腔内の観察対象に向かって照射される。なお、内視鏡5115は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
[0142]
 カメラヘッド5119の内部には光学系及び撮像素子が設けられており、観察対象からの反射光(観察光)は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、RAWデータとしてカメラコントロールユニット(CCU:Camera Control Unit)5153に送信される。なお、カメラヘッド5119には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
[0143]
 なお、例えば立体視(3D表示)等に対応するために、カメラヘッド5119には撮像素子が複数設けられてもよい。この場合、鏡筒5117の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
[0144]
 (カートに搭載される各種の装置)
 CCU5153は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)等によって構成され、内視鏡5115及び表示装置5155の動作を統括的に制御する。具体的には、CCU5153は、カメラヘッド5119から受け取った画像信号に対して、例えば現像処理(デモザイク処理)等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。CCU5153は、当該画像処理を施した画像信号を表示装置5155に提供する。また、CCU5153には、図12に示す視聴覚コントローラ5107が接続される。CCU5153は、画像処理を施した画像信号を視聴覚コントローラ5107にも提供する。また、CCU5153は、カメラヘッド5119に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置5161を介して入力されてもよいし、上述した集中操作パネル5111を介して入力されてもよい。
[0145]
 表示装置5155は、CCU5153からの制御により、当該CCU5153によって画像処理が施された画像信号に基づく画像を表示する。内視鏡5115が例えば4K(水平画素数3840×垂直画素数2160)又は8K(水平画素数7680×垂直画素数4320)等の高解像度の撮影に対応したものである場合、及び/又は3D表示に対応したものである場合には、表示装置5155としては、それぞれに対応して、高解像度の表示が可能なもの、及び/又は3D表示可能なものが用いられ得る。4K又は8K等の高解像度の撮影に対応したものである場合、表示装置5155として55インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置5155が設けられてもよい。
[0146]
 光源装置5157は、例えばLED(light emitting diode)等の光源から構成され、術部を撮影する際の照射光を内視鏡5115に供給する。
[0147]
 アーム制御装置5159は、例えばCPU等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置5141のアーム部5145の駆動を制御する。
[0148]
 入力装置5161は、内視鏡手術システム5113に対する入力インタフェースである。ユーザは、入力装置5161を介して、内視鏡手術システム5113に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置5161を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置5161を介して、アーム部5145を駆動させる旨の指示や、内視鏡5115による撮像条件(照射光の種類、倍率及び焦点距離等)を変更する旨の指示、エネルギー処置具5135を駆動させる旨の指示等を入力する。
[0149]
 入力装置5161の種類は限定されず、入力装置5161は各種の公知の入力装置であってよい。入力装置5161としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ5171及び/又はレバー等が適用され得る。入力装置5161としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置5155の表示面上に設けられてもよい。
[0150]
 あるいは、入力装置5161は、例えばメガネ型のウェアラブルデバイスやHMD(Head Mounted Display)等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置5161は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置5161は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置5161が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ(例えば術者5181)が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
[0151]
 処置具制御装置5163は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具5135の駆動を制御する。気腹装置5165は、内視鏡5115による視野の確保及び術者の作業空間の確保の目的で、患者5185の体腔を膨らめるために、気腹チューブ5133を介して当該体腔内にガスを送り込む。レコーダ5167は、手術に関する各種の情報を記録可能な装置である。プリンタ5169は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
[0152]
 以下、内視鏡手術システム5113において特に特徴的な構成について、更に詳細に説明する。
[0153]
 (支持アーム装置)
 支持アーム装置5141は、基台であるベース部5143と、ベース部5143から延伸するアーム部5145と、を備える。図示する例では、アーム部5145は、複数の関節部5147a、5147b、5147cと、関節部5147bによって連結される複数のリンク5149a、5149bと、から構成されているが、図14では、簡単のため、アーム部5145の構成を簡略化して図示している。実際には、アーム部5145が所望の自由度を有するように、関節部5147a~5147c及びリンク5149a、5149bの形状、数及び配置、並びに関節部5147a~5147cの回転軸の方向等が適宜設定され得る。例えば、アーム部5145は、好適に、6自由度以上の自由度を有するように構成され得る。これにより、アーム部5145の可動範囲内において内視鏡5115を自由に移動させることが可能になるため、所望の方向から内視鏡5115の鏡筒5117を患者5185の体腔内に挿入することが可能になる。
[0154]
 関節部5147a~5147cにはアクチュエータが設けられており、関節部5147a~5147cは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置5159によって制御されることにより、各関節部5147a~5147cの回転角度が制御され、アーム部5145の駆動が制御される。これにより、内視鏡5115の位置及び姿勢の制御が実現され得る。この際、アーム制御装置5159は、力制御又は位置制御等、各種の公知の制御方式によってアーム部5145の駆動を制御することができる。
[0155]
 例えば、術者5181が、入力装置5161(フットスイッチ5171を含む)を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置5159によってアーム部5145の駆動が適宜制御され、内視鏡5115の位置及び姿勢が制御されてよい。当該制御により、アーム部5145の先端の内視鏡5115を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部5145は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部5145は、手術室から離れた場所に設置される入力装置5161を介してユーザによって遠隔操作され得る。
[0156]
 また、力制御が適用される場合には、アーム制御装置5159は、ユーザからの外力を受け、その外力にならってスムーズにアーム部5145が移動するように、各関節部5147a~5147cのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部5145に触れながらアーム部5145を移動させる際に、比較的軽い力で当該アーム部5145を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡5115を移動させることが可能となり、ユーザの利便性を向上させることができる。
[0157]
 ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡5115が支持されていた。これに対して、支持アーム装置5141を用いることにより、人手によらずに内視鏡5115の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
[0158]
 なお、アーム制御装置5159は必ずしもカート5151に設けられなくてもよい。また、アーム制御装置5159は必ずしも1つの装置でなくてもよい。例えば、アーム制御装置5159は、支持アーム装置5141のアーム部5145の各関節部5147a~5147cにそれぞれ設けられてもよく、複数のアーム制御装置5159が互いに協働することにより、アーム部5145の駆動制御が実現されてもよい。
[0159]
 (光源装置)
 光源装置5157は、内視鏡5115に術部を撮影する際の照射光を供給する。光源装置5157は、例えばLED、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、RGBレーザ光源の組み合わせにより白色光源が構成される場合には、各色(各波長)の出力強度及び出力タイミングを高精度に制御することができるため、光源装置5157において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、RGBレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド5119の撮像素子の駆動を制御することにより、RGBそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
[0160]
 また、光源装置5157は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド5119の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
[0161]
 また、光源装置5157は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光(すなわち、白色光)に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察(Narrow Band Imaging)が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの(自家蛍光観察)、又はインドシアニングリーン(ICG)等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置5157は、このような特殊光観察に対応した狭帯域光及び/又は励起光を供給可能に構成され得る。
[0162]
 (カメラヘッド及びCCU)
 図15を参照して、内視鏡5115のカメラヘッド5119及びCCU5153の機能についてより詳細に説明する。図15は、図14に示すカメラヘッド5119及びCCU5153の機能構成の一例を示すブロック図である。
[0163]
 図15を参照すると、カメラヘッド5119は、その機能として、レンズユニット5121と、撮像部5123と、駆動部5125と、通信部5127と、カメラヘッド制御部5129と、を有する。また、CCU5153は、その機能として、通信部5173と、画像処理部5175と、制御部5177と、を有する。カメラヘッド5119とCCU5153とは、伝送ケーブル5179によって双方向に通信可能に接続されている。
[0164]
 まず、カメラヘッド5119の機能構成について説明する。レンズユニット5121は、鏡筒5117との接続部に設けられる光学系である。鏡筒5117の先端から取り込まれた観察光は、カメラヘッド5119まで導光され、当該レンズユニット5121に入射する。レンズユニット5121は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット5121は、撮像部5123の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
[0165]
 撮像部5123は撮像素子によって構成され、レンズユニット5121の後段に配置される。レンズユニット5121を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部5123によって生成された画像信号は、通信部5127に提供される。
[0166]
 撮像部5123を構成する撮像素子としては、例えばCMOS(Complementary Metal Oxide Semiconductor)タイプのイメージセンサであり、Bayer配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば4K以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者5181は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
[0167]
 また、撮像部5123を構成する撮像素子は、3D表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成される。3D表示が行われることにより、術者5181は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部5123が多板式で構成される場合には、各撮像素子に対応して、レンズユニット5121も複数系統設けられる。
[0168]
 また、撮像部5123は、必ずしもカメラヘッド5119に設けられなくてもよい。例えば、撮像部5123は、鏡筒5117の内部に、対物レンズの直後に設けられてもよい。
[0169]
 駆動部5125は、アクチュエータによって構成され、カメラヘッド制御部5129からの制御により、レンズユニット5121のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部5123による撮像画像の倍率及び焦点が適宜調整され得る。
[0170]
 通信部5127は、CCU5153との間で各種の情報を送受信するための通信装置によって構成される。通信部5127は、撮像部5123から得た画像信号をRAWデータとして伝送ケーブル5179を介してCCU5153に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者5181が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部5127には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル5179を介してCCU5153に送信される。
[0171]
 また、通信部5127は、CCU5153から、カメラヘッド5119の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに/又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部5127は、受信した制御信号をカメラヘッド制御部5129に提供する。なお、CCU5153からの制御信号も、光通信によって伝送されてもよい。この場合、通信部5127には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部5129に提供される。
[0172]
 なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてCCU5153の制御部5177によって自動的に設定される。つまり、いわゆるAE(Auto Exposure)機能、AF(Auto Focus)機能及びAWB(Auto White Balance)機能が内視鏡5115に搭載される。
[0173]
 カメラヘッド制御部5129は、通信部5127を介して受信したCCU5153からの制御信号に基づいて、カメラヘッド5119の駆動を制御する。例えば、カメラヘッド制御部5129は、撮像画像のフレームレートを指定する旨の情報及び/又は撮像時の露光を指定する旨の情報に基づいて、撮像部5123の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部5129は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部5125を介してレンズユニット5121のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部5129は、更に、鏡筒5117やカメラヘッド5119を識別するための情報を記憶する機能を備えてもよい。
[0174]
 なお、レンズユニット5121や撮像部5123等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド5119について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
[0175]
 次に、CCU5153の機能構成について説明する。通信部5173は、カメラヘッド5119との間で各種の情報を送受信するための通信装置によって構成される。通信部5173は、カメラヘッド5119から、伝送ケーブル5179を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部5173には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部5173は、電気信号に変換した画像信号を画像処理部5175に提供する。
[0176]
 また、通信部5173は、カメラヘッド5119に対して、カメラヘッド5119の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
[0177]
 画像処理部5175は、カメラヘッド5119から送信されたRAWデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理(帯域強調処理、超解像処理、NR(Noise reduction)処理及び/又は手ブレ補正処理等)、並びに/又は拡大処理(電子ズーム処理)等、各種の公知の信号処理が含まれる。また、画像処理部5175は、AE、AF及びAWBを行うための、画像信号に対する検波処理を行う。
[0178]
 画像処理部5175は、CPUやGPU等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部5175が複数のGPUによって構成される場合には、画像処理部5175は、画像信号に係る情報を適宜分割し、これら複数のGPUによって並列的に画像処理を行う。
[0179]
 制御部5177は、内視鏡5115による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部5177は、カメラヘッド5119の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部5177は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡5115にAE機能、AF機能及びAWB機能が搭載されている場合には、制御部5177は、画像処理部5175による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
[0180]
 また、制御部5177は、画像処理部5175によって画像処理が施された画像信号に基づいて、術部の画像を表示装置5155に表示させる。この際、制御部5177は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部5177は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具5135使用時のミスト等を認識することができる。制御部5177は、表示装置5155に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者5181に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
[0181]
 カメラヘッド5119及びCCU5153を接続する伝送ケーブル5179は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
[0182]
 ここで、図示する例では、伝送ケーブル5179を用いて有線で通信が行われていたが、カメラヘッド5119とCCU5153との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル5179を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル5179によって妨げられる事態が解消され得る。
[0183]
 以上、本開示に係る技術が適用され得る手術室システム5100の一例について説明した。なお、ここでは、一例として手術室システム5100が適用される医療用システムが内視鏡手術システム5113である場合について説明したが、手術室システム5100の構成はかかる例に限定されない。例えば、手術室システム5100は、内視鏡手術システム5113に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
[0184]
 以上説明した構成のうち、本開示に係る技術は、カメラヘッド5119やシーリングカメラ5187、術場カメラ5189に適用できる。本開示に係る技術を例えばカメラヘッド5119に適用する場合、撮像レンズ20はレンズユニット5121に相当し、撮像部31や前処理部32および画像処理部33は撮像部5123に相当する。また、制御部51はカメラヘッド制御部5129に相当する。このように、本技術を適用すればカメラヘッド5119で所望の被写体を撮像する際に、高速かつ品位よく所望の被写体に焦点を合わせることができる。
[0185]
 また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。または、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
[0186]
 例えば、プログラムは記録媒体としてのハードディスクやSSD(Solid State Drive)、ROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、BD(Blu-Ray Disc(登録商標))、磁気ディスク、半導体メモリカード等のリムーバブル記録媒体に、一時的または永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
[0187]
 また、プログラムは、リムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトからLAN(Local Area Network)やインターネット等のネットワークを介して、コンピュータに無線または有線で転送してもよい。コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
[0188]
 なお、本明細書に記載した効果はあくまで例示であって限定されるものではなく、記載されていない付加的な効果があってもよい。また、本技術は、上述した技術の実施の形態に限定して解釈されるべきではない。この技術の実施の形態は、例示という形態で本技術を開示しており、本技術の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本技術の要旨を判断するためには、請求の範囲を参酌すべきである。
[0189]
 また、本技術の撮像装置は以下のような構成も取ることができる。
 (1) 画像出力画素と位相差検出画素とを含む撮像素子と、
 所定期間に亘って前記位相差検出画素を用いて得られる像面位相差情報に基づいたフォーカス制御を行いながら得られるフォーカス状態情報に基づいてフォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成し、前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化であることを示す場合、前記像面位相差情報に基づく像面位相差フォーカス制御を継続する制御部と
を備える撮像装置。
 (2) 前記制御部は、前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化でないことを示す場合、前記像面位相差フォーカス制御から、前記像面位相差情報以外の情報に基づく他のフォーカス制御に切り替える(1)に記載の撮像装置。
 (3) 前記他のフォーカス制御は、前記画像出力画素を用いて得られる画像情報に基づくコントラストフォーカス制御または前記撮像素子と別個に設けられた測距情報生成素子で得られた測距情報に基づく測距情報フォーカス制御である(2)に記載の撮像装置。
 (4) 前記他のフォーカス制御は、前記画像出力画素を用いて得られる画像情報に基づくコントラストフォーカス制御であり、
 前記制御部は、前記コントラストフォーカス制御の終了後に前記像面位相差フォーカス制御を実行する(2)に記載の撮像装置。
 (5) 前記制御部は、前記所定期間に先だって、前記位相差検出画素の出力から得られる視差を持つ2像の相関演算結果の信頼性を判定し、前記相関演算結果の信頼性があると判定した場合に前記フォーカス状態変化情報を生成する(1)乃至(4)のいずれかに記載の撮像装置。
 (6) 前記制御部は、前記相関演算結果の信頼性がないと判定した場合、全サーチ動作を行う(5)に記載の撮像装置。
 (7) 前記フォーカス状態情報は、フォーカスレンズのレンズ実位置または前記像面位相差情報が示すデフォーカス量であり、
 前記制御部は、前記フォーカス状態の変化が単調変化か否かを、前記レンズ実位置の変化量または前記デフォーカス量の変化量に基づいて判定する(1)乃至(6)のいずれかに記載の撮像装置。
 (8) 前記フォーカス状態情報は、フォーカスレンズのレンズ実位置または前記像面位相差情報が示すデフォーカス量であり、
 前記制御部は、前記フォーカス状態の変化が単調変化か否かを、前記レンズ実位置の変化量の周波数特性または前記デフォーカス量の変化量の周波数特性に基づいて判定する(1)乃至(6)のいずれかに記載の撮像装置。
 (9) 前記フォーカス状態情報は、フォーカスレンズのレンズ実位置または前記像面位相差情報が示すデフォーカス量であり、
 前記制御部は、前記フォーカス状態の変化が単調変化か否かを、前記レンズ実位置または前記デフォーカス量に基づいて判定する(1)乃至(6)のいずれかに記載の撮像装置。
 (10) 前記フォーカス状態情報は、交換レンズとの通信によって取得した前記交換レンズにおけるフォーカスレンズのレンズ実位置である(7)乃至(9)のいずれかに記載の撮像装置。
[0190]
 また、本技術の撮像装置は以下のような構成も取ることができる。
 (1) 画像出力画素と像面位相差検出画素とを含む撮像素子と、
 所定期間に亘って前記位相差検出画素を用いて得られる像面位相差情報に基づく像面位相差フォーカス制御を行いながら得られるフォーカス状態情報に基づいて、フォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成し、前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化であることを示す場合、フォーカスレンズの焦点位置ズレが大きい状態と判定して、前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化でないことを示す場合、前記画像出力画素によって撮像された被写体のコントラストが低い状態と判定する判定部と
を備える撮像装置。
 (2) 前記フォーカス状態情報は、フォーカスレンズのレンズ実位置または前記像面位相差情報が示すデフォーカス量であり、
前記判定部は、前記フォーカス状態の変化が単調変化か否かを前記レンズ実位置の変化量または前記デフォーカス量の変化量で判定する(1)に記載の撮像装置。
 (3) 前記フォーカス状態情報は、フォーカスレンズのレンズ実位置または前記像面位相差情報が示すデフォーカス量であり、
 前記判定部は、前記フォーカス状態の変化が単調変化か否かを前記フォーカスレンズのレンズ実位置の変化量の周波数特性または前記デフォーカス量の変化量の周波数特性で判定する(1)に記載の撮像装置。
 (4) 前記フォーカス状態情報は、フォーカスレンズのレンズ実位置である(1)に記載の撮像装置。
 (5) 前記フォーカス状態情報は、前記像面位相差情報が示すデフォーカス量である(1)に記載の撮像装置。
 (16) 前記フォーカス状態情報は、フォーカスレンズのレンズ実位置及び前記像面位相差情報が示すデフォーカス量であり、
 前記判定部は、前記フォーカス状態の変化が単調変化か否かを前記フォーカスレンズのレンズ実位置と前記デフォーカス量の双方に基づいて判定する(1)に記載の撮像装置。
 (17) 前記判定部は、前記所定期間に先だって、前記像面位相差検出画素の出力から得られる視差を持つ2像の相関演算結果の信頼性を判定し、前記相関演算結果の信頼性があると判定した場合に、
 前記制御部は、前記フォーカス状態変化情報の生成を開始する(1)乃至(6)のいずれかに記載の撮像装置。
 (18) 前記判定部は、状態判定結果をユーザに提示する情報提示部での状態判定結果の提示を制御する(1)乃至(7)のいずれかに記載の撮像装置。
[0191]
 また、本技術は以下のようなプログラムであってもよい。
 (1) 撮像装置におけるフォーカス制御をコンピュータで実行させるプログラムであって、
 画像出力画素と位相差検出画素とを含む撮像素子の前記位相差検出画素を用いて得られる像面位相差情報を取得する手順と、
 所定期間に亘って得られる像面位相差情報に基づいた像面位相差フォーカス制御を行いながら得られるフォーカス状態情報に基づいて、フォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成する手順と、
 前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化であることを示す場合、前記像面位相差情報に基づく像面位相差フォーカス制御を継続する手順と
を前記コンピュータで実行させるプログラム。
 (2) 撮像装置におけるフォーカス制御をコンピュータで実行させるプログラムであって、
 画像出力画素と位相差検出画素とを含む撮像素子から前記位相差検出画素を用いて得られる像面位相差情報を取得することと、
 所定期間に亘って得られる像面位相差情報に基づいた像面位相差フォーカス制御を行いながら得られるフォーカス状態情報に基づいて、フォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成する手順と、
前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化であることを示す場合、フォーカスレンズの焦点位置ズレが大きい状態と判定し、前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化でないことを示す場合、前記画像出力画素によって撮像された被写体のコントラストが低い状態と判定する手順と
を前記コンピュータで実行させるプログラム。

産業上の利用可能性

[0192]
 この技術の撮像装置とフォーカス制御方法およびフォーカス判定方法によれば、画像出力画素と位相差検出画素とを含む撮像素子が用いられて、制御部では、画像出力画素と位相差検出画素とを含む撮像素子が用いられて、制御部は、所定期間に亘って位相差検出画素を用いて得られる像面位相差情報に基づいたフォーカス制御を行いながら得られるフォーカス状態情報に基づいてフォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成し、フォーカス状態変化情報が、フォーカス状態の変化が単調変化であることを示す場合、像面位相差情報に基づく像面位相差フォーカス制御を継続する。このため、例えばコントラスト方式のオートフォーカス動作を行う頻度が少なくなり、高速かつ品位のよいオートフォーカス動作が可能となる。したがって、デジタルカメラやビデオカメラ、内視鏡カメラ等に適している。

符号の説明

[0193]
 10,10a・・・撮像装置
 20・・・撮像レンズ
 21・・・撮像光学系
 22・・・レンズ駆動処理部
 30,30a・・・本体部
 31・・・撮像部
 32・・・前処理部
 33・・・画像処理部
 35・・・表示部
 36・・・記録部
 39・・・ユーザインタフェース(I/F)部
 45・・・透過ミラー部
 46・・・専用位相差検出部
 51・・・制御部
 511・・・判定部
 512・・・フォーカス制御部

請求の範囲

[請求項1]
 画像出力画素と位相差検出画素とを含む撮像素子と、
 所定期間に亘って前記位相差検出画素を用いて得られる像面位相差情報に基づいたフォーカス制御を行いながら得られるフォーカス状態情報に基づいてフォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成し、前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化であることを示す場合、前記像面位相差情報に基づく像面位相差フォーカス制御を継続する制御部と
を備える撮像装置。
[請求項2]
 前記制御部は、前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化でないことを示す場合、前記像面位相差フォーカス制御から、前記像面位相差情報以外の情報に基づく他のフォーカス制御に切り替える
請求項1に記載の撮像装置。
[請求項3]
 前記他のフォーカス制御は、前記画像出力画素を用いて得られる画像情報に基づくコントラストフォーカス制御または前記撮像素子と別個に設けられた測距情報生成素子で得られた測距情報に基づく測距情報フォーカス制御である
請求項2に記載の撮像装置。
[請求項4]
 前記他のフォーカス制御は、前記画像出力画素を用いて得られる画像情報に基づくコントラストフォーカス制御であり、
前記制御部は、前記コントラストフォーカス制御の終了後に前記像面位相差フォーカス制御を実行する
請求項2に記載の撮像装置。
[請求項5]
 前記制御部は、前記所定期間に先だって、前記位相差検出画素の出力から得られる視差を持つ2像の相関演算結果の信頼性を判定し、前記相関演算結果の信頼性があると判定した場合に前記フォーカス状態変化情報を生成する
請求項1に記載の撮像装置。
[請求項6]
 前記制御部は、前記相関演算結果の信頼性がないと判定した場合、全サーチ動作を行う
請求項5に記載の撮像装置。
[請求項7]
 前記フォーカス状態情報は、フォーカスレンズのレンズ実位置または前記像面位相差情報が示すデフォーカス量であり、
 前記制御部は、前記フォーカス状態の変化が単調変化か否かを、前記レンズ実位置の変化量または前記デフォーカス量の変化量に基づいて判定する
請求項1に記載の撮像装置。
[請求項8]
 前記フォーカス状態情報は、フォーカスレンズのレンズ実位置または前記像面位相差情報が示すデフォーカス量であり、
 前記制御部は、前記フォーカス状態の変化が単調変化か否かを、前記レンズ実位置の変化量の周波数特性または前記デフォーカス量の変化量の周波数特性に基づいて判定する
請求項1に記載の撮像装置。
[請求項9]
 前記フォーカス状態情報は、フォーカスレンズのレンズ実位置または前記像面位相差情報が示すデフォーカス量であり、
 前記制御部は、前記フォーカス状態の変化が単調変化か否かを、前記レンズ実位置または前記デフォーカス量に基づいて判定する
請求項1に記載の撮像装置。
[請求項10]
 前記フォーカス状態情報は、交換レンズとの通信によって取得した前記交換レンズにおけるフォーカスレンズのレンズ実位置である
請求項1に記載の撮像装置。
[請求項11]
 画像出力画素と像面位相差検出画素とを含む撮像素子と、
 所定期間に亘って前記位相差検出画素を用いて得られる像面位相差情報に基づく像面位相差フォーカス制御を行いながら得られるフォーカス状態情報に基づいて、フォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成し、前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化であることを示す場合、フォーカスレンズの焦点位置ズレが大きい状態と判定して、前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化でないことを示す場合、前記画像出力画素によって撮像された被写体のコントラストが低い状態と判定する判定部と
を備える撮像装置。
[請求項12]
 前記フォーカス状態情報は、フォーカスレンズのレンズ実位置または前記像面位相差情報が示すデフォーカス量であり、
 前記判定部は、前記フォーカス状態の変化が単調変化か否かを前記レンズ実位置の変化量または前記デフォーカス量の変化量で判定する
請求項11に記載の撮像装置。
[請求項13]
 前記フォーカス状態情報は、フォーカスレンズのレンズ実位置または前記像面位相差情報が示すデフォーカス量であり、
 前記判定部は、前記フォーカス状態の変化が単調変化か否かを前記フォーカスレンズのレンズ実位置の変化量の周波数特性または前記デフォーカス量の変化量の周波数特性で判定する
請求項11に記載の撮像装置。
[請求項14]
 前記フォーカス状態情報は、フォーカスレンズのレンズ実位置である
請求項11に記載の撮像装置。
[請求項15]
 前記フォーカス状態情報は、前記像面位相差情報が示すデフォーカス量である
請求項11に記載の撮像装置。
[請求項16]
 前記フォーカス状態情報は、フォーカスレンズのレンズ実位置及び前記像面位相差情報が示すデフォーカス量であり、
前記判定部は、前記フォーカス状態の変化が単調変化か否かを前記フォーカスレンズのレンズ実位置と前記デフォーカス量の双方に基づいて判定する
請求項11に記載の撮像装置。
[請求項17]
 前記判定部は、前記所定期間に先だって、前記像面位相差検出画素の出力から得られる視差を持つ2像の相関演算結果の信頼性を判定し、前記相関演算結果の信頼性があると判定した場合に、
 前記制御部は、前記フォーカス状態変化情報の生成を開始する
請求項11に記載の撮像装置。
[請求項18]
 前記判定部は、状態判定結果をユーザに提示する情報提示部での状態判定結果の提示を制御する
請求項11に記載の撮像装置。
[請求項19]
 画像出力画素と位相差検出画素とを含む撮像素子の前記位相差検出画素を用いて所定期間に亘って得られる像面位相差情報に基づいた像面位相差フォーカス制御を行いながら得られるフォーカス状態情報に基づいて、フォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成することと、
 前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化であることを示す場合、前記像面位相差情報に基づく像面位相差フォーカス制御を継続することと
を含むフォーカス制御方法。
[請求項20]
 画像出力画素と像面位相差検出画素とを含む撮像素子の前記位相差検出画素を用いて所定期間に亘って得られる像面位相差情報に基づいた像面位相差フォーカス制御を行いながら得られるフォーカス状態情報に基づいて、フォーカス状態の変化が単調変化であるか否かを示すフォーカス状態変化情報を生成することと、
 前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化であることを示す場合、フォーカスレンズの焦点位置ズレが大きい状態と判定し、前記フォーカス状態変化情報が、前記フォーカス状態の変化が単調変化でないことを示す場合、前記画像出力画素によって撮像された被写体のコントラストが低い状態と判定することと
を含むフォーカス判定方法。

図面

[ 図 1]

[ 図 2]

[ 図 3]

[ 図 4]

[ 図 5]

[ 図 6]

[ 図 7]

[ 図 8]

[ 図 9]

[ 図 10]

[ 図 11]

[ 図 12]

[ 図 13]

[ 図 14]

[ 図 15]