Traitement en cours

Veuillez attendre...

Paramétrages

Paramétrages

Aller à Demande

1. WO2020116213 - DISPOSITIF DE RÉCEPTION ET DISPOSITIF DE TRANSMISSION

Document

明 細 書

発明の名称 受信装置および送信装置

技術分野

0001  

背景技術

0002   0003  

先行技術文献

特許文献

0004  

発明の概要

発明が解決しようとする課題

0005   0006  

課題を解決するための手段

0007   0008  

図面の簡単な説明

0009  

発明を実施するための形態

0010   0011   0012   0013   0014   0015   0016   0017   0018   0019   0020   0021   0022   0023   0024   0025   0026   0027   0028   0029   0030   0031   0032   0033   0034   0035   0036   0037   0038   0039   0040   0041   0042   0043   0044   0045   0046   0047   0048   0049   0050   0051   0052   0053   0054   0055   0056   0057   0058   0059   0060   0061   0062   0063   0064   0065   0066   0067   0068   0069   0070   0071   0072   0073   0074   0075   0076   0077   0078   0079   0080   0081   0082   0083   0084   0085   0086   0087   0088   0089   0090   0091   0092   0093   0094   0095   0096   0097   0098   0099   0100   0101   0102   0103   0104   0105   0106   0107   0108   0109   0110   0111   0112   0113   0114   0115   0116   0117   0118   0119   0120   0121   0122   0123   0124   0125   0126   0127   0128   0129   0130   0131   0132   0133   0134   0135   0136   0137   0138   0139   0140   0141   0142   0143   0144   0145   0146   0147   0148   0149   0150   0151   0152   0153   0154   0155   0156   0157   0158   0159   0160   0161   0162   0163   0164   0165   0166   0167   0168   0169   0170   0171   0172   0173   0174   0175   0176   0177   0178   0179   0180   0181   0182   0183   0184   0185   0186   0187   0188   0189   0190   0191   0192   0193   0194  

符号の説明

0195  

請求の範囲

1   2   3   4   5   6   7   8   9   10   11   12   13   14   15   16   17   18   19   20  

図面

1   2   3   4   5   6   7   8   9   10   11   12   13   14   15   16   17   18   19   20   21   22   23   24  

明 細 書

発明の名称 : 受信装置および送信装置

技術分野

[0001]
 本開示は、受信装置および送信装置に関する。

背景技術

[0002]
 イメージセンサの画像露光の方法の一つに、取得する画像が適正な明るさになるようにイメージセンサの露光時間を調整するという方法がある。感度不足を露光時間で補おうとする従来の一般的な方式では、動く被写体を取得した場合、その露光時間の長さに応じて動きボケが発生してしまう。イメージセンサからの画像信号の取得時は露光時間をできるだけ短くすることで動きボケの発生をできるだけ抑え、2フレーム以上のフレームを使用して動き補償をすることで動きボケが発生しないように重ね合わせ、適正露光に対して感度不足になったりSN比が悪化したりする問題を解決する手法が提案されている。
[0003]
 近年、イメージセンサの高解像度化が進んでいる。このような提案技術に関して、高解像度のイメージセンサを用いた場合に、複数枚の取得画像を転送するのに要する時間がハードウェアの制約による転送可能な時間を超えてしまうようなときには、イメージセンサ内にバッファとなるメモリが必要となってしまう。そのような問題に対応する従来技術として、例えば特許文献1~4などが提案されている。

先行技術文献

特許文献

[0004]
特許文献1 : 特開2008-160881号公報
特許文献2 : 特開平11-331643号公報
特許文献3 : 特開2001-250119号公報
特許文献4 : 特開2002-230544号公報

発明の概要

発明が解決しようとする課題

[0005]
 しかし、特許文献1で開示された技術はハイダイナミックレンジの画像の生成に制約があり、特許文献2~4で開示された技術は、撮影後の画像から動きボケを推定して除去する方式であるため、複雑なアルゴリズムや回路が必要となってしまう。
[0006]
 そこで、本開示では、動きボケの発生と飽和する領域の発生とSN比の低下の発生を同時に抑制することが可能な、新規かつ改良された受信装置および送信装置を提案する。

課題を解決するための手段

[0007]
 本開示によれば、撮像領域の全体の画像データを受信する第1のモードと、前記撮像領域の一部の領域のみを受信する第2のモードとの少なくともいずれかで画像データを受信する受信部と、前記受信部が受信した画像データに基づいて画像を生成する情報処理部と、を備え、前記情報処理部は、前記第2のモードで画像データを受信する際に、前記第1のモードとは異なるパラメータが付加された画像データを受信する、受信装置が提供される。
[0008]
 また本開示によれば、撮像領域の全体を読み出す第1のモードと、前記撮像領域の一部の領域を読み出す第2のモードとの少なくともいずれかで画像データを読み出す画像処理部と、前記画像処理部が読み出した画像データを所定のフォーマットに従う伝送信号に格納して伝送する送信部と、を備え、前記画像処理部は、前記第2のモードで画像を読み出す際に読み出し速度を可変とする、送信装置が提供される。

図面の簡単な説明

[0009]
[図1] 本実施形態に係る通信システム1000の構成の一例を示す説明図である。
[図2] MIPI CSI-2規格において定められるパケットのフォーマットを示す説明図である。
[図3] MIPI CSI-2規格において定められるパケットのフォーマットを示す説明図である。
[図4] MIPI CSI-2規格におけるパケットの送信に係る信号波形の一例を示す説明図である。
[図5] 画像センサ100の動作の概要を示す説明図である。
[図6] 画像センサ100の動作の概要を示す説明図である。
[図7] 本実施形態に係る画像センサ100の構成の一例を示すハードウェアブロック図である。
[図8] 本実施形態に係る画像センサ100が伝送するデータの具体例を示す説明図である。
[図9] 本実施形態に係る画像センサ100が伝送するデータの具体例を示す説明図である。
[図10] 本実施形態に係るプロセッサ200の構成の一例を表したものである。
[図11] 画像センサ100の動作の概要を示す説明図である。
[図12] 画像センサ100の動作の概要を示す説明図である。
[図13] 本実施形態に係る画像センサ100が伝送するデータの具体例を示す説明図である。
[図14] 画像センサ100の動作の概要を示す説明図である。
[図15] 画像センサ100の動作の概要を示す説明図である。
[図16] 画像センサ100の動作の概要を示す説明図である。
[図17] 画像センサ100の動作の概要を示す説明図である。
[図18] ROI領域の例を示す説明図である。
[図19] ROI領域のデータフォーマットを示す説明図である。
[図20] 同実施形態に係る通信システムにおいて画像のデータの送信に利用されるパケットの構造の一例について説明するための説明図である。
[図21] パケットのヘッダに設けられる拡張領域について説明するための説明図である。
[図22] パケットのヘッダに設けられる拡張領域について説明するための説明図である。
[図23] 送信されるデータのフォーマットについて説明するための説明図である。
[図24] パケットヘッダの構成の一例について説明するための説明図である。

発明を実施するための形態

[0010]
 以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
[0011]
 なお、説明は以下の順序で行うものとする。
 1.本開示の実施の形態
  1.1.経緯
  1.2.構成例
  1.3.動作例
 2.まとめ
[0012]
 <1.本開示の実施の形態>
 [1.1.経緯]
 まず、本開示の実施の形態について詳細に説明する前に、本開示の実施の形態に至った経緯について説明する。
[0013]
 イメージセンサの従来からの一般的な画像取得及び画像露光の方法の一つに、取得する画像が適正な明るさになるように、イメージセンサの露光時間を調整するという方法がある。例えば取得画像が30fpsの動画像である場合を考えた場合、被写体が明るくて白飛びが発生してしまうような場合には、1/30秒(≒33.3ミリ秒)より短い時間で露光することで適正な明るさを保とうとする。一方、被写体が暗くて適正露光を確保できない場合は、30fpsのときに1フレームに割り当てられる最大時間である1/30秒を最大限に使って露光して画像取得しようとする。
[0014]
 しかし、感度不足を露光時間で補おうとする従来の一般的な方式では、動く被写体を取得した際に、その露光時間の長さに応じて動きボケが発生してしまうという問題がある。そこで、イメージセンサからの画像の取得時は露光時間をできるだけ短くすることで動きボケの発生をできるだけ抑えて画像取得しておき、取得された2フレームかそれ以上のフレームの画像信号を使用して動き補償をする手法が知られている。これにより、動きボケが発生しないように画像を重ね合わせ、適正露光に対して感度不足になったりSNRが悪化したりすることを解消することができる。
[0015]
 近年では、広域、および高解像度監視の用途等を目的として、イメージセンサの高解像度化が進展してきている。イメージセンサが高解像度化すると、上述したような従来の技術に関しては、イメージセンサから複数枚の取得画像を転送するのに要する時間が、ハードウェアの制約による転送可能な時間を超えてしまうような場合に、イメージセンサ内にバッファとなるメモリが必要となってしまう。
[0016]
 また一方では、画像全体が1/30秒で適正露光であったとしても、画像内の一部の明るい部分が飽和して取得されてしまう場合があり得る。そのような場合に対応するために、1フレームの画像を取得するにあたってn回に分けてn枚の画像を取得し、そのn枚の画像から信号処理でハイダイナミックレンジの画像を取得できる技術が特許文献1で提案されている。しかし、特許文献1で開示された技術は、転送速度のハードウェア制約から算出される最大フレームレートの動画に対して最大フレームレートの高々1/nのフレームレートでしかハイダイナミックレンジ画像を作成できない。
[0017]
 露光時間の長さに応じて生ずる動きボケの現象に対しては、撮像した画像(静止画や動画)から動きボケを除去する方法、および動きボケの除去ための画像処理装置も、例えば特許文献2~4などで提案されている。特許文献2には、900fps以上で撮像された画像を30fpsの表示装置で表示する装置に適用するために、撮像後の画像から動きボケを除去する画像処理方法が示されている。また、特許文献3、特許文献4には撮像後の画像から動きボケを除去して出力する実時間画像処理方法が示されている。しかし、これらの文献に記載されている技術は、いずれも撮影後の画像から動きボケを推定して除去する方式であるため、複雑なアルゴリズムや回路が必要となってしまう上に完全に動きボケを除去することは難しい。
[0018]
 そこで本件開示者は、上述した点に鑑み、動きボケの発生と飽和する領域の発生とSN比の低下の発生を同時に抑制することが可能な技術について鋭意検討を行った。その結果、本件開示者は、以下で説明するように、画像に対して設定される領域に対する読み出しによって、動きボケの発生と飽和する領域の発生とSN比の低下の発生を同時に抑制することが可能な技術を考案するに至った。
[0019]
 以上、本開示の実施の形態の経緯について説明した。続いて本開示の実施の形態について詳細に説明する。
[0020]
 [1.2.構成例]
 (1)本実施形態に係る送信方法を適用することが可能な通信システムの構成
 まず、本実施形態に係る送信方法を適用することが可能な通信システムの構成の一例を説明する。
[0021]
 以下では、本実施形態に係る通信システムを構成する装置間の通信方式が、MIPI(Mobile Industry Processor Interface) CSI-2(Camera Serial Interface 2)規格に則った通信方式である場合を例に挙げる。なお、本実施形態に係る通信システムを構成する装置間の通信方式は、MIPI CSI-2規格に則った通信方式に限られない。例えば、本実施形態に係る通信システムを構成する装置間の通信は、MIPI CSI-3規格に則った通信方式や、MIPI DSI(Display Serial Interface)に則った通信方式など、MIPIアライアンスにおいて策定された他の規格であってもよい。また、本実施形態に係る送信方法が適用可能な通信方式が、MIPIアライアンスにおいて策定された規格に係る通信方式に限られないことは、言うまでもない。
[0022]
 図1は、本実施形態に係る通信システム1000の構成の一例を示す説明図である。通信システム1000としては、例えば、スマートフォンなどの通信装置や、ドローン(遠隔操作による動作、または、自律的な動作が可能な機器)、自動車などの移動体などが挙げられる。なお、通信システム1000の適用例は、上記に示す例に限られない。通信システム1000の他の適用例については、後述する。
[0023]
 通信システム1000は、例えば、画像センサ100と、プロセッサ200と、メモリ300と、表示デバイス400とを有する。
[0024]
 画像センサ100は、撮像機能と送信機能とを有し、撮像により生成した画像を示すデータを送信する。プロセッサ200は、画像センサ100から送信されたデータを受信し、受信されたデータを処理する。つまり、通信システム1000において、画像センサ100は送信装置の役目を果たし、プロセッサ200は受信装置の役目を果たす。
[0025]
 なお、図1では、1つの画像センサ100を有する通信システム1000を示しているが、本実施形態に係る通信システムが有する画像センサ100の数は、図1に示す例に限られない。例えば、本実施形態に係る通信システムは、2つ以上の画像センサ100を有していてもよい。
[0026]
 また、図1では、1つのプロセッサ200を有する通信システム1000を示しているが、本実施形態に係る通信システムが有するプロセッサ200の数は、図1に示す例に限られない。例えば、本実施形態に係る通信システムは、2つ以上のプロセッサ200を有していてもよい。
[0027]
 画像センサ100およびプロセッサ200それぞれを複数有する通信システムでは、画像センサ100とプロセッサ200とが一対一に対応していてもよいし、1つのプロセッサ200に複数の画像センサ100が対応していてもよい。また、画像センサ100およびプロセッサ200それぞれを複数有する通信システムでは、1つの画像センサ100に複数のプロセッサ200が対応していてもよい。
[0028]
 画像センサ100およびプロセッサ200それぞれを複数有する通信システムにおいても、図1に示す通信システム1000と同様に、画像センサ100とプロセッサ200との間で通信が行われる。
[0029]
 画像センサ100とプロセッサ200とは、データバスB1により電気的に接続される。データバスB1は、画像センサ100とプロセッサ200とを接続する、一の信号の伝送路である。例えば、画像センサ100から送信される画像を示すデータ(以下、「画像データ」と示す場合がある。)は、画像センサ100からプロセッサ200へとデータバスB1を介して伝送される。
[0030]
 通信システム1000においてデータバスB1により伝送される信号は、例えば、MIPI CSI-2規格などの所定の規格に則った通信方式で伝送される。
[0031]
 図2、図3は、MIPI CSI-2規格において定められるパケットのフォーマットを示す説明図である。図2は、MIPI CSI-2規格において定められているショートパケット(Short Packet)のフォーマットを示しており、図3は、MIPI CSI-2規格において定められているロングパケット(Long Packet)のフォーマットを示している。
[0032]
 ロングパケットは、パケットヘッダ(図3に示す“PH”)、ペイロード(図3に示す“Payload Data”)、およびパケットフッタ(図3に示す“PF”)からなるデータである。ショートパケットは、図2に示すようにパケットヘッダ(図3に示す“PH”)と同様の構造を有するデータである。
[0033]
 ショートパケットとロングパケットとには、いずれもヘッダ部分にVC(Virtual Channel)番号(図2、図3に示す“VC”。VC値)が記録され、パケットごとに任意のVC番号が付与されうる。同一のVC番号が付与されたパケットは、同じ画像データに属するパケットとして扱われる。
[0034]
 また、ショートパケットとロングパケットとには、いずれもヘッダ部分にDT(Data Type)値(図2、図3に示す“Data Type”)が記録される。そのため、VC番号と同様に、同一のDT値が付与されたパケットを、同じ画像データに属するパケットとして取り扱うことも可能である。
[0035]
 ロングパケットのヘッダ部分のWord Countには、パケットの終わりがワード数で記録される。ショートパケットとロングパケットとのヘッダ部分のECCには、誤り訂正符号(Error Correcting Code)が記録される。
[0036]
 MIPI CSI-2規格では、データ信号を伝送する期間では高速差動信号が用いられ、また、データ信号のブランキング期間では低電力信号が用いられる。また、高速差動信号が用いられる期間は、HPS(High Speed State)の期間と呼ばれ、低電力信号が用いられる期間は、LPS(Low Power State)の期間と呼ばれる。
[0037]
 図4は、MIPI CSI-2規格におけるパケットの送信に係る信号波形の一例を示す説明図である。図4のAは、パケットの伝送の一例を示しており、図4のBは、パケットの伝送の他の例を示している。図4に示す“ST”、“ET”、“PH”、“PF”、“SP”、“PS”は、それぞれ下記を意味する。
  ・ST:Start of Transmission
  ・ET:End of Transmission
  ・PH:Packet Header
  ・PF:Packet Footer
  ・SP:Short Packet
  ・PS:Packet Spacing
[0038]
 図4に示すように、LPSの期間における差動信号(図4に示す“LPS”)と、HPSの期間における差動信号(図4に示す“LPS”以外)とでは、差動信号の振幅が異なることが分かる。そのため、伝送効率を向上させる観点からは、できる限りLPSの期間が入らないことが望ましい。
[0039]
 画像センサ100とプロセッサ200とは、例えば、データバスB1とは異なる制御バスB2により電気的に接続される。制御バスB2は、画像センサ100とプロセッサ200とを接続する、他の信号の伝送路である。例えば、プロセッサ200から出力される制御情報が、プロセッサ200から画像センサ100へと制御バスB2を介して伝送される。
[0040]
 制御情報には、例えば、制御のための情報と処理命令とが含まれる。制御のための情報としては、例えば、画像サイズを示すデータ、フレームレートを示すデータ、画像の出力命令が受信されてから画像を出力するまでの出力遅延量を示すデータのうちの1または2以上など、画像センサ100における機能を制御するためのデータが、挙げられる。また、制御情報には、画像センサ100を示す識別情報が含まれていてもよい。識別情報としては、例えば、画像センサ100に設定されているIDなどの、画像センサ100を特定することが可能な任意のデータが挙げられる。
[0041]
 なお、制御バスB2を介してプロセッサ200から画像センサ100へと伝送される情報は、上記に示す例に限られない。例えば、プロセッサ200は、画像における領域を指定する領域指定情報を、制御バスB2を介して伝送してもよい。領域指定情報としては、領域に含まれる画素の位置を示すデータ(例えば、領域に含まれる画素の位置が座標で表される座標データなど)など、領域を特定することが可能な任意の形式のデータが、挙げられる。
[0042]
 図1では、画像センサ100とプロセッサ200とが制御バスB2により電気的に接続されている例を示しているが、画像センサ100とプロセッサ200とは、制御バスB2で接続されていなくてもよい。例えば、画像センサ100とプロセッサ200とは、任意の通信方式の無線通信によって、制御情報などを送受信してもよい。
[0043]
 以下、図1に示す通信システム1000を構成する各装置について、説明する。
[0044]
 (1-1)メモリ300
 メモリ300は、通信システム1000が有する記録媒体である。メモリ300としては、例えば、RAM(Random Access Memory)などの揮発性メモリや、フラッシュメモリなどの不揮発性メモリなどが挙げられる。メモリ300は、バッテリなどの通信システム1000を構成する内部電源(図示せず)から供給される電力、または、通信システム1000の外部電源から供給される電力によって、動作する。
[0045]
 メモリ300には、例えば、画像センサ100から出力された画像が記憶される。メモリ300への画像の記録は、例えばプロセッサ200により制御される。
[0046]
 (1-2)表示デバイス400
 表示デバイス400は、通信システム1000が有する表示デバイスである。表示デバイス400としては、例えば、液晶ディスプレイや有機ELディスプレイ(Organic Electro-Luminescence Display。または、OLEDディスプレイ(Organic Light Emitting Diode Display)ともよばれる。)などが挙げられる。表示デバイス400は、バッテリなどの通信システム1000を構成する内部電源(図示せず)から供給される電力、または、通信システム1000の外部電源から供給される電力によって、動作する。
[0047]
 表示デバイス400の表示画面には、例えば、画像センサ100から出力された画像や、プロセッサ200において実行されるアプリケーションに係る画面、UI(User Interface)に係る画面など、様々な画像や画面が表示される。表示デバイス400の表示画面への画像などの表示は、例えばプロセッサ200により制御される。
[0048]
 (1-3)プロセッサ200(受信装置)
 プロセッサ200は、画像センサ100から送信されたデータを受信し、受信されたデータを処理する。上述したように、プロセッサ200は、通信システム1000において受信装置の役目を果たす。画像センサ100から送信されたデータの処理に係る構成(受信装置の役目を果たすための構成)の一例については、後述する。
[0049]
 プロセッサ200は、例えば、MPU(Micro Processing Unit)などの演算回路で構成される、1または2以上のプロセッサや、各種処理回路などで構成される。プロセッサ200は、バッテリなどの通信システム1000を構成する内部電源(図示せず)から供給される電力、または、通信システム1000の外部電源から供給される電力によって、動作する。
[0050]
 プロセッサ200は、例えば、メモリ300などの記録媒体への画像データの記録制御に係る処理、表示デバイス400の表示画面への画像の表示制御に係る処理、任意のアプリケーションソフトウェアを実行する処理など、様々な処理を行う。記録制御に係る処理としては、例えば“記録命令を含む制御データと記録媒体に記録させるデータとを、メモリ300などの記録媒体に伝達する処理”が、挙げられる。また、表示制御に係る処理としては、例えば“表示命令を含む制御データと表示画面に表示させるデータとを、表示デバイス400などの表示デバイスに伝達する処理”が、挙げられる。
[0051]
 また、プロセッサ200は、例えば、画像センサ100に対して制御情報を送信することによって、画像センサ100における機能を制御してもよい。プロセッサ200は、例えば、画像センサ100に対して領域指定情報を送信することによって、画像センサ100から送信されるデータを制御することも可能である。
[0052]
 (1-4)画像センサ100(送信装置)
 画像センサ100は、撮像機能と送信機能とを有し、撮像により生成した画像を示すデータを送信する。上述したように、画像センサ100は、通信システム1000において送信装置の役目を果たす。
[0053]
 画像センサ100は、例えば、“デジタルスチルカメラやデジタルビデオカメラ、ステレオカメラなどの撮像デバイス”や、“赤外線センサ”、“距離画像センサ”などの、画像を生成することが可能な任意の方式の画像センサデバイスを含み、生成された画像を送信する機能を有する。画像センサ100において生成される画像は、画像センサ100におけるセンシング結果を示すデータに該当する。画像センサ100の構成の一例については、後述する。
[0054]
 画像センサ100は、後述する本実施形態に係る送信方法により、画像に対して設定される領域に対応するデータ(以下、「領域データ」と示す。)を送信する。領域データの送信に係る制御は、例えば、画像センサ100における画像処理部として機能する構成要素(後述する)により行われる。画像に対して設定される領域は、ROI(Region Of Interest)と呼ばれる場合がある。以下では、画像に対して設定される領域を「ROI」と示す場合がある。
[0055]
 画像に対する領域の設定に係る処理としては、例えば、“画像から物体を検出し、検出された物体を含む領域を設定する処理”、“任意の操作デバイスに対する操作などにより指定された領域を設定する処理”など、画像における一部の領域を特定することが可能な任意の処理(または、画像から一部の領域を切り出すことが可能な任意の処理)が、挙げられる。
[0056]
 画像に対する領域の設定に係る処理は、画像センサ100が行ってもよいし、プロセッサ200などの外部装置において行われてもよい。画像センサ100が画像に対する領域の設定に係る処理を行う場合、画像センサ100は、画像に対する領域の設定に係る処理の結果に従って領域を特定する。また、例えば、画像に対する領域の設定に係る処理が外部装置において行われる場合、画像センサ100は、外部装置から取得される領域指定情報に基づいて、領域を特定する。
[0057]
 画像センサ100が、領域データを送信すること、すなわち、画像の一部のデータを送信することによって、画像全体を伝送するよりも伝送に係るデータ量が小さくなる。よって、画像センサ100が、領域データを送信することによって、例えば、伝送時間が短縮される、通信システム1000における伝送に係る負荷が低減されるなど、データ量が低減されることにより奏される様々な効果が、奏される。
[0058]
 なお、画像センサ100は、画像全体を示すデータを送信することも可能である。
[0059]
 画像センサ100が、領域データを送信する機能、および画像全体を示すデータを送信する機能を有している場合、画像センサ100は、領域データを送信することと、画像全体を示すデータを送信することとを、選択的に切り替えて行うことが可能である。
[0060]
 画像センサ100は、例えば、設定されている動作モードによって、領域データを送信し、または、画像全体を示すデータを送信する。動作モードの設定は、例えば、任意の操作デバイスに対する操作などにより行われる。
[0061]
 また、画像センサ100は、外部装置から取得される領域指定情報に基づいて、領域データを送信することと、画像全体を示すデータを送信することとを、選択的に切り替えてもよい。画像センサ100は、例えば、外部装置から領域指定情報が取得されたときに、当該領域指定情報に対応する領域の領域データを送信し、外部装置から領域指定情報が取得されないときに、画像全体を示すデータを送信する。
[0062]
 通信システム1000は、例えば図1に示す構成を有する。なお、本実施形態に係る通信システムの構成は、図1に示す例に限られない。
[0063]
 例えば、図1では、送信装置の役目を果たす装置として画像センサ100を例に挙げたが、送信装置の役目を果たす装置は、画像センサ100に限られない。例えば、本実施形態に係る通信システムが、撮像デバイスなどの画像センサデバイスと、画像センサデバイスと電気的に接続されている送信器とを有する構成である場合、当該送信器が送信装置の役目を果たしていてもよい。
[0064]
 また、図1では、受信装置の役目を果たす装置として、プロセッサ200を例に挙げたが、受信装置の役目を果たす装置は、プロセッサ200に限られない。例えば、本実施形態に係る通信システムでは、データを受信する機能を有する任意のデバイスが、受信装置の役目を果たすことが可能である。
[0065]
 また、通信システムの外部の記録媒体に画像センサ100から送信される画像が記憶される場合、画像センサ100から送信される画像が、プロセッサ200に備えられるメモリに記憶される場合、あるいは、画像センサ100から送信される画像が記録されない場合などには、本実施形態に係る通信システムは、メモリ300を有していなくてもよい。
[0066]
 また、本実施形態に係る通信システムは、図1に示す表示デバイス400を有さない構成をとることが可能である。
[0067]
 さらに、本実施形態に係る通信システムは、後述する本実施形態に係る通信システムが適用される電子機器が有する機能に応じた、任意の構成を有していてもよい。
[0068]
 以上、本実施形態として、通信システムを挙げて説明したが、本実施形態は、かかる形態に限られない。本実施形態は、例えば、スマートフォンなどの通信装置や、ドローン(遠隔操作による動作、または、自律的な動作が可能な機器)、自動車などの移動体、PC(Personal Computer)などのコンピュータ、タブレット型の装置、ゲーム機、監視カメラなど、様々な電子機器に適用することができる。
[0069]
 このような通信システムにおいて、動きボケの発生と飽和する領域の発生とSN比の低下の発生を同時に抑制するための動作の概要を説明する。
[0070]
 図5は、画像全体を画像センサ100からプロセッサ200に伝送する場合においてフレームの露光時間を変化させる際の動作の概要を示す説明図である。図5には、ある任意のフレームにおいて露光時間を短く(図5の例では1/480秒)している様子が示されている。このように画像全体を画像センサ100からプロセッサ200に伝送すると、上述したようにハイダイナミックレンジ画像の生成に制約が掛かる。
[0071]
 図6は、画像に設定された領域のみを画像センサ100からプロセッサ200に伝送する場合においてフレームの露光時間を変化させる際の動作の概要を示す説明図である。図6には、ある任意のフレームにおいて露光時間を短く(図6の例では1/480秒)し、さらに当該フレームにおいて、垂直方向のサイズが全体の1/16であるデータを複数(図6の例では16個)伝送している様子が示されている。すなわち、本実施形態では、画像センサ100は、撮像領域全体を読み出してプロセッサ200に伝送するモードと、設定された領域(ROI)を読み出してプロセッサ200に伝送するモードとの、少なくとも2つのモードを有するものとする。
[0072]
 本実施形態では、このようにデータを伝送することで、画像全体を伝送する場合とデータの伝送量は変わらないが、画像の一部の領域のみを伝送することで、その領域について高解像度の画像をプロセッサ200に生成させることが可能となる。
[0073]
 (画像センサ100)
 続いて、本実施形態に係る画像センサ100の構成例について説明する。図7は、本実施形態に係る画像センサ100の構成の一例を示すハードウェアブロック図である。画像センサ100は、例えば、画像センサデバイス102と、ICチップ104とを備える。図7に示す画像センサ100は、バッテリなどの通信システム1000を構成する内部電源(図示せず)から供給される電力、または、通信システム1000の外部電源から供給される電力によって、動作する。
[0074]
 画像センサデバイス102は、例えば、“デジタルスチルカメラなどの撮像デバイス”や、“赤外線センサ”、“距離画像センサ”などの、画像を生成することが可能な任意の方式の画像センサデバイスである。
[0075]
 一例を挙げると、画像センサデバイス102として機能する撮像デバイスは、レンズ/撮像素子と信号処理回路とを含んで構成される。
[0076]
 レンズ/撮像素子は、例えば、光学系のレンズと、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge Coupled Device)などの撮像素子を複数用いたイメージセンサとで構成される。
[0077]
 信号処理回路は、例えば、AGC(Automatic Gain Control)回路やADC(Analog to Digital Converter)を備え、撮像素子により生成されたアナログ信号をデジタル信号(画像データ)に変換する。また、信号処理回路は、例えばRAW現像に係る各種処理を行う。さらに、信号処理回路は、例えば、White Balance補正処理や、色調補正処理、ガンマ補正処理、YCbCr変換処理、エッジ強調処理など各種信号処理を行ってもよい。
[0078]
 また、信号処理回路は、画像に対する領域の設定に係る処理を行い、領域指定情報をICチップ104へ伝達してもよい。さらに、信号処理回路は、露光情報やゲイン情報などの様々なデータを、ICチップ104へ伝達してもよい。
[0079]
 画像センサデバイス102により生成された画像を示す信号は、ICチップ104へ伝達される。なお、画像センサデバイス102からICチップ104へ伝達される画像を示す信号がアナログ信号である場合、ICチップ104は、例えば、備えているADCにてアナログ信号をデジタル信号に変換し、変換により得られた画像データを処理する。以下では、画像センサデバイス102からICチップ104へ画像データが伝達される場合を例に挙げる。
[0080]
 ICチップ104は、データの送信機能に係る回路が集積されたIC(Integrated Circuit)がチップ状に形成されたものであり、画像センサデバイス102から伝達される画像データを処理し、生成された画像に対応するデータを送信する。画像に対応するデータとは、画像センサデバイス102から伝達される画像データ(すなわち、画像全体を示すデータ)、または、領域情報および領域データである。なお、データの送信機能に係る回路は、1つのICチップの形態で実現されることに限られず、複数のICチップで形成されていてもよい。
[0081]
 ICチップ104は、例えば、画像処理回路106と、LINK制御回路108と、ECC生成回路110と、PH生成回路112と、EBD用バッファ114と、画像データバッファ116と、合成回路118と、送信回路120とを備える。
[0082]
 画像処理回路106は、本実施形態に係る送信方法に係る処理を行う機能を有する一の回路である。本実施形態に係る送信方法に係る処理を行う場合、画像処理回路106は、領域情報を画像における行ごとに設定し、設定された領域情報と領域に対応する領域データとを、LINK制御回路108、ECC生成回路110、PH生成回路112、EBD用バッファ114、画像データバッファ116、合成回路118、送信回路120により、行ごとに送信させる。また、画像処理回路106は、画像センサデバイス102から伝達される画像データ(すなわち、画像全体を示すデータ)を、行ごとに送信させることも可能である。
[0083]
 画像処理回路106としては、例えばMPUなどのプロセッサが、挙げられる。
[0084]
 画像処理回路106が有する機能を、機能ブロックに分けて説明する。図7に示すように、画像処理回路106は、例えば、領域切り出し部122と、画像処理制御部124と、エンコード部126とを有する。
[0085]
 領域切り出し部122は、画像に対する領域の設定に係る処理を行う役目を果たし、画像センサデバイス102から伝達される画像データが示す画像に対して、領域(ROI)を設定する。領域切り出し部122は、例えば、設定されている動作モードに応じて、画像に対する領域の設定に係る処理を行う。例えば、領域切り出し部122は、動作モードが領域データを送信する動作モードである場合に、画像に対する領域の設定に係る処理を行う。また、領域切り出し部122は、動作モードが画像全体を示すデータを送信する動作モードである場合には、画像に対する領域の設定に係る処理を行わない。
[0086]
 領域切り出し部122は、例えば、画像に対して任意の物体検出処理を行って物体を検出し、検出された物体ごとに、検出された物体を含む領域を設定する。また、領域切り出し部122は、任意の操作デバイスに対する操作などにより指定された領域を、設定してもよい。
[0087]
 領域が設定された場合、領域切り出し部122は、例えば、設定された領域を示す領域指定情報を、画像処理制御部124へ伝達する。また、領域が設定されない場合、領域切り出し部122は、領域指定情報を画像処理制御部124へ伝達しない。
[0088]
 また、領域切り出し部122は、画像センサデバイス102から伝達される画像データを、エンコード部126へ伝達する。
[0089]
 画像処理制御部124は、本実施形態に係る送信方法に係る処理を行う役目を果たし、領域情報を画像における行ごとに設定し、設定された領域情報を、エンコード部126とPH生成回路112とへ伝達する。
[0090]
 画像処理制御部124は、例えば、領域切り出し部122から取得される領域指定情報、または、外部装置から取得される領域指定情報(図示せず)に基づいて、画像における各行に含まれる領域を特定する。そして、画像処理制御部124は、特定された領域に基づいて、行ごとに領域情報を設定する。このとき、画像処理制御部124は、上述した例外処理に示すように、1つ前に送信させる行の領域情報に含まれる情報から変化しない情報は、領域情報に設定しなくてよい。
[0091]
 また、領域指定情報が取得されない場合、画像処理制御部124は、領域情報を設定しない。
[0092]
 なお、画像処理制御部124における処理は、上記に示す例に限られない。
[0093]
 例えば、画像処理制御部124は、例えば、フレーム情報を生成し、生成したフレーム情報をLINK制御回路108へ伝達してもよい。フレーム情報としては、例えば、フレームごとに付与されるVCの番号が挙げられる。また、フレーム情報には、YUVデータ、RGBデータまたはRAWデータなどのデータタイプを示すデータが含まれていてもよい。
[0094]
 また、例えば、画像処理制御部124は、付加情報を設定する処理を行い、設定された付加情報をEBD用バッファ114へ伝達してもよい。
[0095]
 付加情報を設定する処理としては、例えば付加情報を生成する処理が挙げられる。付加情報を生成する処理としては、例えば、領域のデータ量を示す情報を生成する処理、領域の大きさを示す情報を生成する処理、および領域の優先度を示す情報を生成する処理のうちの1または2以上が、挙げられる。
[0096]
 なお、付加情報を設定する処理は、付加情報を生成する処理に限られない。例えば、画像処理制御部124は、露光情報やゲイン情報などの画像センサデバイス102から取得された情報を、付加情報として設定してもよい。また、画像処理制御部124は、例えば、物理領域長さを示すデータ、出力領域長さを示すデータ、画像フォーマットを示すデータ、データ総量を示すデータなどの、様々な領域に関するデータを、付加情報として設定してもよい。物理領域長さとしては、例えば画像センサデバイス102の画素数が挙げられる。出力領域長さとしては、例えば画像センサデバイス102から出力される画像の画素数(画像上の長さ)が挙げられる。
[0097]
 エンコード部126は、例えば、画像センサデバイス102から伝達される画像データを、例えばJPEG(Joint Photographic Experts Group)規格に対応する方式などの所定の方式でエンコードする。
[0098]
 画像処理制御部124から領域情報が取得されない場合、エンコード部126は、エンコードされた画像データを、画像データバッファ116へ伝達する。以下では、エンコードされた画像データ、すなわち、エンコードされた画像全体を示すデータを「通常データ」と示す場合がある。
[0099]
 また、画像処理制御部124から領域情報が取得される場合、エンコード部126は、取得された領域情報と、領域に対応するエンコードされた領域データとを、画像データバッファ116へ伝達する。
[0100]
 画像処理回路106は、例えば、領域切り出し部122、画像処理制御部124、およびエンコード部126を有することによって、本実施形態に係る送信方法に係る処理を行う。なお、図7に示す画像処理回路106の機能ブロックは、画像処理回路106が有する機能を便宜上切り分けたものであり、画像処理回路106における機能の切り分け方は、図7に示す例に限られない。
[0101]
 LINK制御回路108は、例えば、フレーム情報を、行ごとにECC生成回路110、PH生成回路112、および合成回路118に伝達する。
[0102]
 ECC生成回路110は、行ごとに誤り訂正符号を設定する。ECC生成回路110は、例えば、フレーム情報における1行のデータ(例えば、VCの番号、データタイプなど)に基づいて、その行の誤り訂正符号を生成する。ECC生成回路110は、例えば、生成した誤り訂正符号をPH生成回路112と合成回路118とに伝達する。また、ECC生成回路110は、PH生成回路112と連携して誤り訂正符号を生成してもよい。
[0103]
 PH生成回路112は、フレーム情報を用いて、行ごとにパケットヘッダを生成する。
[0104]
 PH生成回路112は、画像処理回路106(図7の例では、画像処理制御部124)から伝達される領域情報に基づいて、パケットヘッダを生成してもよい。具体的には、PH生成回路112は、領域情報に基づいて、上述したような“領域情報に含まれる情報が1つ前に送信させるパケットに含まれる領域情報から変化しているか否かを示すデータ”(変化情報)を、パケットヘッダに設定する。
[0105]
 EBD用バッファ114は、画像処理回路106(図7の例では、画像処理制御部124)から伝達される付加情報を一時的に保持するバッファである。EBD用バッファ114は、所定のタイミングで付加情報を“EmbeddedData”として合成回路118に出力する。なお、EBD用バッファ114から出力される“EmbeddedData”は、後述する画像データバッファ116を経由して合成回路118に伝達されてもよい。また、受信装置であるプロセッサ200が送信される付加情報(ROI情報)を把握している場合においては、レジスタ設定等によって、後述する送信回路120から前記付加情報に相当するEBDデータを送信することを省略してもよい。
[0106]
 画像データバッファ116は、画像処理回路106(図7の例では、エンコード部126)から伝達されるデータ(通常データ、または、領域情報および領域データ)を一時的に保持するバッファである。画像データバッファ116は、保持していているデータを、所定のタイミングで行ごとに合成回路118に出力する。
[0107]
 合成回路118は、例えば、ECC生成回路110、PH生成回路112、EBD用バッファ114、および画像データバッファ116それぞれから取得されるデータに基づいて、伝送するパケットを生成する。
[0108]
 送信回路120は、合成回路118から伝達されるパケットを、行ごとにデータバスB1(信号の伝送路の一例。以下、同様とする。)を介して、伝送データ147Aとして送信する。例えば送信回路120は、図4に示すような高速差動信号によりパケットを送信する。
[0109]
 ここで、本実施形態に係る画像センサ100が伝送するデータの具体例を説明する。図8は、本実施形態に係る画像センサ100が伝送するデータの具体例を示す説明図である。
[0110]
 図8に示す“FS”は、MIPI CSI-2規格におけるFS(Frame Start)パケットであり、図8に示す“FE”は、MIPI CSI-2規格におけるFE(Frame End)パケットである(他の図においても同様である)。
[0111]
 図8に示す“Embedded Data”は伝送されるパケットに埋め込むことの可能なデータである。“Embedded Data”は、例えば、伝送されるパケットのヘッダ、ペイロード、あるいは、フッタに埋め込むことが可能である。図8に示す例では、一のパケットの“Embedded Data”に領域情報が格納され、領域情報が格納される“Embedded Data”は、付加データに該当する。
[0112]
 本実施形態では、“Embedded Data”として領域の大きさを示す情報と、その領域で伝送されるフレームが何フレーム続くのかを示す情報とが送信される。図8に示す“Embedded Data”として領域の大きさを示す情報と、その領域で伝送されるフレームが何フレーム続くのかを示す情報とが送信されることによって、プロセッサ200は、図8のt=0に示す領域を含む最小の矩形の領域、t=1に示す最小の矩形の領域、というように、t=15に示す領域までを含む最小の矩形の領域をn個(図8の例では16個)特定することができる。つまり、図8に示す“Embedded Data”として領域の大きさを示す情報と、その領域で伝送されるフレームが何フレーム続くのかを示す情報とが送信されることによって、プロセッサ200が、領域情報に基づいて各領域を含む最小の矩形の領域を特定する機能と、その領域で伝送されるフレームが何フレーム続くのかを特定する機能とを有していない場合であっても、プロセッサ200に、領域情報に基づいて各領域を含む最小の矩形の領域と、その領域が何フレーム続くのかを特定させることができる。なお、領域の大きさを示す情報は、各領域を含む最小の矩形の領域を示すデータに限られないことは、言うまでもない。
[0113]
 なお、図8に示す“Embedded Data”として送信される、領域のデータ量を示す情報、領域の大きさを示す情報、およびその領域で伝送されるフレームが何フレーム続くのかを示す情報それぞれの例が、上記に示す例に限られないことは、言うまでもない。さらに、これらの情報の全てが必ずしも送信される必要は無い。
[0114]
 まず、画像センサ100から画像の全体を伝送する場合は、各フレームにつき画像データがPayload Dataに格納されて伝送されていく。図8の例では、1つの画像を垂直方向に16分割し、分割されたそれぞれの行のPayload Dataに画像データが格納されている。もちろん、1フレームあたりの垂直方向の分割数は係る例に限定されるものではない。
[0115]
 続いて、画像センサ100から画像の一部の領域、例えば図6のように垂直方向で1/16のサイズの画像を、0番目から15番目まで計16個伝送する場合、Payload Dataに、0番目から15番目までのデータが格納されている。これにより画像センサ100は、画像全体を伝送する場合と同じデータ量で、露光時間が短い画像を複数個伝送することが可能となる。
[0116]
 受信装置であるプロセッサ200は、“Embedded Data”に領域の大きさのデータと、全画面が1フレーム転送されるのに必要な時間だけ送信され続けるという情報があれば、その領域の転送が何フレーム続くのかという情報が明示されていなくても、“Embedded Data”の内容から、その領域の転送が何フレーム続くのかを示す情報を取得することができる。
[0117]
 画像センサ100が伝送するデータの例は、係る例に限定されるものではない。図9は、本実施形態に係る画像センサ100が伝送するデータの具体例を示す説明図である。図9に示した例は、図6のように垂直方向で1/16のサイズの画像を、0番目から15番目まで計16個伝送する場合の具体例である。図8に示した例とは違い、それぞれの画像について“FS”パケットから始まり“FE”パケットでデータが伝送される。この例では0番目から15番目までのそれぞれの画像について“Embedded Data”が伝送されるため、データ量は図8に示したものより若干増えることになるが、Payload Dataのデータ量は図8に示したものと変わらない。これにより画像センサ100は、画像全体を伝送する場合とほぼ変わらないデータ量で、露光時間が短い画像を複数個伝送することが可能となる。
[0118]
 (プロセッサ200)
 次に、プロセッサ200について説明する。図10は、本実施形態に係るプロセッサ200の構成の一例を表したものである。プロセッサ200は、画像センサ100と共通の規格(例えば、MIPI CSI-2規格、MIPI CSI-3規格、もしくは、MIPI DSI規格)で信号を受信する装置である。プロセッサ200は、例えば、受信部210および情報処理部220を有している。受信部210は、画像センサ100から出力された伝送データ147Aを、データレーンDLを介して受信し、受信した伝送データ147Aに対して所定の処理を行うことにより、種々のデータ(214A,215A,215B)を生成し、情報処理部220に出力する回路である。情報処理部220は、受信部210から受信した種々のデータ(214A,215A)に基づいて、ROI画像223Aを生成したり、受信部210から受信したデータ(215B)に基づいて、通常画像224Aを生成したりする回路である。
[0119]
 受信部210は、例えば、ヘッダ分離部211、ヘッダ解釈部212、Payload分離部213、EBD解釈部214およびROIデータ分離部215を有している。
[0120]
 ヘッダ分離部211は、伝送データ147Aを、データレーンDLを介して画像センサ100から受信する。つまり、ヘッダ分離部211は、画像センサ100で撮像された画像において設定された領域ROIについてのROI情報を含むとともに、各領域ROIの画像データをLongPacketのPayload Dataに含む伝送データ147Aを受信する。ヘッダ分離部211は、受信した伝送データ147Aをフレームヘッダ領域とパケット領域とに分離する。ヘッダ解釈部212は、フレームヘッダ領域に含まれるデータ(具体的にはEmbeddedData)に基づいて、パケット領域に含まれるLongPacketのPayloadDataの位置を特定する。Payload分離部213は、ヘッダ解釈部212によって特定されたLongPacketのPayloadDataの位置に基づいて、パケット領域に含まれるLongPacketのPayloadDataを、パケット領域から分離する。また、EBDデータ、LongPacket等に含まれる付加情報(ROI情報)をプロセッサが把握している場合においては、当該ROI情報の一部または全部の送信を省略することも可能である。具体的には、プロセッサはEBDデータに相当する情報をヘッダ解釈部212に保持しておくことによって、当該情報に基づいてパケット領域に含まれるLongPacketのPayloadDataの位置を特定する。
[0121]
 EBD解釈部214は、EmbeddedDataをEBDデータ214Aとして、情報処理部220に出力する。EBD解釈部214は、さらに、EmbeddedDataに含まれるデータタイプから、LongPacketのPayloadDataに含まれる画像データがROIの画像データの圧縮像データであるか、または、通常画像データの圧縮像データであるか判別する。EBD解釈部214は、判別結果をROIデータ分離部215に出力する。
[0122]
 LongPacketのPayloadDataに含まれる画像データがROIの画像データの圧縮像データである場合、ROIデータ分離部215は、LongPacketのPayloadDataをPayloadData215Aとして、情報処理部220(具体的にはROIデコード部222)に出力する。PayloadDataに含まれる画像データが通常画像データの圧縮像データである場合、ROIデータ分離部215は、LongPacketのPayloadDataをPayloadData215Bとして、情報処理部220(具体的には通常画像デコード部224)に出力する。LongPacketのPayloadDataにROI情報が含まれている場合には、PayloadData215Aは、ROI情報と、圧縮像データのうち1ライン分のピクセルデータとを含んでいる。
[0123]
 情報処理部220は、EBDデータ214Aに含まれるEmbeddedDataから、ROI情報を抽出する。情報処理部220は、情報抽出部221で抽出したROI情報に基づいて、受信部210で受信した伝送データに含まれるLongPacketのPayloadDataから、撮像画像における各注目領域ROIの画像を抽出する。情報処理部220は、例えば、情報抽出部221、ROIデコード部222、ROI画像生成部223、通常画像デコード部224及びメモリ225を有している。
[0124]
 通常画像デコード部224は、PayloadData215Bをデコードし、通常画像224Aを生成する。ROIデコード部222は、PayloadData215Aに含まれる圧縮像データ147Bをデコードし、画像データ222Aを生成する。この画像データ222Aは、1または複数の伝送画像によって構成されている。
[0125]
 情報抽出部221は、EBDデータ214Aに含まれるEmbeddedDataから、ROI情報を抽出する。情報抽出部221は、例えば、EBDデータ214Aに含まれるEmbeddedDataから、例えば、撮像画像に含まれる注目領域ROIの数、各注目領域ROIの領域番号、各注目領域ROIのデータ長、および各注目領域ROIの画像フォーマットを抽出する。
[0126]
 ROI画像生成部223は、情報抽出部221で得られたROI情報に基づいて、撮像画像における各注目領域ROIの画像を生成する。ROI画像生成部223は、生成した画像をROI画像223Aとして出力する。
[0127]
 メモリ225は、ROI画像生成部223が生成したROI画像を一時的に記憶する。ROI画像生成部223は、ROI画像の生成の際に、メモリ225に蓄えたROI画像を用いて画像を合成する処理を行う。これにより、ROI画像生成部223は、動きボケを抑えたROI画像を生成することが出来る。
[0128]
 図6には、垂直方向のサイズが全体の1/16である画像を伝送する例を示したが、ここで別の例を示す。図11は、画像に設定された領域のみを画像センサ100からプロセッサ200に伝送する場合においてフレームの露光時間を変化させる際の動作の概要を示す説明図である。図11には、ある任意のフレームにおいて露光時間を短く(図11の例では1/480秒)し、さらに当該フレームにおいて、垂直方向のサイズ及び水平方向のサイズがそれぞれ全体の1/4であるデータを複数(図11の例では16個)伝送している様子が示されている。
[0129]
 図12は、画像に設定された領域のみを画像センサ100からプロセッサ200に伝送する場合においてフレームの露光時間を変化させる際の動作の概要を示す説明図である。図12には、ある任意のフレームにおいて露光時間を短く(図12の例では1/240秒)し、さらに当該フレームにおいて、垂直方向のサイズが全体の1/8、水平方向のサイズが全体の1/4である複数(図12の例では8個)のデータ、及び、垂直方向のサイズが全体の1/16、水平方向のサイズが全体の1/2であるデータを複数(図12の例では8個)伝送している様子が示されている。すなわち、画像センサ100で読み出される領域の大きさに応じて露光時間が決まっても良く、画像センサ100での露光時間(またはフレームレート)に応じて画像センサ100で読み出される領域の大きさが決まっても良い。例えば、ROI画像生成部223が、画像センサ100に対して、ROI画像として生成するサイズに合わせて画像センサ100でのフレームレートを決定しても良く、画像センサ100でのフレームレートに合わせてROI画像のサイズを決定しても良い。
[0130]
 図13は、図12に示したような伝送を実現する際における、本実施形態に係る画像センサ100が伝送するデータの具体例を示す説明図である。画像センサ100から図12のような2つの領域の画像を、それぞれ0番目から7番目まで計8個伝送する場合、Payload Dataに、0番目から7番目までのデータが格納されている。これにより画像センサ100は、画像全体を伝送する場合と同じデータ量で、露光時間が短い画像を複数個伝送することが可能となる。
[0131]
 画像センサ100は、一部の領域を伝送するフレームから、全ての領域を伝送するフレームに復帰する際に、上記一部の領域に対する短時間の露光と、上記一部の領域として指定されていない領域に対する長時間の露光とを混在させても良い。画像センサ100は、混在させた露光を実行することで、全画面ほぼ一様の露光を、復帰最初のフレームから実現できることになる。
[0132]
 図14は、画像に設定された領域のみを画像センサ100からプロセッサ200に伝送する場合においてフレームの露光時間を変化させる際の動作の概要を示す説明図である。図14には、ある任意のフレームにおいて露光時間を短く(図14の例では1/240秒)し、さらに当該フレームにおいて、垂直方向のサイズが全体の1/8、水平方向のサイズが全体の1/4であるデータを複数(図14の例では8個)、及び、垂直方向のサイズが全体の1/16、水平方向のサイズが全体の1/2であるデータを複数(図14の例では8個)伝送している様子が示されている。
[0133]
 ここで、n+1番目のフレームでは、一部の領域に対する短時間の露光と、一部の領域として指定されていない領域に対する長時間の露光とが混在している。画像センサ100から伝送を受けたプロセッサ200は、一部の領域に対する短時間の露光の結果を加算し、その領域以外の領域に対する露光の結果と合成することで、全画面ほぼ一様の露光を、復帰最初のフレームから実現できる。
[0134]
 別の例を示す。図15は、画像に設定された領域のみを画像センサ100からプロセッサ200に伝送する場合においてフレームの露光時間を変化させる際の動作の概要を示す説明図である。図15には、ある任意のフレームにおいて露光時間を短く(図15の例では1/480秒)し、さらに当該フレームにおいて、垂直方向のサイズが全体の1/8、水平方向のサイズが全体の1/2であるデータを複数(図15の例では16個)伝送している様子が示されている。
[0135]
 この場合においても、n+1番目のフレームでは、一部の領域に対する短時間の露光と、一部の領域として指定されていない領域に対する長時間の露光とが混在している。画像センサ100から伝送を受けたプロセッサ200は、一部の領域に対する短時間の露光の結果を加算し、その領域以外の領域に対する露光の結果と合成することで、全画面ほぼ一様の露光を、復帰最初のフレームから実現できる。
[0136]
 画像センサ100は、画像センサデバイス102からの読み出しを実行する回路を複数備えることで、複数の領域の読み出しを同時に実行することができる。図16は、画像に設定された領域のみを画像センサ100からプロセッサ200に伝送する場合においてフレームの露光時間を変化させる際の動作の概要を示す説明図である。図16には、ある任意のフレームにおいて露光時間を短く(図16の例では1/480秒)し、さらに当該フレームにおいて、垂直方向のサイズが全体の1/4、水平方向のサイズが全体の1/8である2つのデータを複数(図16の例では16個)伝送している様子が示されている。
[0137]
 画像センサ100は、フレーム単位で読み出す領域を変化させることができる。例えば、プロセッサ200(またはプロセッサ200の後段の装置)が、あるフレームにおいて一部の領域の中で動体を検知したとする。その場合、プロセッサ200(またはプロセッサ200の後段の装置)は、検知した動体の動きをより詳細に取得するために、次のフレームから、その動体が含まれる領域のみを画像センサ100に指定することができる。
[0138]
 図17は、画像に設定された領域のみを画像センサ100からプロセッサ200に伝送する場合においてフレームの露光時間を変化させる際の動作の概要を示す説明図である。例えば、ある任意のフレームにおいて露光時間を短く(図17の例では1/480秒)し、さらに当該フレームにおいて、垂直方向のサイズが全体の1/4、水平方向のサイズが全体の1/4である2つのデータを複数(図17の例では16個)伝送しているとする。
[0139]
 プロセッサ200(またはプロセッサ200の後段の装置)は、そのフレームにおいて動体を検出すると、次のフレームにおいて、画像センサ100に対してさらに露光時間を短く(図17の例では1/1920秒)するよう指示する。さらにプロセッサ200(またはプロセッサ200の後段の装置)は、画像センサ100に対して当該フレームにおいて、垂直方向のサイズが全体の1/8、水平方向のサイズが全体の1/8である画像、及び、垂直方向のサイズが全体の1/16、水平方向のサイズが全体の1/4である画像を読み出すよう指示する。
[0140]
 本開示の実施の形態に係る画像センサ100は、一部の領域に対する露光を実行することで、高画質、高感度でハイダイナミックレンジな動画像を撮像及び作成できる。ここで、領域の指定方法はどのようなものであってもよい。例えば、領域の大きさの情報となる領域情報データをプロセッサ200で(例えばROI画像生成部223で)計算し、その領域情報データの計算結果を画像センサ100に送信することで、露光する領域が指定されてもよい。ここで領域情報データには、領域の幅、高さ、座標などが含まれうる。
[0141]
 ここで、ROI領域のデータフォーマットの一例を説明する。図18はROI領域の例を示す説明図である。例えば、図18のようにA~Dの4つのROI領域が存在したとする。図19は、ROI領域のデータフォーマットの一例を示す説明図である。
[0142]
 “PH”はパケットヘッダを示す。“Embedded Data”は伝送されるパケットに埋め込むことの可能なデータである。“Embedded Data”には、少なくとも、ROI領域を識別するID、ROI領域の左上の座標の位置情報、ROI領域の高さ及び幅が含まれうる。図19に示したフォーマットの3行目からは、実際のROI領域のデータが格納される。ここで、図18の領域Aと領域BのようにROI領域が重なっている場合、重なっている領域は一度だけ格納される。
[0143]
 続いて、本実施形態に係る通信システムにおいて、画像センサ100(送信装置)からプロセッサ200(受信装置)への画像の送信に利用されるパケットの構造の他の例について説明する。本実施形態に係る通信システムでは、画像センサ100により撮像された画像が行単位の部分画像に分割され、行ごとの当該部分画像のデータが1以上のパケットを利用して送信される。これは、画像に対して設定される領域の領域データ(即ち、ROIが設定された部分の画像のデータ)についても同様である。
[0144]
 例えば、図20は、本実施形態に係る通信システムにおいて画像のデータの送信に利用されるパケットの構造の一例について説明するための説明図である。図20に示すように、画像の送信に利用されるパケット(Packet)は、データストリーム中において、スタートコード(Start Code)で開始され、エンドコード(End Code)で終了する一連のデータとして規定される。また、当該パケットには、ヘッダ(Header)と、ペイロードデータ(Payload Data)とがこの順に配列されて含まれる。また、ペイロードデータの後ろに、フッタ(Footer)が付加されてもよい。ペイロードデータ(以下、単に「ペイロード」とも称する)は、行単位の部分画像のピクセルデータが含まれる。ヘッダには、ペイロードに含まれる部分画像に対応する行に関する各種情報が含まれる。フッタには、付加的な情報(オプション)が含まれる。
[0145]
 ここで、ヘッダに含まれる情報について説明する。図20に示すように、ヘッダには、「Frame Start」、「Frame End」、「Line Valid」、「Line Number」、「EBD Line」、「Data ID」、「Reserved」、及び「Header ECC」がこの順に含まれる。
[0146]
 Frame Startは、フレームの先頭を示す1ビットの情報である。例えば、送信対象となる画像のデータのうち1行目の画素データの伝送に用いられるパケットのヘッダのFrame Startには1の値が設定され、他の行の画素データの伝送に用いられるパケットのヘッダのFrame Startには0の値が設定される。なお、Frame Startが、「フレームの開始を示す情報」の一例に相当する。
[0147]
 Frame Endは、フレームの終端を示す1ビットの情報である。例えば、送信対象となる画像のデータのうち有効画素領域の終端ラインの画素データをペイロードに含むパケットのヘッダのFrame Endには1の値が設定され、他のラインの画素データの伝送に用いられるパケットのヘッダのFrame Endには0の値が設定される。なお、Frame Endが、「フレームの終了を示す情報」の一例に相当する。
[0148]
 Frame StartとFrame Endとが、フレームに関する情報であるフレーム情報(Frame Information)の一例に相当する。
[0149]
 Line Validは、ペイロードに格納されている画素データのラインが有効画素のラインであるのか否かを表す1ビットの情報である。有効画素領域内の行の画素データの伝送に用いられるパケットのヘッダのLine Validには1の値が設定され、他のラインの画素データの伝送に用いられるパケットのヘッダのLine Validには0の値が設定される。なお、Line Validが、「対応する行が有効か否かを示す情報」の一例に相当する。
[0150]
 Line Numberは、ペイロードに格納されている画素データにより構成される行の行番号を表す13ビットの情報である。
[0151]
 EBD Lineは、埋め込まれたデータを有する行か否かを表す1ビットの情報である。即ち、EBD Lineが、「埋め込まれたデータを有する行か否かを示す情報」の一例に相当する。
[0152]
 Data IDは、複数ストリームに分けてデータを転送する場合に、各データ(即ち、ペイロードに含まれるデータ)を識別するための4ビットの情報である。なお、Data IDが、「ペイロードに含まれるデータの識別情報」の一例に相当する。
[0153]
 Line Valid、Line Number、EBD Line、及びData IDが、行に関する情報である行情報(Line Information)となる。
[0154]
 Reservedは拡張用の27ビットの領域である。なお、以降では、Reservedとして示された当該領域を「拡張領域」とも称する。また、ヘッダ情報全体のデータ量は6バイトになる。
[0155]
 図20に示すように、ヘッダ情報に続けて配置されるHeader ECCには、6バイトのヘッダ情報に基づいて計算された2バイトの誤り検出符号であるCRC(Cyclic Redundancy Check)符号が含まれる。即ち、Header ECCが、「ヘッダに含まれる情報の誤り訂正符号」の一例に相当する。また、Header ECCには、CRC符号に続けて、ヘッダ情報とCRC符号の組である8バイトの情報と同じ情報が2つ含まれる。
[0156]
 すなわち、1つのパケットのヘッダには、同じヘッダ情報とCRC符号の組が3つ含まれる。ヘッダ全体のデータ量は、1組目のヘッダ情報とCRC符号の組の8バイトと、2組目のヘッダ情報とCRC符号の組の8バイトと、3組目のヘッダ情報とCRC符号の組の8バイトとの、あわせて24バイトになる。
[0157]
 ここで、図21及び図22を参照して、パケットのヘッダに設けられる拡張領域(Reserved)について説明する。図21及び図22は、パケットのヘッダに設けられる拡張領域について説明するための説明図である。
[0158]
 図21に示すように、拡張領域は、先頭の3ビットに対して、ヘッダ情報の種別(Header Info Type)として、パケットで送信される情報に応じた種別を示す情報が設定される。このヘッダ情報の種別に応じて、拡張領域のうち、当該ヘッダ情報の種別が指定される3ビットを除いた残り24ビットの領域に設定される情報のフォーマット(即ち、情報の種別や当該情報が設定される位置)が決定される。これにより、受信側は、ヘッダ情報の種別を確認することで、拡張領域のうち当該ヘッダ情報の種別が指定された領域以外の他の領域の、どの位置にどのような情報が設定されているかを認識し、当該情報を読み出すことが可能となる。
[0159]
 例えば、図22は、ヘッダ情報の種別の設定と、当該設定に応じた拡張領域の使用方法の一例として、パケットのペイロード長(換言すると、行の長さ)を可変とする場合の設定の一例について示している。具体的には、図22に示す例では、ヘッダ情報の種別に対して、ペイロード長が可変とする場合の種別に応じた値が設定される。より具体的には、図22に示す例では、ヘッダ情報の種別に対して、図21に示す例において当該ヘッダ情報の種別設定された「000」とは異なる値として、「001」が設定されている。即ち、この場合には、ヘッダ情報の種別のうち「001」に対応する種別は、ペイロード長が可変とする場合の種別を意味していることとなる。また、図22に示す例では、拡張領域中の14ビットが、「Line Length」に割り当てられている。「Line Length」は、ペイロード長を通知するための情報である。このような構成により、受信側は、ヘッダ情報の種別として設定された値に基づき、ペイロード長が可変であることを認識するとともに、拡張領域に「Line Length」として設定された値を読み出すことで、ペイロード長を認識することが可能となる。
[0160]
 以上、図20~図22を参照して、本実施形態に係る通信システムにおいて、画像センサ100(送信装置)からプロセッサ200(受信装置)への画像の送信に利用されるパケットの構造の一例について説明した。
[0161]
 続いて、本開示に係る通信システムの技術的特徴として、画像に対して設定される領域(ROI)の領域データを送信するための送信方式の一例について説明する。
[0162]
 画像センサ100は、画像に設定される領域の領域データを、パケットのペイロードに格納して行ごとに送信させる。そこで、以降の説明では、画像に設定される領域のうち、各行に相当する部分を便宜上「部分領域」とも称する。
[0163]
 (データのフォーマット)
 まず、図23は、送信されるデータのフォーマットについて説明するための説明図である。図23において、参照符号A1で示した一連のパケットは、画像に設定される領域の領域データが送信されるパケット(換言すると、有効画素領域のデータが送信されるパケット)を模式的に示している。また、参照符号A2及びA3で示した一連のパケットは、領域データを送信するためのパケットとは異なるパケットに相当する。なお、以降の説明では、参照符号A1、A2、及びA3で示した各パケットを区別する場合には、便宜上、それぞれ「パケットA1」、「パケットA2」、及び「パケットA3」とも称する。即ち、1フレーム分のデータが送信される期間において、一連のパケットA1が送信される前に、一連のパケットA2が送信される。また、一連のパケットが送信された後に、一連のパケットA3が送信されてもよい。なお、パケットA2及びA3の少なくともいずれかが、「第1のパケット」の一例に相当する。また、パケットA1が、「第2のパケット」の一例に相当する。
[0164]
 図23に示す例では、一連のパケットA2のうち少なくとも一部が、Embedded Dataの送信に利用される。例えば、Embedded Dataは、パケットA2のペイロードに格納して送信されてもよい。また、他の一例として、Embedded Dataは、パケットA2のうちペイロードとは別の領域に格納して送信されてもよい。
[0165]
 Embedded Dataは、画像センサ100が付加的に送信される付加情報(換言すると、画像センサ100により埋め込まれた情報)に相当し、例えば、画像の撮像条件に関する情報や、領域データが送信される領域(ROI)に関する情報等が挙げられる。
[0166]
 なお、図23に示す例では、パケットA2のうち少なくとも一部がEmbedded Dataの送信に利用されているが、当該パケットA2に替えて、パケットA3の少なくとも一部がEmbedded Dataの送信に利用されてもよい。また、以降の説明では、Embedded Dataを「EBD」とも称する。
[0167]
 図23において、「SC」は、「Start Code」を示しており、パケットの開始を示すシンボル群である。Start Codeは、パケットの前に付加される。Start Codeは、例えば、3種類のK Characterの組み合わせであるK28.5、K27.7、K28.2、及びK27.7の4シンボルで表される。
[0168]
 「EC」は、「End Code」を示しており、パケットの終了を示すシンボル群である。End Codeは、パケットの後ろに付加される。End Codeは、例えば、3種類のK Characterの組み合わせであるK28.5、K27.7、K30.7、及びK27.7の4シンボルで表される。
[0169]
 「PH」は、「パケットヘッダ(Packet Header)」を示しており、例えば、図2を参照して説明したヘッダが該当する。「FS」は、FS(Frame Start)パケットを示している。「FE」は、FE(Frame End)パケットを示している。
[0170]
 「DC」は、「Deskew Code」を示しており、レーン間のData Skew、即ち、受信側の各レーンで受信されるデータの受信タイミングのずれの補正に用いられるシンボル群である。Deskew Codeは、例えば、K28.5及びAny**の4シンボルで表される。
[0171]
 「IC」は、「Idle Code」を示しており、パケットデータの伝送時以外の期間に繰り返し送信されるシンボル群である。Idle Codeは、例えば、8B10B CodeであるD CharacterのD00.0(00000000)で表される。
[0172]
 「DATA」は、ペイロードに格納された領域データ(即ち、画像中に設定された領域に対応する部分のピクセルデータ)を示している。
[0173]
 「XY」は、ペイロードに格納された領域データに対応する部分領域の左端の位置(画像中の位置)を、X座標及びY座標として示した情報に相当する。なお、以降では、「XY」で示された、部分領域の左端の位置を示すX座標及びY座標を、単に「部分領域のXY座標」とも称する。
[0174]
 部分領域のXY座標は、パケットA1のペイロードの先頭に格納される。また、部分領域のXY座標は、連続して送信されるパケットA1間において、それぞれに対応する部分領域のX座標に変更が無く、かつY座標が+1だけされる場合には、後から送信されるパケットA1において省略されてもよい。なお、本制御については、具体的な例を挙げて別途後述する。
[0175]
 また、この送信方式では、水平方向に互いに離間した複数の領域が設定された行について、当該複数の領域それぞれに対応する部分領域の領域データを送信する場合には、当該複数の領域それぞれについてのパケットA1が個別に生成されて送信される。即ち、水平方向に互いに離間した2つの領域が設定された行については、2つのパケットA1が生成及び送信されることとなる。
[0176]
 続いて、図24を参照して、画像に設定された領域(ROI)の領域データを送信するパケットA1のパケットヘッダの構成の一例について、特に、拡張領域の構成に着目して説明する。図24は、パケットヘッダの構成の一例について説明するための説明図である。
[0177]
 図24に示すように、この送信方式では、画像に設定された領域(ROI)の領域データを送信する場合には、当該領域データの送信に利用するパケットA1のパケットヘッダにおいて、ヘッダ情報の種別として、領域の情報を送信することを示す情報(即ち、領域の情報の送信を想定した種別に対応する情報)が設定される。また、拡張領域の少なくとも一部に対して、ペイロードを利用して領域のデータ(即ち、部分領域の領域データ)を送信することを示す情報が設定される。また、ペイロードを利用して領域の座標(即ち、部分領域のXY座標)が送信される場合には、拡張領域の少なくとも一部に対して、当該領域の座標を送信することを示す情報が設定される。なお、画像に設定された領域(ROI)の領域データを送信する場合には、当該領域の水平方向の幅に応じて、パケットA1のペイロードの長さが変化し得る。そのため、拡張領域の一部には、図22を参照して説明した例と同様に、ペイロード長を示す情報が設定されてもよい。
[0178]
 <2.まとめ>
 本開示の実施の形態に係る通信システム1000は、以上のような構成を有し、上述のように動作することで、動きボケの発生と飽和する領域の発生とS/N低下の発生を同時に抑制することができる。動きボケの発生と飽和する領域の発生とS/N低下の発生を同時に抑制することで、本開示の実施の形態に係る通信システム1000は、高画質、高感度でハイダイナミックレンジな動画像を撮像及び作成できる。
[0179]
 本開示の実施の形態に係る通信システム1000は、動きボケの発生と飽和する領域の発生とS/N低下の発生を同時に抑制するために、注目領域の範囲だけ選択的に露光時間を短くすることで、出力データレートを一定に保ったままでフレームレートを高速化して出力することが出来る。
[0180]
 本開示の実施の形態に係る通信システム1000は、動きボケの発生と飽和する領域の発生とS/N低下の発生を同時に抑制するために、注目領域の範囲だけ選択的に露光時間を短くし、その分だけフレームレートを高速化して出力するために、イメージセンサ内での1フレームの画像の露光時間が短くなってしまい、その1フレームの画像だけを評価したときには感度不足に陥ることがあったとしても、露光時間が短くなった分だけフレームレートが高速化されて、露光フレーム数を多くすることができるので、露光時間を短くしなかった場合と同等の感度をイメージセンサから出力された画像を、信号処理することで得ることができる。
[0181]
 例えば、コンベンショナルな方法で1/30秒の露光時間で感度が不足しておらず、1/480秒の露光時間で感度が不足していたとしても、本実施形態では1/480秒の露光時間で取得した画像を1/30秒の時間内に16枚取得できるので、1/480秒の露光時間で取得した16枚の画像を加算するだけで、1/30秒の露光時間で取得していた画像を容易に再現可能である。
[0182]
 加えて、本開示の実施の形態に係る通信システム1000は、動きボケや動きのずれが比較的少ない複数の画像(上記の例では、1/480秒の露光時間で取得した16枚の画像)を使って信号処理をすることができる。動体は時間が経過するとともに空間内(画像内)の位置を移動することになり、単純に16枚の画像を加算してしまうと、もとの動きボケを再現してしまうことになる。一方、1/480秒の露光時間で画像を取得する場合、1/480秒という相対的に短い時間での動きを捉えた画像を取得するのに加えて、2フレーム間の時間差も1/480秒と相対的に短い。従って、連続した2フレーム間に動き物体が動く量も相対的に小さくなる。よって、本開示の実施の形態に係る通信システム1000では、動き物体毎に動き補償をしてから加算することが容易になり、感度不足にも動きボケ対策にも同時に対応することが可能である。
[0183]
 例えば、コンベンショナルな方法では、1/30秒の露光時間で適正露光だった場合でも、部分的に飽和領域が発生するような場合がありえる。これに対して本実施形態では、1/480秒の露光時間で取得した画像を1/30秒の時間内に16枚取得することができる。本開示の実施の形態に係る通信システム1000は、取得した16枚の画像を加算する際に、飽和をさせないで十分な諧調を保ったまま加算することで、1/30秒の露光時間で取得した画像を、飽和を発生させることなく、容易にハイダイナミックレンジ画像にすることが可能である。
[0184]
 本開示の実施の形態に係る通信システム1000の効果を説明する。
[0185]
 画像センサ100の全画素のデータを、後段のプロセッサ200に転送するのに要する時間を1フレーム時間とすると、その時間をn分割(nは任意の2以上の整数)した時間でROI領域は露光されるので、1枚の画像としては信号量が1/n倍、ショットノイズは1/(n) 1/2倍となり、SN比は悪化するが、後段では、その画像をn枚加算処理できるので、信号量は1/n×n=1倍、ショットノイズは((1/(n) 1/2×n) 1/2=1倍となり、本開示の実施の形態に係る通信システム1000は、SN比を悪化させることなく加算画像を取得できる。
[0186]
 それに対して、1フレーム時間で露光することで飽和していた画像内の領域は、1フレーム時間の1/n倍の時間で露光されることで、本開示の実施の形態に係る通信システム1000は、n倍の明るさの被写体まで飽和せずに取得できる。
[0187]
 また、本開示の実施の形態に係る通信システム1000は、動いている被写体については、ブラー量を1/nに減ずる効果がある。
[0188]
 加えて、上記のn枚の画像を加算する処理において動き検出をして動いている領域については加算処理をしないという処理をすることで、本開示の実施の形態に係る通信システム1000は、動体のブラー量を1/nに低減させながら、静止体のSN比を悪化させずに取得できる。
[0189]
 加えて、本開示の実施の形態に係る通信システム1000は、上記の動体部分に対して、動き補償をしながら加算をしていくことで、動体のブラー量を1/nに低減したままで静止体だけでなく動体部分もSN比を悪化させずに取得できる。
[0190]
 以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
[0191]
 また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
[0192]
 例えば、ROIの処理に必要な、画像センサ100やプロセッサ200として図7、10で示した回路の構成要素の一部または全部が、画像センサ100またはプロセッサ200のどちらか一方に含まれても良い。また、画像センサ100やプロセッサ200として図7、10で示した回路の構成要素の一部または全部がハードウェアで構成されても良く、ソフトウェアで構成されても良い。画像センサ100に含める際は、画像センサ100とプロセッサ200とがモジュール化されていてもよい。
[0193]
 また例えば、図10に示したプロセッサ200の構成では、ROI画像と通常画像とを別々に出力していたが、本開示は係る例に限定されるものではない。プロセッサ200は、ROI画像と通常画像と同一の出力としても良い。
[0194]
 なお、以下のような構成も本開示の技術的範囲に属する。
(1)
 撮像領域の全体の画像データを受信する第1のモードと、前記撮像領域の一部の領域のみを受信する第2のモードとの少なくともいずれかで画像データを受信する受信部と、
 前記受信部が受信した画像データに基づいて画像を生成する情報処理部と、
を備え、
 前記情報処理部は、前記第2のモードで画像データを受信する際に、前記第1のモードとは異なるパラメータが付加された画像データを受信する、受信装置。
(2)
 前記情報処理部は、前記第2のモードで受信した画像データを、該画像データの露光時間に応じて複数枚合成することで画像を生成する、前記(1)に記載の受信装置。
(3)
 前記露光時間は、前記第2のモードで受信した際の前記領域の大きさに合わせて決定される、前記(2)に記載の受信装置。
(4)
 前記情報処理部は、前記パラメータに含まれる前記第2のモードが継続するフレーム数の情報から、前記第2のモードで受信した画像データを合成する数を決定する、前記(2)に記載の受信装置。
(5)
 前記第2のモードでの領域のサイズは、該第2のモードでの露光時間と、前記第1のモードの露光時間とから決定される、前記(1)~(4)のいずれかに記載の受信装置。
(6)
 前記情報処理部は、前記第2のモードでの領域のサイズの情報を、撮像を行う装置に出力する、前記(1)~(5)のいずれかに記載の受信装置。
(7)
 前記情報処理部は、前記第2のモードでの読み出しの次のフレームで前記第1のモードでの画像の生成の際に、前記第2のモードで読み出しされた領域と、該領域以外の領域とを用いて画像を生成する、前記(1)~(6)のいずれかに記載の受信装置。
(8)
 前記受信部は、画像データをパケットのペイロード部に含むとともに、前記パラメータを所定のヘッダ部に含む伝送信号を受信する、前記(1)~(7)のいずれかに記載の受信装置。
(9)
 前記情報処理部は、前記受信部で受信した前記伝送信号に含まれる前記ヘッダ部から、前記領域についての領域情報を抽出するとともに、抽出した前記領域情報に基づいて、前記受信部で受信した前記伝送信号に含まれる前記ペイロード部から、前記領域の画像データを抽出する、前記(8)に記載の受信装置。
(10)
 前記領域情報には、前記領域の大きさを示す情報と、該領域で伝送される画像のフレーム数を示す情報とが含まれる、前記(9)に記載の受信装置。
(11)
 前記受信部は、MIPI(Mobile Industry Processor Interface) CSI(Camera Serial Interface)-2規格、MIPI CSI-3規格、または、MIPI DSI(Display Serial Interface)規格で信号を受信する、前記(9)に記載の受信装置。
(12)
 撮像領域の全体を読み出す第1のモードと、前記撮像領域の一部の領域を読み出す第2のモードとの少なくともいずれかで画像データを読み出す画像処理部と、
 前記画像処理部が読み出した画像データを所定のフォーマットに従う伝送信号に格納して伝送する送信部と、
を備え、
 前記画像処理部は、前記第2のモードで画像を読み出す際に読み出し速度を可変とする、
 送信装置。
(13)
 前記画像処理部は、前記第2のモードで読み出す際のフレームレートに合わせて前記領域の大きさを決定する、前記(12)に記載の送信装置。
(14)
 前記画像処理部は、前記第2のモードで読み出す際の前記領域の大きさに合わせてフレームレートを決定する、前記(12)に記載の送信装置。
(15)
 前記画像処理部は、前記第2のモードでの露光時間を、該第2のモードでの領域のサイズと、前記第1のモードの露光時間とから決定する、前記(12)に記載の送信装置。
(16)
 前記画像処理部は、前記第2のモードでの領域のサイズを、該第2のモードでの露光時間と、前記第1のモードの露光時間とから決定する、前記(12)に記載の送信装置。
(17)
 前記伝送信号は、画像データが格納されるパケットのペイロード部と、前記画像データについての情報が含まれる所定のヘッダ部と、を含む、前記(12)~(16)のいずれかに記載の送信装置。
(18)
 前記ヘッダ部は、前記領域についての領域情報を含む、前記(17)に記載の送信装置。
(19)
 前記領域情報は、前記領域の大きさを示す情報と、該領域で伝送される画像のフレーム数を示す情報とを含む、前記(18)に記載の送信装置。
(20)
 前記送信部は、MIPI-2規格、MIPI CSI-3規格、または、MIPI DSI規格で信号を送信する、前記(12)~(19)のいずれかに記載の送信装置。

符号の説明

[0195]
 100  画像センサ
 200  プロセッサ
 1000  通信システム

請求の範囲

[請求項1]
 データを受信する受信部と
 前記受信部から出力される画像データに基づいて画像を生成する情報処理部と、
を備え、
 前記受信部は、第1のモードにおいて撮像領域の全体を前記画像データとして出力し、第2のモードにおいて撮像領域の一部の領域を前記画像データとして出力するものであって、前記画像データに含まれる付加情報に基づいて、前記第1のモードもしくは前記第2のモードを選択する、受信装置。
[請求項2]
 前記情報処理部は、前記第2のモードで受信した画像データを複数枚合成することで画像を生成する、請求項1に記載の受信装置。
[請求項3]
 撮像装置に領域情報データを送信する送信部をさらに備え、
 前記情報処理部は、前記第1のモードで生成した画像に基づいて、取得すべき撮像領域の一部の領域を決定して、前記領域情報データを生成する、請求項1記載の受信装置。
[請求項4]
 前記情報処理部は、前記第2のモードで受信した画像データを合成する数を決定する、請求項2に記載の受信装置。
[請求項5]
 前記第2のモードでの領域のサイズは、該第2のモードでの露光時間と、前記第1のモードの露光時間とから決定される、請求項3に記載の受信装置。
[請求項6]
 前記情報処理部は、前記領域情報データとして、前記第2のモードでの領域の座標及びサイズの情報を生成し、前記受信部に該情報を提供する、請求項3に記載の受信装置。
[請求項7]
 前記情報処理部は、前記第2のモードでの読み出しの次のフレームで前記第1のモードでの画像の生成の際に、前記第2のモードで読み出しされた領域と、該領域以外の領域とを用いて画像を生成する、請求項1に記載の受信装置。
[請求項8]
 前記受信部は、前記画像データをパケットのペイロード部に含むとともに、前記付加情報を所定のヘッダ部に含む伝送信号を受信する、請求項1に記載の受信装置。
[請求項9]
 前記情報処理部は、前記受信部で受信した前記伝送信号に含まれる前記ヘッダ部から、前記領域についての領域情報を抽出するとともに、抽出した前記領域情報に基づいて、前記受信部で受信した前記伝送信号に含まれる前記ペイロード部から、前記領域の画像データを抽出する、請求項8に記載の受信装置。
[請求項10]
 前記領域情報には、前記領域の大きさを示す情報と、該領域で伝送される画像のフレーム数を示す情報とが含まれる、請求項9に記載の受信装置。
[請求項11]
 前記受信部は、MIPI(Mobile Industry Processor Interface) CSI(Camera Serial Interface)-2規格、MIPI CSI-3規格、または、MIPI DSI(Display Serial Interface)規格で信号を受信する、請求項8に記載の受信装置。
[請求項12]
 撮像領域の全体を読み出す第1のモードと、前記撮像領域の一部の領域を読み出す第2のモードとの少なくともいずれかで画像データを読み出す画像処理部と、
 前記画像処理部が読み出した画像データを所定のフォーマットに従う伝送信号に格納して伝送する送信部と、
を備え、
 前記画像処理部は、前記第2のモードで画像を読み出す際に読み出し速度を可変とする、
 送信装置。
[請求項13]
 前記画像処理部は、前記第2のモードで読み出す際のフレームレートに合わせて前記領域の大きさを決定する、請求項12に記載の送信装置。
[請求項14]
 前記画像処理部は、前記第2のモードで読み出す際の前記領域の大きさに合わせてフレームレートを決定する、請求項12に記載の送信装置。
[請求項15]
 前記画像処理部は、前記第2のモードでの露光時間を、該第2のモードでの領域のサイズと、前記第1のモードの露光時間とから決定する、請求項12に記載の送信装置。
[請求項16]
 前記画像処理部は、前記第2のモードでの領域のサイズを、該第2のモードでの露光時間と、前記第1のモードの露光時間とから決定する、請求項12に記載の送信装置。
[請求項17]
 前記伝送信号は、画像データが格納されるパケットのペイロード部と、前記画像データについての情報が含まれる所定のヘッダ部と、を含む、請求項12に記載の送信装置。
[請求項18]
 前記ヘッダ部は、前記領域についての領域情報を含む、請求項17に記載の送信装置。
[請求項19]
 前記領域情報は、前記領域の大きさを示す情報と、該領域で伝送される画像のフレーム数を示す情報とを含む、請求項18に記載の送信装置。
[請求項20]
 前記送信部は、MIPI-2規格、MIPI CSI-3規格、または、MIPI DSI規格で信号を送信する、請求項12に記載の送信装置。

図面

[ 図 1]

[ 図 2]

[ 図 3]

[ 図 4]

[ 図 5]

[ 図 6]

[ 図 7]

[ 図 8]

[ 図 9]

[ 図 10]

[ 図 11]

[ 図 12]

[ 図 13]

[ 図 14]

[ 図 15]

[ 図 16]

[ 図 17]

[ 図 18]

[ 図 19]

[ 図 20]

[ 図 21]

[ 図 22]

[ 図 23]

[ 図 24]