Traitement en cours

Veuillez attendre...

Paramétrages

Paramétrages

Aller à Demande

1. WO2021043213 - PROCÉDÉ D'ÉTALONNAGE, DISPOSITIF, DISPOSITIF DE PHOTOGRAPHIE AÉRIENNE ET SUPPORT DE STOCKAGE

Document

说明书

发明名称 0001   0002   0003   0004   0005   0006   0007   0008   0009   0010   0011   0012   0013   0014   0015   0016   0017   0018   0019   0020   0021   0022   0023   0024   0025   0026   0027   0028   0029   0030   0031   0032   0033   0034   0035   0036   0037   0038   0039   0040   0041   0042   0043   0044   0045   0046   0047   0048   0049   0050   0051   0052   0053   0054   0055   0056   0057   0058   0059   0060   0061   0062   0063   0064   0065   0066   0067   0068   0069   0070   0071   0072   0073   0074   0075   0076   0077   0078   0079   0080   0081   0082   0083   0084   0085   0086   0087   0088   0089   0090   0091   0092   0093   0094   0095   0096   0097   0098   0099   0100   0101   0102   0103   0104   0105   0106   0107   0108   0109   0110   0111   0112   0113   0114   0115   0116   0117   0118   0119   0120   0121   0122   0123   0124   0125   0126   0127   0128   0129   0130   0131   0132   0133   0134   0135   0136   0137   0138   0139   0140   0141   0142   0143   0144   0145   0146   0147   0148   0149   0150   0151   0152   0153   0154   0155   0156   0157   0158   0159   0160   0161   0162   0163   0164   0165   0166   0167   0168   0169   0170   0171  

权利要求书

1   2   3   4   5   6   7   8   9   10  

附图

1   2   3A   3B   3C   3D   4   5   6   7   8  

说明书

发明名称 : 标定方法、装置、航拍设备和存储介质

[0001]
本申请要求于2019年9月6日提交中国专利局、申请号为201910843584.1、申请名称为“标定方法、装置、航拍设备和存储介质”的中国专利申请的优先权,其全部内容通过引用结合在本申请中。

技术领域

[0002]
本申请涉及机器视觉技术领域,尤其涉及一种标定方法、装置、航拍设备和存储介质。

背景技术

[0003]
智能设备越来越多地包括一个或多个相机或其它类型的图像捕获设备,以使得用户能够捕获图像。例如,智能手机或飞行器包括可在多种场景中捕获图像的相机。许多相机系统可在制造期间被标定。然而,现有的标定方法,往往分步标定时间偏差以及传感器外参,没有联合估计的精度高,忽略了两种参数之间的潜在联系,标定精度较低。
[0004]
因此,如何提供一种标定精度高的方案,是本领域技术人员亟待解决的技术问题。
[0005]
发明内容
[0006]
本申请提供一种标定方法、装置、航拍设备和存储介质,旨在解决现有的标定方案标定不够精确的技术问题。
[0007]
第一方面,本申请提供一种标定方法,应用于航拍设备,所述航拍设备包括相机和惯性传感器,所述方法包括:
[0008]
获取所述相机在运动过程中拍摄标定板的多张图像时,所述相机在世界坐标系下的多个相机位姿;
[0009]
根据所述多个相机位姿,获得所述相机在不同时刻的相机角速度和相机加速度;
[0010]
获取所述惯性传感器在所述相机在运动过程中测量的传感器角速度和传感器加速度;
[0011]
根据所述相机和所述惯性传感器的预设的空间外参,将所述相机角速度和所述相机加速度从所述相机的相机坐标系变换到所述惯性传感器的传感器坐标系,以得到第一预测角速度和预测加速度;
[0012]
根据所述第一预测角速度、所述预测加速度、所述传感器角速度、及所述传感器加速度,构造加速度误差项;
[0013]
优化所述空间外参和时间偏差,得到使得所述加速度误差项最小的空间外 参和时间偏差,其中,所述时间偏差为所述惯性传感器定义的时间,相对所述相机拍摄定义的时间偏差。
[0014]
优选地,所述获取所述相机在运动过程中拍摄标定板的多张图像时,所述相机在世界坐标系下的多个相机位姿,包括:
[0015]
分别提取所述多张图像中所述标定板的角点;
[0016]
分别根据所述多张图像中每张图像中所述标定板的角点,计算所述相机在所述世界坐标系下的所述多个相机位姿。
[0017]
优选地,所述根据所述多个相机位姿,获得所述相机在不同时刻的相机角速度和相机加速度,包括:
[0018]
对所述多个相机位姿进行样条拟合以获得位姿曲线;
[0019]
对所述位姿曲线进行微分以获得所述相机在不同时刻的所述相机角速度和所述相机加速度。
[0020]
优选地,所述分别提取所述多张图像中所述标定板的角点,包括:
[0021]
分别对所述多张图像进行二值化处理;
[0022]
对二值化处理后的所述多张图像中的白色像素进行像素膨胀;
[0023]
提取像素膨胀后的所述多张图像中的四边形,所述多张图像中的每张图像中包括多个四边形;
[0024]
在所述每张图像中多个四边形中,提取对角在同一直线且相邻的两个四边形的相邻的两个角的点之间的中点,作为所述角点。
[0025]
优选地,所述分别根据所述多张图像中每张图像中所述标定板的角点,计算所述相机在所述世界坐标系下的所述多个相机位姿,包括:
[0026]
分别根据每张所述图像中所述标定板的角点使用相机标定算法计算所述相机在所述世界坐标系下的所述多个相机位姿。
[0027]
优选地,所述方法还包括:
[0028]
在预设的时间偏差范围内连续改变所述时间偏差,以获得对应的传感器角速度;
[0029]
计算所述相机角速度的模长和所述传感器角速度的模长的互相关系数,并将使得所述互相关系数最大的时间偏差作为时间偏差初始估计;
[0030]
其中,所述时间偏差初始估计用于作为优化所述时间偏差时所述时间偏差的初始值。
[0031]
优选地,所述方法还包括:
[0032]
根据所述预设的空间外参中的外参旋转分量把所述相机角速度从所述相机的相机坐标系变换到惯性传感器的传感器坐标系以得到第二预测角速度;
[0033]
计算所述相机角速度和第二预测角速度的差以得到所述角速度误差项;
[0034]
优化所述外参旋转分量,并将使得所述角速度误差项最小的外参旋转分量作为初始旋转分量;
[0035]
其中,所述初始旋转分量用于作为优化所述空间外参的初始值。
[0036]
第二方面,本发明还提供一种标定装置,应用于航拍设备,所述航拍设备 包括相机和惯性传感器,所述标定装置包括:
[0037]
位姿获取模块,用于获取所述相机在运动过程中拍摄标定板的多张图像时,所述相机在世界坐标系下的多个相机位姿;
[0038]
相机速度获取模块,用于根据所述多个相机位姿,获得所述相机在不同时刻的相机角速度和相机加速度;
[0039]
传感器速度获取模块,用于获取所述惯性传感器在所述相机在运动过程中测量的传感器角速度和传感器加速度;
[0040]
预测模块,用于根据所述相机和所述惯性传感器的预设的空间外参,将所述相机角速度和所述相机加速度从所述相机的相机坐标系变换到所述惯性传感器的传感器坐标系,以得到第一预测角速度和预测加速度;
[0041]
误差模块,用于根据所述第一预测角速度、所述预测加速度、所述传感器角速度、及所述传感器加速度,构造加速度误差项;
[0042]
优化模块,用于优化所述空间外参和时间偏差,得到使得所述加速度误差项最小的空间外参和时间偏差,其中,所述时间偏差为所述惯性传感器定义的时间,相对所述相机拍摄定义的时间偏差。
[0043]
第三方面,本申请还提供一种航拍设备,所述航拍设备包括:
[0044]
相机;
[0045]
惯性传感器;
[0046]
存储器,用于存储标定程序;以及
[0047]
处理器,所述处理器与所述相机和所述惯性传感器通信连接,所述处理器用于执行所述标定程序时实现本申请第一方面实施例所述的标定方法。
[0048]
第四方面,本申请还提供一种存储介质,所述存储介质为计算机可读存储介质,所述存储介质中存储有标定程序,所述标定程序被处理器执行时实现本申请第一方面实施例所述的标定方法。
[0049]
与现有技术相比,本发明的标定方法、装置、航拍设备和存储介质,可以优化空间外参和时间偏差以进行标定,充分考虑了时间偏差以及空间外参的潜在联系,有效提高了标定的精度。

附图说明

[0050]
图1为本申请第一实施例提供的标定方法的流程图。
[0051]
图2为图1中步骤S11的流程图。
[0052]
图3A为本申请中对图像进行二值化处理后的示意图。
[0053]
图3B为本申请中对图像的白色像素膨胀后的示意图。
[0054]
图3C为本申请中对图像提取四边形后的示意图。
[0055]
图3D为本申请中对图像中角点位置的示意图。
[0056]
图4为图2中步骤S111的流程图。
[0057]
图5为图1中步骤S12的流程图。
[0058]
图6为本申请第二实施例提供的标定方法的流程图。
[0059]
图7为本申请第三实施例提供的标定装置的模块示意图。
[0060]
图8为本申请第四实施例提供的航拍设备的结构示意图。

具体实施方式

[0061]
为了使本申请的目的、技术方案及优点更加清楚明白,如下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本申请,并不用于限定本申请。
[0062]
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的实施例能够以除了在这里图示或描述的内容以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,示例性地,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0063]
需要说明的是,在本申请中涉及“第一”、“第二”等的描述仅用于描述目的,而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。另外,各个实施例之间的技术方案可以相互结合,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在,也不在本申请要求的保护范围之内。
[0064]
请参阅图1,图1为本申请第一实施例提供的一种标定方法,该标定方法可由标定装置来执行,该标定装置可通过硬件和/或软件的方式来实现,用于精确地对相机和惯性传感器(Inertial measurement unit,IMU)进行标定,应用于航拍设备,航拍设备包括相机和惯性传感器,相机和惯性传感器之间固定连接。标定的结果可以应用于无人机上。该标定方法包括:
[0065]
S11:获取所述相机在运动过程中拍摄标定板的多张图像时,所述相机在世界坐标系下的多个相机位姿。
[0066]
在进行标定时,需要先提供一个物理尺寸已知的标定板,在本实施例中,标定板为黑白棋盘样式的标定板。由标定板即可确定世界坐标系,世界坐标系包括x轴、y轴和z轴。通过相机能确定相机坐标系,通过惯性传感器能确定传感器坐标系,通过相机拍摄的图像能确定图像坐标系、像素坐标系。使相机和惯性传感器同时运动,在运动过程中相机拍摄标定板,可通过相机标定算法计算出相机在不同时刻和位置的相机位姿。其中,所述相机位姿包括相机位置和相机姿态。优选地,在相机和惯性传感器同时运动时,使相机和惯性传感器充分发挥旋转和平移的自由度。
[0067]
相机在运动过程中,相机和惯性传感器同时运动,每隔第一时间,相机拍摄一次标定板的图像。第一时间不做限定,如第一时间为0.1s,则每隔0.1s相机拍摄一次标定板的图像。在经过一段时间后,则可拍摄多张图像。优选地,拍摄标定板的图像的数量大于10个。
[0068]
请参阅图2,步骤S11可以包括:
[0069]
S111:分别提取所述多张图像中所述标定板的角点。
[0070]
请一并参阅图3A、图3B、图3C、图3D和图4,步骤S112可以包括:
[0071]
S1111:分别对所述多张图像进行二值化处理。
[0072]
即拍摄的每张标定板的图像都分别进行二值化处理,其中,图3A是二值化处理后的示意图。
[0073]
S1112:对二值化处理后的所述多张图像中的白色像素进行像素膨胀。
[0074]
多张图像中,每张二值化处理后的图像的白色像素都进行像素膨胀。白色像素点膨胀,能够分离各个黑块四边形的衔接。图3B是白色像素膨胀后的示意图。
[0075]
S1113:提取像素膨胀后的所述多张图像中的四边形,所述多张图像中的每张图像中包括多个四边形。
[0076]
提取像素膨胀后的所述多张图像中的四边形,可以进行轮廓提取,计算每个轮廓的凸包,并判断提取出来的多边形是否只有四个顶点;若经检测只有四个顶点,则是四边形。可以把干扰的四边形删去,如用长宽比、周长、面积等约束去除一些干扰四边形。图3C是提取四边形后的示意图。
[0077]
S1114:在所述每张图像中多个四边形中,提取对角在同一直线且相邻的两个四边形的相邻的两个角的点之间的中点,作为所述角点。
[0078]
四边形中不相邻的两个角为对角,对角在同一直线且相邻的两个四边形,仅由两个角相邻。该两个四边形相邻的两个角即为对角。图3D是角点位置的示意图。
[0079]
S112:分别根据所述多张图像中每张图像中所述标定板的角点,计算所述相机在所述世界坐标系下的所述多个相机位姿。
[0080]
具体的,步骤S112包括:
[0081]
分别根据每张所述图像中所述标定板的角点使用相机标定算法计算所述相机在所述世界坐标系下的所述多个相机位姿。
[0082]
其中,每张图像能确定相机的一个相机位姿。使用相机标定算法计算相机位姿,是本领域常见的现有技术,本实施例仅做简单说明。
[0083]
具体的,位姿是三维空间下描述物体运动的变量,位置指物体在规定坐标系下的(x,y,z)坐标,姿态为绕x轴旋转、绕y轴旋转和绕z轴旋转,可用符号表示为(tx,ty,tz,rx,ry,rz)。tx、ty、tz表示平移,rx、ry、rz表示旋转。标定板是世界坐标系下已知的物体,标定板上的每个角点在世界坐标系上的三维坐标也是已知的,角点的像素坐标已知,由角点的三维坐标点、像素坐标以及相机自身的相机标定参数,即可进行世界坐标系上的点向二维点的 投影,可用下列公式描述:
[0084]
P=P1*P2*P3 (1)
[0085]
其中,
[0086]
[0087]
[0088]
[0089]
其中,矩阵P1为世界坐标系与相机坐标系之间互相变换的刚体变换矩阵,该矩阵可将点从世界坐标系变换到相机坐标系,矩阵P2为相机坐标系和图像坐标系之间的互相变换关系,其中,f指相机焦距,利用该矩阵P2可将相机坐标系下的三维坐标变为成像平面上的二维坐标,矩阵P3为图像坐标系与像素坐标系之间的互相变换关系,即矩阵P3为相机的内参矩阵,K指焦距与物理尺寸之间的缩放系数,u,v指图像的横轴与纵轴,可将成像平面上的二维坐标变换为标准的像素坐标,dx与dy分别表示每个像素在横轴x和纵轴y上的物理尺寸。矩阵P为把世界坐标系上的点变换到像素坐标系上的矩阵表示。其中,矩阵P2和矩阵P3是相机自身参数确定的,矩阵P1可以和位姿进行等价的转化,故而列出一系列的角点投影方程即可求第一个矩阵中的未知量,以确定相机在所述标定板确定的世界坐标系下的多个相机位姿。
[0090]
S12:根据所述多个相机位姿,获得所述相机在不同时刻的相机角速度和相机加速度。
[0091]
请参阅图5,在部分实施例中,步骤S12包括:
[0092]
S121:对所述多个相机位姿进行样条拟合以获得位姿曲线。
[0093]
每个相机位姿相当于一个点,对多个相机位姿进行样条拟合即可获得位姿曲线。在本实施例中,对多个位姿进行B样条拟合。对一系列点进行B样条拟合是现有技术,本申请中不再进行详述。选择B样条拟合表达相机位姿曲线, 其原因是,一、B样条曲线具有局部特性,调整单个参数只在样条的局部有影响;二、B样条基函数为多项式,可以简单地进行微分与积分操作,易于评估误差项,以正确标定。进行样条拟合以获得位姿曲线,可将离散问题转换为连续问题。
[0094]
S122:对对所述位姿曲线进行微分以获得所述相机在不同时刻的所述相机角速度和所述相机加速度。
[0095]
对位姿曲线进行微分即可获得相机在不同时刻的相机角速度和相机加速度。相机角速度和相机加速度可以是连续的,即形成了相机角速度曲线和相机加速度曲线。其中,位姿曲线共有六个维度,包括x轴、y轴和z轴的位置与姿态,对x轴、y轴和z轴的位置分量进行微分可得相机角速度,对x轴、y轴和z轴的姿态分量进行微分可得相机角速度。
[0096]
S13:获取所述惯性传感器在所述相机在运动过程中测量的传感器角速度和传感器加速度。
[0097]
惯性传感器和相机是相对固定的,相机在运动时,惯性传感器也随着相机同步运动。相机运动过程中,惯性传感器也在工作,即可获取惯性传感器工作过程中,在相机在运动过程中所测得的传感器角速度和传感器加速度。传感器角速度为传感器测得的角速度,传感器加速度即为传感器测得的传感器加速度。优选地,获取传感器角速度和传感器加速度时,可以连续获取传感器角速度和传感器加速度,即能获得传感器角速度曲线和传感器加速度曲线。传感器角速度和多个传感器加速度都是向量,包括了方向和大小。可以理解,惯性传感器定义的时间,和相机定义的时间可能有误差,即时间偏差。例如,认为相机在时刻T1拍摄一张图像A,惯性传感器的系统中认为测量的相机角速度B和相机加速度C为时刻T1获取的,但实际上,两者的时间有差别,如相机角速度B和相机加速度C实际获得的是时刻T1+0.05s时的相机角速度和相机加速度。故本申请中定义出时间偏差,时间偏差为所述惯性传感器定义的时间,相对所述相机拍摄定义的时间偏差。本申请后续对时间偏差进行优化,以获得准确的标定。
[0098]
S14:根据所述相机和所述惯性传感器的预设的空间外参,将所述相机角速度和所述相机加速度从所述相机的相机坐标系变换到所述惯性传感器的传感器坐标系,以得到第一预测角速度和预测加速度。
[0099]
相机和惯性传感器的空间外参即为从相机坐标系通过刚体变换变换到传感器坐标系的变换关系,相机的和惯性传感器的相对位置是固定的、且是根据需要设定的,故从相机坐标系通过刚体变换变换到传感器坐标系的变换关系是已知的,即相机和惯性传感器的空间外参是已知的。故根据相机和惯性传感器的预设的空间外参能把相机角速度从所述相机的相机坐标系变换到惯性传感器的传感器坐标系以得到第一预测角速度,根据相机和惯性传感器的预设的空间外参能把相机加速度从所述相机坐标系变换到所述传感器坐标系以得到预测加速度。可以将相机角速度曲线中的相机角速度都进行坐标系变换,从而获 得第一预测角速度曲线,将相机加速度曲线中的相机加速度都进行坐标系变换,从而获得预测加速度曲线。对位姿曲线进行微分求取第一预测角速度和预测加速度,避免了惯性传感器的测量值的积分过程,增加了标定的准确性。可以理解,空间外参虽然是已知的,但相机和惯性传感器的空间外参可能存在误差,例如,相机的和惯性传感器的距离在测量时存在误差,会造成相机和惯性传感器的空间外参确定时存在误差。本申请后续后对相机和惯性传感器的空间外参进行优化,以获得准确的标定。
[0100]
S15:根据所述第一预测角速度、所述预测加速度、所述传感器角速度、及所述传感器加速度,构造加速度误差项。
[0101]
第一预测角速度、所述预测加速度、所述传感器角速度、及所述传感器加速度,可以为获得的所有的第一预测角速度、所述预测加速度、所述传感器角速度、及所述传感器加速度。即相机角速度曲线中的相机角速度,相机加速度曲线中的相机加速度,第一预测角速度曲线中的第一预设角速度,预测加速度曲线中的预测加速度。加速度误差项为第一预测角速度的值与预测加速度的值与传感器角速度的值与感器加速度的值的差的平方。其中,所述第一预测角速度、所述预测加速度、所述传感器角速度、所述传感器加速度都为向量,假定第一预测角速度为a1,预测加速度为a2,传感器角速度为a3,传感器加速度为a4,则加速度误差项可用公式表示为:
[0102]
(a1-a3).transpose()*(a1-a3)+(a2-a4).transpose()*(a2-a4) (6)
[0103]
S16:优化所述空间外参和时间偏差,得到使得所述加速度误差项最小的空间外参和时间偏差,其中,所述时间偏差为所述惯性传感器定义的时间,相对所述相机拍摄定义的时间偏差。
[0104]
具体的,时间偏差改变,即将传感器角速度的传感器角速度曲线在时间轴上整体平移,传感器加速度曲线在时间轴上整体平移。如对于绝对时间T2,认为在绝对时间T2获取的相机角速度H和相机加速度I,实际上获取的相机角速度H和相机加速度I在绝对时间T2-0.01,惯性传感器认为在绝对时间T2获取了传感器角速度J和传感器加速度K,而传感器角速度J和传感器加速度K是在绝对时间T2+0.02s获取的。而若需要加速度误差项变小,则需要把惯性传感器的时间轴向前平移0.03s,惯性传感器的时间轴平移时,则惯性传感器在时刻T2的传感器角速度和传感器加速度发生改变。在实际过程中,和绝对时间相差的具体时间不确定,则需连续改变时间偏差,通过加速度误差项的值判定变化的误差项是否合适。在空间外参改变时,第一预测角速度、所述预测加速度也会随之改变。故空间外参和时间偏差是自变量,加速度误差项是因变量,加速度误差项随着空间外参和时间偏差的改变而改变。对空间外参和时间偏差进行优化时,可采用非线性优化方法进行优化,具体的,如采用梯度下降法,对于最小值不存在解析解的函数,可在初始值开始求其梯度,沿着梯度的方向移动自变量,重复数次直到梯度足够小。梯度下降法是现有技术,本申请不再对如何使用梯度下降法优化所述空间外参和时间偏差进行具体说明, 最终得到使加速度误差项最小的空间外参和时间偏差即可。得到合适的空间外参和时间偏差,即完成了标定。
[0105]
本实施例提供的标定方法,优化空间外参和时间偏差以进行标定,充分考虑了时间偏差以及空间外参的潜在联系,有效提高了标定的精度。
[0106]
请参阅图6,本申请第二实施例也提供了一种标定方法,本实施例以前述实施例为基础,提供了一种给空间外参和时间偏差提供初始值的方案,该标定方法包括:
[0107]
S21:获取所述相机在运动过程中拍摄标定板的多张图像时,所述相机在世界坐标系下的多个相机位姿。
[0108]
S22:根据所述多个相机位姿,获得所述相机在不同时刻的相机角速度和相机加速度。
[0109]
S23:获取所述惯性传感器在所述相机在运动过程中测量的传感器角速度和传感器加速度。
[0110]
S24:在预设的时间偏差范围内连续改变所述时间偏差,以获得对应的传感器角速度。
[0111]
在预设的时间偏差范围内连续改变时间偏差,即连续平移把惯性传感器的时间轴,从而在相同时刻的传感器的角速度会发生改变,如原来获得传感器角速度D是时刻T1+0.05s时的相机角速度,改变时间偏差0.02s,则传感器角速度D为时刻T+0.03s时的传感器角速度,时刻T1+0.05s的传感器角速度不再是传感器角速度D。预设的时间偏差范围可根据需要进行设置。
[0112]
S25:计算所述相机角速度的模长和所述传感器角速度的模长的互相关系数,并将得所述互相关系数最大的时间偏差作为时间偏差初始估计。
[0113]
互相关系数是是用以反映变量之间相关关系密切程度的统计指标,即反映了相机角速度和所述传感器角速度的相关关系密切程度。求取两个边路之间的互相关系数是现有技术,本申请中仅做简要说明。具体的,假设相机角速度为(ax1,ay1,az1),传感器角速度为(ax2,ay2,az2),则相相机角速度的模长用{Xn}表示,传感器角速度的模长用{Yn}表示,则,
[0114]
{Xn}=错误!未找到引用源。 (7)
[0115]
{Xn}=错误!未找到引用源。 (8)
[0116]
则相机角速度的模长{Xn}和传感器角速度的模长{Yn}的互相关系数的公式为,
[0117]
[0118]
其中,m即为时间偏差。﹣3≤m≤3为假定的预设值。
[0119]
通过连续滑动改变时间偏差,即可得到不同的互相关系数,使所述互相关系数最大的时间偏差作为时间偏差初始估计。其中,时间偏差初始估计用于作为优化所述时间偏差时所述时间偏差的初始值。
[0120]
S26:根据所述预设的空间外参中的外参旋转分量把所述相机角速度从所 述相机的相机坐标系变换到惯性传感器的传感器坐标系以得到第二预测角速度;
[0121]
相机和所述惯性传感器的预设的空间外参是已知的。其中,空间外参包括外参旋转分量和外参平移分量。外参旋转分量为从相机坐标系通过刚体旋转变换旋转到和传感器坐标系方向一致的变换关系。外参平移分量为从相机坐标系通过刚体平移变换平移到和传感器坐标系位置一致的变换关系。其中,外参旋转分量和外参平移分量都是已知的。故根据外参旋转分量能把相机角速度从所述相机的相机坐标系变换到惯性传感器的传感器坐标系以得到第二预测角速度。
[0122]
S27:计算所述相机角速度和第二预测角速度的差以得到所述角速度误差项;
[0123]
角速度误差项为相机角速度和第二预测角速度之间的差值。
[0124]
S28:优化所述外参旋转分量,并将使得所述角速度误差项最小的外参旋转分量作为初始旋转分量;
[0125]
在外参旋转分量改变时,角速度误差项也会随之改变。故外参旋转分量是自变量,角速度误差项是因变量,角速度误差项随着外参旋转分量的改变而改变。
[0126]
对外参旋转分量进行优化时,可采用非线性优化方法进行优化,具体的,如采用梯度下降法,对于最小值不存在解析解的函数,可在初始值开始求其梯度,沿着梯度的方向移动自变量,重复数次直到梯度足够小。梯度下降法是现有技术,本申请不再对如何使用梯度下降法优化外参旋转分量进行具体说明,最终得到使角速度误差项最小的外参旋转分量即可。其中,所述初始旋转分量用于作为优化所述空间外参的初始值。
[0127]
S29:根据所述相机和所述惯性传感器的预设的空间外参,将所述相机角速度和所述相机加速度从所述相机的相机坐标系变换到所述惯性传感器的传感器坐标系,以得到第一预测角速度和预测加速度。
[0128]
S210:根据所述第一预测角速度、所述预测加速度、所述传感器角速度、及所述传感器加速度,构造加速度误差项。
[0129]
S211:优化所述空间外参和时间偏差,得到使得所述加速度误差项最小的空间外参和时间偏差,其中,所述时间偏差为所述惯性传感器定义的时间,相对所述相机拍摄定义的时间偏差。
[0130]
所述时间偏差初始估计用于作为优化所述时间偏差时所述时间偏差的初始值,所述初始旋转分量用于作为优化所述空间外参的初始值。
[0131]
本实施例提供的标定方法,能分别确定空间外参和时间偏差的初始值,能有效加快标定的速度。
[0132]
请参阅图7,本申请第三实施例提供了一种标定装置30,用于给相机和惯性传感器进行标定,标定装置30可以应用于航拍设备,航拍设备包括相机和 惯性传感器,所述相机和惯性传感器之间固定连接,该标定装置30可实现上述实施例的标定方法,标定装置30包括:
[0133]
位姿获取模块31,用于获取所述相机在运动过程中拍摄标定板的多张图像时,所述相机在世界坐标系下的多个相机位姿;
[0134]
相机速度获取模块32,用于根据所述多个相机位姿,获得所述相机在不同时刻的相机角速度和相机加速度;
[0135]
传感器速度获取模块33,用于获取所述惯性传感器在所述相机在运动过程中测量的传感器角速度和传感器加速度;
[0136]
预测模块34,用于根据所述相机和所述惯性传感器的预设的空间外参,将所述相机角速度和所述相机加速度从所述相机的相机坐标系变换到所述惯性传感器的传感器坐标系,以得到第一预测角速度和预测加速度;
[0137]
误差模块35,用于根据所述第一预测角速度、所述预测加速度、所述传感器角速度、及所述传感器加速度,构造加速度误差项;
[0138]
优化模块36,用于优化所述空间外参和时间偏差,得到使得所述加速度误差项最小的空间外参和时间偏差,其中,所述时间偏差为所述惯性传感器定义的时间,相对所述相机拍摄定义的时间偏差。
[0139]
本申请第三实施例提供的标定装置,可以优化空间外参和时间偏差以进行标定,充分考虑了时间偏差以及空间外参的潜在联系,有效提高了标定的精度。
[0140]
优选地,标定装置30还包括:
[0141]
改变模块,用于在预设的时间偏差范围内连续改变所述时间偏差,以获得对应的传感器角速度;
[0142]
第一计算模块,用于计算所述相机角速度的模长和所述传感器角速度的模长的互相关系数,并将使得所述互相关系数最大的时间偏差作为时间偏差初始估计;其中,所述时间偏差初始估计用于作为优化所述时间偏差时所述时间偏差的初始值;
[0143]
变换模块,用于根据所述预设的空间外参中的外参旋转分量把所述相机角速度从所述相机的相机坐标系变换到惯性传感器的传感器坐标系以得到第二预测角速;
[0144]
第二计算模块,用于计算所述相机角速度和第二预测角速度的差以得到所述角速度误差项;
[0145]
初始旋转模块,用于优化所述外参旋转分量,并将使得所述角速度误差项最小的外参旋转分量作为初始旋转分量,其中,所述初始旋转分量用于作为优化所述空间外参的初始值。
[0146]
优选地,位姿获取模块31包括:
[0147]
提取单元,用于分别提取所述多张图像中所述标定板的角点;
[0148]
位姿确定单元,用于分别根据所述多张图像中每张图像中所述标定板的角点,计算所述相机在所述世界坐标系下的所述多个相机位姿。
[0149]
优选地,相机速度获取模块32包括:
[0150]
拟合单元,用于对所述多个相机位姿进行样条拟合以获得位姿曲线;
[0151]
相机速度获取单元,用于对所述位姿曲线进行微分以获得所述相机在不同时刻的所述相机角速度和所述相机加速度。
[0152]
优选地,提取单元包括:
[0153]
二值化子单元,用于分别对所述多张图像进行二值化处理;
[0154]
膨胀子单元,用于对二值化处理后的所述多张图像中的白色像素进行像素膨胀;
[0155]
四边形提取子单元,用于提取像素膨胀后的所述多张图像中的四边形,所述多张图像中的每张图像中包括多个四边形;
[0156]
角点提取子单元,用于在所述每张图像中多个四边形中,提取对角在同一直线且相邻的两个四边形的相邻的两个角的点之间的中点,作为所述角点。
[0157]
上述产品可执行本申请任意实施例所提供的方法,具备执行方法相应的功能模块和有益效果。
[0158]
请参阅图8,本申请第四实施例提供了一种航拍设备40,航拍设备40能够执行以上实施例所述的标定方法。该航拍设备40包括:
[0159]
相机(图未示);惯性传感器(图未示);一个或多个处理器41以及存储器42。其中,图中以一个处理器41为例。
[0160]
处理器41与存储器42可以通过总线或者其他方式连接,图中以通过总线连接为例。处理器41还与所述相机和所述惯性传感器通信连接。
[0161]
存储器42作为一种非易失性计算机可读存储介质,可用于存储非易失性软件程序、非易失性计算机可执行程序,如本申请上述实施例中的一种标定方法对应的程序指令。处理器41通过运行存储在存储器42中的非易失性软件程序指令,从而执行一种标定方法的各种功能应用以及数据处理,即实现上述方法实施例中的一种标定方法。
[0162]
存储器42可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序等。
[0163]
此外,存储器42可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中,存储器42可选包括相对于处理器41远程设置的存储器,这些远程存储器可以通过网络连接至处理器41。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
[0164]
所述程序指令存储在所述存储器42中,当被所述一个或者多个处理器41执行时,执行上述任意方法实施例中的一种标定方法的各个步骤。
[0165]
上述产品可执行本申请上述实施例所提供的方法,具备执行方法相应的有益效果。未在本实施例中详尽描述的技术细节,可参见本申请上述实施例所提供的方法。
[0166]
本申请实施例还提供了一种非易失性计算机可读存储介质,所述计算机可 读存储介质存储有计算机可执行指令,该计算机可执行指令被一个或多个处理器执行,例如图中的一个处理器41,可使得计算机执行上述任意方法实施例中的一种标定方法的各个步骤。
[0167]
本申请实施例还提供了一种计算机程序产品,所述计算机程序产品包括存储在非易失性计算机可读存储介质上的计算机程序,所述计算机程序包括程序指令,当所述程序指令被一个或多个处理器执行,例如图中的一个处理器41,可使得计算机执行上述任意方法实施例中的一种标定方法的各个步骤。
[0168]
通过以上的实施例的描述,本领域普通技术人员可以清楚地了解到各实施例可借助软件加通用硬件平台的方式来实现,当然也可以通过硬件。本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程是可以通过计算机程序指令相关的硬件来完成。
[0169]
本申请还提供一种存储介质,该存储介质包括计算机可读取存储介质,上述的标定程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各标定方法的实施方法的流程。其中,所述存储介质可包括闪存、硬盘、多媒体卡、卡型存储器(示例性地,SD或DX存储器等)、磁性存储器、磁盘、光盘等。存储器107在一些实施例中可以是飞行器10的内部存储单元,示例性地该飞行器10的硬盘。存储器107在另一些实施例中也可以是飞行器10的外部存储设备,示例性地飞行器10上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。
[0170]
与现有技术相比,本发明的标定方法、装置、航拍设备和存储介质,优化空间外参和时间偏差以进行标定,充分考虑了时间偏差以及空间外参的潜在联系,有效提高了标定的精度。
[0171]
以上仅为本申请的优选实施例,并非因此限制本申请的保护范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的保护范围内。

权利要求书

[权利要求 1]
一种标定方法,应用于航拍设备,所述航拍设备包括相机和惯性传感器,其特征在于,所述方法包括: 获取所述相机在运动过程中拍摄标定板的多张图像时,所述相机在世界坐标系下的多个相机位姿; 根据所述多个相机位姿,获得所述相机在不同时刻的相机角速度和相机加速度; 获取所述惯性传感器在所述相机在运动过程中测量的传感器角速度和传感器加速度; 根据所述相机和所述惯性传感器的预设的空间外参,将所述相机角速度和所述相机加速度从所述相机的相机坐标系变换到所述惯性传感器的传感器坐标系,以得到第一预测角速度和预测加速度; 根据所述第一预测角速度、所述预测加速度、所述传感器角速度、及所述传感器加速度,构造加速度误差项; 优化所述空间外参和时间偏差,得到使得所述加速度误差项最小的空间外参和时间偏差,其中,所述时间偏差为所述惯性传感器定义的时间,相对所述相机拍摄定义的时间偏差。
[权利要求 2]
如权利要求1所述的标定方法,其特征在于,所述获取所述相机在运动过程中拍摄标定板的多张图像时,所述相机在世界坐标系下的多个相机位姿,包括: 分别提取所述多张图像中所述标定板的角点; 分别根据所述多张图像中每张图像中所述标定板的角点,计算所述相机在所述世界坐标系下的所述多个相机位姿。
[权利要求 3]
如权利要求2所述的标定方法,其特征在于,所述根据所述多个相机位姿,获得所述相机在不同时刻的相机角速度和相机加速度,包括: 对所述多个相机位姿进行样条拟合以获得位姿曲线; 对所述位姿曲线进行微分以获得所述相机在不同时刻的所述相机角速度和所述相机加速度。
[权利要求 4]
如权利要求2所述的标定方法,其特征在于,所述分别提取所述多张图像中所述标定板的角点,包括: 分别对所述多张图像进行二值化处理; 对二值化处理后的所述多张图像中的白色像素进行像素膨胀; 提取像素膨胀后的所述多张图像中的四边形,所述多张图像中的每张图像中包括多个四边形; 在所述每张图像中多个四边形中,提取对角在同一直线且相邻的两个四边形的相邻的两个角的点之间的中点,作为所述角点。
[权利要求 5]
如权利要求2所述的标定方法,其特征在于,所述分别根据所述多张 图像中每张图像中所述标定板的角点,计算所述相机在所述世界坐标系下的所述多个相机位姿,包括: 分别根据每张所述图像中所述标定板的角点使用相机标定算法计算所述相机在所述世界坐标系下的所述多个相机位姿。
[权利要求 6]
如权利要求1所述的标定方法,其特征在于,所述方法还包括: 在预设的时间偏差范围内连续改变所述时间偏差,以获得对应的传感器角速度; 计算所述相机角速度的模长和所述传感器角速度的模长的互相关系数,并将使得所述互相关系数最大的时间偏差作为时间偏差初始估计; 其中,所述时间偏差初始估计用于作为优化所述时间偏差时所述时间偏差的初始值。
[权利要求 7]
如权利要求6所述的标定方法,其特征在于,所述方法还包括: 根据所述预设的空间外参中的外参旋转分量把所述相机角速度从所述相机的相机坐标系变换到惯性传感器的传感器坐标系以得到第二预测角速度; 计算所述相机角速度和第二预测角速度的差以得到所述角速度误差项; 优化所述外参旋转分量,并将使得所述角速度误差项最小的外参旋转分量作为初始旋转分量; 其中,所述初始旋转分量用于作为优化所述空间外参的初始值。
[权利要求 8]
一种标定装置,应用于航拍设备,所述航拍设备包括相机和惯性传感器,其特征在于,所述标定装置包括: 位姿获取模块,用于获取所述相机在运动过程中拍摄标定板的多张图像时,所述相机在世界坐标系下的多个相机位姿; 相机速度获取模块,用于根据所述多个相机位姿,获得所述相机在不同时刻的相机角速度和相机加速度; 传感器速度获取模块,用于获取所述惯性传感器在所述相机在运动过程中测量的传感器角速度和传感器加速度; 预测模块,用于根据所述相机和所述惯性传感器的预设的空间外参,将所述相机角速度和所述相机加速度从所述相机的相机坐标系变换到所述惯性传感器的传感器坐标系,以得到第一预测角速度和预测加速度; 误差模块,用于根据所述第一预测角速度、所述预测加速度、所述传感器角速度、及所述传感器加速度,构造加速度误差项; 优化模块,用于优化所述空间外参和时间偏差,得到使得所述加速度误差项最小的空间外参和时间偏差,其中,所述时间偏差为所述惯性传感器定义的时间,相对所述相机拍摄定义的时间偏差。
[权利要求 9]
一种航拍设备,其特征在于,所述航拍设备包括: 相机; 惯性传感器; 存储器,用于存储标定程序;以及 处理器,所述处理器与所述相机和所述惯性传感器通信连接,所述处理器用于执行所述标定程序时实现如权利要求1至7任一项所述的标定方法。
[权利要求 10]
一种存储介质,所述存储介质为计算机可读存储介质,其特征在于,所述存储介质中存储有标定程序,所述标定程序被处理器执行时实现如权利要求1至7任一项所述的标定方法。

附图

[ 图 1]  
[ 图 2]  
[ 图 3A]  
[ 图 3B]  
[ 图 3C]  
[ 图 3D]  
[ 图 4]  
[ 图 5]  
[ 图 6]  
[ 图 7]  
[ 图 8]