多设备的位姿测量方法、电子设备及系统

文档序号:381327 发布日期:2021-12-10 浏览:5次 >En<

阅读说明:本技术 多设备的位姿测量方法、电子设备及系统 (Multi-device pose measurement method, electronic device and system ) 是由 居然 徐波 于 2020-06-10 设计创作,主要内容包括:本申请实施例提供一种多设备的位姿测量方法,包括:主电子设备获取主电子设备的第一拍摄参数;第一拍摄参数为电子设备自身测光获取的;主电子设备向连接的至少一个从电子设备发送主电子设备的第一拍摄参数;至少一个从电子设备根据主电子设备的第一拍摄参数、各自的第一拍摄参数确定各自的第二拍摄参数;第二拍摄参数用于从电子设备进行同步拍摄;主电子设备与至少一个从电子设备进行同步拍摄;主电子设备接收至少一个从电子设备发送的同步拍摄的结果;主电子设备根据主电子设备和至少一个从电子设备进行同步拍摄的结果得到主电子设备和至少一个从电子设备的相对位置和姿态。采用本申请实施例能够提升拍摄照片的一致性和提高位姿的测量精度。(The embodiment of the application provides a pose measurement method for multiple devices, which comprises the following steps: the method comprises the steps that a main electronic device obtains a first shooting parameter of the main electronic device; the first shooting parameter is acquired by the electronic equipment through self photometry; the master electronic device transmits first shooting parameters of the master electronic device to the connected at least one slave electronic device; the at least one slave electronic device determines respective second shooting parameters according to the first shooting parameters of the master electronic device and the respective first shooting parameters; the second shooting parameter is used for synchronous shooting from the electronic equipment; the master electronic equipment and at least one slave electronic equipment carry out synchronous shooting; the master electronic equipment receives the synchronous shooting result sent by at least one slave electronic equipment; the master electronic device obtains the relative position and the posture of the master electronic device and the at least one slave electronic device according to the synchronous shooting result of the master electronic device and the at least one slave electronic device. By adopting the embodiment of the application, the consistency of the shot pictures can be improved, and the measurement precision of the pose is improved.)

多设备的位姿测量方法、电子设备及系统

技术领域

本申请涉及位姿测量技术领域,尤其涉及一种多设备的位姿测量方法、电子设备及系统。

背景技术

在一些多屏互动的应用场景下,例如跨设备拖拽场景、拼接屏显示场景、双屏或多屏显示场景,需要对多个设备的位置和姿态(例如三维空间坐标系下的相对位移和旋转值)进行测量,从而让多个设备根据测量结果显示相应的用户界面。

但是目前基于机器视觉实现多个设备的位姿测量技术存在局限性。例如,可以通过多个设备的摄像头对一组共面点进行拍摄,然后根据拍摄结果计算多个设备的位姿,基于共面点测量需要平面道具,测量误差较高,并且需预先对摄像头进行标定,较为复杂。也可以对相同或相关联的参照物进行拍摄,对参照物有位置等要求,多个摄像头之间缺少协同控制,拍摄的照片一致性差,从而为位姿的测量带来误差。因此,如何不依赖于特殊的测量环境,低成本、高精度地测量多个设备的位姿是本领域的技术人员正在研究的问题。

发明内容

本申请实施例公开了一种多设备的位姿测量方法、电子设备及系统,能够提升拍摄照片的一致性,从而提高测量位姿的精度,并且不依赖于特殊的测量环境,成本较低。

第一方面,本申请实施例提供了一种多设备的位姿测量方法,应用于主电子设备,主电子设备与至少一个从电子设备连接,上述方法包括:获取主电子设备的第一拍摄参数;主电子设备的第一拍摄参数为主电子设备自身测光获取的拍摄参数;向至少一个从电子设备发送主电子设备的第一拍摄参数;主电子设备的第一拍摄参数用于至少一个从电子设备结合各自的第一拍摄参数确定各自的第二拍摄参数;上述从电子设备的第一拍摄参数为上述从电子设备自身测光获取的拍摄参数,上述从电子设备的第二拍摄参数用于上述从电子设备进行同步拍摄;与至少一个从电子设备进行上述同步拍摄;接收至少一个从电子设备发送的上述同步拍摄的结果;根据主电子设备和至少一个从电子设备进行上述同步拍摄的结果得到主电子设备和至少一个从电子设备的相对位置和姿态。

本申请实施例中,至少一个从电子设备均以同一个主电子设备的第一拍摄参数作为参考来调整各自的拍摄参数,并使用调整后的第二拍摄参数进行同步拍摄,从而避免因拍摄参数的不匹配而带来的测量误差,同步拍摄的结果一致性更好,位姿的测量精度更高。并且,本申请实施例不依赖于特殊的测量环境,成本较低,应用范围更广。

在一种可能的实现方式中,上述与至少一个从电子设备进行上述同步拍摄之前,上述方法还包括:与至少一个从电子设备进行时间同步。

本申请实施例中,主电子设备与至少一个从电子设备进行同步拍摄之前还需进行时间同步,从而避免拍摄时间不一致导致拍摄场景发生变化,同步拍摄的结果一致性更高,位姿的测量精度更高。

在一种可能的实现方式中,上述从电子设备的第二拍摄参数为上述从电子设备根据主电子设备的第一拍摄参数、上述从电子设备的第一拍摄参数、至少一个从电子设备中除上述从电子设备之外预设数量个从电子设备的第一拍摄参数得到的拍摄参数。

本申请实施例中,从电子设备确定用于同步拍摄的第二拍摄参数时,不仅可以参考主电子设备的第一拍摄参数,还可以参考预设数量个其他从电子设备的第一拍摄参数,从而提高了从电子设备之间拍摄参数的匹配度,同步拍摄的结果一致性更高,位姿的测量精度更高。

在一种可能的实现方式中,至少一个从电子设备发送的上述同步拍摄的结果为至少一个从电子设备对各自进行上述同步拍摄得到的照片进行特征点检测,得到的特征点描述信息。

本申请实施例中,从电子设备向主电子设备发送的同步拍摄的结果为从电子设备对同步拍摄得到的照片进行处理后的信息,因此减少了从电子设备和主电子设备之间的数据传输量以及主电子设备的计算量,同时也减轻了主电子设备的处理负担。

在一种可能的实现方式中,上述接收至少一个从电子设备发送的上述同步拍摄的结果之后,上述方法还包括:若上述同步拍摄的结果不满足预设条件,显示辅助拍摄的提示信息;上述预设条件为上述同步拍摄的结果中特征点强度大于第一阈值的特征点的数目大于第二阈值。

可选地,若同步拍摄的结果不满足预设条件,也可以由至少一个从电子设备显示辅助拍摄的提示信息。

本申请实施例中,当同步拍摄的结果不满足预设条件时,主电子设备和/或从电子设备可以显示辅助拍摄的提示信息,从而让用户能够根据提示信息辅助进行同步拍摄,以此得到满足预设条件的拍摄结果,即以很小的交互代价获得了高精度的测量结果。

在一种可能的实现方式中,主电子设备和至少一个从电子设备中的至少一个电子设备为接收到用于执行目标事件的用户操作的电子设备;上述根据主电子设备和至少一个从电子设备进行上述同步拍摄的结果得到主电子设备和至少一个从电子设备的相对位置和姿态之后,上述方法还包括:根据主电子设备和至少一个从电子设备的相对位置和姿态执行目标事件。

在一种可能的实现方式中,目标事件为拼接显示目标图像;上述根据主电子设备和至少一个从电子设备的相对位置和姿态执行目标事件,包括:根据主电子设备和至少一个从电子设备的相对位置和姿态确定主电子设备显示的目标图像的预设内容。

具体地,主电子设备和至少一个从电子设备的相对位置和姿态也可以用于至少一个从电子设备确定各自显示的目标图像的预设内容。

本申请实施例中,根据同步拍摄的结果得到的主电子设备和至少一个从电子设备的相对位置和姿态具体用于:主电子设备和至少一个从电子设备确定各自显示的目标图像的部分内容。基于调整后且匹配度更高的拍摄参数进行同步拍摄,同步拍摄的结果一致性更高,位姿的测量精度也更高,从而使得主电子设备和至少一个从电子设备确定的各自显示的目标图像的部分内容之间也更加匹配一致,拼接显示目标图像的效果更好,提升用户的观赏感受。

在一种可能的实现方式中,目标事件为传输目标文件;上述根据主电子设备和至少一个从电子设备的相对位置和姿态执行目标事件,包括:根据主电子设备和至少一个从电子设备的相对位置和姿态确定至少一个从电子设备中的目标电子设备;向目标电子设备发送上述目标文件。

可选地,目标文件具体为目标文件的图标,目标电子设备接收目标文件后显示该目标文件的图标。

可选地,目标文件具体为目标文件的详细内容,目标电子设备接收目标文件后显示该目标文件的详细内容。

本申请实施例中,根据同步拍摄的结果得到的主电子设备和至少一个从电子设备的相对位置和姿态具体用于:主电子设备确定目标电子设备并发送目标文件。基于调整后且匹配度更高的拍摄参数进行同步拍摄,同步拍摄的结果一致性更高,位姿的测量精度也更高,从而使得主电子设备能够更为精确地找到需发送目标文件的目标电子设备,避免误发错发的情况。

第二方面,本申请实施例提供了又一种多设备的位姿测量方法,应用于从电子设备,上述从电子设备与主电子设备连接,上述方法包括:接收主电子设备发送的主电子设备的第一拍摄参数;主电子设备的第一拍摄参数为主电子设备自身测光获取的拍摄参数;获取上述从电子设备的第一拍摄参数;上述从电子设备的第一拍摄参数为上述从电子设备自身测光获取的拍摄参数;根据主电子设备的第一拍摄参数、上述从电子设备的第一拍摄参数得到上述从电子设备的第二拍摄参数;上述从电子设备的第二拍摄参数用于上述从电子设备进行同步拍摄;与主电子设备进行上述同步拍摄;向主电子设备发送上述同步拍摄的结果;上述同步拍摄的结果用于主电子设备确定主电子设备和上述从电子设备的相对位置和姿态。

本申请实施例中,从电子设备均以同一个主电子设备的第一拍摄参数作为参考来调整自身的拍摄参数,并使用调整后的第二拍摄参数进行同步拍摄,从而避免因拍摄参数的不匹配而带来的测量误差,同步拍摄的结果一致性更好,位姿的测量精度更高。并且,本申请实施例不依赖于特殊的测量环境,成本较低,应用范围更广。

在一种可能的实现方式中,上述与主电子设备进行上述同步拍摄之前,上述方法还包括:与主电子设备进行时间同步。

本申请实施例中,主电子设备与从电子设备进行同步拍摄之前还需进行时间同步,从而避免拍摄时间不一致导致拍摄场景发生变化,同步拍摄的结果一致性更高,位姿的测量精度更高。

在一种可能的实现方式中,主电子设备和上述从电子设备还与至少一个从电子设备连接;上述根据主电子设备的第一拍摄参数、上述从电子设备的第一拍摄参数得到上述从电子设备的第二拍摄参数,包括:根据主电子设备的第一拍摄参数、上述从电子设备的第一拍摄参数、至少一个从电子设备中预设数量个从电子设备的第一拍摄参数得到上述从电子设备的第二拍摄参数。

本申请实施例中,从电子设备确定用于同步拍摄的第二拍摄参数时,不仅可以参考主电子设备的第一拍摄参数,还可以参考预设数量个其他从电子设备的第一拍摄参数,从而提高了从电子设备之间拍摄参数的匹配度,同步拍摄的结果一致性更高,位姿的测量精度更高。

在一种可能的实现方式中,上述同步拍摄的结果为上述从电子设备对上述从电子设备进行上述同步拍摄得到的照片进行特征点检测,得到的特征点描述信息。

本申请实施例中,从电子设备向主电子设备发送的同步拍摄的结果为从电子设备对同步拍摄得到的照片进行处理后的信息,因此减少了从电子设备和主电子设备之间的数据传输量以及主电子设备的计算量,同时也减轻了主电子设备的处理负担。

在一种可能的实现方式中,上述与上述第一电子设备进行上述同步拍摄之后,上述方法还包括:若上述同步拍摄的结果不满足预设条件,显示辅助拍摄的提示信息;上述预设条件为上述同步拍摄的结果中特征点强度大于第一阈值的特征点的数目大于第二阈值。

可选地,若同步拍摄的结果不满足预设条件,也可以由其他从电子设备和/或主电子设备显示辅助拍摄的提示信息。

本申请实施例中,当同步拍摄的结果不满足预设条件时,主电子设备和/或从电子设备可以显示辅助拍摄的提示信息,从而让用户能够根据提示信息辅助进行同步拍摄,以此得到满足预设条件的拍摄结果,即以很小的交互代价获得了高精度的测量结果。

在一种可能的实现方式中,主电子设备和/或上述从电子设备为接收到用于执行目标事件的用户操作的电子设备;主电子设备和上述从电子设备的相对位置和姿态用于上述从电子设备执行目标事件。

在一种可能的实现方式中,目标事件为拼接显示目标图像;主电子设备和上述从电子设备的相对位置和姿态具体用于上述从电子设备确定上述从电子设备显示的目标图像的预设内容。

具体地,主电子设备和上述从电子设备的相对位置和姿态也可以用于主电子设备确定自身显示的目标图像的预设内容。

本申请实施例中,根据同步拍摄的结果得到的主电子设备和从电子设备的相对位置和姿态具体用于:主电子设备和从电子设备确定各自显示的目标图像的部分内容。基于调整后且匹配度更高的拍摄参数进行同步拍摄,同步拍摄的结果一致性更高,位姿的测量精度也更高,从而使得主电子设备和从电子设备确定的各自显示的目标图像的部分内容之间也更加匹配一致,拼接显示目标图像的效果更好,提升用户的观赏感受。

在一种可能的实现方式中,目标事件为传输目标文件;主电子设备和上述从电子设备的相对位置和姿态具体用于上述从电子设备接收主电子设备发送的上述目标文件。

具体地,主电子设备和上述从电子设备的相对位置和姿态也用于主电子设备确定发送目标文件的目标电子设备为上述从电子设备。

可选地,目标文件具体为目标文件的图标,上述从电子设备接收目标文件后显示该目标文件的图标。

可选地,目标文件具体为目标文件的详细内容,上述从电子设备接收目标文件后显示该目标文件的详细内容。

本申请实施例中,根据同步拍摄的结果得到的主电子设备和从电子设备的相对位置和姿态具体用于:从电子设备接收主电子设备发送的目标文件。基于调整后且匹配度更高的拍摄参数进行同步拍摄,同步拍摄的结果一致性更高,位姿的测量精度也更高,从而使得主电子设备能够更为精确地找到需发送目标文件的目标电子设备,避免误发错发的情况。

第三方面,本申请实施例提供了又一种多设备的位姿测量方法,包括:主电子设备获取主电子设备的第一拍摄参数;主电子设备的第一拍摄参数为主电子设备自身测光获取的拍摄参数;主电子设备和至少一个从电子设备连接;主电子设备向至少一个从电子设备发送主电子设备的第一拍摄参数;至少一个从电子设备根据主电子设备的第一拍摄参数、各自的第一拍摄参数确定各自的第二拍摄参数;上述从电子设备的第一拍摄参数为上述从电子设备自身测光获取的拍摄参数,上述从电子设备的第二拍摄参数用于上述从电子设备进行同步拍摄;主电子设备与至少一个从电子设备进行上述同步拍摄;主电子设备接收至少一个从电子设备发送的上述同步拍摄的结果;主电子设备根据主电子设备和至少一个从电子设备进行上述同步拍摄的结果得到主电子设备和至少一个从电子设备的相对位置和姿态。

本申请实施例中,至少一个从电子设备均以同一个主电子设备的第一拍摄参数作为参考来调整自身的拍摄参数,并使用调整后的第二拍摄参数进行同步拍摄,从而避免因拍摄参数的不匹配而带来的测量误差,同步拍摄的结果一致性更好,位姿的测量精度更高。并且,本申请实施例不依赖于特殊的测量环境,成本较低,应用范围更广。

在一种可能的实现方式中,主电子设备与至少一个从电子设备进行上述同步拍摄之前,上述方法还包括:主电子设备与至少一个从电子设备进行时间同步。

本申请实施例中,主电子设备与至少一个从电子设备进行同步拍摄之前还需进行时间同步,从而避免拍摄时间不一致导致拍摄场景发生变化,同步拍摄的结果一致性更高,位姿的测量精度更高。

在一种可能的实现方式中,上述从电子设备的第二拍摄参数为上述从电子设备根据主电子设备的第一拍摄参数、上述从电子设备的第一拍摄参数、至少一个从电子设备中除上述从电子设备之外预设数量个从电子设备的第一拍摄参数得到的拍摄参数。

本申请实施例中,从电子设备确定用于同步拍摄的第二拍摄参数时,不仅可以参考主电子设备的第一拍摄参数,还可以参考预设数量个其他从电子设备的第一拍摄参数,从而提高了从电子设备之间拍摄参数的匹配度,同步拍摄的结果一致性更高,位姿的测量精度更高。

在一种可能的实现方式中,至少一个从电子设备发送的上述同步拍摄的结果为至少一个从电子设备对各自进行上述同步拍摄得到的照片进行特征点检测,得到的特征点描述信息。

本申请实施例中,从电子设备向主电子设备发送的同步拍摄的结果为从电子设备对同步拍摄得到的照片进行处理后的信息,因此减少了从电子设备和主电子设备之间的数据传输量以及主电子设备的计算量,同时也减轻了主电子设备的处理负担。

在一种可能的实现方式中,主电子设备接收至少一个从电子设备发送的上述同步拍摄的结果之后,上述方法还包括:若上述同步拍摄的结果不满足预设条件,主电子设备和/或至少一个从电子设备显示辅助拍摄的提示信息;上述预设条件为上述同步拍摄的结果中特征点强度大于第一阈值的特征点的数目大于第二阈值。

本申请实施例中,当同步拍摄的结果不满足预设条件时,主电子设备和/或从电子设备可以显示辅助拍摄的提示信息,从而让用户能够根据提示信息辅助进行同步拍摄,以此得到满足预设条件的拍摄结果,即以很小的交互代价获得了高精度的测量结果。

在一种可能的实现方式中,主电子设备和至少一个从电子设备中的至少一个电子设备为接收到用于执行目标事件的用户操作的电子设备;主电子设备根据主电子设备和至少一个从电子设备进行上述同步拍摄的结果得到主电子设备和至少一个从电子设备的相对位置和姿态之后,上述方法还包括:主电子设备和至少一个从电子设备根据主电子设备和至少一个从电子设备的相对位置和姿态,执行目标事件。

在一种可能的实现方式中,目标事件为拼接显示目标图像;主电子设备和至少一个从电子设备根据主电子设备和至少一个从电子设备的相对位置和姿态,执行目标事件,包括:主电子设备和至少一个从电子设备根据主电子设备和至少一个从电子设备的相对位置和姿态,确定各自显示的目标图像的预设内容。

本申请实施例中,根据同步拍摄的结果得到的主电子设备和至少一个从电子设备的相对位置和姿态具体用于:主电子设备和至少一个从电子设备确定各自显示的目标图像的部分内容。基于调整后且匹配度更高的拍摄参数进行同步拍摄,同步拍摄的结果一致性更高,位姿的测量精度也更高,从而使得主电子设备和至少一个从电子设备确定的各自显示的目标图像的部分内容之间也更加匹配一致,拼接显示目标图像的效果更好,提升用户的观赏感受。

在一种可能的实现方式中,目标事件为传输目标文件;主电子设备和至少一个从电子设备根据主电子设备和至少一个从电子设备的相对位置和姿态,执行目标事件,包括:主电子设备根据主电子设备和至少一个从电子设备的相对位置和姿态确定至少一个从电子设备中的目标电子设备;主电子设备向目标电子设备发送上述目标文件;目标电子设备接收并显示上述目标文件。

在一种可能的实现方式中,目标事件为传输目标文件;主电子设备和至少一个从电子设备根据主电子设备和至少一个从电子设备的相对位置和姿态,执行目标事件,包括:第一从电子设备根据主电子设备和至少一个从电子设备的相对位置和姿态确定目标电子设备;目标电子设备为主电子设备或者至少一个从电子设备中除第一从电子设备之外的从电子设备;第一从电子设备向目标电子设备发送上述目标文件;目标电子设备接收并显示上述目标文件。

可选地,目标文件具体为目标文件的图标,目标电子设备接收目标文件后显示该目标文件的图标。

可选地,目标文件具体为目标文件的详细内容,目标电子设备接收目标文件后显示该目标文件的详细内容。

本申请实施例中,根据同步拍摄的结果得到的主电子设备和至少一个从电子设备的相对位置和姿态具体用于:主电子设备或从电子设备确定目标电子设备并发送目标文件。基于调整后且匹配度更高的拍摄参数进行同步拍摄,同步拍摄的结果一致性更高,位姿的测量精度也更高,从而使得主电子设备或从电子设备能够更为精确地找到需发送目标文件的目标电子设备,避免误发错发的情况。

第四方面,本申请实施例提供了一种多设备的位姿测量系统,包括主电子设备和至少一个从电子设备,该主电子设备用于执行本申请实施例中第一方面、第三方面、第一方面或第三方面的任意一种实现方式提供的多设备的位姿测量方法,该至少一个从电子设备中的任意一个从电子设备用于执行本申请实施例中第二方面、第三方面、第二方面或第三方面的任意一种实现方式提供的多设备的位姿测量方法。

第五方面,本申请实施例提供了一种电子设备,包括:一个或多个处理器、存储器;上述存储器用于存储计算机程序代码,上述计算机程序代码包括计算机指令,上述一个或多个处理器调用上述计算机指令以使上述电子设备执行本申请实施例第一方面至第三方面、第一方面至第三方面的任意一种实现方式提供的多设备的位姿测量方法。

第六方面,本申请实施例提供了一种计算机存储介质,该计算机存储介质存储有计算机程序,该计算机程序包括程序指令,该程序指令被处理器执行时,用于执行本申请实施例第一方面至第三方面、第一方面至第三方面的任意一种实现方式提供的多设备的位姿测量方法。

第七方面,本申请实施例提供了一种计算机程序产品,当该计算机程序产品在电子设备上运行时,使得该电子设备执行本申请实施例第一方面至第三方面、第一方面至第三方面的任意一种实现方式提供的多设备的位姿测量方法。

可以理解地,上述提供的第四方面提供的多设备的位姿测量系统、第五方面提供的电子设备、第六方面提供的计算机存储介质,以及第七方面提供的计算机程序产品均用于执行第一方面至第三方面提供的多设备的位姿测量方法,因此,其所能达到的有益效果可参考第一方面至第三方面所提供的多设备的位姿测量方法中的有益效果,此处不再赘述。

附图说明

以下对本申请实施例用到的附图进行介绍。

图1是本申请实施例提供的多设备位姿测量系统的架构示意图;

图2是本申请实施例提供的一种电子设备的结构示意图;

图3a-图3d是本申请实施例提供的拼接屏显示场景下一些人机交互的示意图;

图4a-图4b是本申请实施例提供的跨设备拖拽场景下一些人机交互的示意图;

图5是本申请实施例提供的一种人机交互的示意图;

图6是本申请实施例提供的又一种人机交互的示意图;

图7是本申请实施例提供的又一种人机交互的示意图;

图8是本申请实施例提供的一种多设备位姿测量方法的流程示意图。

具体实施方式

下面将结合附图对本申请实施例中的技术方案进行清楚、详尽地描述。本申请实施例的实施方式部分使用的术语仅用于对本申请的具体实施例进行解释,而非旨在限定本申请。

首先,请参见图1,图1是本申请实施例提供的多设备位姿测量系统的架构示意图。

如图1所示,多设备位姿测量系统可以包括多个电子设备。多个电子设备在图1中以电子设备11、电子设备12、电子设备13、电子设备14、电子设备15和电子设备16为例进行说明,在具体实现中,多个电子设备的数目可以更多,也可以更少。

如图1所示,多个电子设备可以通过网络连接和通信。网络可以包括有线线路、无线线路等通信线路,以及路由器、接入热点(access point,AP)等网关设备。也就是说,多个电子设备之间可以通过有线(例如,USB、双绞线、同轴电缆和光纤等)或无线(例如,WIFI、蓝牙和移动设备网络等)的方式连接和通信。多个电子设备中每个电子设备可以集成有一个或多个摄像头和显示屏,多个电子设备的摄像头可以基于网络连接组成跨设备多摄阵列,以此协同调整拍摄参数和进行同步拍摄。

在一些多屏互动的场景下,例如跨设备拖拽场景、拼接屏显示场景、双屏或多屏显示场景,多个电子设备中任意一个电子设备可以为主电子设备,其他电子设备为从电子设备。主电子设备和多个从电子设备之间可以进行通信以此进行时间同步和协同设置拍摄参数,然后主电子设备可以控制自身的摄像头和多个从电子设备的摄像头按照协同设置的拍摄参数进行同步拍摄,主电子设备可以接收多个从电子设备的拍摄结果,并结合自身的拍摄结果得到多个电子设备在三维空间坐标系的相对位移和旋转值。最后主电子设备将测量的结果下发到多个从电子设备上,主电子设备和从电子设备根据自身位置和姿态的测量结果显示相应的用户界面。

本申请实施例中涉及的电子设备可以是手机,平板电脑,桌面型、膝上型、笔记本电脑,超级移动个人计算机(Ultra-mobile Personal Computer,UMPC),手持计算机,上网本,个人数字助理(Personal Digital Assistant,PDA),可穿戴电子设备,智慧屏等设备。

接下来,介绍本申请以下实施例中提供的示例性电子设备。

请参见图2,图2示出了一种电子设备11的结构示意图。

电子设备11可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。

可以理解的是,本申请实施例示意的结构并不构成对电子设备11的具体限定。在本申请另一些实施例中,电子设备11可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。

处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。

其中,控制器可以是电子设备11的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。

处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从上述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。

在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。

I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,SCL)。在一些实施例中,处理器110可以包含多组12C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K,充电器,闪光灯,摄像头193等。例如:处理器110可以通过I2C接口耦合触摸传感器180K,使处理器110与触摸传感器180K通过12C总线接口通信,实现电子设备11的触摸功能。

12S接口可以用于音频通信。在一些实施例中,处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过12S接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。

PCM接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中,音频模块170也可以通过PCM接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。上述I2S接口和上述PCM接口都可以用于音频通信。

UART接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,UART接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过UART接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过UART接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。

MIPI接口可以被用于连接处理器110与显示屏194,摄像头193等外围器件。MIPI接口包括摄像头串行接口(camera serialinterface,CSI),显示屏串行接口(displayserial interface,DSI)等。在一些实施例中,处理器110和摄像头193通过CSI接口通信,实现电子设备11的拍摄功能。处理器110和显示屏194通过DSI接口通信,实现电子设备11的显示功能。

GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,GPIO接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。GPIO接口还可以被配置为I2C接口,I2S接口,UART接口,MIPI接口等。

USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口130可以用于连接充电器为电子设备11充电,也可以用于电子设备11与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备,例如AR设备等。

可以理解的是,本申请实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备11的结构限定。在本申请另一些实施例中,电子设备11也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。

充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过电子设备11的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备供电。

电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。

电子设备11的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。

天线1和天线2用于发射和接收电磁波信号。电子设备11中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。

移动通信模块150可以提供应用在电子设备11上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。

调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给AP。AP通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。

无线通信模块160可以提供应用在电子设备11上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。

在一些实施例中,电子设备11的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备11可以通过无线通信技术与网络以及其他设备通信。上述无线通信技术可以包括全球移动通讯系统(global system fbr mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(codedivision multiple access,CDMA),宽带码分多址(wideband code division multipleaccess,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(1ong term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。上述GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(global navigation satellite system,GLONASS),北斗卫星导航系统(beidounavigation satellite system,BDS),准天顶卫星系统(quasi-zenith satellitesystem,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。

电子设备11通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。

显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,电子设备100可以包括1个或N个显示屏194,N为大于1的正整数。

电子设备11可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。

ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将上述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等拍摄参数优化,从而确定最合适当前环境的拍摄参数。在一些实施例中,ISP可以设置在摄像头193中。

摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备11可以包括1个或N个摄像头193,N为大于1的正整数。

本申请实施例中,电子设备11与至少一个电子设备(例如图1的电子设备12、电子设备13、电子设备14、电子设备15和电子设备16)通过网络连接,可以进行时间同步、协同设置拍摄参数和进行同步拍摄,其中任意一个电子设备为主电子设备,其他电子设备为从电子设备。电子设备11的摄像头193可以用于测光和自动对焦,从而获得对应的第一拍摄参数。电子设备11为主电子设备时,上述获得的第一拍摄参数可以就是电子设备11进行同步拍摄时的拍摄参数,上述获得的第一拍摄参数可以用于从电子设备结合自身测光得到的第一拍摄参数确定自身进行同步拍摄时的第二拍摄参数。电子设备11为从电子设备时,处理器110可以结合主电子设备的第一拍摄参数和上述获得的第一拍摄参数确定电子设备11进行同步拍摄时的第二拍摄参数,上述获得的第一拍摄参数也可以用于其他从电子设备确定自身进行同步拍摄时的第二拍摄参数。

摄像头193也可以用于进行同步拍摄,以此获取用于确定主电子设备和从电子设备的位置和姿态的拍摄照片。摄像头193可以通过MIPI接口将拍摄的照片发送给处理器110进行处理。当电子设备11为主电子设备时,处理器110可以结合电子设备11的拍摄照片和从电子设备发送的拍摄照片得到主电子设备和从电子设备的相对位置和姿态,然后电子设备11可以将从电子设备的测量结果发送给从电子设备。当电子设备11为从电子设备时,电子设备11可以将摄像头193拍摄的照片发送给主电子设备,以使主电子设备根据主电子设备和从电子设备的拍摄结果确定主电子设备和从电子设备的相对位置和姿态,然后电子设备11接收主电子设备发送的电子设备11的测量结果。最后,处理器110根据电子设备11的相对位置和姿态确定电子设备11显示的用户界面,并控制显示屏194显示上述用户界面。

数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备11在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。

视频编解码器用于对数字视频压缩或解压缩。电子设备11可以支持一种或多种视频编解码器。这样,电子设备11可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。

NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备11的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。

外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备11的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。

内部存储器121可以用于存储计算机可执行程序代码,上述可执行程序代码包括指令。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备11使用过程中所创建的数据(比如音频数据,图像数据,电话本等)等。此外,内部存储器121可以包括RAM,还可以包括非易失性存储器(non-volatile memory,NVM),例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。处理器110通过运行存储在内部存储器121的指令,和/或存储在设置于处理器中的存储器的指令,执行电子设备11的各种功能应用以及数据处理。

电子设备11可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。

音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。

扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。电子设备11可以通过扬声器170A收听音乐,或收听免提通话。

受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当电子设备11接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。

麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170C发声,将声音信号输入到麦克风170C。电子设备11可以设置至少一个麦克风170C。在另一些实施例中,电子设备11可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,电子设备11还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。

耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130,也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。

压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。

压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A,电极之间的电容改变。电子设备11根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,电子设备11可以根据压力传感器180A检测上述触摸操作强度。电子设备11也可以根据压力传感器180A的检测信号来计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如但不限于,当有压力值小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有压力值大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。

陀螺仪传感器180B可以用于确定电子设备11的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备11围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180B检测电子设备11抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备11的抖动,实现防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。

气压传感器180C用于测量气压。在一些实施例中,电子设备11通过气压传感器180C测得的气压值计算海拔高度,辅助定位和导航。

磁传感器180D包括霍尔传感器。电子设备11可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中,当电子设备11是翻盖机时,电子设备11可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。

加速度传感器180E可检测电子设备11在各个方向上(一般为三轴)加速度的大小。当电子设备11静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态,应用于横竖屏切换,计步器等应用。

距离传感器180F,用于测量距离。电子设备11可以通过红外或激光测量距离。在一些实施例中,拍摄场景,电子设备11可以利用距离传感器180F测距以实现快速对焦。

接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。电子设备11通过发光二极管向外发射红外光。电子设备11使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定电子设备11附近有物体。当检测到不充分的反射光时,电子设备11可以确定电子设备11附近没有物体。电子设备11可以利用接近光传感器180G检测用户手持电子设备11贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式,口袋模式自动解锁与锁屏。

环境光传感器180L用于感知环境光亮度。电子设备11可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测电子设备11是否在口袋里,以防误触。

指纹传感器180H用于采集指纹。电子设备11可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。

温度传感器180J用于检测温度。在一些实施例中,电子设备11利用温度传感器180J检测的温度,执行温度处理策略。例如,当温度传感器180J上报的温度超过阈值,电子设备11执行降低位于温度传感器180J附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,电子设备11对电池142加热,以避免低温导致电子设备11异常关机。在其他一些实施例中,当温度低于又一阈值时,电子设备11对电池142的输出电压执行升压,以避免低温导致的异常关机。

触摸传感器180K,也称“触控器件”。触摸传感器180K可以设置于显示屏194中,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器等处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备11的表面,与显示屏194所处的位置不同。

骨传导传感器180M可以获取振动信号。在一些实施例中,骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180M也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于上述骨传导传感器180M获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于上述骨传导传感器180M获取的血压跳动信号解析心率信息,实现心率检测功能。

按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备11可以接收按键输入,产生与电子设备11的用户设置以及功能控制有关的键信号输入。

马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。

指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。

SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195,或从SIM卡接口195拔出,实现和电子设备11的接触和分离。电子设备11可以支持1个或N个SIM卡接口,N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡,Micro SIM卡,SIM卡等。同一个SIM卡接口195可以同时插入多张卡。上述多张卡的类型可以相同,也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。电子设备11通过SIM卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,电子设备11采用eSIM,即:嵌入式SIM卡。eSIM卡可以嵌在电子设备11中,不能和电子设备11分离。

可以理解地,图1所示的多个电子设备中除电子设备11外的其他电子设备的硬件结构可以和电子设备11类似,例如,电子设备12的硬件结构与电子设备11一样,可参见图2的详细说明,此处不予赘述。

下面介绍本申请实施例涉及的应用场景以及该场景下的人机交互示意图。

下面介绍一种拼接屏显示场景:第一电子设备31、第二电子设备32、第三电子设备33平行放置在平面B上。平面A在平面B的上方,且与平面B平行,平面A为上述三个电子设备的拍摄场景。上述三个电子设备之间可以通过Wi-Fi或蓝牙连接,以第一电子设备31为主电子设备,第二电子设备32和第三电子设备33为从电子设备为例进行说明。用户可以控制上述三个电子设备一起组合显示同一张图片,具体可参见图3a-图3d的说明。需要说明的是,平面A仅为示例,在具体实现中,上述三个电子设备的拍摄场景也可以是不规则的物体,本申请实施例对此不做限定。

具体地,第一电子设备31通过触摸传感器检测到用户作用于显示屏的触摸操作并上报给第一电子设备31中的处理器。该处理器响应于上述触摸操作,一方面控制第一电子设备31的无线通信模块向第二电子设备32和第三电子设备33发送第一电子设备31当前的时间戳。

第二电子设备32通过无线通信模块接收第一电子设备31当前的时间戳,并调整第二电子设备32的时间。例如,第二电子设备32可以测量传输数据到第一电子设备31的平均传输时延Td,第一电子设备31当前的时间戳可以为T,则第二电子设备32可以将自己的时间设置为T+Td,从而完成时间同步。第三电子设备33进行时间同步的过程和第二电子设备32类似,此处不再赘述。

第一电子设备31的处理器响应于上述触摸操作,另一方面控制第一电子设备31的摄像头开启进行测光和自动对焦,以此得到第一电子设备31的第一拍摄参数。然后,第一电子设备31通过无线通信模块向第二电子设备32和第三电子设备33发送第一电子设备31的第一拍摄参数、同步拍摄的时间。其中,拍摄参数包括但不限于感光度、快门、焦距、曝光补偿、白平衡和分辨率等。

第二电子设备32通过无线通信模块接收第一电子设备31的第一拍摄参数、同步拍摄的时间。第二电子设备32的处理器控制第二电子设备32的摄像头开启进行测光和自动对焦,以此得到第二电子设备32的第一拍摄参数。然后,第二电子设备32的处理器按照预设的算法,将第一电子设备31的第一拍摄参数和第二电子设备32的第一拍摄参数作为输入,得到输出的第二电子设备32的第二拍摄参数。第二拍摄参数用于第二电子设备32进行同步拍摄。

如图3a所示,第一电子设备31的处理器控制第一电子设备31的摄像头按照上述同步拍摄的时间,使用第一电子设备31的第一拍摄参数进行同步拍摄,拍摄得到的照片可以如图3a和图3b中的311所示。第二电子设备32的处理器控制第二电子设备32的摄像头按照上述同步拍摄的时间,使用第二电子设备32的第二拍摄参数进行同步拍摄,拍摄得到的照片可以如图3a和图3b中的321所示。第三电子设备33获取用于同步拍摄的第三电子设备33的第二拍摄参数和进行同步拍摄的过程和第二电子设备32类似,此处不再赘述,第三电子设备33同步拍摄得到的照片可以如图3a和图3b中的331所示。然后,第二电子设备32和第三电子设备33通过无线通信模块将同步拍摄得到的照片发送给第一电子设备31。

第一电子设备31通过无线通信模块接收第二电子设备32和第三电子设备33同步拍摄的结果,并通过预设的三维重建算法,例如运动重构(structure-from-motion,SFM)算法、半直接单目视觉里程计(semi-direct monocular visual odometry,SVO)算法、半全局块匹配(semi-global block matching,SGM)算法,对第一电子设备31、第二电子设备32和第三电子设备33同步拍摄得到的不同角度的多张照片进行处理,从而得到第一电子设备31、第二电子设备32和第三电子设备33的相对位移和旋转值,并将第二电子设备32的相对位移和旋转值发送给第二电子设备32,将第三电子设备33的相对位移和旋转值发送给第三电子设备33。

接下来结合图3c和图3d介绍如何通过三维重建算法计算得到从电子设备(即第二电子设备32和第三电子设备33)的相对位移和旋转值。

如图3c所示,以第一电子设备31的设备中心的坐标为原点(0,0,0),第一电子设备31的屏幕平面为二维坐标平面:xy平面,屏幕平面的法向为z轴。第二电子设备32的设备中心的坐标相对第一电子设备31的设备中心(0,0,0)的相对位移可以表示为(tx1,ty1,tz1),第二电子设备32的屏幕平面为二维坐标平面:x1y1平面,该屏幕平面的法向为z1轴,第二电子设备32的三维坐标系相对于第一电子设备31的三维坐标系的旋转值可以表示为(rx1,ry1,rz1)。类似地,第三电子设备33的相对位移可以表示为(tx2,ty2,tz2),旋转值可以表示为(rx2,ry2,rz2)。其中,图3a-图3d以第二电子设备32的旋转值和第三电子设备33的旋转值均是(0,0,0)为例进行说明。

如图3c所示,第三电子设备33的相对位移(tx2,ty2,tz2)大于第二电子设备32的相对位移(tx1,ty1,tz1),且第二电子设备32和第三电子设备33的相对位移均大于第一电子设备31的相对位移(0,0,0);第一电子设备31、第二电子设备32和第三电子设备33的旋转值相同且均为(0,0,0)。第一电子设备31、第二电子设备32和第三电子设备33可以根据各自的相对位移和旋转值显示对应的图片。具体如图3d所示,一张图片被分割为三部分:左边部分、中间部分和右边部分,约定图片的左边部分的中心为上述原点(0,0,0),中间部分与左边部分的相对距离小于右边部分与左边部分的相对距离。因为第一电子设备31相对原点(0,0,0)的相对位移最小,因此第一电子设备31显示图片的左边部分;因为第二电子设备32相对原点(0,0,0)的相对位移小于第三电子设备33相对原点(0,0,0)的相对位移,因此第二电子设备32显示图片的中间部分,第三电子设备33显示图片的右边部分。

在一些实施例中,第一电子设备31也可以在测光时拍摄一张参考照片,并在发送第一电子设备31的第一拍摄参数和同步拍摄的时间时一起发送给从电子设备。从电子设备可以根据第一电子设备31拍摄的参考照片、第一电子设备31的第一拍摄参数调整得到自己的第二拍摄参数。例如,第二电子设备32可以分析第一电子设备31拍摄的参考照片和自己试拍摄的照片的相同部分和不同部分,相同部分以第一电子设备31的第一拍摄参数为主,不同部分以第二电子设备32的第一拍摄参数为主,从而得到与当前拍摄环境最合适的第二拍摄参数,使同步拍摄的结果一致性更好,从而提高多个电子设备的相对位置和姿态的测量精度。

在一些实施例中,第一电子设备31发送同步拍摄的时间也可以在发送第一电子设备31的第一拍摄参数之前,也可以在发送第一电子设备31的第一拍摄参数之后,本申请实施例对此不作限定。

在一些实施例中,第一电子设备31、第二电子设备32和第三电子设备33也可以连接同一个时间服务器,进行时间同步时可以以该时间服务器的时间为准调整自己的时间,本申请实施例对此不作限定。

在一些实施例中,从电子设备也可以根据主电子设备的第一拍摄参数和其他预设数量个从电子设备的第一拍摄参数来确定自身进行同步拍摄时的第二拍摄参数。例如,第二电子设备32可以获取第三电子设备33的第一拍摄参数,按照预设的三维重建算法,将第一电子设备31的第一拍摄参数、第二电子设备32的第一拍摄参数和第三电子设备33的第一拍摄参数作为输入,得到输出的第二电子设备32的第二拍摄参数,并使用第二电子设备32的第二拍摄参数进行同步拍摄。第二拍摄参数不仅以同一主电子设备的第一拍摄参数作为参考,并且以其他从电子设备的第一拍摄参数作为参考来调整自身的拍摄参数,虽然计算量较大,但拍摄的照片一致性更好,从而提高多个电子设备的相对位置和姿态的测量精度。同样地,第三电子设备33也可以参考第二电子设备32的第一拍摄参数来调整自己的拍摄参数,调整过程与第二电子设备32类似,此处不予赘述。

在一些实施例中,从电子设备可以自行对同步拍摄的照片进行处理,提取其中更利于计算的部分发送给主电子设备,从而减少数据传输量和主电子设备的计算量。例如,从电子设备可以对同步拍摄的照片进行特征点检测,将得到的特征点描述信息发送给主电子设备,主电子设备只需对自己同步拍摄得到的照片进行特征点检测,然后对主电子设备和从电子设备的特征点描述信息进行匹配处理,最后得到主电子设备和从电子设备的相对位置和姿态。

下面介绍一种跨设备拖拽场景:第四电子设备40、第五电子设备41、第六电子设备42之间可以通过Wi-Fi或蓝牙连接,以第四电子设备40为主电子设备,第五电子设备41和第六电子设备43为从电子设备为例进行说明。第四电子设备40的显示屏上有位于位置401的图标A,用户可以将图标A从第四电子设备40拖拽到第五电子设备41或第六电子设备42中,具体可参见图4a-图4b的说明。

如图4a所示,第四电子设备40通过触摸传感器检测到用户作用于图标A的滑动操作,该滑动操作将图标A从位置401移动到位置402。需要说明的是,位置402超出了第四电子设备40的显示屏的边界,因此该滑动操作的目的是将图标A拖拽到第六电子设备42中,而不是在第四电子设备40的显示界面上移动图标A。

第四电子设备40的处理器响应于上述滑动操作,控制第四电子设备40的摄像头开启以进行测光,测光后得到第四电子设备40的第一拍摄参数。然后通过无线通信模块向第五电子设备41和第六电子设备43发送第四电子设备40的第一拍摄参数、第四电子设备40的当前时间戳和同步拍摄的时间。第四电子设备40的处理器控制第四电子设备的摄像头使用第四电子设备40的第一拍摄参数在上述同步拍摄的时间进行同步拍摄。

第五电子设备41通过无线通信模块接收上述信息,第五电子设备41的处理器根据第四电子设备40的当前时间戳调整自身的时间,从而完成时间同步。第五电子设备41的处理器按照预设的三维重建算法,根据第四电子设备40的第一拍摄参数调整自身测光得到的第一拍摄参数,以此得到用于同步拍摄的第二拍摄参数。然后,第五电子设备41的处理器控制第五电子设备41的摄像头使用调整后得到的第二拍摄参数在上述同步拍摄的时间进行同步拍摄。第六电子设备42进行时间同步、调整拍摄参数和进行同步拍摄的过程和第五电子设备41类似,此处不再赘述。第五电子设备41和第六电子设备42将同步拍摄的结果发送给第四电子设备40。

第四电子设备40接收从电子设备发送的同步拍摄的结果,并按照预设的三维重建算法对主电子设备和从电子设备同步拍摄得到的不同角度的多张照片进行处理,从而得到主电子设备和从电子设备的相对位移和旋转值。

如图4a所示,第四电子设备40根据上述滑动操作、从电子设备的相对位移和旋转值确定上述滑动操作是将视频A从第四电子设备40拖拽到第六电子设备42中,而非第五电子设备41中。因此,第四电子设备40通过无线通信模块向第五电子设备41发送第五电子设备41的相对位移和旋转值;向第六电子设备42发送图标A对应的文件、第四电子设备40和第六电子设备42的相对位移和旋转值。第五电子设备41确定没有接收到图标A对应的文件,因此无需显示图标A的相关内容。第六电子设备42确定接收到图标A对应的文件,然后根据第四电子设备40和第六电子设备42的相对位移和旋转值确认自身需显示位于位置421的图标A,后续可通过第六电子设备42查看图标A的具体内容。其中,第四电子设备40也可以不向第五电子设备41发送第五电子设备41的相对位移和旋转值。第四电子设备40也可以向第六电子设备42发送第五电子设备41的相对位置和旋转值,以此更为方便地确定显示图标A的位置421。

如图4b所示,若第四电子设备40通过触摸传感器检测到用户作用于图标A的滑动操作,该滑动操作将图标A从位置401移动到位置403。需要说明的是,位置403超出了第四电子设备40的显示屏的边界,因此该滑动操作的目的是将图标A拖拽到第五电子设备41中,而不是在第四电子设备40的显示界面上移动图标A。

第四电子设备40、第五电子设备41、第六电子设备42之间进行时间同步、协同调整拍摄参数、同步拍摄的过程如上述图4a的描述,此处不予赘述。第四电子设备40根据上述滑动操作、从电子设备的相对位置和旋转值确定上述滑动操作是将图标A从第四电子设备40拖拽到第五电子设备41中,而非第六电子设备42中。因此,第四电子设备40通过无线通信模块向第五电子设备41发送图标A对应的文件、第四电子设备40和第五电子设备41的相对位移和旋转值;向第六电子设备42发送第六电子设备42的相对位移和旋转值。第六电子设备42确定没有接收到图标A对应的文件,因此无需显示图标A的相关内容。第五电子设备41确定接收到图标A对应的文件,然后根据第四电子设备40和第五电子设备41的相对位移和旋转值确认自身需显示位于位置411的图标A,后续可通过第五电子设备41查看图标A的具体内容。其中,第四电子设备40也可以不向第六电子设备42发送第六电子设备42的相对位移和旋转值。第四电子设备40也可以向第五电子设备41发送第六电子设备42的相对位置和旋转值,以此更为方便地确定显示图标A的位置411。

在一些实施例中,第五电子设备41周围还有其他从电子设备,或者第六电子设备42周围还有其他从电子设备。在图4a所示的场景中,第六电子设备42和其周围的其他从电子设备可以均接收第四电子设备40发送的图标A,并根据自身的相对位移和旋转值一起组合显示图标A或图标A的具体内容。在图4b所示的场景中,第五电子设备41和其周围的其他从电子设备可以均接收第四电子设备40发送的图标A,并根据自身的相对位移和旋转值一起组合显示图标A或图标A的具体内容。

不限于上述列举的情况,在具体实现中,也可以是任意一个从电子设备(称为目标从电子设备)接收用于传输目标文件的用户操作,主电子设备根据主电子设备和全部从电子设备进行同步拍摄的结果得到主电子设备和全部从电子设备的相对位置和姿态后,主电子设备可以将主电子设备和全部从电子设备的相对位置和姿态发送给目标从电子设备,以使目标从电子设备根据主电子设备和全部从电子设备的相对位置和姿态确定需要发送目标文件的目标设备,本申请实施例对此不作限定。

不限于上述列举的触摸操作、滑动操作,在具体实现中,也可以通过作用于上述多个电子设备中的至少一个电子设备的按键的用户操作、语音信号、用户脑电波信号或其他操作来触发测量多个电子设备的相对位置和姿态的过程,本申请实施例对此不作限定。

不限于上述列举的情况,在具体实现中,也可以是用户执行触发测量多个电子设备的相对位置和姿态过程的操作后,多个电子设备再通过有线或无线的方式连接和通信,从而完成多设备的位姿测量方法。

本申请实施例中,若多个电子设备通过有线或无线的方式连接,在多屏互动的场景下,往往是多个电子设备一起执行相关过程。但是若用户只需多个电子设备中的部分电子设备进行多屏互动,用户可以自行选择电子设备。下面给出一种用户自行选择进行多屏互动的电子设备的示例。

请参见图5,图5是一种人机交互的示意图。如图5所示,第七电子设备51、第八电子设备52和第九电子设备53通过Wi-Fi或蓝牙连接。上述三个电子设备通过麦克风接收用户发出的语音信号,该语音信号为“多屏显示”的语言。上述三个电子设备的处理器响应于该语音信号的指令,控制显示屏显示“是否进行多屏显示”的提示框,该提示框还包括“是”和“否”的控件。

如图5所示,第七电子设备51通过压力传感器接收用户作用于“是”控件的按压操作,第八电子设备52通过压力传感器接收用户作用于“是”控件的按压操作,第九电子设备53通过压力传感器接收用户作用于“否”控件的按压操作,因此第七电子设备51和第八电子设备52一起进行多屏显示,第九电子设备53不进行多屏显示。

第七电子设备51和第八电子设备52响应于上述作用于“是”控件的按压操作,选择一个电子设备为主电子设备,另一个电子设备为从电子设备,然后一起执行时间同步,协同设置拍摄参数和同步拍摄的过程。主电子设备根据同步拍摄的结果得到主电子设备和从电子设备的相对位置和姿态,并将从电子设备进行同步拍摄的结果发送给从电子设备。其中,详细的过程可参见上述图3a-图3d的描述,此处不再赘述。第七电子设备51和第八电子设备52根据各自的位置和姿态显示相应的用户界面。第九电子设备53可以显示接收上述语音信号之前的用户界面。

可以理解地,图5示出的选择进行多屏显示的电子设备的示例仅用于解释本申请实施例,不应构成限定。选择电子设备的用户界面还可以为其他形式。也还可以通过用户的语音信号、用户脑电波信号等其他用户操作选择进行多屏显示的电子设备,本申请实施例对此不作限定。

本申请实施例中,若是同步拍摄得到的照片不符合要求,例如,拍摄的照片中强度符合预设阈值的特征点的数目不足,多个电子设备可以提示用户进行视觉辅助,其中,特征点的强度用于表示对应像素点的灰度值变化的快慢,例如图像梯度。提示用户进行视觉辅助例如但不限于将脸部置于镜头前,将手部置于镜头前,将书本等物体放置在镜头前,调整电子设备的位置等;用户进行视觉辅助后,主电子设备和从电子设备重新协同设置拍摄参数,进行同步拍摄以及计算主电子设备、从电子设备的位置和姿态,以此根据符合要求的拍摄结果得到精度较高的测量结果,即以很小的交互代价获得了高精度的测量结果。用户进行视觉辅助的示例如图6所示,用户可以将手掌放置在第十电子设备60的上方,第十电子设备60重新设置拍摄参数,并使用重新设置的拍摄参数进行同步拍摄,以此得到符合要求的拍摄照片600。

本申请实施例中,若是测量得到的多个电子设备的相对位置和姿态无法进行多屏互动,则可以提示用户调整多个电子设备中至少一个电子设备的位置。例如,图7所示的场景中,第十一电子设备71和第十二电子设备72平行放置在同一平面上,以该平面为二维坐标平面:xy平面,横向为x轴,纵向为y轴,该平面的法向为z轴(未示出)为例进行说明。

如图7所示,第十一电子设备71和第十二电子设备72在x轴上相对位移值为a,在y轴上相对位移值为b,在z轴上相对位移值为0。在三维坐标系中有两个轴向的相对位移值(即a和b)较大,因此第十一电子设备71和第十二电子设备72当前的相对位置和姿态无法进行多屏显示,因此第十一电子设备71和第十二电子设备72可以显示“请调整进行多屏显示的本设备或其他设备的位置”的提示信息。用户根据提示调整位置之后,多个电子设备再执行协同设置拍摄参数、同步拍摄、计算相对位置和姿态等过程。需要说明的是,图7仅示出了根据多个电子设备之间的相对位移确定是否能进行多屏互动的实施例,在具体实现中,还需考虑多个电子设备之间的旋转值,例如,当电子设备的旋转值大于一定阈值(如180度)时,提示用户调整位置。

基于上述图1、图2、图3a-图3d、图4a-图4b、图5-图7所示的一些实施例,下面介绍本申请提供的多设备的位姿测量方法。

请参见图8,图8是本申请实施例提供的一种多设备的位姿测量方法。图8以两个从电子设备(即第一从电子设备和第二从电子设备)为例进行说明,需要说明的是,本方案中从电子设备的数目可以更多,也可以更少。该方法包括但不限于如下步骤:

S801:主电子设备、第一从电子设备和第二从电子设备中至少一个设备接收用户操作。

具体地,用户操作可以但不限于是作用于电子设备的显示屏的触摸、按压、滑动等操作,作用于电子设备的按键的操作、语音信号、手势操作、用户脑电波信号等。例如图3a-图3d所示的触摸操作、图4a-图4b所示的滑动操作。

S802:主电子设备、第一从电子设备和第二从电子设备均建立连接。

具体地,主电子设备、第一从电子设备和第二从电子设备通过有线(例如,USB、双绞线、同轴电缆和光纤等)或无线(例如,WIFI、蓝牙和移动设备网络等)的方式建立连接。

S803:主电子设备、第一从电子设备和第二从电子设备之间进行时间同步。

具体地,主电子设备、第一从电子设备和第二从电子设备之间进行时间同步,以此实现后续的同步拍摄,防止因拍摄时间不一致导致拍摄的场景发生变化,同步拍摄得到的照片一致性较差的情况。

可选地,主电子设备、第一从电子设备和第二从电子设备与同一个时间服务器连接,并根据该时间服务器的时间校正自身的时间,完成时间同步。

可选地,第一从电子设备和第二从电子设备根据各自传输数据到第一电子设备的时延、主电子设备发送的当前时间,调整各自的时间为主电子设备的当前时间和上述时延之和。

S804:主电子设备获取主电子设备的第一拍摄参数。

具体地,主电子设备的摄像头开启对当前的拍摄环境进行测光和自动对焦,以此得到主电子设备的第一拍摄参数,拍摄参数可以包括但不限于感光度、快门、焦距、曝光补偿、白平衡和分辨率等。本申请实施例以感光度、快门、焦距、曝光补偿、白平衡为例进行说明,并以ISO表示感光度,S表示快门,F表示焦距,EV表示曝光补偿,WB表示白平衡,则主电子设备的第一拍摄参数可以表示为(ISO1,S1,F1,EV1,WB1)。

S805:主电子设备向第一从电子设备发送主电子设备的第一拍摄参数。

S806:主电子设备向第二从电子设备发送主电子设备的第一拍摄参数。

S807:第一从电子设备根据主电子设备的第一拍摄参数和第一从电子设备的第一拍摄参数得到第一从电子设备的第二拍摄参数。

具体地,在步骤S807之前,第一从电子设备的摄像头开启对当前的拍摄环境进行测光和自动对焦,以此得到第一从电子设备的第一拍摄参数,该第一从电子设备的第一拍摄参数可以表示为(ISO2,S2,F2,EV2,WB2)。然后,第一从电子设备可以按照预设的算法,将主电子设备的第一拍摄参数和第一从电子设备的第一拍摄参数作为输入,得到输出的第一从电子设备的第二拍摄参数,该第一从电子设备的第二拍摄参数用于第一从电子设备实现后续的同步拍摄。

下表1示出了一种根据主电子设备的第一拍摄参数和第一从电子设备的第一拍摄参数得到第一从电子设备的第二拍摄参数的方法。在具体实现中还可以使用其他方法,本申请实施例对此不作限定。

表1一种根据主电子设备的第一拍摄参数和第一从电子设备的第一拍摄参数得到第一从电子设备的第二拍摄参数的方法。

其中,a的取值范围为[0,1],a一般可以取值为0.8,具体可以根据拍摄参数和拍摄场景调整a的取值。例如,主电子设备的快门参数更适合拍摄场景时,a的取值可以小一点;第一从电子设备的快门参数更适合拍摄场景时,a的取值可以大一点,其中,判断电子设备的快门参数是否适合拍摄场景,可以通过试拍照片并根据照片效果确定。

如表1所示,第一从电子设备的第二拍摄参数可以表示为(ISO2,a×S2+(1-a)×S1,max(F1,F2),min(EV1,EV2),WB1)。其中,感光度是指摄像头对光线的敏感程度,快门是感光片有效曝光的时间,感光度和快门通常需要同步调整,避免拍摄得到的照片画面曝光过多(即过曝)或曝光不足(即欠曝)。通常第一从电子设备的摄像头自身测光得到的感光度和快门比较符合第一从电子设备当前拍摄环境,因此感光度和快门需要在考虑ISO1,S1的情况下,尽可能与ISO2,S2一致,而感光度的数值通常是以百为单位增加,因此感光度可以直接取ISO2,快门则可以根据经验得到相应的计算公式:a×S2+(1-a)×S1

焦距决定了取景范围,焦距越小,取景范围越广,但画面中的物体在画面中的占比越小,焦距越大,取景范围越窄,但画面中的物体在画面中的占比越大。本申请实施例中是以对同步拍摄的照片进行特征点检测和匹配,从而根据符合要求的特征点得到多个电子设备的位置和姿态,其中,要求特征点的强度和数目均需大于预设的阈值,而画面中的物体在画面中的占比较大时,得到特征点的强度和数目更符合要求,因此,焦距取值为max(F1,F2)。特征点的强度用于表示对应像素点的灰度值变化的快慢,例如图像梯度。

曝光补偿可以用于调整拍摄照片的亮度,增加曝光补偿可以使照片的亮度增加,使照片中的物体较为不明显,若曝光补偿较大,容易造成照片中特征点的强度降低和/或特征点的数目减少。本申请实施例是以对同步拍摄的照片进行特征点检测和匹配,从而根据符合要求的特征点得到多个电子设备的位置和姿态,其中,要求特征点的强度和数目均需大于预设的阈值,因此,焦距取值为min(EV1,EV2)。

白平衡则是用于还原环境的真实色彩,调节画面的冷暖调,为了使拍摄的照片一致性更好,从电子设备均以主电子设备的白平衡为准。

在一些实施例中,第一从电子设备也可以获取其他从电子设备测光得到的第一拍摄参数,按照预设的算法,将主电子设备的第一拍摄参数、第一从电子设备的第一拍摄参数和其他预设数量个从电子设备的第一拍摄参数作为输入,得到输出的第一从电子设备的第二拍摄参数,该第一从电子设备的第二拍摄参数用于实现后续的同步拍摄。

例如,从电子设备包括第一从电子设备、第二从电子设备、...、第n-1从电子设备。其中,第i从电子设备的第一拍摄参数可以表示为(ISOi+1,Si+1,Fi+1,EVi+1,WBi+1),i的取值范围为[0,n-1],i为整数。下表2示出了一种根据主电子设备的第一拍摄参数和其他n-2个从电子设备的第一拍摄参数得到第i从电子设备的第二拍摄参数的方法。在具体实现中还可以使用其他方法,本申请实施例对此不作限定。

表2一种根据主电子设备的第一拍摄参数和其他n-2个从电子设备的第一拍摄参数得到第i从电子设备的第二拍摄参数的方法。

其中,a的取值范围为[0,1],a一般可以取值为0.8,具体可以根据拍摄参数和拍摄场景调整a的取值。表2的取值说明和表1的说明一致,此处不予赘述。

S808:第二从电子设备根据主电子设备的第一拍摄参数和第二从电子设备的第一拍摄参数得到第二从电子设备的第二拍摄参数。

具体地,S808与S807的过程类似,此处不再赘述。

S809:主电子设备、第一从电子设备和第二从电子设备进行同步拍摄。

具体地,主电子设备使用主电子设备的第一拍摄参数在预设的同步拍摄时间进行拍摄,第一从电子设备使用第一从电子设备的第二拍摄参数在上述同步拍摄时间进行拍摄,第二从电子设备使用第二从电子设备的第二拍摄参数在上述同步拍摄时间进行拍摄。其中,上述同步拍摄时间可以是主电子设备在进行同步拍摄之前发送给从电子设备的,例如在S805中,主电子设备将主电子设备的拍摄参数和上述同步拍摄时间发送给第一从电子设备。

S810:第一从电子设备向主电子设备发送第一从电子设备进行同步拍摄的结果。

S811:第二从电子设备向主电子设备发送第二从电子设备进行同步拍摄的结果。

S812:主电子设备根据主电子设备、第一从电子设备和第二从电子设备进行同步拍摄的结果得到主电子设备、第一从电子设备和第二从电子设备的相对位置和姿态。

具体地,主电子设备采用预设的三维重建算法(例如但不限于SFM算法、SVO算法、SGM算法),根据主电子设备、第一从电子设备和第二从电子设备进行同步拍摄的结果得到主电子设备、第一从电子设备和第二从电子设备的相对位置和姿态,例如图3a-图3d所示的第一电子设备31、第二电子设备32和第三电子设备33的相对位移和旋转值。

例如,主电子设备可以通过特征点算法中的检测子(例如,SURF检测子、HOG描述子、尺度不变特征变换(scale-invariant feature transform,SIFT)检测子)对主电子设备、第一从电子设备和第二从电子设备进行同步拍摄的结果进行特征点检测,并通过特征点算法中的描述子(例如,SURF检测子、DPM描述子、SIFT描述子)得到照片的特征点描述信息。然后,主电子设备对多个照片的特征点描述信息进行两两匹配,例如采用K最近邻(k-nearestneighbor,kNN)算法进行处理,对所有的特征点描述向量建立哈希索引,再对每两个电子设备的特征点进行查找以得到最接近的值。可选地,还可以对匹配的结果进行交叉校验,从而提高匹配精度。最后采用预设的三维重建算法(如SFM算法)根据特征点匹配的结果得到主电子设备、第一从电子设备和第二从电子设备的相对位置和姿态。

不限于上述列举的情况,在具体实现中,主电子设备还可以对同步拍摄的结果进行SFM处理,即将同步拍摄得到的图像组输入SFM处理的程序(如VisualSFM、Bundler),SFM处理的程序提取图像组中每个图像的特征点并进行图像之间的匹配,然后根据匹配结果得到主电子设备和从电子设备的相对位置和姿态并输出,本申请实施例对此不做限定。

在一些实施例中,第一从电子设备和第二从电子设备也可以根据特征点算法对各自进行同步拍摄得到的照片进行特征点检测,以此获取特征点描述信息,然后在S810和S811中将各自的特征点描述信息发送给主电子设备,主电子设备在S812中只需对自身拍摄的照片进行特征点检测和获取特征点描述信息,从而减少数据传输量和主电子设备的计算量,减轻主电子设备的处理负担。

在一些实施例中,若获取的特征点描述信息不符合要求,例如特征点的强度大于预设阈值的特征点数目小于预设区间[Nmin,Nmax]的最小取值Nmin,则可以提示用户进行视觉辅助,例如将脸部置于镜头前,将手部置于镜头前,将水杯等物体放置在镜头前,调整电子设备的位置等,具体可参见图6的示例。其中,特征点的强度用于表示对应像素点的灰度值变化的快慢,例如图像梯度。然后主电子设备和从电子设备再针对调整后的拍摄场景重新执行S804-S812,以使获取的特征点描述信息符合要求,位姿的测量精度更高,以很小的交互代价获得了高精度的测量结果。

在一些实施例中,主电子设备和从电子设备用于同步拍摄的拍摄参数也可以根据获取的特征点描述信息进行调整,例如,拍摄参数包括分辨率,若特征点的强度大于预设阈值的特征点数目较少,则可以调高分辨率,若特征点的强度大于预设阈值的特征点数目较多,则可以调低分辨率。可选地,还可以根据拍摄参数确定获取的特征点描述信息是否符合要求,例如,拍摄参数包括分辨率,若分辨率已经调到最高,但特征点的强度大于预设阈值的特征点数目仍然不足,则认为获取的特征点描述信息不符合要求。

S813:主电子设备向第一从电子设备发送第一从电子设备的相对位置和姿态。

S814:主电子设备向第二从电子设备发送第二从电子设备的相对位置和姿态。

S815:主电子设备根据主电子设备的相对位置和姿态执行目标事件。

S816:第一从电子设备根据第一从电子设备的相对位置和姿态执行目标事件。

S817:第二从电子设备根据第二从电子设备的相对位置和姿态执行目标事件。

具体地,目标事件例如但不限于拼接显示目标图像、传输目标文件等,主电子设备和从电子设备可以根据各自的相对位置和姿态执行目标事件并显示相应的用户界面,具体可参见上述图3a-图3d和图4a-图4b的示例。

在一些实施例中,目标事件为传输目标文件,发送目标文件给目标电子设备的是主电子设备,主电子设备可以仅向目标电子设备发送主电子设备和目标电子设备的相对位置和姿态,不向非目标电子设备的从电子设备发送该从电子设备的相对位置和姿态,例如上述图4a中第四电子设备40可以仅向第六电子设备42发送第四电子设备40和第六电子设备42的相对位置和姿态,不向第五电子设备41发送第五电子设备41的相对位置和姿态。

在一些实施例中,目标事件为传输目标文件,发送目标文件给目标电子设备的也可以是从电子设备,例如第一从电子设备,主电子设备可以向第一从电子设备发送主电子设备、第一从电子设备和第二从电子设备的相对位置和姿态,以使第一从电子设备根据主电子设备和全部从电子设备的相对位置和姿态确定发送目标文件的目标电子设备。

需要说明的是,S801和S802的顺序不作限定。S803和S804-S808的顺序不作限定。S805和S806的顺序不作限定。S807和S808的顺序可以不作限定。S810和S811的顺序不作限定。S813和S814的顺序不作限定。S815、S816和S817的顺序不作限定。

在图8所示的方法中,多个从电子设备以同一主电子设备的拍摄参数作为参考来调整各自的拍摄参数,并且主电子设备和从电子设备完成时间同步后再进行同步拍摄,避免因拍摄参数不匹配和拍摄场景的变化而带来的测量误差,同步拍摄得到的照片一致性更好,位姿的测量精度更高。并且本申请实施例无需特殊的测量环境,成本较低,应用范围更广。

在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。上述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行上述计算机程序指令时,全部或部分地产生按照本申请上述的流程或功能。上述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。上述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,上述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。上述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。上述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘Solid StateDisk)等。

总之,以上上述仅为本发明技术方案的实施例而已,并非用于限定本发明的保护范围。凡根据本发明的揭露,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。

38页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:安全距离确定方法、装置、计算机设备和可读存储介质

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!