一种虚拟座舱虚实交互方法

文档序号:152750 发布日期:2021-10-26 浏览:53次 >En<

阅读说明:本技术 一种虚拟座舱虚实交互方法 (Virtual and real interaction method for virtual cockpit ) 是由 李刚 程刚宁 于 2021-08-06 设计创作,主要内容包括:本发明涉及虚拟座舱技术领域,且公开了一种虚拟座舱虚实交互方法,包括:校准虚拟座舱的整个物理对象系统与跟踪系统对应的虚拟世界的位置角度关系;对虚拟座舱的整个物理对象进行操作跟踪;调节驾驶员的物理对象操作与虚拟场景中的虚拟对象响应的交互速度,使虚拟场景中虚拟对象的响应与驾驶员的物理操作状态实现同步吻合;将虚拟场景中的虚拟对象响应运动以实时可视化的方式展现在显示端上。该方法通过对座舱内驾驶员的操作进行跟踪,让用户用自然界中的操作方式来观察和体验物理世界,并合理的设计操作时间,将系统的响应与物理操作的状态相吻合,从而实现了更真实的沉浸式感受的技术效果。(The invention relates to the technical field of virtual cabins, and discloses a virtual and real interaction method for a virtual cabin, which comprises the following steps: calibrating the position angle relation of the whole physical object system of the virtual cockpit and a virtual world corresponding to the tracking system; carrying out operation tracking on the whole physical object of the virtual cabin; adjusting the interaction speed of the physical object operation of the driver and the response of the virtual object in the virtual scene to enable the response of the virtual object in the virtual scene to be synchronously matched with the physical operation state of the driver; and displaying the virtual object in the virtual scene on the display end in a real-time visualized mode in response to the motion. The method tracks the operation of the driver in the cockpit, so that the user observes and experiences the physical world in an operation mode in nature, reasonably designs the operation time, and enables the response of the system to be matched with the state of physical operation, thereby realizing the technical effect of more real immersive feeling.)

一种虚拟座舱虚实交互方法

技术领域

本发明涉及虚拟座舱技术领域,具体为一种虚拟座舱虚实交互方法。

背景技术

自从驾驶模拟器诞生开始,便捷、安全、低成本、高效率的特征,就使其成为研究车辆运行性能、安全性能的重要辅助工具;在交通土建工程方面,驾驶模拟器对交通道路线形设计、道路标识设计、环境设计、以及其他道路相关设施的设计和评估有重要意义。

然而在实际使用中存在模型的可信度低、图像相似性测度和图形质量评价困难、复杂高仿真虚拟环境的构造工作量和数据巨大、人机交互机制不自然、缺乏沉浸感、多用户时虚拟现实的实时性和一致性差等一系列问题,上述问题的存在一直制约着应用场景的进一步扩大。

由于在驾驶的感官体验中,视觉占有极大地比例。目前诸多公司和研究机构投入大量人力物力研究开发的驾驶模拟系统,越来越多的通过与带有立体视觉的虚拟现实技术相结合,来提升驾驶系统中视景的沉浸感和真实感。随着立体视觉技术的发展,目前市场上形成了主要以头戴式显示器、环绕式立体投影、真实车辆窗口改装等多种技术路线。这些技术的解决方案都能在一定程度上满足目前驾驶器模拟器对视觉的需要。得益于此,目前汽车驾驶模拟系统已经逐渐从被动式驾驶模拟器转向主动驾驶模拟器为主,并且应用范畴也覆盖了驾驶训练、开发、娱乐的广泛范畴。

但是驾驶并不是一个单纯的体验过程,在实际的使用中,对互动有非常强的需求。而由于座舱本身装置的复杂性,导致对驾驶员动作跟踪非常困难。目前主流的解决方案多数是将驾驶员的操作抽象为车辆操作器件的传感器事件。这使得交互操作在物理和虚拟环境的同步上出现一些割裂,导致难打破体验的瓶颈。

发明内容

(一)解决的技术问题

在目前主流虚拟系统当中,沉浸式被破坏的主要原因在于:交互方式和真实的驾驶方式有比较大的差别;体验逻辑不够完善;数据交换存在影响代入感的延迟;

为了解决上述问题,实现更真实的沉浸式感受,通过对座舱内驾驶员的操作进行跟踪,让用户用自然界中的操作方式来观察和体验物理世界,并合理的设计操作时间,将系统的响应与物理操作的状态相吻合。

(二)技术方案

为实现上述目的,本发明提供如下技术方案:

一种虚拟座舱虚实交互方法,包括以下步骤:

步骤一,校准虚拟座舱的整个物理对象系统与跟踪系统对应的虚拟世界的位置角度关系;

步骤二,对虚拟座舱的整个物理对象进行操作跟踪,具体如下:

步骤S1,驾驶员在虚拟座舱内进行物理对象的操作,并且设计驾驶员的操作时间;

步骤S2,跟踪系统首先通过对座舱内驾驶员的操作进行跟踪,然后使用不同的通讯协议确保不同数据类型在实时性或者可靠性方面的需求可以被满足的前提下,将物理对象操作传输到虚拟场景中的虚拟对象操作上,让用户用自然世界中的操作方式来观察和体验物理世界;

步骤三,调节驾驶员的物理对象操作与虚拟场景中的虚拟对象响应的交互速度,使虚拟场景中虚拟对象的响应与驾驶员的物理操作状态实现同步吻合;

步骤四,将虚拟场景中的虚拟对象响应运动以实时可视化的方式展现在显示端上,实现驾驶员在虚拟座舱内的物理操作在视觉上可见、触觉上真实。

进一步的,所述步骤一:在跟踪系统自身的校准已经完成的基础上,将虚拟座舱的整个物理对象在跟踪系统对应的虚拟世界的坐标系统中和虚拟对象建立一一对应的关系。

进一步的,所述步骤一:虚拟世界和物理世界的快速校准包括:一点定位,两点定位,及多点定位三种。

进一步的,所述一点定位用于只需要确认位置,方向不会发生改变,或者方向改变不影响体验的操作对象:仪表盘、方向盘、制动踏板、油门踏板、停车制动器、组合指示灯、指示面板。

进一步的,所述两点定位用于需要确认位置和旋转,方向会发生改变且会影响到体验的操作对象:虚拟座舱基础平台、转向灯开关、变速杆、大灯开关、示廓灯开关、雨刷器开关。

进一步的,所述多点定位用于整个虚拟座舱基础平台的校准,以及对象自身会发生相对改变,且会影响到体验的操作对象:座椅、安全带。

进一步的,所述方法针对使用VR头盔进行驾驶模拟的座舱系统,可以兼容使用环绕立体投影或者车窗屏幕化改造的使用场景。

进一步的,所述方法使用游戏引擎进行动态视觉计算,也可通过VRPN协议兼容工业可视化引擎及其他引擎。

(三)有益的技术效果

与现有技术相比,本发明具备以下有益的技术效果:

本发明通过校准整个系统和虚拟世界的位置角度关系,将虚拟座舱的整个物理对象在跟踪系统对应的虚拟世界的坐标系统中和虚拟对象建立一一对应的关系;

通过对座舱内驾驶员的物理操作进行跟踪,让用户用自然界中的操作方式来观察和体验物理世界;

由于所有的操作都是操作物理对象,并且驱动虚拟对象有相同的运动,而且可以使用不同的通讯协议确保不同数据类型在实时性或者可靠性方面的需求可以被满足;

通过调节驾驶员的物理对象操作与虚拟场景中的虚拟对象响应的交互速度,使虚拟场景中虚拟对象的响应与驾驶员的物理操作状态实现同步吻合;

从而可以提高虚拟座舱和物理座舱所有操作对象在视觉和体感上的一致性,并且使物理操作在视觉上可见、触觉上真实,实现了更真实的沉浸式感受的有益的技术效果。

附图说明

图1为虚拟座舱虚实交互方法的步骤流程图;

图2为虚拟座舱基础平台的物理位置图;

图3为方向盘的物理位置图。

具体实施方式

下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。

本发明本身并不涉及物理世界的定位、跟踪和对应虚拟世界坐标的校准方法,而是直接使用这类方法跟踪的具体结果;

本发明本身不涉及虚拟车辆的制作过程,而是假设已经具有完成度可以满足可视化要求的数字模型及相应场景,在此基础上提供物理操作和虚拟场景的映射关系;

一种虚拟座舱虚实交互方法,如图1所示,包括以下步骤:

步骤一,校准虚拟座舱的整个物理对象系统与跟踪系统对应的虚拟世界的位置角度关系;

本步骤中的校准,是在跟踪系统自身的校准已经完成的基础上进行的,其目的是将虚拟座舱的整个物理对象在跟踪系统对应的虚拟世界的坐标系统中和虚拟对象建立一一对应的关系;

虚拟座舱的物理对象构成包括:虚拟座舱基础平台、座椅(含座椅操作按钮)、指示面板、方向盘、转向灯开关、雨刷器开关、变速杆、大灯开关、示廓灯开关、制动踏板、油门踏板、安全带;

其中,虚拟座舱基础平台可调整位置和角度,是整体座舱部署时整体调整的;

如图2所示,假设AC为虚拟座舱基础平台的车头方向,在位置对称的ABCD四个点使用结构完全相同的被跟踪对象,或使用同一被跟踪对象分别在四个位置采样,获得四个点的信息,将其中AD和BC的交点,对齐到跟踪系统的坐标原点,AC的中点和BD的中点连线对齐到跟踪系统的X轴,且X轴正方向由原点指向AC的中点,Z轴与重力方向相反,AB的中点和CD的中点连线对齐到Y轴,且Y轴正方向由原点指向AB的中点;

为了确保整个物理对象系统更容易被调节和计算,可以将虚拟座舱基础平台的物理位置在跟踪系统中获得的点根据虚拟世界坐标系统进行偏移;通过获取到的上述四个点在跟踪系统中的虚拟世界坐标[Ax、Ay、Az],[Bx、By、Bz],[Cx、Cy、Cz],[Dx、Dy、Dz],可以计算出AD和BD的交点在虚拟世界中的坐标为[(Ax+Bx+Cx+Dx)/4,(Ay+By+Cy+Dy)/4,(Az+Bz+Cz+Dz)/4],然后将虚拟世界坐标原地偏移到该点;如果跟踪系统没有自带偏移,则建议将该偏移值作为后续所有跟踪点的偏移数据;

座椅(含座椅操作按钮)的可调节对象为座椅整体位置和椅背,在虚拟世界中使用跟踪到的坐垫位置作为整个座椅的位置信息,靠背的角度以靠背和座椅铰接点为轴心旋转靠背,该装置需要两个跟踪器,其中,跟踪器A用以跟踪坐垫,跟踪器B用以跟踪靠背;

座椅的位置信息为[Ax、Ay、Az],跟踪器B以铰接点为中心的旋转为[BrotX,BrotY,BrotZ],其中BrotX和BrotZ应趋近于0;

指示面板包括组合指示灯和仪表盘;

组合指示灯(左转向灯、右转向灯、驻车制动提示灯、远光灯和电源指示灯),无需物理结构,通过跟踪调节整体位置,当使用跟踪点获取仪表盘的位置时,应使其长边平行于跟踪系统的Y轴,可以得到组合指示灯在虚拟世界中的位置坐标为:[Ax,Ay,Az],其姿态为[ArotX,ArotY,ArotZ],校准时应调整使跟踪系统获取到的ArotY尽量趋近于0;

仪表盘(速度表、转速表、燃油表,水温表),无需物理结构,通过跟踪调节整体位置,当使用跟踪点获得仪表盘的位置时,应使仪表盘平面的长边平行于跟踪系统的Y轴,可以得到跟仪表盘在虚拟世界中的位置坐标为:[Ax,Ay,Az],其姿态为[ArotX,ArotY,ArotZ],ArotX和ArotZ应趋近于0;

方向盘为可更换方向盘,并且可调节位置和角度,如图3所示,使用A点的y坐标,B点的x和z坐标对齐方向盘圆环的质心,既方向盘在虚拟世界中的位置坐标为[Bx,Ay,Bz],姿态为[BrotX,ArotY,BrotZ];

转向灯开关、雨刷器开关、变速杆,均可更换,并且均可调节位置和角度;

上述装置由于是铰接于方向盘整体控制装置的,可以直接使用方向盘的位置信息定位获取精确定位,仅需要校准各种状态的角度,校准可以使用光学或其他带有位置定位的跟踪信息获取的信息中的角度信息,也可以使用角度传感器给出的角度信息;

大灯开关、示廓灯开关、制动踏板、油门踏板,均可更换,并且均可调节位置和角度;跟踪装置使用套具安装在踏板位置,跟踪两个极限位置,校准后移除;

安全带可更换及可调节位置,作为一个座舱位置唯一的柔性结构,安全带的校准可以简单地模拟为两点校准和两点跟踪,安全带的两个固定端校准位置,对安全带左肩部受力点和胸部受力点设置跟踪装置,用以获取人在驾驶动作中安全带的状态;

以上装置会通过带有方向的矢量点来进行快速校准,具体方法取决于整个系统的工作环境,实施方案如下:

以下方法均假定所采用的定位系统在校准虚拟和物理世界的空间时,可以根据一定的规则对坐标系统的原点(X=0,Y=0,Z=0)点进行偏移和旋转,如果原定位系统系统不包含相关的方法,则需要对坐标系统进行转换,坐标偏移计算的方法可以作为本方法的有益补充;

光学跟踪标记点方案:本方案的核心点在于使用光学动作捕捉系统,对特定设计的刚体进行跟踪,借以完成整个系统的对齐和操作的跟踪;

LightHouse方案:本方案的核心点在于利用HTC为Vive系统定制开发的有专门优化的头戴式虚拟现实显示装置,系统的自洽性比较高;

传感器角度计算方案:本方案的核心点在于利用各种传感器设备对整个系统的操作进行跟踪;

多技术混合方案:多技术混合,在目前的技术水平上,是最具性价比,也最有发展潜力的方案;

实际上,根据对象的特点,分别按照操作的特点,使用混合跟踪,才能达到最佳的体验效果;

例如,使用HTC vive系统的Tracker作为定位点工具定位虚拟座舱平台来匹配整个系统的物理和虚拟坐标的关系,使用Tracker提供手掌的位置和方向,结合多个leapmotion覆盖操作区域对手势进行跟踪,使用通电式开关模拟大灯开关、雨刷开关,使用角度传感器跟踪踏板;

虽然在实施案例中会涉及惯性传感器混合光学或者激光定位装置定位的技术,但是本方法的创新点并不涉及其具体的计算方法,仅使用这类方法的产品或者定制装置的自有计算结果作为定位信息的提供源;

按照校准定位需要的步骤,可以分为一点定位,两点定位,及多点定位三种来进行虚拟世界和物理世界的快速校准:

一点定位用于只需要确认位置,方向不会发生改变,或者方向改变不影响体验的操作对象:仪表盘、方向盘、制动踏板、油门踏板、停车制动器、组合指示灯、指示面板;一点定位只取用跟踪装置位置信息,以虚拟座舱基础平台的坐标方向为参考可以准确定位其虚拟世界中的位置及方向;

两点定位用于需要确认位置和旋转,方向会发生改变且会影响到体验的操作对象:虚拟座舱基础平台、转向灯开关、变速杆、大灯开关、示廓灯开关、雨刷器开关;两点定位包含跟踪装置的位置和方向信息,可以跟踪对象的动态变化

多点定位用于整个虚拟座舱基础平台的校准,以及对象自身会发生相对改变,且会影响到体验的操作对象:座椅、安全带;多点定位包含位置和方向信息,至少包含三个跟踪装置的一组定位组成,可以定义刚体状态变化;

其中,这里校准定位中所谓的点,指空间中带有位置和方向的矢量,而非三维空间中只有位置信息的点,具体的获取方法根据使用的定位技术方案会存在差异;

三种校准方式对应的装置具有多种可能性(HTCvive的手柄、跟踪器,带有激光发射器的跟踪器,带有电子罗盘的光学刚体);

或配合水平仪(气泡式或电子式)均可,通过装置生成物理世界和虚拟世界的相对照的坐标系统;

上述均可在确保物理操作对象和虚拟对象的相对误差精度在可接受的条件下,大幅度降低系统中物理对象和虚拟对象之间校准的难度;

校准操作要获得最佳效果,应对跟踪物和座舱中的物理对象建立1:1的模型;

步骤二,对虚拟座舱的整个物理对象进行操作跟踪,具体如下:

步骤S1,驾驶员在虚拟座舱内进行物理对象的操作,并且设计驾驶员的操作时间;

步骤S2,跟踪系统首先通过对座舱内驾驶员的操作进行跟踪,然后使用不同的通讯协议确保不同数据类型在实时性或者可靠性方面的需求可以被满足的前提下,将物理对象操作传输到虚拟场景中的虚拟对象操作上,让用户用自然世界中的操作方式来观察和体验物理世界;

对于仅需要一次性调整的装置(如座舱基础平台、电子仪表盘、座椅),仅跟踪其位置,并在位置偏移超过阈值时发出警告,请用户确认是否需要重新校准整个系统;

对于有助力的装置(如大灯开关、雨刷、远近灯光控制),仅跟踪动作的触发,并提供可调节的动画控制方式;

对于需要精确控制的装置(如油门踏板、制动踏板、方向盘),则精确记录其变动,并需要在开始使用前进行校准;

或者在手掌安装定位装置,跟踪其位置方向,可配合手势跟踪系统(如红外光学手势跟踪装置LeapMotion,惯性传感器动作捕捉手套Hi5,纤维伸缩变位传感器动作捕捉手套hand assembly,电阻弯曲传感器,柔性光纤传感器)模拟手的动作、使用传感器系统获取操作的技术方案;

步骤三,调节驾驶员的物理对象操作与虚拟场景中的虚拟对象响应的交互速度,使虚拟场景中虚拟对象的响应与驾驶员的物理操作状态实现同步吻合;

步骤四,将虚拟场景中的虚拟对象响应运动以实时可视化的方式展现在显示端(立体显示装置或观众显示器)上,实现驾驶员在虚拟座舱内的物理操作在视觉上可见、触觉上真实;

出于成本和沉浸度的考虑,本方案主要针对使用VR头盔进行驾驶模拟的座舱系统,可以兼容使用环绕立体投影或者车窗屏幕化改造的使用场景;

本方法推荐使用游戏引擎进行动态视觉计算,也可通过VRPN协议兼容工业可视化引擎及其他引擎;

虚拟视觉和物理触觉的结合:本方案中推荐使用可替换部件,动态调节布局的座舱模拟装置,兼容真实车辆改装及六轴座椅平台等虚拟驾驶模拟状态;

尽管已经示出和描述了本发明的实施例,对于本领域的普通技术人员而言,可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由所附权利要求及其等同物限定。

10页详细技术资料下载
上一篇:一种医用注射器针头装配设备
下一篇:一种基于肌电和MR眼镜的控制系统及其控制方法

网友询问留言

已有0条留言

还没有人留言评论。精彩留言会获得点赞!

精彩留言,会给你点赞!

技术分类