-
0 引言
-
虚拟现实(virtual reality,简称VR)技术是发展于20世纪60年代的一项交叉技术,该技术融合了计算机图形技术、多媒体技术、传感器技术、人机交互技术、网络技术以及立体显示等多种科学技术,该技术利用计算机创建一种虚拟环境[1],用户借助交互设备进入虚拟空间,对虚拟空间中的对象进行虚拟操作和感知,进而获得身临其境的真实感受[2]。虚拟现实技术具有多感知性、沉浸感、交互性、自主性等特点,其应用目前已渗透到各个专业领域,涉及到航天、军事、通信、医疗、教育等多个方面[3]。
-
随着航空工业的发展,民用飞机的复杂性、先进性不断提高,使得飞机越来越复杂,对飞机运营人员,如机组人员、机务人员的知识水平和技术能力的要求也越来越高。当前民机培训中多采用计算机辅助培训(computer based training,简称CBT)自学、PPT课堂讲解、飞行模拟机训练和真机实操的方式进行培训,其中CBT自学和PPT课堂讲解通过文字、二维图表和简单动作视频等方式进行培训,存在课程枯燥、课程互动性差、培训效率低下、复杂机构隐蔽区域展示效果有限等缺点,而飞行模拟机训练和真机操作培训成本高昂,尤其是真机培训实施难度较大[4]。
-
为解决传统民机培训中存在的各种问题,越来越多的虚拟现实技术被应用于该领域。波音公司采用了多种虚拟现实技术用于飞行仿真、机务训练、全机防爆等多种科目的培训,空客公司在空客汉堡维护培训中心,建立了两套虚拟现实设备专用于维修培训; 国内航空院校、飞机研究院等单位也在积极的研究虚拟现实技术[5]。本文就虚拟现实技术在某民用飞机培训中的探索进行简要介绍,目前本中心已先后建立了大型沉浸式、头盔式、桌面式三维虚拟培训平台,初步形成虚拟现实培训体系。
-
1 大型沉浸式虚拟现实培训系统
-
根据虚拟现实的沉浸感程度,可以将虚拟现实系统分为桌面式、增强式、沉浸式和网络分布式虚拟现实系统[3],另根据场景显示方式,虚拟现实系统又可分为头盔式、桌面式、投影式、手持式和自由立体式显示系统[6]等等。在上述各种系统中,沉浸式虚拟现实系统通过头盔显示器或投影墙屏蔽真实环境,沉浸感真实,其中利用投影墙即大型沉浸式虚拟现实系统相对易于接受,故在初期本中心搭建了HoloSpace环境下的大型沉浸式虚拟现实系统,以探索虚拟现实在民机培训中的应用。
-
1.1 硬件平台
-
本大型沉浸式虚拟现实培训系统采用3面5通道HoloSpace立体显示系统,其硬件平台由图形生成系统、视景系统、跟踪交互系统、控制/监控系统组成,如图1所示。
-
图1 大型沉浸式虚拟现实系统
-
其中图形生成系统用于生成三维虚拟培训图像,采用六台超高端图形工作站组成的集群系统作为图形计算系统,一台为主节点,五台为渲染节点,分别对应培训场景生成的5个通道。
-
视景系统用于将三维虚拟培训场景图像以三维立体的方式进行显示,该系统采用3面5通道的HoloSpace系统形式,是由一个侧面、一个正面和一个地面构成的三维立体虚拟显示系统。HoloSpace显示系统兼顾CAVE和CADWALL优点的系统形式,既能提供比CADWALL更大的视场范围和更好的沉浸效果,还可容纳比CAVE更多的观众数量。
-
跟踪交互系统用于学员与虚拟培训场景的漫游与交互。本系统中采用A.R.T的跟踪交互设备进行系统构建,由光学跟踪摄像机、光学跟踪点、交互漫游手柄、处理主机等构成。光学跟踪摄像机与光学跟踪点用于跟踪培训空间中的人体动作,交互漫游手柄用于学员与虚拟培训场景的交互,处理主机则与图形生成系统联系,对人体的位置进行计算并将信号反馈至图形生成系统,促使图形生成系统按照人体位置实时渲染虚拟培训场景。手柄选用FlyStick 2型的控制手柄,作为手持式交互输入设备,该手柄多达6个按键和一个方向控制摇杆,可实现控制导航、虚拟物体的拾取、菜单选择和其他的接口特性。
-
控制/监控系统用于控制/监控培训过程,由中央控制主机、无线触摸显示屏、音频控制、照明控制、信号切换控制、多台立体LCD液晶显示器阵列等组成。
-
1.2 软件平台
-
大型沉浸式虚拟现实培训系统主要使用到Delmia、Virtools、VRCO Conduit多通道中间件等软件,为培训内容的开发及多通道拼接提供软件支持。
-
其中DELMIA在人体建模、动作控制及任务仿真分析方面具有优势,且可直接使用CATIA工程数据模型,在虚拟现实培训课件的开发中主要用于虚拟人几何建模与运动控制开发。
-
Virtools软件用作本项目的课件开发引擎,主要用于进行课件演示过程逻辑开发、交互手柄按键功能开发、界面选择菜单开发、摄像机控制开发等。该软件是由法国全球交互三维开发解决方案公司Virtools开发的一款三维互动程序开发工具,其具有人机交互图形化用户界面、便捷的网络传播、强劲的脚本语言、模块化的技术开发路线、高效的协作平台等优势[7],一经推出就得到广泛应用。
-
VRCO Conduit为多通道中间件,在投影系统中负责将主节点的应用分割分发到各个通道中,实现在HoloSapce系统中的边缘融合和显示。
-
另外,在课件开发制作过程中还将用到3DMax、Maya等传统的建模渲染和制作软件,以使得开发的课件更美观、逼真。
-
虚拟现实培训课件开发流程如图2所示。
-
图2 虚拟现实培训内容开发流程图
-
该大型沉浸式虚拟现实培训系统为民机培训提供了一种区别于传统培训的培训方式,通过播放三维虚拟培训课件,为受训者创造出一种逼真的培训环境,使受训者全面、直观、多方位了解飞机、熟悉操作程序,提高了民机培训的质量及效率。
-
2 头盔式、桌面式虚拟现实培训系统
-
大型沉浸式虚拟现实培训系统在民机培训中发挥了一定的作用,但在使用过程中也显现出维护难度大、难以迁移等问题。随着虚拟现实技术的进一步成熟,交互设备、开发引擎更加多样化,其在民机培训中的应用前景更为广阔,有必要构建一个多平台的虚拟现实培训系统,以充分利用各平台的优势,满足不同的培训需求。
-
2.1 头盔式虚拟现实培训系统
-
头盔式虚拟现实培训系统硬件平台由计算机、头盔显示器以及交互设备组成,头盔显示器利用头盔将人对外界的视觉、听觉封闭起来,引导受训人员产生一种身在虚拟环境中的感觉。本平台选用沉浸感较好的HTC Vive头盔,其由头盔显示器、手柄和定位器等硬件组成。该头盔采用红外激光实时检测头盔的移动,并输入计算机中用于渲染画面,使得头盔显示器中显示正确的画面。HTC Vive头盔自带手柄交互设备,另引入体感、手势、语音交互设备,以获取更为便捷、高效的交互效果。头盔式虚拟现实培训平台如图3所示。
-
图3 头盔式虚拟现实培训平台
-
其中体感交互采用了Kinect技术,其原理为使用Kinect体感设备,识别检测出人体的姿势动作后,解算为交互指令,进而对虚拟物体进行控制。Kinect的核心技术是Skeleton Tracking(骨骼追踪),能够获取用户20个骨骼关节点[8]的三维坐标。
-
手势识别采用了Leap Motion设备。Leap Motion具有近距离数据采集和毫米级采集精度的特点,能够追踪到几毫米范围的动作[9],可以绑定视野范围内的手或工具,实时检测手或工具的位置、动作,经过解算后实现人机互动。
-
在语音识别方面,采用常规的语音识别算法。对于接收到的声音信号,通过程序处理后分离出指令,再与语法库中的指令进行对比匹配,从而实现人机交互。
-
头盔式虚拟现实培训平台将学员与外界完全隔离或部分隔离,具有较好的沉浸感,且不易受外界光线影响,使用者的活动范围相对较大。但同时,其缺点也较明显:双眼距离屏幕较近,容易疲劳,且长时间佩戴头盔也会产生不适。
-
2.2 桌面式虚拟现实培训系统
-
桌面式虚拟现实培训系统硬件平台以计算机为基础,受训人员通过计算机屏幕观察虚拟世界,传统的交互设备多为键盘和鼠标,通过这些交互设备对虚拟物体进行旋转和平移等操作。在传统交互设备的基础上,本平台引入了盔式虚拟现实培训系统中的体感、手势、语音交互设备,以达到更高效的互动效果,如图4所示。
-
图4 桌面式虚拟现实培训平台
-
桌面式虚拟现实培训平台缺乏沉浸式的体验,但操作较为直观。
-
2.3 软件平台
-
随着虚拟现实技术的发展,虚拟现实相关软件也获得了长足的发展,目前较主流的开发引擎有Unity、Unreal、CryEngine等,而Virtools已逐渐没落。对比当前应用较为广泛的几种开发引擎,Unity 3D作为后起之秀,整合了之前所有开发工具的特点,具有强大的跨平台特性、全面的开发功能等特点[10],本中心选其作为新的虚拟现实开发引擎。
-
为支持培训内容的多平台展示,引入Middle VR中间件。Middle VR是一个将Unity开发内容快速发布成VR沉浸式展示的Unity插件,该插件可移植性强,支持大部分如大场景、头盔式等虚拟现实系统,支持大部分诸如手势、体感、手柄交互设备,支持3DXML、OBJ、FBX等多种文件格式。引入该插件,对已完成开发的培训内容,无需修改程序,只需指定新的配置,即可在大型沉浸式、头盔式、桌面式等虚拟现实系统里展示。
-
至此,本中心先后搭建了大型沉浸式、头盔式、桌面式三种虚拟现实培训平台,并搭建了以Unity 3D为开发引擎的培训内容开发平台。
-
3 培训课件的开发
-
将虚拟现实技术应用于民机培训,需要有多种类型、多种内容的虚拟现实培训课件,且需对培训课件进行经常性的维护。通常虚拟现实培训课件开发包含创建三维模型和三维动画、生成虚拟交互场景、定义虚拟交互逻辑、发布课件等主要步骤,整个开发过程复杂繁琐。另外,Unity 3D虽然操作简单,但仍需要开发人员掌握一门开发语言,故培训教员很难自行开发、修改课件。针对上述问题,对无编程课件开发进行了探索。
-
通过分析飞机飞行、机务、乘务、签派训练内容,虚拟现实培训课件可分为三类:位置识别课件、气/液流动展示课件、机构作动/拆装演示课件,为实现以上类型课件的开发,无编程课件开发平台软件需要具备三维模型漫游、气/液流动过程动画制作、三维模型机构作动/拆装动画制作等功能。
-
无编程课件开发平台软件的总体结构采用三层架构,分别为数据层、组件层与应用层,软件总体结构如图5所示。
-
(1)数据层:将飞机工程数模数据以及飞机飞行、乘务、机务与签派训练数据引入项目研究,建立相应的数据库,在此基础上构建环境模型、飞机仪表模型、基础动作模型、材质贴图资源和动作/特效资源等。
-
图5 无编程课件开发平台软件结构
-
(2)组件层:采用组件化建模思想,选用Unity 3D作为底层开发引擎,利用其自定义编辑窗口将相应的功能打包成预制件; 因Unity 3D不提供复杂机构的定义解算功能,此时引入开源软件V-Rep工具作为复杂机构的定义与运动解算工具,实现模型运动的组件化。
-
(3)应用层:基于抽象封装的各类组件,根据虚拟培训课件作业流程的应用需求,通过组件与组件之间交互实现的应用程序,将位置识别课件开发、机构作动/拆装演示课件开发和气液体流动展示课件开发模块化设计。
-
无编程课件开发平台主页面如图6所示,用户通过简单的点击、拖拽等操作进行调用,实现无编程的课件场景生成、动作设置与逻辑编辑,达到快速开发虚拟现实培训课件的目的。
-
图6 无编程课件开发平台主页面
-
4 发展方向
-
随着科学技术的发展,虚拟现实在民机培训方面的探索稳步向前,虚拟现实技术在民机培训中的应用将在以下几个方面获得发展:
-
1)交互设备更加丰富。虚拟现实交互技术的发展方向是更自然、更智能[11],为达到更好的培训效果,民机培训也将引入更多样化、更先进的交互设备。
-
2)多人协同。多人协同技术在虚拟现实其他应用领域已有探索,而民机培训中许多培训科目需要多人协同,故多人协同将在民机培训中获得更多的关注。
-
3)培训终端移动化。目前民机培训平台主要为上述几种,需要学员到固定地点学习,缺乏灵活性。目前虚拟现实游戏已在移动端实现,为了实现更加灵活的培训目的,后续可尝试迁移到移动终端开展虚拟现实民机培训。
-
4)结合其他新技术。科学技术的发展日新月异,虚拟现实作为一个交叉学科,可以与其他多种技术结合,例如5G技术,可利用其高宽带、低延迟等特性,以实现快速分享虚拟现实培训资源的目的。
-
5 结论
-
当前,我国进入民航飞速发展阶段,对飞机运营人员的需求越来越多,要求越来越高,那么如何对飞机运营人员进行高效、高质的培训已成为一个重要研究课题。本文介绍了某民机培训中心搭建的大型沉浸式、头盔式、桌面式三种虚拟现实培训系统,并对培训课件的开发软件进行了研究。虚拟现实培训系统为学员提供一个逼真的虚拟培训环境,使受训者全面、直观、多方位地了解飞机,且自如地与虚拟环境中的对象进行交互,进而提高培训质量。
-
参考文献
-
[1] 赵蔚,段红.虚拟现实软件研究[J].计算机技术与发展,2012,22(2):229-233.
-
[2] 陈浩磊,邹湘军,陈燕,等.虚拟现实技术的最新发展与展望[J].中国科技论文在线,2011,6(1):1-5;14.
-
[3] 李敏,韩丰.虚拟现实技术综述[J].软件导刊,2010,9(6):142-144.
-
[4] 蒋焕兵,王震威,薛婧,等.三维虚拟技术在民用飞机维修培训中的应用[J].科技信息,2013(12):360.
-
[5] 薛婧.虚拟交互设备在民机三维虚拟培训中的应用研究[J].科技传播,2016,8(18):108;153.
-
[6] 赵沁平.虚拟现实综述[J].中国科学(F辑:信息科学),2009,39(1):2-46.
-
[7] 罗虹,王士勇.基于Virtools技术的虚拟教学系统的设计与实现[J].现代教育技术,2007(10):57-60.
-
[8] 刘晋钢,刘卫斌,刘晋霞.Kinect与Unity 3D数据整合技术在体感游戏中的应用研究[J].电脑开发与应用,2014,27(11):7-11;14.
-
[9] 赵沁平,周彬,李甲,等.虚拟现实技术研究进展[J].科技导报,2016,34(14):71-75.
-
[10] 朱柱.基于Unity 3D的虚拟实验系统设计与应用研究[D].武汉:华中师范大学,2012:10-12.
-
[11] 宋鸣侨.浅析人机交互技术的发展趋势[J].现代装饰(理论),2012(2):148.
-
摘要
虚拟现实技术是20世纪兴起的一项综合性技术,随着科学技术的发展,该技术得到了快速的发展及广泛的应用。针对传统民机培训中存在的课程枯燥、培训效率低下以及成本高昂等问题,虚拟现实技术被逐步应用到民机培训中,并得到长足的发展。对某民机培训中心搭建的虚拟现实培训系统进行了介绍,包括大型沉浸式、头盔式及桌面式三种虚拟现实培训平台,详细介绍了以上三种虚拟现实培训系统的软、硬件组成,包括显示系统、交互设备及开发软件等;并对三种虚拟现实培训系统的优缺点进行了简要总结。针对培训内容在开发过程中存在的复杂、繁琐问题,介绍了基于Unity 3D开发引擎且适用于三种虚拟现实培训系统的无编程课件开发流程。最后对虚拟现实技术在民机培训中的发展方向进行了展望。
Abstract
Virtual reality(VR) technology is a comprehensive technology rising in the 20th century. With the development of science and technology, VR has been rapidly developed and widely used. Aiming at the problems existing in traditional civil aircraft training such as boring courses, low training efficiency and high cost, VR technology has been gradually applied to civil aircraft training, and has been greatly developed. This paper introduces the VR training system built by a civil aircraft training center, including three VR training systems: large-scale immersion VR, helmet VR and desktop VR, and details the software and hardware composition of the above three VR training systems, including display system, interactive equipment and development software; The advantages and disadvantages of the three VR training systems are briefly summarized. Aiming at the complex and tedious problems in the process of developing training content, this paper introduces the development process of non programming courseware based on Unity 3D, which is applicable to three VR training systems. Finally, the development direction of VR technology in civil aircraft training was prospected.
Keywords
virtual reality ; civil aircraft training ; VR training systems ; Unity 3D