增强现实技术在口腔颌面外科中的应用现状及展望

2021-3-31 15:03  来源:中国实用口腔科杂志
作者:程杰 汤炜 阅读量:1298

    随着大数据、精准医疗时代的来临,影像技术、计算机辅助设计与制造技术(CAD/CAM)、信息化技术日渐发展成熟,越来越多的数字化技术被应用到临床工作中,给临床工作者带来了极大便利。其中,增强现实(augmented reality,AR)以其实时动态三维可视化的特性在多个医学领域中被应用,包括肝胆外科、脊柱外科、泌尿外科、显微外科等,为精确化、个性化的治疗提供了新手段,解决了许多以往临床治疗中的难题。

    AR在医疗领域能够得以运用的前提是影像技术的发展与成熟,以往二维影像检查不能够直观地展示患者各结构之间的立体关系,需要医生凭借空间想象来判断术区各结构的位置关系。CT等数字化放射成像设备、医学数字成像和通信(DICOM)标准的发展为影像数据的交互处理提供了基础,通过获取患者影像资料的DICOM数据,利用相关软件(如Mimics、Blender等)进行三维重建,就能得到三维立体虚拟模型,并能进一步对其分割、加工,得到我们所需要的模型。AR则能将虚拟模型直观地呈现于医疗工作者眼前,发挥良好的指导作用。

    1.AR的关键技术

    1.1跟踪注册(tracking registration)

    若要将三维重建的虚拟模型附加于真实世界,需经过相机对真实场景实时跟踪、识别、注册,然后通过显示装备将预加载模型呈现于计划位置。基于机器视觉的跟踪注册技术是目前的主流方法,其又分为基于人工标识和无标识两种。人工标识的种类多样,可以是某张图片或某种类似二维码形式的图案。无标识的跟踪注册方法是通过提取、识别场景内特定位置的自然特征点实现注册。此外还可利用红外线、电磁及惯性等实现实时跟踪注册,但这些技术需要的设备较昂贵,应用流程相对复杂,不适合在临床大规模使用。

    1.2虚实结合(combination of virtual and reality)

    虚实结合的显示技术则是将虚拟世界与真实世界直观融合呈现的关键技术,这一技术主要通过显示设备实现。按其设备不同主要分为3种:头盔式显示器(head-mounted display,HMD)、移动设备和个人计算机(personal computer,PC)。其中HMD设备[如GoogleGlass(google,美国)、Hololens(Microsoft,美国)等]装备轻便,便于集成,透过显示镜片能直观地将虚拟世界与真实世界映射于眼前,并具备深度识别能力,使虚拟模型更富有层次感,其是目前研究的热点。

    1.3人机交互(human-machine interaction)

    人机交互技术能够实现虚拟模型的可控性,增强应用沉浸感。目前主要通过2种方式实现,即外接设备和手势操作。外接设备主要用于PC显示的AR,通过定义键盘、鼠标所对应的特定事件,当触发时即可显示事件结果,操作方便;此外还可搭载力反馈设备,用于技能训练等。手势操作多用于HMD显示的AR,通过镜头捕捉特定手势,实现预先设置的功能,操作简单,沉浸感较强。移动设备显示的AR则可直接通过屏幕交互。

    2.AR应用流程

    以基于人工标识的AR为例,其临床应用流程主要分为以下步骤:(1)患者佩戴人工标识进行影像检查,获取影像资料的DICOM数据;(2)将DICOM数据通过相关软件重建、加工,生成模型;(3)将模型进行坐标转换,确定其在真实世界中的坐标位置及其与标识的相对位置;(4)将转换坐标后的模型导入AR应用软件中;(5)完成场景布置后,使用摄像头识别患者佩戴的标识,完成注册,虚拟模型就会在显示装置上与真实场景一同显示。

    3.AR在口腔颌面外科中的应用

    3.1医学教育

    AR在口腔颌面外科中的应用首先体现在医学教育上。传统的医学教育尤其是解剖教学大多是基于理论教学与大体标本的解剖,而在实际教学中却存在大体标本资源不足、解剖教学时间短、多名学生需共用同一大体标本等问题,学生们有时需依靠理论知识与空间想象构建解剖生理结构层次,限制了解剖教学的效果及发展。而AR则能有效地解决这一问题。通过三维重建技术建立人体模型,利用AR直观动态地呈现其立体解剖结构,并将模型加以渲染后可以实现逼真的解剖模拟环境,能突破资源、时间及空间的限制,结合传统解剖医学教育,可收获更好的教育成果。

    Zafar等对88名医学生进行AR与传统方式相结合的头颈解剖教学,以问卷形式调查了他们对AR教学的效果评价,其中超过66.7%的学生认为AR教学对解剖学习有所助益,43.5%的学生认为AR使他们对解剖结构有了更好的认识,同时有36.5%的学生认为AR增强了他们对掌握解剖技能的信心。此外,AR还可用于操作或手术培训。

    通过“透视化”显示解剖结构,能更好地帮助操作者观察内在解剖标志,准确完成操作。有研究将AR用于下牙槽神经阻滞麻醉的模拟训练中,41名医学生被分为2组,对照组采用理论教学与模型训练的方法,研究组在对照组的基础上增加了每周2h的AR模拟训练,共持续4周时间。最终检验时研究组在进行下牙槽神经阻滞麻醉平均用时较对照组短,且成功率要高于对照组。Won等也将AR应用于下牙槽神经阻滞麻醉教学中,得出了同样的结论。除此之外,还有研究利用AR训练窝洞预备及牙体修复,都取得了良好的效果。

    3.2手术规划及导航

    手术规划及导航是AR在口腔颌面外科中的重要应用,自20世纪90年代AR初次被应用于医疗领域以来,其在辅助外科手术中的作用逐渐受到重视。由于颌面部解剖结构复杂,口腔颌面外科手术常需兼顾美观与功能,因此切口设计常采用微创切口,对术野有一定限制,同时口内操作空间小,要实现精确化的手术对口腔颌面外科医生而言是不小的挑战。而AR可以实时显示术区重要解剖结构或病变组织,精确定位,具有良好的手术指导作用,目前在口腔颌面外科中已有多个相关应用场景。

    Zhu等将AR应用于下颌角截骨术的规划中,利用咬合板固定人工标识作为注册方式,制定手术计划,设计虚拟截骨平面后运行AR软件,在下颌骨模型上加载虚拟模型,截骨平面就实时地显示在真实模型上,具有良好的指导作用,并将其成功转化为临床应用,获得了较高的精确度和良好的手术效果。

    Zhou等将AR与机器人辅助外科相结合,进行下颌角截骨术的动物实验研究,也获得了较好的精确性,并无严重并发症出现。还有研究将AR应用于半侧颜面短小畸形的治疗中,将其与常规方法进行对比发现,AR组下颌骨的截骨平面更为精确。Badiali等选择LefortⅠ型截骨术作为应用场景,设计好上颌骨复位位置后,通过AR在物理模型上实时显示虚拟复位结果,术者可通过观察虚拟复位结果完成上颌骨的精确复位。目前已有研究将AR应用于临床指导中,复位精确度可控制在1mm内。

    4.展望

    AR将虚拟世界与现实世界整合到一起,实现了现实世界的增强显示,直观且“透视化”地展示了目标对象的内在结构及预加载虚拟模型,与传统引导方式相比,无需繁杂、昂贵的设备,易于集成,操作流程简单,其实时跟踪注册技术确保了应用的精确性,使现代外科更接近精确化、个性化的目标,提高了手术安全性,具有较高的临床应用价值。但AR目前仍处于发展阶段,存在以下需改进之处。首先是注册技术。

    基于标识的注册技术简单方便,精确性也较好,但标识位置、尺寸等都会对技术精确度产生影响,不理想的标识位置还可能对手术产生干扰,当标识被遮挡时会导致应用失败;此外,标识在应用前后的空间位置不一致也会造成AR的精确度下降。无标识跟踪注册技术是目前研究的热点,通过检测、匹配目标区域内特征点实现注册,即使有部分遮挡时也可应用,Wang等开发出了基于天然牙列的无标识注册方法,其平均注册误差小于0.5mm,并且注册用时不超过0.5s。但无标识注册方法对光照的鲁棒性(robustness)差,算法结构复杂,且注册稳定性有待进一步提高,目前尚未在口腔颌面外科中开展应用。其次是深度信息的缺失。

    目前,多数应用所采用的摄像头都不具备深度感知能力,显示设备所呈现的图像是虚拟世界在某一方向上的二维投影,无法辨别虚拟对象之间的深度层次关系,因此可能会对临床应用产生干扰。而HMD具备深度感知能力,针对HMD的开发应用是目前主流研究方向。相较于其他设备,HMD集成了深度摄像头及半透明屏幕显示器,较PC+相机的组合更为方便,比移动设备沉浸感更强,具有非常好的应用前景。AR还存在虚拟世界与真实世界间差异过大的问题,二者并未有机融合,导致应用沉浸感较差。其主要包括3个难点:光学一致性、几何一致性和运动一致性。

    光学一致性指虚拟世界与真实世界间光照条件及光学效果的一致,如反射、散射、阴影等;几何一致性指虚拟模型遵从现实物理规则,如虚实间的遮挡;运动一致性指运动状态下虚拟模型与真实世界间的相对关系保持一致。要解决这些难点需通过不断改进算法及改良设备来实现。

    综上所述,目前AR在口腔颌面外科中的应用已取得初步成效,其实时、动态、三维可视化的特性为实现外科手术微创化、精确化、个性化的目标提供了强大助力,提高了手术安全性。具备深度信息的无标识注册AR是未来主要发展方向,技术装备向着轻量化、交互性强的方向发展。但AR依然存在提升空间,进一步改进后必然成为临床数字化技术中的热门应用。

编辑: 陆美凤

网友评论