增强现实:原理与实践

本书基于作者20余年的AR理论和应用的研究,从技术和HCI的角度介绍AR。 本书内容涵盖AR的理论知识和相关案例，主要内容包括显示和跟踪技术、标定与注册技术、视觉一致性、交互、建模、开发、AR软件架构，既有AR发展历史的详细介绍，又有对AR技术脉络的梳理与展示，适合作为高校增强现实相关课程的教材，以及增强现实研究者、技术人员的参考书。

迪特尔·施马尔斯蒂格（Dieter Schmalstieg） 奥地利格拉茨理工大学教授，计算机图形学和视觉中心主任。他是IEEE不错会员、奥地利科学院会员以及欧洲科学院会员，目前已发表论文300余篇，并担任《IEEE可视化和计算机图形学会刊》等核心期刊或论文集的编辑。2002年获得奥地利科学基金会START Career奖，2012年获得IEEE虚拟现实技术成就奖。托比亚斯·霍勒尔（Tobias Höllerer） 加州大学圣芭芭拉分校计算机科学系教授，Four Eyes实验室主任。曾获得美国NSF授予的CAREER奖，并于2013年获得ACM杰出科学家称号。他曾担任IEEE VR 2015、ICAT 2013等重要靠前会议的程序委员会主席，并多次荣获*佳论文奖。

出版者的话前言致谢章  增强现实介绍11.1  定义和范围11.2  增强现实简史21.3  示例81.3.1  工业和建筑业81.3.2  维修和培训101.3.3  医疗111.3.4  个人信息显示121.3.5  导航131.3.6  电视141.3.7  广告和商务151.3.8  游戏171.4  相关领域171.4.1  混合现实连续体181.4.2  虚拟现实181.4.3  普适计算181.5  小结20第2章  显示212.1  多模态呈现212.1.1  听觉呈现212.1.2  触力觉呈现222.1.3  嗅觉和味觉呈现232.2  视觉感知242.3  需求与特点252.3.1  增强方法252.3.2  单视和体视272.3.3  调焦282.3.4  遮挡302.3.5  分辨率和刷新率312.3.6  视场322.3.7  视点偏移332.3.8  亮度和对比度352.3.9  扭曲和畸变362.3.10  延迟362.3.11  人因工程学362.3.12  社会接受度362.4  空间显示模型372.5  视觉显示382.5.1  近眼显示器392.5.2  手持式显示器462.5.3  固定式显示器472.5.4  投影式显示器522.6  小结56第3章  跟踪573.1  跟踪、标定和注册573.2  坐标系583.2.1  模型变换593.2.2  视图变换593.2.3  投影变换593.2.4  参考帧593.3  跟踪技术的特点603.3.1  物理现象603.3.2  测量原理603.3.3  测量的几何属性613.3.4  传感器布置613.3.5  信号源613.3.6  自由度623.3.7  测量坐标623.3.8  空间传感器布置623.3.9  工作区范围633.3.10  测量误差633.3.11  时间特性643.4  固定跟踪系统643.4.1  机械跟踪643.4.2  电磁跟踪653.4.3  超声波跟踪663.5  移动传感器663.5.1  全球定位系统673.5.2  无线网络683.5.3  磁力仪683.5.4  陀螺仪693.5.5  线性加速度计693.5.6  里程表703.6  光学跟踪703.6.1  基于模型跟踪与无模型跟踪713.6.2  照明713.6.3  标志点与自然特征733.6.4  目标识别773.7  传感器融合793.7.1  互补传感器融合793.7.2  竞争传感器融合793.7.3  协作传感器融合803.8  小结81第4章  增强现实中的计算机视觉824.1  标志点跟踪834.1.1  摄像机表示844.1.2  标志点检测854.1.3  单应位姿估计874.1.4  位姿优化904.2  多摄像机红外跟踪904.2.1  斑块检测914.2.2  建立点对应关系914.2.3  双摄像机的三角测量924.2.4  两台以上摄像机的三角测量934.2.5  包含球体标志物的目标匹配934.2.6  绝对朝向944.3  自然特征检测跟踪944.3.1  兴趣点检测954.3.2  创建描述符984.3.3  匹配描述符994.3.4  n点透视位姿994.3.5  鲁棒的位姿估计1004.4  增量跟踪1014.4.1  主动搜索1024.4.2  Kanade-Lucas-Tomasi跟踪1024.4.3  零归一化交叉相关1034.4.4  分层搜索1044.4.5  联合检测与跟踪1054.5  同时定位与地图构建1064.5.1  本质矩阵的五点算法1074.5.2  集束调整1084.5.3  并行跟踪与地图构建1084.5.4  重定位与闭环1094.5.5  稠密地图构建1104.6  户外跟踪1124.6.1  可扩展的视觉匹配1134.6.2  传感器先验信息1144.6.3  几何先验信息1154.6.4  同时跟踪、地图构建及定位1164.7  小结120第5章  标定与注册1215.1  摄像机标定1215.1.1  摄像机内参1215.1.2  校正镜头畸变1225.2  显示器标定1235.2.1  单点主动对准法1255.2.2  使用指向装置的头戴式显示器标定1265.2.3  手–眼标定1275.3  注册1295.3.1  几何测量失真1295.3.2  误差传播1295.3.3  延迟1305.3.4  滤波和预测1305.4  小结131第6章  视觉一致性1326.1  注册1326.2  遮挡1346.2.1  遮挡细化1356.2.2  概率遮挡1366.2.3  无模型遮挡1366.3  光度注册1386.3.1  基于图像的光照1396.3.2  光探针1406.3.3  离线光照采集1426.3.4  基于静止图像的光度注册1426.3.5  基于镜面反射的光度注册1426.3.6  基于漫反射的光度注册1436.3.7  基于阴影的光度注册 1446.3.8  室外光度注册 1456.3.9  重建精确光源1456.4  通用光照1456.4.1  差分渲染1466.4.2  实时全局光照1476.4.3  阴影1486.4.4  漫射全局光照 1506.4.5  镜面全局光照1526.5  消隐现实1536.5.1  感兴趣区域的确定1536.5.2  隐藏区域的观察与建模1546.5.3  感兴趣区域的移除1546.5.4  基于投影的消隐现实1556.6  摄像机仿真1556.6.1  镜头畸变1566.6.2  模糊1576.6.3  噪声1576.6.4  渐晕1586.6.5  色差1586.6.6  拜耳模式伪影 1586.6.7  色调映射伪影1586.7  风格化增强现实1596.8  小结159第7章  情境可视化1617.1  挑战1627.1.1  数据过载1627.1.2  用户交互1637.1.3  注册误差1637.1.4  视觉干扰1637.1.5  时间一致性1647.2  可视化注册1657.2.1  本地注册情境可视化1657.2.2  全局注册情境可视化1657.2.3  注册不确定性1667.3  注释和标记1667.3.1  标记基础1667.3.2  优化技术1677.3.3  时间一致性1687.3.4  图像导引放置1707.3.5  易读性1707.4  X射线可视化1717.4.1

在过去的20年里，信息技术的应用从固定的办公室和桌面计算转移到网络、社交媒体和移动计算。近年来，即使将笔记本电脑归入桌面式电脑的类别，智能手机和平板电脑的销量也远超传统桌面式电脑。虽然目前主流用户界面还没有完全从20世纪90年代的桌面计算（或者说是1981 Xerox Star）中脱离出来，但是当今年轻一代获取计算机知识的方式已经改变：各种应用和云计算在许多情况下取代了电脑桌面。计算已经从一项在办公室或书房中开展的工作转变为随时随地进行的活动。初识增强现实随着用户逐渐远离电脑桌面，将真实世界融入我们的计算体验变得越来越重要。考虑到真实世界既不是平面的，也不是由书写文档组成的，因此必须有一个新的用户界面隐喻。增强现实（Augmented Reality，AR）有潜力成为用于情境计算的主流用户界面隐喻。增强现实具有能将真实世界和与之相关的虚拟信息直接关联的独特性质。整个世界变成了用户界面，这引出了那句熟悉的宣言：回到真实世界！虚拟现实（Virtual Reality，VR）的愿景是将我们自身沉浸于人造世界，这推动了游戏设备的发展，带来了令人惊艳的画面效果，随之而来的是各类头戴式显示器和手势跟踪器的出现。但即便如此，像虚拟现实这样通过定义来独占大众注意力的用户界面隐喻，也不一定是日常计算的最佳选择。相反，我们越来越依赖可以随意使用并能提供容易理解的少量信息的计算界面。我们需要普适计算。这可以通过“宁静”的计算过程实现，这一过程会在后台进行，不需要用户干涉，甚至根本不会引起用户的注意。在需要普适交互时，增强现实脱颖而出，成为合适的用户界面技术。为何写作本书多个相互交叉的研究领域聚焦于增强现实的发展，相关的知识体系也在快速完善。自20世纪90年代以来，我们一直以研究者的身份致力于该知识体系的相关工作。本书的主要动力来自我们所任教的格拉茨理工大学和加州大学圣巴巴拉分校关于增强现实的课堂教学。在备课过程中，我们明显感到目前没有一本教材能够覆盖这个快速发展领域的广度和深度。从2001年的SIGGRAPH会议开始，各种学术会议及研讨会的部分演讲稿都为备课提供了参考，我们也参与组织了其中的一些会议。许多基础理论从那时起逐渐构建起来，我们着眼于系统地汇集相关知识，同时注重新兴概念与实践信息。因此，这本书诞生了。本书主要内容如书名所示，本书在原理和实践之间力求平衡。我们的目标是让这本书既能服务于科学研究人员，又能服务于对增强现实应用感兴趣的从业者，特别是工程师。因此，本书既可用作教材，又可用作参考读物。为了充分利用本书，读者需要对计算机科学有基本认识，如果能够了解计算机图形学以及计算机视觉领域的相关知识，或者对其感兴趣，会对理解本书有所帮助。考虑到篇幅的限制，我们无法进一步提供必要背景技术的特定细节，而是给出了参考文献。与此同时，本书谨慎地介绍并清楚地解释了超出基础知识的特定增强现实概念，从而使本书自成体系。本书采用下面的篇章顺序来介绍增强现实的技术和基本方法。章为本书奠定基调，介绍增强现实的定义，简略讲述该领域的历史，之后带领读者领略这项强大的真实世界用户界面技术的多种应用实例。小结部分介绍了一系列相关技术和研究领域的全景。第2章的主题是显示技术，这是增强现实的关键基础技术之一。根据视觉感知的基础理论，讨论了各种适用于增强现实的显示技术，尤其是头戴式显示、手持式显示和投影式显示。我们还讨论了非视觉显示技术，如听觉和触觉设备等。第3章的主题是跟踪技术，这是增强现实的潜在核心技术之一。首先讨论了理解跟踪（广义的定义是测量系统）的工作原理所需要掌握的特定知识，然后讨论了传统的固定跟踪系统，并将其与移动传感器进行比较。接下来，着重介绍了主流的光学跟踪技术，并在最后简述了传感器融合的原理。第4章继续上一章中对光学跟踪问题的讨论，详细介绍了用于实时位姿估计的计算机视觉算法，例如根据观测图像确定摄像机的位置与朝向。为了便于讲解并使读者更广泛地了解背景知识，这一章由一系列案例研究组成。每一个案例研究仅介绍自身必需的相关知识，所以读者不需要事先深入了解计算机视觉方面的知识。此外，本书对涉及高等数学的问题做了标记，这些问题在实践中通常依赖OpenCV等软件库来解决，因此可以被视为“黑箱”，不想深入研究的读者可略过这部分内容。第5章讨论用于增强现实的器件标定和注册方法。在增强现实应用中，第3章所述的用于光学跟踪的数字摄像机标定技术是实现可重复精确操作的必要前提。注册是几何上校准增强现实体验中的真实世界和虚拟世界的过程，从而有利于形成一致混合环境的错觉。第6章聚焦于使真实和虚拟物体无缝融合的一系列计算机图形技术，包括虚拟和真实物体之间正确的遮挡或阴影关系。我们也解释了消隐现实，即消隐场景中的真实物体，并讨论了物理摄像机的仿真。第7章关注可视化技术，目的是使信息更容易理解。在增强现实环境中，这意味着几何注册到真实场景物体上的计算机生成信息，必须按照便于用户理解的方式摆放和设计。我们同时探讨了二维增强（如文本标签）和