CN / EN

定位系统在XR/虚拟拍摄中的应用

Source:
2023 Nov. 13



在21世纪初,随着计算机实时渲染技术的迅速发展,出现了绿幕前的现场实时交互预演技术。在实际拍摄过程中,现场实时将绿幕前的实拍元素与虚拟元素进行合成。然而,由于渲染质量和抠像质量有限,现场实时输出的画面一般仅作为拍摄参考,不作最终画面使用。最终的高质量的画面还得通过后期合成来实现。
近年来,随着技术的不断进步以及影视工业化的加速革新,出现了一种基于XR技术的新一代LED背景墙虚拟拍摄系统——XR/虚拟拍摄。



什么是XR/虚拟拍摄?

简单来说是一种利用虚拟现实和增强现实技术,在真实场景中构建出虚拟场景,并实现真实演员和虚拟角色的互动,以达到拍摄效果的创新拍摄方式。也被称为“扩展现实”(Extended Reality)技术。





↑ XR虚拟拍摄工作流



XR拍摄关键在于使用专用摄影机进行位置追踪,并结合背景屏幕进行实时渲染。通过将真实拍摄场景和虚拟背景进行融合,背景的“无限拓展”可以在屏幕上实现虚拟世界的全方位构建,使得影片的拍摄效果更加真实、丰富和自然。

XR/虚拟拍摄整套系统由合成-渲染服务器、定位服务器、摄像机追踪系统、摄像机、LED屏幕和同步系统等核心组件构成。其中,LED屏幕作为显示系统,能够在有限的空间内搭建出极致的沉浸式场景。




在实际拍摄过程中,我们看到的场景通常分为三个层次:背景、中景和前景。除了中景(实物部分),其余两个景别均由3D渲染引擎生成逼真的虚拟场景,这一点有别于传统的绿幕拍摄方式。在传统的绿幕拍摄中,实拍元素和虚拟元素都是在绿幕前进行拍摄的。而现在,通过XR/虚拟拍摄技术,我们可以用虚拟场景来替代这些元素,从而在有限的拍摄空间内创造出无限的可能性。



XR/虚拟拍摄已逐渐成为数字娱乐领域从业者首选的高效创作工具

XR/虚拟拍摄技术对影视娱乐领域的影响革命性且深远,已经成为电影和电视制作中不可或缺的一部分。相较于传统的绿幕拍摄,其最明显的优势在于大幅度减少了对人工干预和后期制作的需求。通过自动化和智能化的技术,XR/虚拟拍摄技术不仅可以显著降低制作成本,还能提高拍摄效率和质量。它让创作者们能够轻松创造出逼真的场景和特效,从而极大地提升了观众的观影体验。总的来说,XR/虚拟拍摄技术是影视娱乐领域创作者们必备的高效创作工具,有助于他们更轻松地创作出优质作品。




△ 青瞳视觉为遥望科技搭建“超大XR数字影棚”,为创作者们带来所见即所得的拍摄创作环境



在实际的XR/虚拟拍摄工作流程中,摄像机的定位是至关重要的环节。如果摄像机定位不准确,会导致LED屏幕墙与屏幕前的实物(即演员和道具等)出现错位现象,从而严重影响最终画面的质量。




动作捕捉技术在XR/虚拟拍摄中起到摄像机定位追踪的核心作用

作为XR/虚拟拍摄的关键技术之一,动作捕捉系统可通过跟踪并记录摄像机在空间中的运动,将其与虚拟背景进行同步,以确保虚拟场景与真实摄像机位置的精确匹配。此外,动作捕捉技术还可以用于实时跟踪演员和道具的运动,并将其映射到虚拟世界中,从而实现真实与虚拟之间的无缝融合。

从追踪方式的角度来看,追踪定位系统可分为由内向外的跟踪(Inside-Out)和由外向内的跟踪(Outside-In)两大类。




  1. 由内向外的跟踪

位置传感器放置在被追踪物体内部,最常用的由内向外的跟踪传感器包括摄像头、红外(IR)激光器和惯性测量单元(IMU)。一般来说,其通过识别周围环境的变化来确定自身的位置和姿态。打个比方,我们人类在任何环境下,需要确定自身的所在的位置,进而来判断下一步是前进、后退还是转圈,那么这种定位方式就类似于需要我们使用肉眼不断识别周边的环境从而确认自己的位置。这种定位方式会比较直接且干脆,但同时会容易受到外界的一些限制,就像是我们突然处于一个完全陌生的环境中会一时间产生错乱并且迷失自我方向,比如宿醉后在一个陌生的屋子里醒来,或者一个小船在一个周边没有任何大船和航标等参照物的大海中心,一时间会丧失掉对自身位置的感知和判断。


放在XR/虚拟拍摄的追踪定位中就可以这么理解:对于外界环境的跳跃性变化,通过这样由内向外的追踪方式便无法借助自身来做自我定位,从而失去原本的追踪功能,在实际技术操作过程中,就需要进行重新校对位置数据,会直接导致大量的时间和人力成本的浪费,使拍摄团队的整体工作效率变低。



  1. 由外向内的跟踪

位置传感器放置在被追踪物体外部,一般处于固定位置并面向被追踪物体。本质上我们是通过确定被追踪物体同传感器的相对关系来计算被追踪物体的位姿信息。例如,我们所熟知的卫星定位技术就是Outside-In追踪,通过多颗卫星对被追踪物体进行三角测量从而得到其位置信息。最直观的解释就是:无论我们对周围环境是否熟悉,在迷路时我们都可以用手机或汽车等工具打开地图软件便可以迅速确认自己的方位。简单来说,在实际应用中,这种由外向内的追踪定位方式相较于由内向外的定位方式最大的区别是:只要被捕捉的对象在范围内,就可以被精准定位精确位置信息。






当然,需要注意的是,使用光学动作捕捉技术时,由于对场地自然光控制非常重要。如果自然光过于强烈,可能会影响捕捉效果。此外,实施性可能受到一定限制。


为了解决这些问题,可以使用主动式红外光学方案。其优势在于能够捕捉距离较远的目标、稳定性好且抗抖动能力强。因此,在XR定位中采用主动式发光方案,可以提高摄像机的捕捉距离,使动作捕捉不仅可以在室内环境下进行,还可以在室外强自然光环境下进行。


通过采用Outside-In定位方式,最大的特点在于不受摄像机运动轨迹限制,广泛应用于XR/VP/绿箱等虚拟拍摄环境中。也可通过一套设备同时精准确定多个摄像机的位置,在同一动捕棚内实现同时捕捉摄像机、真人演员、道具和穿动捕服演员的全身动作,实时展现真人与数字人的互动,从而实现拍摄效果与预期的一致,节省拍摄空间和缩短后期制作时间,并降低后期制作成本。



△ 青瞳视觉为电影《长空之王》提供XR/虚拟拍摄系统支持&服务



在电影《长空之王》中,XR/虚拟拍摄技术得到了充分应用。青瞳视觉凭借自主研发的光学动作捕捉系统,实现了高精度、低延迟、多机位追踪等技术特色。通过采用Outside-In定位方式追踪一台或多台摄影机的运动,精确定位相机位置与演员动作,并将其与特效完美结合。经过制作团队的共同努力,逼真的飞行场景得以还原,为演员提供了身临其境的拍摄环境。通过借助XR/虚拟拍摄这一项创新技术,帮助《长空之王》主创团队攻克了影像的空间感、透视感、运动感等呈现难点,最终为观众呈现了极具震撼力的视觉效果。


由于光学系统的分辨率极限,以及在实际XR拍摄过程中经常遇到摄像机被遮挡或无法被有效捕捉的问题,还有会存在光学相机视图中的标记点抖动的问题。为了解决这些问题,我们可以采用光学-惯性混合算法,通过在摄像机中内置惯性传感器,实现软件中对光学定位数据和惯性定位数据的同步,并且将这两种数据进行有效的融合,平滑定位曲线,从而显著优化XR拍摄效果。

这些算法可以利用光学系统自带软件的数据处理和解算功能来实现,运用同步系统将光学动捕相机和其他XR系统设备的数据以不同设备的输出信号进行同步,再通过Aximmetry、Pixotope、Disguise和hecoos等市面上的主流第三方软件做进一步处理,最终为我们呈现出高质量的作品。



XR/虚拟拍摄在数字娱乐领域应用场景极其广泛

运用XR/虚拟拍摄技术的优势,包括节省人力和时间成本、丰富创作空间、提高拍摄制作效率以及画面实时可视化等,使得这一技术在电影、电视剧、游戏等领域得到了广泛应用。此外,它也成为了数字娱乐产业的一个重要发展方向,在影视拍摄制作、广告拍摄、产品发布会、舞台综艺、艺术展览、虚拟演唱会、直播等具体场景中,XR/虚拟拍摄技术为受众带来了高质量、逼真的视觉内容呈现,通过该技术,受众能够获得更加丰富多样的视觉体验,并产生身临其境的感觉。


△ 青瞳视觉为央视《中国骄傲》录制提供XR/虚拟拍摄支持



△ 青瞳视觉为时光坐标等合作创作者们提供XR/虚拟拍摄技术支持




XR/虚拟拍摄已开启全新创作领域,为影视娱乐行业带来震撼的视听盛宴!青瞳视觉专注于光学动作捕捉全流程解决方案和XR/虚拟拍摄产品服务,力求打造最专业、最顶尖的视觉效果。凭借丰富的经验和独特的技术,为创作者们打造实时、精准、沉浸式的视觉效果,让影视娱乐创作超越想象,实现无限可能!