在VR场景中,眼动追踪技术可以快速精确的测量用户注视的方向,其常常与注视点渲染技术相关联,用以降低VR对硬件性能的消耗。虽然这两项技术相得益彰,但眼动追踪还能在VR中发挥更多的应用。
多年来眼动追踪技术,一直被认为是一项遥不可及的技术,但从目前整个行业发展进展来看,它在精度、延迟、健壮性和成本方面都取得了快速的发展,开发者正在得到越来越多的硬件支持。
目前,像Tobii这样的眼球追踪方案提供商已经推出多款眼球追踪设备,高通的VRDK开发者头显也加入了Tobii的解决方案,七鑫易维已在出货适用于Vive头显的aGlass眼动追踪开发套件,Oculus近期则展示了一款眼动追踪VR原型机,甚至连苹果公司也参与其中,之前报道其已收购知名眼球追踪领域公司SMI,并已经计划实施该技术相关的专利。
凭借这一势头,我们应该能在短短几年时间内看到眼动跟踪成为消费级者VR头显的标准组成部分。
注视点渲染(或称中心凹形渲染)
注视点渲染技术的诞生旨在降低渲染VR场景所需的GPU计算能力。其英文名Foveated rendering源自‘fovea’一词,它是人类视网膜中心的一个小窝(视网膜中央窝),里面密集的排布着光感细胞,为我们的视野中心提供高分辨率的视觉。与此同时,我们的视野四周其实非常不善于捕捉细节和颜色,而是更适合观测运动。
在人类视觉中高分辨率的区域其实非常小,只有视野中心几度的范围。视网膜的中央窝和其他部分的分辨能力差异非常大,如果视网膜中央窝,你连书上的文字都看不清。人们一直以来都高估了自己视觉能力,其原因是大脑做了大量的无意识处理。
注视点渲染的目的便是利用我们视觉上的这一特性,将高分辨率的虚拟场景呈现在视网膜中央窝所看到的区域中,而在周边视野中则可以大大降低场景的细节。这样能将大部分性能集中在最有用的细节上,同时节省了其他地方的资源消耗。
当然,这需要眼动追踪的配合,我们需要快速准确的识别用户的注视中心,才能以此为基础运用注视点渲染技术。
自动用户检测和调节
除了检测眼球运动之外,眼动追踪还可以用作生物识别标识符。当不同的人戴上VR头显时,系统可以立即识别出不同的身份,并调用各自的自定义环境、内容库、游戏进度和设置。
眼动追踪也可用于精确测量IPD,即瞳距。许多人都不知道瞳距是什么,其实瞳距在VR中很重要,因为VR头显需要将透镜和显示屏移动到合适的位置,才能提供最佳的显示效果。
利用眼动追踪可以实时测量每个用户的瞳距,然后通过头显的软件系统自动调整透镜位置,或是警告用户他们的IPD超出了硬件支持的范围。
变焦显示
如今VR头显中所使用的光学系统实际上依然相当简单,它们不支持人类视觉中的一项重要功能:动态聚焦。VR头显中的显示屏始终与我们的眼睛距离相同,即使在立体视觉深度不同时也是如此,这导致了一个称为聚散度调节冲突的问题。
针对这一问题,人们提出了一种可以动态改变焦距的变焦显示技术。改变显示焦距的方法有很多,其中最简单是通过移动透镜位置以改变焦点深度。
实现这种变焦显示同样需要眼动追踪,通过追踪用户视线在虚拟场景中的路径,系统可以计算出焦平面,然后将该信息发送到显示器以相应地进行调整,设定焦距以匹配从用户的眼睛到目标的虚拟距离。
有效应用的变焦显示技术可以解决聚散度调节冲突,而在将变焦显示应用到VR头显之前,眼动追踪也可以用于模拟景深,使焦平面外的物体呈现为模糊的状态。
中央凹形显示
虽然注视点渲染技术可以为不同视觉区域分配渲染资源,但类似的效果也可以通过改变像素的物理排布来实现。与其只在显示屏的某些部分改变渲染细节,不如只提高用户视野中心区域的像素密度。
此前VR头显一直处于暴力提升分辨率的过程中,这样不仅代价高昂,而且会随着屏幕像素数量接近视网膜分辨率而遇到挑战。而中央凹形显示技术会根据眼动追踪数据,将一块小型的高分辨率显示屏移动到用户正在注视的位置,可以在不暴力扩充全视野分辨率的情况下,让VR头显实现更高的显示分辨率,甚至可能创造比用单个显示屏更大的视野。
Varjo是一家致力于开发中央凹形显示系统的公司,他们在一块大尺寸普通显示屏前,放置了一块小尺寸高分辨率显示屏,这意味着用户既可以拥有广阔的视野,又能在中央区域获得高清晰的图像。
Varjo目前的原型机尚不能移动中央的小尺寸显示屏,但该公司表示已研究出一些其他方法,确保高分辨率区域一直处于用户的视线中心位置。
更真实的虚拟形象
目前在很多社交软件中,虚拟形象的设定都是不够形象的,虽然有些支持丰富的人物设定,以及个性化的自定义选项,但依然不够理想。尤其是虚拟人物在头部的灵活性,以及肢体动作方面。
头像方面,虽然很多虚拟形象支持眨眼、注视和一拟人化的动作,但都是程序提前设定好的。正因为此,这种不够真实的虚拟形象拉远了人们在VR社交中的距离。
而在真实世界的人际交谈对话中,注视对方被是为有礼貌且必要的行为,眼睛起到了至关重要的作用。在VR中也是一样,把眼球追踪技术应用到VR头像中,就能够在虚拟形象中,实时反映出你真实的状态。
这样一来,包括眨眼、翻白眼、眼球转动等动作都能体现在VR中,甚至从眼睛中也能判断出部分情绪,例如高兴、惊喜、难过等,都会反映在虚拟化身的脸上。
深层次交互和意图分析
实际上,眼球追踪也可以通过收集玩家的注视点来分析玩家的意图,甚至也能够把互动融入进来。。例如,在一款恐怖的游戏中,当你注视前方那扇门的门把手时,门会自动打开或有产生其它交互动作,类似的例子还有很多。
我们知道,现阶段的VR游戏基本上都是通过手柄来交互,通常的情况是当走进下一个区域内(通常是门、过道、转向等关卡)时,下一个交互就会自然出现,例如到了某个地方僵尸自动跳出来等。
而在游戏或应用中加入眼球追踪的交互,可以让体验更自然。甚至,在恐怖游戏中,我们还可以只对注视方向进行高亮显示,其它区域为暗色,以此来提升视觉沉浸感。
Tobii作为眼球追踪硬件和软件解决方案提供商,他告诉我们,眼球追踪还能帮助玩家在游戏中更好的控制虚拟环境的物体。在一个VR游戏案例中,通过传统手柄去投掷物体可能会和你想像的在真实环境中不同,可能跌落的很快,或者可能抛出的很高,总之不是你想要抛出去的位置。
在上面的演示中,左侧的灰白色球为未使用眼球追踪的轨迹,而右侧的红色的球是通过手柄配合眼球追踪的轨迹,可以明显看出后者能够准确的抛向游戏内制定的交互点。实际上,这是基于你抛球时注视的位置系统自动寻找落点,手柄抛出的动作无需瞄准(毕竟在VR中这种体验不友好),这样就可以大幅提升VR中投掷类游戏的体验。
除此之外,眼球追踪还能应用在分析层面。通过收集玩家们在游戏中关注或注意最多的点,从而形成热力图,开发人员可以通过热力图中来更好的了解应用使用情况。
那么,这些热图能干些什么呢?以游戏为例,它可以很好的帮助开发者们了解玩家是否发现游戏内的交互,注意力是否被其它非环境因素打扰,以及玩家们注意力都在哪,以此来改善游戏的交互。
灵活的操控和输入
眼球追踪对于主动输入也起到帮助,它能够让玩家们通过眼球注视点来快速完成操作。例如,在VR中有着较大的视野,但很多UI界面并不友好,往往还是按照传统游戏界面开发的。
例如图标平铺设计,从左上角到另一个方向需要大幅晃动手柄或手柄多次按键才行。而如果加入眼球追踪,可以直接通过眼睛注视点快速移动预选框,然后按一次手柄即可完成,大大减少操作步骤,比VR手柄中的虚拟激光柱更为直接。
医疗保健以及医疗研究
没想到的是,眼球追踪在医疗保健和医疗研究领域也有所帮助。实际上,SyncThink等公司已经开始通过眼球追踪功能的VR头显来检测脑震荡,以此来提高现场诊断的效率。
医疗研究领域的人员能够通过眼球追踪装置来收集数据,比如了解眼神接触对于自闭症的影响,用眼球追踪的头戴设备观察钢琴演奏家在弹钢琴时注视的哪些区域等。
综上所述,眼球追踪是一项潜力巨大、且有望改变VR游戏交互的重要技术。可以预见的是,今后将有越来越多的VR头显将支持眼球追踪功能。最终,所有VR头显均有望将配备此功能。
来源:青亭网