VR为用户创造了一个完全封闭的沉浸式交互3D空间。能够打破这种“与世隔绝”的限制,让虚拟世界与现实世界相融,并提供新的观看和交互方式的MR展现出巨大的潜能。
一键切换沉浸观影模式(图源:苹果)
(资料图片)
从苹果Vision Pro目前展示的体验内容和场景来看,首先从原有内容生态移植的作品将是最早一批,而后随着开发者对于苹果开发工具以及产品的研究愈发深入,基于其核心眼动+手势交互以及3D空间计算特性的内容将作为第二批开始涌现。
而无论是未来第一批还是第二批内容,由苹果Vision Pro超高性能配置所引发的MR浪潮,3D高画质的内容都将成为其中最为核心的一类。
6月的苹果全球开发者大会结束后,人们的注意力转向了苹果Vision Pro以及XR产业链相关公司,市场对MR的关注度持续提高。苹果针对该平台重新设计了系统、芯片、光学、交互、平台以及开发工具,最终形成了一套完整的产品生态。双4K Micro OLED屏幕、M2+R1双处理器、高精度传感器、12个摄像头,结合苹果的生态系统,Vision Pro每一项参数都朝着“顶配”的方向设计。
而苹果推出如此高规格的产品,则与其本身的定位有关,苹果将MR头显视为用于可满足娱乐、日常活动、办公场景以及提升生产力的工具。如此一来,硬件参数的提升对内容的质量也有了更高的要求,不仅是清晰度、流畅度、稳定性,还有强调沉浸度的交互感。
Quest Store(图源:Meta)
一直以来,大部分的VR设备重点都聚焦在全沉浸的VR上,而自去年开始,陆续发布的VR终端开始结合VST功能,在VR的基础上拓展虚实融合的MR场景成为了所有终端厂商不谋而合的一致目标,而苹果更是将VST的透视效果拉到了天花板级别,让体验达到与OST(基于光学的透视效果)方案足以匹敌的水平。
VST是实现MR融合的技术形式之一,起初用于解决VR安全问题,用来完成定位并设置安全边界,而后其功能逐渐扩展,进一步融合Lidar、空间映射、空间锚点、场景理解等AR功能。
随着光学技术的进步,未来会有更丰富的视觉呈现形式应用于人们的工作生活和娱乐体验中,MR融合已是大势所趋。
尽管MR带来了新的操作体验,但市面上完成度高的应用并不多,大部分MR项目仍处于Demo阶段。究其原因,首先搭载VST的设备上市时间较短,通常应用开发时间短则数月,多则数年,开发者接触的时间并不算长,而且,大部分开发者的核心场景仍围绕VR为主。而且,之前大部分终端VST效果有限,通过1600万像素摄像头所捕捉的现实世界画面效果稍显粗糙,畸变、延迟、SLAM稳定性仍需要提升。MR主打“与现实空间实时交互”的功能,更不用提很多设备连空间定位功能都不具备,可实现的交互能力也参差不齐。
此外,MR对硬件侧实时渲染有很高的要求,由于所有资源均为3D,计算量远远大于2D内容,如果要渲染高分辨率的画面,对于计算性能以及带宽的传输都是一大难点。
XR硬件参差不齐,大部分硬件算力又十分有限。如何降低各类成本,降低高品质内容与硬件设备的性能之间的强关联属性?云技术或许有望成为MR时代改写规则、解决成本和算力问题的有效解决方案。
作为蔚领时代探索MR世界的第一步,其《春草传·木禾危机》虽然目前尚未完全MR化,但这一部影视级画面表达的沉浸式3D交互作品,还融合了云、AI、数字人等核心技术,或许作为第一批高画质移植类作品中验证技术融合价值的有力参考。
7月26日,蔚领时代在上海浦东举办以“聚势·破界”为主题的发布会。会上,其展示了集游戏、云渲染、AI(AIGC)的影视级沉浸式3D交互作品《春草传·木禾危机》。
《春草传·木禾危机》是《春草传》的续作,第一部作品也以“电影级云原生”为核心标签,一经发出就积累了非常高的人气。如他们在B站发布的《春草传》技术演示视频播放量已经超过百万。同时主角“春草”更是凭借高精度的动作和细腻的表情,以数字人演员身份正式出道,进一步深化作品IP价值。
图源:B站截图
《春草传·木禾危机》作为续作,在前作的基础上融合了非常多前沿技术的探索。相比第一部《春草传》,现场蔚领时代使用Meta Quest Pro、Goovis以及裸眼3D屏幕和传统TV四种形式来展示了第二部的体验,虽然并没有使用大家所理解的MR空间交互,但在VR/MR终端中,所呈现出来的3D和巨幕震撼效果,要远超2D电视和裸眼3D桌面显示效果。在蔚领时代看来,这是其迈向MR的第一步,未来还将探索更深更沉浸的空间交互体验。《春草传·木禾危机》巧妙地融合影视和游戏,既具备观赏故事性,同时也保留了一定的可玩性和交互性。
《春草传·木禾危机》将以“连续剧”的形式分集推出,完整地讲述一个故事,同时让用户参与到故事的推进中,这不仅大幅缩短了游戏从立项到上线的时间,同时通过分集推出的形式,也改变了传统游戏的商业模式,可以让用户以订阅的形式“追剧”。
让人印象深刻的是作品堪称“电影级”的画面效果,据了解该游戏地图由复杂精细的船体和山体大规模堆叠而成,作品包体光模型就已经达到了40GB。
成本是开发者重点关注的因素,据蔚领时代创始人兼董事长郭建君介绍:“《春草传》每一分钟的成本接近130万,我们做了7个月。而《春草传·木禾危机》每分钟的成本从130万降到30多万,我们的制作时间仅4个月。明年的时间我们要把制作成本从30多万变成10万~15万每分钟,如果有大量的团队实现高效的生产力,我相信能够实现蔚领第二曲线的生产目标。”
虽然在体验媒介和开发的部分,融入了诸多新技术,不过与前作一样的是,《春草传·木禾危机》依然保留了云原生的属性。在2D平面终端上实现云原生,与在以3D为核心的MR终端上实现,其数据量的差异可想而知,更不用说未来的MR终端即将要向双眼8K的标准迈进,对于作品画面表现的要求只会越来越高,而渲染的压力也是指数级提升。
图源:蔚领时代
过去的游戏开发和影视制作的路径是完全不同的,无论是资产容量还是内容质量,制作一款游戏都不需要大规模分工。而《春草传·木禾危机》作为蔚领时代集云渲染、云原生、AI等技术的大成者,相比传统开发大幅实现了降本增效。
云游戏与本地游戏的一大区别就在于算力差异,将渲染算力从手机侧转移到服务端侧,算力将大幅提升,云游戏的画面相比仅在手机端渲染有明显的画质提升。
然而不少MR内容难以落地的原因在于MR设备所附带的算力始终有限,当下的目标是解决算力和传输的问题。
通过蔚领时代基于深度神经网络构建的“端侧实时超分”技术,可以解决MR项目难以落地的问题,降低端侧要求的同时使用一部分空闲的端侧算力来实现云游戏的效果。
《春草传·木禾危机》画面分辨率要达到4K以上,在MR侧平铺显示时才会有清晰震撼的视觉效果。而码率的不足对于画面的质量也会产生巨大影响,导致画面不清晰或画面延时。端侧实时超分能有效解决这一问题,通过在服务端运行1080P渲染,端侧本地超分提升至4K画质,就可以在当前传输条件下,在MR平铺效果中实现更清晰的画质。同时,还能将云端的渲染从4K降低至1080P,有效节省计算资源。
图源:蔚领时代
云游戏的端侧实时超分相比主流短视频端侧超分,计算量和IO基本上都是短视频应用的4倍。为了让超分技术落到实处,蔚领时代将技术核心聚焦到了近段时间风头正盛的AI。
AI技术在优化3D资产方面有着举足轻重的作用。蔚领时代AI Lab团队利用AI在性能方面进行深度优化:
首先,通过量化、剪枝、重参数化等方式,极致压缩模型大小,增强模型学习和表达能力;其次,通过算子定制优化方式,在神经网络推理侧实现更高的层间并行度;最后,通过在CPU/GPU/NPU(AI芯片)中针对不同模块选择最合适的计算单元,实现最底层的内存共享,避免操作冗繁,给用户带来更好的娱乐体验。
蔚领时代还攻关了“多GPU协同渲染”核心技术课题。据了解蔚领时代旗下业务部门“硅基大陆”主要研究GPU服务器,搭载我们自身云渲染技术,可为更多行业提供充裕的硬件和软件支持。
搭建云端GaaS能力,不仅在游戏领域有着重要作用,在各行各业都有着非常大的需求。
蔚领时代认为,云端GaaS能力的建设,有可能会成为未来MR虚拟时代需要匹配的基础基建和算力基座。而基于已有能力展示MR内容的创新,也是蔚领时代重点打磨《春草传·木禾危机》的原因之一。
图源:蔚领时代
郭建君表示:“我们戴上MR设备是需要支付成本的,这个成本就是舒适性,它毕竟是一个穿戴式大眼镜,同时还有安全性方面的考虑。当我们支付成本的时候需要换取一些东西,换什么呢?换的就是沉浸感,但是一个可以互动的动漫在沉浸感的塑造上不够理想。所以MR本质上对于游戏行业的要求,应该是让游戏可以从互动的动漫升级为可以互动的影视,达到影视级别的视觉效果,大家才会在沉浸感上得到一定的满足。”
近期,苹果正式开放Vision Pro开发者硬件申请,并提出了诸多针对应用开发指南。苹果Vision Pro让MR开发者看到了更大的创意发挥空间。而MR视觉和交互两大体验的升维,让蔚领时代看到了MR的前景。
目前的主流观点之一是:MR有望成为新一代通用计算平台。回顾通用计算平台的发展,以屏幕为代表的输出设备发生非常大的变化,从PC到智能手机,再到更小MR,屏幕在向“物理小尺寸、虚拟无限屏”变化,通过MR获得的体验也是PC和手机难以媲美的。
目前仅依靠2D屏幕无法直接进入到《头号玩家》那样的虚拟世界,但通过3D,MR有望掀起新浪潮。
郭建君先是回顾了蔚领时代的发展历程,5G传输速率的提升,云计算ToC的巨大前景,游戏场景与云的完美契合,这些机遇点使得蔚领时代顺利从0到1推进云游戏,但以手机为代表的移动终端不一定是云游戏的最大需求场景,对算力和内容有着极大需求的还有MR。
他表示:“当前数字经济正在进入互联网3.0阶段,互联网经历从数据、算法时代,开始向可视化升级发展,在这一大趋势下,MR将是人类感受虚拟世界的主要入口,实时渲染技术则是沉浸式视觉体验时代的基础。MR作为重要的视觉载体,是我们从现实世界穿越到一个更加复杂,或者说更加可视化的虚拟世界的重要入口。因此在我们看来,下一个时代的核心就是从计算到可视化的渲染。”
图源:蔚领时代
成立于2019年的蔚领时代,一直被外界界定为一家实时云渲染解决方案提供商。云游戏是蔚领时代的第一曲线,而在云游戏之上,郭建君有着自己的想法:“我们是一家科技公司,我们想做的第二曲线是帮助XR内容实现工业化生产,但是难在游戏本身还没有工业化,影视实现了工业化,我们又先在影视领域进行学习。而蔚领时代将与更多产业伙伴达成生态战略合作,进一步完善其以实时云渲染为底层技术逻辑的元宇宙生态,向下一代数字世界算力基座的伟大目标全力奔跑。”
朝着这个目标,蔚领公布了由4大事业部和2大能力中心构成的全新组织架构—— 虚拟方舟工作室、云游戏事业部,硅基大陆事业部,数字人事业部以及AI Lab与“宇宙魔方”开发者平台两大中心。
虚拟方舟工作室作为蔚领时代标杆案例的输出方,主要负责将其核心技术能力以产品的形式呈现出来,如《春草传》系列均由该团队开发。
云游戏事业部是蔚领的业务基石,《云原神》、《幻塔》以及小米云玩上超过150款云游戏,都是该事业部沉淀下来的成果。
“硅基大陆”通过多GPU互联加上其投资的浸没式液冷技术,从硬件层提供云端的GPU能力。据了解,其目前服务的客户超过30家,合作落成的数据中心有50家,并实现了2万台出货量。
数字人事业部带来了通过一张2D照片生成超写实数字人的技术,并且在此之上通过智能绑定,实现数字人的口型、面部表情以及肢体动作的驱动。“这项技术是我们和影眸科技一起联合开发,由他们生成数字人资产,我们自己研发的智能绑定系统,可以高效地把3D模型驱动起来。”
AI Lab 在现场展示了一部由AI生成的云原生3D动画作品《灵月之境》,作品中的场景、人物的表情、动作全都由AI生成。“今年AIGC的爆发让我们看到了更激进的未来,我们觉得AI不只是生产力的提升,而是一个生产力的解放”,AI Lab负责人王砚峰表示。
最后“宇宙魔方”开发者平台,则是集成了内容的开发、运营和部署的一系列工具,目标提升分发效率,据称根据既往案例数据,在该平台上内容分发的效率平均提升了70%,算力成本平均降低了60%。
正如蔚领时代本次发布会所强调的那样:“我们以碳基大陆为起点,搭乘方舟,跨越算力之海,找寻硅基大陆的过程。它也是一个虚拟世界建设的过程、探索的过程,那里有无穷的美好等着我们去探索。”