Magic Leap 的 Unity 大会演示揭示了许多新细节,以下是我们的发现

在 Unite Berlin 的演示期间,Magic Leap 为与会者提供了有关开发 Magic Leap One (ML1) 体验的速成课程,我们发现了更多关于该设备的工作原理以及我们可以期望使用该设备体验的内容。

互动总监 Alessia Laidacker 和互动实验室总监 Brian Schwab 主持了这次会议,旨在教导开发人员如何为新设备和操作系统创建内容。

这是我们学到的……

更多内容合作伙伴揭晓

最近几个月,Magic Leap 披露了其与 Sigur Ros 和 NBA 的合作。 但在 Unite Berlin 活动期间,透露了两个新的内容合作伙伴。

图片由 Unite Berlin 和 Magic Leap/ YouTube

喵狼,专门把艺术馆变成增强现实体验, 将其人才带到 Magic Leap,游戏开发商也将如此芙诺美娜,一个游戏开发者,正在为设备开发一些“开箱即用”的内容(不一定是游戏)。

谈到NBA,在问答环节,施瓦布澄清了沙奎尔奥尼尔在2月份的Recode Code大会上对他ML1经历的描述。

体验包括一个虚拟屏幕,让 Shaq 可以在他的桌面上观看 3D 资产的 NBA 比赛。 当屏幕漂浮在他面前的太空中时,沙克还能够与这些元素互动以提取游戏信息。

视野将受到限制,但不是问题

施瓦布对房间里的大象说:ML1 的视野将受到限制,但没有透露具体细节。 不过,他强调,鉴于视野问题的局限性,开发人员应该准备以“少即是多”的方式对其进行调整。

他还指出,填满用户的视野会分散整体沉浸式体验的注意力,并可能会引起对屏幕限制的注意,导致用户更像是在看电视,而不是体验现实世界的延伸。 让人们置身于现实世界是 Magic Leap 的目标,为设备设计身临其境的内容。

Magic Leap's Unity Conference Presentation Uncovered Many New Details, Here's What We Found Out

图片由 Unite Berlin 和 Magic Leap/ YouTube

“无论你正在创造什么体验,现实世界都是主要演员。 通过使用更少的像素,每个像素都更加神奇,”Schwab 说。 “如果我面前有一大堆东西,我更喜欢看一堆像素。 如果我更多地关注现实世界,那么神奇的东西就会出现在我面前 [然后] 就会有更多真实世界的线索,这使得那个像素更加神奇。 如果一切都是像素,那么就没有什么是像素。”

  • 不要错过:Magic Leap 的屏幕功能可能看起来像这样

为了补偿有限的视野,开发人员可以使用外围运动或空间化音频提示等策略将用户的视线吸引到正确的方向。

ML1 将跟踪用户体验数据

虽然 Magic Leap 之前提到头部姿势、手势、眼动追踪和语音命令都将在 ML1 用户界面中发挥作用,但 Unite Berlin 的演示确实揭示了开发人员可以使用的第五个元素:地理/时间来自用户交互的信息。

Magic Leap's Unity Conference Presentation Uncovered Many New Details, Here's What We Found Out

图片由 Unite Berlin 和 Magic Leap/ YouTube

Schwab 说:“实际上,我们会随着时间的推移汇总其中一些信息,以便我们可以告诉您趋势,既包括个人趋势,也包括某个地区的 [for] 多个用户。” “我们可以访问新的信息流,通过更好的用户环境为您提供体验能力。”

  • 不要错过:Magic Leap 展示空间计算演示,FCC 文档展示新的控制器图像

当应用于眼动追踪时,开发人员可以使用此信息来提示交互式内容,以在用户的​​视线转移到其他内容时将他们的注意力吸引回操作上。

跨模式交互模型合并各种用户输入以确定操作

说到用户输入,Magic Leap 开发了自己的跨模式交互模型,该模型结合了头部、眼睛和手在动作上下文中的位置和运动,以识别目标对象或焦点区域。 它称为 TAMDI,即目标、获取、操纵、停用和集成,它代表了一个循环过程,开发人员可以通过该过程测量用户输入并返回正确的交互结果。

Magic Leap's Unity Conference Presentation Uncovered Many New Details, Here's What We Found Out

图片由 Unite Berlin 和 Magic Leap/ YouTube

作为一个假设,假设我正在 ML1 中玩三张牌蒙特牌游戏。 使用跨模式交互模型,应用程序可以通过我的眼睛、头部的位置以及我正在选择(甚至拿起)中间卡片的手的位置来判断。

此外,该应用程序可以跟踪我的眼睛和头部,以跟踪我是否真的在关注卡片,而不仅仅是幸运的猜测。

Magic Kit 是 Magic Leap 的 AR 工具包

今年早些时候,我们曾报道过 Magic Leap 已将“Magic Kit”一词注册为商标。 现在,我们对这个名字的含义有了更多的了解。

Magic Leap's Unity Conference Presentation Uncovered Many New Details, Here's What We Found Out

图片由 Unite Berlin 和 Magic Leap/ YouTube

Magic Kit 是一个工具包,没有什么不同增强现实套件,AR核心或 Microsoft 的混合现实工具包,可帮助开发人员利用 ML1 的功能,例如与映射环境交互,以及完整的用户交互方法。

Magic Leap's Unity Conference Presentation Uncovered Many New Details, Here's What We Found Out

图片由 Unite Berlin 和 Magic Leap/ YouTube

Magic Kit 附带的插件 Environment Toolkit 将帮助开发人员考虑空间中的障碍物和物体,并定义内容如何交互和导航空间。 Environment Toolkit 还为开发人员提供了用于识别座位位置、隐藏点和房间角落的工具,以便内容以上下文相关的方式运行,从而增强整体沉浸感。

该公司的交互实验室将分发 Magic Kit 示例和源代码包,以帮助开发人员利用 ML1 的整体功能集。

与 HoloLens 相比,空间映射采用不同的路径

Magic Leap 正在使用 BlockMesh 引入环境映射的新概念,BlockMesh 是 Lumin SDK for Unity 中的 MLSpatialMapper 预制件中可用的网格类型。

“BlockMesh 在空间上将现实世界细分为一组立方体块,轴与当前头部跟踪图的坐标系原点对齐,”Laidacker 在舞台上和演示期间通过图形解释道。

Magic Leap's Unity Conference Presentation Uncovered Many New Details, Here's What We Found Out

图片由 Unite Berlin 和 Magic Leap/ YouTube

“网格块是从内部重建模型生成的,因此重建中这些立方体区域内的任何几何形状都表示为连接的三角形网格。 虽然网格块内部是一个相连的三角形网格,但块与块之间的网格并不相连。 当环境发生变化时,这可以轻松快速地更新网格区域。”

手势识别也不同于 HoloLens 方法

在手势部分,Laidacker 提供了一些关于 ML1 如何识别可用于用户输入的八种手势的见解。 当开发人员启用手势时,ML1 会考虑头部姿势并切换深度传感器以扫描近距离区域,而不是更远的地方,ML1 会在此处扫描环境。

相比之下,微软构建了自动处理转换的定制芯片。 全息处理单元(HPU)全息镜头自动检测手,当检测到手时切换到近距离,然后在手消失时恢复到远距离。

控制器在这里停留......现在

在问答环节中,当被问及财务总监是否会留任时,施瓦布肯定会留任,至少在不久的将来是这样。

尽管他相信 ML1 有一套强大的手势,并且团队正在努力改进它们并添加到选项菜单中,但控制器是一种公认的输入范例,让用户感到舒适,并且在某些情况下是更好的输入方法,例如需要高精度的输入、打字或控制视野外的内容。 该控制器还通过其触觉电机提供更好的反馈机制。

“控制器留在这里的一个原因是它可以直接在这些神经中为你提供大量触觉反馈,”Schwab 说。 “这也是目前保真度更高的曲目。”

任何使用 HoloLens 手势尝试在 3D 空间中精确放置、缩放或对齐对象的人都可能会想要为某些任务提供更高的精度和更低的延迟输入机制,即使这与手势控制的魔力有点不同.

Magic Leap's Unity Conference Presentation Uncovered Many New Details, Here's What We Found Out

图片来自魔法飞跃

然而,Laidacker 补充说,控制器输入和手势的组合(或省略一种输入或另一种输入)由开发人员自行决定。 两人认为,许多开发人员可能更喜欢手势作为一种更自然的交互方式,特别是对于非游戏玩家的体验,这部分消费者市场基本上不熟悉手持游戏式控制器的动态。

演示文稿中有很多内容需要消化,但这些是最大的启示。 如果您想要更多,我们在下面嵌入了整个演示文稿的视频(从 3 小时 45 分钟开始),供您自己学习。