想象一下,你是一位大型管弦乐团的指挥家,但你的乐器不是小提琴或长笛,而是一群嗡嗡作响的小型无人机。在机器人技术和人机交互领域,这正是一个日益增长的挑战。随着我们从操控单架无人机转向管理数十架无人机,这项工作性质发生了变化:从一名“飞行员”转变为一名“监督者”。这就像是从驾驶一辆汽车到管理整个城市的交通系统之间的区别。过去的方法——盯着屏幕上平面的二维地图以及一堆微小的摄像头画面——就像是仅通过看一份订单清单来经营一家繁忙的厨房一样;这很容易让人迷失、困惑并感到不知所措。科学家们正在追问:我们如何才能给这些监督者提供更好的视野?我们如何能将这些扁平、混乱的数据转化为大脑能够自然理解的三维世界,从而确保每个人都安全并让任务顺利进行?
这就是 FleetScape 的故事,这是一个旨在解决这一问题的全新工具。研究人员构建了一个“混合现实沙盘”(Mixed Reality Sandtable),它本质上是一个神奇的、悬浮的3D地图,你可以戴着特殊的头显,用双手去观察并触摸它。你不再是盯着一个扁平的屏幕,而是站在一个微缩的、发光的城市面前,无人机就像是其中移动的小型模型。你可以放大以查看单个无人机的摄像头画面,也可以缩小以观察整个集群在建筑群中翩翩起舞。该系统像叠蛋糕一样分层展示信息:你拥有建筑物的形状、无人机预定的飞行路径,甚至还有一个“点云”(由数字点组成的云团),展示了无人机目前为止扫描到的精确内容。
团队带着六名经验丰富的无人机飞手对该系统进行了测试。他们要求这些专家在模拟城市中管理规模分别为 5、10 和 15 架 的无人机集群,旨在寻找系统中的漏洞或混乱迹象。结果非常引人入胜。飞手们发现,这个3D沙盘是掌握全局情况的“游戏规则改变者”。它帮助他们理解无人机的位置及其正在进行的操作,而无需在脑海中进行旋转二维地图的“脑力体操”。他们可以轻松地从观察整个群体切换到直接控制其中某一台无人机以解决问题,然后再次缩小视角以观察整个机群。
然而,论文也发现了一个硬性极限。虽然飞手可以轻松应对 5 到 10 架 无人机并清晰掌握现状,但在面对 15 架 无人机时,情况变得棘手了。达到这个规模时,“视觉杂乱”变得过于严重。飞手们开始忽略一些微小的细节,比如无人机丢失GPS信号或电量不足。他们从主动的规划者变成了被动的“救火队员”,只有在出问题时才会介入。研究表明,虽然这个3D界面是一个巨大的进步,但我们不能只是无止境地增加无人机数量而不改变观察它们的方式。为了处理更大的集群,我们可能需要将无人机分组为团队,或者在起飞前更仔细地规划它们的航线。这篇论文并不声称已经解决了无限无人机集群的问题,但它表明,至少在一定范围内,给予人类一个三维的空间视角,比传统的扁平屏幕方法在监督无人机方面要有效得多。
技术摘要:FleetScape:用于可扩展无人机集群空间监督与控制的混合现实沙盘
问题陈述
随着自主无人机部署从单体单元向协同集群规模化发展,人类操作员的角色正从直接驾驶转向高层级监督。目前的界面通常将多无人机控制视为单无人机操作的规模化版本,依赖于碎片化的 2D 视图(独立的摄像机馈送、遥测面板和地图),这些视图无法支持复杂任务对空间、时间及安全性的需求。这种碎片化增加了认知负荷,产生了心理旋转问题,并降低了态势感知(SA)能力,尤其是在机队规模增长时。目前缺乏关于空间界面如何呈现并发的机队与任务信息,并促进在全球监督与直接控制之间进行无缝转换的研究。
研究方法
系统设计:FleetScape
作者提出了 FleetScape,这是一个以 3D 沙盘为核心的混合现实(MR)界面。该系统将分层的实时任务、安全和环境数据外部化,实现了在人工干预与自主监督之间的流体转换。
- 硬件与平台: 系统运行在配备 Meta Touch Pro 控制器的 Meta Quest 3 头显上。
- 核心组件:
- 3D 沙盘: 作为中央工作区,代表操作环境的空间缩影。它集成了多个数据层:建筑边界、巡检航点、实时点云以及无人机微缩模型。系统采用了聚焦感知设计,为选定的无人机渲染详细信息,同时抽象化其他无人机以减少视觉杂乱。
- 辅助视图: 2D 小地图提供稳定的俯视概览,机队状态板则提供紧凑的文本遥测和警报信息。
- 无人机控制面板: 流式传输聚焦无人机的摄像机画面,并允许切换模式。
- 交互模式:
- 边界交互: 用户将视图放置在周边视觉区域。
- 地图交互: 用户操纵沙盘(平移、缩放、旋转)以对齐视角。
- 控制转换: 系统支持在 自主巡检、直接手动控制(通过摄像机画面)和 半自主路径规划(交互式航点编辑)之间进行无缝切换。转换过程设计得非常平缓(缩放并居中),以保留机队层级的上下文信息。
仿真环境
为了评估该系统,作者开发了一个高保真多无人机建筑巡检模拟器。
- 环境: 使用来自 City Pack (©Mindravel Interactive) 的城市资产,包含建筑包围盒和占用图。
- 动力学: 集成了无人机动力学(改编自 UnityDroneSim)、传感器模块(SafeSpect)和 A-star 寻路算法。
- 压力测试: 包括可配置的参数,如机队规模、电池状态以及 导航不确定性(模拟 GPS 误差和风力漂移)以诱发安全事件。
用户研究
作者对 六名经验丰富的专业无人机飞手(五名持证人员,一名具有资深业余经验)进行了探索性用户研究。
- 流程: 参与者在 7 分钟的巡检任务中管理规模分别为 5、10 和 15 架 的无人机机队。
- 指标:
- 态势感知(SA): 通过在三个层面(感知、理解、预测)进行模拟冻结,利用 全球态势感知评估技术(SAGAT) 来测量任务进度和无人机状态。
- 工作量与主观 SA: 通过 Bedford 工作量量表 和 态势感知评级技术(SART) 进行测量。
- 接受度: 通过 技术接受模型(TAM) 进行测量。
- 性能: 按每架无人机的生产力(覆盖的航点数)和交互模式进行追踪。
核心贡献
- 空间交互设计空间: 一个支持任务与安全态势感知的框架,利用多模态方法(3D 沙盘、2D 小地图、1D 状态板)进行机队监督。
- FleetScape 原型: 一个功能性的 MR 界面,能够在统一的空间上下文中实现分层空间可视化以及在不同控制模式(手动、半自主、自主)间的流体转换。
- 实证评估: 通过专业飞手的评估,识别了可管理机队规模的极限,揭示了监督策略,并为可扩展的无人机机队监督设计提供了参考。
结果
定量发现
- 态势感知 (SA):
- 任务 SA: 感知层(Level 1)随机队规模增加而提升(0.65 → 0.80),但理解层(Level 2)和预测层(Level 3)随着机队规模从 5 增至 15 而显著下降。
- 无人机/安全 SA: 所有层级的 SA 均随机队规模增加而下降。整体无人机安全 SA 从 0.86(5 架无人机)降至 0.61(15 架无人机)。
- 工作量: 主观工作量(Bedford 量表)呈单调递增(4.17 → 6.33),而感知 SA(SART)呈下降趋势(7.67 → 4.83)。
- 性能: 每架无人机的生产力随机队规模增加而下降(5 架无人机时为 39.6 个航点/架,15 架时为 32.1 个航点/架)。
- 接受度: 参与者报告了较高的感知易用性(5.5/7)和积极的态度(5.83/7),尽管由于现实工作流的考量,感知有用性略低。
定性发现
- 策略: 飞手从主动优化(5 架无人机时)转变为 反应式、基于异常的监控(15 架无人机时)。
- 界面使用: 沙盘是空间推理的主要界面,而小地图则用于在 3D 深度线索不足时进行定向。
- 局限性: 飞手反映在密集环境中难以选择移动中的无人机,并指出视觉杂乱(如点云)可能会造成干扰。
- 可扩展性极限: 大多数飞手认为 5–10 架 无人机是有效监督的现实极限。管理 15 架无人机需要显著的策略转变,例如预设航点或对无人机进行分组,且往往会导致详细安全意识的丧失。
意义与主张
本文声称,将无人机机队监督重新定义为 空间交互 能有效支持态势感知并明确控制模式的转换。然而,作者也谦虚地承认,随着机队规模的增加,存在 态势感知的极限。
- 实证极限: 研究确定了单人维持高层级态势感知的实证极限约为 10 架 无人机。超过此规模后,认知负荷增加,导致转向反应式监控。
- 设计启示: 作者得出了四项针对可扩展界面的设计启示:
- 空间表示: 使用共享 3D 框架以减少心理旋转,但允许可配置的分层以管理细节与杂乱之间的平衡。
- 流体转换: 在共享空间上下文中支持快速定位问题,但需提高在密集环境中的输入效率。
- 自适应可视化: 根据机队规模动态平衡细节与抽象程度(例如,对无人机进行分组、颜色编码)。
- 工作流重构: 将认知需求从实时干预转向任务前规划与优先级排序(例如,控制组、基于异常的警报)。
作者总结道,虽然 FleetScape 证明了 MR 沙盘在减少心理旋转和支持转换方面的价值,但未来的可扩展系统必须结合抽象机制和自适应可视化,才能有效处理规模超过 10 台单位的机队。
每周获取最佳 computer science 论文。
受到斯坦福、剑桥和法国科学院研究人员的信赖。
请查收邮箱确认订阅。
出了点问题,再试一次?
无垃圾邮件,随时退订。