苹果研究团队在预印本平台arXiv提交论文《Perceptive Humanoid Motion from Simulation》，公开了一款名为HALO的人形机器人自主控制系统，并将该系统部署在宇树科技G1机器人上，验证其能否把仿真环境中学到的动作迁移到陌生的现实房间中执行。

根据论文披露的测试结果，研究团队在6个未预先扫描或建图的真实环境中开展了360次单项任务测试，平均成功率为91%；在另一个真实环境中，对3种组合任务各进行10次测试，平均成功率为70%。其中，“俯身通过障碍—走向目标—推箱子”这一组合的成功率为50%。

HALO采用三层协同控制架构。最上层是基于视觉语言模型的任务编排模块，默认使用千问Qwen3.6-35B-A3B，在机器人搭载的Mac mini上本地运行，与动作生成器共用模型服务引擎，无需联网即可工作；系统也可选择通过API调用云端模型，以获得更强的推理和规划能力。这一层负责处理指令中的模糊信息，例如“坐下”没有指定具体位置，机器人需要从眼前场景中判断坐在哪里；如果路径被桌子挡住，则需将任务拆解为俯身通过、接近椅子、坐下等连续子任务。该模块通过机器人视角的视频持续观察环境，判断当前动作是否成功，并据此推进或重试，每次向动作生成器下达一个明确的子任务。

中间的动作生成层采用另一款千问模型Qwen3.5-2B，研究团队将其作为参数冻结的编码器，与负责生成动作的DiT解码器配合，根据机器人看到的画面和当前子任务，规划未来约5秒的全身动作。这一层每秒重新规划约3次，使动作计划能够随环境变化持续更新。底层则是经强化学习、策略蒸馏等步骤训练的动作跟踪器，以每秒50次的频率运行，结合深度图像和机器人自身状态，将动作计划转化为关节控制指令。

在数据生成方面，研究团队在1000个程序生成的模拟家庭环境中合成了约300小时的主要训练数据，将机器人“看到什么”“接到什么指令”和“如何运动”配对起来。具体流程是先生成动作，再将动作放入虚拟房间，最后从机器人视角渲染画面。项目页面以“坐到扶手椅上”为例，将其拆成向前走、转身和坐下等片段，由动作生成模型根据文字提示、路径点和关键姿态生成动作序列，再通过几何检查筛选动作，减少脚部滑动、身体穿入地面等问题。随后系统将动作安排到程序生成的房间中，检查机器人与家具的位置关系，寻找没有碰撞的摆放方案，并利用仿真工具渲染机器人执行动作时看到的画面。训练中还会改变光照、色调、画面模糊程度等条件，使视觉输入更加多样。

算力方面，研究团队使用250张英伟达H100 GPU，耗时约48小时合成主要训练数据；动作生成器通过模仿学习训练，使用64张B200；动作跟踪器经强化学习、策略蒸馏等步骤训练，使用4张H100。

研究团队同时指出，仿真生成数据并未完全摆脱人工参与，新增物理任务仍需人工编写提示词、设计动作关键帧，部分动作还使用了人类视频或动捕素材。此外，当前机器人主要依赖视觉感知，难以直接感知接触情况；当物体离开相机视野或被遮挡时，涉及较多接触的任务表现会下降。加入触觉感知，是后续改进方向之一。

从行业视角看，这项研究的意义在于将大模型驱动的任务编排、动作生成与底层关节控制整合进一套可复现的流程，并选择在宇树G1这一第三方硬件平台上验证，而非苹果自有机器人产品。研究团队公开了数据生成、模型训练和部署代码，涵盖动作生成、动作跟踪、任务编排以及仿真和真实机器人运行等环节，这为外部研究者复现和比较不同技术路线提供了条件。同时，默认采用千问模型并在本地Mac mini上运行，也反映出机器人“大脑”对模型体积与推理效率的现实约束——在离线条件下完成感知、规划与控制的闭环，是走向实用化必须跨过的一道门槛。