本文来自微信公众号： 42号电波 ，作者：Vince，编辑：大吉
近期火热的WAIC大会，除了有机器人上岗干活的展馆，也有较为严肃的安全治理论坛，如同一个硬币的两面，一面谈发展，一面谈安全。
不过，比起论坛里的「前沿AI风险监测」、「智能体失控风险」等高大上议题，普通人可能更关心一些小而具体的安全问题，比如「机器人真的上岗干活后，会不会误伤我」。
因为一台人形机器人静止时看起来很温和，甚至可爱，但行动时却可能成为一个难以预测的移动重物，给周边的人带来新的风险。
这也是最近我们与机器人交互时产生的真实感受：新「同事」宇树R1只有25公斤，采用PEEK材料制造，具有超轻量化特性，但也是一个不好惹的铁疙瘩。当你操作它进行动作演示以获取视频素材时，一旦不留意场地空间与行为轨迹，它的无情铁手会在你的身体上留下青紫色印记。
这使人不禁思考：当机器人开始长期待在人旁边共同工作，谁来保证安全？出了问题后，谁来解释它当时看见了什么、为什么继续执行、哪一层安全机制没有发挥作用？这并不是一家机器人公司就能回答的问题。
机器人安全正在从一项工程能力，变成国际治理、地区监管、企业和学术研究共同关注的领域。
机器人安全被拉进国际治理
在WAIC之前，7月7日到10日，人工智能向善全球峰会AI for Good Global Summit 2026在瑞士日内瓦举行。这个由国际电信联盟ITU推动、联合国体系广泛参与的会议，过去更常被理解为「AI如何帮助医疗、教育、气候和公共服务」的展示平台，但今年的现场，机器人、人形机器人、无人机和自动化系统占据了更强的存在感。
表面上看，这仍是一场关于技术未来的峰会。更深的变化在于，机器人开始不再被单独放进「工业自动化」或「消费电子」的类别里，而是被放进了AI治理的总议题。因为一旦AI从屏幕里走出来，开始移动、抓取、开门、驾驶和操作设备，模型出错的后果会变得非常具体。
一个聊天机器人把问题回答错了，用户可以关闭页面；一台机器人把环境识别错了，可能会在错误时间迈出一步、把手伸向不该抓的东西，或者在不该通行的区域继续前进。过去，AI安全更多讨论偏见、隐私、内容真实性和数据权利；物理AI出现之后，AI安全开始直接连到机械安全、公共安全和人身安全。
峰会期间的首届联合国全球AI治理对话上，联合国秘书长古特雷斯把重点放在了三个更具体的问题上：系统要怎样测试，风险要怎样衡量，责任要由谁承担。他的表述很直接：「机器可以提供信息，但必须由人作出决定并承担责任。」他同时强调，国家如果能在测试方法、风险衡量和责任划分上形成共识，安全才能随着技术跨境流动；反之，彼此割裂的规则只会抬高成本，也无法真正保护人。自动驾驶、无人机、智能制造设备、服务机器人，都会面对同一个问题：当算法的输出变成物理动作，谁来给这套动作设边界？
国际治理很难直接告诉某台机器人该用什么传感器、急停按钮应该放在哪里。它的作用更像是划出红线和议题边界。哪些能力不能被简单当作商业竞争，哪些事故需要被报告，哪些系统必须接受独立评估，哪些风险不能由企业自己定义为「可接受」，这些问题都会先在国际层面被提出。
对机器人公司来说，这种变化带来的不是一份立刻生效的全球统一法规，而是一种更长期的压力。过去，机器人厂商可以把安全当成研发部门中的一项功能；未来，机器人安全会越来越像数据治理、网络安全和碳排放一样，成为客户、投资人、监管者和公众共同追问的企业能力。
欧盟：安全变成准入条件
国际组织负责提出问题，真正让企业感到压力的，往往是地区监管和市场规则。
欧洲是最典型的例子。近日，多家外媒热议，起草于三年前的欧盟新机械法规Regulation(EU)2023/1230将于2027年1月20日起正式适用。它面对的并不只是传统机械设备，也包括包含软件、自动化决策和安全相关数字部件的新一代机器。对希望进入欧洲市场的机器人公司来说，这部法规会直接影响产品能否完成合规评估、是否能够进入客户采购名单，以及是否具备取得CE标志所需的技术文件和风险控制证据。
理解这一变化，首先要区分法规、CE标志和技术标准的不同作用：Regulation(EU)2023/1230规定企业必须履行的法律义务；CE标志则是制造商在完成适用的合规评估、编制技术文件并签署欧盟符合性声明后，对外表明产品符合相关欧盟法规的标志。ISO、EN或EN ISO标准主要提供满足这些法律要求的技术方法。只有被欧盟采纳并列入《欧盟官方公报》的协调标准，才能在其覆盖范围内为相关要求提供符合性推定。
因此，ISO标准不等于CE标志，也不是企业购买或采用一本标准就可以自动获得市场准入。协调标准能够提供重要的技术路径和证明基础，但不能替代完整的风险评估、产品文档、符合性声明以及制造商应承担的责任。
ISO 10218是工业机器人安全的基础标准。新版分为两部分：ISO 10218-1:2025关注工业机器人本体，包括设计中的固有安全、风险降低措施和使用信息；ISO 10218-2:2025关注机器人应用和机器人单元，包括系统集成、调试、运行、维护和退役。两部分看起来只是标准编号上的拆分，背后实际上划出了一条责任边界。
机器人本体厂商可以证明自己的机械臂、驱动器、控制器、急停接口和安全功能满足设计要求，却不能替客户证明某个具体工位一定安全。因为真实风险经常来自本体以外：末端装的是什么工具，夹的是玻璃、金属还是软包装，人员会从哪里进入，设备旁边是否还有传送带、叉车和其他机器人，维护人员如何切换运行模式，软件升级之后哪些参数发生了变化。
反过来，系统集成商也不能只在现场增加围栏和警示标识，就把机器人本体本身的安全问题推回给制造商。真正的系统安全，需要本体、工具、工件、场地、人员和流程一起被评估。
新版标准正在推动行业从「卖出一台机器」转向「交付一份安全案例」。所谓安全案例是一组可以被审查的材料：风险识别清单、保护措施、停止时间测试、传感器覆盖范围、软件版本、故障模式、维护方法、人员培训和使用边界。客户应该能从这套材料中读懂，机器人在什么前提下可以工作，哪些改动会让原有安全保障失效。
协作机器人领域的ISO/TS 15066也体现了同样的逻辑。它讨论安全额定监控停止、手动引导、速度与距离监测、功率与力限制等协作模式。许多人把这些概念理解成「只要买了协作机器人，就能和人一起用」。
事实恰好相反，标准要求企业更细地看待每一个应用。
同一台机械臂，拿泡沫块和拿金属刀具，安全边界不同；空载移动和推着30 kg料箱移动，制动距离不同；在宽敞区域和在货架之间转弯，传感器盲区不同。协作不是一个产品标签，而是一种在具体条件下才能成立的工作方式。从监管角度看，这意味着安全开始像性能、价格和交期一样进入商业谈判。
安全一旦成为准入条件，机器人行业的竞争规则就会改变。过去有些公司可以先展示能力、先获得订单，再慢慢补齐现场安全和文档；未来，无法证明安全边界的产品，可能连进入试点的机会都越来越少。
安全正在成为可交付产品
标准决定企业需要证明什么，企业真正面对的问题是：这份证明要靠什么做出来？
过去的工业安全体系有一套非常成熟的答案。围栏、安全门、光栅、安全继电器、急停按钮和可预测的运动轨迹，共同构成了一道相对清晰的防线。人进来，机器停；门打开，机器停；检测到异常，切断危险运动。它的优点是确定性强，缺点也明显：机器人很难离开固定单元。
但新一代移动机器人和人形机器人不可能只靠围栏解决问题。它们要在仓库里找路，在产线边递送物料，在装卸口穿梭，在人群旁边等待和转向。设想一下，一台移动机器人在通道中以1.5 m/s的速度行驶，工人从货架后方走出来。传感器首先要发现人，系统要确认信号可靠，安全控制器要决定减速或停机，驱动器再开始制动。传感器采集、算法判断、通信传输、控制器响应和机械制动，每一步都会耗时。机器人不是在看到人之后瞬间静止，它在这段时间里还会继续前进。
工程师在做速度与距离监测时，通常会把保护距离拆成几部分：人在系统反应和机器人制动期间可能前进的距离，机器人自身在反应期间继续移动的距离，以及定位、传感器和场地带来的误差余量。它提醒人们，安全距离不是现场看着「差不多够远」就可以，而是一个被速度、延迟、负载、制动能力多要素共同决定的参数。
因此，企业正在把安全从单一零部件，做成一套独立于任务模型的运行系统。基座模型可以理解并执行动作，但它不应该拥有绕过限速、关闭安全区或修改急停逻辑的权限。
真正的安全架构需要让任务层和安全层分开：任务模型负责提出动作意图，安全系统负责判断这个动作是否仍在允许范围内；一旦系统看不清、算不准或失去可靠信号，安全层应优先让机器降级、减速、停机或请求人工接管。
所谓Outside-In，可以理解为让场地也来观察机器人。
以自动叉车进出拖车为例，拖车内部空间狭窄，车厢壁、货物、托盘和阴影会让车载传感器产生盲区。系统太保守，叉车会因为反复误判障碍而无法正常作业；系统太激进，又会在人员进入区域时暴露风险。外部摄像头、边缘计算设备和场地感知系统可以从另一个视角观察人、车、货和危险区域的关系，再把「允许继续」「应当减速」「必须停止」这类安全信号交给机器人。
过去的逻辑是机器人自己看环境。新的逻辑是环境也在观察和监测机器人。
这会改变ToB机器人的商业模式。客户买到的可能不只是一台开箱即用的机器人，还需要得到一整套安全方案交付。对机器人公司而言，交付不再止于部署成功和任务跑通，还包括让客户知道哪些场地条件必须长期维持，哪些参数不能随意改，什么情况下需要重新做风险评估。
Halos本身也不应该被理解成安全已经被解决。NVIDIA能提供平台和工具，Agility Robotics也已宣布会将部分Halos元素用于Digit的工业安全系统，但某台Digit能否在某座工厂安全工作，仍然取决于本体厂商、系统集成商、认证机构和场地方如何共同完成验证。
在仓库和工厂里，风险不只出现在某一个高度。儿童、悬空货叉、货架伸出物、人体上半身、被搬运的长条形工件，都可能处于单一平面之外。Sonair用超声波阵列建立三维感知，试图让机器人看到一个更完整的保护空间。它的重点不是取代相机和AI模型，而是为这些不确定性更高的感知方式，加上一层可以进入安全功能链路的独立信号。
不过，一颗认证传感器不等于一台认证机器人。它装在什么位置，是否会被机身遮挡，检测区域如何设定，信号如何传到安全控制器，控制器收到信号后电机是否能按预定时间停下来，仍然是系统工程。组件厂商证明的是「我的部件在定义条件下能承担什么功能」；整机厂商和集成商必须继续证明这些部件组合在一起，放进这个场地，能不能保护人。
企业层面的安全竞争，最终会落到产品上，不过未来的安全产品形态，更像一套工程方案、一个场景系统。
行业还不会测试「人碰到机器人以后」
企业把安全做成产品和工程流程，但研究者正在揭示另一个尴尬事实：行业对人形机器人的许多主流测试，离真实的人机接触还很远。
今天的人形机器人演示，常常聚焦走路、跑步、搬运、开门、抓取和复杂动作模仿。这些能力当然重要，但其中大量测试发生在相对干净、可预测的环境里。地面是平整的，物体位置固定，机器人和人之间保持足够距离，外部干扰很少。机器人完成任务，并不等于它在有人碰到、推到、扶住或共同搬运时仍然可控。
7月7日上线的ThorArena论文，正是从这个缺口切入。来自智源人工智能研究院和德国慕尼黑大学的研究团队采集人体动作和双手受力的同步数据，覆盖擦桌子、抬起和放下物体、推拉椅子、协作搬运等六类接触密集任务。随后，研究者把这些真实世界的力重新放进仿真环境，观察不同人形机器人控制策略在受到外力时的表现。
这个测试关注的不是机器人动作像不像人，而是它在受到真实扰动后还能不能保持稳定。它会看动作跟踪误差是否扩大、控制器是否需要输出更大力矩、机器人能否维持姿态、一次任务能不能持续执行下去。研究发现，有些策略在没有外力干扰时表现很好，加入真实推拉力后却会出现明显性能下降。
这对人形机器人尤其重要。一台50 kg或70 kg的人形机器人静止时看起来很温和，它失去平衡时却可能成为一个难以预测的移动重物。倒下方向、关节是否及时卸力、手臂会不会为了保持平衡而快速挥动、脚底是否打滑，都会影响它是可控地蹲下，还是给周边的人带来新的风险。
现实中的人也不会像测试用假人一样静止。人会在狭窄通道里擦肩而过，会在协作搬运时突然松手，会扶一下看上去快要失衡的机器人，也会在没意识到危险的情况下把手伸进机器人的工作范围。把人只当作「动态障碍物」，已经不足以覆盖这种关系。人会改变机器人的动作，机器人也会改变人的预期，两者共同构成一个不断变化的系统。
ThorArena不是安全认证，也不能直接给任何一台机器人发放「可以和人一起工作」的结论。但它提出了一个行业接下来必须面对的问题：机器人公司不能只证明机器在理想条件下能把事情做成，还要证明它在接触、干扰、意外受力和连续运行中能保持稳定。
学界努力的价值，正在于把这些企业还没有完全商品化、监管也尚未完全写成条款的风险，先变成可测量的问题。只有当机器人的行为后果被写进测试基准，行业才会开始认真为这些情况设计硬件、控制算法和安全策略。
写在最后
回顾过去两个月的具身圈，既有上工位、进家庭的狂热，也不乏讲安全、谈风险的理性。
国际层面的治理，告诉行业物理AI不能只按普通软件来管理；地区规则和技术标准，告诉企业哪些底线必须被证明；企业把这些要求做成传感器、安全控制器、软件、场地和日志系统；学界则不断指出，真实的人机互动里还有多少风险没有被测清楚。
最后，安全仍然要回到责任分工。
机器人本体厂商需要定义适用场景、最大负载、速度、制动性能、故障状态和降级策略。传感器、芯片和控制器供应商需要说明组件的安全能力、诊断机制和安装限制。系统集成商要把机器人、工装、工件、场地、人车动线和其他设备放进同一份风险评估。云服务和模型提供方要处理版本治理、权限控制、更新说明和异常回退。工厂、仓库和医院等场地方，则要维持最初设计时的安全前提，不能在改变场地、负载、任务和软件后，仍假设原有结论自动成立。
下一阶段的机器人竞争，不会只比谁的模型更大、动作更像人。机器人进入真实环境以后，更重要的能力是它能不能被信任地部署，能不能在出错时收住自己，能不能让客户、监管者和用户知道它的边界在哪里。
当机器人开始和人们一起干活，保证安全的不会是某一个人，也不会是一家公司单独承诺。它是一条从国际治理、地区法规、企业工程到学术验证不断收紧的责任链条。
只有这条链条真正闭合，机器人才能从「能干活」走到「被允许干活」。