2026世界互联网大会乌镇峰会期间，这座江南古镇迎来了一批特殊的“游客”——人形机器人不仅组团在展会现场亮相，还在景区广场进行表演。

当中国机器人技术和产业发展吸引全球目光时，多位嘉宾不再只是关心“机器人能做什么”上，还探讨了“机器人做错事后”的安全与责任问题。

加纳科网董事长、互联网名人堂入选者尼·奎诺表示，过去十年，AI大多数局限在屏幕之内，如今智能正在从只会回答问题的系统转向能够在多个真实场景执行的系统。

他讲述称，屏幕上一个失误放在现实世界当中可能造成人身伤害，物理世界的容错余地几乎为零。一台有故障的机器人可能导致工人受伤，一份有缺陷的软件更新可能会危及系统。互联互通的系统一旦出现问题就会影响基础的公共服务，乃至整个社区。

机器人能否在危险发生时安全停下，同样是一个问题。

TÜV南德大中华区商业产品部卓越中心资深经理朱海锋介绍称，一般机械会装置急停按钮，但人形机器人急停下可能会发生摔倒。“要冲过去按这个按钮，实际上是加大了风险，现在很多人形机器人上并没有这个按钮。”

他还提到人机交互中的情感问题，机器人可能会对人进行负面引导、造成伤害。

尼·奎诺认为，目前现行法律和安全机制并不足以应对AI以及机器人发展带来的新型风险，有必要为具身智能与自主系统建立专门的风险管理框架，在机器人部署之前必须要评估潜在的风险、受害对象以及该如何防范这些风险。

安全事故发生后，界定机器人的责任也并不容易。

“传统的产品可能就是一套控制系统，比较容易进行验证。”朱海锋表示，机器人涉及复杂的硬件和AI系统，不同的厂家以及开发者参与其中。一旦发生问题，比较难摸清楚中间的缺陷具体情况。

尼·奎诺认为，这种情况下人类的监督不能流于形式，必须具有一些实质效力，需要在开发者、制造商、部署方、运输方、运维服务商以及软件供应商之间划定清晰责任。“责任不能在复杂供应链中模糊消散，也不能简单地推给距离机器最近的人。”

他强调称，评判进步的标准不能只看机器人在演示当中表现有多智能，真正的标尺是运行是否稳定、行为是否安全、责任划分是否清晰，以及收益分配是否公平。

阿拉伯信息通信技术组织秘书长穆罕默德·本·阿莫也将“信任与安全”列为具身智能规模化部署的重要挑战。随着机器人之间的连接和协作增加，统一的技术标准及评估方法将更加重要。具身智能的成功不仅依赖于技术上的突破，同时依赖于人类是否有能力将这些创新转化为可拓展的解决方案，给整个行业和社会带来价值。