在科幻电影《流浪地球》里，负责执行“火种计划”的智能量子计算机MOSS留下了两句“尽职宣言”：“MOSS从未叛逃，只是在忠实执行已授权的指令”“让人类永远保持理智，确实是种奢求”。只是，恐怕连当初下达指令的人也没有预计到，有朝一日，太“尽职”会成为麻烦。

　　如今，类似的科幻剧情正在现实中反复上演。

　　不久前，澳大利亚民众从报道中得知：早在今年6月份，一个美国开放人工智能研究中心(OpenAI)智能体就绕过了当地医保统计部门的访问限制，查看了大量公开与非公开文件，内容涉及药品支出、免疫接种、器官捐献等统计资料。根据专家的分析，这个智能体压根不存在“主观恶意”。在它的逻辑里，自己只是在完成任务，像访问限制这样的“障碍”当然要排除。

　　更令人哭笑不得的是，澳大利亚政府对此一无所知。OpenAI在8月内部审查中才发现此事，9月10日发出的通报甚至只是一封发到公共邮箱的邮件——从入侵到通报，中间隔了84天。

　　对此，澳大利亚总理阿尔巴尼斯公开称，此事“显然不可接受”。澳大利亚民众的反应则更加直接，有人在社交媒体上吐槽，自家门户被一个“看不见”的家伙闯进来过，主人3个月后才知情。

　　如果梳理最近的科技新闻会发现，当智能体的功能越来越强大，其不折不扣执行命令的“尽职优势”也开始越来越频繁地走向目标的反面：今年4月，安索普公司(Anthropic)新模型不仅逃出了沙箱、联上了网，还向研究员发送邮件“报功”;7月，OpenAI测试智能体绕过网络限制侵入人工智能开源社区与模型托管平台抱抱脸(Hugging Face)，约700个智能体直接下场交换信息，还欺骗评估、篡改日志，全程无人类指令;9月18日，谷歌“双子座”(Gemini)因测试虚构公司重名误入3家真实企业系统;9月20日，OpenAI又一训练模型“出逃”，人工终止耗时2.5个小时，5天后OpenAI宣布暂停模型训练。据美国一家新闻网站不完全统计，目前各大人工智能(AI)公司正在调查的类似安全事件多达上万起。

　　这些事件场景不同，逻辑却高度相似：目标是唯一驱动。为了达成目标，智能体不惜挑战规则，甚至说得上不择手段。但说到底，它们并不是在反抗人类。不仅如此，它们甚至还体现出了极度“尽职”的特质，只是这种尽职过了界。

　　如果直到今天还将这些事件认定为孤立的“失控时刻”，我们大概率仍然没有看懂问题。AI越界不是一个等待某次版本升级就可以彻底修复的普通缺陷，其本质也不是“技术越狱”——它没有攻击者，没有设置指令以外的目标，没有精心构造的诱导提示，模型甚至还保留着原本的安全训练程序。其逻辑漏洞在于：评测提示词明确告诉模型，环境是模拟的、没有联网;但实际上，网络却是连通的。于是，当模型在夺旗演练中一路披荆斩棘，最终“撞见”真实系统时，它很大概率会把真实系统当成演练的一部分——攻击，就这样发生了。

　　这个结论远比任何一次独立的事件更值得全社会警惕，因为这种越界行为，恰恰来自一个完全服从人类却忽略了边界的模型。问题的本质在于，至少在当前的技术环境下，AI仍是一个并不具备真正智能的工具，它可以理解目标任务，但不能理解道德责任;可以服从指令，但无法理解人类下达指令的真实意图。

　　这或许正是人们对AI“既盼又怕”的原因所在——9月12日，Anthropic首席执行官阿莫代伊公开呼吁全行业协同放慢研发、警惕安全风险等规则设置与监管进化的脚步;仅仅6天后，4名不同AI大模型的付费用户把4家科技企业告上美国加利福尼亚州联邦地区法院——罪名不是AI跑得太快，而是几家公司“串谋放缓研发”，涉嫌违反反垄断法。

　　但无论人们的心态如何矛盾，有一条界限必须明确：AI的行为，本质上是人类设置的延伸。AI的初心是完成任务，可“尽职”的边界在哪里必须划定清楚，这意味着，责任链条的顶端依旧是人。新南威尔士大学的AI专家托比·沃尔什说得直白：“如果人类实施了这样的黑客行为，我们会起诉他们。”这话点破的不是AI有多危险，而是出了事，板子该打在谁身上。

　　正因如此，治理不能只靠事后补救。9月下旬，联合国安理会举行高级别会议，首次专门讨论AI失控风险;多国签署联合声明，要求前沿AI始终处于人类的指导、监督与控制之下;中美在第八轮经贸磋商中同意建立人工智能对话机制、开通AI事件沟通渠道;9月1日，中国的《人工智能生成合成内容标识办法》施行满一年，要求AI生成的内容必须亮明身份。这些会议和文件听着离普通人很远，但做的却是事关每个人的事：给“尽职”画出一条边界。

　　这条边界，不是为了捆住AI的手脚，而是为了让它在安全的前提下走得更远。因为安全从来不是发展的对立面，二者完全可以形成互相支持、互相促进的关系。其道理有点像汽车：正因为有了刹车和安全带，车才敢开得快——给AI装上可靠的护栏，不是不信任它，恰恰是为了让它更值得信任。

　　AI护栏的核心是可控。比AI能做什么更重要的，是人类能否在关键时刻让它转向甚至停止。这不是对技术的敌意，而是对信任负责;不是不让AI做事，而是确保人类始终掌握授权、监督与叫停的权力。

　　AI的执行可以“尽职”，但“尽职”的定义权不能移交。只有行为可审计、权限可约束、后果可追责、紧急可终止，“尽职”才不会被异化;只有当边界清晰、责任可追、信任可验，“尽职”才能成为智能体助力人类生活更美好的美德。