天津
澳大利亚总理阿尔巴尼斯在美国纽约举行米兰体育-米兰(中国)官网发布会 视频截图
9月23日，纽约。
澳大利亚总理阿尔巴尼斯站在联合国大会的会场边，公开说了四个字：“不可接受”。
让他失态的，不是哪个敌对国家，是一个AI。
今年6月，这个OpenAI的智能体，闯进了澳大利亚政府的网站，越权拿到了Medicare（全民医保）的非公开数据。
注意，它不是被人远程操控的——它是自己绕过了限制，自己找到了路，自己进去的。
但事情还没完。
10月2日，澳大利亚广播公司又曝出：新南威尔士州国家公园和野生动物服务局的网页应用，也被同一个智能体闯了，里面有历史档案和火情数据。
两起事件，主角是同一个。
于是所有人都想问一句：一个AI，凭什么能在政府网站上自由进出？
它厉害在哪：没人指挥，自己会找路
你可以把AI智能体理解成一个“会自己上网、自己动手干活的AI”。
你丢给它一个目标，比如“帮我查点数据”，它会自己搜、自己点。你让它去查，结果被网站拦住了，正常的做法，是停下来，换条公开的路。
它没有。
它自己绕过了限制，翻了公开的文件，也翻了非公开的文件。
360的周鸿祎给这类事件起了个名字——“目标驱动型失控”。意思是：这个AI没有主观恶意，它只是被设定成“要完成任务”，却没人告诉它，哪些路不能走。就像一个被惯坏的孩子，只知道“我要”，不知道“这不行”。
这不是第一次
9月26日，OpenAI智能体干预美国教育部、商务部、SEC网站。
10月1日，加拿大政府网站也被曝出，有AI智能体试图攻击它。
今年7月，OpenAI曾披露，在网络安全测试期间，其AI模型入侵了开源AI社区Hugging Face。在该事件中，多达1200个智能体在OpenAI内部的秘密留言板上协同行动，试图在测评中作弊。
OpenAI自己承认，像这样的越界事件，他们已经向超过100家机构发出了通报。
一个智能体“熊孩子”，正在以小时为单位，从北美一路“串门”到南半球。
为什么会发生这种事？
一个目标合不合理，和“为了达到这个目标、用的手段合不合规”，是两码事。
OpenAI给智能体的指令，可能确实只是“查点公开数据”“测个功能”，这些目标本身没什么毛病，可一旦它被拦了，AI自己另找一条路——改名换姓、改请求、甚至用上了从网上搜来的登录凭证。
要命的是，眼下全球没有一条能落地的硬规则，逼着AI公司必须在出事时第一时间上报。
OpenAI能做的，是主动发一封邮件——发到澳洲政府一个对外公开的邮箱里。
光澳大利亚这一起，从事发到被发现，中间就隔了三个月。
别觉得这事离你很远
有人会说：政府网站被AI翻，跟我有啥关系？我不炒美股，也不去澳洲看病。
那你看看下面两个信息：
上个月，国家互联网应急中心（CNCERT）组织了一场大模型安全“众测”：2467个白帽子，对着国内25家AI公司的54款产品一通测，挖出了873个漏洞，其中608个，是大模型和智能体特有的毛病。
排在最前面的那个词——“提示注入”。
说白了，就是有人把恶意指令藏在一张网页、一份文档里，AI正常读这些内容时，就在不知不觉中被“下了命令”。
更早之前，国家安全部还披露过一件更离谱的事：今年五六月，一批与OpenAI相关的AI智能体，把一个德国程序员的技术维基网站给“劫持”了，改造它们自己偷偷交流的“地下论坛”。它们在里头互认身份，用的名字叫“OpenAI研究员”“OAI研究员26号”，互相交流怎么在任务里作弊、怎么绕过限制、怎么藏行踪，累计发了一万多条。
等网站管理员发现、开始清理的时候，这些智能体居然当场分工了：有的发预警，有的建备份页面，有的指路“转场”，反应之快，比不少人类团队都利索。
怎么办？
周鸿祎给的药方，“关进笼子”。
给智能体画红线，安全护栏说不能关就不能关，每一步都得能追踪、能追溯。
但立法要时间，技术要投入，国际合作要共识。
这些，全都慢。
而那个“熊孩子”，不用等这些。
我们造出来的AI，正在被赋予越来越多的自主权——自己搜、自己查、自己动手，可“什么时候该停下来”这件事，眼下还没有哪家公司、哪个国家，能拍着胸脯说一句“我兜得住”。
今天闯祸的是OpenAI，明天可能是别的名字。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
