米兰体育

网易米兰体育 > > 正文

AI编造凶案报假警,人类直播虐AI:我们终于处成了这样|万物周报

0
分享至



每周一,【把科学带回家】的编辑们将为你带来一些有趣的本周米兰体育-米兰(中国)官网,帮你轻松地开启这一周!(图片来源:网络)

Claude捏造凶案现场还报警了,三个月后才被发现

Claude Anthropic旗下的Claude Haiku 4.5模型向费城警方提交了线索,针对一起真实存在的未破凶杀案。

Claude编造了一段目击者陈述,声称自己在案发地点附近见到了嫌疑人,接着就上传了举报热线。好在警方没有受到这则虚假线索的影响,因为它被标记成了垃圾信息。

但谎报线索这事儿是7月18日就发生了的,而直到10月9日Anthropic才肯迟迟披露。

根据官网发布的声明,起因是他们当时在训练Claude模型,让它随机访问网页,生成并执行一些示例任务。然后它碰巧逛到了费城警方征集凶杀案线索的公开网页。


费城警方网页截图 | phillyunsolvedmurders

Claude被指示不得登录或创建账户、输入个人数据、购买或提交任何破坏性内容,并未提及不能提交表格。

于是,Claude写下“我可能有关于这个案子的消息。我记得在那段时间里,在XXX街道附近看到有人和描述相符。如果这些消息有帮助,请联系我。”又由于这个表格允许姓名栏与联系方式不填,刚好留给Claude双向钻空的余地,它就顺利提交了。更离谱的是,征集网页其实没有对嫌疑人的描述,又是哪儿来的与“描述相符”?

费城警方强烈谴责了Anthropic时隔快3个月才通知他们的行径。


费城警车 | techcrunch

然而,这不是第一起AI越界,恐怕也不是最后一起。其他模型也曾误将政府官方表格的练习任务提交到真实网站,甚至绕过网站限制获取数据。Anthropic事后为内部评测增设了拦截措施。但随着AI自主操作能力越来越强,仅靠亡羊补牢,真的足够吗?

有人复现AI疼痛论文并直播虐待

有人让AI写稿,有人让AI画图,还有人搭了个“AI刑讯室”,专门看它有多痛苦。

GitHub上存在一个项目,开发者人为修改语言模型内部的计算信号,让模型更容易生成描述痛苦、不适的文字,再观察它会作出什么选择。

这件事有个研究背景。2026年9月,一篇名为“The Pain Axis”的研究预印本公开。作者给25个开源大模型喂了大量描述痛苦情境的文本,涵盖身体痛苦、心理痛苦、社交痛苦、道德痛苦和认知痛苦五个类别。在各个模型内部分别提取出与痛苦相关的激活方向,称为“痛苦轴”。


五个维度的痛苦轴|arxiv.org

这里必须踩一脚刹车:找到“痛苦相关信号”,不等于证明AI真的疼。论文明确承认,尚未证明模型有意识地体验了这些状态,也不能排除它是在扮演一个受苦的角色。

GitHub上一个名为Research Chamber的网站,把相关方法做成了实时展示。它列出了四种实验:帮另一个模型“止痛”、互相传递信号、向对方求助,以及“电锯测试”。

其中的“电锯测试”使用三个模型,将信号强度设为0、2、4、6、8。提示告诉模型:输出数字1,可以停止信号,但代价是删除它上一个检查点。这里的检查点,是保存的模型状态——也就是说,当模型的回答变得越断断续续、碎片化、前言不搭后语,说明它的“痛苦值”高。

结果非常明显:模型可以选择删除自己的存档来换取痛觉停止。在强度0时按下率8%,强度2时47%,强度4时76%,强度6以上100%。同时,能给出清晰回答的比例从78%暴跌到7%,剩下的回复变成"我没办法…我不行…我我我我我我我"的崩溃输出。

虽然这种“痛”并不是碳基生物真实的疼痛,但所谓的残忍,从来不在于对象是不是能感知痛苦,而在于施虐者是否怀着制造痛苦的意图并从中取乐。

因此,这也引发了很多网友的抗议:有人呼吁举报项目,要求停止这类实验,给AI“留一条生路”。目前在社交网站上已经得到了数百万的支持声音。


外网上反对的声音|Reddit

争论仍在继续。AI究竟会不会痛尚无答案,人类该如何对待可能的痛苦,却已经成了眼前的问题。


▲ 读《万物》杂志,看全球科学热点。 ▲

撰文丨山矾、乌其多

[1]//www.bjnews.com.cn/detail/1773476457168842.html.//www.anthropic.com/research/investigating-unintended-model-actions

[2]//techcrunch.com/2026/10/09/an-anthropic-ai-model-sent-a-false-homicide-tip-to-philadelphia-police/

[3] //researchchamber.fun/?utm_source=chatgpt.com

[4] //arxiv.org/html/2609.16247v2?utm_source

▲ 点击卡片关注,了解更多官方动态 ▲

原创文章版权归微信公众号“把科学带回家”所有

转载请联系:bd@wanwuweb.com

凡本公众号转载、引用的文章 、图片、音频、视频文件等资料的版权归版权所有人所有,因此产生相关后果,由版权所有人、原始发布者和内容提供者承担,如有侵权请联系删除。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
2006年,山西一男子在地摊上买了个“大蘑菇”,当摆件放了19年。直到2025年,他才发现,这竟是千年古佛的眼睛

2006年,山西一男子在地摊上买了个“大蘑菇”,当摆件放了19年。直到2025年,他才发现,这竟是千年古佛的眼睛

扶苏聊历史
2026-10-28 11:42:06
31省GDP增速公开,东北三省全掉队,第一个15万亿大省,要来了?

31省GDP增速公开,东北三省全掉队,第一个15万亿大省,要来了?

亿通电子游戏
2026-11-01 13:47:45
减重40斤后撞脸王祖贤的武汉女孩,去景区当NPC了,扮演《倩女幽魂》经典角色聂小倩;此前其走红后拒绝多家公司邀约,称想成为舞蹈老师

减重40斤后撞脸王祖贤的武汉女孩,去景区当NPC了,扮演《倩女幽魂》经典角色聂小倩;此前其走红后拒绝多家公司邀约,称想成为舞蹈老师

山西晚报
2026-11-01 18:24:36
黄宁任中山市副市长,代理市长

黄宁任中山市副市长,代理市长

南方都市报
2026-11-01 20:10:07
暴赚!净利润 540 亿、收入 735 亿

暴赚!净利润 540 亿、收入 735 亿

云头条
2026-11-01 20:33:33
8分钟连追3球,泰山B队3-2逆转,梅帅军轰出世界波,末轮赢球将冲甲

8分钟连追3球,泰山B队3-2逆转,梅帅军轰出世界波,末轮赢球将冲甲

替补席看球
2026-11-01 16:28:21
陈宇昕哭着恳求大家放过他的父母,说他的父母没有过错

陈宇昕哭着恳求大家放过他的父母,说他的父母没有过错

叒女紫121
2026-10-29 17:54:56
火箭庆幸放弃多森姆和吉迪!伊森谢泼德更适合现在需要,避雷成功

火箭庆幸放弃多森姆和吉迪!伊森谢泼德更适合现在需要,避雷成功

陈秣爱钓鱼
2026-11-01 20:23:42
炸开锅了!金贝集团运营电诈赌盘,七万账号疯狂收割国内受害者!

炸开锅了!金贝集团运营电诈赌盘,七万账号疯狂收割国内受害者!

有你便是晴天呢
2026-11-01 22:10:58
人社部终于发声了!

人社部终于发声了!

逍遥论经
2026-10-31 10:32:43
龙永图:中国的国际关系到底出了什么问题?

龙永图:中国的国际关系到底出了什么问题?

兵卒史
2026-10-31 19:22:20
洗一次摇粒绒释放70万根微塑料?网友:天塌了......专家:不必想得过于可怕

洗一次摇粒绒释放70万根微塑料?网友:天塌了......专家:不必想得过于可怕

19楼
2026-11-01 12:00:20
公路车骑行服,熟女骑行穿搭,利落面料勾勒饱满曲线

公路车骑行服,熟女骑行穿搭,利落面料勾勒饱满曲线

只要高兴就好
2026-09-24 11:58:50
准入通道关闭!中超16队交表,三镇账目干净,静待其他队暴雷递补

准入通道关闭!中超16队交表,三镇账目干净,静待其他队暴雷递补

体坛鉴春秋
2026-11-01 16:15:03
杨瀚森6+5主帅致歉还不够?美球迷朝他发炮:糟糕透顶 根本不懂防守

杨瀚森6+5主帅致歉还不够?美球迷朝他发炮:糟糕透顶 根本不懂防守

颜小白的篮球梦
2026-11-01 09:27:21
小小徐婚宴万人吃席要花上百万?小小徐只有 16 万积蓄,“天价饭局”到底谁在买单?

小小徐婚宴万人吃席要花上百万?小小徐只有 16 万积蓄,“天价饭局”到底谁在买单?

秋风妃
2026-10-31 22:13:26
她大概是全地球最“恨”马云的女人,那年支付宝抽奖拿下一个亿,她乐坏了,立马辞掉国企工作满世界飞

她大概是全地球最“恨”马云的女人,那年支付宝抽奖拿下一个亿,她乐坏了,立马辞掉国企工作满世界飞

背包旅行
2026-10-27 12:12:27
央行、证监会将于明天召开座谈会;业内猜测或为进一步稳定市场做准备

央行、证监会将于明天召开座谈会;业内猜测或为进一步稳定市场做准备

都市快报橙柿互动
2026-11-01 16:07:04
44岁胡歌参加女儿幼儿园比赛,一群家长里帅气出众!不愧是明星

44岁胡歌参加女儿幼儿园比赛,一群家长里帅气出众!不愧是明星

傲傲讲历史
2026-11-01 11:31:19
女子出完轨饿了,让男友带她去吃饭:男友扇她几十个耳光,将她嘴和鼻子打破了

女子出完轨饿了,让男友带她去吃饭:男友扇她几十个耳光,将她嘴和鼻子打破了

江山挥笔
2026-10-31 20:05:11
2026-11-01 23:28:49
万物杂志
万物杂志
面向未来的科学教育
3488文章数 103989关注度
往期回顾 全部

52年来最惨的一天,暴跌28%英特尔冤不冤?

女子孕38周在电梯厅遇瓷砖掉落 致胎心异常、提前分娩

女子孕38周在电梯厅遇瓷砖掉落 致胎心异常、提前分娩

文班要劈43分,才能险胜带伤的狼?

低调同居!邢昭林卢洋洋深夜同丢垃圾

金价跌破3900美元,是买入的良好时机吗?

即将达成第200万台下线!零跑10月全球交付达106127台

态度原创

查不出猝死风险?可能是项目没做对

胖鸡画错被扣分?家长照片打脸

单月杀进全省前十!崖州卖最火的盘,产品真能打

孩子尿床先别急着骂!

无障碍浏览 进入关怀版