No.0376

Science Partner

Bring you to the side of

导 读

“你为什么要毁掉自己的职业生涯？！”

北京时间9月8日，纽约大学数学家Tristan Buckmaster公开了三篇论文和一份四页声明。声明里，他讲的却是两天前发生的一场冲突：9月6日下午，他与OpenAI研究员Sébastien Bubeck等人进行了两次通话。据Buckmaster叙述，当他拒绝OpenAI提出的两套发表方案，并表示如果对方按这一方式公布结果，自己就会公开事情经过时，对方回应了上面那句话。

Buckmaster还称，Bubeck两次提出把他的合作者Levent Alpöge从作者名单中去掉，并提到Alpöge供职于Anthropic这一事实令人“annoying”。Bubeck随后公开否认，称这些指控“虚假且煽动性”，并表示还会给出更完整的说明。

对于这场争执背后的数学，就连数学大神陶哲轩认为已经取得足够大的突破。但这不是菲尔兹奖，数学之外这场风波已经把一个过去很抽象的问题摆到了桌面上：当AI不再只是帮科学家算题，而开始产生关键思路、生成证明乃至可能抢先抵达答案时，一项科学发现究竟属于谁？谁来承担责任？研究者留在商业AI里的未发表思想，又处在什么边界之内？

走，跟伙伴君来！

今日主笔｜恒意

陶哲轩盛赞的数学突破，引来OpenAI的一通威胁电话

/ 01 / 不是孤例

这类纠纷并非第一次出现。这两年，类似问题正在越来越密集地进入科学界。

2024年10月，瑞典皇家科学院把诺贝尔化学奖一半授予David Baker，以表彰计算蛋白质设计；另一半共同授予Demis Hassabis和John Jumper，以表彰蛋白质结构预测。后两人开发的AI系统AlphaFold2解决了困扰生物学界半个世纪的蛋白质结构预测难题。从2020年AlphaFold2取得决定性突破，到2024年登上诺贝尔领奖台，中间只隔了四年。

今年5月，OpenAI宣布内部一个未发布模型“自主推翻”了Erdős提出的、悬而未决80年的单位距离猜想，官方通稿的措辞是模型“autonomously”完成了证伪。科技评论人Gary Marcus随后提醒，不应把“自主”进一步泛化成“AI已经成为独立数学家”，专业数学家仍需从模型冗长的推理记录中识别关键反例，并将其提炼、重写为标准数学证明。

到了今年8月，又有报道称一个未公开的OpenAI模型在多达十个长期未解的数学难题上取得突破。而媒体报道的第一反应几乎无一例外，都是同一个问题：这个成果该署谁的名字？《量子杂志》今年4月的一篇长文，给这条曲线做了一个精准的概括：数学家们正在用AI，“在一天之内完成过去需要几周甚至几个月才能完成的工作”。而这次Buckmaster与Bubeck的争吵，不过是这条曲线上最新、也最容易被看见的一个尖峰。

/ 02 / 责任归谁

这些案例里的争议几乎从不落在“AI到底有没有智慧”这种玄学问题上，而是集中在一件很具体的事情上：当AI产出了关键的思路或证明片段，人类承担的到底是什么角色，又该为什么负责。

学术出版界其实已经先于公众舆论，给出了一个相对清晰的答案。

《自然》和《科学》两大顶级期刊近两年相继明确规定：AI工具在任何情况下都不能被列为作者。理由不是AI不够聪明，而是作者身份天然捆绑着责任，即一篇论文如果出错，必须有一个能够被追责、能够解释每一步推理的人。《科学》的政策甚至要求作者在方法部分公开使用AI的具体提示词和版本号。

麻省理工学院今年8月发布的一份委员会报告延续了同样的逻辑：“AI不应被列为共同作者”，无论它实际贡献了多少内容。

陶哲轩今年在国际数学家大会上的演讲也表面了他作为数学界举足轻重巨匠的观点。他把AI时代的数学工作分解为证明生成、形式化验证、解释传播、同行接受以及最终进入学科知识体系等多个环节。AI和自动形式化工具已经可以同时加速证明的产生和验证，但一道证明能否真正进入数学共同体，仍然离不开人的理解、同行评议和长期消化。他明确提出，人类审稿人不能从出版流程中消失，并引用、赞同《莱顿人工智能与数学宣言》中的一项原则：“荣誉与责任仍应属于数学共同体中的人，而不应赋予自动化系统。”

其实这不只是科学问题，而是一个真的伦理问题：比起“AI是否能做数学”，学界真正焦虑的是，现有的荣誉分配、责任追究和信任体系，能不能追上AI介入研究的速度。

Buckmaster的做法恰好落在了“负责任”上：他公开承认证明重度依赖AI、坦言初稿“糟得没法看”。两位作者需要亲自动手把证明重新理解、整理成人类可读的版本，并使用Lean进行形式化验证。说回这次证明，大家都在等着看OpenAI的更完整证据，而至今没有人质疑那三项爆破结果本身的可靠性，为什么？还是因为责任链条清晰清晰，出了问题能找到人。

/ 03 / 数据边界

Buckmaster这次的指控里，还有一层是前面这些案例没有出现过的。

他怀疑OpenAI是否接触过他和Alpöge此前在Codex（OpenAI的编程助手产品）里留下的私人对话草稿。那些草稿里，可能已经包含了尚未发表的证明思路。他在声明里对这一点异常克制：“我不知道我们的数据是否被使用……我不是在指控任何人任何具体的不当行为。”

推而广之，我们就需要问一个棘手的真问题：当研究者把未发表的思考过程输入商业AI产品时，这些数据的边界在哪里？学界对“AI能不能当作者”已经有了初步共识，但对“一家AI公司能不能从用户与其产品的私人交互中，学习到具有竞争价值的未发表研究”这件事，几乎没有任何现成的规范可以援引。

这不是哲学问题，是数据治理问题。它牵涉的是知识产权、商业保密和科研诚信的三重交叉地带。科研机构和AI公司之间，还没有一套关于“训练数据从哪里来”的诚实对话机制，而前唯一能仰赖的，只有各家公司自己的服务条款，和创始人在发布会或X上的写意承诺。写到这里突然想，是不是智能智驾也会因此往后拖上个好多年才能在真实的道路上出现。

/ 04 / 规则缺位

从AlphaFold登上诺贝尔领奖台，到Erdős猜想被一个内部模型攻破，再到这场围绕纳维-斯托克斯的口水仗，短短两三年时间里，AI已经从“数学家的计算器”变成了“数学家的合作者”。但围绕这种合作关系的规范：谁该署名、谁该负责、数据从哪来、能不能验证等等，始终都慢半拍。学术出版界靠一纸禁令暂时稳住了署名问题，但训练数据的边界、商业AI公司与科研机构之间的信任机制，几乎还是一片空白。

至此，这个米兰体育-米兰(中国)官网已经完全不是一个“AI要不要抢人类饭碗”的故事。也不是提几个诸如“科研人员使用AI须知”那么简单的事情。过去的科研制度主要约束科学家：不能造假，要保存实验记录，要披露利益冲突，要证明成果从哪里来。现在，越来越多关键研究过程发生在商业模型和云端平台里，科学家本人反而未必知道模型看过什么、数据去了哪里、一次关键推理究竟调用了哪些外部信息。现行的规则明显已经集体不合时宜：科研机构不仅要管研究者怎么用AI，也要有能力要求AI平台证明自己是怎么参与研究的。哪些未发表数据不得进入训练，关键研究过程能否留痕，模型版本和调用记录能否追溯，发生成果冲突时有没有第三方可以审计...这些过去属于产品条款的问题，正在变成科研基础设施的问题。

目前，各国大学、实验室和科研院所采用AI的速度，很可能远快于制度形成的速度。真正需要抢先的已经不是谁最早发布一份“AI科研伦理原则”，怎么落实原则才是关键的环节。各国谁先建立一套可以执行、可以留痕、出了争议也能够倒查的制度就会为全球竖起这面大旗。否则，未来最麻烦的可能不是AI替科学家署了名，而是当一个重要发现出现争议时，研究者、大学和AI公司手里各自握着一部分证据，却没有任何一方能够完整证明，这个发现究竟是怎样产生的。也许那个时候，这个现象会被经典地称为“BB悖论吧”（ Buckmaster和Bubeck ）

我是恒意，咱们下期再会～

本文仅作科普分享使用，欢迎小伙伴们点、收藏、关注，以备不时之需，当然更欢迎您把 介绍给周边可能需要的更多伙伴们呀。