广东
Anthropic公司9月18日宣布，已选择埃森哲作为其首个嵌入式评估机构，以帮助减缓人工智能的发展速度，正如其首席执行官 Dario Amodei 上周所提议的那样。
根据公告，Anthropic 和埃森哲预计将在未来五年内分别向该项目投资至少 10 亿美元（约合67亿元人民币）。
01
合作背景：减缓AI发展的安全提案
9 月 12 日，阿莫迪发布了一项三步提案，旨在减缓人工智能的发展速度，并允许采取保障措施，因为有警告称，快速、不受控制的发展可能会造成灾难性的损害。
阿莫迪在他的提案中写道：
人工智能的发展速度急剧加快，这主要是由于人工智能构建下一代人工智能的能力日益增强。这种动态被称为递归式自我改进，而且如果不加以控制，它可能会超越我们理解和控制这些系统的能力。
阿莫迪写道，他提议的第一步是让独立评估人员拥有像员工一样的权限，以核实安全措施并报告事故。
02
Anthropic与埃森哲的合作内容
此次合作将由埃森哲旗下专注于人工智能的业务部门 Faculty 牵头，内容包括模型评估和红队演练、开展一致性评估以及测试模型安全防护措施。
该公司表示，由于嵌入式评估是新事物，具体如何实施的细节仍在制定中。
Anthropic 表示，鉴于这项工作的“重要性和紧迫性”，它将直接资助埃森哲的工作。
该合作关系并非排他性的，Anthropic 预计将在未来几周内宣布将与其他评估机构合作。
埃森哲董事长兼首席执行官朱莉·斯威特表示：
埃森哲正在组建一支拥有深厚人工智能、安全和行业专业知识的专业团队，与Anthropic携手合作。安全既需要深厚的技术专长，也需要对人工智能在现实世界中的应用有清晰的理解。嵌入式评估是一个新兴领域，我们期待与Anthropic合作，共同加速嵌入式评估器的开发，我们认为这对于未来的安全格局至关重要。
埃森哲首席技术官兼Faculty首席执行官马克·华纳博士补充道：
Faculty现已成为埃森哲的一部分，其创立之初便秉持着人工智能应从设计之初就确保安全，而非依靠偶然因素实现安全的理念。这一信念指导着我们与世界各地政府、国防部门和医疗系统的合作。与Anthropic携手作为嵌入式评估机构，正是Faculty成立的初衷——而作为埃森哲的一部分，我们拥有了能够真正推动行业发展的平台。
03
或催生全新咨询行业
不过，AI出来之后，将取代管理咨询的言论甚嚣尘上，AI可以写报告，AI可以联系上下文，AI可以出分析数据和决策建议...
但是一连串的人工智能幻觉报告事件，让大家懵逼了，以后谁来核查AI有没有胡来？将来银行、政府、医院如果大规模部署AI，总不能因为AI宣称“我很安全”，就把它当作可信
企业盈利后要审计，软件上线前要安全测试。AI能力越来越强，类似的新需求也随之出现，这催生了新的审计公司、评级机构和安全测试。
如果以后监管真的要求大模型都需要经过第三方评测，那就不仅仅是Anthropic20亿美元的合作规模了，可能真的会催生一个行业和一条新的产业链了。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
