一场改变人工智能生态的分裂：OpenAI与Anthropic的隐秘往事

2020年12月，OpenAI举行了一次全员视频会议，最后几分钟的内容彻底改变了人工智能行业的格局。

当时的政策负责人Jack Clark在聊天框中输入了“我爱你们所有人”，随即屏幕变黑——七位OpenAI的核心成员被同时踢出会议，邮箱权限被撤销，Slack账号被注销，笔记本电脑则被远程锁定。这一系列事件并非意外，而是早有预谋的分裂的终局。

这七位成员是由Dario Amodei带走的。他当时是OpenAI的研究副总裁，参与了GPT-2和GPT-3的核心开发，且曾撰写了26页的内部文档，为大模型技术奠定了基础。他离开的原因并非出于金钱或职位，而是因为他认为OpenAI的管理层，尤其是Sam Altman，完全不值得信赖。

根据《大西洋月刊》记者Kevin Roose的调查，分裂的根源可以追溯至2017年一个名为“Countries Plan”的内部方案，以及随后的三年间不断积累的猜疑、争论和背叛感。

如今，五年后，这七位创立的Anthropic已经拥有数千名员工，并与OpenAI并肩走向通用人工智能（AGI）。然而，Dario与Altman之间的关系据多位知情人士透露，至今仍然是“互相厌恶”。

2016年，Dario Amodei离开谷歌，加入OpenAI。

他戴着圆框眼镜，棕色卷发，紧张或思考时习惯用手指绕着头发转动。同事们称他为“天才，但固执”。

在2017年，他撰写了一篇题为《计算大团》（Big Blob of Compute）的内部文档，提出机器智能本质上是规模的函数——模型越大，智能越强。

这一判断直接引导OpenAI的研究方向转向大语言模型（LLM），并为后来的GPT-2和GPT-3奠定了基础。

理应处于职业生涯巅峰的Amodei，其团队不仅提出了预测模型性能提升的“缩放定律（Scaling Laws）”，还开创了基于人类反馈的强化学习（RLHF）技术，旨在减少模型的有害输出。

然而，他愈发确信自己不会继续参与GPT-4的开发。

他认为Sam Altman是一个“两面派的操纵者”，而总裁Greg Brockman则是“贪恋权力且不顾后果”。他对他们将OpenAI商业化的决策表示强烈反感，认为这背离了“不受财务回报需求限制”的初衷。

一位与Amodei有过交流的人士透露，Amodei当时认为OpenAI不过是一场“闹剧”，由“缺乏诚信的人掌控”。这位人士坦言：“每天都有新的危机，如果Dario不大发雷霆，Sam在24小时内就会做出新的疯狂决策。”

当时，马斯克正在撤出OpenAI，公司急需资金。据五位知情人士透露，Brockman和Ilya Sutskever构思了一个名为“国家计划”（“Countries Plan”）的筹资方案：在包括美国及其他大国政府之间举行拍卖，出售OpenAI未来AGI技术的使用权。

他们的逻辑是：AGI具有极高的国家安全意义，迟早会被政府从私营企业手中夺走。既然终究要交出去，何不现在出售以换取发展资金？

“这听起来就像科技人士在推销一个疯狂的初创企业，他们有一个古怪的计划，最后的结果竟然是：让政府来买单。”一位参与该计划的人士回忆。

Amodei对此感到震惊，他认为向政府出售AGI与OpenAI的使命背道而驰。

2017年12月，他给Brockman、Sutskever及其他高管发送了一封直接了当的邮件：

OpenAI的发言人后来向《大西洋月刊》表示，公司“曾短暂考虑将OpenAI转变为一个国际合作项目”，但“从未考虑向任何国家出售AGI”。

这一方案最终因微软的介入而被搁置，但Dario并没有忘记Brockman和Sutskever曾认真讨论的一个他认为“道德上令人作呕”的想法。

随后的两年中，裂痕不断加深。Amodei开始记录他认为被Altman误导的时刻。

例如，在GPT-3的私人内测期间，Amodei索要了一份获批客户名单。Altman发给了他一份，但Amodei随后声称发现了另一份更长的获批名单，而Altman对此只字未提。

再比如，在与微软谈判10亿美元投资时，Amodei极力要求保留OpenAI章程中的“合并与协助条款”——即如果有更安全的AGI项目出现，OpenAI应停止竞争并协助对方。他坚信微软无权否决OpenAI未来可能的被收购（这是实现合并协助的最可能方式）。

Altman告诉他，微软不同意这个条款。但Amodei坚信，Altman是为了急于达成交易而妥协（或者根本没有提及），然后对他撒了谎。

还有一些看似荒诞的商业决策让Amodei无法忍受。2020年，Altman会见说唱歌手Kanye West，并提议让他参与GPT-3的内测。当时Kanye刚发布了一段疑似对着格莱美奖杯小便的视频，精神状态极不稳定。政策总监Jack Clark最终出面阻止了这个危险的提议。

单看这些事情或许不足以让人辞职，但在Amodei的脑海中，它们拼凑出了一个结论：绝不能将如此强大的技术交到这样的人手中。

Amodei的妹妹Daniela Amodei对OpenAI也感到厌倦。

作为一名曾在政界工作且情商极高的管理者，Daniela成为了哥哥技术狂热的补充。然而，随着她接管更多技术团队，与管理层的冲突日益加剧。

有趣的是，Daniela有一套独特的冲突处理机制——毛绒玩具顾问团。

她与董事会成员Holden Karnofsky收集了大量毛绒玩具，并为它们分配角色：懒惰的猫Jinji鼓励她减少会议、降低工作量；注重细节的粉红熊Maura是A型管理者；而熊猫Beary Bonds则是“慷慨与同理心的守护者”。她用这种半开玩笑的方式进行管理角色扮演。

来源：Odaily星球日报