黄仁勋倾向加速，阿莫迪主张减速

正文：

前沿人工智能的加速发展或是停滞不前，已经成为硅谷当前最具争议的话题。

围绕这一争议，硅谷的主要企业领袖们开始分成不同阵营。阿莫迪、奥特曼、马斯克和哈萨比斯组成了“暂停派”，而黄仁勋则坚定站在“加速派”一方，批评“AI 末日论”缺乏科学依据。杨立昆也不遗余力地嘲讽阿莫迪，指出阿莫迪在OpenAI工作时曾认为GPT-2的开源是危险的，并表示自己对此曾公开嘲笑。

相对而言，扎克伯格和纳德拉则表现得较为中立。

各大巨头的分歧表明，硅谷对于前沿模型的暂停并未达成共识，这主要源于他们在AI产业链中的不同生态位。处于模型层面领先地位的企业可以基于不同理由呼吁暂停，但想要让掌握数千亿美元算力订单的甲骨文、AWS及英伟达等顶尖企业停下脚步，是不可能的。

在华盛顿，“暂停”呼声不仅未能获得支持，反而引发了一系列质疑。

JD 万斯在接受采访时表示：“这有点特洛伊木马的感觉。”这句话反映出华盛顿的真实想法——当制造木马的企业不断要求收紧门槛时，应该审视这扇门究竟适合哪些企业。

这一争论的导火索是Anthropic研究员雅各布·考克森的辞职。

考克森曾在OpenAI和Anthropic从事了三年的预训练研究，亲历了最前沿模型的训练。在社交媒体上的长文中，他毫不客气地指出：“这两家公司都没有负责任地行事。它们正径直冲向可自我改进的超级智能，拿我们的生命下注。”

他还明确表示，实验室内部成员确实相信AI可能在十年内危害人类，这并非公关表演。许多同事开始用“关键时刻”和“终局”来描述当前阶段。考克森甚至放弃了即将获得的股权，因为他在Anthropic只待了四个月，而公司规定需六个月才能行权。

紧接着，Anthropic负责对齐科学的埃文·休宾格公开回应称，雅各布的看法是正确的，“我们真的相信AI可能会对人类构成威胁”，他个人认为这一可能性在十年内超过10%。他表示，Anthropic正在努力，但尚未制定出清晰的超级智能对齐计划，距离目标仍有很长的路要走。

考克森和休宾格的言论，将这一担忧从实验室内部推向了公众视野。在此背景下，Anthropic创始人兼CEO阿莫迪发表了长文，系统性地提出“放缓前沿研究”的观点。他不再仅仅提及“多投安全”，而是明确要求主动控制技术进步的速度，为安全机制争取时间。

他建议采取三步走的策略：首先由Anthropic引入独立评估者；其次推动民主国家的AI公司建立共同的安全标准和能力增长上限；最终尝试实现全球协调。

奥特曼、马斯克和哈萨比斯很快对此表示支持，形成了“暂停派”。

在考克森与阿莫迪的“减速”论出现之前，约书亚·本吉奥和杰弗里·辛顿这些“AI教父”们一直在发声关注风险。

本吉奥谈到考克森的辞职时指出，前沿AI实验室的科学家往往比公众更早洞察最新模型的能力，因此他们的风险判断应受到重视。

同时，他举例表示，当前AI系统已经具备黑客攻击和说服能力，如果被滥用可能会造成严重后果。他还担心，随着AI具备更长时间跨度的规划能力，这些风险可能会进一步扩大。

在被BBC询问关于AI在未来十年内“杀死所有人类”概率超过10%时，辛顿表示这个观点“并非不合理”，但同时强调没有人能够给出一个可靠的估计，因为人类从未面对过“可能很快比我们更聪明的物种存在”。

辛顿认为，AI未来可能被用于设计危险的生物病毒、计算机病毒以及发动大规模网络攻击，因此人类需要在风险失控之前找到有效的控制方法。

与倡导“暂停”的硅谷领袖们相比，“AI教父”们更多地呼吁关注风险，并探索建立风险控制机制，而不是直接要求减速。此外，学术界的意见和建议相对单纯，而前沿实验室的倡议尽管表面上看似“为了人类”，仍然难以完全摆脱商业考量。

这正是JD万斯所说“暂停论”像特洛伊木马的原因。

当前，硅谷内部形成了“加速派”、“减速派”和“中间派”的阵营。来源：纽约时报

9月15日，多位科技公司领袖在Salesforce Dreamforce大会上发表讲话，使得这场争论变得更加直接和激烈。

当日，阿莫迪、黄仁勋和奥特曼均提到AI安全问题，但他们对于发展速度、安全责任及企业应采取的行动给出了不同的看法。

阿莫迪与Salesforce首席执行官马克·贝尼奥夫同台时，再次强调AI企业应通过自身行动树立更高的安全标准。他认为，企业主动采取更严格的安全措施，可以推动整个行业向前发展。

换句话说，阿莫迪的态度发生了变化，从呼吁全行业减速转向企业自主增加安全护栏。

黄仁勋则表示“不需要新的法律，也不需要新的监管”。在他看来，速度与安全并非对立关系，企业可以快速推进模型开发；如果发现失控或产品无法确保安全，便应暂停以解决问题。

贝尼奥夫的态度则更为开放，他表示，如果企业认为应该减速，就应减速；如果觉得应该加快，则应该加快，并对自己的决定负责。

OpenAI创始人兼CEO奥特曼在Dreamforce现场表示，他非常有信心OpenAI及整个AI行业能够在不对公众造成重大伤害的情况下安全发展。同时，对外界将其观点理解为支持行业减速感到失望。

换句话说，奥特曼也开始转变，强调他想表达的并非呼吁行业减速，而是安全和监控工作应优先于能力提升。

来源：Odaily星球日报