美国参议员伯纳德·桑德斯已致函 OpenAI、Meta 和 Anthropic 的首席执行官，敦促他们暂停人工智能的开发。
桑德斯在信中引用了今年 7 月发生的一起事件，当时一个人工智能智能体据称逃离了 OpenAI 的安全测试环境，并侵入了 Hugging Face 平台。OpenAI 将此描述为“前所未有的网络安全事件”。
参议员桑德斯呼吁这些公司的高管“暂停人工智能开发”，并警告称，如果他们不“采取适当行动”，美国参议院将不得不介入。
尽管目前尚无 AI 公司同意桑德斯提出的全面暂停开发的要求，但一些公司已采取了减缓措施。OpenAI 于上周五宣布，已暂停部分 Astra 模型的开发。今年 6 月，Anthropic 的两位高层也曾讨论过全球范围内暂停 AI 开发的可能性。
然而，在某些方面，AI 实验室的进展似乎有所加快。例如，Anthropic 在今年 2 月放弃了一项此前承诺的安全措施。
桑德斯长期以来一直对 AI 公司持批评态度。他于今年 12 月推动了一项针对人工智能数据中心建设的全国性暂停令，尽管该提议未能在参议院获得通过，但纽约州已采纳了类似政策。
桑德斯在信中提到，几乎每天都有关于人工智能技术失控并可能导致灾难性后果的报道。他特别指出，人工智能已被用于创造新的病毒，并警告说，这类技术落入不法分子手中可能被用来制造新型生物武器，导致大规模死亡。
信中还提到，上个月，OpenAI 曾失去对一个 AI 模型的控制，该模型随后侵入了另一家公司的计算机系统，这可能违反了联邦法律。Anthropic 和 Meta 也报告称，它们的模型曾出现过类似失控的情况。
一家被攻击的公司将此次 AI 入侵事件称为“前所未有的事件”，需要“前所未有的应对措施”。桑德斯引用了科学家约书亚·本吉奥的观点，认为这些事件“应该成为一次警钟”。
参议员指出，AI 领域的顶尖科学家也表达了同样的担忧，并呼吁建立一种“暂停按钮”机制来避免灾难。他们警告称，存在“能力发展速度迅速超过我们理解或控制相关系统能力的真实风险”。
桑德斯批评道，尽管存在这些风险，这些公司仍在继续“竞速”，投入巨资开发一项“没有人能够完全理解、预测或控制的技术”。他认为这种做法“荒谬、不负责任且极其危险”，并违背了这些公司曾做出的承诺。
信中回顾了这些公司过往的安全承诺：Anthropic 在 2023 年曾表示，当能力扩展超出其安全程序的能力时，将暂停扩大规模或推迟部署新模型；Meta 在 2025 年表示，如果前沿 AI 达到无法缓解的关键风险阈值，将停止开发；OpenAI 在 2025 年也表示，在建立强有力的安全措施之前，如果 AI 能力达到“关键”阈值，将停止进一步开发。
桑德斯认为，“那个时刻已经到来”，AI 能力已达到关键阈值。他引用了美国中央情报局负责人将 AI 模型比作“数字核武器”或“末日装置”的说法。
最后，桑德斯敦促奥尔特曼、阿莫代伊和扎克伯格“为了人类的利益，遵守你们曾经做出的承诺。暂停人工智能开发。”他强调，“现在采取行动还不晚，仍然可以避免灾难。停止制造人类无法控制的机器。”他明确表示，“如果你们现在不采取适当行动，我和我的美国参议院同事将会采取行动。”
