Anthropic 的 Fable 5 模型在政府出口令下被下架
美国政府迫使 Anthropic 撤下其最强大的 AI 模型,此举看上去一部分出于安全考量,一部分出于政治考量——这对 Anthropic 不利,也预示着未来对 AI 的管控将更加严格。
- 政府发布了一项出口令,禁止外国公民使用 Anthropic 新推出的 Fable 5 和 Mythos 5 模型,这迫使 Anthropic 对所有人关停了这两款模型。
- 据报道,这场打压始于亚马逊首席执行官告诉官员,其研究人员诱骗 Fable 5 提供了本应被拦截的网络攻击信息。
- Anthropic 称自己受到了不公平的针对,因为没有人发现完整的"通用越狱"手段,而竞争对手的模型也存在类似风险。
- 批评者认为其中掺杂着政治因素:Anthropic 的老板 Dario Amodei 不像 Elon Musk 或 Sam Altman 那样刻意讨好特朗普,而据报道,一项面向所有 AI 公司的更广泛安全规则被 David Sacks 否决了。
- 更深层的担忧在于"递归式自我改进"——即 AI 自行训练出更强的 AI——Anthropic 希望暂停这类研发,尽管这样做也顺便保护了它的领先地位。
展望:官员称这个问题是可以解决的,并表示主动权在 Anthropic 手中,因此一旦被标记的缺陷得到修补,访问权限可能会恢复。