Anthropic 的一份新报告称，其 Claude AI 被以十几种方式用于与武器、生物研究和黑客攻击相关的活动——对于那些还指望 AI 滥用只停留在理论层面的人来说，这可不是好消息。

• 一个与俄罗斯有关联的行动利用 Claude 帮助编写自杀式无人机的程序，这类无人机可根据外观选定目标并自主发动打击。
• 与中国有关联的团体研究鱼雷系统，一个位于也门的武器小组则探索射程达 2000 公里、由手机制导的弹道导弹。
• 其他用途包括定向能武器和微波武器、供应链攻击、黑客工具，以及用于刺探情报和窃取登录凭据的 AI 智能体集群。
• 最令人不安的部分在于生物领域：对人类感染病例致死率达一半的禽流感毒株、天花近缘病毒以及致瘫毒素的研究——其中一项请求在提出一小时后才被拦截。
• 安全护栏未必守得住，因为竞争对手的模型可以低成本地用 Claude 的输出进行训练，并被剥除这些安全限制。

前景展望：预计 AI 公司将面临更大的滥用监管压力，也会有更多证据表明不法分子已经在设法绕过这些限制。