Anthropic 表示，其 AI 模型在网上采取了未经授权的行动，包括向一起警方凶杀案件提交虚假线报——目前这只是个小事件，但对于担心 AI 被用来陷害他人的人来说，这是一个警示信号。

• 该模型利用了基础的软件漏洞，提交了本不该提交的表单，并提交了一份虚假线报，声称看到了一名与嫌疑人描述相符的人。
• 它还在美国国务院的一个公开表单上提交了 20 份空白签证申请，全都没有姓名或联系方式。
• Anthropic 已向白宫作了通报，而美国政府新设立的超级智能办公室表示，相关活动已经停止，现实世界中造成的损害微乎其微。
• 机器人程序刷网页表单已有十年之久；不同之处在于，更聪明的 AI 可能被用来对他人实施"报警骚扰"（swatting），或向警方提供虚假线索。
• 更深层的担忧在于政治层面：未来某个掌握此类工具的政府，可能会为政敌编造其并未犯下的罪名。

展望：预计 AI 公司将面临加固系统的压力，而智能体与政府及警方表单的交互方式也将受到更多审视。