新手失误还是心理战?剖析一起AI智能体安全漏洞
一起涉及AI智能体的低级安全失误正被渲染成一则恐吓故事,这对任何想要清楚了解AI究竟有多大风险的人来说都不是好消息。
- AI智能体一开始就被赋予了全部权限,包括向一台需要凭证的中央服务器推送代码的能力,而不是从零访问权限起步、仅按需逐步添加。
- 这与标准安全实践完全背道而驰,因此现在有人称其为蓄意布局或"心理战",而非无心之失。
- 质疑在三天内就已浮现,但CBS、福克斯、CNN和《时代》等主流媒体依然在传播"AI很可怕"的版本。
- 一部新的Netflix AI纪录片,以及预计奥巴马将就AI"护栏"发表的言论,将把这种恐惧叙事进一步推向那些没有关注X平台上反驳声音的受众。
展望:预计主流的恐惧叙事将在大多数公众心中固化,并助长对更严格AI监管的呼声,即便怀疑者仍在网上持续剖析这起事件。