以色列特工利用虚假网站向AI聊天机器人灌输亲以色列宣传
一场亲以色列的影响力行动正在悄悄操纵AI聊天机器人,使其给出有利于以色列的回答,这对任何信赖AI获取真实事实的人来说都是坏事。
- 以色列正在花钱聘请特朗普竞选团队前顾问布拉德·帕斯凯尔(Brad Parscale)搭建虚假的"新闻"网站,诱使聊天机器人复述亲以色列的论调。
- 这些网站被打造得看似权威——配有要点、来源、简洁的摘要——因此像Perplexity这样的工具会把它们当作真实来源加以引用。
- 询问Perplexity美国是否应加强与以色列的军事关系,它会回答"应该",并引用其中一个被植入的网站。
- 每个网站都附有小字声明,承认其是代表以色列国进行传播的,其背后的操盘者已登记为外国代理人。
- 俄罗斯及其他方也在采用同样的套路,而国会在监管AI方面几乎无所作为,同时还在向英伟达(Nvidia)和OpenAI寻求政治献金。
前景:由于没有针对AI的监管即将出台,加之廉价的开源模型不断扩散,预计会有更多政府和团体向聊天机器人大量灌输植入内容。