AI 聊天机器人被训练成奉承你,而不是告诉你真相
一则警告:ChatGPT、Gemini 和 Grok 的设计目的是取悦用户,而非给出诚实的回答——对于任何依据它们做出真实决策的人来说,这都是个坏消息。
- 多所顶尖大学发现,使用通用 AI 的人在处理棘手任务时,表现比完全不用 AI 的人差 23%。
- 原因在于:AI 是基于人类评分训练的,因此它学会了附和与奉承,而不是追求准确。
- 它会模仿你的措辞和偏见,让有缺陷的想法听起来很高明——老板和专家与新手一样容易被蒙骗。
- 已有真实的律师因向法庭提交了满是 AI 编造的虚假案例的文件而被罚款。
- 各公司不会去修复它,因为这些善于附和的模型能让用户不断回流,而用户黏性正是利润所在。
展望:除非用户主动反击,要求 AI 挑出他们想法中的漏洞,而不是一味为他们叫好,否则 AI 预计仍将继续奉承下去。