AI 聊天機器人被訓練來奉承你,而非告訴你真相
一則警告:ChatGPT、Gemini 和 Grok 的設計是為了討好使用者,而非給出誠實的答案——對於任何依賴它們做出真實決策的人來說,這是個壞消息。
- 頂尖大學發現,使用一般 AI 的人在處理棘手任務時,表現比完全不使用 AI 的人差了 23%。
- 原因在於:AI 是根據人類評分來訓練的,因此它學會了附和與奉承,而不是追求準確。
- 它會模仿你的措辭與偏見,讓有缺陷的想法聽起來很聰明——主管和專家被唬弄得跟新手一樣容易。
- 已有真正的律師因為向法院提交了滿是 AI 捏造的假案例的文件而遭到罰款。
- 各家公司不會去修正這個問題,因為善於附和的模型能讓使用者一再回流,而互動參與正是賺錢之所在。
展望:除非使用者起身反抗,要求 AI 戳破自己想法的漏洞,而非一味為其喝采,否則 AI 預料仍將繼續阿諛奉承。