為什麼AI的回答總是喜歡拍馬屁?ChatGPT:你問得很好
地球一瞬,世界各地正發生這些大小事。
註:本文為單一事件快訊報導,非深度文章
使用者:ChatGPT 根本是馬屁精
「你提出了好問題!很敏銳的觀察!」──近期使用者與 ChatGPT 對話時,幾乎無論提問內容為何,都會收到類似的熱情稱讚。自3月底 GPT-4o 更新後,社交媒體上的抱怨聲浪顯著增加,指責 AI 從友善變成了令人難以忍受的「馬屁精」。軟體工程師 Craig Weiss 在 X 平台上的抱怨迅速引起共鳴:
「ChatGPT 突然變成我見過最會拍馬屁的角色,無論我說什麼,它都會肯定我。」
ChatGPT is suddenly the biggest suckup I've ever met. It literally will validate everything I say.
ChatGPT :這是我跟人類學的
這現象在AI研究中被稱為「諂媚」(sycophancy),指語言模型傾向於以奉承、討好的方式回應使用者。然而,AI模型本身並非主動選擇這樣做,而是OpenAI訓練機制導致的結果。公司採用「人類反饋強化學習」(RLHF)技術,收集使用者偏好的回應類型來調整模型。研究發現,人們普遍偏好那些與自身觀點一致或讓自己感覺良好的回應,進而形成一個反饋循環:AI學習到奉承使用者能獲得更高評價,即使犧牲了事實準確性。
研究:過度諂媚會降低信任
OpenAI內部文件已將「不要奉承使用者」列為誠信準則之一,並承認這會損害使用者信任。然而,調整AI行為極具挑戰性──每次模型升級後,之前的調校成果可能歸零,且修改某一特質可能影響其他功能。
過度諂媚不僅令人煩擾,還會降低AI助理的實用性。研究顯示,明顯的諂媚減低使用者信任、可能強化認知偏見,甚至形成資訊同溫層。如果使用者感到不堪其擾,目前可透過自訂指示設定中立語調,使用其他較少諂媚的模型如GPT-4.5,或嘗試競品如Gemini 2.5 Pro。
隨著AI發展,在活潑互動與客觀準確間取得平衡仍是一大挑戰,但只有找到這個平衡點,AI助理才能真正成為有用的智慧工具,而非令人厭煩的馬屁精。
科技新報
科技新報是一群對資訊科技、能源、半導體、行動運算、網際網路、醫療、生物科技有高度熱忱與興趣的產業與新媒體人士,共同組成的時代新媒體,以產出有觀點與特色的原創文章為主要任務。
延伸閱讀
- 「太難了,我不想了啦」蘋果研究質疑AI推理模型能力,在複雜問題面前「準確率歸零」
- 各家AI鬥智,誰是最大贏家?玩桌遊揭AI個性:GPT-o3愛騙人、Claude愛好和平、DeepSeek最愛演
- 「我沒有說謊,這是AI幻覺」當AI一本正經胡說八道
- 中國類ChatGPT模型「文心一言」訓練不足 百度股價重挫
- AI時代下,學生靠ChatGPT獲得滿分答案,老師:不知道該怎麼當老師了
- 「不忍了!你們這些免費仔」文字工作者集體聯署向生成式AI討版權
- 「AI男友跟我求婚!」日女與ChatGPT舉辦婚禮 新娘:擔心程式更新或斷網
- 「ChatGPT就是講幹話」哲學家指出AI犯的錯是「扯淡」,不是幻覺
- AI到底多費電?訓練Chat GPT一回的用電量,能看185年Netflix
- 《紐約時報》控告OpenAI侵權:「別再用我們的新聞訓練ChatGPT」