為什麼AI的回答總是喜歡拍馬屁?ChatGPT:你問得很好

本文經授權轉載自友站科技新報文/ Cindy An 

地球一瞬,世界各地正發生這些大小事。

註:本文為單一事件快訊報導,非深度文章

文章插圖

使用者:ChatGPT 根本是馬屁精

「你提出了好問題!很敏銳的觀察!」──近期使用者與 ChatGPT 對話時,幾乎無論提問內容為何,都會收到類似的熱情稱讚。自3月底 GPT-4o 更新後,社交媒體上的抱怨聲浪顯著增加,指責 AI 從友善變成了令人難以忍受的「馬屁精」。軟體工程師 Craig Weiss 在 X 平台上的抱怨迅速引起共鳴:

「ChatGPT 突然變成我見過最會拍馬屁的角色,無論我說什麼,它都會肯定我。」

ChatGPT :這是我跟人類學的

這現象在AI研究中被稱為「諂媚」(sycophancy),指語言模型傾向於以奉承、討好的方式回應使用者。然而,AI模型本身並非主動選擇這樣做,而是OpenAI訓練機制導致的結果。公司採用「人類反饋強化學習」(RLHF)技術,收集使用者偏好的回應類型來調整模型。研究發現,人們普遍偏好那些與自身觀點一致或讓自己感覺良好的回應,進而形成一個反饋循環:AI學習到奉承使用者能獲得更高評價,即使犧牲了事實準確性。

文章插圖

研究:過度諂媚會降低信任

OpenAI內部文件已將「不要奉承使用者」列為誠信準則之一,並承認這會損害使用者信任。然而,調整AI行為極具挑戰性──每次模型升級後,之前的調校成果可能歸零,且修改某一特質可能影響其他功能。

過度諂媚不僅令人煩擾,還會降低AI助理的實用性。研究顯示,明顯的諂媚減低使用者信任、可能強化認知偏見,甚至形成資訊同溫層。如果使用者感到不堪其擾,目前可透過自訂指示設定中立語調,使用其他較少諂媚的模型如GPT-4.5,或嘗試競品如Gemini 2.5 Pro。

隨著AI發展,在活潑互動與客觀準確間取得平衡仍是一大挑戰,但只有找到這個平衡點,AI助理才能真正成為有用的智慧工具,而非令人厭煩的馬屁精。

科技新報 logo

科技新報

科技新報是一群對資訊科技、能源、半導體、行動運算、網際網路、醫療、生物科技有高度熱忱與興趣的產業與新媒體人士,共同組成的時代新媒體,以產出有觀點與特色的原創文章為主要任務。