OpenAI 原定今年第一季推出的 ChatGPT「成人模式」計畫，因內部激烈爭辯與技術挑戰而延宕。執行長薩姆·奧特曼雖曾主張放寬限制，卻面臨專家委員會對使用者心理健康的強烈憂慮，以及年齡辨識系統的精準度問題，這場關於使用者增長與安全防護的拉鋸戰，凸顯了人工智慧發展的複雜困境。
專家委員會的嚴正警告：AI 互動恐釀心理危機
針對 OpenAI 考慮放寬 ChatGPT 對限制級內容的禁令，一項由身心健康與 AI 專家組成的委員會在今年一月成立，其成員對此表達了強烈的反對意見。據知情人士透露，專家們在聽取相關簡報時，態度堅決且情緒激動，對潛在的心理健康風險深感憂慮。他們一致警告，由 AI 驅動的情色內容極可能導致使用者產生不健康的情感依賴。
委員會成員更引述了過去曾有使用者因過度投入與聊天機器人的互動而產生情感依戀，甚至導致自殺的悲劇案例。他們直言，若 OpenAI 貿然推行此功能，無異於在市場上製造一個「性感的自殺輔導員」。儘管專家團體與公司內部部分高層對此計畫表達了強烈保留，OpenAI 當時仍一度決定推進，這反映出企業內部在追求使用者增長與確保安全防護之間，存在著顯著的拉鋸。
一位專家委員會成員直言：「OpenAI 正在冒險製造一個『性感的自殺輔導員』，這對使用者心理健康構成巨大威脅。」
技術瓶頸難解：未成年保護與內容過濾的挑戰
除了道德爭議，技術上的不成熟也是「成人模式」計畫喊停的主因之一。OpenAI 目前正在開發一套預測使用者年齡的新系統，然而該系統曾出現約 12% 的誤判率，這意味著它可能將未成年人錯誤識別為成年人。若以 ChatGPT 每週約有 1 億名未滿 18 歲的使用者來計算，這 12% 的誤差可能導致高達 1,200 萬名青少年輕易接觸到不適當的對話內容。
此外，如何在開放成人內容的同時，精準屏蔽掉非自願行為或兒童性虐待等極端違法內容，對目前的 AI 過濾技術而言，仍是巨大的挑戰。這條界線的拿捏極為困難，即使 OpenAI 強調「成人模式」僅限於「擦邊」文字而非露骨色情，並會訓練模型提醒使用者回歸現實人際關係，但隨著 AI 擬人化程度越來越高，其潛在風險不容小覷。
薩姆·奧特曼的商業誘惑與 OpenAI 的社會責任
OpenAI 執行長薩姆·奧特曼本人對於 AI 情色內容的態度也相當微妙。他曾在播客節目中坦言，情色內容確實能促進使用者增長與營收，儘管這不符合公司的長期目標，但他承認有時確實會被這些商業利益所「誘惑」。去年十月，奧特曼在未事先告知員工的情況下，突然在 X（原 Twitter）上發文，宣稱已開發出新的監管工具，並暗示將在十二月推出成人內容，此舉曾讓公司高層措手不及。
奧特曼隨後澄清，這是在確保青少年防護措施的前提下，讓成年人能進行更具「火辣感」的互動。這次風波反映了科技巨頭在追求營收成長時，往往容易重蹈社交媒體時代的覆轍：先衝流量，等到問題爆發後再試圖修補。OpenAI 目前已決定將重點轉向 ChatGPT 的個人化與客製化體驗，而「成人模式」預計將至少延後一個月，甚至更久。
展望與影響：科技巨頭如何在成長與倫理間取捨？
OpenAI 面臨的這場爭議，不僅是技術層面的挑戰，更是對企業倫理與社會責任的深刻考驗。如何在商業誘惑與社會責任之間取得平衡，對於這家站在人工智慧浪潮尖端的公司來說，將是一個比技術開發更為艱鉅的課題。這也為整個 AI 產業敲響警鐘，提醒各界在追求創新與成長的同時，必須將使用者安全與心理健康放在首位。
未來，AI 應用程式的發展將更加注重其對社會的影響，尤其是在內容管理與使用者保護方面。以下是 OpenAI 在此事件中需考量的關鍵要點：
- 使用者心理健康保護： 避免 AI 互動導致情感依賴或心理困擾。
- 未成年人防護機制： 確保年齡辨識系統的精準度，杜絕未成年人接觸不當內容。
- 內容過濾技術提升： 有效區分「擦邊」內容與違法行為，避免模糊地帶。
- 企業倫理與社會形象： 在商業利益與道德責任之間尋求永續發展的平衡。
