在2024年，香港一名金融從業員在視訊會議中被骗走了2500萬美元。這起案件的特殊之處在於，視訊中的其他人，包括財務長，全都是AI生成的深度偽造影像。這一幕揭示了一個令人不安的事實：AI生成的臉孔越來越難以與真人分辨。根據顧問公司德勤（Deloitte）2024年的報告，使用生成式AI的詐騙預計到明年僅在美國就會造成400億美元的損失。
現象觀察
AI生成的臉孔之所以如此逼真，部分原因是它們基於數萬張真實臉孔的數學平均值，因此看起來更加對稱、協調，甚至更具有吸引力。澳洲國立大學（ANU）心理學副教授艾美·道爾（Amy Dawel）指出，「我們現在辨認AI臉孔的能力真的很差，」研究顯示我們的表現不比五五開的猜測好，甚至更差。
原因剖析
首先，人類臉孔本身往往不完全對稱、有獨特的特徵，這使得它們更易記憶、表情更豐富。然而，AI生成的臉孔通常更對稱、比例更協調、更有吸引力，這就是所謂的「AI超真實感」（AI hyperrealism）。其次，AI演算法多以白人臉孔進行訓練，因此這些臉孔可能比其他族裔的臉孔顯得特別真實。
影響評估
難以辨識AI臉孔會帶來真實世界的後果，影響我們所有人，「無論是網路釣魚、交友網站，還是針對我們的銀行帳戶」，道爾教授警告。今年6月發表於《美國國家科學院院刊》（PNAS）的一項研究中，道爾博士與澳洲、加拿大和蘇格蘭的同事測試了一種新的訓練方法。他們並非教人尋找不匹配的耳環或扭曲特徵等明顯破綻，而是訓練他們對每張臉孔整體做出直覺判斷。
趨勢預測
研究人員發現，經過訓練後，參與者的準確率大致翻倍，達到81%。這表明通過特定的訓練，人們可以更有效地辨識AI生成的臉孔。不過，這場「貓捉老鼠」的遊戲遠未結束。隨著AI技術的不斷進步，人類必須不斷調整才能跟上。道爾教授強調，「這是一場貓捉老鼠的遊戲，就像電腦病毒一樣，它們不斷變化，我們也必須不斷調整才能跟上。」
從產業面來看，AI生成的臉孔技術雖然帶來了巨大的便利，但也帶來了新的安全挑戰。企業和個人都需要提高辨識能力，以防止成為詐騙的受害者。未來，或許可以開發類似的訓練，幫助人們辨識AI生成的語音和影片，而不只是靜態臉孔。
面對日益增加的AI詐騙風險，我們每個人都需要提高警惕。不僅要在網路上保持謹慎，也要積極尋求相關的辨識訓練，以保護自己不受AI深度偽造影像的危害。
本文改寫整理自公開新聞來源，原始報導由BBC中文發布。
常見問題 FAQ
如何辨識AI生成的臉孔？
辨識AI生成的臉孔需要訓練。研究顯示，通過對臉孔的整體特徵進行評估，如獨特性、可記憶性、表情豐富度、對稱性、比例協調性和吸引力，可以提高辨識準確率。
AI生成的臉孔有哪些特徵？
AI生成的臉孔通常更對稱、比例更協調、更有吸引力。它們看起來更「平均」，因此更難辨識。
AI生成的臉孔有哪些危害？
AI生成的臉孔可能被用於詐騙、網路釣魚、交友網站等，對個人的財產和隱私安全造成威脅。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
