根據 NVIDIA 執行長黃仁勳上週五分享的公開信，聯合多家科技公司敦促政策制定者不應對來自中國的開放權重模型（open-weights models）過早施加限制，此舉引發了廣泛討論。Anthropic 執行長阿莫迪（Dario Amodei）則在 4 天後發表長文，表達自己和公司的立場。
Anthropic 的立場
阿莫迪強調， Anthropic 從未主張禁止開放權重模型。「許多科技公司簽署了一封支持開放權重模型的公開信，甚至有人指控 Anthropic 想要禁止開放權重模型，藉此作為保護自身業務的手段。任何讀過我過去文章的人都應該知道，我不認為這類禁令是一項有用的措施。」阿莫迪表示。
開放權重模型的雙面刃
阿莫迪認為，開放權重模型所屬的範疇與中國構成的威脅不同。「那些不具備危險能力的開放權重模型，乃是一項公共財：它們除了運行所需的運算資源別無其他成本，能為各家企業、開發者及研究人員帶來價值。」然而，他也指出，開放權重模型可能比閉源模型有更高的風險。
兩大擔憂
阿莫迪重申他在 6 個月前寫下〈科技的青春期〉（The Adolescence of Technology）中闡述的兩件事，一直是他所擔憂的：一是威權政府打造出比美國更強大的模型，並運用那些模型來達成永久的軍事優勢，或對其人民進行令人難以置信的深度鎮壓，而中國共產黨顯然是對美國最強的威脅。二是強大的模型可能遭到濫用，以執行網路攻擊或生物攻擊，並且可能存在嚴重的對齊問題。
三項因應策略
為了應對這些威脅，阿莫迪支持以下三項措施：
- 不應向中國銷售強大的晶片或晶片製造設備，且要嚴加打擊走私和各種變通手法以取得先進晶片，這是阻擋中國威脅最直接、最有效的方法。
- 嚴加打擊工業規模的「蒸餾」行動，蒸餾不能讓中國共產黨取得與美國同級、甚至更優異的 AI 能力，但能將中國模型水準拉近至落後美國數個月的差距。許多執行蒸餾行動的中國公司會推出開放權重模型，而這些行動的背後有中國政府的支持，美國政府應有相關政策介入，嚇阻這類行為。
- 所有能力足夠強大的模型，無論開源或閉源，應進行強制性的安全測試，針對網路、生物及對齊風險進行測試，通過測試的模型才能釋出。
阿莫迪認為，開放權重模型可能帶來的風險遠大於其帶來的價值，特別是在當前的政治和技術背景下。他呼籲政策制定者和業界共同合作，制定出既能促進創新又能夠確保安全的政策措施。
數據背後的啟示
阿莫迪認同公開信中的許多內容，但不同意信中關於開放權重模型必然更容易開發安全措施，或者廣泛獲取能力有利於防禦者而非攻擊者的論點，他認為前述可能性恐怕相反。阿莫迪舉例，能力足夠強大的模型，可能運用廣泛取得的材料，迅速將大流行等級的病毒加以武器化。而針對這些病原體的防禦，即使最理想的情況下，可能需要耗時數年才能全面控制。諸如此類的問題，應透過嚴謹的釋出前測試來驗證。
面對中國開放權重模型的進逼，阿莫迪的立場明確且堅定。他呼籲各界正視這些威脅，並採取有效措施，以確保技術的進步不會成為人類的負擔。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
