當代理式AI的浪潮席捲全球，其潛藏的資安風險正以前所未有的速度浮現，挑戰著傳統防禦思維。面對這股變革，全球網路資安巨擘趨勢科技近日宣布，將與NVIDIA深化合作，共同為NVIDIA在GTC大會上發布的開源代理式AI執行環境「NVIDIA OpenShell」注入核心安全能力，試圖在創新與風險之間築起一道堅實的防線。
表象：科技巨頭的強強聯手
這項合作的表面，是兩大科技領域的領導者攜手，旨在為快速演進的AI生態系統提供更穩固的基礎。NVIDIA，作為AI硬體與平台供應的先驅，其OpenShell環境被譽為代理式AI發展的關鍵一步；而趨勢科技，憑藉其深厚的網路資安經驗，則承諾為這個嶄新的AI執行環境帶來必要的保護。兩者的結合，似乎為企業在擁抱AI生產力之際，預先鋪設了一條相對安全的道路。
真相：代理式AI的雙面刃與資安新公式
然而，這場合作背後，隱藏著代理式AI與傳統AI截然不同的風險本質。傳統AI的資安模型主要針對短暫的使用者與模型互動而設計，但代理式AI卻能長期運作、自我規劃、自主行動，並與其他工具深度互動，這徹底顛覆了既有的安全公式。趨勢科技企業事業群營運長金敬秀一語道破其中的關鍵：
「代理式AI正在改變資安的公式。當AI系統能夠自我規劃、採取行動並與其他工具互動時，其風險特徵將與傳統AI截然不同。與NVIDIA的合作，將安全直接嵌入核心架構，幫助企業以所期望的可視性與控制力來採用代理式AI。」
NVIDIA OpenShell作為一個開源執行環境，支援這些具備自我進化能力的AI代理，雖然能顯著提升生產力，卻也同時引進了如未授權存取、隱藏行為、提示詞注入以及非預期系統存取等一系列新型態的資安威脅，讓企業在享受便利的同時，也面臨前所未有的挑戰。
各方角力：將安全「內建」於核心架構
面對這些新挑戰，NVIDIA與趨勢科技的合作策略，是將資安防護從外部加掛，轉變為直接「內建」於代理式AI的核心架構之中。NVIDIA策略性企業合作夥伴副總裁Pat Lee對此解釋道：
「代理式AI開闢了能夠自我規劃、推理與執行的新應用，透過與趨勢科技的合作，能幫助開發者引入可視性與管控機制，讓自主AI的運行變得更加安全。」
這不僅僅是技術上的整合，更是一種思維的轉變，旨在從源頭上確保自主AI的安全性。具體而言，此次合作範圍廣泛，更延伸至NVIDIA AI Q藍圖與NVIDIA NeMo Agent Toolkit，確保在各種企業環境中擴展的代理式系統，都能具備一致性的安全性、治理能力與可觀測性。這意味著開發者將能從一開始就建立具備安全意識的AI應用，而非事後補救。
深層影響：企業擁抱AI的信心基石
這項合作對廣大企業而言，無疑是一劑強心針。隨著代理式AI的應用日益普及，企業最擔心的莫過於潛在的資安漏洞，可能導致數據外洩、系統癱瘓甚至聲譽受損。透過NVIDIA與趨勢科技的努力，將資安能力直接融入OpenShell等核心平台，企業將能以更高的可視性與控制力，更放心地部署這些先進的AI技術。這不僅能加速AI技術的落地應用，也能確保其在提升生產力的同時，不至於犧牲應有的安全防線，為企業數位轉型提供了堅實的後盾。
未解之問：自主AI的未來挑戰何在？
儘管NVIDIA與趨勢科技的合作為代理式AI的資安奠定了重要基礎，但隨著AI技術的迭代加速，我們不禁要問：未來自主AI的演進還會帶來哪些意想不到的挑戰？當AI系統變得更加聰明、更加獨立，其行為邏輯是否會超乎人類的預期？而企業又該如何持續精進其資安策略，以應對不斷變化的威脅格局，確保這些強大的AI工具始終為人類所用，而非帶來新的風險？這些問題，或許將成為下一個世代資安專家們必須面對的深刻課題。
