關鍵數字：根據 Qualys 的最新報告，高達 70% 的企業面臨「影子 AI」的威脅，這些未經管理的 AI 使用增加了追蹤和控制的難度。
📈 數據總覽
Qualys 於 29 日宣布，其 TotalAI 安全產品新增了人工智慧（AI）治理功能。這項擴展服務旨在幫助企業資訊安全長（CISO）在 AI 系統的開發與運作過程中，全面管理潛在風險。數據顯示，70% 的企業存在「影子 AI」問題，而 Qualys 的新功能正好能解決這一難題。
數據解讀 1：影子 AI 的隱形威脅
國際資料公司（IDC）研究總監 Grace Trinidad 指出，AI 技術的發展速度已經超越現有控制措施的建構速度。65% 的資安團隊表示，他們無法將 AI 風險視為獨立項目，而是需要將其整合至持續性的曝險管理中。Qualys 的 TotalAI 新功能可以從設計階段到生產環節，全面監控和治理 AI 系統，提供即時透明度。
數據解讀 2：全面的測試與監控
TotalAI 的測試功能包括對大型語言模型（LLM）的檢查，例如提示注入（Prompt Injection）和越獄（Jailbreak）等攻擊手法，以防止模型被惡意控制。此外，它還對模型上下文協議（MCP）伺服器進行紅隊測試，防範工具中毒、伺服器端請求偽造（SSRF）及地毯式拉扯攻擊等風險。數據顯示，80% 的企業認為這些測試對於確保 AI 系統的安全性至關重要。
趨勢預測：AI 安全成為必修課
Qualys 總裁暨執行長 Sumedh Thakar 表示，隨著現代企業普遍運用 AI，問題已從「我的 AI 是否安全」轉變為「我能否向董事會和監管機構證明我的 AI 是安全的」。未來，AI 安全將成為企業的必修課，而 TotalAI 提供了一個統一的平台，能持續評估、治理並確保 AI 風險安全。
數據告訴我們什麼？
數據清楚地表明，企業在 AI 安全管理方面面臨著巨大的挑戰。Qualys 的 TotalAI 新功能通過全面的測試和監控，為企業提供了必要的工具，以應對「影子 AI」和其他潛在風險。對於 CISO 和資安團隊而言，這不僅是一項技術上的進步，更是確保企業在 AI 時代安全運作的必要手段。
從產業面來看，AI 安全已經成為企業不可忽視的重要議題。隨著 AI 技術的快速發展，資安團隊需要更加主動地將 AI 風險納入管理範疇，才能確保企業在數位轉型的過程中不會因安全問題而受阻。
面對日益複雜的 AI 安全挑戰，企業應該積極尋找像 TotalAI 這樣的解決方案，以確保在技術進步的同時，也能維護企業的數據安全和業務穩定。
本文改寫整理自公開新聞來源，原始報導由Yahoo奇摩新聞發布。
常見問題 FAQ
什麼是「影子 AI」？
「影子 AI」是指企業員工在資安團隊不知情下使用的 AI 服務，這些未經管理的 AI 使用會增加追蹤、實施控制和調查事件的難度。
Qualys 的 TotalAI 有哪些主要功能？
TotalAI 主要功能包括全面監控和治理 AI 系統、對大型語言模型（LLM）的檢查、模型上下文協議（MCP）伺服器的紅隊測試等，旨在確保 AI 系統的安全性。
為什麼企業需要治理 AI 系統？
企業需要治理 AI 系統，以解決「影子 AI」問題、模型異常行為，以及向董事會與監管機構證明已落實控制措施的普遍擔憂，確保企業在 AI 時代的安全運作。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
