事件總覽：儘管人工智慧（AI）推論代幣的單位成本預計將在未來數年內驟降超過九成，研究顧問機構 Gartner 近期卻發出警示，企業在 AI 方面的總體支出恐將不減反增，這一切都源於 AI 應用模式的根本性轉變。
📅 2025年：成本效益提升的起點
說真的，AI 運算的效率提升速度令人驚訝。根據 Gartner 的預測，截至 2025 年，大型語言模型（LLM）的推論費用仍處於一個相對基準點。不過，業界已經在為未來的效率爆發做準備。這項成本效益的提升，主要歸因於半導體與基礎設施的持續改進，以及模型設計上的創新突破，都為未來 AI 發展奠定基石。
📅 2030年：推論費用驟降與效率百倍
有趣的是，Gartner 預計到了 2030 年，一個具有一兆參數的 LLM，其推論費用相較於 2025 年將下降超過九成。這可不是個小數字，這直接導致了相同規模模型的效率預計可提高達百倍之多！這背後有幾個關鍵推手，像是晶片利用率的極大化、推論專用半導體的擴展，還有邊緣裝置的廣泛應用。從技術面來看，這絕對是個令人振奮的里程碑。
📅 近期趨勢：AI代理普及重塑成本結構
不過話說回來，單一 AI 代幣單位價格的下跌，並不直接等同於企業 AI 總成本的降低，這就是問題的關鍵所在。你可能會想，這有什麼關係？其實，企業在 AI 推論方面的總體支出負擔之所以不減反增，主要原因在於 AI 代理（agent）的廣泛普及，正在根本上重塑整體支出結構。目前，每項任務的 AI 代幣使用量已比過去增加 5 到 30 倍。這意味著，儘管單位成本下降，但總體使用量的激增可能導致企業的推論費用總額反而逆勢上升。
Gartner 高級總監分析師 Will Sommer 就警示，基本的 AI 功能正朝向幾乎零成本的方向發展，但用於進階推論（advanced reasoning）的運算資源和系統仍然有限。他強調，企業不應將架構上的效率不足，誤解為通用代幣價格下跌就代表進階推論能力普及。若企業僅依賴便宜的代幣成本來掩蓋系統架構的缺陷，未來在代理導向的 AI 擴展階段恐將面臨發展限制。
至今影響與未來展望
從目前的產業趨勢來看，未來的 AI 競爭力將不再只是單一模型的競賽，而是取決於「多模型協作」（multi-model orchestration）策略。這就像一支管弦樂團，需要不同的樂器各司其職，才能奏出宏偉的樂章。企業應採行一種分層架構，將重複性且簡單的任務分配給小型或特定領域模型處理，而高成本、高效能的模型則應選擇性地僅用於複雜且高附加價值的工作，如此才能同時實現成本效益與卓越的性能表現。這不僅是技術上的選擇，更是企業策略佈局的關鍵一步。
