亞馬遜正在對其 Alexa+ 的 AI 架構進行重大調整，旨在降低成本並提高運算效率。根據 Business Insider 取得的文件顯示，亞馬遜計劃減少對 Anthropic Claude 模型的依賴，轉而使用自家模型處理更多請求，並通過快取技術和更「確定」的回應機制，減少不必要的推理運算。
成本壓力驅動架構調整
文件時間範圍為去年底到今年初，顯示亞馬遜希望提升每顆 GPU 的使用效率，以便在不大幅增加硬體投資的情況下，處理更多的客戶請求。規劃預估，通過這些軟體調整，Alexa+ 的可用運算容量可以提升約 50%，回應時間縮短約 40%。
預測顯示，Alexa+ 的 AWS 雲端成本在今年可能達到約 17 億美元，幾乎是前一年的三倍，且比亞馬遜設定的每月活躍用戶雲端成本目標高出約 60%。即使已經找到了約 4.5 億美元的潛在節省空間，評估仍認為很難達成財務目標。
從「模型更聰明」到「模型更便宜」
Alexa+ 與早期版本不同，許多回應現在需要依賴 GPU 密集型雲端服務的大型語言模型，使得原本成本較低的語音查詢變成了昂貴的 AI 負載。隨著美國擴大上線，亞馬遜面對的算力和支出壓力也同步升高，甚至考慮延後部分最昂貴的 AI 計畫，如 Alexa 進階代理核心的 Project Moonraker。
文件還顯示，亞馬遜正在嘗試縮小 Claude 模型在 Alexa+ 中的使用範圍，將部分專門的 Alexa「Experts」從 Claude Sonnet 轉移到自家模型，在適合的情況下直接使用快取回應，不再呼叫 Claude。這反映了 AI 產業的競爭焦點，已經從「模型更聰明」轉向「模型更便宜」。
評估晶片選擇，追求成本效益
亞馬遜也在評估 Nvidia GPU 與自家 Trainium 晶片哪個是更低成本的運算方案。Nvidia 的 GPU 在市場上享有高度評價，但成本相對較高；而 Trainium 晶片則是亞馬遜為了降低運算成本而設計的專用晶片。
亞馬遜的這些調整不僅是为了降低成本，更是為了在激烈的市場競爭中保持領先。
從產業面來看，亞馬遜的這些調整反映出 AI 產業正在經歷一次深刻的轉變。過去，企業主要關注的是如何打造更聰明的模型，但現在，成本效益成為了關鍵因素。亞馬遜的策略調整，無疑會對整個 AI 行業產生影響，其他科技巨頭也可能會跟隨這一趨勢。
展望與影響
亞馬遜的這些調整不僅會對其自身的財務表現產生影響，還可能會引發整個 AI 行業的變化。未來，我們可能會看到更多企業將重心放在提高模型的成本效益上，而不是一味追求技術上的突破。這將有助於推動 AI 技術的普及，使其能夠惠及更多用戶和企業。
亞馬遜的這些調整也提醒我們，技術創新並非只有技術本身，成本控制和商業模式的創新同樣重要。對於普通用戶而言，這意味著未來的 AI 產品可能會更加經濟實惠，並且能夠更好地滿足他們的需求。
如果你對亞馬遜的這些調整有什麼看法，或者有什麼問題想要了解，歡迎在留言區分享你的想法！
本文改寫整理自公開新聞來源，原始報導由科技新報發布。
常見問題 FAQ
亞馬遜為什麼要調整 Alexa+ 的 AI 架構？
亞馬遜調整 Alexa+ 的 AI 架構主要是為了降低成本並提高運算效率。隨著 Alexa+ 的用戶增加，雲端成本大幅上升，亞馬遜需要通過技術調整來控制成本。
調整後的 Alexa+ 有哪些主要變化？
調整後的 Alexa+ 將更多依賴自家模型處理請求，減少對 Anthropic Claude 模型的依賴。此外，通過快取技術和更「確定」的回應機制，減少不必要的推理運算，提升運算效率。
這些調整會對用戶體驗有什麼影響？
這些調整主要是在後端進行，用戶可能不會直接感受到變化。然而，隨著運算效率的提高，用戶可能會享受到更快的回應速度和更穩定的服務。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
