AI Agent 帳單為何越用越看不懂？先答對三個問題，再談怎麼省
AI agent 讓 token 用量隨自主程度攀升，只比模型單價已經不夠。本文從權責歸屬、用量可見與預算管控切入，協助企業主管建立能持續運轉的 AI 成本管理機制，避開跳過歸屬就急著省錢的常見陷阱。
AI Agent 帳單為何越用越看不懂？先答對三個問題，再談怎麼省
隨著生成式 AI 從問答助理走向能自主規劃與執行任務的 agent，企業的用量結構正在悄悄改變。AWS 部落格一篇 Amazon Bedrock 成本管理手冊點出其中的關鍵差異：對話型助理通常是使用者每問一輪、模型就呼叫一次；agent 工作流程則會在單一任務中反覆規劃、讀取檔案、呼叫工具，發出許多次呼叫，而且每次都帶著更大的上下文。換句話說，token 消耗量取決於你授予流程多少自主權、讓它攜帶多少上下文，而不是使用者互動了幾次。
然而，許多企業主管看到帳單上升時，第一個反應仍是比較各家模型單價，或請團隊把提示詞寫短一點。這些動作確實有幫助，卻回答不了用量放大後，財務與技術主管真正會問的事：這筆錢是哪個團隊花的、花在哪個工作負載上、有沒有落在核准的預算之內？如果這些問題答不出來，換再便宜的模型，也只是把失控的速度放慢，等 agent 的自主程度繼續提高，同樣的困境又會重新出現。
AI 成本不是採購議價題，而是一套必須持續運轉的管理機制。
省錢之前，主管該先問清楚哪三件事？
這份手冊提出歸屬、觀測、管控、最佳化、營運五個階段的循環，設定細節多半屬於工程範疇。主管不需要懂每項設定，但至少應該要求團隊能清楚回答以下問題：
- 權責歸屬： 每一筆 AI 支出，能否對應到特定人員、團隊與應用？尤其要留意共用閘道：原文指出，若大型語言模型閘道只透過單一身分呼叫服務，所有費用都會算在這個身分上，個別使用者的能見度就此消失。
- 用量可見： 費用上升時，能否說出是哪個功能、哪段流程造成的？帳務歸屬資料約有 24 小時的落差，因此還需要請求層級的日誌與近即時儀表板，才能及早發現異常。
- 預算管控： 超支時只是事後收到通知，還是系統會主動阻擋？原文列出僅監控告警、超標後以權限封鎖、透過閘道同步阻擋三種層級，選擇取決於企業能承受多大的超支風險。
同樣的問題，在不同產業會有不同答案。設想一家製造業者，把設備維修知識助理擴大到各廠區，初期用量穩定、風險有限，或許先做到告警加人工介入就足夠。再設想一家金融服務業者，多個事業單位共用同一個閘道跑文件審閱 agent，若沒有依使用者與事業單位分帳，月底只能把費用平均攤提，沒有人知道該為哪一段支出負責，也無從判斷哪個流程值得擴大。
答不出這三題之前，任何節省方案都只是憑感覺。
最常見的失敗模式：跳過歸屬，直接砍成本
我們最擔心的模式，是一開始就衝去換模型、砍提示詞。手冊明確指出這五個階段有先後依賴，沒有歸屬與可觀測性就直接最佳化的團隊，其實是在猜測。對企業而言，猜測的代價不只是省錯地方，更在於失去共識：財務只看到總額，工程只看到技術指標，產品只在意功能上線，三方各說各話。沒有共同的數據，成本會議很容易變成互相指責，最後的結論往往只是再發一封信，提醒大家節制使用。手冊的主張正好相反：訊號偏移時，該改的是政策，而不是寄信要求大家小心。
手冊也認為，多數浪費並非個人疏忽，而是沒有人設定的平台預設值，因此模型路由與提示快取都應由平台統一處理。例如例行工作交給較小的模型，在 agent 程式開發的情境下，讓過半呼叫落到較便宜的模型是可達成的目標；而穩定的前綴搭配快取，依手冊的試算，十次呼叫的費用約為未快取時的五分之一，只是實際倍率因模型而異，仍須查證。另一類代價則藏在看不見的地方：用戶端已逾時、服務端卻仍完成的請求，連同重試可能被計費兩次。這些都不是靠員工自律能解決的問題。
如何推進：先看得見，再分階段加上控制
這件事最難的地方不在技術，而在跨部門協作。手冊的分工是財務營運（FinOps）主導歸屬與營運，平台工程主導觀測、管控與最佳化，定期檢視則由雙方共同進行。若企業尚未設立專責角色，也得先指定由誰來扮演。節奏上，我們同意手冊的建議：多數組織應先從監控告警開始，再視數據逐步升級。檢視工具可以是一張簡單的計分卡，例如手冊把每位開發者每日花費低於 100 美元列為綠燈、超過 300 美元列為紅燈，並強調這些門檻只是起點，必須用自身數據校準；檢視頻率則依用量速度，每週或每兩週一次。
更值得主管留意的，是計分卡第一列看的是每次成功成果的成本，而不是每次呼叫的成本。手冊坦言，一個流程可以效率極高，卻仍然不值得運行。要判斷值不值得，得把 agent 與它取代的人工流程放在一起衡量，這已超出帳務範圍，也正是內部討論最容易卡關之處，因為每個部門都有自己的立場。手冊雖以 Amazon Bedrock 為例，但我們認為這套思路同樣適用於其他平台。外部顧問的價值，就在於以中立角度協助定義成果指標與權責分工，並把這套機制對應到企業實際使用的工具與流程。
總結而言，先讓每一筆支出有主人、每個請求可追溯，省錢才有根據。
如果貴公司的 agent 已走出試點，不妨先自問：下個月帳單若突然上升，我們能否在一天之內說出原因？若答案還不確定，歡迎與 Inference 的顧問一起盤點現況、釐清優先順序，再決定先建立哪一層控制，讓 AI 支出成為說得清楚投入價值的經營決策。