訂 AI 工具時,大家先看的多半是固定月費。但當 AI 不只回答問題,還會自己接著做下一步,甚至和另一個 AI 來回傳話時,費用就開始跟著用量跑。這種會自己串步驟的 AI,常被稱為「AI 代理人」;計費常用的 token,可以想成 AI 讀進和寫出的文字量。一個流程跑一次不貴,一天跑幾千次、幾個代理人互相傳話,帳單就可能完全不是當初想的樣子。
新加坡 CNA 11 月 10 日刊出報導〈Banks seek to rein in soaring AI agent costs, McKinsey says〉(原文):依 McKinsey 的《Global Banking Annual Review》,全球銀行正在設法控制 AI 代理人的成本,驅動代理人的 token 花費,可能輕易達到人力總成本的兩成(原文 could easily reach 20 per cent of total labor costs)。「兩成」是 CNA 報導引述 McKinsey 報告的說法,McKinsey 公開的報告摘要頁沒有寫這句;它是推估,不是已發生的行業平均,對象是全球銀行,更不是臺灣中小企業的數字。導入前該算哪些成本是一回事;這篇要談的是導入之後:
會自己長大的帳單,得有人負責盯,也得有上限擋著。
CNA 這篇報導寫到,控制 AI 相關花費的責任,已經移到新的團隊身上,有些銀行把它叫作「AI FinOps」。這個名字聽起來很大,背後的意思其實很簡單:AI 的錢不再是資訊部門順手付掉的一筆費用,而是有專人看、有人要交代。對小公司來說,不必成立一個團隊,但道理一樣:如果現在問「上個月 AI 花了多少、花在哪個流程」,公司裡沒有人答得出來,那就是還沒有人在盯。
先有人負責,預算才有人看。
報導提到,銀行一開始的做法,是依問題難易度,把員工導向不同的 AI 模型:簡單的問題用便宜的,難的才用貴的。McKinsey 資深合夥人、這份報告的作者之一 Vik Sohoni 接受路透社訪問時說,AI 代理人一開始運作,這套方法就沒用了,因為代理人彼此溝通,token 很快就累積起來。換句話說,人用 AI 時,費用是一次一次的提問;代理人互相傳話時,費用是一串一串的,而且沒有人在旁邊看著每一句。
看不到每一步,就更需要事先設好上限。
報導也寫到,銀行因此更挑剔要在哪裡部署代理人,集中在預期回報最高的地方。Sohoni 說,生產力帶來的節省相對容易衡量,但銀行越來越常用「AI 能帶來多少營收成長」,來判斷哪裡值得多花錢。這對小公司同樣適用:不是每個流程都要交給代理人跑,先挑那些做得好就看得到效果的地方,例如回覆詢價、整理訂單;看不出效果的地方,先別讓它無限制地跑。
不是哪裡都用,是錢花在說得出理由的地方。
同一篇報導還有一個有意思的數字:McKinsey 調查全球 4 萬 6,000 名零售銀行客戶,在有用 AI 的人裡,72% 願意讓銀行的代理人替他們辦一件金融事務,但會把自動核准的上限設在 500 美元。也就是說,連一般消費者,在願意放手的同時,也替 AI 設了一條線。這是銀行客戶的調查,不是臺灣數據,但它說明了一件事:信任和上限可以同時存在。
願意放手,不代表不設上限。
下面是我們整理的建議做法,不是 McKinsey 或銀行的建議,也不是法規。第一,指定一個人:每週看一次 AI 用量和帳單,把名字寫下來,外包或工程師設定的也算在內。第二,每個流程一個預算:客服機器人、報價自動化、內部助理分開算,月初就訂好上限。第三,設警戒線:工具或供應商後臺如果有預算通知、用量上限,就打開,用到一半和八成時通知負責人;沒有這類功能,就由負責人每週對一次帳,超過上限先暫停或改回人工。第四,代理人先小範圍試:會自己串下一步的流程,先在一個部門、一個任務跑一週,看清楚用量再擴大。第五,每月算一次:把這個流程的用量費,和它省下的工時或帶來的生意放在一起看。
上限不是不信任 AI,而是讓每一筆花費都有人交代。
AI 代理人越能幹,帳單就越可能在沒人注意時長大。銀行有錢、有人,都開始設專人、挑場景、算回報;小公司資源少,更需要在一開始就把「誰負責、上限多少、超過怎麼辦」講清楚。工具可以自己跑,帳本不行。先寫下那個人的名字,這筆帳才算開始有人管。
歡迎加入【蒲公英 AI 知識社群】。我們不追逐表面的資訊熱度,而是拆解每一次科技與商業決策背後的真實邏輯。在變動加速的時代,我們一起看的不是熱鬧,而是規則。
👉 點此加入蒲公英 AI 知識社群(連到 LINE 社群:https://line.me/ti/g2/U22Ve69yCykRi4WhI1Q8PEb0bVBN1AwlwepJwQ)
🔑 入群通關密碼:94115