面對快速上漲的Token(詞元)賬單,有些銀行的高層開始“坐不住”了。
2026年6月底,趙毅所在銀行的高層在上半年工作總結會議上提出,不能無休止地燒錢消耗Token,銀行所有的大模型及智能體研發應用,都要儘快建立投入產出比(ROI)評估機制。
趙毅是一家中型銀行的IT部門主管。銀行高層的上述新要求,讓他感到錯愕。
今年初,趙毅所在的銀行管理層提出,Token消耗量的增加,意味着智能體與大模型正在參與更多業務場景,有助於全面提升銀行的金融服務品質與客戶需求響應速度,爲銀行在AI(人工智能)時代立足奠定關鍵基礎。
受此影響,這家銀行的各個業務部門在上半年加碼使用大模型優化業務流程、研發訓練業務場景智能體,使得銀行日均Token消耗量在6月底超過50億,同比增長逾10倍。
趙毅發現,在AI時代,Token的日均消耗量,正成爲衡量銀行加快數智化轉型的一個重要標尺。尤其是隨着智能體與大模型在金融領域的應用日益廣泛,其他銀行的日均Token消耗量同樣增長迅速。
招行首席信息官周天虹6月25日在股東會上披露,截至今年5月底,招行日均Token消耗量已達330億。郵儲銀行高層6月26日在股東會上透露,其日均大模型調用超600萬次,日均輸入、輸出Token超百億。
公開數據顯示,民生銀行、興業銀行的日均Token消耗量在40億—60億之間。
Token使用量激增背後,是銀行支出的上漲。
趙毅說,按國產大模型每百萬Token(輸入+輸出)平均付費約10元計算,上半年他所在銀行的IT部門的Token日均支出漲至5萬元,上半年總計花費約900萬元,佔銀行上年度IT預算的8%。
作爲一家股份制銀行對公業務客戶經理,劉宏每天上班的第一項工作,是向智能體輸入企業信貸申請資料,由後者自動生成企業信貸盡調報告。
“這是銀行佈置的新工作任務。”他透露。去年,銀行高層提出要讓每個員工學會使用大模型及智能體,進而提升工作效率。於是,對公業務部門迅速聯合IT部門研發了一款企業信貸盡調報告撰寫智能體,要求對公業務部門所有員工從年初起,將企業信貸盡調報告撰寫工作都交給這個智能體。
爲了“鼓勵”員工天天使用上述智能體,對公業務部門還規定每個員工的日均最低Token消耗量,未達標者將遭遇績效考覈扣分。
起初,劉宏顧慮重重——擔心企業信貸盡調報告撰寫智能體所生成的報告紕漏百出。
令他喫驚的是,這個智能體“越來越好用”,不但其生成的內容準確率超過95%,還能快速自動抓取貸款申請企業的最新法律訴訟及輿情信息。
劉宏感慨,自己在企業信貸盡調報告撰寫方面的工作效率驟然提升逾80%。
“如今,我有點離不開這個智能體。”他坦言。
這個智能體能有如此表現,離不開整個對公業務部門所有員工的每日訓練。整個上半年,劉宏所在對公業務部門的日均Token消耗量逾億,其中65%用於向這個智能體輸入各類企業財務信息,訓練它持續提升企業信貸盡調報告的準確性與全面性。
在Token使用方面,劉宏發現對公業務部門始終“屈居人後”。客服部門、投研部門的日均Token消耗量均超過3億,是對公業務部門的逾3倍。具體而言,每天客服部門將海量Token用於訓練客服智能體,提升後者自主問答能力以快速響應客戶各類金融諮詢問題;投研部門通過大模型採集大量金融市場資訊,生成宏觀經濟分析報告與行業投資趨勢報告,作爲自營部門與資管部門投資決策的新依據。這也導致其日均Token消耗量持續大幅增長。“上半年,銀行高層全力支持各個業務部門使用更多Token訓練智能體與提升業務效率。”劉宏告訴記者。5月份,銀行高層還專門表揚日均Token消耗量排名前三的業務部門,理由是AI正在深度融入他們的業務場景,更快推動業務運作模式由人工驅動轉向智能驅動。
趙毅感受到銀行IT支出的明顯變化。
2025年,銀行逾30%的IT預算用於採購GPU(圖形處理器)、多機多卡互聯與高速網絡設備,爲自研金融大模型提供足夠的硬件支持。相比而言,Token付費佔比不到銀行當年IT預算的3%。
今年上半年,他發現Token付費佔比持續迅猛提升,接近上半年銀行IT預算的8%。究其原因,一是各個業務部門都要求員工使用大模型及智能體,二是爲了加快智能體的研發應用進程,部分業務部門乾脆使用大模型進行代碼編寫。
“按照當前的Token日均消耗量增加趨勢,我預計下半年銀行日均Token消耗量將很快突破100億,銀行日均Token付費隨之突破10萬元。”趙毅說。這意味着下半年銀行需爲Token付費安排約1800萬元預算,佔到下半年銀行IT運營開支的約15%。
6月中旬,當他向計劃財務部遞交下半年Token付費預算清單時,對方私下表示,這個預算未必會獲批,原因是銀行高層認爲Token支出增速過快,有些業務場景的智能體及大模型應用成效並不顯著,需重新審視銀行在Token方面的投入產出比。
這讓趙毅感受到,風向開始變了。
在6月底舉行的上半年工作會議上,趙毅所在銀行領導對部分智能體“Token消耗極大、實際效果欠佳”感到不滿,直接點名了財富管理服務智能體與小微信貸風控智能體。
前者在上半年的日均Token消耗支出超過2億(日均Token付費約2000元),卻未能形成千人千面式的財富管理服務能力。面對銀行領導提出的多個“個性化”財富管理諮詢問題,這個智能體回覆內容高度同質化,都在推介當期銀行熱銷的理財產品。
後者在上半年的日均Token消耗支出超過3億元(日均Token付費約3000元),但在給小微企業信貸評分方面,這個智能體仍側重關注企業能否提供足夠抵押物,導致衆多小微企業信用貸款被擋在門外,難以給銀行小微業務創造新的業務價值。
此外,銀行高層還特別強調要大幅度削減使用大模型進行智能體代碼編寫的Token支出,因爲這些大模型自主生成的智能體運營代碼缺乏對銀行業務合規性的瞭解,導致相關智能體在運行過程中時常遭遇合規風險,不得不由人工重新改寫相關運行代碼。
7月初,趙毅接到一項新工作任務,儘快對銀行各個智能體及大模型應用制定相應的投入產出比評估機制。若部分業務場景的智能體及大模型應用成效差強人意,就果斷壓降其Token使用量。
趙毅的最初想法是測算這些智能體研發+Token開支等投入,能否換來多重產出。這些產出包括客戶滿意度提升、人工成本壓縮、業務流程優化所帶來的運營成本減少,以及創造多大的業務價值(客戶轉化、存貸款規模增長與中間收入增加等)。
但是,領導不滿意這些籠統的評估指標,要求他對產出進行量化測算。
不過,銀行業務的價值創造鏈條相當複雜,趙毅難以精準估算智能體及大模型應用的具體貢獻度。目前,他只能借鑑其他銀行的做法,引入“AI貢獻比”,即測算智能體及大模型在應用過程中,能替代多少人工操作時間。
他測算發現,客服智能體每年能節省約300萬小時的人工操作時間,相當於每年“替代”約1400個全職員工的工作量。
日耗百億級Token的大行,其AI投入和產出又是如何呢?
周天虹表示,招行在AI應用方面採取“業務端積極、開發端審慎”的策略。當前招行330億的日均Token消耗量,主要由業務部門產生。究其原因,是大模型軟件架構能力偏弱,令大模型編寫代碼的成本相當高昂,還容易生成難以閱讀的“麪條式代碼”和性能問題、安全問題等。
他透露,目前招行的大模型成本收入比維持在20%左右,即在人工智能領域投入20元,可以創造100元收益。
周天虹在招行業績發佈會上指出,去年招行通過智能體及大模型應用,實現1556萬小時的人工替代,相當於“產生”逾8000全職員工的工作量。
“目前我們尚未達到這個投入產出比。”趙毅告訴記者。7月6日,銀行高層向他提出了一個量化評估指標,即智能體與大模型研發應用的投入產出比不能低於3倍,即每投入1元研發費用(包括Token支出),應換來至少3元收益。
劉宏也發現,7月起,該行對公業務部門悄然間壓降了員工日均最低Token消耗量考覈要求,較上半年低了20%。
他多方打聽瞭解到,銀行領導認爲當前Token收費較貴,導致上半年銀行Token付費金額遠遠超過預算。因此,各個業務部門被要求對Token“省着點用”——在不影響業務數智化發展的情況下,儘可能壓降Token開支。
博弈
面對呼之欲出的投入產出比評估機制,趙毅所在銀行不同業務部門“反應不一”。
客服、行政、營銷策劃等部門顯得泰然自若,因爲他們覺得智能體與大模型應用已創造超預期的應用成效,銀行不會壓縮他們的Token使用量。
相比而言,私人銀行部與金融市場部憂心忡忡——畢竟,他們所研發的家族辦公室服務智能體與外匯撮合交易智能體見效較慢,容易成爲上述評估機制實施後的首批“利益受損者”。
7月初,私人銀行部主管找到趙毅,要求他不要壓降家族辦公室服務智能體的Token使用量與研發投入,理由是這個智能體仍需要大量數據訓練與技術研發,才能更精準地理解上下文內容與完成多輪次交互,從而向高淨值客戶提供專業全面的家族辦公室諮詢服務。
金融市場部也向趙毅提出類似的要求,理由是上半年他們將Token用於外匯撮合交易智能體的運行代碼編寫,下半年正計劃給這個智能體進行數據訓練與服務迭代。一旦研發投入與Token使用量被壓縮,這個智能體研發將前功盡棄,導致數百萬元的前期研發投入與Token支出打了水漂。
他覺得,這些業務部門希望維持現有的研發投入與Token支出預算,除了推動相關智能體更好地落地應用,還有一個原因是他們不想在銀行數智化轉型過程中落伍。
但是面對這些業務部門的要求,趙毅左右爲難。
對於下半年日均Token消耗量使用要求調降,劉宏身邊的同事則相當開心。因爲他們意識到,隨着企業信貸盡調報告撰寫等智能體越來越好用,自己的工作崗位在不久後或被這些智能體替代。
未來,企業客戶只需向這些智能體如實輸入財務數據與運營數據,後者就能快速自動生成企業信貸盡調報告並遞交信貸申請,銀行也就不需要衆多的對公客戶經理。
7月起,劉宏發現部分同事開始向智能體輸入與企業信貸無關的企業信息,既能完成個人每天的Token最低消耗量考覈要求,又能“阻止”智能體不斷進步迭代,最終替代人工崗位。
趙毅所在銀行的高層也注意到類似的問題。
7月8日,銀行舉行內部會議,向各個業務部門主管強調——儘管銀行開始關注智能體及大模型應用的投入產出比,但這並不影響銀行鼓勵各個業務部門繼續開發能快速提升業務效率、創造更大業務價值的智能體及大模型使用方法。而這些智能體與大模型使用方法的面世,絕不是爲了替代人工,而是解放人工,讓一線基層員工能擁有更多時間和精力拓展新業務,共同將銀行業務蛋糕做大。
銀行高層還強調,未來一段時間,銀行內部還將全面梳理各個工作崗位與智能體的協同關係,明確哪些工作仍由人工操作,哪些業務流程可以通過拆解、優化與自動化,交給智能體完成,以及在智能體自主運作業務流程中,哪些風險點仍需人工把關。
(應受訪者要求,趙毅爲化名)