企業AI開支隱藏「Token稅」 數據層浪費成成本黑洞
2026-08-05
隨着智能體大規模進入企業核心業務，AI應用從「對話」轉向「執行」，Token作為大模型計量單位的消耗量呈指數級暴漲。據中國工程院院士鄭緯民估算，單智能體的Token消耗可達傳統對話應用的百倍至千倍。IDC預測，2026年中國企業級Token消耗量將按年增長約20倍，達4萬萬億。惟業界調查顯示，全球企業級AI應用中約一半Token被浪費，未產生實際業務價值，這筆被稱為「Token稅」的隱形成本，正成為企業AI預算失控的核心黑洞。
今年3月，NVIDIA行政總裁黃仁勳表示，若年薪50萬美元的工程師一年消耗的Token價值不足25萬美元，將令人擔憂。此說法反映科技管理層普遍心態，推動企業加大AI投入，甚至將Token使用量納入員工績效考核，「Token-maxxing」（將Token使用量極大化）迅速成為風潮。惟問題隨之而來，Uber發現全年AI工具預算僅四個月便耗盡，Meta員工更在30天內消耗60萬億Token，內部亦出現為達標而刻意無效調用的「刷Token」現象。
企業開始反思Token用量與生產力的關係。Uber營運總監Andrew Macdonald坦言未見兩者有明確對應，已為工程師設置每人每月1,500美元預算上限；微軟、亞馬遜等亦收緊高價模型授權，取消使用排行榜。內地方面，騰訊、阿里、字節跳動、京東、美團等亦相繼建立調用限額及預算管理機制，壓縮無效消耗。
Denodo最新研究揭示，Token浪費根源在於企業數據層。現實中企業數據分散於數據倉庫、業務系統、SaaS應用及API等多個平台，Agent逐一訪問時，在數據發現、過濾、計算及反覆試錯過程中消耗大量Token，真正用於回答業務問題的反而只佔少數。浪費體現在四方面：重複數據發現、以LLM執行數據庫查詢工作、業務語義不統一導致反覆試錯，以及過度檢索無關數據。由於Agent需多輪推理，每輪攜帶上文繼續執行，前期冗餘經多輪疊加後，成本可放大數倍至數十倍。
Denodo提出「AI數據層」理念，透過邏輯層將分散數據統一組織，實現零拷貝實時訪問，並在數據進入AI前完成語義統一、權限過濾及上下文壓縮，僅向Agent提供必要數據。以內地某大型保險企業為例，引入相關方案後，理賠數據準備時間由2至3周縮短至1至2天，風險報表生成由每月3至5天減至10至15分鐘，反欺詐驗證由數小時縮至1分鐘內。每月50萬次Agent任務的數據訪問Token消耗，由426億個大幅降至61億個，減少約85.7%。
業界分析認為，隨着智能體成為企業AI應用的主要形態，競爭焦點正從模型能力轉向Token價值的精細化管理。治理「Token稅」的關鍵，在於讓企業數據架構適應AI時代，為智能體提供可信、高質量的數據基座，這將成為AI規模化落地的重要基礎能力。
