總主筆／施鑫澤
今年六月電腦展在 AI 硬體缺貨，加上 AI 基礎建設在全球如火如荼建置推動下，盛大的在台北舉辦，然而，在越來越投入 AI 應用，越來越使用 AI 模型後，令 CIO 開始擔憂的是，AI 運算的資源 Token，卻開始有失控的現象，不管是工作上的，或是私人使用上。
[ 加入 CIO Taiwan 官方 LINE、Facebook 與 LinkedIn，與全球 CIO 同步獲取精華見解 ]
Token 使用的失控事件已經開始陸續爆出，客服的 AI 對話框，沒設定好上限條件，一個晚上被有心人士搞掉整個機構的 Token 資源，似乎也不是笑話。其次，工程師開發採用何種模型撰寫程式碼，其 C/P 值也已經開始有明顯的差異。如何有效的善用 Token，未來似乎將是重要的能力評量標準。從另一個角度觀察，使用 Token 越多，相對越有經驗，在個人競爭力上也將更具優勢。以上一期強調的企業 AI 應用落地關鍵環節「Harness Engineering」，熟悉此技術關鍵的達人，目前應該也是燒掉最多 Token 的技術大咖。
事實上，在矽谷已經出現因為 Token 的使用風潮，讓許多工程師有收入銳減的現象，因為為了瞭解新技術，而直接信用卡訂閱，等收到帳單時才驚覺而後悔。
為解決此問題，許多工程師已經開始將模型做等級與功能上的分類，哪個模型在影音最佳、哪個模型做簡報最好、哪個模型撰寫程式最強，手中便訂閱多種模型。
在企業端，也已經有「Model Routing」的技術出現，相信再過幾個月，這方面的討論將更多，產品服務將更為完善。值得期待！
(本文授權非營利轉載，請註明出處：CIO Taiwan)
