產業 AI 化與資安韌性
文／鄭宜芬‧刊期／2024.11
2024 年諾貝爾物理學獎得主 － 美國科學家霍普菲爾德（John J. Hopfield）與人工智慧領域先驅者辛頓（Geoffrey E. Hinton），因在 AI 發展方面催生開創性的成果而雙雙獲獎，卻也一致呼籲全球應該更深入理解深度學習系統內部運作機制，以防止 AI 失控。霍普菲爾德警告，近期 AI 技術的發展令他感到「非常不安」，若不加以控制，恐招致災難性後果；辛頓認為科技巨頭的競爭愈演愈烈，並持續遊說美國政府暫緩研發 AI，強調外界必須嚴肅考慮如何管控 AI。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ，與全球 CIO 同步獲取精華見解 ]
AI 發展速度超乎預期，數位發展部政務次長林宜敬表示，ChatGPT 連結的數量約以每年 10 倍到 100 倍的驚人速度成長，即使專家示警其危險性，但要暫緩 AI 的研發幾乎不可能，尤其美中較勁的局勢對臺灣構成了嚴峻的挑戰。為此，我國擬定策略：發展主權 AI、建立 AI 產業生態系，以及進行 AI 分級、分類、檢測，以應對日新月異的 AI 戰場。
一、發展主權 AI
開發 LLM 的成本非常高昂，像是 OpenAI 或是 Meta 的 Llama，每開發一個世代的 LLM，約需投入新台幣 1,500 億到 3,000 億元，以 OpenAI 來說，每年約開發兩代 LLM，這筆花費就堪比臺灣一年的科研經費。
為了應對緊迫的局勢，國科會 TAIDE 計畫以 Meta 的 Llama 為基礎，加強繁體中文及臺灣觀點的訓練，開發各式基於 TAIDE 的 AI 工具，應用於立法院答詢系統以及公文寫作系統。
二、建立 AI 產業生態系
臺灣若要擁有強健的 AI 發展，建立自由競爭的環境是關鍵。政府提供四個政策工具：算力、資料、人力、資金，以建立完整的 AI 產業生態系。
◆ 算力
數發部、國網中心、Nvidia Taipei-1、優聯科技等皆提供 GPU 算力池。數發部 AI 算力池的共擁有 32 片 H100 與 8 片 MI300X，每家業者可免費使用 0.5 片的 Nvidia H100 或 AMD MI300X，以及 1TB 儲存空間，使用時間為期 6 週。申請流程自 7 月中開放，9 月中正式使用，透過評審機制，輔導 60 家資服／新創業者提升算力。
例如，台灣大哥大申請使用數發部的 AI 算力池，並將客服與語音資料基於現有的大模型進行微調，透過本土化的語音轉文字模型（Automatic Speech Recognition，ASR）推出創新服務，應用於電話問診、老人照護以及電話客服。
◆ 資料
臺灣在 LLM 的開發上不易追上美國腳步，但可以利用卓越的健保巨量資料庫，開發出全球獨一無二的 AI 醫療系統。
數發部成立了資料匯流代理（Proxy）機制，負責收集內政部、外交部、衛福部、交通部等各部會的資料目錄。AI 研究人員可依據研究需求提出資料申請，數發部再根據需求向對應的部會索取資料，並進行資料的彙整與去識別化處理。經過隱私保護強化後，將相關資料回傳給研究人員。然而，該計畫仍有待於克服挑戰性，不僅須確保個人資料保護與資料安全，還需確認研究人員的操作權限符合法律規範，才能在保障民眾隱私的同時兼顧資料應用效能。
[ 推薦閱讀：【專訪】數位發展部部長黃彥男 ]
◆ 人力
為推動 AI 在公務機關的應用，數發部與人事行政總處合作，制定了一系列 AI 人才培育計畫，目標提升公務人員的 AI 知識與技能，並加強政府機構在數位轉型中的競爭力。
AI 種子工作坊：
包括工作坊、AI 議題、AI 基礎課程與線上課程，提升其 AI 基礎知識。
AI 運用工作坊：
涵蓋民眾需求分析與應用工作坊，強調 AI 技術在實際業務中的應用。
AI 推動業務種子人員課程：
包括 AI 基礎課程、AI 趨勢與發展課程，以及 AI 推動業務實踐與課程，旨在培訓負責推動機構內 AI 專案的實施與管理。
[ 推薦閱讀：強化數位韌性 因應未知挑戰]
公務機關人員參與 AI 工作坊後，會有實際應用成果的展現，促使各機關有效應用 AI 技術，提升業務效率。此計畫從基層到高階，全面覆蓋不同層級的公務人員，為政府機構提供了完整的 AI 人才培育路徑，助力政府內部推廣與落實 AI 技術。
◆ 資金
推出《加強投資 AI 新創實施方案》草案，國發基金匡列 100 億元投資 AI 新創企業，並與民間資金搭配投資，原則投資比例 1:1，期限為 10 年，投資對象包括：國內 AI 新創、數位經濟相關產業之企業（不含上市、上櫃公司）。
產業AI 化、AI 產業化
為打造臺灣成為人工智慧之島，國科會提出「智慧科技大南方產業生態系推動方案」，規劃以「擴算力」、「鏈場域」、「引人才」、「展應用」等四大策略布局，促成「AI 產業化、產業 AI 化」，建構大南方產業生態系。同時推動「智慧雨林產業創生」，透過跨部會合作，提供系統設計暨整合服務平台、算力、場域和業師等資源，並協同學研單位，形成一個多方合作的產官學研平台，聚焦在「需求分析能力」和「自主 AI 系統設計能力」，協助 AI 技術在中小企業中的應用和普及。
具體執行方式如，國科會與教育部利用科技大學的研發能量與教授的專業知識，由數發部組織軟體產業，包括中華電信、臺灣受恩、誼誠資訊、肚肚餐飲等業者，整合公協會以匯聚產業需求業者，在中南部的產業園區舉辦媒合會，進一步串聯輔導廠商，如漢翔航空、朝友工廠、台灣製罐工業、春雨工廠等，針對長照、金屬成型、航太產業、扣件產業、餐飲業等，協助百工百業發展 AI 系統。
林宜敬指出，軟體產業是國家發展 AI 產業的關鍵，臺灣的硬體產業雖然實力強大，軟體產業卻相對薄弱，主要原因是許多電機資訊相關人才受高薪吸引投入了半導體領域，導致軟體產業面臨人才短缺的問題。同時，軟體開發成本高昂，臺灣因市場規模小，使得軟體開發難度更高，若要推動軟體產業的發展，勢必需要走向國際市場。
[ 推薦閱讀：政府科技採購大翻新]
為邁向海外，第一步要先在臺灣建立基礎，讓軟體產業能夠賺到第一桶金；第二步是通過產品展示來提升曝光度。因此，數發部除了在臺灣舉辦媒合會，還協助廠商參與國際競賽，期望藉此扶植本地軟體業者，將 AI 技術導入各行各業，推動臺灣軟體產業走向全球，拓展國際市場。
三、AI 分級、分類、檢測
而在利用 AI 時為了有效管理和控制潛在風險，也需要進行分級、分類和檢測，以保障安全性、透明性和公平性。
整體而言，美國認為科技的發展是來自於競爭，態度傾向於開放，透過分類與風險指引公開模型的風險，提供業者參考應對；歐洲則強調嚴謹的分級與分類，讓產業遵循相關規範。我國近期也積極研擬 AI 基本法，並即將在立法院討論將採取美國或歐盟模式。
◆ AI 分級
除了歐盟分成四級外，美加澳多強調「高風險／高影響 AI」為主。AI 系統風險分級方式相近，皆重視對健康，安全與基本權利之影響。美國的分級方式為，若 AI 系統所做出之決定會影響消費者獲得關鍵領域之權利，該決定即為「關鍵決策」而可以影響關鍵決策之 AI 系統稱為「高風險人工智慧系統」。
◆ AI 風險指引
美國聯邦政府、新加坡、日本、韓國等皆未將 AI 系統或模型進行風險分級，而是提出參考文件或指引，鼓勵業者自主採取因應措施，防範風險。以美國為例，《前瞻 AI 模型安全法案》為先進模型的安全開發建立規範，防止重大危害；《AI 透明度法》要求特定 AI 系統提供者遵循義務，建立 AI 系統透明度，以保護消費者；《AI 安全行政命令》要求美國公司部門以安全、可信賴的方式發展 AI，並期望藉由全面性的命令，引導各領域思考如何應對 AI 風險；《NIST 人工智慧風險管理框架 1.0》為自願性框架將風險分為對民眾、組織及生態系統三種危害。
◆ AI 分級、檢測
數發部、工研院與資策會針對各個版本的 Llama 跟 ChatGPT 進行準確性、可靠性、公平性、資安及隱私等方面的檢測，為 AI 基本法的制定提供更完整的參考依據。
透過佐證文件進行人工查核驗證：
- 安全性 Safe
關注 AI 系統失效時對人類、環境或資產之保護能力。 - 可解釋性 Explainable
關注 AI 系統決策行為原因與邏輯之解釋能力。 - 透明性 Transparency
關注 AI 系統對於所擁有資訊之揭露能力。 - 當責性 Accountable
關注 AI 系統決策與行為之追溯能力。 - 韌性 Resilient
關注 AI 系統面對不同的環境、需求及條件之適應能力。
可進行自動化／半自動化技術性驗證：
- 可靠性 Reliability
關注 AI 系統面對未預期情況之穩定能力。 - 公平性 Fair
關注 AI 系統針對不同群體與個體之公平對待能力。 - 準確性 Accuracy
關注 AI 系統輸出結果之準確能力。 - 隱私 Privacy
關注 AI 系統對於隱私資訊之保護能力。 - 資安 Secure
關注 AI 系統面對資安攻擊或不當使用之防護能力。
從諾貝爾獎得主示警 AI 的風險，到我國政府推動主權 AI 的發展策略，全球各國都戰戰兢兢應對 AI 所帶來的挑戰。林宜敬最後總結，AI 是威脅，也是機會，透過數發部三大策略，在產業 AI 化的同時強化資安韌性；也透過創新技術與政策支持，讓臺灣有望在 AI 發展中找到優勢，推動產業升級與強化數位韌性。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
