為防止 AI 濫用，美國已經成立 AI 安全委員會，全球也在新增相關控管的規範，如何打造安全 AI 系統，將是重要發展方向。
文／黃光彩
隨著 ChatGPT 的出現，多家生成式 AI 公司相繼宣佈他們的版本，包括 Google Gemini、ChatGPT4 Turbo、Llama-3、Claude Opus、 Mistral Large 及 TAIDE 等，提供更強大的文字、圖形及分析能力，擴大 AI 的應用範疇，滿足不同產業的應用需求。
產業 AI 應用的市場有多大，可能的帶來的資安風險就會有多大，黑帽駭客組織的獲利就可能會水漲船高。 因為當產業導入 AI 技術時，會提高產業數位化程度，將使用更多的數位設備，連接應用程式介面（API），以蒐集數位資料，導入不同的 AI 模型，加速產業智慧化，如果資安的考量不週全，這可能產生新的資安漏洞及被駭風險增劇，使得資安防守的範圍要加寬及加深，防守更加不易，也加劇了敵對競爭者或黑帽駭客組織利用 AI 技術進行攻擊的可能性，故須重新審視資安防禦的縱深模式。
[ 推薦閱讀：隱私 AI 發展應受重視 ]
當 AI 加速產業智慧化，資安的風險及危機可能造成對國家安全的擔憂，將帶來國安新挑戰。所擔心的國安問題包括但不限於以下的幾種情境，如<表一>
美國政府成立AI安全委員會（NSCAI）
鑒於以上這些可能發生的問題，促使美國政府採取行動，以確保人工智慧技術的安全和負責任的使用。五月初，美國國土安全部宣布成立 AI Safety and Security Board（人工智慧的「安全與保障」委員會），成員有 OpenAI 、Anthropic、Nvidia、IBM、Adobe、Microsoft、Alphabet、Cisco、和 AMD 等科技企業執行長。
AI 技術的進步與應用的龐大潛力，將提高組織的營運效率和生產創新，但同時也可能會帶來新的安全挑戰和風險。例如 AI 系統可能被用於網絡攻擊、影響公共基礎設施的運作，甚至可能被用於影響政治運作過程。這個委員的目標是協助確保 AI 科技的使用安全，以及設法因應 AI 科技對能源、公用事業、交通、國防、資訊科技、食品和農業以及金融服務等關鍵服務所構成的威脅。美國國家 AI 安全委員會（National Security Commission on Artificial Intelligence ，NSCAI）也發出警告， 指出美國在 AI 時代尚未做好防禦或與中國競爭的準備。
除了美國之外，其他國家也有採取類似的舉措。例如，歐盟提出了「去風險」（De-risking）的概念，這是一種相對於「脫鉤」的策略，旨在增強歐洲自身的經濟抗壓能力，而不是孤立中國，這一策略在 G7 峰會上被接納並寫入公報。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ，與全球 CIO 同步獲取精華見解 ]
同樣地，疫情爆發後，許多國家意識到在藥物、醫療用品上不能過於依賴單一市場，因此提出了供應鏈多元化和「近岸外包」（near-shoring）的概念。台灣在多個層面上都有類似的舉措來規劃自己的關鍵基礎設施保護策略，應對區域安全和國際政治的挑戰。例如，針對中國在金廈海域的行動，台灣在強化自身防衛能力的同時， 也要與周邊國家共同採取反制措施，借鏡俄烏戰爭的經驗，並新增了分散式指管原則，應用多種具體的 AI 技術來提升安全性和韌性。
美國 NSCAI 建議大幅增加聯邦政府在 AI 研究方面的非國防支出，並改革國防部的採購管理系統，以更快、更容易地引入新技術，這個委員會將為運輸部門、管線和電網營運商、網路服務提供商等制定相關建議，「預防和準備因應關鍵服務受 AI 相關干擾情事，以免影響國家或經濟安全、公眾健康或安全」。
平衡安全和隱私
歐美所提出的《人工智慧安全法案》透過「AI 警察」建立一個全面的保護框架，同時不斷地評估和更新這些措施，防堵資安威脅，以應對不斷變化的威脅和技術發展。其範圍涵蓋在各類型的應用範疇，要求廠商訓練 AI 的過程中揭露所有訓練資料與引用來源，透過強制創建記錄所有 AI 系統違規行為的資料庫，以追蹤可能引發的資安問題。平衡安全和隱私是一項挑戰，但也是保護關鍵基礎設不可或缺的一部分。
在實施這些措施時，還需要考慮到成本、用戶便利性和業務需求，以達到實際可行和有效的平衡。<表二>是一些策略和考慮因素：
(本文授權非營利轉載，請註明出處：CIO Taiwan)
