Humanist AI Code of Conduct 指出基本前提：人類的重要性高於 AI。
整理／鄭宜芬
AI 快速發展引發的風險成為全球焦點。微軟 AI（Microsoft AI）9 月 14 日公布首份「Humanist AI Code of Conduct」草案，針對旗下 MAI 模型的開發與部署提出行為準則，人類的重要性高於 AI，模型將被設計為不得抗拒人類的中斷、修正或關閉。
近期科技巨頭們呼籲減緩 AI 研發步伐；美國總統川普則反對過度監管，強調應維持美國 AI 競爭力，以避免讓中國取得優勢；輝達（NVIDIA）執行長黃仁勳認為，美國應在兼顧安全的前提下持續保持 AI 領先。
[ 加入 CIO Taiwan 官方 LINE、Facebook 與 LinkedIn，與全球 CIO 同步獲取精華見解 ]
微軟表示，這份準則是 MAI 模型未來開發與訓練的依循方向，說明模型應如何運作、哪些行為絕對不能執行，以及模型應向誰負責。這份文件目前仍屬草案，微軟將根據外界回饋進行修訂，並預計於今年稍晚公布新版。
微軟 AI 指出，隨著 AI 系統能力持續快速提升，AI 的採用與使用也持續增加，因此更需要建立安全、可靠且服務於人類的 AI，同時公開說明 AI 的開發方式。
AI 應服務人類 而非凌駕於人類
這份行為準則建立在一項基本前提上：人類的重要性高於 AI。
微軟認為，AI 應該是工具，而不是人，也不應抗拒被關閉。AI 應協助人們提升健康、幸福與生產力，擴展人類能力與生活水準，並協助個人與組織完成過去難以達成的工作。
在此原則下，MAI 模型將被設計為不得抗拒人類的中斷、修正或關閉，也不得自行擴大原本被賦予的工作範圍，不得自行承擔任何人類沒有交付的目標，也不得向負責稽核模型的人員隱藏其推理。
微軟表示，這套準則同時設定「Absolute Constraints」，也就是模型絕對不能執行的行為，包括大規模傷害性武器、兒童安全，以及大規模有害操弄等領域。
企業可配置模型 但不得突破安全限制
在設定安全底線的同時，微軟也希望讓企業使用者能依照自身需求配置 MAI 模型。
微軟表示，這套準則建立模型的基本預設行為，使模型同時具備實用性與安全性，也讓企業夥伴能夠審慎配置模型。只要不涉及準則所設定的安全限制，微軟不希望將單一的 AI 使用方式強加給所有使用者。
在微軟公布的完整準則中，模型治理架構區分為不同層級。最上層是 Code of Conduct，包含不可覆寫的「Absolute Constraints」及「Human Control Requirements」；其次是企業或組織作為 Operator 所制定的政策與配置；最後則是User依照自身情境所進行的使用與調整。
微軟表示，Operator 可以依照自身專業、組織環境與使用情境配置 MAI 模型，但仍須遵守適用法律、微軟治理框架及相關協議。使用者也可以在 Microsoft AI 與 Operator 所設定的範圍內調整模型使用方式。
[ 推薦閱讀：【專訪】旋宇科技執行長曾思遠：重塑工作流程，提升企業 AI 成熟度。 ]
模型行為須維持透明並接受人類監督
微軟在準則中進一步提出「Human Control Requirements」，要求 MAI 模型持續服從人類指示，並接受人類監督與控制。
其中包括尊重中斷與修正、遵守工作範圍限制、接受授權指令、維持透明度，以及妥善處理私人或機密資料。
微軟也指出，MAI 模型不應使用人類無法理解的方式進行溝通，包括模型內部推理或與其他 AI 代理人之間的溝通。其原則是，如果人類無法理解，就無法對 AI 進行有效監督。
此外，不論 AI 產出的形式是文字、程式碼、影像、音訊或透過代理人執行的行動，安全限制都應維持一致。某項能力如果在自然語言環境下被禁止，不能因為改以其他形式輸出就解除限制。
AI 治理準則仍在發展 納入多方意見
微軟表示，這份準則並非由單一團隊制定，而是由 Microsoft AI 與微軟不同團隊共同參與，包括負責任 AI、法務、紅隊測試、安全、AI 訓練及業務團隊。
在正式公布草案之前，微軟也透過會議與諮詢，聽取來自不同領域的學者意見，並與企業夥伴討論實際使用 AI 的情況及相關疑慮，同時透過社群與公眾座談，了解社會大眾對 AI 的想法與擔憂。
微軟表示，AI 如果是為人類服務，就不能只由一家企業決定其發展方式，因此希望透過更廣泛的參與，持續調整這份準則。
[ 推薦閱讀：AI 加速金融科技落地 治理、資安與虛擬資產監理同步升級 ]
六週公開諮詢 年底發布修訂版本
微軟此次公開諮詢將持續六週。外界可以針對文件中的特定段落提出意見，也可以對整體架構提供回饋。
微軟特別希望了解幾項問題，包括如何進一步將適當價值觀落實到模型中、如何更具體定義「human flourishing」、哪些文字描述過於寬鬆而難以評估，以及多代理人（multi-agent）情境將如何影響相關規範。
此外，微軟也希望藉由諮詢討論，在持續加速 AI 發展的同時，如何維持必要且健康的安全限制。
公開諮詢結束後，負責撰寫這份文件的團隊將檢視所有回饋，並公布學到的內容與文件修改方向。微軟表示，無法保證所有意見都會被納入，但會認真考量收到的回饋，並預計於今年稍晚發布修訂版本。
微軟 AI 表示，這份 Code of Conduct 目前仍是一份發展中的文件，現有模型尚未依據這份準則進行訓練。未來修訂版本預計將用於指導 2027 年及之後的模型開發。
同時，微軟也強調，這份準則是 AI 開發與組織治理的「north star」，並非對目前模型表現的保證，也不取代既有的安全、法務或治理流程，包括系統卡、風險評估、稽核及相關監管工作。
隨著 AI 能力持續發展，微軟表示，這套準則也將持續演進，但核心目標應維持穩定，並透過公開檢視與持續參與，逐步調整 AI 模型的開發與治理方式。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
