文／黃光彩
人工智慧（AI）近來的發展迅速引起了專家、政策制定者和全球領袖對潛在風險的憂慮。如同所有強大技術，AI 必須在工作時負起責任，控管風險並發揮潛力。
[ 推薦閱讀：隱私 AI 發展應受重視 ]
最常見的憂慮就是 AI 對齊問題（AI alignment problem）。它專指確保 AI 系統的行為與人類價值觀和目標一致的挑戰。這個問題的核心是「AI 系統可能會按照它們訓練或編程的方式行動，而不一定符合人類的真正意圖或價值觀」。如果我們不能明確的指明我們希望 AI 做什麼，AI 可能會以意想不到且有害的方式進行任務，特別是在複雜或高風險環境中造成重大傷害。這也意味著這是一個複雜且多面向的挑戰。
SSI 的成立
今年六月底，參與罷免 OpenAI 前執行長 Sam Altman 的董事會成員之一 Ilya Sutskever， 宣布成立新的 AI 公司，名為 Safe Superintelligence（SSI）。SSI 主要目標是開發安全且負責任的 AI，並將安全性作為 AI 發展的首要考量，追求安全的超級智慧產品－兼顧安全性和能力。
SSI 的三個創辦人背景包括：
˙ Ilya Sutskever：Former chief scientist at OpenAI
˙ Daniel Gross：Former partner at Y Combinator
˙ Daniel Levy：Former engineer at OpenAI
SSI 是一家美國公司，在 Palo Alto 和 Tel Aviv 設有辦公室，主要是招募到頂尖的技術人才，隨著 AI 技術不斷發展並影響各個產業，SSI 的貢獻將有助於制定安全標準並推動創新。雖然 SSI 與 OpenAI 都在推動 AI 發展，但他們對於安全性和發展速度的重視程度有所不同。SSI 更加重視安全性，而 OpenAI 則更加注重快速創新和產品開發。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ，與全球 CIO 同步獲取精華見解 ]
SSI 與 OpenAI 的不同之處在於：
˙主要焦點：SSI專注於「安全第一」的 AI 發展；OpenAI 則是注重於快速推出先進的 AI 產品。
˙方法論：SSI 採用「平和擴展」的方法，謹慎、以安全為中心。OpenAI 則是快節奏、商業化。
˙長期計劃：SSI 優先確保 AI 安全，創造一個智能 AI，能與人類良好合作的未來。OpenAI 則是創建新的人工智慧工具。
AI 安全帶來的挑戰
AI 安全是一個日益受到關注的領域：識別、預防和減輕 AI 系統中意外行為的研究。如果 AI 作為通用技術在高風險環境中部署，AI 安全將對那些領域造成挑戰？這些挑戰需要通過跨學科的合作、創新的研究方法和嚴格的政策制定來完整解決。隨著 AI 技術的不斷進步，這個領域需要繼續研發，以應對新出現的挑戰和問題。
它的熱門的挑戰及研究領域包括（見下表所述）
創建行業通用的安全標準
推動 AI 安全標準是美國的 NIST 的主軸。NIST 通過其 U.S. Artificial Intelligence Safety Institute（AISI）推進 AI 安全的科學、實踐和採納，涵蓋國家安全、公共安全和個人權利的風險範疇。此外，NIST 還推動成立了 U.S. AI Safety Institute Consortium（AISIC），該聯盟成員匯集了超過 200 個組織，共同開發基於科學的、經過實證支持的 AI 測量和政策指南和標準，為全球 AI 安全奠定基礎。
其他專注於 AI 安全標準的組織：
˙ Center for AI Safety（CAIS）：位於舊金山的研究和領域建設非營利組織。CAIS 致力於減少 AI 帶來的社會風險，通過進行安全研究、建立 AI 安全研究領域，並倡議安全標準
˙ OpenAI 的 Safety Systems：該團隊專注於確保 AI 模型及在現實世界的安全部署、穩健性和可靠性。他們致力於解決新出現的安全問題，開發新的基礎解決方案，以實現最先進模型和未來 AGI 的安全部署。
˙ Frontier Model Forum：由 OpenAI、Microsoft、Google 和 Anthropic 等 AI 領導者創立的產業組織，專注於安全 AI 開發。該論壇的舉措包括安全研究協調和與政策制定者分享信息。
這些組織和公司都在不同的層面上致力於提高 AI 的安全性，從技術研究到政策制定，再到行業標準的推動，共同為 AI 安全領域的發展做出貢獻。
[ 推薦閱讀：AI 對系統安全和 PQC 帶來的挑戰 ]
安全第一是 AI 發展進程中的必然發展，就如汽車問世後駕駛安全應運而生。
AI 系統應具有的特點包括：聰明（Smart）、安全（Safe），和對人有幫助（Helpful to people）。SSI 共同創辦人 Sutskever 希望 AI 能夠：不傷害人，幫助世界變得更美好，支持自由和民主等。因此必需從一開始就將安全性融入 AI 系統的設計中，而不只是在稍後添加安全規則。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
