• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CISO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 專欄

AI 的雙面刃與管理

2024-08-14
分類 : 專欄
0
A A
0

文/洪為璽


洪為璽 200x300
◤ 作者洪為璽博士,現為國立政治大學資訊管理學系教授兼CINTES研究中心主任,專長為資訊策略管理、資訊安全管理與大型資訊系統導入與應用。

人工智慧(Artificial Intelligence,AI),也稱為「人工智能」,廣為人知的定義是指,能夠通過數據演算來模擬人類思考、執行並解決問題的一種技術,是當今全世界最熱門的話題之一,AI 也正在各領域中快速改變人類的生活和工作方式。

在應用上,AI 涵蓋了電腦科學、資料分析、統計、硬體與軟體工程、語言學、神經科學、哲學和心理學等領域。它能夠幫助人類應進行資料分析、預測、物件分類、自然語言處理和智慧資料擷取等業務操作,應用範圍非常廣泛,而這些技術漸漸顛覆了我們過去對科技的認知。近年來,AI 進入到深度學習,其目標是從經驗中學習、適應新情況,最終能夠推理並解決問題。

AI 的歷史

介紹完 AI 後,我們來看看其歷史由來,人工智慧(Artificial Intelligence,AI)一詞最早出現在 1955 年,約翰•麥卡錫(John McCarthy)在達特茅斯會議上首次提出了「人工智慧」這一術語,使 AI 作為一個獨立研究的領域。而隔年在美國達特茅斯學院(Dartmouth College)召開第一次人工智慧會議,所以現在大家普遍將 1956 年視為人工智慧學科的創立,也就是 AI 的元年。

20 世紀 80 年代,專家系統(Expert system)成為 AI 研究的主要焦點,這些系統能夠模仿人類專家的決策過程。然而,由於計算資源和數據的限制,早期的 AI 系統在實際應用中遇到了很多挑戰,只能完成簡單的遊戲或解決簡單的問題。進入 21 世紀後,隨著大數據技術的興起和計算能力的提升,機器學習特別是得到了快速發展,這使得 AI 在圖像識別、語音識別、自然語言處理等領域取得了突破性進展。

AI的優點與隱患

那 AI 到底對於人類是好還是壞呢?近年來 AI快速的發展,使它成為許多產業不可或缺的工具,而 AI 的優點包括提升效率和生產力,改進決策,提高安全性,作者歸納出下列幾個優點。

第一,提升效率和生產力上:AI 能夠自動化處理大量數據,執行重複性任務,大大提高了工作效率和生產力。根據 MIT 史隆管理學院最新的調查結果顯示,當高技術員工將 Gen AI 納入其專業範圍時,他們的工作表現可以比不使用這項技術的員工提升高達 40%。例如,自動化客服系統可以 24 小時不間斷地提供服務,減少了人工成本。

第二,改進決策:通過分析大量數據,AI 可以提出有深度的見解,甚至根據數據建立模型,幫助企業和個人做出更明智的決策。例如,日本 FamilyMart 用DataRobot 評估和預測最適合展店的地點,透過機器學習的方式,發展出「展店關鍵成功因素的預測模型」,使用並改進決策。

第三,提高安全性:在安全監控和風險管理方面,AI 系統能夠通過行為分析和模式識別,預測潛在的安全威脅並提前採取措施。例如,智能防火牆是 AI 增強的防火牆,能夠更加有效地篩選和管理網絡流量,防止未經授權的訪問,這種智能防火牆不僅能防範過去已知的攻擊模式,還能學習和適應新的攻擊策略。

[ 加入 CIO Taiwan 官方 LINE 與 Facebook ,與全球 CIO 同步獲取精華見解 ]

然而再方便的工具,也有其缺點,AI 也不例外,缺點包括數據隱私、偏見和歧視、安全風險等等議題。

第一,數據隱私:瑞士蘇黎世聯邦理工學院電腦科學教授馬丁•韋切夫(Martin Vechev)的團隊發現,高級聊天機器人可以從對話中準確推斷出大量有關用戶的個人信息,包括他們的種族、位置、職業等。

第二,AI 依賴大量數據進行學習和分析,在無形之中帶來了數據隱私和安全問題。若數據沒有經過適當的處理,個人隱私可能被侵犯,甚至被用於不當目的。

第三,偏見和歧視:AI系統的訓練數據來自於使用者所投放的,如果數據中存在偏見,AI 系統可能會放大這些偏見,導致不公平或歧視性的決策。根據 Progress 研究報告,會有 65% 的組織受到資料偏差(Data Bias)的影響,而 51% 的組織認為對偏見缺乏認識和理解是解決問題的障礙之一。

第四,安全風險:AI 系統在某些情況下可能會遭受攻擊或被惡意利用,造成安全風險。例如,在2023 年,中國甘肅省網路警察發現網路上出現的假新聞,內容聲稱:“甘肅省有一列火車撞到修路工人而導致9起死亡事故。”這個由 AI 生成的假新聞在網路上獲得了 1.5 萬的瀏覽量。而另一起報導指說,駭客使用先進的人工智慧軟體,在中國北方說服一名男子將錢匯給朋友,實際上卻是轉到一個詐欺帳戶。

AI 監管與管理作為

那我們要怎麼使 AI 成為公正且有正向幫助的工具呢?作者整理了需注意的監管與管理事項。

第一點,透明性與解釋性:AI 系統應具備一定的透明性和解釋性,以便用戶理解該模型的決策過程。例如,開發可解釋的 AI 模型,使用戶能夠追蹤和檢查系統的決策依據。

第二點,責任與倫理:需有規範定義 AI 的責任界限,確保在出現問題時,能依據規範判斷責任主體。例如,制定 AI 倫理準則,確保系統在設計和運行過程中遵循道德標準。

第三點,制定標準指南與法律規範:可以制定和實施 AI 相關法規,規範 AI 技術的發展和應用,或是建立國際化組織,當作行業的指南,確保一致性。例如,頒布《人工智慧法》,規範 AI 系統的開發和應用。或是建立國際標準化組織(ISO),制定標準來提供統一的技術規範。

第四點:推動教育和培訓:加強 AI 教育和人才培養,讓大家對 AI 技術有更多的理解與認識。例如,在大學或公司中開設 AI 相關課程,培養資訊人才。

最後一點:監管機構的建立:設立專門的 AI監管機構,負責監督和評估 AI 技術的發展和應用。例如,可以建立人工智慧監管委員會,定期評估 AI 系統的安全性和合規性。

結論

總結來說,人工智慧(AI)作為一種革命性的技術,對我們的生活和工作方式產生了深遠的影響,其優點包括提升效率、改進決策、提高安全性和推動創新應用,但同時也帶來了就業影響、數據隱私、偏見和安全風險等挑戰。為了最大限度地發揮 AI 的潛力並減少其負面影響,必須加強對 AI 的控管和管理。在法律法規、標準制定、教育培訓和國際合作等方面採取綜合措施,確保 AI 技術在安全、透明、公平和倫理的框架內發展。只有這樣,我們才能真正實現 AI 技術的可持續發展,造福全人類。

當安全性社群將生成式 AI 建置到安全性產品和解決方案中時,我們需要以負責的方式加以建立相關規範,這是非常重要的,人們需要新 AI 系統能夠尊重我們的隱私權,並且可靠安全。另外,準確度和精確性是目前生成式 AI 模型最關鍵的問題,但隨著技術改善,AI 的一些問題與缺點將會越來越少,企業與產業絕對不能忽視這一波的浪潮,在接受它之餘,我們也需要良好的監管與確的管理作為以善用 AI。


(本文授權非營利轉載,請註明出處:CIO Taiwan)

標籤: AI監管管理隱私
上一篇文章

Progress 推出 MarkLogic FastTrack,協助企業運用連網資料的潛能

下一篇文章

資安公司領導品牌 連獲五年5A最高評鑑

相關文章

AI 代理人應用於銀行法遵的價值與導入關鍵
專欄

AI 代理人應用於銀行法遵的價值與導入關鍵

2026-11-20
AI 會寫程式,誰還需要工程師?
專欄

AI 會寫程式,誰還需要工程師?

2026-11-14
人工智慧與資料品質
專欄

人工智慧與資料品質

2026-11-13
下一篇文章
中華資安國際經營團隊。照片由中華資安國際提供。 左起: 中華資安蔡建崗副總、中華資安洪進福總經理、中華電信郭水義董事長、中華資安陳明仕董事長、中華資安温雅茹副總、中華資安王信富副總。

資安公司領導品牌 連獲五年5A最高評鑑

2026 Elite Vendor

追蹤我們的 Facebook

近期文章

  • 銀行法遵審查做不完?AI 代理如何把三小時繁雜作業縮短成三十分鐘!
  • AI 代理人應用於銀行法遵的價值與導入關鍵
  • AI 自己會寫程式,未來真的不需要工程師了嗎?解析軟體開發的大變革!
  • 半導體擴廠人才荒 Profet AI 助企業擴大專家量能
  • 中華電信建置 30 處備援站臺 強化雲林防救災通訊韌性

📈 CIO點閱文章週排行

  • AI 自己會寫程式,未來真的不需要工程師了嗎?解析軟體開發的大變革!

    0 分享
    分享 0 Tweet 0
  • 強化金融資安韌性 金管會:聚焦 AI 攻擊與代理 AI 安全

    0 分享
    分享 0 Tweet 0
  • 平台業者個資外洩 消費者問責品牌商

    0 分享
    分享 0 Tweet 0
  • 【調查報告】GTIG 首度揭露無人介入漏洞利用 AI 代理自主發動攻擊

    0 分享
    分享 0 Tweet 0
  • 國科會定調九大科技議題 推動 AI 產業化與供應鏈韌性

    0 分享
    分享 0 Tweet 0
  • 【專訪】合作金庫銀行電子金融部協理潘雲霞:以信任與治理 邁向可信賴 AI

    0 分享
    分享 0 Tweet 0
  • 【專訪】台北富邦銀行執行副總經理暨數位金融總處長陳弘儒:全行 AI 能力,打造金融生態圈

    0 分享
    分享 0 Tweet 0
  • 台灣數位資產與未來資本市場協會成立 布局代幣化金融基礎設施

    0 分享
    分享 0 Tweet 0
  • AI 代理人應用於銀行法遵的價值與導入關鍵

    0 分享
    分享 0 Tweet 0
  • AI與先進製程推升用電需求辰亞能源擴大科技業售電布局

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

國科會定調九大科技議題 推動 AI 產業化與供應鏈韌性

整理/鄭宜芬 國家科學及技術委員會今(16)日召開第 24 次委員會議,由數位發

從告警到可決策:企業還要 4 小時

《網路韌性法》的 24 小時通報時限一啟動,差距就在於團隊能否在時限內,從一個受

Quantum Taiwan 2026 全球量子科技交流匯聚臺灣 邁向實質驗證與系統化發展

整理/鄭宜芬 由國科會主辦、量子系統推動小組(TQPO, Taiwan Quan

TLS 憑證亂數強度未達國際標準 企業應檢視憑證安全

整理/鄭宜芬 國際社群 Bugzilla 於 10 月 30 日通報,臺灣網路認

設備聯網 鑄就 AI 轉型底座

園管局智慧化升級典範企業-嘉鋼精密工業 鑄造產業面對缺工、供應商縮減,以及國際市

2026 AI 物聯網大聯盟年會 聚焦主權 AI、算力建設與產業 AI 模型

採訪/鄭宜芬 2026 AI 物聯網大聯盟年會 28 日登場,國發會主委葉俊顯與

【調查報告】GTIG 首度揭露無人介入漏洞利用 AI 代理自主發動攻擊

整理/鄭宜芬 AI 代理在系統入侵與漏洞利用過程中承擔更多工作,不僅大幅降低對人

AI Agent 帶動攻擊自動化 台灣資安通報應變年會聚焦攻防新戰局

整理/鄭宜芬 隨著生成式與代理式 AI 快速發展,資安攻擊手法正朝自動化、精準化

【威脅分析】LLMJacking 盜用企業雲端與模型資源 單日損失逾 10 萬美元

整理/鄭宜芬 相較傳統加密貨幣挖礦劫持(cryptojacking)對運算資源逐

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音