• 登入
  • 註冊網站會員
CIO Taiwan
  • 活動
  • 影音
  • 趨勢分析
  • CIO 雜誌
  • CSO精選
  • 電子報
  • 下載
  • 聯繫我們
沒有結果
查看所有結果
CIO Taiwan
沒有結果
查看所有結果
首頁 專欄

AI 的雙面刃與管理

2024-08-14
分類 : 專欄
0
A A
0
1200x630i158d07 1

Image by freepik

文/洪為璽


洪為璽 200x300
◤ 作者洪為璽博士,現為國立政治大學資訊管理學系教授兼CINTES研究中心主任,專長為資訊策略管理、資訊安全管理與大型資訊系統導入與應用。

人工智慧(Artificial Intelligence,AI),也稱為「人工智能」,廣為人知的定義是指,能夠通過數據演算來模擬人類思考、執行並解決問題的一種技術,是當今全世界最熱門的話題之一,AI 也正在各領域中快速改變人類的生活和工作方式。

在應用上,AI 涵蓋了電腦科學、資料分析、統計、硬體與軟體工程、語言學、神經科學、哲學和心理學等領域。它能夠幫助人類應進行資料分析、預測、物件分類、自然語言處理和智慧資料擷取等業務操作,應用範圍非常廣泛,而這些技術漸漸顛覆了我們過去對科技的認知。近年來,AI 進入到深度學習,其目標是從經驗中學習、適應新情況,最終能夠推理並解決問題。

AI 的歷史

介紹完 AI 後,我們來看看其歷史由來,人工智慧(Artificial Intelligence,AI)一詞最早出現在 1955 年,約翰•麥卡錫(John McCarthy)在達特茅斯會議上首次提出了「人工智慧」這一術語,使 AI 作為一個獨立研究的領域。而隔年在美國達特茅斯學院(Dartmouth College)召開第一次人工智慧會議,所以現在大家普遍將 1956 年視為人工智慧學科的創立,也就是 AI 的元年。

20 世紀 80 年代,專家系統(Expert system)成為 AI 研究的主要焦點,這些系統能夠模仿人類專家的決策過程。然而,由於計算資源和數據的限制,早期的 AI 系統在實際應用中遇到了很多挑戰,只能完成簡單的遊戲或解決簡單的問題。進入 21 世紀後,隨著大數據技術的興起和計算能力的提升,機器學習特別是得到了快速發展,這使得 AI 在圖像識別、語音識別、自然語言處理等領域取得了突破性進展。

AI的優點與隱患

那 AI 到底對於人類是好還是壞呢?近年來 AI快速的發展,使它成為許多產業不可或缺的工具,而 AI 的優點包括提升效率和生產力,改進決策,提高安全性,作者歸納出下列幾個優點。

第一,提升效率和生產力上:AI 能夠自動化處理大量數據,執行重複性任務,大大提高了工作效率和生產力。根據 MIT 史隆管理學院最新的調查結果顯示,當高技術員工將 Gen AI 納入其專業範圍時,他們的工作表現可以比不使用這項技術的員工提升高達 40%。例如,自動化客服系統可以 24 小時不間斷地提供服務,減少了人工成本。

第二,改進決策:通過分析大量數據,AI 可以提出有深度的見解,甚至根據數據建立模型,幫助企業和個人做出更明智的決策。例如,日本 FamilyMart 用DataRobot 評估和預測最適合展店的地點,透過機器學習的方式,發展出「展店關鍵成功因素的預測模型」,使用並改進決策。

第三,提高安全性:在安全監控和風險管理方面,AI 系統能夠通過行為分析和模式識別,預測潛在的安全威脅並提前採取措施。例如,智能防火牆是 AI 增強的防火牆,能夠更加有效地篩選和管理網絡流量,防止未經授權的訪問,這種智能防火牆不僅能防範過去已知的攻擊模式,還能學習和適應新的攻擊策略。

[ 加入 CIO Taiwan 官方 LINE 與 Facebook ,與全球 CIO 同步獲取精華見解 ]

然而再方便的工具,也有其缺點,AI 也不例外,缺點包括數據隱私、偏見和歧視、安全風險等等議題。

第一,數據隱私:瑞士蘇黎世聯邦理工學院電腦科學教授馬丁•韋切夫(Martin Vechev)的團隊發現,高級聊天機器人可以從對話中準確推斷出大量有關用戶的個人信息,包括他們的種族、位置、職業等。

第二,AI 依賴大量數據進行學習和分析,在無形之中帶來了數據隱私和安全問題。若數據沒有經過適當的處理,個人隱私可能被侵犯,甚至被用於不當目的。

第三,偏見和歧視:AI系統的訓練數據來自於使用者所投放的,如果數據中存在偏見,AI 系統可能會放大這些偏見,導致不公平或歧視性的決策。根據 Progress 研究報告,會有 65% 的組織受到資料偏差(Data Bias)的影響,而 51% 的組織認為對偏見缺乏認識和理解是解決問題的障礙之一。

第四,安全風險:AI 系統在某些情況下可能會遭受攻擊或被惡意利用,造成安全風險。例如,在2023 年,中國甘肅省網路警察發現網路上出現的假新聞,內容聲稱:“甘肅省有一列火車撞到修路工人而導致9起死亡事故。”這個由 AI 生成的假新聞在網路上獲得了 1.5 萬的瀏覽量。而另一起報導指說,駭客使用先進的人工智慧軟體,在中國北方說服一名男子將錢匯給朋友,實際上卻是轉到一個詐欺帳戶。

AI 監管與管理作為

那我們要怎麼使 AI 成為公正且有正向幫助的工具呢?作者整理了需注意的監管與管理事項。

第一點,透明性與解釋性:AI 系統應具備一定的透明性和解釋性,以便用戶理解該模型的決策過程。例如,開發可解釋的 AI 模型,使用戶能夠追蹤和檢查系統的決策依據。

第二點,責任與倫理:需有規範定義 AI 的責任界限,確保在出現問題時,能依據規範判斷責任主體。例如,制定 AI 倫理準則,確保系統在設計和運行過程中遵循道德標準。

第三點,制定標準指南與法律規範:可以制定和實施 AI 相關法規,規範 AI 技術的發展和應用,或是建立國際化組織,當作行業的指南,確保一致性。例如,頒布《人工智慧法》,規範 AI 系統的開發和應用。或是建立國際標準化組織(ISO),制定標準來提供統一的技術規範。

第四點:推動教育和培訓:加強 AI 教育和人才培養,讓大家對 AI 技術有更多的理解與認識。例如,在大學或公司中開設 AI 相關課程,培養資訊人才。

最後一點:監管機構的建立:設立專門的 AI監管機構,負責監督和評估 AI 技術的發展和應用。例如,可以建立人工智慧監管委員會,定期評估 AI 系統的安全性和合規性。

結論

總結來說,人工智慧(AI)作為一種革命性的技術,對我們的生活和工作方式產生了深遠的影響,其優點包括提升效率、改進決策、提高安全性和推動創新應用,但同時也帶來了就業影響、數據隱私、偏見和安全風險等挑戰。為了最大限度地發揮 AI 的潛力並減少其負面影響,必須加強對 AI 的控管和管理。在法律法規、標準制定、教育培訓和國際合作等方面採取綜合措施,確保 AI 技術在安全、透明、公平和倫理的框架內發展。只有這樣,我們才能真正實現 AI 技術的可持續發展,造福全人類。

當安全性社群將生成式 AI 建置到安全性產品和解決方案中時,我們需要以負責的方式加以建立相關規範,這是非常重要的,人們需要新 AI 系統能夠尊重我們的隱私權,並且可靠安全。另外,準確度和精確性是目前生成式 AI 模型最關鍵的問題,但隨著技術改善,AI 的一些問題與缺點將會越來越少,企業與產業絕對不能忽視這一波的浪潮,在接受它之餘,我們也需要良好的監管與確的管理作為以善用 AI。


(本文授權非營利轉載,請註明出處:CIO Taiwan)

標籤: AI監管管理隱私
上一篇文章

Progress 推出 MarkLogic FastTrack,協助企業運用連網資料的潛能

下一篇文章

資安公司領導品牌 連獲五年5A最高評鑑

相關文章

I168s10 Web
專欄

金融科技是美中角力下跨境支付的解答

2025-06-16
作業系統(OS)安全
CSO精選

作業系統(OS)安全

2025-06-10
I168web 2 Cover
專欄

白宮發布重要的無人機政策行政命令的啟示及產業商機

2025-06-10
下一篇文章
中華資安國際經營團隊。照片由中華資安國際提供。 左起: 中華資安蔡建崗副總、中華資安洪進福總經理、中華電信郭水義董事長、中華資安陳明仕董事長、中華資安温雅茹副總、中華資安王信富副總。

資安公司領導品牌 連獲五年5A最高評鑑

追蹤我們的 Facebook

近期文章

  • 金融科技是美中角力下跨境支付的解答
  • 數位轉型不靠喊單 Q Burger 實現早餐營運差異化
  • 統一資訊強化內部開發效能 加速推進數位與雲端轉型
  • Check Point Software 以 AI 強化邊緣防禦,全新分支安全閘道效能提升四倍
  • 華碩領航資安專利布局 榮獲後量子密碼CAVP認證

📈 CIO點閱文章週排行

  • ISO 27701 新版將面世,PIMS 標準出新版,個資保護國內外升級

    ISO 27701 新版將面世,PIMS 標準出新版,個資保護國內外升級

    0 分享
    分享 0 Tweet 0
  • TA-DIF 打造可解釋可部署 AI OT 安全異常偵測機制

    0 分享
    分享 0 Tweet 0
  • AI 代理驅動認知 ERP 發展

    0 分享
    分享 0 Tweet 0
  • 雷虎無人艇失聯與尋獲事件,挑戰的關鍵技術

    0 分享
    分享 0 Tweet 0
  • 【專訪】國立陽明交通大學校長林奇宏

    0 分享
    分享 0 Tweet 0
  • 作業系統(OS)安全

    0 分享
    分享 0 Tweet 0
  • 白宮發布重要的無人機政策行政命令的啟示及產業商機

    0 分享
    分享 0 Tweet 0
  • 台灣航太與造船業的文藝復興:打造無人載具新未來

    0 分享
    分享 0 Tweet 0
  • NVIDIA 黃仁勳:代理式人工智慧(Agentic AI)引領產業變革,數位員工時代來臨

    0 分享
    分享 0 Tweet 0
  • 【專訪】流亞科技董事長陳暐仁

    0 分享
    分享 0 Tweet 0

數位及平面

  • CIO Taiwan 網站
  • CIO 雜誌紙本
  • CIO 雜誌 HYREAD 版
  • CIO 雜誌 Zinio 版

關注社群

  • Line 加入好友
  • Facebook 粉絲頁

合作夥伴

  • CIO 協進會

關於我們

  • 公司介紹及工作機會
  • 隱私權政策

旗訊科技股份有限公司|統編:84493719|台北市 100 中正區杭州南路一段 15-1 號 19 樓|TEL: 886-2-23214335
Copyright © Flag Information Co.,Ltd. All Rights Reserved.

CIO Taiwan 歡迎你回來!

可用 使用者名稱 或 Email 登入

忘記密碼 註冊

歡迎註冊 CIO Taiwan 網站會員

請設定 Email 及 使用者名稱(使用者名稱不接受中文、將來無法更改)

欄位皆為必填 登入

找回密碼

請輸入 使用者名稱 或 Email 以重設密碼

登入
  • 登入
  • 註冊
沒有結果
查看所有結果
  • 活動
  • 影音
  • 最新文章
  • 產業速報
  • 新聞速寫
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 專欄
  • 精選文章
  • 原生現場
  • 供應商視野
  • 線上調查
  • CIO 雜誌
  • 電子報
  • 下載
  • 聯繫我們

© 2020 CIO Taiwan 版權所有

7/28 活動延期通知

因高雄市政府於7/28早上宣布全日停班停課,因此「智慧醫療研討會高雄場」活動延期舉辦。主辦單位將另行公告研討會相關訊息,歡迎報名參加!

您已閒置超過 3 分鐘了,為您推薦其他文章!點擊空白處、ESC 鍵或關閉回到網頁

11 蘇柏丞 A2a4762 1200

工業4.0改變產業生態 工具機業加速轉型

工​業4.0訴求將資通訊與生產流程整合,透過多方資料收集、整合、分析,進而達到改

1200 精誠微雲

雲資服業者的發展與挑戰

精誠集團、臺智雲、Synology 進軍 SaaS 市場 過往談到公有雲服務,多

SAP

SAP 永續金融解決方案發揮正面影響力

第十三屆金融業CIO高峰會春季場 會後報導 相較其他產業,金融業承受的 ESG

1200 202012040036

【專訪】高雄醫學大學附設中和紀念醫院副院長黃明國

高醫醫療體系推動智慧醫療 AI扮演重要核心 人工智慧是高醫醫療體系的重點發展項目

來毅數位執行長林政毅

來毅數位 Keypasco 強悍 滿足產業連線需求

台灣資安業者巡禮 ─ 來毅數位 鑑於傳統雙因子認證已無法阻擋駭客竊取帳密,所以來

網頁文章首圖1200x630 網頁文章首圖1200x630

【專訪】逢甲大學企管系講座教授佘日新

臺中市政府多管齊下 先進智造學院成績亮眼 臺中市政府經濟發展局特別攜手逢甲大學共

Ciotaiwan Logo 600 White

文章分類

  • 產業速報
  • 專欄
  • 影音
  • 風雲人物
  • CXO分享
  • 產業瞭望
  • 原生現場
  • 精選文章
  • 趨勢分析
  • 供應商視野
  • 新聞速寫
  • 下載
  • Sponsors

熱門標籤

  • 最新文章
  • 雲端運算
  • 人工智慧
  • 數位轉型
  • 製造業
  • 物聯網
  • 資料與分析
  • 資安
  • 區塊鏈
  • 5G
  • 儲存
  • 基礎架構

活動

  • CIO價值學院 四堂課
  • 智慧醫療研討會 台北/高雄場
  • 金融科技高峰會 春季/秋季場
  • 製造業CIO論壇 台北/台中/高雄場
  • 商業服務科技論壇
  • 亞太CIO論壇
  • CISO資安學院 金融/醫療/新竹場
  • CIO Insight 調查

影音

  • 影音