台灣 CIO 雜誌 報導指出，目前國際上出現了一種針對醫療系統的攻擊方式，名為 Prompt Injection，也就是提示注入的攻擊手法。這到底是什麼技術？簡單來說，駭客會在醫療圖片或檢查報告中，偷偷隱藏惡意指令。這種被稱為次視覺提示的技術，肉眼根本無法察覺。
當多模態 AI 讀取這些被竄改的影像或文字時，就會被引導做出錯誤的醫學判斷，甚至直接把病患的機密個資外洩給有心人士。
那該怎麼防禦呢？醫療院所必須建立嚴格的三層防護機制。第一層是在平台輸入階段比對文字與影像是否一致，確認沒有被植入惡意訊號。第二層是持續監控並過濾掉疑似惡意的引導字串。最後，AI 的結論絕對不能盲目採信，必須落實人工審核，由醫護人員進行最終把關。唯有多管齊下，才能確保醫療 AI 不會淪為駭客竊取資料的幫兇。
[ 收聽更多 CIO 雜誌 AI NOWCAST ] [ 文章來源：以多模態 AI 精實臨床作業流程（六） ]
