想像一下，當你躺在病床上等待檢查報告，人工智慧竟然在判讀 X 光片時，憑空捏造出你根本沒有的病灶。這不是科幻電影，而是真實存在的醫療危機。
根據 台灣 CIO 雜誌 所進行的趨勢探討指出，多模態人工智慧雖然強大，但在分析影像與文字的過程中，極易產生所謂的模型幻覺。什麼是 AI 幻覺？簡單來說，就是人工智慧看錯、想太多，甚至憑空補上不存在的醫療資料。一旦發生這種情況，就會導致嚴重的錯誤診斷，讓醫護人員誤信誤用。
該如何阻止人工智慧胡思亂想？醫學界找到的解方是導入 Visual RAG 機制，中文稱為視覺檢索增強生成。
這項技術的運作邏輯是什麼呢？它不讓人工智慧單憑運算直覺給答案，而是強制要求系統，必須同時透過影像與文字雙重來源進行溯源比對。也就是說，人工智慧給出的每一項診斷基礎，都必須清清楚楚地源自於真實病例，嚴格抑制系統憑空捏造的可能。
實際驗證的結果令人振奮。透過這套雙重防護機制，人工智慧產生幻覺的機率大幅下降了百分之三十五到百分之六十，偏誤率更是減少超過百分之五十。這不僅確保了病患的生命安全，更大幅提升了整體醫療診斷的絕對可信度。
[ 收聽更多 CIO 雜誌 AI NOWCAST ] [ 文章來源：以多模態 AI 精實臨床作業流程（六） ]
[ 收聽更多 CIO 雜誌 AI NOWCAST ] [ 文章來源：以多模態 AI 精實臨床作業流程（六） ]
