AI 在醫療領域的應用，如今面臨了前所未有的安全性質疑。根據路透社報導，最新的調查顯示，隨著醫療器材廠商競相將 AI 導入產品後，醫療管理單位近年收到的病人受影響的通報數量正顯著上升，甚至有因為誤判身體器官而導致手術失敗的悲慘案例。
從創新到安全疑慮：TruDi 系統案例
2021年，Johnson & Johnson (嬌生) 旗下的 Acclarent 公司宣布一項技術突破，將機器學習演算法應用於治療慢性鼻竇炎的 TruDi 導航系統。這項技術是用來協助耳鼻喉科醫師在複雜的手術過程中導航，提供更精準的器材定位。
然而，統計資料卻顯示，在 AI 功能加入之前，美國食品藥物管理局（FDA）在該設備於市場運行的三年內僅收到 7 件功能異常通報，不過呢，但在導入 AI 之後，相關的功能異常與不良事件通報竟飆升至超過 100 件。
手術失誤造成的重大傷害
在 2021 年底至 2025 年間，至少有 10 起因 TruDi 系統引起的受傷事件。通報內容描述了多起驚人的醫療事故，像是有醫師因導航資訊錯誤，不慎刺穿了病患的顱骨基底，導致腦脊髓液從鼻孔流出，更有兩名病患在手術中被誤傷大動脈而導致中風。
目前，相關受害者已在美國德州提起訴訟，該訴狀指出，這項產品在整合 AI 軟體之前，安全性反而更高。儘管目前接手該技術的廠商 Integra LifeSciences 強調，通報事件與 AI 技術之間並無直接因果關係，但這些血淋淋的實際案例，可說為 AI 在醫療上的部分應用蒙上陰影。
診斷設備與影像辨識同樣存在隱憂
除了引發訴訟的手術導航系統，AI 誤判的問題也延伸到了診斷設備。根據 FDA 的資料顯示，醫療器材大廠 Medtronic（美敦力）旗下的 LINQ 植入式心律監測器，也曾收到至少 16 份關於 AI 演算法無法辨識異常心律的通報。
儘管 Medtronic 宣稱其深度學習技術能大幅減少虛假警報，但實際案例卻顯示，該系統仍可能漏掉關鍵的心跳異常。此外，韓廠三星集團旗下的超音波軟體 Sonio Detect 也被通報存在演算法錯誤，還因此將胎兒身體部位標記錯誤。雖然這些案例並未造成如手術般的直接傷害，但是一旦診斷資訊有錯誤，勢必也會延誤後續的治療判斷。
監管機制面臨崩潰邊緣
AI 在醫療領域的擴展極為迅速。目前美國 FDA 核准的 AI 醫療器材已超過 1,350 件，是 2022 年的兩倍之多。
除了手術導航系統，心律監測器漏讀異常心跳、超音波設備誤認胎兒器官等問題也接踵而至。學術研究發現，這類 AI 器材的回收率，是傳統器材的兩倍以上，且近半數的回收事件常發生在產品上市後的一年之內。
令人擔憂的是，在政府縮減開支的政策下，負責把關的 FDA 正面臨資源短缺。該機構失去了大量具備電腦科學背景的資深科學家，這使得審核人員難以應付大量的廠商申請案，更遑論對複雜的演算法進行壓力測試。
科技與醫學的平衡點
雖然 AI 被預期能協助發現罕見疾病、開發新藥並強化醫師技能，但目前的市場亂象也顯示出，部分業者可能為了行銷噱頭而倉促推動技術上市。目前醫學專家指出，美國 FDA 現行的審核機制是將 AI 視為舊器材的更新版，而非全新的技術類型，這樣的作法可能會導致AI 應用於醫療上的安全被忽視。
CyberQ 指出，台灣 TFDA也有公布目前核准的 AI 醫材，雖然數量僅百餘件，而且多集中在影像輔導診斷，例如腦部電腦斷層、糖尿病視網膜病變篩檢、大腸鏡 AI 息肉偵測等。但如前述所提到的，若是影像診斷出錯，恐導致延誤治療的情況發生。
因此 CyberQ 認為，對醫療產業而言，AI 確實可以加速醫療產業的發展，但在擁抱智慧醫療的轉型時，必須建立更透明、更嚴謹的驗證標準，畢竟 AI 演算法的每一分誤差，在現實生活中，都可能對病患往後的生活造成極大的影響。
首圖由 Nano Banana AI 生成
