一、前言

大型多模態模型（LMMs）作為人工智慧領域的新興技術，憑藉其廣泛的應用潛力，正吸引眾多業者的關注與資源投入，並預期將迅速改變現有的醫療照護模式。然而，LMMs 的快速發展也伴隨著潛在的風險和挑戰，因此，制定相應的治理機制至關重要，以確保其在醫療應用中的安全性、有效性和倫理性。唯有建立完善的治理框架，兼顧合規性與風險控制，方能引導 LMMs 的發展與推廣，使其真正造福人類健康。

2024年，世界衛生組織（WHO）發布了《Ethics and Governance of Artificial Intelligence for Health: Guidance on Large Multi-Modal Models》報告，旨在幫助會員國深入了解 LMMs 在健康領域的潛在效益和挑戰，並提供相應的政策和實踐建議，涵蓋企業應遵循的規範，以及政府應制定的法律與政策，以促進技術創新與社會責任之間的平衡，使LMMs能為人類健康帶來實質性的益處。本文將針對WHO提出之政策和實踐建議作介紹。
 

二、LMMs價值鏈與關鍵參與者

大型多模態模型從開發到應用過程可分為開發(Develop)、提供(Provide)、部署（Deploy）三個階段，各階段涉及不同的關鍵角色，包括：開發者（Developers）、提供者（Providers）及部署者（Deployers）。開發者負責模型的設計與訓練，通常是大型科技公司（如 Google 或 OpenAI）、學術機構或公私合營機構，這些單位擁有豐富的數據、運算能力及專業知識來支持模型的開發。提供者通常是醫療技術或軟體公司，其負責將開發者推出的AI模型微調並整合至具體的健康應用中，例如將 LMMs 融入電子病歷系統，以支援臨床診斷和決策。部署者為最終使用 AI 技術的單位，包括醫療機構、醫院、製藥公司或政府衛生部門，他們將 AI 產品應用於臨床或健康管理等實際場景。

各參與者在 AI 價值鏈不同階段的決策，對技術的發展和應用有深遠的影響。因此，建立有效的治理框架來明確各方責任，並對技術的全生命周期進行監管至關重要。下列段落將分別介紹 LMMs 在開發、提供和部署這三個階段所面臨的風險，並探討開發者、提供者、部署者以及政府在應對這些風險時可採取的具體措施。
 

三、開發階段

(1)需要解決的風險
在開發階段，數據偏見、隱私保護和能源消耗是主要風險。若訓練數據的多樣性不足，LMMs 可能在特定族群中的表現不佳。因此，確保數據來源多樣性，涵蓋不同族群和病症，是減少系統性偏見的關鍵。其次，LMMs 在開發過程中需處理大量敏感的健康數據，開發者必須遵守嚴格的數據保護法規，以防止數據洩露或未經授權的使用。此外，LMMs的開發需要大量計算資源，對能源消耗和碳排放帶來巨大挑戰，因此環境影響也成為開發者需關注的議題。

(2) 開發者應對措施
開發者應採取多種措施以應對這些風險，包括：培訓員工以確保其能夠識別和迴避潛在風險；使用更全面且具代表性的訓練數據，確保數據品質；訓練數據應能即時更新，以減少數據偏見；引入嚴謹的數據保護機制，並進行隱私影響評估，確保數據使用符合法規；在人工智慧技術的設計和開發中，融入道德和人權標準，並鼓勵利害關係人參與設計過程；同時，積極尋求技術創新，採用能效優化方案，減少能源消耗。

(3) 政府的角色/舉措
政府在監督 LMMs 的開發中扮演著關鍵角色。政府應制定強制性數據保護法規，規範 LMMs訓練資料的收集和使用，保障民眾的權益，避免數據偏見。例如，要求開發者採取有效措施，收集具有真實性與代表性的數據；制定AI設計開發之標準、要求，如可解釋性、可修正性、安全性等標準，並透過激勵措施，如預認證計畫（Pre-certification Programmes），鼓勵開發商在產品開發中主動識別潛在風險並解決相關問題。此外，政府還應推動針對 LMMs 能源使用的評估，制定環保標準，鼓勵開發者採取節能措施。

政府還應鼓勵開源 LMMs 的發展，要求使用政府資金開發的 AI 模型應對公眾開放，從而提高技術透明度並促進用戶參與。開源能降低開發成本，允許小型企業或非營利機構開發 LMMs，並有助於識別問題和擴展應用。同時政府應投資或提供非營利性質的基礎設施，包括可供公眾使用的運算資源和公共資料庫，以確保技術的公平性與可及性。
 

四、提供階段

(1) 風險與責任歸屬
此階段 LMMs 面臨的風險不僅限於數據偏見、虛假資訊、數據隱私等問題，還涉及操作偏差以及責任歸屬問題。世界衛生組織（WHO）認為，開發者與提供者應共同承擔 LMMs 應用於醫療照護時所產生的風險。開發者固然不應對所有使用情境負全責，但也不能將所有責任轉嫁給提供者或使用者，因為後者可能缺乏理解模型限制與風險的專業知識與能力。

因此，開發者不能僅專注於模型的設計與開發，而應重視其在實際應用中的風險管理。特別是將 LMMs 用於醫療用途時，更須與提供者合作，共同應對潛在風險。同時，提供者在使用 LMMs 提供醫療服務時，必須保持對技術局限性的高度警覺，並確保其應用符合相關法律、倫理標準及醫療安全要求。

(2) 政府的角色/舉措
為確保 LMMs 在醫療領域的安全與合法應用，政府應設立專責機構，負責審查和批准相關技術及其應用，並制定明確的法律規範，涵蓋數據隱私、演算法透明度、責任歸屬等方面，例如明確 LMMs實際應用超出原設計範圍時提供者的責任，同時確保 LMMs的使用符合人權與倫理。

政府還應要求開發者和提供者公開關鍵資訊，例如模型的訓練數據來源、演算法設計、預期應用場景、已知限制和潛在風險、碳排放量等，並確保使用者數據得到充分的保護。開發者和提供者需在技術使用過程中持續進行風險評估，並接受獨立第三方的審查，確保評估結果的透明公開。

對於被視為醫療器材的 LMMs，開發者和提供者需負有舉證責任，證明其技術效能符合法規要求並達到預期的性能。同時，政府應考慮設立監理沙盒，允許尚未核准的 LMMs 在受控環境下進行測試，以降低潛在風險。
 

五、部署階段

(1) 部署階段的風險
LMMs 在實際部署階段的風險來自於技術的不可預測性及其應用場景的多樣性。LMMs的回應可能隨時間演變，並可能出現開發者或提供者未曾預料的應用情境，這可能導致生成錯誤或虛假的醫療資訊，對健康照護系統造成潛在危害。此外，數據隱私在部署階段仍是核心問題，輸入和輸出過程中都存在數據洩露的風險，尤其在涉及患者個人健康資料時，更需嚴格的保護措施。

(2) 開發者、提供者與部署者的責任
世界衛生組織（WHO）指出，即使技術獲得許可後，開發者和提供者仍需承擔責任，因為有些風險和問題只能透過這些業者來解決。這些責任應由法律強制執行，以確保開發者和提供者投入足夠資源來維護系統，並持續揭露技術性資訊，例如技術文件內容，以確保使用者安全使用LMMs。

(3) 部署者的責任
部署者也必須承擔相應的責任，以避免或減輕 LMMs 帶來的風險。首先，部署者應根據開發者或提供者提供的資訊，避免將 LMMs 用於不合適的場景。其次，部署者應清楚告知使用者 LMMs 可能存在的風險與錯誤，並應以清晰易見的方式進行風險提示。在某些情況下，即使法律沒有明確規定，部署者也應自行評估風險，並主動停止或撤除 LMMs，以防止可能的危害發生。最後，部署者應確保 LMMs 的價格合理，符合使用者的支付能力。

(4) 政府的角色/舉措
除了要求在 LMMs 大規模部署後進行第三方審查和影響評估，政府還需確保其符合數據保護及人權標準，並要求開發者和提供者及時修正 LMMs 部署後出現的錯誤或有害內容。此外，政府應建立一套讓醫護人員和患者等利害關係人參與監督的機制，以確保 LMMs 在臨床決策中的適當應用，並保護患者的權益。

另外，醫療衛生機構和醫學院需負責培訓醫護人員使其了解 LMMs 的局限性，並學習如何應對網絡安全威脅，避免 AI 偏見的技巧，以及培養與患者有效溝通LMMs使用情況的能力。同時，政府也應提升公眾的 AI 素養，使其了解 LMMs 的影響及正確使用方式。