一、前言

生成式AI工具的效能、可利用性(Availability)正在不斷提高，也示意著任何人都可以透過惡意使用、誤用或意外行為，而造成潛在威脅。生成式AI將不斷降低潛在威脅行為者欲實現的攻擊門檻。除了組織或團體，政治運動參與者和獨立行動的個體也能利用生成式AI工具，實現各種意識形態、政治及個人目的。若犯罪者也使用生成式AI，可能會導致詐騙、詐欺、冒充、勒索軟體、貨幣盜竊、資料收集等犯罪行為的頻率增加。英國政府(HM Government)指出，到2025年，隨著資金、硬體、計算能力、數據技術的市場持續成長，生成式AI的開源模型需要更多的預防與應對措施，以減少犯罪者成功使用生成式AI建立新型惡意軟體的風險。

二、生成式AI的安全與風險

生成式AI的發展為全球帶來巨大的經濟利益，同時，它也可能透過危險使用者的威脅行為與攻擊，增加安全風險，下列為英國政府(HM Government)對生成式AI安全與風險的說明：

(一)網路攻擊
生成式AI可以透過量身定制的網路釣魚方法或複製惡意軟體，以更快速、高效且大規模的方式進行網路入侵。目前階段，生成式AI在漏洞發現、避免檢測的實驗仍不夠成熟。估計到2025年，生成式AI在電腦駭客的各個攻擊階段(如漏洞發現、入侵、資料竊取)，仍需人工參與和監督，無法完全自動化地獨立執行。

(二)數位安全漏洞
將生成式AI融入到關鍵功能和數位基礎設施中，將帶來新的攻擊威脅，包含破壞訓練資料(資料中毒Data Poisoning)、劫持模型輸出(提示詞注入Prompt Injection)、提取敏感訓練資料(模型逆向攻擊Model Inversion Attack)，以及干擾誤分類資訊(擾動Perturbation)等手法。這些安全風險需要被考慮，並採取相應的安全措施。

(三)資訊的可信度備受質疑
若公共公開資訊內容受到AI機器人與或由AI創造的合成媒體(Synthetic Media)操控，將會影響社會輿論、增加社會偏見的風險，包含製造假新聞、個人化的虛假資訊、操縱金融市場、破壞司法系統。到2026年，這些風險可能會佔據線上內容(Internet Content)的很大一部分，可能會削弱大眾對政府的信任，同時加劇社會兩極化與極端主義。因此，身份驗證解決方案需要隨著生成式AI的發展而不斷更新。

(四)政治與社會影響
生成式AI能夠產生高度複雜性且客製化的內容，生成式AI工具已被證實能夠在政治問題上影響人類，包含擴大虛假訊息/錯誤訊息的規模、增加虛假訊息/錯誤訊息的說服力及頻率。

(五)濫用/不安全使用
由於資訊安全性不足與演算法流程的不透明，存在著可能影響人類決策的偏見與風險。任何組織不當使用生成式AI技術，都可能引發意想不到的後果、導致連鎖的不良效應。

(六)威脅性武器
生成式AI可用於收集有關非法組織的攻擊訊息，包含化學、生物、放射性武器。目前，已有生成式AI公司正在開發可偵測危險的方法，期望能阻礙恐怖活動發生，但這些保護方法的效力還需要不斷的改進與升級。

三、企業引用生成式AI之相關措施建議

生成式AI是一項新穎的技術發展，為了能夠充分使用該技術，需要制定健全的策略，成功將該技術整合到工作中，下列為KPMG對於企業實施生成式人工智慧的建議：

(一)倡導負責任使用
生成式AI的易用性與開放性帶來一系列風險，目前，多數組織在管理、培訓及實施生成式AI的業務、風險及治理，仍缺乏相關政策，為了維護信任、減少負面影響，以及掌控不斷變化的風險，需建立明確的管理/治理機制，從財務到聲譽再到道德考慮，企業需要建立適合的防護措施，以因應生成式AI帶來的風險。

(二)人才問題
生成式AI對人們的工作方式、所需技能以及從事的工作產生重大影響，引發人們的恐懼與不確定性。為了降低不良影響，主導者需要有效管理、溝通其工作轉變，將工作流程重新設計，並且把生成式AI視為擴展人類能力的工具，而不是以它來取代人類能力，進而提高現有員工的生產力，擴大業務規模，而這些影響將因不同產業與職能而異。

(三)培養生成式AI素養
從高階管理者至基層員工，需要培養對生成式AI技術的認知。教育、試驗，以及負責任的正向態度，將有助於管理者與員工，將生成式AI融入業務之協作。

(四)在各領域應用生成式AI
創新者可有系統、逐步地使用生成式AI，穩健地開發生成式AI的應用潛力。另外，生成式AI適用於整個勞動力團隊，讓每個人都有機會使用，同時也能滿足企業將生成式AI技術用於產品週期規劃、員工培訓，以及應對各種業務模式的需求。

(五)推動全方位的管理
生成式AI正在改變我們思考、創造、工作、互動及生活方式，面對這個顛覆性的技術，將面臨一個關鍵問題：如何防範最壞的情況發生，同時能最大程度地善用生成式AI？因此，主導者需要進行全方位思考，包含產業動態、商業模型、運營模式、競爭對手與人才，並且需要有足夠的勇氣，在不確定的環境中做出重大影響決策，給予明確的抉擇，帶領他們的企業進行開創性的突破與發展。

四、結語

生成式AI有巨大的潛在好處，可加速醫療保健、金融和資訊科技等多個領域的生產力與創新，但這些好處也帶來潛在風險。如果大眾對這項技術的理解不夠充分，可能會引發過度焦慮，阻礙其使用，無法實現其中的潛在益處。此外，生成式AI也可能增加安全風險與威脅能力。因此，生成式AI的應用需要謹慎權衡風險與回報，確保可實現的最大利益。