一、前言
生成式AI工具的效能、可利用性(Availability)正在不斷提高,也示意著任何人都可以透過惡意使用、誤用或意外行為,而造成潛在威脅。生成式AI將不斷降低潛在威脅行為者欲實現的攻擊門檻。除了組織或團體,政治運動參與者和獨立行動的個體也能利用生成式AI工具,實現各種意識形態、政治及個人目的。若犯罪者也使用生成式AI,可能會導致詐騙、詐欺、冒充、勒索軟體、貨幣盜竊、資料收集等犯罪行為的頻率增加。英國政府(HM Government)指出,到2025年,隨著資金、硬體、計算能力、數據技術的市場持續成長,生成式AI的開源模型需要更多的預防與應對措施,以減少犯罪者成功使用生成式AI建立新型惡意軟體的風險。
二、生成式AI的安全與風險
生成式AI的發展為全球帶來巨大的經濟利益,同時,它也可能透過危險使用者的威脅行為與攻擊,增加安全風險,下列為英國政府(HM Government)對生成式AI安全與風險的說明:
(一)網路攻擊
生成式AI可以透過量身定制的網路釣魚方法或複製惡意軟體,以更快速、高效且大規模的方式進行網路入侵。目前階段,生成式AI在漏洞發現、避免檢測的實驗仍不夠成熟。估計到2025年,生成式AI在電腦駭客的各個攻擊階段(如漏洞發現、入侵、資料竊取),仍需人工參與和監督,無法完全自動化地獨立執行。
(二)數位安全漏洞
將生成式AI融入到關鍵功能和數位基礎設施中,將帶來新的攻擊威脅,包含破壞訓練資料(資料中毒Data Poisoning)、劫持模型輸出(提示詞注入Prompt Injection)、提取敏感訓練資料(模型逆向攻擊Model Inversion Attack),以及干擾誤分類資訊(擾動Perturbation)等手法。這些安全風險需要被考慮,並採取相應的安全措施。
(三)資訊的可信度備受質疑
若公共公開資訊內容受到AI機器人與或由AI創造的合成媒體(Synthetic Media)操控,將會影響社會輿論、增加社會偏見的風險,包含製造假新聞、個人化的虛假資訊、操縱金融市場、破壞司法系統。到2026年,這些風險可能會佔據線上內容(Internet Content)的很大一部分,可能會削弱大眾對政府的信任,同時加劇社會兩極化與極端主義。因此,身份驗證解決方案需要隨著生成式AI的發展而不斷更新。
(四)政治與社會影響
生成式AI能夠產生高度複雜性且客製化的內容,生成式AI工具已被證實能夠在政治問題上影響人類,包含擴大虛假訊息/錯誤訊息的規模、增加虛假訊息/錯誤訊息的說服力及頻率。
(五)濫用/不安全使用
由於資訊安全性不足與演算法流程的不透明,存在著可能影響人類決策的偏見與風險。任何組織不當使用生成式AI技術,都可能引發意想不到的後果、導致連鎖的不良效應。
(六)威脅性武器
生成式AI可用於收集有關非法組織的攻擊訊息,包含化學、生物、放射性武器。目前,已有生成式AI公司正在開發可偵測危險的方法,期望能阻礙恐怖活動發生,但這些保護方法的效力還需要不斷的改進與升級。
三、企業引用生成式AI之相關措施建議
生成式AI是一項新穎的技術發展,為了能夠充分使用該技術,需要制定健全的策略,成功將該技術整合到工作中,下列為KPMG對於企業實施生成式人工智慧的建議:
(一)倡導負責任使用
生成式AI的易用性與開放性帶來一系列風險,目前,多數組織在管理、培訓及實施生成式AI的業務、風險及治理,仍缺乏相關政策,為了維護信任、減少負面影響,以及掌控不斷變化的風險,需建立明確的管理/治理機制,從財務到聲譽再到道德考慮,企業需要建立適合的防護措施,以因應生成式AI帶來的風險。
(二)人才問題
生成式AI對人們的工作方式、所需技能以及從事的工作產生重大影響,引發人們的恐懼與不確定性。為了降低不良影響,主導者需要有效管理、溝通其工作轉變,將工作流程重新設計,並且把生成式AI視為擴展人類能力的工具,而不是以它來取代人類能力,進而提高現有員工的生產力,擴大業務規模,而這些影響將因不同產業與職能而異。
(三)培養生成式AI素養
從高階管理者至基層員工,需要培養對生成式AI技術的認知。教育、試驗,以及負責任的正向態度,將有助於管理者與員工,將生成式AI融入業務之協作。
(四)在各領域應用生成式AI
創新者可有系統、逐步地使用生成式AI,穩健地開發生成式AI的應用潛力。另外,生成式AI適用於整個勞動力團隊,讓每個人都有機會使用,同時也能滿足企業將生成式AI技術用於產品週期規劃、員工培訓,以及應對各種業務模式的需求。
(五)推動全方位的管理
生成式AI正在改變我們思考、創造、工作、互動及生活方式,面對這個顛覆性的技術,將面臨一個關鍵問題:如何防範最壞的情況發生,同時能最大程度地善用生成式AI?因此,主導者需要進行全方位思考,包含產業動態、商業模型、運營模式、競爭對手與人才,並且需要有足夠的勇氣,在不確定的環境中做出重大影響決策,給予明確的抉擇,帶領他們的企業進行開創性的突破與發展。
四、結語
生成式AI有巨大的潛在好處,可加速醫療保健、金融和資訊科技等多個領域的生產力與創新,但這些好處也帶來潛在風險。如果大眾對這項技術的理解不夠充分,可能會引發過度焦慮,阻礙其使用,無法實現其中的潛在益處。此外,生成式AI也可能增加安全風險與威脅能力。因此,生成式AI的應用需要謹慎權衡風險與回報,確保可實現的最大利益。