用戶登入
懇請您立即點擊填寫「2017年科技發展觀測平台與電子報滿意度調查」。我們期待提高問卷回收率,請繼續給我們支持與鼓勵,感謝您!
焦點新聞
AI的惡意使用:預測、預防與緩解
.2018/04/20
摘要 人工智慧與機器學習的能力快速成長,廣泛讓許多應用程式受益,從機器翻譯到醫療影響分析,不計可數的應用程式正被開發,且預計將會長期發展。Future of Humanity Institute的研究報告論述人工智慧技術被惡意使用的潛在威脅,並提出AI在預測、預防與減緩這些威脅的因應方式。下列將介紹這些研究領域的發展現況。

一、 人工智慧可能帶來的威脅
(一) 數位安全:人工智慧技術將被用於網路安全性的攻擊與防禦,考量到許多重要IT系統長期以來不斷進行功能擴充,並與其他系統整合,以及維護不足因而導致安全性問題,加上網路安全性受到勞動力限制等因素,使得利用自動化人工智慧的時機逐漸成熟。近年來網路運作更加精細,且網路領域涵蓋廣泛且複雜的網路犯罪,部分犯罪集團利用分散式阻斷服務攻擊(DDoS),惡意軟體(malware),網絡釣魚(phishing)、勒索軟體(ransomware)等其他形式的網路運作,且快速地採用新興技術,如利用比特幣(Bitcoin)進行勒索軟體得支付。
(二) 實體安全:近年來將機器人作為商業應用的數量大幅提高,如工業用機器人數量自2010年12萬台成長至2015年25萬台。此外,全球亦不斷開發空中與水中應用的機器人,如2016-2017年在美國註冊的無人機的數量已超過67萬台,且許多機構正推動以無人機為基礎的運送服務。無人車亦在許多未妥善管制下的環境使用,如非測試環境。報告提出機器人發展應注意的三項特點:
1. 全球化:各國都在探討機器人的人道主義、娛樂、軍事和商業應用,供應鏈也是全球性的,生產和分銷遍布許多國家。
2. 廣泛應用:無人跡的應用已從單純的競賽發展到照相攝影與恐怖主義。多數機器人系統是具通用性的,且能依客戶需求做為各種用途使用。
3. 現行機器人系統多數不具自主性,多由人類主導機器人行為,但越來越多具自主性與半自主性的系統被開發,如現實生活中作為安全性與配送使用的機器人,舉例來說,過去無人機飛行在相對不穩定的情況下很難飛行,現在的無人機已能自動調整以提高機器的穩定性。
(三) 政治安全:人工智慧使個人、企業與國家間的溝通方式改變,如越來越多資訊透過自動化系統產生,且資訊科技透過許多方式影響政治情勢,但是新科技對政治影響力的關係並不直接。舉例來說,反抗者與執政者皆能透過社群媒體進行軍事監測與快速溝通,如烏克蘭與埃及的反抗者能因獲得世界部分人士的同情而能快速獲取相關情資。此外,以現在的技術而言,非常容易散播假訊息,但偵測與停止這些假新聞的管道卻很少。資訊通訊科技能以許多不同方式影響各種政治範疇。

二、 預測、預防與緩解威脅所應優先進行研究的領域
(一) 與網路安全社群:當人工智慧系統變得更為常見也更有能力,網絡安全事件的潛在影響正相對應成長。在數位安全方面,人工智慧在網路安全方面相當重要的三個主要原因為:(1)自動化帶來數位化控制實體系統的情況增加;(2)成功攻擊以人工智慧為基礎的系統,同時也給予攻擊者有關系統的演算法與訓練模式;(3)利用人工智慧進行網路攻擊將可能以更精密與更大規模的方式執行,將波及不在目標內的人士。
為了提高網路安全性,應針對幾個主題做進一步的研究與分析。(1)紅隊作業(Red teaming):密集的利用紅隊作業偵查與修復前在的安全行弱點,以及人工智慧開發者應以安全性為優先;(2)正式驗證(Formal verification);揭露人工智慧弱點的責任;(3)預測與安全性有關的能力;(4)安全性工具;(5)硬體加密(Secure hardware)。
(二) 探討不同開放式的模式:現今的機器學習研究,普遍強調開放性,多數新穎研究都會公開在網路,並分享從架構大綱、演算法系統到原始碼,這種程度的開放能使每位研究者受益於前人的工作成果上並促使合作,使理論進展能廣泛的與應用面合作。然而開放式分享亦可能使人工智慧被作為惡意使用的工具,同時也引起了研究公開的爭議,是否應延後發表與人工智慧安全性的相關發現。
研究報告的目標是以促進開放共享的種種考量因素,以及哪些機制可以實現這一目標,其列出幾項可以進一步討論的模型與機制,包含:研究發布前的技術領域風險評估;中央核發取得管道許可模式;以更具安全性的方式分享範疇,如僅限分享予特定群體或機構。
(三) 倡導責任文化:人工智慧研究者與機構正應用人工智慧改變全球安全性的概觀,許多社群已很謹慎的擔負起社會責任,並鼓勵其他人跟進,這樣的情況應持續與進一步推廣,並透過其他技術領域的經驗提供更好的分析,尤其要注意惡意使用的風險。
(四) 發展技術和政策解決方案:新的技術解決方案必須符合且有設計良好的政治制度協助,報告建議應進一步調查下列事項,以防治與緩解人工智慧技術的濫用:隱私權的保護;為公共安全協調人工智慧的使用;監測人工智慧相關的資源;法令與管制的回應。
延申閱讀
資料來源 Future of Humanity Institute