用戶登入
懇請您立即點擊填寫「2017年科技發展觀測平台與電子報滿意度調查」。我們期待提高問卷回收率,請繼續給我們支持與鼓勵,感謝您!
焦點新聞
人工智慧對安全性與未來工作可能造成的風險
.2018/02/01
摘要 在未來數十年之內,我們將從以機器為基礎的社會演變成以資訊為基礎的社會,當資訊時代(Information Age)逐漸趨於成熟,社會將更熟悉以數據驅動與演算法的系統。報告透過研究方法選出四項因人工智慧對人類帶來較顯著的影響,包含安全性、就業、決策與健康,並針對前兩項進行說明如下。

一、人工智慧對安全性的風險
此處的安全性討論分為國家安全(national security)與國內安全(domestic security),前者著重於國家外部風險,而國內安全則是指國家內部所引起的穩定性風險。
(一) 國家安全:
1.當全面在國家安全使用自動化決策,可能導致嚴重錯誤與事件傷亡,如冷戰期間的佚事多以自動化的核武防衛系統故障,導致國家瀕臨核戰邊緣。
2.將人工智慧作為代理人,能有效操控資訊,因此人工代理(artificial agents)可能特別適用於網路安全性與資訊戰爭(information warfare),此處使用的人工代理係指仰賴自動化、數據驅動與演算學習程序(包含人工智慧)的儀器與決策協助。以物聯網為目標且有智慧的惡意程式如Mirai,將能大幅強化惡意軟體的攻擊。其中一項限制惡意軟體智慧的要素是,需要小型惡意軟體來酬載(payloads)以防止被偵查。未來分散式的人工智慧發展,將能導致以小型惡意軟體酬載的策略性殭屍網路(botnets)與毀滅性的影響。
3.在目前學習系統中將有更多的資料餵食脆弱度(data diet vulnerability),能使偏差或謬誤在訓練資料中成型。將人工智慧應用於國家安全的監視與網路安全,開啟以資料餵養脆弱度為基礎的新攻擊方向。對手將學習如何系統性地提供假情報予人工智慧監視系統,將在不知情的情況下建立雙重代理。最近的現象也顯示出,可透過此類方式訓練,進而能攻擊以機器學習為基礎的惡意軟體偵測系統。

(二) 國內安全:
1.人工代理在國內安全風險多為與人工智慧相關的風險,如政府設置人工智慧代理來監視人民。對美國政府監視體系持懷疑態度的人認為,從過去歷史紀錄來看,美國政府在監視方面,從來就不是中立的,且不公平但表面合法的監視,將強化不平等。
2.ProPublica最近在機器偏誤(machine bias)的報告中,描述在刑事司法程序中使用演算法,並提出運用刑事司法系統(criminal justice system)假釋聽審來估算累犯的演算法「COMPAS」,具有系統性的誤差結果。因為在保釋(bail)與判決程序使用這類誤導性的系統,導致使用此技術做為判決輔助的法院,加重判決結果的不平等。
3.人工代理在法令機構的使用成長,引發公民對於基本權利擔憂,主要為法令執行機構的大規模蒐集與攫取能力、損害隱私性,與當使用的機器人犯法時的處理。
主要核心為,在公民法律權利與人工智慧間,是否會有預料外的自動化問題,來破壞執法者與民眾間的關係。在應用於這些新能力前,應適當討論這些法令問題,以及人工智慧的法律人格(legal personhood)議題。

二、人工智慧與就業的風險
(一) 人工智慧能以更低廉的方式執行工作,並取代人類用以換取所得的勞務工作:傳統上,自動化多應用於執行相對低技能的工作,且多具有明確運算指令,如工業機器人。新的人工智慧系統則不需要明確指令,就能透過資料進行學習並採取行動,人工代理正逐漸取代人類工作,並提高其在人類就業市場的工作量,包含醫療與放射性診斷,以及車輛駕駛等。
(二) 人工智慧驅動的自動化能力將改變勞動市場的型態:這涉及情緒與政治方面,勞工在經濟、社會與文化中所扮演的功能。自2008年以來的經濟復甦不確定性,助長了就業恐懼,特別是失業性復甦(jobless recovery),意旨儘管就業率維持不變或更低,但總體經濟仍是成長的。這樣的趨勢與近期另個趨勢相符合,勞務占全國所得比例相較資本占全國所得的比例,持續下降。因此,勞工自經濟成長與國家生產力增長的所獲取的回報比例更低。
(三) 人工智慧對短中長期的就業衝擊:
1.短期趨勢:新人工智慧將使人工代理在傳統工作型態中,帶來破壞性的衝擊。這些破壞性的衝擊並不皆為負面的,破壞性亦帶來新的就業機會,如以人工智慧推動「微型工作」(microwork)能大幅降低成本,並提高微型工作就業機會。以過去歷史紀錄來看,中等技能的例行事務工作者,相較低技能與高技能的工作者而言,更容易受到經濟蕭條導致失業的影響,此又被稱為工作兩極化(job polarization)。人工智慧系統的成長需要相關投資,但僅限少數幾個,如非常高科技的企業、需要許多大量資料庫的企業與非常高階技術的工作者,這代表由人工智慧驅動的自動化所獲取的生產力收益將回饋於少數超級新星企業(superstar firms),估計勞工生產力回饋占比將減少,並進一步提高全球與國家的所得不平等效果。
2.長期趨勢:尚未有一個完善的架構足以判斷,受到自動化或人工代理的長期就業影響。人工智慧研究者與經濟學家表示,人工智慧自動化是有所侷限的,人工智慧執行工作通常需要被完整定義、具重複性或可以輕易判斷相關表現。報告建議兩個要素來評估未來可能受到人工智慧長期影響的工作:
 工作環境是否常處於混亂狀態:工作者需要管理與因應的情境數量,以及工作者需轉換工作情境的頻率。這涉及到情境複雜度與多元技術管理,高度混亂的工作如消防員、政治人物與外科醫生。
 工作人員在執行有效工作所需的典型回應時間。
報告建議在低混亂區的工作環境較適合利用人工智慧進行自動化,同樣的,反應時間較長的工作亦較適合。高度混亂工作環境與需要立即回應的工作則較不適合改成自動化。高度混亂通常代表需要更大量的資料來區分所需要的功能,通常需要長時間運算處理。
延申閱讀
資料來源 RAND