新知特寫

首頁> 新知特寫> 生成式人工智慧和社群媒體操縱3.0的興起
生成式人工智慧和社群媒體操縱3.0的興起 Generative AI and the Rise of Social Media Manipulation 3.0
美國智庫蘭德公司(RAND Corporation)在最新發布的報告中強調,廣泛應用的先進生成式人工智慧(AI)可能導致國家安全問題,特別是在社交媒體方面可能被美國的對手,尤其是中國人民解放軍所濫用。這份名為「生成式AI的崛起和社交媒體操控3.0時代」(The Rise of Generative AI and the Coming Era of Social Media Manipulation 3.0)的報告強調,生成式AI的出現代表著社交媒體操控策略的重大變革。生成式AI是指能夠根據用戶生成的文本提示生成媒體內容的AI模型,這將可能引發新一波社交媒體操控,利用生成式AI提供真實性、替代勞動力、以較低成本實現規模化和降低偵測率等優勢來克服先前的限制。儘管報告聚焦於中國和解放軍作為範例,但也指出其他行為者,包括非國家實體,可能利用生成式AI進行類似的地緣政治活動。報告強調,生成式AI將改變現有的社交媒體操控方法,而不是取代它們,這些方法包括透過演算法推動特定內容、使用大量機器人創建對某一主題的廣泛共識(astroturfing)以及製作誤導性信息和「網路爆紅事物」的迷因(meme)等。該報告最後提出了技術、政策和外交方面的風險緩解建議,並強調由於生成式AI技術的全球普及和缺乏監管,因此需要採取綜合方法。報告並強調,美國政府以及更廣泛的技術和政策社群,需要積極因應生成式AI在社交媒體操控領域帶來不斷演變的威脅,並制定因應策略。
2023/09/19
https://www.hsdl.org/c/generative-ai-social-media-manipulation/
Homeland Security Digital Library (HSDL), USA
賴允政