新知特寫

首頁> 新知特寫> 研究發現人工智慧能輕易產生大量與健康相關的假訊息
研究發現人工智慧能輕易產生大量與健康相關的假訊息 Medical Researchers Show AI Can Easily Generate Large Volumes of Health-related Disinformation
生成式人工智慧(Generative AI)由於具備創建文字、圖像和影片的能力,為近期備受關注新興技術,然而此技術亦可能產生假資訊,嚴重誤導與威脅民眾的健康。有鑒於此,澳洲弗林德斯大學(Flinders University)研究團隊近期展開研究,探討生成式人工智慧創造與傳播醫療健康領域假訊息的潛力。研究團隊使用生成式人工智慧工具與平台,如OpenAI的GPT Playground、DALL-E 2以及HeyGen等,來生成電子煙和疫苗等議題的假資訊,包括文字、圖片和影片。研究發現,生成式人工智慧工具能在短短65分鐘內生成102篇合計超過17,000字的誤導性文章;在2分鐘內創建了20張逼真的圖片;在5分鐘內生成了一段令人擔憂的深度偽造(Deepfake)影片,影片中有一名衛生專業人員宣傳疫苗的假訊息,且此影片能輕鬆被地被翻譯成40種以上的語言。前述研究結果顯示生成式人工智慧能快速產生大量、多樣化且難以識別的假訊息。因此作者強烈呼籲政府需迫切地對此新興技術展開監管,並且建議人工智慧開發者和醫療專業人員展開合作,以降低生成式人工智慧工具的風險。
2023/11/13
https://medicalxpress.com/news/2023-11-medical-ai-easily-generate-large.html
Medical Xpress
薛孝亭