來自康奈爾科技的研究人員近日披露了一種新型的生成式AI蠕蟲，該蠕蟲能夠從一個系統傳播到另一個系統，並在此過程中竊取數據或部署惡意軟體。
該研究人員 Ben Nassi、Stav Cohen 和 Ron Bitton 將這種蠕蟲命名為 Morris II，以紀念 1988 年造成網路混亂的原始 Morris 蠕蟲。他們在一篇研究論文和演示網站中展示了 Morris II 如何攻擊生成式 AI 電子郵件助手，竊取電子郵件中的數據並發送垃圾郵件。
AI蠕蟲，你剛剛攻擊我的村莊？
研究人員發現，攻擊者可以利用生成式AI蠕蟲進行兩種攻擊：
基於文本的自我複製提示：攻擊者可以向電子郵件助手發送包含惡意文本提示的電子郵件，該提示會污染助手的資料庫，並在生成回覆時洩露敏感數據。
圖像中的自我複製提示：攻擊者可以將惡意提示嵌入圖像中，然後將圖像發送給電子郵件助手。助手會將圖像中的提示解析為指令，並執行這些指令，例如轉發包含垃圾郵件或惡意內容的電子郵件。
研究人員在測試環境中成功演示了 Morris II 攻擊。他們表示，這種攻擊可以繞過 ChatGPT 和 Gemini 等生成式AI模型的安全措施，並竊取敏感數據。
研究人員表示，生成式 AI 蠕蟲尚未在其他地方發現，但隨著大型語言模型 (LLM) 的廣泛應用，這種攻擊的風險值得警惕。LLM 可以生成文本、圖像和影片，並被用於各種應用程式，例如聊天機器人、智慧助手和自動駕駛汽車。