世界上最流行的聊天機器人 ChatGPT 被攻擊者用來創建新的惡意軟件。
網絡安全公司 WithSecure 已確認它已經發現了臭名昭著的 AI 作者在野外創建的惡意軟件示例。 ChatGPT 之所以特別危險，是因為它可以生成無數種惡意軟件變體，使它們難以檢測。
攻擊者可以簡單地向 ChatGPT 提供現有惡意代碼示例，並指示它根據這些代碼創建新的變種，從而使他們能夠使惡意軟件永久化，而無需花費與以前幾乎一樣多的時間、精力和知識。
這一消息發布之際，人們紛紛談論監管人工智能以防止其被用於惡意目的。 當 ChatGPT 去年 月變得非常流行時，沒有任何規則來管理它的使用，並且在一個月內它就被劫持以編寫惡意電子郵件和文件。
模型中有某些保護措施旨在防止惡意提示被執行，但可以被攻擊者繞過。
WithSecure 首席執行官 Juhani Hintikka 告訴 Infosecurity，網絡安全防御者通常使用人工智能來查找和過濾由威脅參與者手動創建的惡意軟件。
然而，現在情況似乎正在發生變化，ChatGPT 等強大的 AI 工具可以免費使用。 遠程訪問工具曾被用於非法目的，現在同樣適用於人工智能。
WithSecure 威脅情報負責人蒂姆·韋斯特補充說，“ChatGPT 將以好的和壞的方式支持軟件工程，這有助於並降低惡意軟件開發人員的進入門檻。”
根據 Hintikka 的說法，ChatGPT 可以創建的網絡釣魚電子郵件通常會被人們注意到，並且隨著 LLM 變得更加先進，在不久的將來防止落入此類騙局可能會變得更加困難。
更重要的是，隨著攻擊者攻擊的成功率以驚人的速度增加，攻擊者正在重新投資並變得更有組織，通過外包擴大業務，並加深對人工智能的理解以發動更成功的攻擊。
Hintikka 總結道，展望網絡安全的未來前景，“這將是一場好 AI 與壞 AI 的博弈。”
另請閱讀：