世界上最流行的聊天机器人 ChatGPT 被攻击者用来创建新的恶意软件。
网络安全公司 WithSecure 已确认它已经发现了臭名昭著的 AI 作者在野外创建的恶意软件示例。 ChatGPT 之所以特别危险，是因为它可以生成无数种恶意软件变体，使它们难以检测。
攻击者可以简单地向 ChatGPT 提供现有恶意代码示例，并指示它根据这些代码创建新的变种，从而使他们能够使恶意软件永久化，而无需花费与以前几乎一样多的时间、精力和知识。
这一消息发布之际，人们纷纷谈论监管人工智能以防止其被用于恶意目的。 当 ChatGPT 去年 月变得非常流行时，没有任何规则来管理它的使用，并且在一个月内它就被劫持以编写恶意电子邮件和文件。
模型中有某些保护措施旨在防止恶意提示被执行，但可以被攻击者绕过。
WithSecure 首席执行官 Juhani Hintikka 告诉 Infosecurity，网络安全防御者通常使用人工智能来查找和过滤由威胁参与者手动创建的恶意软件。
然而，现在这种情况似乎正在发生变化，免费提供 ChatGPT 等强大的 AI 工具。 远程访问工具曾被用于非法目的，现在同样适用于人工智能。
WithSecure 威胁情报负责人蒂姆·韦斯特补充说：“ChatGPT 将以好的和坏的方式支持软件工程，这有助于并降低恶意软件开发人员的进入门槛。”
根据 Hintikka 的说法，ChatGPT 可以创建的网络钓鱼电子邮件通常会被人们注意到，并且随着 LLM 变得更加先进，在不久的将来防止落入此类骗局可能会变得更加困难。
更重要的是，随着攻击者攻击的成功率以惊人的速度增加，攻击者正在重新投资并变得更有组织，通过外包扩大业务，并加深对人工智能的理解以发动更成功的攻击。
Hintikka 总结道，展望网络安全的未来前景，“这将是一场好 AI 与坏 AI 的博弈。”
另请阅读：