黑客展示“没有道德限制”的 WormGPT 聊天机器人：可自动生成木马、钓鱼链接

OpenAI，人工智能领域的重要参与者，多次呼吁人们开展道德约束的人工智能研究，以避免AI在没有道德约束下造成不必要的问题。近日，黑客展示了没有道德限制的情况下人工智能可能做出的行为。

据安全分析公司SlashNext透露，最近有黑客开发了一款名为WormGPT的AI工具，据称它没有任何限制，并专门用于协助网络犯罪分子，能够自由生成各种恶意代码或进行网络钓鱼攻击。

根据SlashNext的说法，WormGPT最早于今年3月首次亮相，并于6月发布了正式版本。目前，黑客正在销售该AI工具的使用权限。

黑客在销售页面中表示：“该AI工具旨在提供ChatGPT的替代方案，方便用户从事与黑客攻击相关的活动，让任何人都能够在舒适的家中从事恶意行为。”

据黑客声称，为了创建这个聊天机器人，他们使用了一个名为GPT-J的较旧但开源的大型语言模型，然后通过对与恶意软件创建相关的数据进行训练，最终形成了WormGPT。

黑客以每月60欧元或每年550欧元的价格销售WormGPT的使用权限。设计WormGPT的黑客还上传了截图，显示用户可以要求该工具生成使用Python编程语言编写的恶意软件。

SlashNext获得了WormGPT的使用权限，并进行了一系列测试。结果令人不安，WormGPT生成的钓鱼邮件既具有极高的说服力，又在策略上非常狡猾，展示出其邪恶潜力。

综上所述，安全公司认为，随着AI技术的普及，这类“完全面向网络攻击”的AI工具可能会被黑客滥用，从而带来重大威胁。