编译／黄竣凯
随着生成式人工智慧（AI）兴起，该技术也被有心人士用来谋取自身利益，为网路犯罪提供新途径。根据 网路安全公司SlashNext 的调查结果，一种名为 WormGPT 的新型生成式AI网路犯罪工具正在崛起，让人们暴露在网路钓鱼和商业电子邮件入侵（BEC）等攻击的危险中。
据外媒报导，安全研究员 Daniel Kelley 表示：「该工具是骇客专用版GPT 模型。 网路犯罪分子可以利用此技术自动建立高度可信的假电子邮件，并针对收件人进行个人化编辑，增加攻击成功的机会。」该软体的制作人将其描述为「ChatGPT 最大的敌人」，且「它可以让你做各种非法的事情」。
在坏人手中，像 WormGPT 这样的工具可能是一种强大的武器。WormGPT 不但没有任何道德限制，甚至还允许新手网路犯罪分子在没有技术资金的情况下，迅速大规模发动攻击。Kelley 指出：「生成式AI可以创建语法完美的电子邮件，使它们看起来合法，并降低被标记为可疑的可能性。即使是技能有限的攻击者也可以使用这项技术，并推动更广泛的网路攻击。」
为了降低AI风险，OpenAI 的ChatGPT 和 Google的 Bard也都纷纷开始推出措施，为打击滥用大型语言模型 （LLM）伪造的网路钓鱼电子邮件而努力。Check Point 软体技术有限公司则在一份报告中表示：「Bard在网路安全领域的反滥用限制明显低於 ChatGPT。因此，使用Bard生成恶意内容要容易得多」。
但与此同时，有心人士也正在对ChatGPT进行「越狱」测试，并设计专门的提示和输入，让人们可以操纵该工具生成涉及泄露敏感资讯、不当内容和执行有害程式码的输出。
参考资料：The Hacker News
※更多ChatGPT相关讯息，请参考【生成式AI创新学院】。
