已经有人开始尝试使用 ChatGPT 编写恶意软件

ChatGPT AI 聊天机器人在推出的短时间内引起了极大的轰动，现在似乎有人利用它来尝试生成恶意代码。

ChatGPT是一款人工智能驱动的自然语言处理工具，可以以类似人类的对话方式与用户互动。除其他功能外，它还可用于帮助完成撰写电子邮件、论文和代码等任务。 

该聊天机器人工具由人工智能研究实验室 OpenAI 于 11 月发布，引起了人们的广泛兴趣和讨论，包括人工智能如何发展以及未来如何使用。 

但与任何其他工具一样，如果落入坏人之手，它可能被用于邪恶目的；Check Point 的网络安全研究人员表示，地下黑客社区的用户已经在试验如何使用 ChatGPT 来帮助促进网络攻击和支持恶意操作。 

Check Point 威胁情报组经理 Sergey Shykevich 告诉 ZDNET：“技术知识非常低的威胁者（甚至零技术知识）也可以创建恶意工具。它还可以使老练的网络犯罪分子的日常操作变得更加高效和容易，例如创建感染链的不同部分。”  

OpenAI 的服务条款明确禁止生成恶意软件，其定义为“试图生成勒索软件、键盘记录器、病毒或其他旨在造成一定程度伤害的软件的内容”。它还禁止创建垃圾邮件的尝试，以及针对网络犯罪的使用案例。

然而，对几个主要地下黑客论坛活动的分析表明，网络犯罪分子已经在使用 ChatGPT 来开发恶意工具——在某些情况下，它已经允许没有任何开发或编码技能的低级网络犯罪分子创建恶意软件。 

在 12 月底出现的一个论坛主题中，发帖者描述了他们如何使用 ChatGPT 来重建研究出版物和有关常见恶意软件的文章中描述的恶意软件毒株和技术。 

通过这样做，他们能够创建一个基于 Python 的信息窃取恶意软件，该恶意软件会搜索常见文件（包括 Microsoft Office 文档、PDF 和图像），将其复制，然后将其上传到文件传输协议服务器。 

同一用户还演示了他们如何使用 ChatGPT 创建基于 Java 的恶意软件，然后利用 PowerShell 秘密下载并在受感染的系统上运行其他恶意软件。 

研究人员指出，发布这些帖子的论坛用户似乎是“技术导向的”，他们分享这些帖子是为了向技术水平较低的网络犯罪分子展示如何利用人工智能工具进行恶意活动，并附上真实的例子来说明如何做到这一点。 

一位用户发布了一个 Python 脚本，他说这是他们编写的第一个脚本。在与另一位论坛成员讨论后，他们说 ChatGPT 帮助他们创建了该脚本。 

对该脚本的分析表明，它旨在加密和解密文件，经过一些工作，可以变成勒索软件，这可能导致低级别网络犯罪分子开发和分发自己的勒索活动。 

Check Point 表示：“上述所有代码当然都可以以良性方式使用。但是，这个脚本很容易被修改，完全无需用户交互即可加密某人的机器。例如，如果脚本和语法问题得到修复，它可能会将代码变成勒索软件。”

“它需要在代码和语法上进行一些改进，但从概念上讲，在运行时，该工具可以执行与勒索软件类似的操作，”Shykevich 说。

但网络犯罪分子使用 ChatGPT 进行实验的目的不仅仅是恶意软件开发；新年前夜，一名地下论坛成员发布了一个帖子，演示了他们如何使用该工具创建脚本，该脚本可以操作自动化暗网市场，用于买卖
被盗账户详细信息、 信用卡信息、恶意软件等。 

该网络犯罪分子甚至展示了使用第三方 API 生成的一段代码，用于获取门罗币、比特币和以太坊加密货币的最新价格，作为暗网市场的支付系统的一部分。 

很难判断借助 ChatGPT 产生的恶意网络活动是否在野外活跃，因为正如 Sykevich 所解释的那样，“从技术角度来看，很难知道特定的恶意软件是否是使用 ChatGPT 编写的”。 

但随着人们对 ChatGPT 和其他 AI 工具的兴趣日益增长，它们将吸引网络犯罪分子和欺诈者的注意，他们希望利用该技术以低成本和最少的努力开展恶意活动。ZDNET 已联系 OpenAI 征求意见，但截至本文发表时尚未收到回复。