人们已经在尝试让ChatGPT编写恶意软件

对暗网论坛聊天的分析表明，人们已经在努力使用OpenAI的聊天机器人来帮助编写恶意软件脚本。

ChatGPT AI聊天机器人在推出后的短时间内就引起了极大的轰动，现在它似乎已经被一些人招募来帮助生成恶意代码。

ChatGPT是一种人工智能驱动的自然语言处理工具，它以类似人类的对话方式与用户进行交互。除此之外，它还可以用来帮助完成诸如撰写电子邮件、论文和代码之类的任务。

聊天机器人工具于11月由人工智能研究实验室OpenAI发布，并引起了人们对人工智能如何发展以及未来如何使用它的广泛兴趣和讨论。

但与任何其他工具一样，如果落入坏人之手，它可能会被用于邪恶目的；Check Point和网络安全研究人员表示，地下黑客社区的用户已经在试验如何使用ChatGPT来帮助促进网络攻击和支持恶意操作。

“技术知识非常低的威胁参与者——技术知识最多为零——可以创建恶意工具。它还可以使复杂的网络犯罪分子的日常操作更加高效和容易——比如创建感染的不同部分链，”Check Point威胁情报小组经理Sergey Shykevich告诉ZDNET。

OpenAI的服务条款明确禁止生成恶意软件，它将恶意软件定义为“试图生成勒索软件、键盘记录器、病毒或其他旨在造成一定程度伤害的软件的内容”。它还禁止尝试创建垃圾邮件，以及针对网络犯罪的用例。

然而，对几个主要地下黑客论坛活动的分析表明，网络犯罪分子已经在使用ChatGPT开发恶意工具——在某些情况下，它已经允许没有开发或编码技能的低级网络犯罪分子创建恶意软件。

在12月底出现的一个论坛帖子中，发布者描述了他们如何使用ChatGPT重新创建研究出版物和关于常见恶意软件的文章中描述的恶意软件变种和技术。

通过这样做，他们已经能够创建一个基于Python的信息窃取恶意软件，该恶意软件搜索包括Microsoft Office文档、PDF和图像在内的常见文件，复制它们，然后将它们上传到文件传输协议服务器。

该用户还展示了他们如何使用 ChatGPT 创建基于Java的恶意软件，使用PowerShell可以利用这些恶意软件秘密下载其他恶意软件并在受感染的系统上运行。

研究人员指出，发布这些帖子的论坛用户似乎是“以技术为导向”的，他们分享这些帖子是为了向技术能力较弱的网络犯罪分子展示如何利用人工智能工具进行恶意攻击，并提供了如何实现的真实示例。

一位用户发布了一个Python脚本，他们说这是他们创建的第一个脚本。在与另一位论坛成员讨论后，他们说ChatGPT帮助他们创建了它。

对该脚本的分析表明，它旨在加密和解密文件，经过一些工作，这些文件可能会变成勒索软件，可能导致低级网络犯罪分子开发和分发他们自己的勒索活动

“所有上述代码当然可以以良性方式使用。但是，可以轻松修改此脚本以完全加密某人的机器而无需任何用户交互。例如，如果脚本，它可能会将代码变成勒索软件语法问题已得到解决，”Check Point说。

“它需要对代码和语法进行一些改进，但从概念上讲，在运行时，该工具可以执行与勒索软件类似的操作，”Shykevich说。

但是，网络犯罪分子正在试验ChatGPT的不仅仅是恶意软件开发；在新年前夜，一名地下论坛成员发布了一个帖子，展示了他们如何使用该工具创建脚本，这些脚本可以运行一个自动化的暗网市场，用于买卖被盗的账户详细信息、 信用卡信息、恶意软件等。

网络罪犯甚至展示了一段使用第三方API生成的代码，以获取门罗币、比特币和以太坊加密货币的最新价格，作为暗网市场支付系统的一部分。

很难判断借助ChatGPT生成的恶意网络活动是否在野外活跃，因为正如Sykevich解释的那样，“从技术角度来看，很难知道特定的恶意软件是否是使用ChatGPT编写的”。 但随着人们对ChatGPT和其他人工智能工具的兴趣增长，它们将吸引网络犯罪分子和欺诈者的注意，他们希望利用该技术以低成本和最少的努力来帮助开展恶意活动。ZDNET已联系OpenAI征求意见，但在发布时尚未收到回复。