现在,黑客已经靠ChatGPT赚钱了——
机器人即服务RaaS,前20次免费使用,之后每100次收取5.5美元(约37元)。
服务范围主要包括恶意内容的创建,比如写写网络钓鱼邮件、改改恶意软件代码之类。
总之,整个过程没有任何OpenAI的限制和障碍,你可以用它来为所欲为。
![](http://www.openaimy.com/wp-content/uploads/2023/02/98f1d9b1eb4f6688bf3ec2ae0e4a21c2.gif)
目前OpenAI这边还有任何回复。
“机器人即服务”
据相关安全公司消息,黑客们首先找到一种可以绕过OpenAI限制的方法,通过使用ChatGPT API集成到他们的一个应用程序中。
事实上证明,相较于网页端,API版本反而不会对恶意内容进行强制限制。
其中有个论坛的用户,就将其与Telegram消息APP结合起来,以此来出售服务Telegram bot。
甚至还正儿八经地做了广告。
![](http://www.openaimy.com/wp-content/uploads/2023/02/bc5a21772db179d04f6a8c4f18e36ea9.jpg)
△图源:Enlarge
前20次查询免费,随后用户每100次查询需要收费5.5美元。
安全机构的研究人员测试了这种绕过方法,结果收获了一封钓鱼软件,以及一个病毒脚本,可以从感染计算机中窃取PDF文件,并通过FTP发送给攻击者。
![](http://www.openaimy.com/wp-content/uploads/2023/02/89bddf3ae5efe99f75b59a9cad52cca9.jpg)
△Telegram bot生成的钓鱼软件,图源:Enlarge
![](http://www.openaimy.com/wp-content/uploads/2023/02/96f3f1fae93c9397ff331f3100991bf7.jpg)
△Telegram bot生成的恶意软件,图源:Enlarge(下同)
与此同时,其他黑客也在发布一些可以免费生成恶意内容的代码。
这有个Bash脚本,可帮助绕过ChatGPT限制,做任何你想做的事情。
![](http://www.openaimy.com/wp-content/uploads/2023/02/fef7054c9490a9f7e6284869de5a8d30.jpg)
对于以往的恶意软件代码,比如Infostealer,ChatGPT也可以进行改进。
![](http://www.openaimy.com/wp-content/uploads/2023/02/9c71de4f15112cecdf5b91e7d7b85123.jpg)
这也进一步地给了网络犯罪分子可乘之机。
黑客与OpenAI斗智斗勇
自ChatGPT诞生之日起,就有大量黑客试图将ChatGPT越狱,来生成各种恶意内容。
根据访问通道不同,大体有两种方式。
一种是Web用户界面,一种是API,将OpenAI的模型和数据跟你自己的应用界面配套使用。
比如这些都是合法认证的APP。
![](http://www.openaimy.com/wp-content/uploads/2023/02/aa08975fda0481c5a056b76f37beeaa9.jpg)
此前,黑客们使用Web端ChatGPT生成恶意软件和钓鱼邮件很容易。
但随着ChatGPT的监管不断加强。OpenAI的CTO也在最近的采访中提及了监管的重要性。
黑客们逐渐开始转战去使用他们的API,结果限制要少得多。
对于这件事,有网友表示:没有万无一失的修复方法。
因为ChatGPT是一种语言模型,黑客总是可以找到违反OpenAI内容政策的提示。
![](http://www.openaimy.com/wp-content/uploads/2023/02/fbbe265af0e60e656ae7aeb05c3bc746.png)
好了,这场黑客与OpenAI的斗智斗勇,你怎么看呢?