52telegram最新消息：网络安全公司 Checkpoint 的研究人员发现，黑客正在使用消息应用程序 Telegram 的机器人来利用 OpenAI 的人工智能 (AI) 编写工具 ChatGPT 的局限性来生成网络钓鱼电子邮件和恶意软件等恶意内容。
Telegram bot 是一个提供功能和自动化的程序，Telegram 用户可以将这些功能和自动化集成到他们的聊天、频道或群组中。研究人员说，这些机器人在黑客论坛上做广告以增加曝光率。
据 Checkpoint 研究人员称，采取这条路线的原因是，作为其内容政策的一部分，OpenAI 设置了障碍和限制，以阻止在其平台上创建恶意内容。ChatGPT 的用户界面中设置了一些限制，以防止滥用模型。例如，如果您要求 ChatGPT 编写冒充银行的网络钓鱼电子邮件或创建恶意软件，它不会生成它。
然而，当前版本的 OpenAI 的 API 被外部应用程序使用(例如，将 OpenAI 的 GPT-3 模型集成到 Telegram 频道)并且几乎没有采取反滥用措施。因此，它允许创建恶意内容，例如网络钓鱼电子邮件和恶意软件代码，而不受 ChatGPT 在其用户界面上设置的限制或障碍。
在一个地下论坛中，Checkpoint 研究人员发现一名网络犯罪分子在宣传一项新创建的服务，该服务是一种使用 OpenAI API 的 Telegram 机器人，没有任何限制和限制。
他们说，作为其商业模式的一部分，网络犯罪分子可以使用 ChatGPT 进行 20 次免费查询，然后每 100 次查询收费 5.50 美元。
总之，我们看到网络犯罪分子继续探索如何利用 ChatGPT 来满足他们开发恶意软件和创建网络钓鱼电子邮件的需求。随着 ChatGPT 实施的控件得到改进，网络犯罪分子找到了使用 OpenAI 模型的新滥用方式——这次是滥用他们的 API。
1 月初，Checkpoint 研究人员警告称，俄罗斯网络犯罪分子试图绕过 OpenAI 的限制，以便将 ChatGPT 用于恶意目的。在 1 月 16 日的一份报告中，研究人员表示，在地下黑客论坛中，黑客正在讨论如何绕过 IP 地址、支付卡和电话号码控制——所有这些都是从俄罗斯获得 ChatGPT 访问权限所必需的。
威胁情报公司 Recorded Future 于 2023 年 1 月 28 日发布的一份报告还指出，不仅是 Checkpoint 研究人员，ChatGPT 还降低了编程能力或技术技能有限的威胁参与者的进入门槛。即便如此，研究人员表示，只要“对网络安全和计算机科学的基础知识有基本的了解”，它就可以产生有效的结果。
该公司表示，它已经“在暗网和特殊访问来源上识别出威胁行为者，这些来源共享概念验证 ChatGPT 对话，这些对话使恶意软件开发、社会工程、虚假信息、网络钓鱼、恶意广告和赚钱计划成为可能。”
例如，ChatGPT 在模仿人类书写方面的专长“使它有可能成为一种强大的网络钓鱼和社会工程工具，”研究人员说。他们强调，人工智能驱动的聊天机器人可能对英语不流利的威胁行为者特别有用，该工具有可能被用来“更有效地”分发恶意软件。
BlackBerry 研究人员于 2023 年 2 月发布的关于 ChatGPT 和网络攻击的另一项调查结果显示，51% 的 IT 专业人员预测，他们距离成功的网络攻击被归功于 ChatGPT 不到一年。一些人认为这可能会在未来几个月内发生。超过四分之三的受访者 (78%) 预测 ChatGPT 信用攻击肯定会在两年内发生。
网络安全公司 Checkpoint 的研究人员发现，黑客正在使用消息应用程序 Telegram 的机器人来利用 OpenAI 的人工智能 (AI) 编写工具 ChatGPT 的局限性来生成网络钓鱼电子邮件和恶意软件等恶意内容。
Telegram bot 是一个提供功能和自动化的程序，Telegram 用户可以将这些功能和自动化集成到他们的聊天、频道或群组中。研究人员说，这些机器人在黑客论坛上做广告以增加曝光率。
据 Checkpoint 研究人员称，采取这条路线的原因是，作为其内容政策的一部分，OpenAI 设置了障碍和限制，以阻止在其平台上创建恶意内容。ChatGPT 的用户界面中设置了一些限制，以防止滥用模型。例如，如果您要求 ChatGPT 编写冒充银行的网络钓鱼电子邮件或创建恶意软件，它不会生成它。
然而，当前版本的 OpenAI 的 API 被外部应用程序使用(例如，将 OpenAI 的 GPT-3 模型集成到 Telegram 频道)并且几乎没有采取反滥用措施。因此，它允许创建恶意内容，例如网络钓鱼电子邮件和恶意软件代码，而不受 ChatGPT 在其用户界面上设置的限制或障碍。
在一个地下论坛中，Checkpoint 研究人员发现一名网络犯罪分子在宣传一项新创建的服务，该服务是一种使用 OpenAI API 的 Telegram 机器人，没有任何限制和限制。
他们说，作为其商业模式的一部分，网络犯罪分子可以使用 ChatGPT 进行 20 次免费查询，然后每 100 次查询收费 5.50 美元。
总之，我们看到网络犯罪分子继续探索如何利用 ChatGPT 来满足他们开发恶意软件和创建网络钓鱼电子邮件的需求。随着 ChatGPT 实施的控件得到改进，网络犯罪分子找到了使用 OpenAI 模型的新滥用方式——这次是滥用他们的 API。
1 月初，Checkpoint 研究人员警告称，俄罗斯网络犯罪分子试图绕过 OpenAI 的限制，以便将 ChatGPT 用于恶意目的。在 1 月 16 日的一份报告中，研究人员表示，在地下黑客论坛中，黑客正在讨论如何绕过 IP 地址、支付卡和电话号码控制——所有这些都是从俄罗斯获得 ChatGPT 访问权限所必需的。
威胁情报公司 Recorded Future 于 2023 年 1 月 28 日发布的一份报告还指出，不仅是 Checkpoint 研究人员，ChatGPT 还降低了编程能力或技术技能有限的威胁参与者的进入门槛。即便如此，研究人员表示，只要“对网络安全和计算机科学的基础知识有基本的了解”，它就可以产生有效的结果。
该公司表示，它已经“在暗网和特殊访问来源上识别出威胁行为者，这些来源共享概念验证 ChatGPT 对话，这些对话使恶意软件开发、社会工程、虚假信息、网络钓鱼、恶意广告和赚钱计划成为可能。”
例如，ChatGPT 在模仿人类书写方面的专长“使它有可能成为一种强大的网络钓鱼和社会工程工具，”研究人员说。他们强调，人工智能驱动的聊天机器人可能对英语不流利的威胁行为者特别有用，该工具有可能被用来“更有效地”分发恶意软件。
BlackBerry 研究人员于 2023 年 2 月发布的关于 ChatGPT 和网络攻击的另一项调查结果显示，51% 的 IT 专业人员预测，他们距离成功的网络攻击被归功于 ChatGPT 不到一年。一些人认为这可能会在未来几个月内发生。超过四分之三的受访者 (78%) 预测 ChatGPT 信用攻击肯定会在两年内发生。
