欺诈GPT和其他恶意AI成为网络安全的新威胁
互联网是现代社会不可或缺的资源宝库，然而它也有滋长非法活动的阴暗面。从盗用身份到更复杂的恶意软件攻击，网络罪犯的新诈骗方法层出不穷。如今，广泛使用的生成式人工智能（AI）工具已经使得网络安全形势更为错综复杂。保证网络安全比以往任何时候都更迫在眉睫。
黑暗语言建模的兴起
当前AI最危险的变体之一就是“黑暗LLM（大型语言模型）”。像ChatGPT这些日常AI系统在未经审核的情况下，被重新设计用于犯罪活动。它们的运作不受道德伦理约束，并且精度和速度都高到令人担忧的程度。
网络罪犯利用黑暗LLM来实现诈骗的自动化，提升网络钓鱼活动的成功率，制造复杂的恶意软件，并自动生成诈骗话术。为了达到这一目的，他们会想办法让LLM的“越狱”——使用特定的提示词让模型绕过其内置的安全措施和过滤器。
例如，欺诈GPT可以编写恶意代码，创建网络钓鱼页面，并生成无法检测到的恶意软件。它也提供策划各种网络犯罪的工具，从信用卡欺诈到通过数字技术手段模仿或冒充他人的行为或身份。
欺诈GPT在暗网和加密通讯app“电报”（Telegram）上做广告。该app的创立者公然推销其功能，强调该模型专为犯罪研发。
而GPT的另一个版本——蠕虫GPT，可以生成说服力很强的网络钓鱼邮件，甚至能欺骗到警惕性很高的用户。蠕虫GPT基于GPT-J的模型，也被用于创建恶意软件，以及发起“商业邮件欺诈”攻击——一种针对特定组织的网络钓鱼。在网络犯罪中滥用蠕虫GPT和欺诈GPT等工具，只是冰山一角，类似的事情每天都在增多。
如何保护自己免于成为网络犯罪的目标
尽管威胁迫在眉睫，但我们仍有一线希望。魔高一尺道高一丈，随着网络犯罪手段的进步，我们的防御方式也在进步。
基于AI的威胁检测工具可以监控恶意软件，并采取更有效的措施应对网络攻击。不过，这种方法还是需要有真人的参与，来密切关注这些工具的响应方式，它们采取了什么行动，以及是否有漏洞需要修复。
你可能已经听说过，保证软件更新到最新版本对网络安全至关重要。这听起来像一桩苦差事，但它确实是一个很关键的防御策略。更新软件能够修补网络罪犯试图利用的漏洞。
您是否定期备份文件和数据？这不仅是为了在系统出现故障时保存文件。定期备份也是一种基本的保护策略。如果你成为勒索软件攻击的目标，当犯罪分子锁住你的数据并索要赎金时，你就不必屈服于勒索，可以轻松恢复你的数字生活。
网络罪犯在发送网络钓鱼信息时，可能会留下一些线索，比如很差的语法、通用的问候语、可疑的电子邮件地址、过于紧急的求助，或可疑的网络链接。学会留意检查这些迹象，就像在晚上锁门一样重要。
如果您还没有使用独特的强密码和多重身份验证，请立刻这么做。这种组合为你的网络安全增加了多重保护，使得犯罪分子访问你的账户变得超级困难。
网络安全的未来展望及政府法规的作用
我们的网络生活将继续与AI等新兴技术交织在一起。可以预见，未来会有更多复杂的网络犯罪工具出现。恶意AI会提高网络钓鱼的效率，制造复杂的恶意软件，为了进行有针对性的攻击，还能不断改进数据挖掘的方式。AI黑客工具将被广泛使用，甚至可以度身定制。
为了应对这些威胁，在未来，网络安全措施也必须做出调整，包括：自动威胁追踪、抗量子加密、帮助保护隐私的AI工具、更严格的法规，以及国际合作。
政府对AI进行更严格的监管，是应对这些高科技威胁的有效方法。其中包括对AI技术强制执行有道德的开发和利用，确保它们具有强大的安全功能，并遵守严格的标准。澳大利亚政府已经计划“高风险”AI进行监管。
除了更严格的监管外，我们还需要改进各组织对网络事件的反应速度，并制定强制性报告和公开披露的机制。通过要求企业及时报告网络事件，当局可以迅速采取行动，在这些漏洞升级为重大危机之前调集资源来解决这些问题。这种主动出击的方式可以显著减少网络攻击的影响，同时保住公众的信任和企业的诚信。
此外，众所周知，网络犯罪无国界。在AI驱动的网络犯罪时代，国际合作至关重要。高效的全球合作可以简化当局追踪和起诉网络罪犯的流程，形成对抗网络威胁的统一战线。
随着AI恶意软件的激增，我们正处于全球科技发展的一个临界点——我们需要在改革创新（新AI工具、新功能及大量信息数据）与安全隐私之间找到一个平衡点。
总而言之，为了保证你的网络安全，主动出击是上上策。这样你就能在不断发展的网络战场上领先一步。
创新 · 赋能，塑造教育发展新业态
2024年，我国教育强国建设进入关键期和加速阶段
安道教育（Amdox）· 2024年慧聪教育行业城市系列巡展
让信息化产品真正为教育教学服务，为教育数字化发展服务！
