OpenAI 最新研究报告指出,人工智能正在被网络犯罪分子系统性地武器化。这些威胁行为者正在利用包括 ChatGPT 在内的 AI 工具,提高恶意软件制作、钓鱼邮件生成、舆论操控以及情报监控等活动的效率与隐蔽性。
01
AI双刃剑:防御与滥用的界限
OpenAI 在报告中强调,AI 技术在网络安全防御领域带来了显著益处——它可以自动化处理告警、辅助威胁分析、加快安全响应,从而让人类专家专注于复杂研究任务。然而,与任何工具一样,AI 也具备被滥用的潜力——从入侵测试工具到漏洞扫描框架,若落入恶意行为者手中,同样可能成为攻击助力。
自 2024 年 2 月起,OpenAI 开始持续发布公共威胁报告并追踪威胁行为者对 AI 的使用情况。迄今,OpenAI 已成功中断超过 40 个涉及滥用行为的恶意网络,并在近期完成了对这些网络的系统分析,揭示出当前 AI 相关网络犯罪的四大趋势。
02
四大新趋势:AI正改变攻击者的作案模式
03
AI 并未产生“全新攻击能力”
尽管 AI 的滥用已成为现实,但 OpenAI 指出,目前尚无证据表明现有 AI 模型能够帮助威胁行为者研发出真正“全新”的攻击手法。 也就是说,AI 尚不能直接生成前所未有的攻击战术或零日利用手段,其被滥用的方式仍以提升效率与规模为主。
OpenAI 在报告中总结道:
“我们观察到的攻击者,更多是在将 AI 嵌入旧有攻击模板中,以提升速度和自动化水平,而非获得前所未见的攻击能力。随着威胁环境演化,我们预计会看到更多‘对抗性适应’与创新,但我们也会持续构建防御者可用的 AI 工具,使 AI 造福整个社会,而非被滥用于破坏。”