HackerNews 编译，转载请注明出处：
网络安全专家担忧人工智能（AI）代理将很快实施大规模复杂且难以检测的网络攻击。2022年ChatGPT的发布已通过自动化钓鱼、深度伪造和恶意软件开发改变了网络犯罪格局。网络安全公司Malwarebytes最新《ThreatDown报告》警告称，自主AI攻击者的崛起迫在眉睫，网络犯罪即将迎来根本性变革。
“网络犯罪正在经历转型。”Malwarebytes创始人兼CEO马尔钦·克列钦斯基表示，“我们不仅看到攻击数量的上升，还看到了几年前根本无法想象的全新欺骗形式和自动化手段。”报告指出，AI使网络犯罪分子能轻松研究漏洞、编写钓鱼邮件、生成代码，并通过声音克隆和形象伪造开发新型社会工程攻击。
典型案例与数据
- 2024年1月：某全球工程公司财务人员被完全由AI生成的深度伪造高管视频会议欺骗，向犯罪分子转账2500万美元2023年：ChatGPT发布后，SlashNext研究人员观察到恶意钓鱼信息量激增1265%2024年：The Transparency Company统计至少230万条产品评论由AI部分或全部生成预计至2027年：Deloitte金融服务中心预测AI邮件欺诈损失将达115亿美元虚假信息渗透：2024年“Pravda”虚假信息网络发布360万篇文章，成功将克里姆林宫宣传内容植入主流生成式AI工具美国财政部FinCEN警示：金融机构遭遇AI生成虚假身份证明文件攻击激增
报告警告称，随着网络犯罪分子更熟练运用AI代理，最严峻的威胁尚未到来。“AI代理必然被用于扩展需要大量人力的攻击规模与速度——包括最具破坏性的‘大型猎物’勒索软件攻击。”自主AI将使黑客部署“恶意代理集群实现攻击规模指数级扩张”，并保持全天候运作。研究人员已成功演示AI代理如何用于攻击性网络安全：2023年开发的完全自主网络安全代理ReaperAI可在最少人工监督下执行攻击行动；另一款模拟勒索软件组织的AutoAttacker证明偶发攻击可转化为高速常规操作。谷歌的Big Sleep则成为首个自主发现真实世界零日漏洞的AI系统。
Malwarebytes研究人员认为，应对AI网络犯罪需采取三大措施：缩减攻击面、持续监控系统、即时响应警报。报告特别强调：“防御者必须建立超越AI攻击速度的实时威胁检测与响应机制，将自动化防御深度整合至安全运营中心（SOC）工作流。”
消息来源： cybernews；
本文由 HackerNews.cc 翻译整理，封面来源于网络；
转载请注明“转自 HackerNews.cc”并附上原文
