Jumio调查的全球受访者中有69%表示,人工智能驱动的欺诈现在对个人安全构成的威胁比传统形式的身份盗窃更大。这个数字在新加坡上升到74%,71%的人也表明人工智能生成的骗局比传统骗局更难被发现。

不断上升的AI担忧侵蚀了数字信任

69%的全球消费者表示,由于人工智能产生的欺诈行为,他们对在线看到的内容比去年更加怀疑。只有37%的消费者表示,他们更强烈地相信大多数社交媒体账户与去年相比是真实的,只有36%的人声称他们更信任他们在网上遇到的新闻,尽管有可能遇到深度伪造或操纵内容。

大多数受访者还引用了对一些人工智能驱动的欺诈策略的日常担忧,包括:

人工智能生成的假数字ID(全球76%,新加坡84%)使用人工智能欺骗人们泄露密码或金钱的诈骗电子邮件(全球75%,新加坡82%)voice视频和语音深度伪造(全球74%,新加坡83%)被操纵的社交媒体内容(全球72%,新加坡81%)

这表明消费者越来越认识到在线进行生活和业务的风险,但可能缺乏识别安全,真实内容所需的工具或证据。

“随着生成式人工智能继续降低复杂骗局的门槛,Jumio的发现凸显了企业迫切需要重新思考数字身份保护——不仅要减少欺诈,还要保持客户信任和数字参与本身,”Jumio首席产品和技术官Bala Kumar解释说。

消费者最信任自己防范AI驱动的欺诈

在缺乏强有力的监管保护的情况下,消费者正在将事情掌握在自己手中。当被问及他们最信任谁来保护他们的个人数据免受人工智能驱动的欺诈时,93%的人说自己,远远超过那些信任政府机构(85%)或大型科技(88%)的人。但自力更生并不意味着消费者想要单独行动。事实上,当被问及谁应该最负责阻止人工智能欺诈时,43%的人指出大型科技,而只有18%的人选择自己。

该研究将这种信任差距确定为威胁环境演变的症状,其中欺诈即服务(FaaS)生态系统在暗网市场蓬勃发展。这些即插即用的工具包甚至使新手欺诈者能够使用合成身份,deepfake视频和僵尸网络驱动的帐户接管发起复杂的攻击。

这种转变迫使公司实现欺诈防御的现代化,并重新思考如何在人工智能驱动的世界中保护消费者。与此同时,Jumio的研究发现,消费者对可能需要的额外步骤持开放态度。全球大多数受访者表示,他们愿意花更多时间完成全面的身份验证流程,特别是在银行和金融服务(80%),政府服务(78%)和医疗保健(76%)等风险较高的行业。

“我们的行业必须开发我们保持领先于人工智能 – 欺诈军备竞赛所需的工具,因为传统的身份验证不会再削减它,”Jumio首席执行官Robert Prigge总结道。