虎嗅 07月24日 07:48
大V机构法人被换:AI时代的人脸识别风险
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

近期,多位知名大V的公众号管理权被黑客通过人脸识别漏洞非法变更,用于发布诈骗信息。文章深入剖析了人脸识别技术在追求高识别率过程中可能存在的误判风险,即为了提升兼容性而放宽的容错性,反而为非法冒用提供了便利。黑客利用AI技术生成动态人脸视频,绕过人脸识别系统,揭示了AI技术在攻防两端快速发展的挑战。文章呼吁官方部门加强识别系统安全性,平台加强账号变更审核,并提醒读者对信息保持独立判断,同时也指出AI厂商面临技术难题。

🎯 人脸识别技术的双重挑战:AI时代的人脸识别技术为了实现“模糊识别”和“包容性”,需要极高的兼容性来应对个体在不同状态下的面部变化。然而,这种包容性也带来了两大风险:一是“漏判”,即无法识别正常用户;二是“错判”,即错误地将非本人识别为本人,为身份冒用提供了可能。这两种风险在技术要求上是矛盾的,前者需要扩大容错,后者则需要收紧兼容。

📈 识别率指标的潜在导向性风险:在项目验收和业绩考核中,提高识别率(减少漏判)往往比降低误判率更容易获得认可,也更容易体现技术成果。这可能导致识别模型在设计时倾向于增加容错性,从而无意中增大了误判的风险,为黑客利用AI生成动态人脸视频进行身份冒用打开了方便之门,形成了“矛”与“盾”同步发展的技术困境。

🛡️ 自媒体账号安全与信息辨别的重要性:文章通过近期大V账号被盗事件,警示了互联网平台在涉及管理员权限变更等敏感操作时,应加强安全校验和人工审核。同时,也提醒广大读者,在接收信息时应保持独立思考和判断能力,不盲目相信或跟从,因为即使是博主本人也可能成为技术攻击的受害者,其发布的内容也可能并非其本意。

⚖️ AI技术攻防的长期挑战:AI技术在生成和识别两方面的快速发展,使得利用AI技术突破AI识别成为可能,并且这种攻防对抗预计将长期存在。这不仅对现有的安全防护体系提出了严峻挑战,也要求AI厂商不断研发更先进、更安全的识别和验证技术,以应对不断演进的威胁。

蹭点热点吧,这不最近看到不少相关的传闻,一些大V背后的商业机构,法人被黑客变更,然后导致公众号管理权限被变更,然后就被用来发诈骗文章割韭菜。

那么黑客是怎么变更法人的呢,说简单也简单,人脸识别。

我到现在,各种支付平台的人脸识别都没开通过,就显得很不与时俱进,这是一个过气中老年的顽固和保守。

人脸识别这个技术,首先是AI时代一个非常显著的成就,因为人脸识别这玩意本身只能是模糊识别,一个人不可能任何时候表情,脸部的各种细节都是一致的对不对,特别是随着时间变化,人脸型,皱纹,发型都会有不同的变化,比如很多人一见面就会说,曹老师,你怎么又瘦了。所以这是一个需要有足够包容性的识别系统,仅仅凭借人类的标注能力,在AI技术不成熟的时候,是不可能实现的。

但这种包容性,模糊性的识别问题,就会带来两种需要防范的错误,一种就是漏判,该识别到的无法识别,比如这个人最近晒黑了,或者失眠眼睛肿了,无法识别。这种其实日常也会遇到,比如我在过新加坡海关的时候偶尔也会提示识别不对要去走人工通道做二次识别。另一种就是错判,不是本人却被识别为本人,也就是被别人冒用身份,冒用脸型。

但这两个问题,对技术的要求截然相反,第一种需要增加包容性,允许更多的容错性,才能兼容一个人不同状态的脸部识别。但第二种恰恰相反,需要收紧兼容性,防止误判,将不同人或者不符合识别标准的图像资源识别,从而导致身份入侵。

可是问题又来了,对于一般的测试,对于一般的诸如领导审查,哪个问题更容易成为考核的重点呢,第一种。毕竟一个人发现自己无法被正确识别,肯定是很明显的,他们会说你的系统不好,当项目验收,领导亲自来体验产品的时候,保证识别率肯定是最重要的指标。至于误判,反正平时也很难测试对不对。

提升识别率肯定是最容易体现技术业绩的,至于误判率,毕竟在正常场景下,大家都是用自己的身份来识别的。

然后AI进入了新的阶段,可以让照片动起来了,可以自动生成视频了,张嘴,摇头,点头,这都不叫事了。

然后偏偏那些大V、大佬们的照片、视频网上到处都有。

你看,AI的识别技术遇到了AI的素材生成。

我没有证据,但我有个怀疑,为了追求识别率的指标,因为这个指标更容易被认可,成为业绩,这些识别模型会不会都加大了容错设计,这就导致误判的口子变大了。

我也没有证据,但我也依然有个怀疑,突破识别的大概率就是用AI生成的各种动作视频。

当然,不管我怀疑得对不对,最近类似这样的事情有不少。

第一,提醒有关官方部门,提升识别能力和手段,不要轻易让识别系统被攻破。

第二,提醒各大互联网自媒体平台,一些粉丝较多的自媒体账户在涉及变更管理员权限等操作时,需要一些必要的安全校验和人工审核。

第三,提醒读者,不管你关注的是谁,信用有多好,对他们发表的内容要有自己的判断力,不要无脑跟,盲目信,有可能这个博主确实没有打算骗你,但他自己也被黑了呢。

第四,提醒各家AI厂商们,用AI突破AI的这个问题貌似已经挺严重了,而且估计会成为长期的技术难题,因为盾和矛的快速发展都是同步的。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

人脸识别 AI安全 黑客攻击 自媒体安全 信息辨别
相关文章