当AI遇上诈骗
来源:北京商报     时间:2023-05-23 21:22:13

“虽然知道现在骗局高发,但还是不太敢相信自己居然遇到了。”5月23日,读者吴佳(化名)在回想起数日前遭遇的电信诈骗时仍然心有余悸。而在吴佳所遭遇的骗局里,骗子利用AI换脸变成了她熟悉的人。

不仅吴佳在日常生活中遇到了令人防不胜防的AI诈骗,北京商报记者注意到,近日利用AI技术实施的新型电信诈骗模式已经呈现了高发态势,“AI诈骗成功率接近100%”“科技公司老板10分钟被骗430万元”等话题接连登上热搜后,也引发了用户对于新型技术应用的讨论。

“AI换脸”搞诈骗


(资料图片)

人工智能又火了,这次是围绕电信诈骗。吴佳告诉北京商报记者,此前自己久未使用的一社交账号突然收到了一位多年未联系的高中“好友”的问候,起初自己并未起疑心。但简单寒喧过后,对方提出了借款2000元应急的需求。尽管略感困惑,但基于过往亲厚关系,吴佳没有在第一时间内拒绝,而是提出要通过语音和视频进行核验身份。

“先是给我发了几句语音,听起来也很正常,也比较像她的声音。紧接着我拨通视频电话,她很快接通了,确实是她的脸。”吴佳表示。据吴佳回忆,由于频繁出现网络卡顿情况,视频电话接通后两人对话并不流畅,对方只推脱说网络不好,还提出“我的脸你都不认识了”等话术。

并没有详细解释需要借钱的原因,而是在确认“脸”后急于挂断电话,对方的反常举动引起了吴佳的警惕。随后,吴佳在电话中询问了对方两人共同的高中老师的姓氏,对方未能正面回答,并重复提出“就是我本人”。在意识到可能遇到骗局后,吴佳挂断视频电话,并进一步使用其他渠道向该同学进行了求助,得到了借钱者并非本人的回复。

对于这起骗局,吴佳心有戚戚。吴佳称:“知道电信诈骗招数很多,但万万没想到视频验证的方式也可能行不通了。后来我提醒了一下家中的长辈,如果遇到同样的情况很容易被骗,于是再度跟他们强调不要随意通过网络渠道交易资金。”

综合吴佳反馈的信息来看,她遇到的正是近日受到广泛关注的AI诈骗。5月22日,“科技公司老板10分钟被骗430万元”“AI诈骗成功率接近100%”“AI诈骗在全国多地爆发”等话题接连登上热搜,也有不少警方发布了AI技术相关的电信诈骗案例。

温州市公安局反诈中心在5月22日发布的信息显示,“我想你应该不会亏待我,在你收到短信图片之后速与我联系。”温州市民陈先生收到一条来自“私家侦探”的勒索短信,并附上一张所谓的陈先生与一名女子的不雅视频截图,但相关视频却是AI合成而来。陈先生报警向警方求助,此案目前正在调查中。

无独有偶,平安包头官方微信号5月20日披露,包头市公安局电信网络犯罪侦查局日前侦破一起使用智能AI技术进行电信诈骗的案件,福州市某科技公司法人代表郭先生接到好友微信视频电话,在通过视频确认了好友面貌与声音后,郭先生在10分钟内将430万元转至对方账户。直至转款后再与好友联系,郭先生这才意识到被骗。最终在包头警方协助下将诈骗账户内的336.84万元被骗资金拦截,但仍有93.16万元被转移。

易观分析金融行业高级咨询顾问苏筱芮表示,伴随着AI技术应用的逐步成熟以及应用门槛的降低,通过AI以假乱真来实施诈骗成为了不法分子作案的新趋势。

个人隐私过度泄露

事实上,近年来打击电信诈骗工作已经成为监管方的一项重点工作,通过民警、银行、社区、媒体等线上线下多方渠道,对于各类电信诈骗手段进行详细的预警披露,但花样百出的电信诈骗仍然令人防不胜防。

不过,在多方警示之下,用户对于电信诈骗的警惕程度在不断提高。在本次关于AI诈骗话题的讨论中,也有不少用户提出了保护个人隐私信息、对于任何涉及到钱的事都不能掉以轻心等观点。

博通咨询首席分析师王蓬博同样认为,科技的进步让防范电信诈骗的难度在提升,但电信诈骗频出的原因还是在于信息时代用户个人隐私信息过度泄露。北京商报记者也向多位读者进行了解,一位曾经遭遇电商平台退货骗局的用户指出,骗子在电话中清晰地提供了自己的账户名、所购买的产品以及收货地址,最终造成了自己的大额损失。

回归AI诈骗这一新型模式,全面推进数字化的当下,各类平台收集个人信息成为常态。当诈骗遇上了AI,行骗成功率接近100%。苏筱芮指出,包括AI在内的新型技术,本身应该是中性的,在能够为生产、生活带来便利的同时,也需要警惕其中暗藏的各类风险。

对刷脸、刷掌支付影响几何

根据警方通报的内容,利用AI技术实施诈骗的方式主要包括声音合成、AI换脸,以及盗取微信号后,提取语音文件或安装非官方版本(插件),向微信好友转发此前的语音记录获取信任。还有一种方式,则是通过AI技术筛选受骗人群,在精细筛选后找到目标对象。

由此来看,与传统诈骗方式相比,AI诈骗还涉及到了人脸、声纹等生物信息。数字化时代,指纹、声纹、人脸甚至是虹膜等生物信息都成为能开启资金账户的“钥匙”,这也意味着,除了常规的验证码、身份证号信息外,当前用户要保护的隐私信息也逐渐包括个人生物信息。

另根据过往北京商报记者的实际调查情况,尤其是在金融领域,新技术与新事物的出现往往极易成为骗子利用的砝码,以此向不知情的用户实施骗局。AI“换脸”诈骗的方式出炉后,也有不少用户对人脸识别等方式的安全性表达了担忧,提出骗子是否有可能通过AI技术盗用个人资金账户。

不仅如此,就在AI诈骗引起广泛讨论的同期,微信正式对外发布刷掌支付这一全新的支付方式。关于刷掌支付的讨论中,也有用户提到了掌纹信息采集和支付安全的问题。根据介绍,区别于指纹识别读取指腹的表皮纹路,掌纹识别读取的是掌心血管纹路。

新技术带来便利的同时,如何规避新技术带来的诈骗等问题,也成为机构方应该考虑的问题。谈及新技术在金融领域的应用,王蓬博指出,如果有机构要推行新技术,一定要在如何保护个人隐私、反诈骗和便于用户使用之间实现平衡,起码要提前预备好防范和应对机制。

“以刷掌支付为例,个人信息的规模化采集和应用实际上都缺乏法律支撑,如何避免信息被过度采集,如何避免个人专属的且应该是绝密的生物识别信息不被泄露,如何做好数据储存,要想调用必须经过何种方式确保个人信息安全……这些问题目前都没有很好的解释。”王蓬博直言,在个人隐私保护逐渐被广大用户接受的今天,新技术要想面向个人用户普及难度就比较高。

转账前交叉验证

对于消费者而言,更为重要的是,要守好自己的“钱袋子”。对此,王蓬博表示,消费者首先要提高警惕,涉及到转账的需要认真核实信息的真实性,及时通过正规渠道联系相关信源,进行交叉验证。

苏筱芮则指出,需要从三个层面进行看待:一是监管侧,需及时向社会公众发布风险提示和预警,在执法队伍中进一步强化科技人才引进,总结提炼新型电诈的新特征、新模式,通过树立一批大案、要案以震慑市场;二是平台侧,例如骗子常驻、常利用的购物平台、社交平台、支付平台等,需加强风控管理,合理采取拦截措施,在账户异常或者聊天内容异常时及时向用户发布提醒;三是用户侧,不轻信陌生来电和短信,在转账、付款前通过官方等渠道核实好对方的身份信息。

北京商报记者 廖蒙

关键词: