“想成功,先发疯,不顾一切向钱冲;拼一次,富三代,拼命才能不失败!”

这是正在热映的反电影《孤注一掷》中,团伙每天“诈”前动员的口号。

从电影回到现实。数据显示,2022年,全国公安机关破获电信网络犯罪案件46.4万起,缉捕电信网络犯罪集团头目和骨干351名,成效显著。

电信日益猖獗的背后,是手段逐渐向智能化、组织化、集团化发展的缩影。今年以来,多起利用AI(人工智能)技术实施的引发大众关注。据日前召开的新闻发布会透露,依托“净网”专项行动,公安机关已破获“AI换脸”案件79起,抓获犯罪嫌疑人515名。

不难发现,越来越多的不法分子试图搭上AI发展的“技术快车”,威胁着人民的“钱袋子”。

▲重庆市反中心举办反诈知识问答活动。/华龙网

02

AI为何变得这么厉害?

AI是在人工智能生成内容(AI-GeneratedContent)和深度伪造(Deepfake)技术发展的背景下产生的。毫无疑问,技术的发展为AI提供了更多的可能。

从普及范围看,AI技术正在走向大众化。如今,AI技术逐渐普及,正成为一场“全民狂欢”。在手机应用市场,以“AI”作为关键词进行搜索,ChatAi、FacePlay等多款运用AI技术的APP映入眼帘;在B站上,用户只要搜索关键词就能获得大量的开源代码和教学视频;在“AI换脸”小程序上,只需要选择心仪的视频模板,再上传一张自己的正脸照片,就可以实现一秒“换头”。

“杨幂版黄蓉”就是一个很好的例子。早在2019年,就有人利用AI技术把1994版《射雕英雄传》里朱茵饰演的黄蓉换成了杨幂的脸。有网友评价:“杨幂版的黄蓉灵动可爱、毫无违和感,一点也不输给原版角色。”

从技术水准看,AI技术不断更新迭代。随着声音、图像处理技术和人工智能算法的不断升级,利用AI技术合成的音视频质量也得到大幅度提升。如今,AI合成语音不仅可以模仿受害人的语调,甚至还能模仿其口音特征。愈发接近“真实”的AI换脸在中以假乱真,令人傻傻分不清楚,增加了反的难度。

从应用情况看,AI技术滥用充斥着网络。在电商直播间,众多“迪丽热巴”“刘亦菲”大喊着“321,上链接!”。AI换脸已经形成了灰色产业链,AI代包服务充斥着市场,“只要钱到位,你想换成谁就换成谁”。

当下,AI技术快速普及,不法分子也无孔不入,纷纷为电信披上AI“马甲”。这类型主要是利用受害者的社会关系展开,往往充分掌握了受害者个人的身份信息以及与被换脸对象的社会关系,综合作案。比如,不法分子利用熟人关系、领导下属关系等,拿捏了受害人“不好意思拒绝”的心理实施,令人防不胜防。

此外,因为缺乏判断力、与社会接触较少,老年人等特殊群体也往往成为不法分子的重点“关照对象”。在去年的热播剧《猎罪图鉴》中,就曾出现犯罪分子利用AI换脸技术,伪装成空巢老人的儿子实施,最终导致两位老人跳海的剧情。

▲“AI换脸”。朱慧卿作/《瞭望》新闻周刊

03

由于AI具有链条化、平台化、高成本等特征,目前尚未形成爆发态势。但AI案件已频频出现,风险正快速积聚,对公民的信息和财产安全造成严重威胁。

面对来势汹汹的AI,该怎么办?

完善制度,划出AI技术应用的“边界”。近两年,我国出台了《网络音视频信息服务管理规定》《互联网信息服务深度合成管理规定》,对AI起到了一定的约束作用;8月8日,国家互联网信息办公室公布《人脸识别技术应用安全管理规定(试行)(征求意见稿)》,旨在提升人脸识别技术的规范应用与合规水平。而国家网信办已审议通过的《生成式人工智能服务管理暂行办法》,也将于8月15日起开始施行。由此看来,我国在相关领域的规定正在逐步完善。只有让监管跟上技术发展的“脚步”,AI技术才能沿着法治的轨道行稳致远。

升级技术,用“善AI”对抗“恶AI”。公安机关和网信部门除了要做好信息安全知识的普及工作,加强隐私保护教育,指导公众下载“国家反诈中心”APP之外,还要加强AI的反制技术研究,与不法分子在AI技术应用的赛场上“赛跑”。比如,可将AI技术应用于预警、嫌疑人识别等环节中,“用魔法打败魔法”。

保护隐私,铲除AI滋生的“土壤”。隐私数据是AI的源头。个人要加强信息保护意识,不随意点击陌生链接、下载陌生软件;不在社交平台上过度分享图片、视频;在使用AI技术进行工作、娱乐时,要谨慎对待,做自己隐私保护的第一责任人。

做“细节控”,擦亮防诈识骗的慧眼。除了要保护好个人的隐私数据,大家在进行语音、视频通话时,更要擦亮慧眼。虽然AI生成的音视频已经相当逼真,但仍会存在一些细节上的瑕疵。

比如,有些合成的人像瞳孔呆滞、眉毛僵硬、身体比例不协调等,可通过这些细节来核验对方身份,用肉眼识破“科技脸”。同时,不能抱侥幸心理,“永远不要觉得自己不会被骗,只是适合你的剧本还没有出现。”

打击违法犯罪,任重而道远。和其他形式相比,AI预防和侦破的难度都更大,尤其需要在常态化和长效化上下功夫。归根结底,不管AI如何改头换面,仍改不了其“骗”的本质。未来,AI的手段或许会更加高明,但只要我们强化反意识,合力筑牢反防线,就能够让“天下无诈”成为现实。

来源:重庆瞭望

作者 admin