有人10分钟被骗430万,#AI诈骗正在爆发#冲上微博热搜。AI诈骗常用手法有哪些?如何一秒识别“AI假脸”?

  随着人工智能在互联网上的发展迭代升级,现在互联网上的AI越来越为主流,AI确实能帮我们做许多事情,但同时AI智能也在影响着我们的生活。

  近日,内蒙古自治区包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件,福州市某科技公司法人代表郭先生10分钟内被骗430万元。

  据悉,郭先生的好友突然通过微信视频联系他,自己的朋友在外地竞标,需要430万保证金,且需要公对公账户过账,想要借郭先生公司的账户走账。基于对好友的信任,加上已经视频聊天核实了身份,郭先生没有核实钱款是否到账,就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话,才知道被骗。

  更直白的解读是:现在的AI技术能够合成你身边熟人的脸和声音,给你打视频电话借钱。不少网友大呼可怕,“以往AI换脸大多都是针对社会名人的,如今黑科技运用在对社会公众的诈骗上,令人防不胜防。”

  北京邮电大学网络空间安全学院教授周琳娜在接受记者采访时表示,“AI换脸”检测技术有多种手段,对于公众而言,可以依据“AI假脸”的bug进行简单识别。

  而事实上他们都是通过AI换脸使用特定的软件,寻找美国前总统奥巴马的模型长达56个小时,让AI进行学习和建模操作,生成假视频,通过这样的方式来呼吁大家需要注意视频的真实性,和AI假视频的制作是非常可怕的。

  中国人民大学民法教授王利明表示,人工智能技术的快速发展给法律实践带来了巨大挑战,“因此有必要通过立法提供解决方案”。

  今年2月,有网友借助人工智能技术,将一部电视剧中朱茵的脸替换成了杨幂的脸。这段换脸视频迅速在社交媒体上引起轰动,引发了网友们的笑声和担忧。

  但现在在被不法分子盯上这门技术以后,高利润高牟利的方法冒充亲戚好友以及家人通过某种方式跟你取得联系,神不知鬼不觉的这样方式让所有的信息都信以为真。

  某公司财务小王接到领导电话,要求立刻给供应商转款2万元,并将转账信息以邮件形式发送,转款理由是避免缴纳滞纳金。由于老板的口音十分逼线小时内转款完成,后发现被骗。

  人脸效果更易取得对方信任,骗子用AI技术换脸,可以伪装成任何人,再通过视频方式进行信息确认。

  骗子首先分析公众发布在网上的各类信息,根据所要实施的骗术,通过AI技术筛选目标人群。在视频通话中利用AI换脸,骗取信任。

  小李的大学同学通过QQ跟她借钱。对方打过来一段四五秒的视频电话,小李看到确实是本人,便放心转账3000元。然而,她在第二次转账时感觉异常,便再次拨通对方电话,这才得知同学的账号被盗,遂报案。警方判断,那段视频很有可能是被人换了脸。

  骗子在盗取微信号后,便向其好友“借钱”,为取得对方的信任,他们会转发之前的语音,进而骗取钱款。

  尽管微信没有语音转发功能,但他们通过提取语音文件或安装非官方版本(插件),可以实现语音转发。

  骗子利用AI来分析公众发布在网上的各类信息,根据所要实施的骗术对人群进行筛选,在短时间内便可生产出定制化的诈骗脚本,从而实施精准诈骗。

  例如实施情感诈骗时,可以筛选出经常发布感情类信息的人群;实施金融诈骗时,可以筛选出经常搜索投资理财信息的人群。

  在人工智能时代,我们眼睛见到的未必是真的。“AI换脸”技术的学术名词叫做深度伪造技术(Deepfake),也就是深度学习(Deeplearning)+伪造(fake),是机器深度学习技术和人脸假冒的结合体。

  然而AI技术不是原罪,而是利用技术手段进行非法操作的人。北京邮电大学网络空间安全学院教授周琳娜接受记者采访时表示,“AI换脸”检测技术有多种手段,对于公众而言,可以依据“AI假脸”的bug进行简单识别。

  首先,注意观察“AI假脸”的纹理特征。比如,伪造后的视频人物的眼睛或牙齿轮廓细节容易不一致;两只眼睛瞳孔的颜色不一样或瞳孔中心反射的细节不一样;或是很多伪造视频由于视频分辨率低于原始视频分辨率,伪造出来视频的牙齿边缘过于整齐等。

  其次,注意观察“AI假脸”的生物特征。“AI假脸”有可能不符合正常人的生理特征,比如,一个健康成年人一般间隔2-10秒眨一次眼,每次眨眼用时0.1-0.4秒,而在伪造视频中,人的眨眼频率可能不符合上述规律。

  再次,注意观察“AI假脸”的嘴部固有特征。比如,由于人嘴部的运动是最为频繁且快速的,因此AI软件无法真实准确地渲染其连续动作。基于此,可以作为判断视频真假的因素之一。

  在周琳娜看来,“AI换脸”的负面影响出现在电信诈骗中,会造成整个社会公信力降低的问题。“AI换脸”技术是一个新兴事物,它能给我们的社会带来很多便捷,但是也会影响到我们的生活。因此必须结合社会需求、技术能力,完善和制定好相关法律法规,做好“AI换脸”技术的应用和治理。

  安固软件在文档加密领域深耕多年,对于文档加密和加密算法已经发展出一套融合多类核心技术的成熟方案。安固软件的文本内容安全方案里面综合使用了泄密追踪、文档管控、文件外发管控、智能截屏、屏幕录像等技术,这些技术各有其优势和局限性,只有灵活运用协同作战,才能发挥最佳的实际效果。

  ○ 泄密追踪分析引擎可以对用户的日常操作进行深度分析,审计终端通过不同的应用渠道外传文档的行为进行记录,多维度统计与态势展示,帮助企业实时了解终端文件外发动态,及时进行风险评估。

  ○ 文档流转追溯是指跟踪文档在其生命周期内的流转和变更历史。可以帮助企业了解文档的创建、修改、外发过程,以及涉及的相关人员、终端设备、传输方式和时间节点,让文档传输管理更透明可控。

  ○支持对外发文件进行内容分析,识别外发文件中包含的敏感信息,自动备份外发文件,并对涉密行为提供风险等级评定。