随着AI换脸、换声的视频在网络社交平台上日渐流行，给人们带来新体验的同时，也被不法分子所利用。近日，山东省济南市商河县公安局刑警大队破获了一起利用AI换脸技术诈骗的典型案件。
“今年5月份，黄某某（化名）在家刷短视频时收到了一条私信，对方自称是黄某某的表哥，寒暄几句取得黄某某初步信任后，对方又让黄某某添加了其QQ号。”侦办此案的商河县公安局刑警大队三中队中队长张振华告诉海报新闻记者，黄某某的表哥由于在体制内工作，因此对方以自己身份不便为由，希望黄某某帮自己给一个需要资金周转的朋友，转一笔大额资金。
为了表示诚意，“表哥”索要了黄某某的银行卡号，并称先让朋友给黄某某转款后，再让黄某某转出。很快，黄某某就收到了对方发来的“转账凭证”，虽然看到了“转账凭证”，但黄某某并没有收到这笔转款，因此没有立即帮“表哥”转账。
“因为经过我们的反诈宣传，对于冒充熟人诈骗的案例，黄某某比较了解，他有一定的警惕性。”张振华说，大约过了20分钟，“表哥”再次发消息给黄某某，并称大额转款到账会有延迟，目前急需这笔钱，黄某某能否先行垫付一下。
黄某某随后与“表哥”进行了视频通话，黄某某见到视频中的人和表哥一模一样，不过对方声音比较低，大约十几秒后，对方称有会议便挂断了视频通话。
黄某某确信了对方身份后，于是向对方提供的银行账户转了30余万元。收到这笔钱后，对方还继续催促黄某某转出剩余的欠款。就在黄某某继续筹集资金的过程中，黄某某发现起初添加自己的短视频账号已经显示被封禁，他急忙给表哥打去电话核实，才知道其表哥对此事毫不知情。意识到受骗的黄某某立即报警。
警方根据嫌疑人与黄某某网聊时的IP地址，判定该团伙在境外实施诈骗，由国内销赃洗钱，是一起采用AI技术换脸、冒充受害者熟人进行点对点网络诈骗的案件。商河警方通过技术手段侦查，两次前往广东东莞，抓获犯罪嫌疑人7人，目前此案已进入法院审判阶段。
张振华表示，在案件的侦破过程中，他们曾咨询过不少技术人员，这种实时通话的视频合成技术难度比较大，一般的小公司很难实现，但即便如此，这种诈骗手段仍然可以防范。
“因为此类AI合成技术的视频通话时间一般都相对较短，犯罪嫌疑人担心通话时间过长会露出破绽，人脸一旦变化位置或者外围环境发生变化，都可能会使犯罪嫌疑人恢复原貌。”张振华告诉记者，对于普通群众而言，一是要注意保护个人隐私信息，其次遇到熟人或亲戚借钱时，要及时与对方进行电话沟通，视频通话时可以让对方做出固定的手势或对面部进行遮挡，查看是否有变化，以此判断对方身份的真假。
