9秒132万！中国密集爆发多起诈骗，轻则破财，重则丢命？令人细思极恐……（组图）

5月22日，一条很特殊却注定影响深远的里程碑式新闻冲上了热搜前三！

为何说它是影响深远的里程碑式新闻？

因为它昭示了犯罪分子们利用AI作案，并且是大规模作案的时代已经来临。而就在昨天，另一桩利用AI诈骗的案子又刷新了人们的认知，这次的骗子比前一个热搜诈骗案的作案用时缩减了数十倍！

1

两起注定被长期讨论的案件

前几天，内蒙古包头警方公布了一桩利用AI实施电信诈骗的案例。

福建福州一个科技公司的法人代表郭某在10分钟内被骗走430万元。

4月20日中午，郭某的好友突然通过微信视频联系他，说自己的朋友在外地竞标，需430万保证金，并要公对公账户过账，欲借郭先生公司的账户走账。

郭某对好友有足够的信任，而且也通过视频聊天确认了就是好友本人。另外，骗子告诉郭某已经打了钱，并附上了银行转账截图。

因此，郭某并未核实钱款是否真实到账就分2笔把430万转账去了好朋友的银行卡里。

一切都完成后，郭某给好友发微信称全办妥了。对方当然一头雾水，发来了一个问号！

没错，几分钟之内，诈骗分子利用AI完成了换脸、换声，并截取微信信号、伪造转账记录等几大环节，可谓天衣无缝、丝滑操作，一气呵成！

双手一按，几百万就没了

更细思极恐的是，这个被骗的人本身就是一个科技公司的老总。他都能被AI骗得团团转，何况普通人。

这个里程碑式的案子当然引起了轩然大波。然而这个热搜还没降温呢，AI骗术在几天内又进化了！

就在5月22号，新一桩通过AI换脸进行的诈骗案发生了。

此次被骗金额为132万元，而整个诈骗过程只用了令人惊叹的9秒钟！

有AI加持的骗子快得匪夷所思，快到受害人还没明白怎么回事呢，就已经被害苦了。

具体情况是这样：

安徽安庆的何某接好友视频电话，对方令其帮转一笔钱。视频通话9秒后，对方用“我在会议中”为借口挂断了电话，并表示：“微信和电话不能说，加一下QQ”。

何某后来说：“因为打了视频电话，又是熟人，我就没多想，就转账了”。

好在，发现被骗之后，何某马上报警，专案民警迅速冻结相关账户，连夜赶赴北京市抓获了3名诈骗嫌疑人，追回何某被骗的全额款项。

来来来，我们共赏一下AI换脸的技术：

2

借AI诈骗只是开端，更凶狠的我们难以预料？

这几天各大媒体围绕着骗子借AI作案的新闻都是在说AI换脸如何逼真，连做直播带货的人都在用AI换脸搞直播。

目前，大家还都把目光局限在骗钱作案这一块。但其实，AI可以协助去做很多更凶险、更恐怖的事情。

还记得两个月前那个轰动全网的大案吗？

“苏州一女子在谋害老公后，将其藏尸冰柜达一年半之久，其间使用丈夫微信骗取公婆钱财。女子家人发现后报警，并劝她投案自首。

被害人庞某的亲戚老张称，最可怜的是庞某父母，深信儿子是外出躲债而数月不回家，2022年中秋节，公婆还特意去了儿媳妇家，给她烧饭，陪她过中秋。但被害人父母怎么也想不到，每天思念的儿子，当时就躺在这套房子一个房间的冰柜里。”

这里面最令网友们细思极恐的细节是什么？

是此女子在谋害老公后整整18个月的时间里，用微信模仿她已故老公的语气与说话方式跟丈夫的家人们沟通，报平安并索要钱财。更重要的：从未被识破！

10年以来，大家已经习惯性认为，我们进入微信时代以后，任何凶案皆藏不住。原因是：每个人无时无刻不在刷微信，倘若被谋害或发生交通意外，亲朋好友会第一时间就知道并迅速报警。

然而现在，AI有可能成为改变规则之手。

智能AI可谓在市场上横空出世，其中，ChatGPT之类的应用可以不费吹灰之力通过任意一人此前的聊天记录高度模仿这个人的语气、口吻，说话方式，常用词，习惯短语等。

现在，AI换脸技术也已经完全成熟，非但能文字聊天，还可以直接换脸进行视频交流！

因此，犯罪分子借用AI假装被害人还活着，被害人的亲朋好友就极难发现破绽。

英剧《黑镜》第2季首集讲述的正是这样的未来预测。

老公在突发车祸中去世，给等待他归来的妻子一个五雷轰顶。

出门时还有说有笑，下午人已离世，妻子没法接受（正常人都没法接受），只能在巨大痛苦与怀念中消磨时间。

一段时间后，妻子才渐渐走出来，回到正常生活，回归工作。然而她发现自己怀孕了，是丈夫的遗腹子。她又陷入绝望，突然回忆起葬礼上朋友跟她讲过，某公司研发一个新技术，可以让你跟已故的丈夫通话。

妻子找到这个公司，用英国微信与公司创建的虚拟丈夫聊天。虚拟丈夫说话的语气很像已故的丈夫，包括特有幽默和叙事方式。没多久，妻子不想只停留在用软件打字交流。

科技公司表示，只要把丈夫的声音，照片等信息交给AI，AI就会通过它们学习和进化。再后来，科技公司干脆做出了一个百分百外形一样的丈夫来……

没错！一个百分之百的“真人”！

这让人想起了《西游记》里的真假孙悟空那个桥段，以前谁都认为那只是好玩的小说情节，但未来，没准就成了现实情节。

3

人类有没有应对方案？

前些日子，美国出了件“大事”！

有人在推上发了AI绘图的五角大楼附近被炸了，浓烟滚滚。

这个图片被大量传播，其结果是短暂地导致美国股市走低！这便是人工智能生成的图像影响股票市场的第一个案例。

同样是个里程碑！

就在纽约时间上午 10 点刚过，当照片在流传时，标普500指数下跌约 0.3% 至盘中低点。随着该图像是骗局的消息传出，该指数又迅速反弹。

那么，一些犯罪者是不是可以通过AI造各种各样的假新闻去操控股市或操控其他市场？

那样，他们无需利用AI去偷、抢、骗，也可以赚取巨额利润。

AI所做的特朗普被捕图也一度以假乱真，风靡网络

上面说了那么多可能的犯罪类型，那目前各国政府对AI作案都有什么预防和反制措施呢？

在包括马斯克在内的共3万多名科技大佬、从业者和商业领袖联合签名呼吁暂停人工智能开发后，英国首相苏纳克在整整一周前表示，英国将带头限制人工智能的危险。

苏纳克表示，人工智能可以为社会带来变革性的益处，但它必须“安全可靠地引入，并有适当的防护”。

苏纳克的表态其实跟上面说的那三万多个签名的人的观点是一致的——AI只能适当研究，不能全面放手，信马由缰；要减轻 ChatGPT-4 等系统的能力和危险度，以应对可能发生的数字欺诈、虚假信息和就业风险。

非常值得一提的是，苏纳克其实一直是 AI 的倡导者，以前总是强调它的好处而不是风险。

就在今年 3 月，他的政府还公布了一项宽松的监管计划，该计划并未包括任何有针对性的新法律或执法机构的提案。

而且，就在上个月，他还成立了一个耗资 1 亿英镑的英国工作组，为人工智能开发“安全可靠”的应用程序，目标是：到 2030 年，英国能成为科技超级大国。

然而就在上周，苏纳克的“画风”就突变了。

这么短的时间里究竟发生了什么？

其实我们不难猜测，无非就是最近各国都有一些相关的案子发生。这些案子引起了各国的警惕与担忧。

比如，前些日子，西班牙的一个电影工作室就也遭到了AI电话诈骗，骗子假装英国著名演员“卷福”，要跟这个不知名的西班牙公司合作。

假冒的卷福表示对这家公司很感兴趣，然而让该公司先转20万英镑定金再谈后面的合作……

因此，苏纳克态度戏剧性转变，表示需要一种全球性的监管方法。

 “因为技术正在迅速发展，我们希望确保我们的监管也能同步发展”

其实也不止是英国，更多的国家也已经意识到必须得讨论讨论人工智能了。

总结一下：

AI和武器一样，是个工具，AI做好事或做坏事全看谁在用它。

但由于它是一项划时代的巨大技术革新，所以它带来的影响和后果还都是未知数。不加以任何限制与观察，显然是不合理的。连OpenAI首席执行官山姆·奥特曼在美国国会的听证会上都呼吁尽快建立国家级的监管机构。

至于我们普通人，考虑更多的应该是如何防止被骗。

一旦涉及到网络转账，大家一定要提高警惕，通过电话等多渠道核验对方身份。

遇到不法分子将人像PS成不雅照或假视频进行敲诈勒索时不要慌张，一定要及时报警。