AI变声诈骗成新套路，如何应对？

AI变声诈骗成新套路，如何应对？

今年3月，一名英国能源公司CEO遭遇了AI变声诈骗。罪犯利用人工智能技术，模拟他老板的声音，要求转账24.3万美元（约174万人民币）。这种假装老板的诈骗套路早就有了，如今又用上了AI变声，更是令人难以分辨。

据这家公司的保险公司EulerHermesGroupSA.称，罪犯假扮德国母公司的董事长，表示情况紧急，要求一小时内转账给一家匈牙利供应商。受害者保险公司的诈骗专家RüdigerKirsch接受外媒采访时表示，这名英国CEO在电话中“认出”了老板轻微的德国口音和声调。诈骗电话共有三次，当英国CEO上当受骗转账约174万人民币后，诈骗电话再次打来称母公司已经转账补偿英国公司了，在当天的第三次电话中，罪犯依然模仿老板声音，要求该CEO继续转账。但英国CEO仍未收到转账补偿，并发现第三次的电话号码来自奥地利，他开始起了疑心，没有第二次转账。

据外媒报道，一些官员称，这是他们听到的第一起在欧洲的AI变声诈骗。EulerHermesGroupSA.此次承担了受害公司索赔全部金额，表示此前还没处理过其他涉及人工智能犯罪的索赔。欧洲刑警组织的网络犯罪中心战略负责人菲利普·阿曼（PhilippAmann）接受外媒采访时称，尚不清楚此次是否第一起AI变声诈骗，可能存在其他未报道或未被识别出使用了AI技术的诈骗事件。目前难以预测AI网络犯罪是否可能会增多，但如果AI能让犯罪更加容易或更有利可图，罪犯会更倾向于使用AI。

RüdigerKirsch称，转入匈牙利银行账户的资金随后转移到了墨西哥，并被分发到其他地方，目前调查人员没有发现任何嫌犯，警方对此案的调查也已经结束。针对此次AI变声的细节问题，菲利普·阿曼称，尚不清楚罪犯是否使用了机器人与受害者进行对话，如果是这样的话，执法当局的调查将更加困难。RüdigerKirsch认为，罪犯应当是使用了商业语音生成软件，他曾用过一款这样的产品来录制自己的声音，发现再生成的版本听起来很真实。据外媒报道，有安全研究院在去年的黑客大会展示了另一声音模拟技术，通过获取某人长时间的录音，拼接其声音片段来进行模拟。联合国跨区域犯罪与司法研究所人工智能与机器人中心负责人伊拉克利·贝里兹（IrakliBeridze）说，将机器学习技术应用于变声诈骗，也使得网络犯罪更加容易。当AI变声诈骗令人轻易上当的同时，如果是AI换脸诈骗，情况又将是如何？

目前，deepfakes等AI换脸技术已经相当成熟，并已经开源。以近日引起网上热议的ZAO换脸应用为例，AI换脸已经走入大众生活，倘若用于非法用途，后果将不可想象。今年6月，两名艺术家与机器学习工程师在Instagram上发布了扎克伯格的Deepfakes视频，引发社会各界热议。这一“假”视频显示，扎克伯格在发表一段关于社交媒体通过收集用户数据来获得权力的演讲。图自Instagram。伊拉克利·贝里兹接受外媒采访时称，联合国人工智能与机器人中心正在研究如何探测出假的AI换脸视频。