你所在的位置: 首页 > 正文

AI骗走173万!伪造老板声音来电,成功骗钱后无影无踪

2019-10-01 点击:828

原标题:AI被骗173万!假老板打来电话,成功的金钱欺诈消失了

黄自然,世界在线商务记者

ZAO可以使用照片来创建您的脸部表演场景的视频,以便更多的人可以看到使用Deepfakes进行“ AI换脸”有多么容易。但是,AI不仅可以伪造视频,而且可以伪造音频,这比换脸更简单,更难检测。

根据《华尔街日报》,犯罪分子使用AI合成器老板的声音欺骗了一家英国的能源公司。伪造的欺诈电话成功地将22万欧元(约合173万元人民币)的巨款转入了欺诈者的账户。

使用AI伪造声音的欺诈行为是我们日常生活中遇到的“ XX,明天到我的办公室明天”欺诈行为的一种思考方式,但是技术却更加令人困惑。

被欺骗的能源公司总部位于英国,其母公司在德国,在英国设有子公司。事发当天,该公司英国子公司的负责人接到了德国母公司首席执行官的电话。呼叫者的英语略带德语的口音和口音,与德语的“老板”声音相同,这是毫无疑问的。

德国“老板”在电话中说,他在匈牙利谈论生意,但现在要从英国子公司开户,英国子公司需要将钱支付给“匈牙利供应商”,稍后再偿还。德国“老板”迫切需要付款,这需要在一个小时内向指定帐户支付220,000欧元。

钱被击中后,德国的“老板”再次致电。德国“老板”说,这22万欧元的报销已经转移到了英国子公司,现在英国子公司需要再转移一笔钱。

这家英国子公司的员工发现了问题。 “老板”交出的钱没有到。第二,“老板”的呼唤来自奥地利吗?

迅速报警后,警察发现22万欧元被打进了匈牙利的一个帐户,然后转移到墨西哥,再转移到其他地方,因此警察无法追踪说谎者的位置。

被欺骗的公司遇到的关键问题是呼叫的声音太像母公司的首席执行官,使用AI声音的深度学习技术让老板的声音说出特定的话语。

这项技术并不难实现,而且非常成熟。在高德地图中使用的星空导航(例如林志玲和易谦)是使用AI语音合成对声音进行语料库训练的。它内置在语音助手结构,游戏数字角色设计,有声读物等中。

如今,许多AI公司已经推出了语音复制AI技术。在2016年,Google Deepmind开发了“ WaveNet”软件,该软件使用其神经网络系统对原始音频波形进行建模,以产生具有自然语言学的音频,从而强调音节,摇摆和表达情感。

加拿大的Lyrebird还开发了一种深度学习算法,该公司已使用该算法来模仿特朗普,奥巴马和克林顿的声音,以致演讲几乎令人困惑。它的公开测试版仅需要使用长度为1分钟的音频材料来生成数字语音输出,该输出与用户的语音功能高度相似,并且阈值非常低。

奥巴马先生的讲话是加拿大的Lyrebird公司成功伪造的。

此外,Adobe的Project VoCo软件可以识别语音中的文本,然后编辑和修改语音中的文本,以产生与我的音调和音色完全相同的语音。这意味着将来的音频制作将像在文档中复制和粘贴文本一样容易。您想和谁说话?它是完全可预编辑的。

语音伪造技术也像“ AI Face Change”一样,在GitHub上提供了开源培训模型。将某人的声音更改为您的声音仅需5秒。

“语音伪造”与“ AI脸部更改”一样易于使用。它已成为坏人用来混淆视听和欺诈犯罪的工具。由此带来的风险令人担忧。

享誉全球的安全软件ESET的网络安全专家Jake Moore表示:“我预计使用AI的网络犯罪将在不久的将来急剧增加。我们已经看到Deepfakes视频在现实生活中假冒名人和公众人物,并且伪造的声音需要更少的录音来完成。随着计算能力的不断提高,当这些技术变得更易于生产时,将带来一系列网络安全问题。

AI技术是一把双刃剑,关键是如何使用它。语音和图像处理技术的进步为我们节省了时间并享有乐趣,但与此同时,它们也使邪恶的人有机会利用它们。

如何应对将要带来的技术风险,遏制AI欺诈和欺诈行为的泛滥?使用AI“防路由” AI可能是一个可行的选择。为了防止各种Deepfake的出现,检测AI生成的伪造文本的AI``检测器''也在不断改进。这也是一个深度学习模型,可通过AI识别伪造文本的漏洞和代码特征,以及跟踪器传播以发现欺诈性内容的路径和方式。

目前,研究人员已开始推广风险预防措施。为了应对AI处理文本的威胁,MIT小发猫Watson Labs和AI Harvard NLP推出了巨型语言测试室(GLTR),以检测OpenAI模型生成的伪造文本。此外,小发猫的Debater项目,Deep Blue项目等有望提供新工具,以帮助打击Deepfakes的欺诈活动。

阿里巴巴还推出了反电话AI系统。目前,支付宝基于用户账户安全的实时保护,结合公共反欺诈领域的合作犯罪侦查经验,自主开发了AI``天蝎座''系统。 “天蝎座”可以判断平台交易中涉及网络犯罪的战术和行为,并向公共安全提供相关线索,以提高网络犯罪的发现效率。支付宝还建立了“帐户延迟2.0”功能。当AI发现用户遇到可疑的电信欺诈时,它将主动向用户推荐延迟到达功能,给予用户思考和报警时间,并弥补损失。

未来AI的“伪造”和“防伪”之间的斗争可能就像细菌和抗生素,恶意软件和反病毒平台,黑客和白帽子之间的对抗。回到搜狐,看看更多

负责编辑:

2019-09-04 21: 03

来源:世界网络提供商

原标题:AI被骗173万!伪造了老板的语音电话,成功欺骗之后就没有踪迹。

Tianxia.com记者Huang Natural

ZAO可以使用您的照片来创建您的脸部播放视频,以便更多的人可以看到使用Deep Fakes“ AI Face Change”非常方便。但是,AI不仅可以伪造视频,而且可以伪造音频,而且换脸比换脸要容易。

根据《华尔街日报》,罪犯使用AI综合公司所有者的声音欺骗了一家英国的能源公司。虚假的欺诈电话成功地使公司下属将22万欧元(约合173万元人民币)的巨款转入了骗子账户。

使用AI来欺骗欺诈声音,并在我们的日常生活中使用“ XX,明天到我办公室来”冒充老板的boss俩是一个主意,但是技术却更加令人困惑。

被欺骗的能源公司总部位于英国,其母公司位于德国,其子公司位于英国。事发当天,该公司英国子公司的负责人接到了德国母公司首席执行官的电话。呼叫者的英语带有轻微的德语口音和重音,与德语“老板”的声音完全相同。没有怀疑。

德国“老板”在电话中说,他正在谈论在匈牙利的业务,但现在他必须从英国子公司开户,英国子公司需要将钱支付给“匈牙利供应商”,其后是-up将被报销。德国“老板”要求时间付款,因此必须在一小时内向指定帐户支付22万欧元。

钱被击中后,德国的“老板”再次致电。德国“老板”说,这22万欧元的报销已经转移到了英国子公司,现在英国子公司需要再转移一笔钱。

这家英国子公司的员工发现了问题。 “老板”交出的钱没有到。第二,“老板”的呼唤来自奥地利吗?

迅速报警后,警察发现22万欧元被打进了匈牙利的一个帐户,然后转移到墨西哥,再转移到其他地方,因此警察无法追踪说谎者的位置。

被欺骗的公司遇到的关键问题是呼叫的声音太像母公司的首席执行官,使用AI声音的深度学习技术让老板的声音说出特定的话语。

这项技术并不难实现,而且非常成熟。在高德地图中使用的星空导航(例如林志玲和易谦)是使用AI语音合成对声音进行语料库训练的。它内置在语音助手结构,游戏数字角色设计,有声读物等中。

如今,许多AI公司已经推出了语音复制AI技术。在2016年,Google Deepmind开发了“ WaveNet”软件,该软件使用其神经网络系统对原始音频波形进行建模,以产生具有自然语言学的音频,从而强调音节,摇摆和表达情感。

加拿大的Lyrebird还开发了一种深度学习算法,该公司已使用该算法来模仿特朗普,奥巴马和克林顿的声音,以致演讲几乎令人困惑。它的公开测试版仅需要使用长度为1分钟的音频材料来生成数字语音输出,该输出与用户的语音功能高度相似,并且阈值非常低。

奥巴马的讲话由Lyrebird Canada成功打造

此外,Adobe的Project VoCo软件可识别语音中的文本,然后编辑和修改语音中的文本,以产生与人相同的语音和音调。这意味着未来的音频制作将像复制和粘贴文档中的文本一样简单。无论您想使用哪种单词,都可以进行预编辑和制作。

语音伪造技术还在GitHub上提供了一个开源培训模型。就像“AI face change”一样,你可以在5秒内将别人的声音改成你的声音。

“声音伪造”与“AI Face Change”一样易于使用,它已成为坏人使用欺诈,混淆视听和欺诈性犯罪的工具。这带来了令人担忧的风险。

世界知名安全软件ESET的网络安全专家杰克摩尔说:“我预测使用人工智能的网络犯罪将在不久的将来大幅增加。我们已经看到Deepfakes视频逼真地打造名人和公众人物,伪造假声音需要更少随着计算能力的不断提高,这些技术将变得更加容易,这将导致一系列的网络安全问题。“

人工智能技术是一把双刃剑。关键是如何使用技术大师。语音和图像技术处理方面的进步为我们节省了时间和乐趣,但它们也使邪恶的人能够找到机会。

如何遏制人工智能欺诈和欺诈的泛滥,抵御其即将带来的技术风险?使用人工智能“反路由”人工智能可能是一个可行的选择。为了防止各种深度假货的出现,检测人工智能生成的伪造文本的人工智能“检测器”也在不断改进。这也是一个深度学习模型,它可以识别人工智能伪造文本的漏洞和代码特征,以及跟踪者发现欺诈内容的传播路径和方式。

目前,研究人员已经开始推广风险防范措施。为了解决人工智能处理文本的威胁,麻省理工学院ibm沃森实验室(mit-ibm-watson labs)和人工智能哈佛nlp推出了巨型语言测试室(gltr),用于检测openai模型生成的伪造文本。此外,小发猫的辩手项目、深蓝项目等有望提供新的工具,帮助打击深假的欺诈活动。

阿里巴巴还推出了反电话人工智能系统。目前,支付宝在实时保护用户账户安全的基础上,结合公共反欺诈领域协同侦查犯罪的经验,自主开发了人工智能“天蝎座”系统。天蝎座“可以在平台交易中判断涉及网络犯罪的策略和行为,并将相关线索推送到公安部门,提高网络犯罪的侦破效率。支付宝还建立了“延迟到账户2.0”功能。当人工智能发现用户遭遇电信诈骗嫌疑时,会主动向用户推荐延迟到达功能,给予用户思考和报警时间,并追回损失。

未来人工智能的“造假”与“防伪”之争,可能就像细菌与抗生素、恶意软件与反病毒平台、黑客与白帽之间的对抗。返回搜狐查看更多信息

责任编辑:

免责声明:本文仅代表作者本人,搜狐是信息发布平台,而搜狐只提供信息存储空间服务。

英国

德国

语音

老板

阅读()

陕西生活门户网 版权所有© www.ktfilters.com 技术支持:陕西生活门户网 | 网站地图