欧洲首例AI诈骗!用CEO声音骗走22万,逼真语音合成只需1分钟录音

大数据文摘出品

作者:刘俊寰

想到可以利用AI进行诈骗的可不止一些初创公司,当下AI技术如此发达,换脸都能轻松实现,那声音呢?

提到这种变声技术,可能最先想到的是《名侦探柯南》中柯南使用的蝴蝶结变声器,柯南正是利用阿笠博士的这个发明把“沉睡的毛利小五郎”捧上了侦探界的神坛。

但是试想,如果有人把这项技术用于诈骗,是不是顿时后背发凉?

据《华尔街日报》报道,今年3月份,有犯罪分子就使用了类似的AI技术,他们成功模仿了英国某能源公司在德国母公司CEO的声音,诈骗了220,000欧元(约1,730,806人民币)。

网络犯罪专家称,这是黑客攻击中利用AI技术的一次不寻常案例。

三次电话,损失22万欧元

案发时,该公司的CEO误以为他正在与他的老板,也就是德国母公司的CEO通电话,老板要求他将资金汇给匈牙利供应商。据该公司的保险公司Euler Hermes Group SA称,来电者表示该请求非常紧急,要求行政人员在一小时内付款。

慕尼黑的金融服务公司Allianz SE旗下子公司Euler Hermes的欺诈专家Rüdiger Kirsch说,犯罪分子总共打了三次电话。220,000欧元转移后,他们打电话说母公司已经转移资金偿还英国公司,然后他们在当天晚些时候进行了第三次电话会议,再次冒充首席执行官,要求第二次付款。由于转账偿还资金还没有到来,而第三次电话是来自奥地利的电话号码,行政部门开始怀疑,没有支付第二笔款项。

根据Kirsch先生的说法,转入匈牙利银行账户的资金随后转移到墨西哥并分发到其他地方,调查人员没有发现任何嫌犯,而且,Euler Hermes承担了受害公司索赔的全部金额,但没有处理要求追回涉及AI犯罪损失的索赔。

Kirsch先生认为,使用AI诈骗对公司来说是新的挑战,传统网络安全工具无法发现欺骗性的声音,而黑客往往就是使用商业语音生成软件进行攻击。Kirsch先生用这种产品录制了自己的声音,并说复制版本听起来很真实。

目前还不清楚攻击者是否使用机器人对受害者的问题作出反应。欧洲刑警组织欧洲网络犯罪中心战略负责人菲利普·阿曼说,如果他们这样做,执法当局调查可能会更加困难。Kirsch先生说,警方对此案的调查已经结束,欧洲刑警组织没有参与。

从语音转发到语音复制,声音还有多少可信度?

其实,执法当局和AI专家早有预言,犯罪分子将使用AI进行自动化网络攻击。无论是谁策划了这一事件,他们都已经使用AI软件成功地通过电话模仿了德国高管的声音。

虽然有欧洲官员表示,这是他们第一次听说在欧洲发生AI变声语音诈骗,而且犯罪分子明显依赖于AI变声技术,但这远非第一起利用语音进行诈骗的案件,在国内,变声技术早已被用于网络诈骗中,人民网微博最早在去年八月就发布了利用微信语音诈骗的案件消息。

犯罪分子利用的是一种名叫“增强版微信”的软件,这种“增强版微信”具有能够转发语音消息、克隆好友朋友圈、看到对方撤回的消息等功能。

据称,这些功能都是服务于一些“特殊用户”的,比如自定义位置,就能让客户在国内实现海外“云度假”,或者让一些商家假装自己是“海外代购”等。

脱离微信而言,利用声音合成技术也已经实现了语音复制。

去年,三名蒙特利尔大学博士联合创办的名为“琴鸟”(Lyrebird)的公司开发出了一种“语音合成”技术,只要对目标人物的声音进行1分钟的录音,丢给“Lyrebird”处理,就能得到一个特别的密钥,利用这个密钥可以生成目标人物任何想说的话。

“琴鸟”(Lyrebird)不仅能利用语音模仿演算模仿出任何人的声音,还能在声音中加入“感情”元素,让声音听上去更为逼真。

去年Black Hat大会上也展示了一种声音模拟技术,这项技术是通过获取某人长时间的录音,拼接其声音片段实现模拟。阿曼先生表示,虽然很难预测使用AI的网络攻击是否会很快上升,但如果AI技术能够让黑客攻击更成功或更有利可图,他们会更倾向于使用该技术。

基于神经网络和机器学习的AI变声技术

不管是成功诈骗欧洲公司的黑客们利用的技术,还是加拿大的“琴鸟”(Lyrebird),它们最终都能得到高还原度的合成声音,在这背后依赖的技术正是神经网络(Neural Network)和机器学习(Machine Learning)。

神经网络通过模拟电信号在人脑神经元之间的传递过程,对输入数据进行处理,同时利用分层的神经元,从大量样本数据中总结出共同特征。

第一个用神经网络生成人类自然语音的,就是Google的DeepMind研究实验室发布的WaveNet。

接下来就以WaveNet为例,简单介绍一下AI是如何通过神经网络和机器学习来合成语音的。

论文链接:https://arxiv.org/abs/1609.03499

WaveNet是基于PixelCNN的音频生成模型,在这个生成模型中,每个音频样本都以先前的音频样本为条件。条件概率用一组卷积层来建模。这个网络没有池化层,模型的输出与输入具有相同的时间维数。

在模型架构中使用临时卷积可以确保模型不会违反数据建模的顺序。在该模型中,每个预测语音样本被反馈到网络上用来帮助预测下一个语音样本,由于临时卷积没有周期性连接,因此它们比RNN训练地更快。

使用临时卷积的主要挑战之一是需要很多层来增加感受野,为了解决这一难题,作者使用了加宽的卷积,加宽的卷积使只有几层的网络能有更大的感受野。模型使用了Softmax分布对各个音频样本的条件分布建模。

这个模型在多人情景的语音生成、文本到语音的转换、音乐音频建模等方面进行了评估。测试中使用的是平均意见评分(MOS),MOS可以评测声音的质量,本质上就是一个人对声音质量的评价一样。它有1到5之间的数字,其中5表示质量最好。

相关检测技术正在研究中

联合国区域间犯罪与司法研究所人工智能与机器人中心主任Irakli Beridze表示,将机器学习技术应用于欺骗性声音使网络犯罪变得更加容易。

联合国中心正在研究检测虚假视频的技术,Beridze先生称这对于黑客来说可能是一个更有用的工具。 “想象一下,以CEO的声音进行视频通话,这是您熟悉的面部表情,这样的话你根本不会有任何疑虑。”他说。

推特上有网友对此也发表了看法,认为可以利用AI技术破除AI难关,或许这会成为未来解决类似问题的主要办法之一。

在百度上输入“语音诈骗”、“识别”等关键词,可以看到百度经验的相关帖子,虽然这些“经验”都已经相当古早,但能看出大家与这类诈骗的对抗已然是相当持久。

不管怎样,希望相关的识别技术能早日研究出来。

不知道大家有没有遇到过类似的语音诈骗事件?当真的遇到这类事件应该如何应对最好呢?欢迎大家留言讨论。

相关报道:https://www.wsj.com/articles/fraudsters-use-ai-to-mimic-ceos-voice-in-unusual-cybercrime-case-11567157402

Image placeholder
Feego
未设置
  92人点赞

没有讨论,发表一下自己的看法吧

推荐文章
万字长文|1分36秒,100亿,支付宝技术双11答卷:没有不可能

2019年双11来了。1分36秒100亿,5分25秒超过300亿,12分49秒超500亿……如果没有双11,中国的互联网技术要发展到今天的水平,或许要再多花20年。从双11诞生至今的11年里,有一个场

新突破!人工智能会根据你的声音来预测你的长相

麻省理工学院的研究人员发明了一种新的人工智能,它实现了一项惊人的成就:仅通过分析一个人声音的短片段,它就能重建他们在现实生活中的样子。人工智能的预测结果并不完美,但总的来说还是相当不错的,这项研究也是

欧洲最大笔融资,骗过软银!印度AI公司被曝造假,自动开发背后是真人码农

大数据文摘编辑部出品AI融资有泡沫,这大家都知道。但是,这泡沫能有多大呢?一家名叫Engineer.ai的明星AI初创公司刚刚刷新了这一纪录。这家以ai作为域名的公司由两名印度创始人创建,号称可以通过

欧洲最大MySQL用户之一,Booking.com数据库构架探秘!

吴鑫Booking.com数据库工程师TeamLead2015年加入总部位于阿姆斯特丹的Booking.com数据团队,现任数据库工程师团队负责人,主要是负责Booking.com里MySQL相关的运

那些“中漂”的欧洲科学家们

大数据文摘出品来源:Sciencemag编译:武帅、刘俊寰就近几年的科技发展水平来看,中国已逐步向科技大国迈进,这在提升中国在全球的科研影响力之余,也在一定程度上改变了全球科学人才流动背后的格局。比如

Google Brain推出语音识别新技术、面部表情识别助力商业再发展|AI一周学术

大数据文摘专栏作品作者:ChristopherDossman编译:fuma、云舟呜啦啦啦啦啦啦啦大家好,本周的AIScholarWeekly栏目又和大家见面啦!AIScholarWeekly是AI领域

史上第一张黑洞照片是用Python合成的?

这两天,史上第一张黑洞照片,在朋友圈和各大公众号疯传,希望你没有收到视觉中国的律师函。好了,言归正传。这个照片是怎么「拍到」的呢?其中一位研究人员(一个妹子,MIT 的博士,就是头图这位)就在 TED

成就自己的只需一套精品

学习猿地课程涵盖Java开发工程师、Python开发工程师、PHP开发工程师、Golang开发工程师、大数据开发工程师、前端开发工程师、UI/UE设计师、Linux运维工程师、Web前端开发(1+X)

Carbon —— PHP 中日期 / 时间处理,你只需要这个扩展包就够了

在PHP中使用日期和时间并不是容易或清晰的任务。我们必须处理strtotime,格式化问题,大量计算等等。 这个漂亮的包叫做Carbon可以帮助在PHP开发中处理日期/时间变得更加简单、更语义化,从

解决云中灾难恢复其实只需三个步骤!

很多人都认为,DR(灾难恢复)内置于云中,我们只需采用云本身的安全机制就行了,但事实并非如此。尽管,许多云提供商在数据恢复方面做得很好,但是如果你自己不做灾备,会错过很多只有真正意义上的DR系统才能具

使用Certbot开启HTTPS访问(最新)

知乎地址友情链接 v-easy-components-基于Vue2.x的组件命令库 逸宿-一款预定民宿的webapp(毕设) 在线网易云API-基于NeteaseCloudMusicApi在线A

谷歌两位创始人双双“退位”,皮猜升职Alphabet帝国CEO独揽大权

大数据文摘出品两位创始人双双“退位”,Alphabet刚刚赢来了新阶段。美国时间周二12月3日下午,谷歌联合创始人拉里·佩奇(LarryPage)和谢尔盖·布林(SergeyBrin)宣布辞职,从即日

腾讯汤道生:产业互联网时代,安全成为CEO的一把手工程

产业互联网日益成为众多行业实现转型,获得发展新动能的趋势性选择,政务、金融、医疗、出行、教育、零售、工业等垂直领域,正在全面拥抱产业互联网。网络安全作为互联网的基础保障,在产业互联网发展和企业数字化升

SAP CEO孟鼎铭为何在任职十年之际选择退出?

2019年10月11日,SAP宣布执掌时间长达9年多的孟鼎铭(BillMcDermott),将辞去首席执行官职位。公司启动了长期继任者计划,SAP执行董事会成员JenniferMorgan和柯睿安(C

一个被 CEO 逼疯的技术负责人的检讨书

作者:fingerQin来源:https://www.phpjieshuo.com/archives/139/以下是一封来自被CEO逼疯的技术负责人的检讨书。想火!!!自任开发部负责人一职以来,开发部

美团云注资增至8.7亿元,穆荣均将替换王兴成为CEO

据企查查工商信息显示,美团云运营主体北京三快云计算有限公司在12月25日发生工商变更,注册资本由1000万元变更为8.7亿元,公司实际控制人、最终受益人由美团创始人王兴推出,法定代表人变更为美团联合创

SWIG-Python中调用C代码的另一种方法

SWIG SWIG是SimplifiedWrapperandInterfaceGenerator的缩写。是Python中调用C代码的另一种方法。在这个方法中,开发人员必须编写一个额外的接口文件来作为S

dw如何使用css设置字体

dw如何使用css设置字体设置页面中的字体可以使用“页面属性”对话框,页面属性可以设置网页的字体、背景颜色和背景图像等样式。具体操作方法如下:1、选择“文件”>“页面属性”,或单击文本的属性检查器中的

怎么用css美化网页

怎么用css美化网页1、我们先来看一下没有进过美化的html页面是什么样子吧。2、然后我们来看一下有美化效果的样子是什么样子,是不是漂亮一些。(相关课程推荐:css视频教程)3、准备好自己需要修饰的h

html怎么用css

html怎么用cssCSS样式只有应用到HTML元素中,样式才会产生效果。有三种方式可以把CSS样式应用到HTML元素。一、利用HTML元素的style属性,样式表作为style属性的值,该方式也称为

怎样用css实现图片不间断滚动

怎样用css实现图片不间断滚动效果图:思路分析:第一步,定义div>ul>li*7,因为有7张图片。第二步,设置div的宽度高度以及li的浮动,保证它们全部在div内的同一行。第三步,实现滚动。用到了

jquey怎么引用css样式

jquey怎么引用css样式jquery引用css只需要一行代码即可,通过传入一个标签,来创建link标签,传入type、href、以及rel给link标签添加属性,最后再调用appendTo方法,将

三角形用css怎么写?

三角形用css怎么写?1,首先,我创建了一个class名为‘box’的div,我们暂且亲切的称它为‘小盒子’html: css: .box{ width:20px; height:20px; back

如何使用css取消字体下划线?

在给文字加上超链接锚文本(htmla)后,字体就被默认自动加上下划线样式,但可以通过CSS实现取消去掉全网页超链接的文字字体被加下划线样式。我们可以使用text-decoration:none来取消默

asp.net如何调用css

asp.net如何调用css1、静态方式调用在head标签中加入link标签2、引用了模板页的页面添加方式首先可以定义一个类:(相关课程推荐:css视频教程)staticpublicclassAddS