请选择 进入手机版 | 继续访问电脑版

第一批AI已經開始使詐行骗,用你的聲音你的臉,說你沒說過的話

[复制链接]
发表于 2019-4-27 15:17:34 | 显示全部楼层 |阅读模式
本文來源:極客視界
作為世界上最古老的幾個職業之一,騙子可以說是與時俱進的代表了,甚至可以說是世界上擁抱新事物最積極的群體。
自從微信成為國民級社交軟件之後,各類騙子的主戰場也隨之進行轉移,從原來的電話短信詐騙進行了產業升級,成功步入了移動互聯網時代。
畢竟作為熟人社交的社交工具,微信獲取信任的成本遠遠低於其他方式,「秦始皇打錢」的時代宣告結束。


騙子們依托微信開發了非常多的詐騙方式。
比如針對年輕男性群體的「茶葉詐騙」,在早期微信還沒有完全成為熟人社交軟件之前風靡一時。
基本套路都是以武夷山某茶莊莊主外孫女在外公重病、親戚覬覦茶莊的時候走投無路,通過「搖一搖」或者「附近的人」功能,找到了天選之子的受騙者,最終一步一步的讓受騙者熱血上頭打錢買茶葉,保衛茶莊所有權。

隨著媒體的曝光,此類騙術逐漸失去了效果。
但是騙子們的招數依然層出不窮,最近媒體又爆出了一個更新的騙術:
近日,趙女士收到父親的語音留言,對方稱買菜沒帶錢要趙女士轉200元。
趙女士問了一句「爸,是你嗎?」很快收到語音答复。
趙女士一聽是父親的口音,便將錢轉了過去,結果還是被騙。
同樣受害的還有來自滄州的王女士,王女士接到同學發來的微信,讓她幫忙轉點錢,並發來語音催促。
一听就是同學的聲音,王女士好心打款500元,同樣被騙。

這種騙局主要原因,還是由於微信盜號造成的,雖然目前通行的微信版本語音是不能轉發的,但是騙子可以通過提取語音文件或者安裝「增強版微信」(一般是基於xposed框架的插件),都能達到轉發語音的效果。
雖然這種騙局技術含量不高,如果警惕性高一點,直接打電話聯繫就可以讓騙子不攻自破。

▲ 這種「增強版微信」相當於外掛
但是騙子很聰明的利用了中國人給彼此留面子的社交規則,如果是親朋好友語音跟你說借個百來塊錢,一般是不太可能去直接打電話質疑的,這樣會顯得自己很小氣。
再加上又有對方的語音,自然更不會去進一步深究,所以這樣的騙局能成功的也不意外。

但是所謂道高一尺魔高一丈,你真的以為打電話就能夠攻破騙子的騙局嗎?
現在的技術已經完全可以通過算法,來生成人全套語音了,甚至連憤怒、高興等不同語氣情緒都能夠做到惟妙惟肖,足以以假亂真。
而所需要的材料,也僅僅只需要被生成者的幾段話。

開發這項技術的是谷歌2016 年在加拿大蒙特利爾大學建立的人工智能實驗室(MILA)。
基於聲音合成技術,MILA 在2017 年4 月份成立了Lyrebird 公司。
Lyrebird 是一種名為琴鳥的鳥類,這種鳥具有一種特殊的天賦,它不僅能模仿多種其他鳥類的聲音,它還能模仿幾乎一切它聽到的聲音。

▲創造你自己的聲音阿凡達
在其網站DEMO 部分,你可以聽到了官方合成的、足以以假亂真的特朗普以及奧巴馬的聲音,而美國那邊也有記者用機器合成的句子跟家裡人打電話做實驗,他的母親完全分不清楚真假。
之所以能產生如此高還原度的合成聲音,背後的技術正是神經網絡(Neural Network)和機器學習(Machine Learning)。
神經網絡模擬電信號在人腦神經元之間的傳遞過程,對輸入數據進行處理。
它利用分層的神經元,從大量樣本數據中總結出共同特徵。
第一個用神經網絡來生成人類自然語音的,就是DeepMind 的WaveNet。沒錯,就是那個做AlphaGo 的公司。

具體的原理比較複雜,就不過多贅述了,總而言之WaveNet 可以把PS 痕跡明顯的機器語音,轉換成更加流暢自然的語音,與人類聲音之間的差異大幅降低,目前在鬼畜視頻界做的風生水起。
而Lyrebird 則更進一層,他可以基於音色、音調、音節、停頓等多種特徵,來定義某個人的聲音,然後生成更加擬真的聲音。

對於騙子來說,完全可以通過騷擾電話錄音來提取你的聲音,在Lyrebird 上進行生成,從而可以完成把我們上面說的打電話驗證真偽的這個過程給搞定。
聲音靠不住了,那就只能靠臉了。
在接到騙子的語言詐騙微信消息的時候,反手就是一記視頻通話,這樣應該騙子就慌了。

其實不止聲音可以偽造,現在連臉都可以通過AI 來進行偽造了。
比如前段時間在Reddit 上大火的明星換頭「成人短片」,一個網名為deepfakes 的程序員,他在業餘時間用家裡的電腦和開源的AI 工具fakeapp,通過機器學習算法成功移花接木,將神奇女俠女主角蓋爾·加朵的臉,移植到了一名成人女演員身上。

deepfakes 此舉一石激起千層浪,由於Fakeapp 使用門檻極低,無需安裝Python和Tensorflow 等編程語言和開源軟件庫就能運行,甚至連高性能顯卡都不用,完全可以租用谷歌的雲GPU 搞定。
一時間歐美各大女星的小電影充斥了整個社區,導致Reddit 做出了緊急封殺處理,一群老司機就此做鳥獸散。

▲換臉原理
而比成人片更可怕的還是製造假新聞,在2018年的4月份,就有人利用Fakeapp做出了一段假視頻,在視頻中美國前總統奧巴馬對著鏡頭說出了一句令人震驚的話:「川普總統完全就是個笨蛋。」
瞬間在美國造成了轟動的影響,大家在這場精心準備的玩笑中,發現了一個可怕的事實,那就是:
我們已經進入了這樣一個時代,我們的敵人可以做出看起來像任何人在任何時候說任何話的東西。

▲幾乎以假亂真

而Fakeapp 和Lyrebird 就是一套組合拳,可以圍繞臉和聲音兩個主要的辨識點去做出以假亂真的材料出來。
雖然目前這兩個技術還有著不少問題,但是我們看到在機器學習的加持下,它們正在變得越來越強大。

▲Fakeapp 已經2.2 版本了
而這兩項技術創立的初衷,其實也並不是為了作惡。
Lyrebird 的創始人就表示,他們希望自己的這個技術能幫助那些發聲困難的人,通過官方API接口,為他們打造出自己克隆出的更真實聲音,而不再是過去那種機器發出的聲音。
而deepfakes 也表示「任何技術都可以被邪惡的動機利用,這種事情無法被禁止。我認為人人都可參與機器學習研究不是一件壞事。」
雖然這老哥車發起來是迅雷不及掩耳,但是看得出來,這更多也是一名程序員的炫技。
這個技術一旦用好了,對於影視行業後期來說,是一項重大福音,比如斯坦·李老爺子的客串彩蛋,也會一直進行下去。

▲保羅·沃克在《速激7》的部分場景,就是用到了相關的技術
deepfakes 的這番話,倒是讓人很容易想起當年快播創始人王欣在法庭上的那句「技術無罪」。
如今已經出獄的王欣,一頭扎進了區塊鏈裡面。
也許很多年以後,王欣也會想起在風聲已經變緊的情況下,他決定繼續做一個「有種」的男人的那個下午。

▼2018年8月16日,世界機器人大會在北京登場,科大訊飛董事長劉慶峰現場展示【用語音合成技術,讓川普說中文】。


您需要登录后才可以回帖 登录 | 用户注册

本版积分规则

帖子推荐:
客服咨询

QQ:592439202

服务时间 9:00-22:00

金蝶用友易助管家婆深度服务
 
QQ在线咨询
售前咨询热线
592439202
售后服务热线
243998158
快速回复 返回顶部 返回列表