首頁 > 文章內容

AI騙走173萬!偽造老板聲音來電,成功騙錢后無影無蹤

天下網商記者 黃天然

ZAO用一張照片就能用你的臉制造出一段演戲視頻,讓更多的人看到了運用深度造假(Deepfakes)“ AI換臉”已是如此便捷的操作。然而不止視頻,音頻同樣可以通過AI來偽造,而且這比換臉更簡單,也更難發現破綻。

據《華爾街日報》報道,有一名犯罪分子運用AI合成公司老板的聲音,讓一家總部位于英國的能源公司上當受騙。偽造的詐騙電話成功讓公司下屬轉賬了22萬歐元(約合173萬人民幣)的巨款到了騙子賬戶。

一通電話騙得下屬跨國轉巨款

運用AI偽造聲音的詐騙,與我們在日常生活中遇到的“XX,明天來我辦公室一趟”假扮老板騙術是一個思路,而技術迷惑性卻強得多。

這家受騙的能源公司總部位于英國,它的母公司位于德國,子公司在英國。在事發當日,該公司的英國子公司負責人接到了來自德國母公司老板CEO電話。來電人的英語中略微帶點德國口音和腔調,與德國“老板”聲音一模一樣,就沒有起絲毫的疑心。

德國“老板”在電話里表示自己正在匈牙利談生意,但目前要從英國子公司走一筆賬,需要英國子公司將錢打給“匈牙利供應商”,后續會給予報銷。德國“老板”要求打款的時間緊迫,需要在一個小時內打款22萬歐元給指定賬戶。

而錢打過去之后,德國“老板”又打來電話。這次德國“老板”說剛才的22萬歐元的報銷款已經給英國子公司轉過去了,現在需要英國子公司再轉一筆錢。

這下英國子公司的人發現不對勁了。一來“老板”轉的錢沒有到賬,二來“老板”的電話怎么是從奧地利打過來的呢?

迅速報警之后,警方發現這22萬歐元已經打到匈牙利的一個賬戶中,而后被轉到了墨西哥,之后又轉走到其他地方,因此警察也無法追蹤騙子在哪。

AI語音仿造技術已經相當成熟

受騙公司遇到的關鍵問題是打電話的聲音太像母公司的CEO,讓老板的聲音說出特定的話語,用到的是AI語音的深度學習技術。

這一技術要實現卻不難,而且已經非常成熟。你在高德地圖里運用到的林志玲、易烊千璽等明星導航,就是他們聲音的建立語料庫訓練,運用AI語音合成的。在語音助理構建、游戲數字化角色設計、有聲讀物等都有它的身影。

如今已有多家AI公司推出了語音仿造AI技術。谷歌Deepmind公司在2016年就開發出“WaveNet”軟件,可利用其神經網絡系統對原始音頻波形進行建模,生成帶有強調性音節、抑揚頓挫和體現情緒的人類自然語言的音頻。

加拿大Lyrebird公司也開發出了一種深度學習算法,該公司已利用該技術仿造出特朗普、奧巴馬及克林頓等人的聲音進行演講,幾乎可以以假亂真。其公開beta測試版只需要利用長度為1分鐘的音頻素材,即可生成與用戶語音特征高度相似的數字語音輸出結果,使用門檻非常低。

奧巴馬的演講被加拿大Lyrebird公司成功偽造

此外,Adobe公司的 Project VoCo軟件可以識別出一段語音中的文字,之后針對語音中的文字進行編輯和修改,生成音色和音調與本人完全一樣的語音。這意味著,未來的音頻制造將如同在文檔當中復制、粘貼文本一樣輕松。你想用誰的聲音說什么話,完全是可以預先編輯制作的。

語音偽造技術在GitHub也上給出了開源的訓練模型,就像“AI換臉”一樣,將別人的聲音換成你的聲音,只要5秒鐘就能實現。

用AI“反套路”

“語音偽造”與“AI換臉”一樣易得易用,開始成為被壞人利用造假的工具,混淆視聽、詐騙犯罪,這引發的風險令人擔憂。

世界知名安全軟件ESET的網絡安全專家Jake Moore說:“我預測在不久的將來,利用AI的網絡犯罪將大幅增加。我們已經看到Deepfakes視頻在逼真地偽造名人和公眾人物,偽造聲音需要更少的錄音即可制作完整。隨著計算能力不斷提高,當這些技術將變得更容易制作,這將帶來一系列的網絡安全問題。”

AI 技術是一把雙刃劍,關鍵看掌握技術的人如何使用。處理語音和圖像技術的進步讓我們節省時間、帶來樂趣的同時,卻也讓作惡的人找到可乘之機。

如何制服AI造假和詐騙的泛濫,對抗它即將帶來的技術風險?運用AI“反套路”AI也許是一個可行的辦法。為防范各種各樣的 Deepfakes的出現,檢測由AI生成偽造文本的AI “探測器”也在不斷完善。這也是一種深度學習模型,可以甄別由AI偽造文本的漏洞和代碼特征,追蹤器傳播路徑和方式,從而發現造假內容。

目前,研究人員已經開始推進風險防御措施。為應對 AI 處理文本的威脅,麻省理工學院IBM Watson 實驗室與AI Harvard NLP已經推出了巨型語言測試室(GLTR),檢測由OpenAI模型生成的偽造文本。此外,IBM的Debater項目、深藍項目等有望提供新的工具來幫助打擊Deepfakes的欺詐活動。

阿里巴巴也啟動了反電話詐騙的AI系統。目前在實時保護用戶賬戶安全的基礎之上,結合公安反欺詐領域的協同破案的經驗,支付寶自主研發了AI“天蝎”系統。“天蝎”可以對平臺交易中可能存在涉及網絡犯罪的手法、行為進行研判,并將相關線索推送給公安,提升網絡犯罪的偵破效率。支付寶上也建立了“延遲到賬2.0”功能,當AI發現用戶遭遇疑似電信詐騙時,會主動向用戶推薦延遲到賬功能,給予用戶思考以及報警時間,挽回損失。

未來AI的“造假”與“反造假”之間的戰斗,也許正如細菌與抗生素、惡意軟件與反病毒平臺、黑客與白帽子之間的對抗,將迎來不斷地升級迭代。

責任編輯:

相關推薦

相關新聞

回到首頁 回到頂部

網站簡介 - 廣告服務 - 誠聘英才 - 聯系我們 - 法律聲明 - 友情鏈接

加拿大快乐8作假吗