AI語音以假亂真　電話詐騙更猖獗

大公報綜合法新社、CNN報道：人工智能技術不斷更新，網絡詐騙案的手段也花樣百出。美國有騙徒使用網絡上幾可亂真的人工智能（AI）語音克隆工具，假冒受害者親朋好友騙錢。根據聯邦貿易委員會的數據，去年，美國人在冒名頂替詐騙中損失26億美元（約202.8億港元）。專家表示，AI對人類最大的威脅，是模糊了真實和虛構的界線，讓詐騙犯利用廉價又有效的AI技術來散播假信息。

AI普及後，電信詐騙犯只需要在網上下載一個免費AI軟件，再利用某人幾秒鐘的聲音樣本，就能創造新的對白。總部位於美國的McAfee Labs上個月發布報告，在一項針對美國等九個國家共7000人的全球調查中，四分之一的人表示，他們自己或身邊的人經歷過AI語音克隆騙局。70%的受訪者表示，他們不確定自己能否「分辨出克隆聲音和真實聲音之間的區別」。

Blackbird.AI行政總裁哈立德表示：「AI語音克隆現在與真實人聲幾乎無法區分，這讓騙徒能夠更有效地從受害者那裏獲取信息和資金。」哈立德說，通過一個簡短的音頻樣本，AI可以生成語音文本、郵件，甚至可以製作實時語音轉換器，詐騙者可以使用不同的口音、性別，模仿受害者親屬的說話方式，創造出令人深信不疑的假音頻。

美國聯邦調查局（FBI）特工約翰遜表示，美國家庭平均在每次虛假綁架騙局中損失11000美元（約8.58萬港元）。根據聯邦貿易委員會的數據，去年，美國人在冒名頂替詐騙中損失26億美元（約202.8億港元）。

哭泣聲與女兒一模一樣

1月20日下午，住在亞利桑那州的母親德斯特凡諾接到一通陌生來電，德斯特凡諾本想掛斷，但一想到15歲的大女兒布麗安娜正在進行滑雪比賽訓練，德斯特凡諾不由擔心女兒是否出了意外，她接起電話，電話那頭傳來尖叫和哭泣聲，「媽媽！幫幫我！」德斯特凡諾後來接受採訪時回憶，她當時十分確信電話那頭是女兒的聲音，女孩連哭泣的音調都與布麗安娜一模一樣，「我沒有一秒懷疑。」

電話那頭很快傳來詐騙者的聲音，對方聲稱綁架了布麗安娜，要求德斯特凡諾支付100萬美元贖金。德斯特凡諾手足無措，試圖說服對方降低贖金金額，並讓一旁的小女兒打給與布麗安娜一起前往滑雪場的父親，但父女兩人一直杳無音信。好在旁邊的路人幫忙打電話報警，警方獲悉後判斷德斯特凡諾遭遇詐騙，布麗安娜也在數分鐘後打電話向母親報平安，這才讓德斯特凡諾免於錢財損失。

幾秒聲音樣本即可克隆

美國聯邦官員表示，諸如此類的冒名頂替騙局已經存在多年，騙徒青睞聯繫受害者的祖父母等親人，謊稱他們的孩子出事，藉此詐騙錢財，綁架者通常會使用通用的尖叫錄音。但官員警告說，AI普及後，此類騙案正變得越來越難識破，因騙徒能夠輕而易舉克隆聲音，並創造「對白」。

加州大學伯克萊分校計算機科學教授法里德表示，AI在詐騙者手中被武器化，「一段不到一分鐘的音頻，就能創建一個相當完整的克隆語音，有些人甚至說只需幾秒鐘就足夠了。」法里德補充說，在AI軟件的幫助下，每月只需5美元就能輕鬆實現語音克隆。不過，法里德指出，據他所知當前版本的AI軟件無法通過克隆聲音來表達各種情緒，但不能完全排除已經出現更先進的技術。

今年早些時候，AI創業公司ElevenLabs承認，其語音克隆工具可能被濫用於「惡意目的」。此前，有用戶利用該公司的軟件發布了一段演員艾瑪華森閱讀希特勒自傳《我的奮鬥》的深度偽造音頻。

風險投資公司Team8技術總監霍赫伯格說，人們很快無法再相信網絡上所見的一切，需要有新的技術來幫助確認網絡對面的到底是不是自己認識的人。

亞馬遜用人工智能攔截虛假評論

據BBC報道：電商巨頭亞馬遜（Amazon）表示，該公司正在使用最新的人工智能（AI）技術，識別並打擊虛假評論。

亞馬遜長年受到虛假評論困擾，評論者使用第三方平台購買、銷售和發表虛假評論。亞馬遜報告稱，2022年有超過2.3萬個社交媒體團體，它們擁有超過4600萬名成員和追隨者，製造了大量虛假評論。

虛假評論會影響顧客的消費決定，有人會付錢發表好評以提高賣家的評分，或抹黑競爭對手的公司。消費者組織「Which？」表示，在英國，約七分之一的在線評論是虛假的，該組織表示，虛假評論使消費者選擇劣質產品的可能性增加了一倍以上。

亞馬遜客戶信任團隊負責人梅塔近日表示，亞馬遜通過AI來搜尋可疑賬戶、追蹤留下評論的買家賬戶與賣家賬戶之間的關係、賬戶的評論歷史等，識別異常行為。梅塔說，通過將先進AI與審查手段相結合，亞馬遜可以在客戶看到虛假評論前予以攔截。

亞馬遜表示，AI去年已經幫助屏蔽了超過2億條可疑的虛假評論，並將「繼續構建保護客戶的複雜工具」，亞馬遜呼籲私營部門、消費者團體和政府之間進行更多合作，以使該戰略更加有效。亞馬遜最近對NiceRebate.com的運營商採取了法律行動，該網站是一家專門針對英國客戶的虛假評論中介。

（來源：大公報A24：國際 2023/06/14）