來源：雷科技互聯網組 |?編輯：冬日果醬 | 排版：KIM

最近，包頭警方發布了一起利用AI實施電信詐騙的案例。4月20日，一家福州公司的老板郭先生突然收到「好友」的微信視頻聯系，這位「好友」聲稱在外地競標需要430萬保證金，而且需要公對公賬戶過賬，想要通過郭先生公司的賬戶走賬。

郭先生沒有太懷疑，一方面是他比較信任好友，在視頻聊天中也確認了對方的身份，再加上對方還將銀行轉賬底單的截圖發了過來，不到10分鐘就將430萬元轉到指定賬戶。結果等到電話聯系好友，郭先生這才發現：

自己被騙了。

你很難怪郭先生「不小心」。警方公布的細節里提到，騙子是直接盜用了郭先生好友的微信，通過智能AI換臉和擬聲技術「模擬」郭先生好友，再發起微信視頻聊天。而且從過程來看，騙子可能通過微信聊天記錄或者其他渠道，對郭先生好友乃至郭先生都有一定了解，否則也不會詐稱競標需要巨額保證金。

「好友微信，視頻聊天，這還能怎么防？」一位網友表達了自己的擔憂。而事件公布后，AI詐騙很快就引起了大量討論和分享，「AI詐騙正在全國爆發」的話題一度沖上了微博熱搜第一。

可以理解，過去很多電信詐騙事件中，很多騙子都會冒充親戚、同學或者朋友，通過一步一步的套話騙取受害者的信任。只要我們和家人朋友本人進行語音和視頻聯系，大部分騙局都會不攻自破。

但現在語音和視頻也不可信了，而且是越來越不可信。

聲音、圖片、視頻，AI加速生成一切

AI改變詐騙，已經是無可爭議的事實了。

除了郭先生的案件，稍早前外媒Gizmodo也報道過一起AI詐騙事件。一位英國能源公司的CEO，在不知情的情況下被騙子采集了聲音。隨后，騙子將獲取到的聲音素材進行了AI合成，再利用電話轉賬的漏洞，將22萬英鎊轉到自己的異國賬戶上。

按照這位CEO說法，他后來自己聽到這段AI合成語音時也驚訝了，因為這段語音不僅模仿出了他平時說話的語調，甚至還帶有一點他的口癖。

模仿一個人的聲音，對AI來說早就不是新鮮事。今年年初，微軟推出了語音模型VALL-E，甚至只需要3秒就能復制任何人的聲音，還可以保持語氣，就連環境背景都能模仿。

這項技術顯然還不能飛入「尋常百姓家」，但尋常人已經可以通過一些開源的語音合成技術，基于大量的聲音數據，也能合成真實無破綻的聲音。比如具備語音合成功能的工具Bark，除了聲色接近真人，還能加入背景噪音和高度擬真的笑聲、嘆息和哭泣聲等效果。

而在最近兩個月，「AI孫燕姿」 也在各大視頻平臺走紅，大量的AI創作者通過「AI孫燕姿」翻唱不同曲風的作品，也讓很多網友「重新認識了這些歌曲」，其中「AI孫燕姿」版本的《發如雪》僅在B站一個平臺的播放量就接近200萬。

圖/b站截圖

技術門檻的降低，也給了犯罪分子可乘之機。在郭先生的案件中，騙子盜用了其好友的微信，大量的聲音素材同樣唾手可得，也難怪郭先生從始至終都沒發現好友的聲音有問題。

當然，就視頻聊天而言，我們判斷真偽的核心還是「看臉」，畢竟我們在生病的時候聲音也會改變，手機的降噪也一直沒有被很好地解決。

同時人臉也更容易取得我們的信任。

然而AI換臉的技術其實已經非常成熟。新華社就曾報道，合成一個動態視頻的成本在2元-10元，針對大型直播平臺，支持實時換臉的全套模型購買價格為3.5萬元，并且可以做到很低的延遲和出錯率。

除了騙子用AI換臉技術偽裝成其他人，在直播帶貨中，最近也有很多主播用上了AI換臉，將自己的臉替換成更有知名度和流量的「明星」，本質上就是想利用「明星」名氣進行帶貨，也可以稱得上另一種詐騙。但更重要的是，這件事說明AI換臉的成本已經相當低下。

圖/中國新聞網

生成式AI的發展，不僅可以讓郭先生在視頻聊天中無法分辨好友的聲音和樣子，也能讓AI孫燕姿成為頂流，讓所有人在手機上一鍵AI換臉。

人們對AI的擔憂是應該的，就連孫燕姿本人在針對「AI孫燕姿」的聲明中也說，「你可能會反對，說我還是能分辨出區別的，它沒有情緒，沒有音調和呼吸（或任何你能想到的術語）的變化。很抱歉，我懷疑這只是一個非常短期內的回應。」

AI改變詐騙，普通人如何自處？

回到電信詐騙這件事上，原本騙子的手段就層出不窮，AI技術更讓詐騙變得防不勝防。除了監管機構的規范和引導，我們普通人雖然無法影響AI技術的進化速度，但面對AI詐騙，還是有一些事是我們可以做到的。

第一，保護好個人信息。

在郭先生的詐騙案中，好友微信被盜無疑是極為關鍵的因素。

今天微信早就成為了所有中國人最主要的聯系方式之一，在默認情況下都不會想到被盜，特別是互相之間熟悉的人，很容易就會被騙轉賬。不僅如此，微信上還存有大量的個人信息、語音、文件，可能還包括一些人像視頻和身份證，我們都要謹慎處理。

而在微信之外，我們也必須意識到，AI時代，個人隱私數據將變得越來越重要。

第二，核實好對方身份。

AI讓核實身份變得前所未有地困難，畢竟從聲音到人臉全都能合成，而且技術還在不斷地迭代優化。雖然親自碰面可以避免AI詐騙，但顯然這不現實，我們和家人、朋友、同事大量的互動都遷移到了互聯網上，也包括數不清的交易。

我們只能學著適應，特別是大金額的轉賬，不能只靠對方的臉和聲音，要在不同渠道進行確認，比如電話和微信。如果可以，最好還要多問一些問題，最好只有雙方知道。

第三，及時撥打110報警。

電信詐騙的花樣一直層出不窮，很多人都自信地認為自己不會被騙，然而現實告訴我們，所有人都有被騙的可能。而在發現被騙后，我們仍然還有機會挽回損失，郭先生雖然被騙了430萬，但因為及時報警還是攔截回來了300多萬。畢竟，警察才是最了解電信詐騙的。

不過坦率地講，落到實際，AI詐騙對于我們普通人還是太難了，尤其是核實身份的關鍵一步，隨著AI迭代只會越來越難。

好消息是，監管層面也在跟進，伴隨著AI的爆發，全球各國都在重視AI安全和監管方面的問題，國家網信辦此前發布的《生成式人工智能服務管理辦法（征求意見稿）》，也強調了數據資源、生成內容、用戶信息等多方面的安全可信。