人工智慧（AI）示意圖(圖片來源:Adobe stock)
【看中国2023年6月12日讯】中(共)國在人工智慧（AI）監管上，快速出臺了多項政策，可是使用AI深度偽造技術「換聲」和「換臉」的詐騙事件，卻在中國反而愈加多發。據外界分析認為，北京對深度偽造技術之監管重點，其實在於政治維穩，而並不是欺詐等民生安全問題方面。
4月，中國「福州新聞網」曾經報導，福州有一家科技公司的老闆，遭到騙子使用AI「換臉」技術來冒充其朋友而被騙去430萬元，幸虧能夠及時發現通知銀行，才攔截下336.84萬元。
這篇報導引發國際專家的關注。「美國之音」援引專家的話報導，深度偽造詐騙在世界各地都有，不過中國的深偽視頻詐騙，似乎技高一籌。
亞利桑那州立大學的計算機學院教授蘇巴勞．卡姆巴哈帕蒂(Subbarao Kambhampati)表示，在美國的電話詐騙主要通過了克隆語音，而中國的騙子顯然已從語音克隆轉向了視頻通話，這讓他感到相當驚訝。
卡姆巴哈帕蒂稱：「單獨用音頻來騙人是很容易的，可是若音頻加上視頻，那麼就更難一些。一般而言，處理視頻時要困難得多，當我們看AI視頻中的人臉時，會下意識地通過了他們的面部表情，就能夠觀察他們與我們通常看到的不完全一樣之處。但中國顯然能夠做到。」
此種融合視覺、聽覺和觸覺等多感官、模擬出計算機虛構場景之模型構造，可說是當前人工智慧發展的一個重要發展領域，其被稱為「多模態」(multimodality)AI。專家指出，AI詐騙的形態未來將更能夠以假亂真。
5月，根據SumSub公司所發布的統計，其與去年同期相比較，在2023年的第一季度深度偽造詐騙數量，佔全部詐騙數量的比例，在美國已經從0.2%上升至2.6%；在加拿大從0.1%上升至4.6%；而在英國、德國與義大利等歐洲國家，「深偽」詐騙於全部詐騙所佔比例皆超過了5%。
6月4日，根據《華爾街日報》報導，最近幾週中國各地政府已經開始紛紛打擊人工智慧聊天機器人所產生之虛假信息，有許多虛假信息通過編造之前引起輿論熱議的社會安全事件，來賺取點擊量。
有分析認為，北京AI法規的執行將主要精力放於對AI內容之政治審查，以維穩為優先，而打擊欺詐被放在次要的位置。
中國新實施的對於「深度合成」之管理規定，首先規定是禁止所謂的「危害國家安全與利益、損害國家的形象」等相關活動。
在5月份，「AI詐騙正在全國爆發」之話題標籤，曾經在中國大陸微博衝上熱搜，可是不久後搜索此話題，結果卻顯示出：「根據相關法律及法規與政策，搜索結果未予顯示」。由此這說明，這一話題已經被中國當局審查壓制了。
新美國安全中心(Center for aNew American Security)技術和國家安全的副研究員比爾．德雷克塞爾(Bill Drexel)表示，北京當局不讓公眾討論AI詐騙，這已經說明中共政府的AI監管與執法動機是扭曲的。
德雷克塞爾認為，與詐騙相比較，中共應對政治威脅的動力更強。它們總體上可能會在此方向上分配更多之資源。因此從這件事中能夠看到，一旦中國公眾擔憂人工智慧欺詐行為，北京政府就會開始進行審查壓制。這一事實表明，他們最終所關心的是在政治上掩護自己，而並非解決欺詐問題。
