嚴打AI假冒公眾人物詐騙　「清朗」行動劍指14類突出問題

（大公報 記者 趙一存 北京報道）為規範AI服務應用、淨化網絡生態、保障公眾文化權益與青少年健康成長，中央網信辦4月30日通報，近日啟動為期4個月的「清朗·整治AI應用亂象」專項行動，分兩個階段重點整治未經授權的AI「換臉擬聲」服務、製作發布虛假信息、假冒仿冒公眾人物等突出問題，強化AI技術源頭治理、清理違法不良信息，依法處置處罰違規賬號、MCN機構和網站平台。

專項行動旨在規範AI應用服務，維護網絡空間秩序，切實保障公民合法權益。據悉，對於未經授權「換臉擬聲」的侵權重災區，中央網信辦已起草《數字虛擬人信息服務管理辦法（徵求意見稿）》，擬對使用自然人信息進行建模等活動進行規範。

中央網信辦有關負責人表示，本次專項行動第一階段重點整治7類突出問題，包括未按規定履行大模型備案登記義務、安全審核能力不足、大模型訓練語料安全、AI數據投毒、生成合成內容標識落實不到位等問題，強化AI技術源頭治理。其中，借助AI技術實施網絡攻擊，以及未經他人授權利用AI技術提供「換臉擬聲」服務，或盜用他人形象，通過數字虛擬人技術進行直播、提供專業服務，均屬於濫用AI技術開展違法違規活動。

重點整治AI假冒公眾人物詐騙牟利

專項行動的第二階段劍指AI生成的信息內容亂象，包括利用AI「魔改」經典、生成邏輯混亂、價值空洞的「數字泔水」；製作發布涉及時事政治、社會民生等領域的虛假不實信息等。其中特別提到，利用AI「換臉」「換聲」假冒仿冒公眾人物發布不實言論，欺騙網民，甚至營銷牟利，或生成合成含有攻擊、抹黑、貶損他人的信息，未經授權生成合成與公眾人物的合影、親密照等圖片、視頻將被重點整治。

廣電行業組織：保護演員肖像權聲音權

值得關注的是，隨着AI技術門檻降低，未經授權的「換臉擬聲」已成為侵權重災區。一些平台僅需上傳3秒原聲，幾分鐘內即可克隆音色並任意改詞，而二手交易平台上的聲音克隆服務，每50字收費不足1元（人民幣，下同）。技術濫用已引發多起惡性詐騙案件。此前，有詐騙團夥利用AI換臉和語音合成技術，冒充演員靳東與粉絲「網戀」，誘導其轉賬「投資」。江西一位黃阿姨差點為此貸款200萬元，所幸銀行工作人員及時發現異常並報警，犯罪團夥最終落網。

為應對亂象，中國廣播電視社會組織聯合會演員委員會已於4月初發布嚴正聲明，強調演員的肖像權、聲音權受法律嚴格保護，未經書面授權，嚴禁任何主體使用AI技術合成、傳播相關影像聲紋。即便標註「非商用」「個人二創」，只要可關聯到特定演員，均不構成免責。中央網信辦也已起草《數字虛擬人信息服務管理辦法（徵求意見稿）》，擬對使用自然人信息進行建模等活動進行規範。有專家認為，此次「清朗」專項行動的開展，標誌着對AI應用亂象的治理已進入全面落地執行階段。

階段性整治重點

第一階段整治7類突出問題

•未按規定履行大模型備案登記義務

未向網信部門履行備案登記程序，存在「應備未備」情形。

•AI平台安全和審核過濾能力不足

模型底層安全能力缺失，缺乏安全圍欄機制，生成違法不良信息。

•大模型訓練語料安全問題

訓練語料審核把關不嚴，模型訓練數據存在違法不良信息。

•AI數據投毒問題

通過篡改訓練語料、偽造權威數據等方式實施AI數據投毒。

•生成合成內容標識落實不到位

未對生成合成內容添加標識或標識大小、位置、透明度等不規範。

•濫用AI技術開展違法違規活動

用AI技術實施網絡攻擊行為，未經他人授權用AI技術提供「換臉擬聲」服務

•開源模型安全管理不到位

第二階段整治7類突出問題

•利用AI「魔改」經典、生成「數字泔水」

•製作發布虛假不實信息

•假冒仿冒他人

•製作發布暴力低俗等不良信息

•侵害未成年人權益

•利用AI「託管」從事網絡水軍活動

•AI產品服務和應用程序違規

專家解讀｜規範與發展並行　引導AI向善

人工智能技術在提升效率的同時，也衍生出「換臉擬聲」侵權、虛假信息傳播等亂象。華北電力大學居庸關能源安全與智能技術重點實驗室主任鄔玉良對《大公報》表示，此次專項行動彰顯了國家推動AI在法治與倫理框架內良性發展的堅定決心。

鄔玉良認為，導引AI向善，首要在於築牢技術源頭防線。此次專項行動分階段推進，第一階段聚焦AI技術源頭治理，從根源上遏制技術濫用風險，確保AI技術發展的合規性與安全性，避免技術創新偏離造福民眾的核心導向。

「AI向善的核心在於堅守法律與倫理底線，守護民眾合法權益。」鄔玉良強調，專項行動第二階段聚焦AI信息內容亂象，嚴厲整治利用AI製作虛假信息、侵害未成年人權益等突出問題，全力清理違法不良內容。整治舉措精準回應了民眾對安全、健康AI環境的需求。

他強調，規範與發展並行，是導引AI向善的關鍵路徑。此次整治並非限制AI創新，而是通過明確行業紅線、完善治理機制，引導AI技術朝着造福民眾的方向發展，真正實現技術向善、造福民眾的目標。

（來源：大公報A10：內地 2026/05/01）