今年9月1日，《人工智能生成合成內(nèi)容標識辦法》正式實施，從國家層面明確規(guī)定：所有AI生成的文字、圖片、音頻、視頻必須顯式標識“AI生成”，并在文件元數(shù)據(jù)中嵌入隱式標識，任何人不得惡意刪除或篡改。平臺、AI服務商和使用者各負其責，違規(guī)者將面臨行政、民事甚至刑事處罰。近期，女臺球運動員王思諾遭遇AI偽造淫穢視頻，奧運冠軍全紅嬋的聲音被AI仿冒賣土雞蛋，配音演員的聲音被克隆進低俗廣告。記者邀請上海錦天城（福州）律師事務所律師蔡思斌，對這幾起事件背后的相關法律問題進行解析，簡要解讀AI新規(guī)定。

事件一：AI造黃謠侵權

8月30日，女臺球運動員王思諾發(fā)布視頻，稱有人用AI合成技術偽造其淫穢視頻并傳播。她已請律師保全證據(jù)，并確認警方已經(jīng)立案偵查。同日，女裁判王鐘瑤發(fā)聲聲援，透露自己幾年前也被偽造過淫穢視頻，當時選擇報警但沒有公開曝光。王鐘瑤呼吁更多受害者勇敢維權：“沉默是對犯罪的縱容。”

問題①：利用AI惡意造黃謠的行為觸犯哪些法律？

律師解答

蔡思斌律師：利用AI技術惡意制作、傳播涉他人的淫穢虛假信息，已涉嫌違反多領域法律規(guī)定，需承擔民事、行政乃至刑事責任。

民事責任方面，偽造淫穢視頻侵犯受害者的肖像權和名譽權。根據(jù)《中華人民共和國民法典》第一千零一十九條規(guī)定，任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。未經(jīng)肖像權人同意，不得制作、使用、公開肖像權人的肖像。同時，該法第一千零二十四條規(guī)定，民事主體享有名譽權。任何組織或者個人不得以侮辱、誹謗等方式侵害他人的名譽權。受害者可要求制作者、傳播者及平臺方，立即刪除侵權內(nèi)容、賠禮道歉、賠償損失。

刑事責任方面，若AI造黃謠行為達到“情節(jié)嚴重”標準，將面臨刑事處罰。若制作者捏造并大規(guī)模傳播虛假淫穢內(nèi)容，已符合《中華人民共和國刑法》第二百四十六條的侮辱罪、誹謗罪要件；若傳播淫穢物品，還觸及《中華人民共和國刑法》第三百六十四條的傳播淫穢物品罪，可判處三年以下有期徒刑、拘役或管制，并處罰金。此外，《生成式人工智能服務管理暫行辦法》要求AI生成內(nèi)容必須顯式與隱式標識，警方可快速鎖定生成工具與賬號，違法者再也無法借“AI無痕”逃避追責。

行政責任方面，若尚不足以追究刑事責任，公安機關也可依據(jù)《中華人民共和國治安管理處罰法》給予相應的行政處罰。針對利用AI制作淫穢視頻并傳播的行為，《中華人民共和國治安管理處罰法》第六十八條規(guī)定，制作、運輸、復制、出售、出租淫穢的書刊、圖片、影片、音像制品等淫穢物品或者利用計算機信息網(wǎng)絡、電話以及其他通訊工具傳播淫穢信息的，處十日以上十五日以下拘留，可以并處三千元以下罰款；情節(jié)較輕的，處五日以下拘留或者五百元以下罰款；針對利用AI造黃謠以侮辱或者誹謗他人的行為，《中華人民共和國治安管理處罰法》第四十二條規(guī)定，公然侮辱他人或者捏造事實誹謗他人的，處五日以下拘留或者五百元以下罰款；情節(jié)較重的，處五日以上十日以下拘留，可以并處五百元以下罰款。

問題②：AI淫穢視頻在網(wǎng)絡平臺被傳播，平臺方需承擔哪些法律責任和義務？

律師解答

蔡思斌律師：當AI生成的淫穢視頻在網(wǎng)絡平臺傳播時，平臺并非“中立第三方”，需履行法定監(jiān)管義務。

根據(jù)《中華人民共和國民法典》第一千一百九十七條規(guī)定，網(wǎng)絡服務提供者知道或者應當知道網(wǎng)絡用戶利用其網(wǎng)絡服務侵害他人民事權益，未采取必要措施的，與該網(wǎng)絡用戶承擔連帶責任。如果平臺對違法內(nèi)容存在放任甚至參與其中的情形，可能被認定為共同侵權甚至共同犯罪。

同時，《中華人民共和國網(wǎng)絡安全法》《中華人民共和國個人信息保護法》《網(wǎng)絡信息內(nèi)容生態(tài)治理規(guī)定》《人工智能生成合成內(nèi)容標識辦法》等法律法規(guī)均要求平臺履行內(nèi)容審核、算法管理和用戶投訴處理義務，否則可能面臨行政處罰，嚴重的甚至會被責令停業(yè)整頓。因此平臺在此類案件中并非“中立者”，而是必須主動履行監(jiān)管職責。

平臺審核應注意：

1. 嚴格核驗直播間運營商及主播的身份信息，以AI生成名人聲音及形象直播的，應與直播間運營商及主播確認核實是否有相應授權，并建立動態(tài)核驗機制。

2. 利用技術手段，迅速發(fā)現(xiàn)AI生成內(nèi)容，并鎖定、確認假冒、違法違規(guī)直播內(nèi)容。

3. 嚴格落實《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》和《人工智能生成合成內(nèi)容標識辦法》要求，對使用AI生成直播的內(nèi)容添加相應標識，讓消費者知悉。

4. 不斷完善平臺直播信息內(nèi)容監(jiān)管、實時巡查、應急處置等機制，在發(fā)現(xiàn)AI生成直播內(nèi)容違法違規(guī)時，應當依法立即采取處置措施，及時下架侵權視頻。

5. 應完善侵權舉報機制，及時處理遭受AI生成內(nèi)容造假侵權的投訴，對侵權賬號采取封號、禁言等嚴厲措施，并向受害人反饋處理結(jié)果。

問題③：轉(zhuǎn)發(fā)AI偽造的淫穢視頻，違法嗎？

律師解答

蔡思斌律師：哪怕只是轉(zhuǎn)發(fā)，也可能構成侵權甚至違法。因為此類偽造視頻本身侵犯了受害者的人格尊嚴與名譽權，一旦傳播，無論出于獵奇、轉(zhuǎn)發(fā)八卦還是評論跟風，都會進一步擴大對受害者的傷害，客觀上造成了“二次侵權”。

根據(jù)《中華人民共和國民法典》第一千零二十七條明確規(guī)定，未經(jīng)同意，不得以侮辱、誹謗等方式損害他人的名譽。轉(zhuǎn)發(fā)淫穢偽造視頻，就屬于對不實信息的散布，已經(jīng)損害了當事人的名譽和人格尊嚴，應當承擔相應的民事責任。

如果轉(zhuǎn)發(fā)行為涉及淫穢物品的傳播，還可能觸犯傳播淫穢物品罪，即便沒有直接營利，只要客觀上起到了傳播作用，法律也會追究責任。

同時，根據(jù)《人工智能生成合成內(nèi)容標識辦法》第八條規(guī)定，任何單位和個人不得惡意刪除、篡改、隱匿AI內(nèi)容標識，否則視為違法。轉(zhuǎn)發(fā)未標識的偽造視頻，還可能違反這一強制性規(guī)定。

因此，公眾面對這類視頻時，正確的做法是：不下載、不保存、不轉(zhuǎn)發(fā)，立即舉報平臺或向警方報案。否則，不僅會對受害者造成傷害，更可能陷入“從圍觀者變?yōu)檫`法者”的困境，成為侵權鏈條的“幫兇”。

事件二：AI克隆聲音牟利

近期，短視頻平臺上出現(xiàn)大量冒用奧運冠軍全紅嬋聲音的AI視頻，內(nèi)容大多是推銷土雞蛋。其中一條視頻點贊量超過1.1萬，評論區(qū)不少粉絲誤以為是本人代言，帶貨商品銷量甚至超過4.7萬件。類似現(xiàn)象并非個案，孫穎莎、王楚欽等知名運動員同樣被冒名直播牟利，不少職業(yè)配音演員的聲音也被克隆，用于廣告、小說音頻甚至低俗內(nèi)容。

這種“拿原聲樣本進行建模，并批量生成、商用變現(xiàn)”的黑色產(chǎn)業(yè)鏈，讓明星名譽受損，消費者被誤導，配音從業(yè)者更是直接遭遇經(jīng)濟損失。今年4月，北京互聯(lián)網(wǎng)法院就“全國首例AI聲音人格權侵權案”作出判決，明確認定：聲音具備可識別性時受到法律保護，未經(jīng)許可的商用使用構成侵權，應承擔停止侵害、公開道歉、賠償損失等責任。

問題①：被AI克隆的聲音誤導買了雞蛋，算詐騙嗎？

律師解答

蔡思斌律師：從法律上看，如果視頻制作者故意偽造全紅嬋聲音，使消費者誤以為是全紅嬋本人代言，從而購買產(chǎn)品，這種行為符合《中華人民共和國刑法》第二百六十六條詐騙罪的構成要件，即“以非法占有為目的，采用虛構事實或者隱瞞真相的方法，騙取公私財物”。若涉案金額達到較高標準，即有可能構成刑事詐騙。

即便未達到刑事立案標準，該行為仍需承擔民事責任。根據(jù)《中華人民共和國民法典》第一千一百八十條規(guī)定，一方以欺詐手段，使對方在違背真實意思的情況下實施的民事法律行為，受欺詐方有權請求人民法院或者仲裁機構予以撤銷。消費者有權主張退貨退款，并要求經(jīng)營者賠償損失。

同時，根據(jù)《中華人民共和國消費者權益保護法》第八條規(guī)定，消費者享有“知悉真實情況的權利”，第九條規(guī)定享有“自主選擇權”。被AI冒充聲音欺騙性營銷，顯然侵犯了消費者的知情權與選擇權。消費者可以憑購物記錄、涉案視頻截圖、評論區(qū)混淆留言等證據(jù)，向市場監(jiān)管部門舉報，要求商家承擔行政責任；也可向法院提起民事訴訟，要求退一賠三或退一賠十。

問題②：什么叫“聲音的可識別性”？

律師解答

蔡思斌律師：在AI技術可輕松克隆聲音的背景下，“聲音的可識別性”成為判斷是否侵犯他人聲音權的核心標準，其本質(zhì)是“聲音與特定自然人的穩(wěn)定對應關系”。

如果一般公眾或特定領域公眾，單憑音色、語調(diào)、發(fā)音習慣，就能聯(lián)想到某個自然人，即認定該聲音具備“可識別性”。換句話說，“聽聲就能想到是誰”，即具備了可識別性。例如全紅嬋等運動員接受采訪時的語調(diào)、特定運動員獲勝后的標志性發(fā)言語氣，或是某知名主持人獨特的播報語速，都因具備穩(wěn)定且易辨識的特征，滿足“可識別性”要求。

在司法實踐中，證明路徑主要有以下幾類：一是通過專業(yè)鑒定機構進行波形、聲紋對比，從科學層面佐證“聲音來源于特定自然人”；二是收集公眾識別度證據(jù)，例如社交媒體評論區(qū)中粉絲留言“這明顯是XX的聲音”“一聽就知道是XX”；三是提供交易轉(zhuǎn)化數(shù)據(jù)，如商品銷量因冒用聲音顯著上升、品牌搜索量激增；四是相關調(diào)查或行業(yè)公認度材料。這些證據(jù)結(jié)合在一起，就能證明某一特定聲音與特定人物存在穩(wěn)定的對應關系。

根據(jù)《中華人民共和國民法典》第一千零二十四條至第一千零二十七條關于人格權的規(guī)定，聲音屬于受保護的人格權益之一。具備可識別性的聲音屬于受法律保護的人格權益，其保護邏輯與肖像權一致。若未經(jīng)允許擅自克隆并商用，便構成對聲音人格權的侵犯，應承擔停止侵害、賠償損失、恢復名譽等法律責任。

問題③：簽了配音合同，對方能“順帶”把聲音拿去做AI模型嗎？

律師解答

蔡思斌律師：在配音合作中，即便雙方簽署了配音合同，對方也無權“順帶”將配音演員的聲音用于訓練AI模型。錄音制品許可與聲音權益許可是兩個完全不同的概念。即便配音演員與公司簽署了錄音合同，只是允許錄音制品被使用或發(fā)行，并不意味著放棄了對聲音人格權的控制權。

用聲音訓練AI模型，本質(zhì)是將配音演員的聲音特征轉(zhuǎn)化為數(shù)據(jù)，生成可無限復制、靈活調(diào)用的“AI聲音克隆模型”，屬于對“聲音本體權益”的占用，而非對“特定配音成果”的使用——這種行為直接觸及民法典保護的“聲音權”，必須經(jīng)權利人明確同意。若合同沒有明確授權“AI建模/合成/商用”，公司擅自用錄音去訓練AI模型并進行商業(yè)開發(fā)，就屬于超范圍使用，構成對配音演員人格權和財產(chǎn)權的雙重侵害。配音演員完全可以要求停止侵害、消除影響、賠禮道歉，并主張賠償損失。

若合同條款存在模糊表述，或包含“可將聲音用于一切與合作相關的開發(fā)”等霸王條款，配音演員可根據(jù)《中華人民共和國民法典》第四百九十六條主張條款無效。

《人工智能生成合成內(nèi)容標識辦法》新規(guī)要點

一、標識樣式

◆顯式標識：在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)，并可以被用戶明顯感知到的標識。例如“本文由AI生成”“視頻含合成畫面”。

◆隱式標識：采取技術措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標識。例如在文件元數(shù)據(jù)中寫入不可見信息，如是否AI生成、生成主體、唯一編號等；鼓勵疊加數(shù)字水印以利溯源。

二、不同模態(tài)的標識方式

◆文本：在開頭/結(jié)尾/中間適當位置標注“AI生成/合成”或統(tǒng)一角標。

◆圖片：在邊或角標注“AI生成/合成”，文字高度不低于畫面最短邊的5%，字體清晰可辨。

◆音頻：在開頭/結(jié)尾/中間加語音說明或節(jié)奏標識；節(jié)奏標識采用摩斯碼“AI”，即“短-長-短-短”。

◆視頻：在視頻起始畫面和視頻播放周邊的適當位置持續(xù)顯示顯著標識（至少2秒）。

◆H5交互界面：在內(nèi)容附近或界面頂部/底部等位置持續(xù)提示。

三、責任主體

◆AI工具提供方（服務提供者）：應保證生成內(nèi)容默認帶標識；完善協(xié)議、保留日志；僅在專業(yè)必要場景可提供“無顯式標識”內(nèi)容，但需留存用戶信息與記錄。

◆使用者（發(fā)布者）：應主動標注；即使僅有10%內(nèi)容由AI生成，也應聲明；不得刪除或篡改隱式標識。

◆平臺（傳播者）：應核驗標識、對未標識/疑似內(nèi)容加注風險提示并限制擴散；對違法信息迅速處置，并配合溯源。

四、違規(guī)后果

任何組織和個人不得惡意刪除、篡改、偽造、隱匿辦法規(guī)定的生成合成內(nèi)容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權益，否則依法追究行政、民事、刑事責任；平臺未履責的，依法處罰并責令整改。

普法后記 

新規(guī)的出臺，正是對現(xiàn)實亂象的回應。這意味著AI技術從此必須“實名作業(yè)”，違法濫用行為將更易被發(fā)現(xiàn)和追責。AI的惡意濫用讓受害者名譽受損、消費者被騙，社會秩序也受到?jīng)_擊。正因如此，新規(guī)被寄予厚望：它不僅是“堵漏洞”的規(guī)定，更是“撐腰桿”的法律，為公眾維權和社會治理提供堅實支撐。