隨著現(xiàn)代人工智能技術(shù)的發(fā)展，尤其是深度學(xué)習(xí)的爆發(fā)式發(fā)展，深度合成技術(shù)迅速興起。所謂深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)。有了這個技術(shù)，“眼見”不一定“為實”，“有圖”不一定“有真相”。深度合成技術(shù)是一把“雙刃劍”。一方面，深度合成技術(shù)對社會具有正面影響，可以被運用于電影、游戲、廣告與教育中，讓受眾的體驗更豐富，讓教學(xué)更具互動性和趣味性。另一方面，由于其“以假亂真”的特征，深度合成技術(shù)不可避免地會帶來安全風(fēng)險，可能侵犯公民權(quán)利、危害公共安全。

目前，各國已經(jīng)意識到了深度合成技術(shù)對社會可能帶來的潛在危害，對技術(shù)進行適當(dāng)?shù)姆梢?guī)制已經(jīng)成為各個國家的共識。在我國，中共中央印發(fā)的《法治社會建設(shè)實施綱要（2020－2025年）》明確提出，要“制定完善對網(wǎng)絡(luò)直播、自媒體、知識社區(qū)問答等新媒體業(yè)態(tài)和算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”。2020年，《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》要求網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者和網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者、網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺不得利用深度學(xué)習(xí)、虛擬現(xiàn)實等新技術(shù)新應(yīng)用從事法律、行政法規(guī)禁止的活動。2021年開始實施的民法典人格權(quán)編中規(guī)定，不論是否出于營利目的，均不得利用信息技術(shù)手段偽造他人肖像、聲音。2022年，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》明確要求不得生成合成虛假新聞信息。今年1月10日，我國針對深度合成服務(wù)治理的專門性部門規(guī)章——《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》）正式施行，為互聯(lián)網(wǎng)信息服務(wù)深度合成的規(guī)范發(fā)展提供了基本遵循和法律依據(jù)。但是該《規(guī)定》的法律位階較低，規(guī)范力度及規(guī)范范圍有限，作為行業(yè)監(jiān)管和司法判決的依據(jù)力度尚存不足。因此，有必要在順應(yīng)深度合成技術(shù)快速發(fā)展態(tài)勢、梳理不斷涌現(xiàn)的新問題的基礎(chǔ)上，將現(xiàn)有的規(guī)范進一步整合升級，不斷扎牢規(guī)制深度合成技術(shù)的法制籠子。在這個過程中，應(yīng)特別重視以下問題。

充分認識深度合成可能帶來的破壞性影響。深度合成背后的支撐技術(shù)是深度學(xué)習(xí)。用于深度學(xué)習(xí)算法的真實數(shù)據(jù)或模擬數(shù)據(jù)越多，合成的深度、合成產(chǎn)品的逼真程度就越高。深度合成產(chǎn)品基本上是由算法自動生成，制作成本和門檻較低，但是其可能帶來的破壞性很大。一方面，深度合成技術(shù)提供了新型侵權(quán)手段，可能損害公民的合法權(quán)益。深度合成技術(shù)和相關(guān)APP極大降低了偽造音視頻和文本的成本，可能成為不法分子實施網(wǎng)絡(luò)犯罪的新工具。如行為人以非法占有為目的，通過深度合成技術(shù)制作的虛假音視頻冒充被害人的親友同事等實施詐騙或者勒索，普通公民很難辨別音視頻的真實性，極易上當(dāng)受騙，造成財產(chǎn)損失。另一方面，深度合成技術(shù)制造的虛假信息可能威脅社會安定。例如，在互聯(lián)網(wǎng)平臺借助深度合成技術(shù)捏造虛假新聞、炮制謠言等行為，將大大增加網(wǎng)絡(luò)內(nèi)容監(jiān)管的復(fù)雜性，也可能帶來社會信任危機與安全風(fēng)險。

不同類型的深度合成適用不同的規(guī)制手段?！兑?guī)定》作為我國第一部規(guī)制深度合成的專門立法，其中第23條對深度合成技術(shù)進行了定義，對使用該技術(shù)的情況作了列舉，但規(guī)制手段仍然比較單一。事實上，文本偽造與視頻、聲音偽造存在明顯不同，應(yīng)該區(qū)別對待：首先，深度合成視頻、聲音需要大量的訓(xùn)練數(shù)據(jù)以及專業(yè)人員和高成本設(shè)備，而文本偽造的生成成本較低，而且視頻與聲音內(nèi)容可以根據(jù)網(wǎng)絡(luò)痕跡、生物活性檢測和視頻圖片幀內(nèi)特征等鑒別真假，但文本內(nèi)容相對而言更不易被檢測或識破。其次，在侵犯個人隱私與知識產(chǎn)權(quán)方面，根據(jù)視頻與聲音內(nèi)容可以具體確定被害人，而文本偽造可以“含沙射影”，因此難以確定具體的被害人；對視頻與聲音內(nèi)容，通過比對可以較容易地發(fā)現(xiàn)侵犯知識產(chǎn)權(quán)的內(nèi)容，而文本偽造更難檢測。最后，就影響力而言，文本在網(wǎng)絡(luò)內(nèi)容上的占比以及網(wǎng)民閱讀內(nèi)容中的占比明顯高于視頻與聲音。因此，有必要根據(jù)深度合成類型的不同，規(guī)定不同程度的規(guī)制方法，注重民法、刑法、行政法等的協(xié)調(diào)綜合運用。

科學(xué)界定濫用深度合成的責(zé)任主體。深度合成內(nèi)容從制作、發(fā)布到傳播，不是涉及單向度的責(zé)任，而是涉及多維度的責(zé)任，究竟由哪一方來承擔(dān)法律責(zé)任？是制作者、深度合成服務(wù)的提供者，還是傳播偽造內(nèi)容的網(wǎng)絡(luò)平臺？有的服務(wù)提供者在其使用條款中明確指出輸出內(nèi)容的全部權(quán)益歸屬于用戶，要求用戶承擔(dān)全部法律責(zé)任，這種責(zé)任分配是否合理有效？這都是亟待立法回應(yīng)的問題。根據(jù)《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，網(wǎng)絡(luò)音視頻信息服務(wù)提供者基于新技術(shù)新應(yīng)用上線具有媒體屬性或者社會動員功能的音視頻信息服務(wù)，或者調(diào)整增設(shè)相關(guān)功能的，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估；網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)加強對網(wǎng)絡(luò)音視頻信息服務(wù)使用者發(fā)布的音視頻信息的管理，部署應(yīng)用違法違規(guī)音視頻以及非真實音視頻鑒別技術(shù)；網(wǎng)絡(luò)音視頻信息服務(wù)提供者針對深度學(xué)習(xí)、虛擬現(xiàn)實等的虛假圖像、音視頻應(yīng)建立健全辟謠機制等。這樣的規(guī)定強調(diào)了傳播平臺的法律責(zé)任。平臺既是新技術(shù)、新應(yīng)用的創(chuàng)造者、受益者，也應(yīng)該是控制技術(shù)風(fēng)險、引導(dǎo)技術(shù)向善的責(zé)任承擔(dān)者。同時我們也要看到，深度合成從制作、發(fā)布到傳播，是一個鏈條化的過程，在此鏈條上的每一方均有可能承擔(dān)法律責(zé)任，但是認定與承擔(dān)責(zé)任的方式應(yīng)根據(jù)其本身屬性與行業(yè)特征有所區(qū)別。對平臺而言，既要強調(diào)其安全保障、風(fēng)險防范義務(wù)，也要兼顧對新興科技健康發(fā)展的引導(dǎo)，對其法律責(zé)任范圍界定應(yīng)當(dāng)慎重把握范圍，不僅著眼于深度合成技術(shù)的合法合理合規(guī)使用，也應(yīng)致力于管理好、使用好、發(fā)展好深度合成技術(shù)及相關(guān)服務(wù)。