《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（下文簡稱為《規(guī)定》）于2022年11月25日發(fā)布，標(biāo)志著深度合成服務(wù)成為了我國算法治理中率先專門立法的算法服務(wù)類型。中共中央印發(fā)的《法治社會(huì)建設(shè)實(shí)施綱要（2020—2025年）》中提出完善網(wǎng)絡(luò)信息服務(wù)方面的法律法規(guī)，制定完善算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法。這一規(guī)章的出臺(tái)將綱要提出的重要任務(wù)落地，凸顯了深度合成技術(shù)在我國算法安全治理中的重要地位。

深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等信息的技術(shù)。近年來，深度合成技術(shù)應(yīng)用廣泛、形式多樣，在影視、傳媒、教育等領(lǐng)域有大量應(yīng)用形式，可實(shí)現(xiàn)特效制作、元宇宙場(chǎng)景、虛擬仿真教學(xué)等功能。隨著各類商業(yè)化產(chǎn)品普及，深度合成的信息內(nèi)容也在網(wǎng)絡(luò)上大量涌現(xiàn)，越來越多的社會(huì)公眾接觸到了深度合成技術(shù)?！兑?guī)定》確立了我國對(duì)深度合成服務(wù)的治理框架，提出了明確的數(shù)據(jù)和技術(shù)管理規(guī)范，為促進(jìn)深度合成技術(shù)向上向善，引導(dǎo)相關(guān)產(chǎn)業(yè)健康發(fā)展，確?；ヂ?lián)網(wǎng)信息內(nèi)容安全提供了有力的制度保障。

一、規(guī)范深度合成服務(wù)的重要意義

深度合成服務(wù)是生成合成類算法的應(yīng)用服務(wù)，屬于我國《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中規(guī)定的生成合成類、排序精選類、檢索過濾類、個(gè)性化推送類、調(diào)度決策類算法推薦服務(wù)中的一種。深度合成技術(shù)應(yīng)用領(lǐng)域十分廣泛，可以被用來生成和編輯文本、生成音樂、合成人聲，如代替人創(chuàng)作詩歌和撰寫詞曲，自動(dòng)生成伴奏音樂與合成歌聲等。深度合成技術(shù)也可以被用來進(jìn)行人臉生成、人臉替換、人臉操控，可被用來制作電影特效，或者生成以假亂真的人物視頻。深度合成技術(shù)還可被用來進(jìn)行圖像生成、圖像增強(qiáng)等，如2021年被廣泛關(guān)注的FacePlay應(yīng)用，只需要用戶上傳一張人臉照片，就可以生成不同服裝場(chǎng)景的圖片和視頻。深度合成技術(shù)也極大地豐富了虛擬數(shù)字空間的信息內(nèi)容，為更加多樣化的傳播行為提供了可能性。2021年10月，臉書宣布更名為“Meta”即元宇宙，即是利用深度合成技術(shù)創(chuàng)建虛擬世界，用戶可以通過現(xiàn)實(shí)頭戴設(shè)備與其他用戶實(shí)現(xiàn)互動(dòng)。

隨著深度合成技術(shù)的開源開放、深度合成產(chǎn)品和服務(wù)的逐漸增多，深度合成內(nèi)容制作的技術(shù)門檻越來越低，深度合成服務(wù)已經(jīng)實(shí)現(xiàn)了公眾化、平民化，普通人僅需要少量的圖像、音頻、視頻、文本等樣本數(shù)據(jù)，利用簡便易用的深度合成工具，就能夠模糊真實(shí)信息和虛假信息的邊界。深度合成技術(shù)誕生之初，由于技術(shù)的不成熟，尚存在合成的視頻中人物微表情不自然、圖像邊緣有鋸齒等明顯痕跡。但近年來在網(wǎng)絡(luò)傳播的深度合成視頻內(nèi)容，人物動(dòng)作的逼真度、自然度，以及視頻整體的清晰度、流暢度都可以達(dá)到以假亂真的水平，用戶已經(jīng)難以鑒別。

深度合成技術(shù)一旦被濫用，會(huì)造成巨大風(fēng)險(xiǎn)與實(shí)質(zhì)性危害，可能給個(gè)人、企業(yè)造成肖像、名譽(yù)等人格和財(cái)產(chǎn)權(quán)益損害，也可能給社會(huì)秩序、國家政治穩(wěn)定和安全造成巨大威脅。如將深度合成技術(shù)用于捏造國家政要言論、偽造公務(wù)人員虛假視頻，可能給政治安全和國家安全帶來重大危害。對(duì)個(gè)人與企業(yè)來說，深度合成技術(shù)的濫用也可能造成巨大權(quán)益損害。如企業(yè)高管被深度合成捏造視頻篡改發(fā)言內(nèi)容，可能造成市場(chǎng)恐慌，引發(fā)金融市場(chǎng)動(dòng)蕩。個(gè)人也可能被偽造虛假視頻等，被用來向其親友詐騙或者偽造不雅視頻侵害其名譽(yù)權(quán)。

由此可見，深度合成技術(shù)的快速發(fā)展為數(shù)字時(shí)代發(fā)展帶來了令人期待的可能性，但也帶來了令人擔(dān)憂的巨大風(fēng)險(xiǎn)。習(xí)近平總書記指出，“網(wǎng)絡(luò)空間是億萬民眾共同的精神家園。網(wǎng)絡(luò)空間天朗氣清、生態(tài)良好，符合人民利益。”規(guī)范和引導(dǎo)利用深度合成技術(shù)提供的互聯(lián)網(wǎng)信息服務(wù)，最大限度地保護(hù)公民、企業(yè)合法權(quán)益，維護(hù)國家安全、政治穩(wěn)定與社會(huì)公共秩序，促進(jìn)技術(shù)向上向善造福社會(huì)，成為了立法立規(guī)的緊迫任務(wù)。

二、構(gòu)建深度合成服務(wù)安全監(jiān)管制度

《規(guī)定》共分為五章，分別從總則、一般規(guī)定、數(shù)據(jù)技術(shù)管理規(guī)范、監(jiān)督檢查與法律責(zé)任、附則等部分，構(gòu)建了深度合成服務(wù)的安全監(jiān)管制度。在中華人民共和國境內(nèi)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)的，適用本規(guī)定。

《規(guī)定》注重保障互聯(lián)網(wǎng)信息內(nèi)容安全，特別是新聞信息安全。規(guī)章對(duì)深度合成服務(wù)提供者提出了明確的要求。一是深度合成服務(wù)提供者要落實(shí)信息安全主體責(zé)任，加強(qiáng)深度合成內(nèi)容管理，采取技術(shù)或者人工方式對(duì)深度合成服務(wù)使用者的輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核，一旦發(fā)現(xiàn)違法和不良信息，應(yīng)當(dāng)依法采取處置措施；二是針對(duì)深度合成信息內(nèi)容的特殊性，深度合成服務(wù)提供者應(yīng)當(dāng)建立健全辟謠機(jī)制，并設(shè)置便捷的用戶申訴和公眾投訴、舉報(bào)入口；三是深度合成服務(wù)提供者要履行對(duì)服務(wù)使用者的管理義務(wù)，包括進(jìn)行真實(shí)身份認(rèn)證，保證用戶實(shí)名使用深度合成服務(wù)，以及提示服務(wù)使用者落實(shí)個(gè)人信息保護(hù)要求等。

《規(guī)定》與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》一脈相承，并提出了相輔相成的管理要求。具有輿論屬性和社會(huì)動(dòng)員能力的深度合成服務(wù)提供者仍要履行算法推薦服務(wù)的備案手續(xù)，深度合成服務(wù)提供者開發(fā)上線具有輿論屬性或者社會(huì)動(dòng)員能力的新產(chǎn)品、新應(yīng)用、新功能也要按規(guī)定開展安全評(píng)估。此外，《規(guī)定》針對(duì)深度合成數(shù)據(jù)和技術(shù)管理提出了更進(jìn)一步的規(guī)范要求。第一，深度合成服務(wù)提供者和技術(shù)支持者都被納入到了監(jiān)管的對(duì)象中。這是由于深度合成服務(wù)不僅由服務(wù)提供者向公眾提供，技術(shù)支持者也對(duì)深度合成服務(wù)產(chǎn)生重要影響。因此二者都需要對(duì)深度合成訓(xùn)練數(shù)據(jù)加強(qiáng)管理，并保障數(shù)據(jù)安全。同時(shí)，深度合成服務(wù)提供者提供人臉、人聲等生物識(shí)別信息編輯功能，還要提示深度合成服務(wù)使用者履行個(gè)人信息保護(hù)義務(wù)，征得被編輯個(gè)人的單獨(dú)同意。第二，深度合成服務(wù)提供者和技術(shù)支持者提供具有能夠生成或者編輯人臉、人聲等生物識(shí)別信息的，或生成或者編輯可能涉及國家安全、國家形象、國家利益和社會(huì)公共利益的特殊物體、場(chǎng)景等非生物識(shí)別信息的功能的模型、模板等工具的，應(yīng)當(dāng)依法自行或者委托專業(yè)機(jī)構(gòu)開展安全評(píng)估。這是由于換臉、換聲等視頻可顯著改變個(gè)人身份特征，具有較高的風(fēng)險(xiǎn)。同時(shí)，涉及到國家安全的如國家標(biāo)志性場(chǎng)所、歷史遺跡等，即使是非生物識(shí)別信息，也有可能被偽造而帶來重大的安全風(fēng)險(xiǎn)。

三、規(guī)范深度合成服務(wù)保障網(wǎng)絡(luò)空間清朗

針對(duì)深度合成服務(wù)帶來的機(jī)遇與惡意使用帶來的挑戰(zhàn)，世界各國紛紛出臺(tái)管理法律法規(guī)，探索對(duì)深度合成服務(wù)的依法治理。歐盟與美國均有相關(guān)立法考慮，同時(shí)加強(qiáng)打入數(shù)字水印、開發(fā)真?zhèn)舞b別等技術(shù)治理手段，要求互聯(lián)網(wǎng)企業(yè)對(duì)平臺(tái)內(nèi)容進(jìn)行自我審查，從源頭打擊網(wǎng)絡(luò)虛假內(nèi)容。

我國《規(guī)定》的重要特色，是基于深度合成服務(wù)技術(shù)性強(qiáng)的特點(diǎn)，從技術(shù)開發(fā)、模型訓(xùn)練、服務(wù)提供和使用等環(huán)節(jié)對(duì)深度合成服務(wù)提供者和技術(shù)支持者提出全面管理要求。一是要求添加深度合成隱式標(biāo)識(shí)，確保信息內(nèi)容的可追溯性。深度合成服務(wù)提供者對(duì)使用其服務(wù)生成編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加隱式標(biāo)識(shí)，這既不影響用戶的使用體驗(yàn)，也實(shí)現(xiàn)了深度合成信息內(nèi)容的可追溯性。二是要求添加顯著標(biāo)識(shí)，確保信息內(nèi)容傳播的可感知性。對(duì)于可能會(huì)導(dǎo)致公眾混淆或者誤認(rèn)的深度合成信息內(nèi)容，深度合成服務(wù)提供者還應(yīng)當(dāng)添加顯著標(biāo)識(shí)，在合理位置、區(qū)域向公眾進(jìn)行提示，避免對(duì)公眾產(chǎn)生誤導(dǎo)，引起信息內(nèi)容安全風(fēng)險(xiǎn)。三是明確法律責(zé)任，保證深度合成標(biāo)識(shí)的可查驗(yàn)性。規(guī)章要求任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿深度合成標(biāo)識(shí)。這既要求深度合成標(biāo)識(shí)在深度合成內(nèi)容全生命周期存在，也要求深度合成服務(wù)提供者和技術(shù)支持者保證隱式標(biāo)識(shí)和顯著標(biāo)識(shí)的魯棒性，使得該標(biāo)識(shí)不因壓縮、傳輸?shù)拳h(huán)節(jié)丟失，進(jìn)一步通過技術(shù)手段壓實(shí)主體責(zé)任。

深度合成技術(shù)展現(xiàn)了其強(qiáng)大的能量和可能性，加速應(yīng)用已經(jīng)成為現(xiàn)實(shí)趨勢(shì)。但其帶來效率和便利的同時(shí)，也帶來了技術(shù)的伴生風(fēng)險(xiǎn)。深度合成服務(wù)從相繼被納入到《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中監(jiān)管，到出臺(tái)專門的規(guī)章進(jìn)行規(guī)制，顯示出我國一方面引導(dǎo)深度合成技術(shù)良性發(fā)展，另一方面堅(jiān)決打擊利用深度合成服務(wù)制作傳播違法不良信息、危害信息內(nèi)容安全、社會(huì)公共利益和國家安全的行為。在合規(guī)前提下，深度合成技術(shù)創(chuàng)新發(fā)展，不斷開拓應(yīng)用場(chǎng)景，將形成對(duì)人工智能產(chǎn)業(yè)整體的帶動(dòng)效應(yīng)，促進(jìn)技術(shù)向上向善。(作者：時(shí)建中，中國政法大學(xué)副校長）