隨著新一代信息技術(shù)的快速發(fā)展，深度合成技術(shù)作為人工智能領(lǐng)域的新應(yīng)用、新實(shí)踐，已在多個(gè)行業(yè)場(chǎng)景中被推廣應(yīng)用，并催生了“元宇宙”等新的應(yīng)用場(chǎng)景。當(dāng)前，網(wǎng)絡(luò)傳播環(huán)境日趨復(fù)雜，新型合成方法層出不窮，技術(shù)濫用的風(fēng)險(xiǎn)也在不斷加劇。為加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)深度合成管理，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》）?！兑?guī)定》構(gòu)建了互聯(lián)網(wǎng)信息服務(wù)深度合成治理制度規(guī)范，邁出我國(guó)新技術(shù)新應(yīng)用立法的重要一步。

一、《規(guī)定》出臺(tái)必要及時(shí)，意義深遠(yuǎn)

技術(shù)發(fā)展與風(fēng)險(xiǎn)挑戰(zhàn)相伴而生，新技術(shù)新應(yīng)用發(fā)展日新月異，技術(shù)治理是一場(chǎng)永恒的攻防對(duì)抗博弈，也是技術(shù)從創(chuàng)新應(yīng)用到規(guī)范發(fā)展的必經(jīng)階段。當(dāng)前，換臉、換聲、三維重建、智能對(duì)話等深度合成服務(wù)已經(jīng)在國(guó)外互聯(lián)網(wǎng)社交媒體中廣泛應(yīng)用，催生了美顏美妝、影視制作、智能客服、虛擬主播、元宇宙等一系列形式新穎豐富、功能便捷智能的應(yīng)用形態(tài)，豐富了互聯(lián)網(wǎng)信息內(nèi)容生態(tài)，推動(dòng)了互聯(lián)網(wǎng)相關(guān)產(chǎn)業(yè)發(fā)展，為人民生活帶來了便利便捷和多樣化體驗(yàn)。然而，深度合成技術(shù)也正在被惡意利用制作虛假信息內(nèi)容，進(jìn)而可能帶來政策干擾、謠言泛濫、低俗內(nèi)容肆意傳播等影響國(guó)家安全、社會(huì)穩(wěn)定的風(fēng)險(xiǎn)問題。

出臺(tái)《規(guī)定》，是進(jìn)一步提升網(wǎng)絡(luò)綜合治理能力的應(yīng)時(shí)應(yīng)勢(shì)之舉，具有針對(duì)性和前瞻性?！兑?guī)定》是目前我國(guó)針對(duì)深度合成服務(wù)出臺(tái)的第一部專門性部門規(guī)章，作出了一系列明確合規(guī)指引，對(duì)加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)深度合成管理、促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展、推進(jìn)網(wǎng)絡(luò)空間治理意義重大，影響深遠(yuǎn)。

二、《規(guī)定》為深度合成技術(shù)安全應(yīng)用和健康發(fā)展奠定制度基礎(chǔ)

（一）明確了深度合成技術(shù)定義和服務(wù)范圍。深度合成技術(shù)由來已久，隨著深度學(xué)習(xí)技術(shù)，特別是對(duì)抗式生成網(wǎng)絡(luò)技術(shù)的發(fā)展，深度合成技術(shù)門檻大幅降低，2017年11月Reddit網(wǎng)站的用戶“deepfakes”發(fā)布偽造視頻令這項(xiàng)技術(shù)引起關(guān)注。近年來，深度偽造技術(shù)在國(guó)內(nèi)外反響強(qiáng)烈，其以制作足以“以假亂真”的信息內(nèi)容嚴(yán)重威脅國(guó)家安全、干擾傳播秩序，讓人們廣泛關(guān)注和深切擔(dān)憂，給相關(guān)技術(shù)和產(chǎn)業(yè)發(fā)展帶來一定影響。從技術(shù)進(jìn)步的角度來說，深度合成技術(shù)應(yīng)用的初衷是讓生成合成內(nèi)容更逼真，但深度合成技術(shù)在愈趨“智能”的同時(shí)，也不可避免地帶來更多的安全風(fēng)險(xiǎn)，除深度偽造風(fēng)險(xiǎn)外，還包括生成合成信息內(nèi)容帶來的個(gè)人信息泄漏、侵犯人格權(quán)和知識(shí)產(chǎn)權(quán)等他人合法權(quán)益等風(fēng)險(xiǎn)。

《規(guī)定》在深度偽造基礎(chǔ)上對(duì)深度合成技術(shù)作出了更全面的規(guī)范，從利用算法角度提出包括利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法，從制作內(nèi)容形態(tài)角度提出包括文本、圖像、音頻、視頻、虛擬場(chǎng)景等多種類型，從具體應(yīng)用形態(tài)上分類列舉了多種典型場(chǎng)景，明確了深度合成技術(shù)的定義和范圍。

（二）從內(nèi)容管理深化到行為管理。有別于信息內(nèi)容發(fā)布與傳播，互聯(lián)網(wǎng)信息服務(wù)深度合成活動(dòng)是一項(xiàng)涉及算法技術(shù)、應(yīng)用功能、產(chǎn)品業(yè)務(wù)，覆蓋數(shù)據(jù)采集、分析、編輯、加工等多環(huán)節(jié)的數(shù)據(jù)處理過程，產(chǎn)生的安全風(fēng)險(xiǎn)也是由參與多方、不同環(huán)節(jié)共同作用形成的，因此對(duì)互聯(lián)網(wǎng)信息服務(wù)深度合成的規(guī)范和引導(dǎo)，需要覆蓋各主體、各環(huán)節(jié)。

《規(guī)定》明確了相關(guān)主體的責(zé)任和義務(wù)。在監(jiān)管主體上，將深度合成服務(wù)技術(shù)支持者納入管理。服務(wù)技術(shù)支持者為上游主體，為服務(wù)提供者提供技術(shù)支撐；服務(wù)提供者為中游主體，為服務(wù)使用者提供深度合成服務(wù)；服務(wù)使用者為下游主體，是使用深度合成服務(wù)的組織、個(gè)人。《規(guī)定》從信息呈現(xiàn)和傳播兩個(gè)維度開展治理，通過顯式標(biāo)識(shí)和隱式標(biāo)識(shí)兩種管理手段，實(shí)現(xiàn)對(duì)內(nèi)容和行為雙重規(guī)范。在信息呈現(xiàn)方面，提出深度合成服務(wù)提供者應(yīng)當(dāng)在可能導(dǎo)致公眾混淆或者誤認(rèn)的深度合成信息內(nèi)容中加入顯式標(biāo)識(shí)，以提示公眾該內(nèi)容的生成合成特性，保障公眾知情權(quán)，降低虛假信息傳播的風(fēng)險(xiǎn)，實(shí)現(xiàn)內(nèi)容治理。在信息傳播方面，通過有效技術(shù)保障措施在深度合成信息內(nèi)容中添加隱式標(biāo)識(shí)，實(shí)現(xiàn)深度合成內(nèi)容安全溯源和技術(shù)應(yīng)用安全可控，確保內(nèi)容傳播鏈條明確清晰，事后追責(zé)準(zhǔn)確無誤，實(shí)現(xiàn)行為治理，為參與深度合成信息內(nèi)容制作傳播的各方主體厘清責(zé)任邊界。

（三）突出全過程安全評(píng)估管理。2021年12月，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《算法規(guī)定》），對(duì)包括生成合成類在內(nèi)的五類算法推薦服務(wù)進(jìn)行規(guī)范?！兑?guī)定》在《算法規(guī)定》基礎(chǔ)上，一是加強(qiáng)對(duì)深度合成服務(wù)全過程管理。深入深度合成服務(wù)的數(shù)據(jù)處理環(huán)節(jié)、算法運(yùn)行階段、使用者行為全過程，提出更明確細(xì)化和更具有操作性的管理要求和合規(guī)指引。二是深化備案與評(píng)估標(biāo)本兼治。《規(guī)定》要求具有輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者和技術(shù)支持者依法履行算法備案手續(xù)，并公示備案編號(hào)，有助于引導(dǎo)互聯(lián)網(wǎng)信息服務(wù)深度合成合規(guī)運(yùn)營(yíng)、提升產(chǎn)品口碑、增強(qiáng)企業(yè)互信、促進(jìn)行業(yè)健康發(fā)展?！兑?guī)定》明確了對(duì)深度合成服務(wù)提供者開發(fā)上線具有輿論屬性或者社會(huì)動(dòng)員能力的新產(chǎn)品、新應(yīng)用、新功能應(yīng)當(dāng)開展安全評(píng)估管理，有助于幫助企業(yè)防范和應(yīng)對(duì)深度合成內(nèi)容安全風(fēng)險(xiǎn)、數(shù)據(jù)安全風(fēng)險(xiǎn)和技術(shù)濫用風(fēng)險(xiǎn)，有助于促進(jìn)管理部門備案摸底、風(fēng)險(xiǎn)監(jiān)測(cè)和監(jiān)督檢查等工作依法開展、落地成效。

三、健全深度合成治理技術(shù)支撐體系，促進(jìn)服務(wù)健康有序發(fā)展

《規(guī)定》的出臺(tái)，是網(wǎng)絡(luò)內(nèi)容治理由結(jié)果管理邁向行為管理的重要一步，標(biāo)志著我國(guó)網(wǎng)絡(luò)空間治理能力進(jìn)一步優(yōu)化提升。但是，深度合成技術(shù)與應(yīng)用管理目前仍處于起步階段，在技術(shù)支撐和能力建設(shè)方面有待進(jìn)一步加強(qiáng)。加快推進(jìn)深度合成治理技術(shù)支撐體系建設(shè)，是切實(shí)保障深度合成服務(wù)治理工作有力有序推進(jìn)的關(guān)鍵。建議從以下方面加強(qiáng)工作：

（一）促進(jìn)多方共治深入細(xì)化安全標(biāo)準(zhǔn)。《規(guī)定》充分結(jié)合深度合成技術(shù)特點(diǎn)與發(fā)展趨勢(shì)，提出了針對(duì)深度合成服務(wù)和技術(shù)的普適性的規(guī)范思路，但在生成合成類算法服務(wù)范圍、深度合成技術(shù)具體范圍、深度合成服務(wù)業(yè)務(wù)分類、顯式標(biāo)識(shí)條件與標(biāo)識(shí)方式、隱式標(biāo)識(shí)方法與識(shí)別等諸多具體方面，仍亟需行業(yè)內(nèi)部進(jìn)一步細(xì)化相關(guān)配套標(biāo)準(zhǔn)規(guī)范。在實(shí)際落地過程中，建議行業(yè)內(nèi)推進(jìn)產(chǎn)業(yè)聯(lián)盟建立，研制相關(guān)標(biāo)準(zhǔn)規(guī)范，以產(chǎn)業(yè)自治、多方共治的方式，不斷推進(jìn)深度合成技術(shù)應(yīng)用高質(zhì)量發(fā)展。

（二）用以技術(shù)管技術(shù)思維促進(jìn)深度合成服務(wù)治理。深度合成技術(shù)是一項(xiàng)非常前沿的智能技術(shù)，治理其帶來的安全問題不能僅靠傳統(tǒng)的結(jié)果導(dǎo)向治標(biāo)方法。建議從深度合成信息內(nèi)容源頭上解決其衍生的內(nèi)容安全風(fēng)險(xiǎn)，利用技術(shù)創(chuàng)新、技術(shù)對(duì)抗等方式，持續(xù)提升和迭代檢測(cè)技術(shù)的能力?；ヂ?lián)網(wǎng)信息服務(wù)深度合成綜合治理，不僅著眼于管理好、使用好、發(fā)展好深度合成技術(shù)及相關(guān)服務(wù)，同時(shí)，也致力于深度合成技術(shù)的合法合理合規(guī)使用，促進(jìn)深度合成技術(shù)及相關(guān)服務(wù)健康有序的發(fā)展。

（三）推進(jìn)深度合成服務(wù)治理技術(shù)能力建設(shè)。構(gòu)建互聯(lián)網(wǎng)信息服務(wù)深度合成安全監(jiān)管體系需要在技術(shù)支撐和能力建設(shè)方面進(jìn)一步加強(qiáng)。國(guó)家科研機(jī)構(gòu)應(yīng)加大深度合成安全方面的科技攻關(guān)，建設(shè)深度合成安全評(píng)估和風(fēng)險(xiǎn)監(jiān)測(cè)的科研創(chuàng)新平臺(tái)，探索共建新型研發(fā)機(jī)構(gòu)，形成引領(lǐng)深度合成安全基礎(chǔ)研究的戰(zhàn)略力量。組織建立專業(yè)技術(shù)評(píng)估隊(duì)伍，研究深度合成安全內(nèi)生機(jī)理、安全風(fēng)險(xiǎn)評(píng)估、全生命周期安全監(jiān)測(cè)等關(guān)鍵技術(shù)。加強(qiáng)基礎(chǔ)科研設(shè)施建設(shè)，完善算法安全治理人才隊(duì)伍培養(yǎng)體系，提升深度合成自主創(chuàng)新和安全可控能力。（作者：孟丹，中國(guó)科學(xué)院信息工程研究所所長(zhǎng)）