隨著人工智能技術(shù)的快速發(fā)展，數(shù)字產(chǎn)業(yè)化進(jìn)程不斷加快，產(chǎn)業(yè)數(shù)字化、智能化水平進(jìn)一步提升。多媒體深度合成技術(shù)是人工智能技術(shù)的重要研究和典型應(yīng)用領(lǐng)域，涉及深度學(xué)習(xí)、虛擬現(xiàn)實(shí)、預(yù)訓(xùn)練大模型等生成合成類算法，國內(nèi)外著名高校、科研機(jī)構(gòu)、互聯(lián)網(wǎng)公司和人工智能企業(yè)紛紛展開相關(guān)技術(shù)研究。隨著其與互聯(lián)網(wǎng)信息服務(wù)的深度融合，在變革互聯(lián)網(wǎng)信息制作模式、智能生產(chǎn)新聞媒體內(nèi)容、改善人機(jī)交互體驗(yàn)、繁榮數(shù)字經(jīng)濟(jì)等方面產(chǎn)生巨大影響。同時(shí)我們應(yīng)該清醒地認(rèn)識到，利用該技術(shù)進(jìn)行違法和不良信息的制作、復(fù)制、發(fā)布、傳播等行為，對維護(hù)網(wǎng)絡(luò)安全、社會經(jīng)濟(jì)穩(wěn)定、公共利益帶來巨大挑戰(zhàn)。習(xí)近平總書記在黨的二十大報(bào)告中強(qiáng)調(diào)，“健全網(wǎng)絡(luò)綜合治理體系，推動形成良好網(wǎng)絡(luò)生態(tài)”。2022年11月25日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》），《規(guī)定》深入貫徹《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律、行政法規(guī)，聚焦突出問題，有效規(guī)范深度合成服務(wù)，加強(qiáng)網(wǎng)絡(luò)內(nèi)容建設(shè)，強(qiáng)化對人工智能技術(shù)、服務(wù)、內(nèi)容、平臺的綜合治理能力。

一、堅(jiān)持維護(hù)國家利益和站穩(wěn)人民立場，強(qiáng)化算法治理能力

《規(guī)定》落實(shí)總體國家安全觀，堅(jiān)持以人民為中心，對利用深度合成技術(shù)危害國家安全和利益、損害國家形象、侵害公民合法權(quán)益和隱私的行為，作出全面、具體的回應(yīng)，對現(xiàn)行算法應(yīng)用安全監(jiān)管規(guī)則進(jìn)一步細(xì)化，為營造風(fēng)清氣正的網(wǎng)絡(luò)空間提供制度保障和治理依據(jù)。

（一）有效銜接現(xiàn)行法規(guī)制度，健全我國算法綜合治理體系。在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律法規(guī)框架下，深刻把握深度合成服務(wù)存在的安全風(fēng)險(xiǎn)，與《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》等相關(guān)規(guī)定制度緊密銜接，理清深度合成技術(shù)定義與應(yīng)用場景，明確服務(wù)提供者的信息安全主體責(zé)任，延伸互聯(lián)網(wǎng)信息服務(wù)算法治理思路，給出生成合成類算法服務(wù)安全管理樣板，完善了我國互聯(lián)網(wǎng)信息服務(wù)算法綜合治理體系。

（二）構(gòu)建多方共同治理格局，創(chuàng)新人工智能倫理監(jiān)管的中國方案。《規(guī)定》統(tǒng)籌各方力量，構(gòu)建政府監(jiān)管、企業(yè)履責(zé)、行業(yè)自律、社會監(jiān)督的多元共治體系，將網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理和深度合成服務(wù)管理有機(jī)結(jié)合，通過貫穿深度合成服務(wù)事前事中事后的監(jiān)管模式，針對不同的深度合成活動給出規(guī)范要求，進(jìn)一步明確深度合成服務(wù)提供者、技術(shù)支持者和使用者以及應(yīng)用程序分發(fā)平臺責(zé)任，鼓勵(lì)推動行業(yè)自律和出臺標(biāo)準(zhǔn)規(guī)范，要求社會監(jiān)督和申訴渠道暢通，及時(shí)處理公眾訴求，對深度合成服務(wù)管理提出了兼具針對性、指導(dǎo)性、規(guī)范性的中國方案。

（三）聚焦違法和不良信息治理，引導(dǎo)深度合成服務(wù)向上向善。針對利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播違法信息等行為，《規(guī)定》劃定“紅線”，規(guī)定不得利用深度合成服務(wù)開展法律法規(guī)禁止的活動，要求深度合成服務(wù)提供者制定和公開管理規(guī)則、平臺公約，完善服務(wù)協(xié)議，依法依約履行信息安全管理責(zé)任。發(fā)現(xiàn)違法和不良信息的，依法采取處置措施，保存有關(guān)記錄，及時(shí)向有關(guān)主管部門報(bào)告。

（四）促進(jìn)智能技術(shù)健康有序發(fā)展，引領(lǐng)相關(guān)信息產(chǎn)業(yè)落地應(yīng)用。《規(guī)定》的發(fā)布進(jìn)一步提升了我國網(wǎng)絡(luò)空間信息安全治理能力，引導(dǎo)以深度學(xué)習(xí)為主的新興智能技術(shù)健康發(fā)展，有效促進(jìn)圍繞音頻、視頻、圖像和文本的多模態(tài)人工智能算法在應(yīng)用管理方面的積極探索。隨著深度合成技術(shù)應(yīng)用的普及和發(fā)展，深度合成檢測技術(shù)也將順勢而來，通過深度合成與檢測的技術(shù)演練與應(yīng)用對抗，能促進(jìn)構(gòu)建良性迭代的深度合成信息服務(wù)生態(tài)，共同推動新興人工智能技術(shù)應(yīng)用落地。

二、界定各方責(zé)任要求，構(gòu)建深度合成服務(wù)治理體系

《規(guī)定》明確各方在深度合成活動全流程的主體責(zé)任，在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》已有規(guī)定基礎(chǔ)上，明確指導(dǎo)性極強(qiáng)的生成合成標(biāo)識方法，要求完善管理制度和技術(shù)保障措施。

（一）明確義務(wù)要求，強(qiáng)化主體責(zé)任。《規(guī)定》分析梳理了深度合成活動邊界，明確了深度合成技術(shù)定義，對深度合成服務(wù)提供者、技術(shù)支持者和使用者以及應(yīng)用程序分發(fā)平臺等主體應(yīng)履行的責(zé)任義務(wù)作出規(guī)定，如深度合成服務(wù)提供者應(yīng)履行建立健全管理制度、對使用者真實(shí)身份信息認(rèn)證、加強(qiáng)深度合成信息內(nèi)容管理等義務(wù)，服務(wù)提供者和技術(shù)支持者應(yīng)履行加強(qiáng)訓(xùn)練數(shù)據(jù)管理、加強(qiáng)深度合成技術(shù)管理等義務(wù)。同時(shí)，《規(guī)定》對具有輿論屬性或者社會動員能力的深度合成服務(wù)提供者提出了更嚴(yán)格的監(jiān)管要求。

（二）監(jiān)管針對性強(qiáng)，涵蓋技術(shù)管理要求。《規(guī)定》針對利用生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息，明確了算法備案、安全評估、顯著標(biāo)識等強(qiáng)制性要求及適用情形，如規(guī)定深度合成服務(wù)提供者和技術(shù)支持者若生成或編輯生物識別信息，必須進(jìn)行算法安全評估。此外，《規(guī)定》針對各類生成合成技術(shù)應(yīng)用，還提出要加強(qiáng)制度建設(shè)、技術(shù)保障措施安全可控、制定和公開管理規(guī)則、完善服務(wù)協(xié)議、建立健全辟謠機(jī)制等要求。

（三）細(xì)化標(biāo)識規(guī)則，明確具體規(guī)范要求。《規(guī)定》對《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》關(guān)于生成合成類算法標(biāo)識相關(guān)要求作出細(xì)化，明確采取技術(shù)措施添加不影響用戶使用的標(biāo)識，如可能導(dǎo)致混淆或者誤認(rèn)的，還應(yīng)當(dāng)在合理位置、區(qū)域進(jìn)行顯著標(biāo)識等要求，規(guī)定任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿深度合成標(biāo)識。

三、強(qiáng)化支撐體系建設(shè)，推動深度合成治理走深向?qū)?/span>

隨著數(shù)字化、智能化進(jìn)程的加快，互聯(lián)網(wǎng)信息服務(wù)綜合治理不斷細(xì)化、深入，規(guī)范深度合成活動對營造健康安全的網(wǎng)絡(luò)空間和加強(qiáng)社會治理有著重要意義。為推動《規(guī)定》落實(shí)，下一步建議加強(qiáng)如下工作：

一是強(qiáng)化智能監(jiān)管平臺支撐。加大科技攻關(guān)力度，深入研究深度合成類算法內(nèi)生安全機(jī)理和深度合成鑒別等關(guān)鍵技術(shù)，推動深度合成管理技術(shù)能力建設(shè)。加強(qiáng)人機(jī)混合的智能監(jiān)管技術(shù)，研究深度合成服務(wù)提供者的安全可控技術(shù)保障方案，把監(jiān)管規(guī)范轉(zhuǎn)化為評估標(biāo)準(zhǔn)，建設(shè)面向網(wǎng)絡(luò)全域監(jiān)管的監(jiān)測管理平臺。研發(fā)深度合成與鑒別對抗機(jī)制，鼓勵(lì)新興科技企業(yè)與研究機(jī)構(gòu)開展技術(shù)演練，共同推動深度合成服務(wù)健康發(fā)展。緊密結(jié)合國際前沿，建設(shè)自主可控的深度合成算法安全應(yīng)用體系與技術(shù)生態(tài)。

二是強(qiáng)化人工智能安全評估支撐。抓緊建立深度合成安全評估機(jī)制，組織研究制定深度合成安全評估相關(guān)標(biāo)準(zhǔn)規(guī)范，基于《規(guī)定》要求和深度合成類算法機(jī)制機(jī)理特點(diǎn)，對評估流程、方法、內(nèi)容等制定規(guī)定，明確提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的，應(yīng)當(dāng)進(jìn)行安全評估。組建專業(yè)隊(duì)伍對相關(guān)深度合成服務(wù)提供者和技術(shù)支持者評估情況進(jìn)行檢查，以評促建，完善行業(yè)標(biāo)準(zhǔn)，加強(qiáng)行業(yè)自律，加快推進(jìn)深度合成服務(wù)規(guī)范化。

三是加強(qiáng)科普宣貫工作支撐。配合國家人工智能算法綜合治理工作部署，面向互聯(lián)網(wǎng)企業(yè)、重點(diǎn)行業(yè)企業(yè)和相關(guān)管理部門等進(jìn)行《規(guī)定》的宣貫培訓(xùn)，督促企業(yè)提升深度合成技術(shù)服務(wù)水平；推進(jìn)多模態(tài)人工智能相關(guān)學(xué)科研究全面開展，培育高層次人才，鼓勵(lì)相關(guān)科研機(jī)構(gòu)、高校與企業(yè)建立廣泛合作機(jī)制；加強(qiáng)科普教育，提升音視圖文多媒體深度合成技術(shù)透明度，引導(dǎo)社會各界積極參與社會監(jiān)督，共同推進(jìn)深度合成服務(wù)綜合治理，強(qiáng)化多方治理成效。（作者：徐波，中國科學(xué)院自動化研究所所長）