隨著移動互聯(lián)基礎設施的大力建設和移動終端設備的廣泛普及，信息通信技術和數(shù)字數(shù)據技術的應用場景和頻次得到極大豐富和提升，海量的用戶數(shù)據的生產、流動、使用、開發(fā)得到極大提速，算法技術的開發(fā)和應用得到極大激勵。以海量數(shù)據為基礎的人工智能算法與網約車、網絡購物、靈活用工等應用場景的深度融合，給數(shù)字經濟高質量發(fā)展注入強大動能。同時，由于算法技術及應用場景的深度商業(yè)化和廣泛市場化，“大數(shù)據殺熟”、誘導用戶沉迷網絡、過度消費等算法技術在數(shù)字經濟發(fā)展中引發(fā)的負效應已深度沖擊了市場競爭秩序和社會管理秩序，給維護市場公平競爭、消費者合法權益、社會治理乃至國家安全都帶來了諸多挑戰(zhàn)，迫切需要對算法應用加強規(guī)范，保障和促進以“數(shù)據、算法、算力”為核心要素的數(shù)字經濟健康發(fā)展。

2022年1月12日，國務院印發(fā)《“十四五”數(shù)字經濟發(fā)展規(guī)劃》（簡稱《規(guī)劃》）?！兑?guī)劃》指出，我國數(shù)字經濟發(fā)展迅速，但依然面臨發(fā)展不平衡、不充分、不規(guī)范的問題，需要提高我國數(shù)字經濟治理水平。應優(yōu)化升級數(shù)字基礎設施，推進“云網協(xié)同”和“算網融合”發(fā)展，加快構建算力、算法、數(shù)據、應用資源協(xié)同的全國一體化大數(shù)據中心體系。《規(guī)劃》提出，應當堅持公平競爭、安全有序的基本原則，以競爭政策為基礎，兼顧促進數(shù)字經濟發(fā)展與保障市場運行安全，結合市場監(jiān)管、宏觀調控、政策法規(guī)等多種規(guī)制手段，協(xié)調多主體，共同搭建完善協(xié)同監(jiān)管規(guī)則制度，推動平臺經濟健康發(fā)展。

作為互聯(lián)網建設和應用大國，我國高度重視對互聯(lián)網領域各類行為及相關數(shù)據安全的建設，目前已形成包括《網絡安全法》《數(shù)據安全法》《個人信息保護法》《互聯(lián)網信息服務管理辦法》等多部法律法規(guī)在內的較為成熟的網絡、數(shù)據及算法的監(jiān)管體系。2021年12月31日，國家網信辦、工業(yè)和信息化部、公安部、國家市場監(jiān)管總局聯(lián)合發(fā)布《互聯(lián)網信息服務算法推薦管理規(guī)定》（簡稱《規(guī)定》），2022年3月1日起正式施行?！兑?guī)定》作為上述法規(guī)體系的重要組成部分，與《規(guī)劃》中數(shù)字經濟發(fā)展應堅持公平競爭、安全有序的基本原則相一致，是貫徹落實中央關于網絡安全和信息化工作戰(zhàn)略部署、推進互聯(lián)網信息服務生態(tài)治理的重要舉措?！兑?guī)定》的發(fā)布為懲治算法亂象提供了明確且具有針對性和操作性的法律規(guī)范，對規(guī)范和促進數(shù)字經濟健康發(fā)展具有重大意義。

一、夯實安全發(fā)展底線，規(guī)范算法至善

《規(guī)劃》指出，在發(fā)展數(shù)字經濟的同時，還應牢牢守住安全底線，著力強化數(shù)字經濟安全體系。要增強網絡安全防護能力，提升數(shù)據安全保障水平，切實有效防范各類風險。其中算法治理作為整個數(shù)字經濟整體治理與系統(tǒng)治理的關鍵環(huán)節(jié)，不僅涉及到市場治理，還涉及到社會治理與國家總體安全。正如《規(guī)定》第六條明確規(guī)定，算法推薦服務提供者不得利用算法推薦服務，從事危害國家安全和社會公共利益、擾亂經濟秩序和社會秩序、侵犯他人合法權益等法律、行政法規(guī)禁止的活動；第七條明確要求算法推薦服務提供者應當落實算法安全主體責任，建立健全數(shù)據安全保護和個人信息保護等管理制度和技術措施。這在國家安全層面和個人信息保護層面，均對算法推薦服務提供者提出了新的要求，為國家安全、社會公共利益、個人隱私等提供了重要制度保障。

在實踐中，算法推薦服務提供者往往會借助算法技術對消費者用戶數(shù)據進行分析整理，形成用戶模型或用戶標簽，并以此為基礎進行精準推送。用戶模型或用戶標簽雖然可以提高信息推送效率，但是易形成“信息繭房”，使用戶局限在自己熟悉的領域內，滿足于被動的知識積累，無法獲取全面、客觀的信息；若將違法和不良信息關鍵詞記入用戶興趣點或者作為用戶標簽并據以推送信息，還可能會對用戶的身心健康產生不利影響。對此，《規(guī)定》第十條要求算法推薦服務提供者應當完善記入用戶模型的興趣點規(guī)則和用戶標簽管理規(guī)則，不得將違法和不良信息關鍵詞記入用戶興趣點或者作為用戶標簽并據以推送信息。

當前，算法在降低公眾篩選有效信息時間成本的同時，也擴大了網絡生態(tài)失衡、失真的風險，操縱榜單或者檢索結果排序、控制熱搜或者精選等干預信息呈現(xiàn)的問題層出不窮，針對這些問題，《規(guī)定》第十四條規(guī)定，“算法推薦服務提供者不得利用算法虛假注冊賬號、非法交易賬號、操縱用戶賬號或者虛假點贊、評論、轉發(fā)，不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結果排序、控制熱搜或者精選等干預信息呈現(xiàn)，實施影響網絡輿論或者規(guī)避監(jiān)督管理行為”。此款規(guī)定將有效規(guī)制借助算法技術對網絡輿論產生不良影響的行為，暢通社會監(jiān)督的渠道。

二、“以人為本”框定算法應用紅線

當前，受到新冠肺炎疫情的影響，傳統(tǒng)行業(yè)的就業(yè)者難以便捷就業(yè)，而以平臺經濟為基礎的靈活用工形式則吸引了大量的勞動者就業(yè)，緩解了民生壓力。外賣配送員、專車司機、網約家政等主體均依靠互聯(lián)網平臺經濟獲取訂單，但這些勞動者的權益亦可能受到算法不合理的訂單分配、獎懲規(guī)則及工作時間安排影響，被迫延長工作時間、超出工作強度，或是無法正常接收訂單。對此，《規(guī)劃》指出，應當切實有效防范各類風險，建立完善相關算法，健全靈活就業(yè)人員參加社會保險制度和勞動者權益保障制度?！兑?guī)定》第二十條規(guī)定，“算法推薦服務提供者向勞動者提供工作調度服務的，應當保護勞動者取得勞動報酬、休息休假等合法權益，建立完善平臺訂單分配、報酬構成及支付、工作時間、獎懲等相關算法”。

同時，面對我國老齡化社會的加速到來，《規(guī)劃》指出，優(yōu)化基礎設施智能升級，應當充分滿足老年人等特殊群體的需求；強化數(shù)字經濟安全體系，同樣需要健全完善針對老年人等特殊群體的網絡保護機制。當下，隨著人工智能技術的應用范圍擴大，整個社會都向著智能化方向不斷發(fā)展。但是對于老年人群體來說，由于學習能力不如年輕人，面對新興的算法推薦服務，可能難以有效掌握，故無法享受到算法推薦服務所帶來的全新體驗，甚至隨著智能化設備不斷取代傳統(tǒng)的設備，也給老年人群體帶來了諸多不便之處。對此，《規(guī)定》第十九條規(guī)定，“算法推薦服務提供者向老年人提供服務的，應當保障老年人依法享有的權益，充分考慮老年人出行、就醫(yī)、消費、辦事等需求，按照國家有關規(guī)定提供智能化適老服務，依法開展涉電信網絡詐騙信息的監(jiān)測、識別和處置，便利老年人安全使用算法推薦服務”。

此外，由于未成年人尚未形成健全的價值觀，難以甄別紛繁復雜的各類信息，易受互聯(lián)網不良信息或應用服務的影響，尤其是網絡游戲、短視頻等應用軟件導致未成年人沉迷的事件迭起，引發(fā)了公眾的廣泛熱議。對此，《規(guī)劃》指出，應當健全完善針對未成年人等特殊群體的網絡保護機制?！兑?guī)定》第十八條明確要求，算法推薦服務提供者應當依法履行未成年人網絡保護義務，提供適合未成年人特點的服務，便利未成年人獲取有益身心健康的信息，不得向未成年人推送影響未成年人身心健康的信息，并且不得利用算法推薦服務誘導未成年人沉迷網絡。

三、做好分類協(xié)同，提升算法治理水平

千人千面，個性化應用是算法的典型特征，故依據算法應用所涉及的內容類別、輿論屬性以及用戶規(guī)模等因素，以及算法應用對網絡安全可能產生的風險大小，對社會產生的損害范圍及程度，對其進行分級分類的治理是當前算法治理的主流觀點和基本理路。如《規(guī)定》第二十三條明確了分級分類的差異化監(jiān)管制度，要求網信部門會同電信、公安、市場監(jiān)管等有關部門，根據算法推薦服務的輿論屬性或者社會動員能力、內容類別、用戶規(guī)模等要素對算法推薦服務提供者實施分級分類管理，更加全面地開展算法安全評估和監(jiān)督檢查等各項工作。

為進一步應對算法千人千面、難以把握的“黑箱”屬性，《規(guī)定》第二十四條明確了算法備案制度，要求具有輿論屬性或者社會動員能力的算法推薦服務提供者應通過互聯(lián)網信息服務算法備案系統(tǒng)填報服務提供者的服務形式、應用領域、算法自評估報告等信息，履行備案手續(xù)。算法備案制度的建立有助于對算法推薦服務進行監(jiān)管，更好預防算法可能帶來的風險。

同時，《規(guī)劃》明確指出為健全完善數(shù)字經濟治理體系，需進一步強化協(xié)同治理和監(jiān)管機制，增強政府數(shù)字化治理能力，完善多元共治新格局。

根據《規(guī)劃》要求，規(guī)范算法應用，首先，應強化協(xié)同治理機制，加強政府內部不同部門之間的協(xié)同治理，應明晰主管部門、監(jiān)管機構職責，強化跨部門、跨層級、跨區(qū)域協(xié)同監(jiān)管，明確監(jiān)管范圍和統(tǒng)一規(guī)則，加強分工合作與協(xié)調配合。正如，在《規(guī)定》第三條中所規(guī)定的參與算法推薦服務治理部門除了國家網信部門，還包括電信、公安、市場監(jiān)管等有關部門，《規(guī)定》指出，這些部門依據各自職責負責算法推薦服務監(jiān)督管理工作，地方部門則依據職責負責本行政區(qū)域內的監(jiān)管工作。然而，由于算法推薦服務往往具有跨區(qū)域、跨領域等特性，在監(jiān)管過程中亦可能同時牽涉多個監(jiān)管部門或多個區(qū)域的地方監(jiān)管部門，因此，為避免在監(jiān)管過程中因職責交叉而導致相互推諉的情況發(fā)生，還需建立跨部門跨區(qū)域的協(xié)同監(jiān)管機制。

其次，應建立完善多元共治。《規(guī)劃》明確，要建立完善政府、平臺、企業(yè)、行業(yè)組織和社會公眾多元參與、有效協(xié)同的數(shù)字經濟治理格局。

行業(yè)健康發(fā)展，一方面需要法律規(guī)范和政府監(jiān)管形成外部約束，另一方面也需要行業(yè)自律。為此，《規(guī)劃》指出，要進一步推進行業(yè)服務標準建設和行業(yè)自律。為鼓勵算法服務行業(yè)形成行業(yè)自律，《規(guī)定》第五條明確強調，鼓勵相關行業(yè)組織加強行業(yè)自律，建立健全行業(yè)標準、行業(yè)準則和自律管理制度，督促指導算法推薦服務提供者制定完善服務規(guī)范、依法提供服務并接受社會監(jiān)督，尤其對當前社會各界普遍關注的“大數(shù)據殺熟”、“信息繭房”等算法熱點問題及其法律責任進行了明確規(guī)范，為建立健全多元共治格局奠定制度基礎。

目前，我國以數(shù)字經濟為主要經濟業(yè)態(tài)和行業(yè)的發(fā)展正站在新周期起點之上，數(shù)字經濟由高速增長階段轉向高質量發(fā)展階段。治理算法已構成保障和促進數(shù)字經濟高質量發(fā)展的重中之重，其不僅關乎數(shù)字經濟發(fā)展的效率，還涉及數(shù)字經濟運行的安全，為此，盡快搭建安全規(guī)范、“以人為本”覆蓋算法應用全周期、全場景、全流程的分類協(xié)同治理機制及方式方法已成為引導算法向善、激勵算法創(chuàng)新、釋放算法正效能的關鍵。（作者：陳兵　南開大學法學院教授、司法與社會研究中心主任，中國新一代人工智能發(fā)展戰(zhàn)略研究院特約研究員）