作者：梁正　清華大學公共管理學院教授，人工智能國際治理研究院副院長

在數字經濟時代，算法是一種重要的生產工具。算法推薦技術被廣泛應用于信息分發和媒體傳播領域，帶來“信息繭房”、“大數據殺熟”、“困在系統里”等社會隱憂，規范算法推薦活動迫在眉睫。習近平總書記在談媒體融合發展時強調，用主流價值導向駕馭“算法”，全面提高輿論引導能力。近日，國家互聯網信息辦公室等四部門聯合發布的《互聯網信息服務算法推薦管理規定》（以下簡稱《規定》）正當其時，為規范算法推薦服務提出了科學化、系統化、精細化的合規要求，織密了我國算法治理的法治之網，是構建我國算法治理體系的重要一環。

一、《規定》的重要內容和亮點

（一）明確了算法治理的對象?！兑幎ā穼盟惴ㄍ扑]技術進行了界定，即指應用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法技術向用戶提供信息?！兑幎ā丰槍λ惴ㄕ{度場景、商品定價場景、個性化推薦場景等以負面清單的方式對算法推薦服務提供者提出了具體的合規要求，回應了“騎手困在系統里”、“大數據殺熟”、“網絡沉迷”、“未成年人保護”等社會熱點問題。

（二）確立了算法治理的基本原則。在算法治理中堅持“硬法”和“軟法”相結合是國際通行做法，一方面防范重大風險發生，另一方面激發市場主體主動合規的積極性?！兑幎ā芬笏惴ㄍ扑]服務提供者既應當遵守法律法規，尊重社會公德和倫理，遵守商業道德和職業道德，也應當遵循公正公平、公開透明、科學合理和誠實信用的原則。

（三）重視自我合規，鼓勵行業自律?！兑幎ā饭膭钕嚓P行業組織加強行業自律，建立健全自律制度和行業準則，組織制定行業標準。通過行業自律和制定行業標準的方式可以將各個參與主體納入其中，利于形成多元主體共治的格局，充分發揮社會公眾的監督作用。

（四）堅持社會主義價值觀導向，促進算法應用向上向善。國際社會主張人工智能的“倫理設計”，即在人工智能設計研發階段就導入倫理規則，實現全生命周期的治理。我國強調社會主義核心價值觀，構建符合我國國情的倫理道德標準?！兑幎ā芬笏惴ㄍ扑]服務提供者應當堅持主流價值導向，優化算法推薦服務機制，積極傳播正能量，促進算法應用向上向善。特別是在算法設計過程中，算法推薦服務提供者應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等，不得設置誘導用戶沉迷或者過度消費等違反法律法規或者違背倫理道德的算法模型。

（五）突出體現以人為本，重視對特殊群體的權益保護?！兑幎ā穼τ脩魴嘁姹Ｗo進行了專章規定，要求算法推薦服務提供者向用戶告知算法的基本原理、目的意圖和主要運行機制等，以提高算法的透明度。同時，要求算法推薦服務提供者充分保障用戶選擇關閉和獲得算法解釋的權利?！兑幎ā愤€重點強調算法推薦服務提供者應當向未成年人、老年人和勞動者履行特殊的保障義務，以確保各類社會主體均獲得法律保護。

二、《規定》明確了算法治理的主要制度工具

（一）以提高算法透明度和可解釋性為基本要求，增強算法可信。算法具有“黑箱”特征，自動化決策需要人工干預，避免因算法錯誤而導致決策錯誤。同時，為了增強人們對算法的信任度，應以相對簡單、可理解的方式解釋算法規則。為此，《規定》要求算法推薦服務提供者應該采取內容去重、打散干預等策略，優化檢索、排序、選擇、推送、展示等規則的透明度和可解釋性。而且應以顯著方式告知用戶其提供算法推薦服務的情況，并以適當方式公示算法推薦服務的基本原理、目的意圖、運行機制等。

（二）確立分級分類安全管理制度，實現精準治理?！兑幎ā分赋鰬鶕惴ㄍ扑]服務的輿論屬性或者社會動員能力、內容類別、用戶規模、算法推薦技術處理的數據重要程度、對用戶行為的干預程度等對算法推薦服務提供者實施分級分類管理。

（三）提出算法備案制度和安全評估制度，提高治理敏捷性。算法備案制度可以讓監管機構及時了解算法推薦服務的內容，同時提高算法推薦服務提供者的責任意識和安全意識?！兑幎ā芬缶哂休浾搶傩曰蛘呱鐣訂T能力的算法推薦服務提供者履行備案手續，備案的內容包括服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息。

三、未來推進算法治理的幾點思考

（一）加快具體制度的落地實施，出臺算法備案和算法安全評估實施細則。備案制度和安全評估制度是實現敏捷治理目標的很好的制度設計，但具體程序、具體要求和實施機制需要明確，相關義務主體的標準也需要進一步細化。

（二）推動建立機制健全、體系完善、規則明晰的算法治理體系。此次《規定》是對算法推薦應用這一場景的治理嘗試，也是算法治理的中國方案?？紤]到算法逐漸被廣泛應用于各類場景，未來應該為算法治理建立一套普遍適用的規則體系，從而切實有效規范各種應用場景下的算法。

（三）完善多元主體協同共治的治理格局。算法治理是一項專業、復雜的長期工程，面臨挑戰和困境。算法治理應該充分發揮多元主體的作用，讓各個主體參與其中，形成治理合力。

總之，《規定》的頒布意味著我國算法治理工作進入新階段。算法推薦服務提供者應該認真學習和理解《規定》，并嚴格落實主體責任。廣大用戶也應該積極提高算法素養，有效維護自身合法權益。

作者：王立梅　中國政法大學數據法治研究院教授

規范算法推薦技術應用并系統制定規則，是我國在數字經濟快速發展、信息服務廣泛拓展的進程中，為更好地貫徹習近平法治思想，建設中國特色社會主義法治體系，在互聯網信息服務領域進行的一項重要制度設計?！痘ヂ摼W信息服務算法推薦管理規定》（以下簡稱《規定》）是我國互聯網法治建設進程中的重要一步，體現了中國特色社會主義法治建設的正確價值導向、科技向善的倫理取向、協同共治的新型格局、全程監管的風控理念以及對特殊群體的人文關懷。

首先，《規定》系統打造了互聯網信息服務算法推薦治理方案，具有全球示范性和國際引領力。

算法推薦活動，本質上是一項信息自動化篩選、個性化分發的行為，需要以信息采集及分析等處理為基礎，其中既蘊含了隱私權、個人信息權益、企業利益保障等問題，又關系國民注意力治理等價值命題。將算法推薦技術應用到商業化信息服務中，能夠有效提升用戶偏好與推薦內容的匹配程度，也容易造成用戶過度沉迷、認知窄化、過度消費以及產生新型歧視等問題。從全球立法實踐來看，尚未有如此精細程度與關注廣度的系統性規定。我國率先推出這部綜合治理互聯網信息服務算法推薦的管理規定，在全球范圍內具有顯著的示范效應，在算法監管領域也起到了以制定規則引導科技應用、以適度干預促進應用發展、以科學協調多方長遠利益落實新發展理念的效果。

其次，《規定》與《網絡安全法》《數據安全法》《個人信息保護法》等相關立法緊密銜接，共同構建多層次的互聯網信息服務算法推薦規范體系。

作為一部由國家網信辦、工業和信息化部、公安部、市場監管總局聯合制定發布的部門規章，《規定》既承接多部上位法的管理要求，又體現出算法推薦根源于數據信息活動的特征，還成為了具有創新性和可操作性的行動指南。一是，在違法和不良信息監管方面，《網絡安全法》第四十七條規定了網絡運營者應當加強對違法信息的管理，《規定》第九條第二款承接細化，規定“發現違法信息的，應當立即停止傳輸，采取消除等處置措施，防止信息擴散，保存有關記錄，并向網信部門和有關部門報告”，并進一步要求“發現不良信息的，應當按照網絡信息內容生態治理有關規定予以處置”。二是，對于《數據安全法》第二十七條規定的數據安全保護義務，在《規定》第七條集中得到了落實體現，明確了算法推薦服務提供者的算法安全主體責任，對建立健全數據安全和個人信息保護等的管理制度和技術措施、制定相關規則、配套相應人員和技術支撐等作出了要求。三是，在自動化決策方面，《規定》第十七條第一款承接《個人信息保護法》第二十四條第二款和《電子商務法》第十八條第一款，規定用戶選擇關閉算法推薦服務的，算法推薦服務提供者應當“立即停止”提供相關服務；《規定》第十七條第二款承接落實了《個人信息保護法》中個人信息主體所享有的選擇、刪除等權利，第三款明確提出了算法推薦服務提供者應用算法對用戶權益造成重大影響的，應當依法予以說明并承擔相應責任。四是，在特定領域的應用方面，按照《互聯網新聞信息服務管理規定》第五條要求，《規定》第十三條明確要求“算法推薦服務提供者提供互聯網新聞信息服務的，應當依法取得互聯網新聞信息服務許可”。五是，《未成年人保護法》第七十四條第一款規定網絡產品和服務提供者不得向未成年人提供誘導其沉迷的產品和服務，《規定》第八條和第十八條作了進一步細化，提出了“不得設置誘導用戶沉迷”的要求，并設置了保護未成年人的專門條款。

最后，《規定》堅持問題導向，回應社會關切，在治理格局、價值導向、風險控制、權益保障等方面作出全面制度設計。

一是，《規定》構建了協同共治的治理格局，明確了算法推薦服務提供者的算法安全主體責任。例如，第七條規定了算法推薦服務提供者要建立健全算法機制機理審核、科技倫理審查等管理制度和技術措施，制定并公開算法推薦服務相關規則，配備與算法推薦服務規模相適應的專業人員和技術支撐，既賦予算法推薦服務提供者以能動發展的空間，同時也設定了相應的主體責任，有助于與監管部門形成良性協同的治理格局。二是，《規定》明確了算法推薦服務提供者應當堅持主流價值導向、促進算法應用向上向善的基本要求。例如第八條規定了算法推薦服務提供者不得設置誘導用戶沉迷、過度消費等算法模型，這是將科技向善理念落實為具體業務要求的突出體現。三是，《規定》體現了對數字時代泛風險特征的控制，形成了集事前、事中與事后監管于一體的全流程監管機制。例如，第六條規定了算法推薦服務提供者不得利用算法推薦服務從事危害國家安全和社會公共利益等行為的禁止性義務，第十四條規定了算法推薦服務提供者不得利用算法實施影響網絡輿論或者規避監督管理等行為，第十五條規定了算法推薦服務提供者不得利用算法實施壟斷和不正當競爭行為。四是，《規定》凸顯了對特殊群體的人文關懷與權益保障，在互聯網信息服務日益多元化、基礎化、普及化的情況下，精細化、有側重地滿足不同群體的利益訴求。例如，第十八條規定了算法推薦服務提供者在向未成年人提供服務時，應當履行的網絡保護義務，以及便利未成年人獲取有益身心健康信息的企業責任，還提出了不得向其推送可能引發未成年人模仿不安全行為和違反社會公德行為、誘導未成年人不良嗜好等可能影響未成年人身心健康的禁止性義務；又如，第十九條關注了算法推薦服務的“適老化”問題，有針對性地提出了應充分考慮老年人出行、就醫、消費、辦事等需求，并依法開展涉電信網絡詐騙信息監測、識別和處置這一老年人保護條款；再如，第二十條回應了算法調度在勞動用工領域產生的權益保障及激勵問題，為此類算法推薦服務完善算法設計指明了調整方向。此外，第二十一條明確了算法推薦服務提供者不得濫用消費者的偏好、交易習慣等特征，利用算法在交易價格等條件上實施不合理的差別待遇等違法行為，這為制衡非對稱信息關系、解決價格歧視等問題，提供了算法治理這一新型路徑。

總體來看，《規定》針對在我國境內應用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法推薦技術提供互聯網信息服務的行為提出了系統治理方案，與《網絡安全法》等相關法律法規共同構成了我國開展新技術、新應用治理的規則體系，是數字時代提升治理能力的重要制度探索。對落實習近平總書記提出的“依法治網、依法辦網、依法上網，讓互聯網在法治軌道上健康運行”要求，打造清朗網絡空間，用主流價值導向“駕馭”算法，具有顯著的推進效果，同時還發揮著在該領域制定規則的國際引領力。期待“算法之治”能夠在持續保障廣大人民群眾“數字權益”、穩步推進數字經濟健康發展的進程中，把握住信息化變革新機遇，走好中國特色的網絡強國之路。

作者：張凌寒　北京科技大學副教授

2021年12月，國家互聯網信息辦公室聯合工業和信息化部、公安部、市場監管總局發布《互聯網信息服務算法推薦管理規定》（下文簡稱《規定》），并將于2022年3月1日起施行。這是我國第一部以算法作為專門規制對象的部門規章，具有重要時代意義?！兑幎ā氛{整的生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法，被各大平臺廣泛應用，已經成為平臺收集和處理數據、推送信息、調配資源的核心力量。平臺運行的技術邏輯是算法，平臺商業價值和競爭優勢的基礎是算法，同時，給國家利益、社會公共利益和公民合法權益帶來風險的也可能是算法?！兑幎ā妨⒆阒袊鴶底纸洕鷮嵺`與產業特色，向世界提供了平臺算法治理的中國方案，建構了具有中國特色的平臺算法治理制度?！兑幎ā窞槠脚_應用算法劃定明確的法律界限，對保障信息內容安全、維護市場競爭秩序、保護公民權益等具有至關重要的作用。

算法安全理念：明晰平臺算法治理的價值取向

《規定》所秉持和貫徹的算法安全理念與我國《網絡安全法》《數據安全法》和《個人信息保護法》等上位法一脈相承。算法安全理念，要求算法導向正確、正能量充沛，算法應用公平公正、公開透明，算法發展安全可控、自主創新，有效防范算法濫用帶來的風險隱患。

《規定》要求平臺作為算法推薦服務提供者堅持主流價值導向，重視算法安全，積極傳播正能量，不得操縱輿論?！兑幎ā废嚓P條款對未成年人身心健康、老年人合法權益、勞動者基本保障給予重點關注，充分體現了以人民為中心的發展思想。與此同時，《規定》引導算法推薦服務提供者促進算法應用向上向善，保護消費者權益，保證算法決策公平透明，這也與世界范圍內已有的算法治理實踐不謀而合。

算法安全理念內涵豐富，這與平臺算法應用涉及的社會領域廣泛性相適應?！兑幎ā坟瀼氐乃惴ò踩砟罴群w了我國一貫重視的信息內容安全，也包含著對市場競爭秩序的規范，更體現了對普通用戶和未成年人、老年人、勞動者、消費者等特定群體的用戶權益保護。

健全多元共治：深入平臺內部的算法技術監管

《規定》創新性地構建了算法安全風險監測、算法安全評估、算法備案管理和涉算法違法違規行為處置等多維一體的監管體系。這標志著我國的平臺治理直接深入到了平臺的底層技術邏輯——算法。

人工智能時代的平臺監管，既應符合平臺底層的技術邏輯，也應符合主客觀相一致、責罰相適應的法律原則?！兑幎ā方⒌乃惴夹g監管體系穿透了平臺運行的“算法技術面紗”，將平臺監管的觸角和追責視角直接指向背后的算法責任。技術的應用是包含主觀意圖的，平臺在算法設計、部署、運行中包含的主觀意圖與平臺是否盡到合理的注意義務，是平臺算法追責的根本指向。

作為算法推薦服務提供者的平臺企業要強化責任意識，對算法應用產生的結果承擔起算法安全的主體責任?！兑幎ā芬笃脚_企業應建立算法安全責任制度，設置平臺內的算法安全管理組織機構，并配備與算法推薦服務規模相適應的專業人員和技術支撐。平臺要對算法的數據使用、應用場景、影響效果等開展日常監測工作，感知算法應用帶來的網絡傳播趨勢、市場規則變化、用戶行為等信息，預警算法應用可能產生的不規范、不公平、不公正等安全問題?！兑幎ā芬笃脚_企業等算法推薦服務提供者建立算法安全責任制度，與網絡服務提供者的網絡安全運營制度、數據處理者的數據安全保障制度和個人信息處理者的個人信息保護制度一起，共同構成了我國平臺企業需建立完善的安全責任制度體系。

《規定》還勾勒出了我國平臺算法多元共治的治理體系藍圖。在平臺算法治理中，要求算法推薦服務提供者依靠自評估、第三方評估等，深入分析算法機制機理、模型、數據和應用結果等，評估算法設計、部署和使用等應用環節的缺陷和漏洞，避免算法應用產生的社會公平、道德倫理、內容管理等安全問題，共同形成了治理結構高效運行，有法可依、多元協同、多方參與的治理機制。

主體權責明確：構建平臺算法責任的問責機制

當技術造成了損害后果時，如果不能穿透技術面紗，由明確的主體來承擔責任，就會存在潛在的責任缺口。如果不能解決“誰負責”的問題，放任平臺以“技術中立”和“算法黑箱”為由繼續逃避法律責任，那么所有的治理努力最終都將失之空泛。

《規定》構建了平臺算法全生命周期問責機制。我國創新性地在世界范圍內率先設立了算法備案制度，要求具有輿論屬性和社會動員能力的算法推薦服務提供者在提供服務之日起十個工作日內履行備案手續。算法備案制度的設立，是因為合理的平臺算法問責有賴于清晰的主觀過錯認定，需通過算法備案對平臺事前和運行中的問責點進行固定，以有效判斷平臺是否可以評估、控制、糾正算法帶來的危害。算法備案是一種存檔備查的行為，目的在于獲取平臺設計部署的具有潛在危害和風險的算法系統的相關信息，為今后追責提供信息。備案本身即存在著監督效應，算法備案制度的信息披露模式、內容、范圍的設置體現了對于監管與自律、商業秘密與算法透明、源頭治理與事后追責等利益的衡量。

《規定》第五章“法律責任”則明確規定了算法推薦服務提供者如違反相關規定，需承擔的法律責任，責任形式包括警告、通報批評、罰款等，必要時還將給予治安管理處罰和追究刑事責任。主體權責明確的平臺算法問責體系，必將為實現我國算法治理安全目標起到關鍵作用。

算法規制與平臺治理是人工智能時代世界各國面臨的重要議題?！兑幎ā返某雠_不僅直接將算法作為規制對象，更使得平臺治理的層次與方式邁上了新的臺階?！兑幎ā纷鳛槲覈惴ňC合治理體系的重要組成部分，勢必在提升算法創新能力，促進平臺算法應用安全，增強我國平臺企業核心競爭力等方面發揮重要作用。