《網際網路資訊服務演算法推薦管理規定》釋出

《網際網路資訊服務演算法推薦管理規定》釋出，作為我國首部聚焦於演算法治理的部門規章，《規定》的落地給到使用者更多自主選擇權，《網際網路資訊服務演算法推薦管理規定》釋出。

《網際網路資訊服務演算法推薦管理規定》釋出1

近日，國家網信辦等四部門聯合釋出《網際網路資訊服務演算法推薦管理規定》，規定對當下隨處可見的演算法推薦進行了各項制約，包括不得利用演算法遮蔽資訊，過度推薦、操縱榜單，不得根據消費者的偏好、交易習慣等特徵利用演算法在交易價格等交易條件上實施不合理的差別待遇等。（據1月5日人民網）

“演算法”進入我們生活的方式，就好像是一場突如其來的暴雨，當你還沒來得及反應時，已經鋪天蓋地。各種軟體、APP，社交平臺打著“為你好”的名義，拼命地將大資料研判認為你所喜歡的訊息塞給你，點選過一件商品，立刻就有幾十件同類商品湧入視野；看過一個短視訊，下次就會有一堆風格內容相似的短視訊推送過來；甚至看個新聞，都能精準猜到你喜歡看什麼樣的資訊……一開始可能覺得挺方便，久而久之，難免會有一種被窺探，被控的感覺。

逐利是商業的天性，所謂的“猜你喜歡”“量身定製”不過是精緻話術，網際網路平臺利用大資料去收集粉絲使用者的個人資訊和使用習慣，用演算法推測去其個人愛好和消費需求，然後以精準推送的名義，向用戶強推訊息，表面上看，是迎合使用者習慣，幫大家節省了搜尋時間，實際上不過是一種變相的“強行推銷”。

人的喜好和興趣都是會變動的，乍見之歡不等於長久之喜，自己都不見得完全瞭解自己，資料又怎麼可能真的瞭解呢？只憑“演算法”去推薦或遮蔽某些資訊，甚至操縱各類榜單，對不同的使用者“看人下菜碟”，事實上是一種“資料霸凌”。憑藉著大資料的強大功能，給使用者打造越來越狹隘的“資訊繭房”，還築起高高的圍牆，自以為是地“投喂”，讓很多人的視野越來越狹窄，資訊源越來越單一，就很容易偏聽偏信、上當受騙。所謂“大資料殺熟”“演算法歧視”，其實就是建立在這種資訊嚴重不對稱的基礎上，對消費者知情權和選擇權的無形剝奪。

演算法作惡，此前已經有過諸多議論，類似於“大資料殺熟”“千人千價”之類的問題，消費者反映強烈，多地都曾有消協介入。而《網路安全法》《資料安全法》等相關法律政策中，也對於演算法推薦的管理規範有所涉及。但一直以來，由於缺乏專門的法規和可操作性強的措施，演算法對於使用者的干涉愈演愈烈。四部門聯手出臺規定，規範演算法，至少是對這一技術的應用有了更為明確的約束——要求演算法推薦服務提供者保障演算法知情權，使用者必須知道，演算法在執行，怎麼執行，執行的基本原理、目的意圖和主要執行機制；保障演算法選擇權，不針對使用者個人特徵的選項也要提供，使用者有便捷地關閉演算法推薦服務的權利。

誰也不想總被算計，誰也不想成為資料的奴隸，所以，對演算法的規範管理贏得了一眾叫好聲，但其中也不乏擔憂的聲音。那就是，大資料無處不在，無形無狀，難以留下證據和痕跡，怎麼管才能管得住，怎麼管才能管得好，如何保證服務提供者按照規定去做？看上去詳細的法規會不會淪為一紙空文？這些是每一個網際網路使用者最為關切的，也是當下迫切需要細化和落實的。

演算法技術本身無罪，但人如何使用技術，就應有法律與道德的約束。要管好演算法，不讓它成為算計使用者的陷阱，就要管好演算法背後的人，暢通使用者的投訴渠道，並且建立規範嚴謹的稽核機制，制定嚴格的審查和處罰制度，讓監管技術算得比演算法更精更細，不能只讓演算法放肆地“監視”使用者，更要以銳利雪亮的眼睛，盯住操控演算法的每一雙手，多方介入，多管齊下，推動演算法推薦服務規範發展，讓使用者合法權益得到最完善的保護。

《網際網路資訊服務演算法推薦管理規定》釋出2

[ 演算法的複雜性以及演算法使用者的刻意隱瞞，使得絕大多數人無法理解演算法的工作原理，導致作為演算法使用者的大型科技公司，特別是那些幾乎控股了所有與個人生活行為相關的數字平臺公司得以處於事實上的支配地位，形成“演算法霸權”。 ]

我國演算法推薦政策明確落地，演算法歧視、“大資料殺熟”、誘導沉迷等演算法不合理應用都將在新規定下受到監管。

《網際網路資訊服務演算法推薦管理規定》（下稱《規定》），由國家網信辦、工信部、公安部和市場監管總局等四部門聯合制定，將自2022年3月1日起施行。根據《規定》，演算法推薦服務提供者應當向用戶提供不針對其個人特徵的選項，或者向用戶提供便捷的關閉演算法推薦服務的選項。使用者選擇關閉演算法推薦服務的，演算法推薦服務提供者應當立即停止提供相關服務。

多位接受第一財經記者採訪的行業人士表示，作為我國首部聚焦於演算法治理的部門規章，《規定》的落地給到使用者更多自主選擇權，矯正過去平臺商業利益最大化的傾向。其背後有對《反不正當競爭法》《資料安全條例》《個人資訊保護法》（下稱《個保法》）《未成年人保護法》的延續，也意味著2022年，我國進入演算法監管元年。

從野蠻生長到有法可依

近年來，演算法應用在給政治、經濟、社會發展注入新動能的同時，演算法歧視、“大資料殺熟”、誘導沉迷等演算法不合理應用導致的問題也深刻影響著正常的傳播秩序、市場秩序和社會秩序，給維護意識形態安全、社會公平公正和網民合法權益帶來挑戰。在網際網路資訊服務領域出臺具有針對性的演算法推薦規章制度，是防範化解安全風險的需要，也是促進演算法推薦服務健康發展、提升監管能力水平的需要。

此次《規定》明確，應用演算法推薦技術，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、排程決策類等演算法技術向用戶提供資訊。深度科技研究院院長張孝榮對第一財經記者表示，無論是網站還是移動APP，都屬於演算法規定規制範圍。重點來看，受此次《規定》影響較大的包括拼多多與淘寶等電商類、頭條抖音系的內容類、百度搜索類以及其他行業等。演算法規定涵蓋了資訊服務規範、使用者權益保護、 監督管理、法律責任等多方面內容，對維護使用者權益保障行業有序發展起到了積極推動作用。

透鏡公司研究創始人況玉清對第一財經記者表示，《規則》是國內首個有明確界限和操作指引的演算法監管規則。這種發展規律在況玉清看來，是大資料行業應用普及到一定程度的必然結果——行業發展規律便是商業化走在監管之前，任何創新行業皆是如此。

世輝律師事務所合夥人王新銳將2022年稱為“演算法監管元年”，他稱，無論是中國的《個保法》，還是歐盟的GDPR，均對自動化決策作出了原則性規定，而類似《電子商務法》《反壟斷法》等法律及配套規則，也對大資料殺熟、濫用演算法排除競爭作出了原則性限制。但上述法律規則無論是對行為還是結果進行規制，目前都非常抽象，操作性不強。

Marteker創始人馮祺對第一財經記者表示，演算法作為技術本身，並未起到真正的“科技向善”作用，甚至對消費者造成騷擾。《規定》的落地本質上來說是一件好事，讓廣告營銷人“帶著鐐銬跳舞”，讓行業從野蠻生長到有法可依，讓平臺更側重於保護使用者的權益，推出使用者真正需要的內容與服務。

當然，平臺需要一定的適應期，馮祺稱，比如通過聯邦學習技術多維度參考，從群體中提取共性；另外，通過內容營銷、KOL營銷、廣告植入等方式，也具備較好的效果。

要推薦，不要霸權

一位長期關注網際網路行業的人士對第一財經記者表示，此次監管重點選擇落地在演算法層面，一大原因在於演算法對應的恰恰是使用者權益——《規定》內容中提到，網信部門會同電信、公安、市場監管等有關部門建立演算法分級分類安全管理制度，同時根據演算法推薦服務的輿論屬性或者社會動員能力、內容類別、使用者規模、演算法推薦技術處理的資料敏感程度以及對使用者行為的干預程度，對演算法推薦服務提供者實行分類分級管理，一定程度上體現了精準治理的立法理念。

其中，該人士稱，“輿論屬性”包含了使用者評論與發言，“社會動員能力”則是指平臺所服務的使用者基數。而網際網路營銷區別於常規營銷的最大特點，正是使用者畫像，演算法的目的就是找到最精確的衡量標準。

此前行業有“演算法沒有價值觀”的觀點，引發一番辯論。但隨著平臺規模的擴大，演算法價值觀也被動附帶上平臺的傾向性。“先有傾向性目標，後有傾向性演算法。向善的服務提供向善的演算法，‘不善’的服務提供‘不善’的演算法。”上述人士表示。

近年來，以金融行業為例，為了獲得平臺公司的金融服務，中國消費者往往需要向其提供個人資訊，進而產生過度採集資料的問題，如在2016年至2017年“現金貸”高速增長期間，出現買賣借款人資訊的情況。

此前在第三屆外灘金融峰會上，中國金融四十人論壇資深研究員、清華大學五道口金融學院院長張曉慧表示，演算法的複雜性以及演算法使用者的刻意隱瞞，使得絕大多數人無法理解演算法的工作原理，導致作為演算法使用者的大型科技公司，特別是那些幾乎控股了所有與個人生活行為相關的數字平臺公司得以處於事實上的支配地位，形成“演算法霸權”，從而嚴重危害了演算法相對人也就是消費者的合法權益。

貴州資料寶產品研究院院長李可順對記者表示，《規定》的落地，一個比較明顯的影響在於通過演算法高強度曝光某些視訊或商品，讓消費者過度消費甚至做出錯誤消費決策的行為得到收斂。而不好的內容或商品將無法獲得演算法紅利加成，平臺非“合規”收入增速將趨緩。

當然，李可順認為個性化推薦只是演算法推薦的其中一方面，從技術角度看，演算法分可解釋性強與可解釋性弱兩類，前者更易於審查，因此現階段實際並沒有非常完善的演算法標準過渡方案，讓消費者掌握是否個性化推薦的主動權，是解決方案可選項之一。

王新銳表示，演算法本身並不是新技術，但因演算法應用產生一些社會問題近幾年日益受到各界關注。相比資料，演算法的技術性更強，更不容易被描述和感知，因此如何制定和執行規則就更為困難。

演算法紅利期是否會終結

演算法濫用對行業、對消費者的負面影響早已暗自滋長。

此前微博釋出公告稱將加大力度處理熱搜榜熱門話題榜刷榜行為，對刷榜行為的直接受益者進行處罰。為的是確保熱搜榜、熱門話題榜的真實可信，不斷對產品本身進行演算法升級，並設定了以大資料識別為基礎的防刷體系。對於存在作弊特徵的行為，系統都會實時進行識別和攔截。

但據記者從娛樂行業以及接近微博方面人士處瞭解到，微博外有大批供應商企業，可以通過小號贊等方式，進行輿論引導。

當時微博調整的核心便是引入編輯人工干預的模式，將演算法挖掘作為基礎，在排序和選擇上放棄純粹演算法的方式，引入編輯對違反有關法律法規的內容、社會負能量的資訊、過度娛樂化的資訊進行人工干預。

微博之外，電商與短視訊行業也在演算法監管逐漸落地期間進行自我調整。2021年10月，天貓、京東在發貨環節上對消費者訂單中涉及個人的敏感資訊進行加密處理，軟體服務商與商家從淘寶開發平臺或訂單推動服務中已無法獲得收件人隱私資訊。

《資料安全條例》出臺後，微信更新《隱私保護指引》，新增“視訊號、公眾號、看一看、搜一搜個性化推薦或展示機制”，增加個性化自主控制路徑。包括抖音、快手、今日頭條、B站、小紅書等平臺均在2021年11月初完成針對隱私政策的更新。記者體驗發現，抖音與快手均將個性化廣告選擇按鍵設定在明顯位置。

聚焦於演算法政策主要影響到的短視訊與電商行業，李可順對第一財經記者表示，在短視訊等場景，演算法會偏向於大V賬號，而非優質內容小號，形成平臺內的流量壟斷行為，而這將直接影響使用者對於資訊的`公平獲取及知情權。

同時，平臺的流量也會偏向於部分頭部電商號，這些賬戶商家的產品未必優質，但在內容演算法的不斷轟炸下，使用者易受引導，進而做出異常的購買行為，甚至形成了普遍的衝動消費。

中國電子技術標準化研究院資訊保安研究中心審查部總監何延哲對第一財經記者表示，現在到了對短視訊資訊推送踩剎車的時間，預防資訊繭房效應過重，為消費者的選擇權更換更大的空間，對演算法透明度與使用者選擇權進行引導。

何延哲稱，此前各平臺已根據《個保法》對個性化推薦功能進行修正，結合當下的《規定》，平臺需要給到使用者更多的選擇權，過去的推薦個性化往往是商業利益最大化，而非真正的站到使用者角度為其提供個性化的高質量的推送服務。

此次《規定》明確了演算法推薦服務提供者的使用者權益保護要求，包括保障演算法知情權，要求告知使用者其提供演算法推薦服務的情況，並公示服務的基本原理、目的意圖和主要執行機制等；保障演算法選擇權，應當向用戶提供不針對其個人特徵的選項，或者便捷的關閉演算法推薦服務的選項。對向未成年人、老年人、勞動者和消費者等主體提供演算法推薦服務的，《規定》要求不得利用演算法推薦服務誘導未成年人沉迷網路，應當便利老年人安全使用演算法推薦服務。

但是，面對演算法，個體的監督和舉證還有一定的難度，而行業的健康發展也並不能僅僅寄希望於平臺的自我監督與完善。

《網際網路資訊服務演算法推薦管理規定》釋出3

國家網際網路資訊辦公室、工業和資訊化部、公安部、國家市場監督管理總局聯合釋出《網際網路資訊服務演算法推薦管理規定》（以下簡稱《規定》），自2022年3月1日起施行。《規定》要求，演算法推薦服務提供者向用戶提供不針對其個人特徵的選項，或者便捷的關閉演算法推薦服務的選項。來看人民網的報道↓

按照《規定》，應用演算法推薦技術，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、排程決策類等演算法技術向用戶提供資訊。

《規定》明確了演算法推薦服務提供者的資訊服務規範：

要求演算法推薦服務提供者應當堅持主流價值導向，積極傳播正能量，不得利用演算法推薦服務從事違法活動或者傳播違法資訊，應當採取措施防範和抵制傳播不良資訊；

建立健全使用者註冊、資訊釋出稽核、資料安全和個人資訊保護、安全事件應急處置等管理制度和技術措施，定期稽核、評估、驗證演算法機制機理、模型、資料和應用結果等；

建立健全用於識別違法和不良資訊的特徵庫，發現違法和不良資訊的，應當採取相應的處置措施；

加強使用者模型和使用者標籤管理，完善記入使用者模型的興趣點規則和使用者標籤管理規則；

加強演算法推薦服務版面頁面生態管理，建立完善人工干預和使用者自主選擇機制，在重點環節積極呈現符合主流價值導向的資訊；

規範開展網際網路新聞資訊服務，不得生成合成虛假新聞資訊或者傳播非國家規定範圍內的單位釋出的新聞資訊；

不得利用演算法實施影響網路輿論、規避監督管理以及壟斷和不正當競爭行為。

同時，針對群眾普遍關心的使用者權益保護問題，《規定》明確了對於演算法推薦服務提供者的使用者權益保護要求。

一是演算法知情權，要求告知使用者其提供演算法推薦服務的情況，並公示服務的基本原理、目的意圖和主要執行機制等。

二是演算法選擇權，要求向用戶提供不針對其個人特徵的選項，或者便捷的關閉演算法推薦服務的選項。使用者選擇關閉演算法推薦服務的，演算法推薦服務提供者應當立即停止提供相關服務。演算法推薦服務提供者應當向用戶提供選擇或者刪除用於演算法推薦服務的針對其個人特徵的使用者標籤的功能。

三是針對向未成年人、老年人、勞動者、消費者等主體提供服務的演算法推薦服務提供者作出具體規範。如不得利用演算法推薦服務誘導未成年人沉迷網路，應當便利老年人安全使用演算法推薦服務，應當建立完善平臺訂單分配、報酬構成及支付、工作時間、獎懲等相關演算法，不得根據消費者的偏好、交易習慣等特徵利用演算法在交易價格等交易條件上實施不合理的差別待遇等。