2022-04-19 11:38:01
作者：肖夢黎｜華東理工大學法學院講師，本文原載于《探索與爭鳴》
我們已經身處一個評分社會之中，平臺信用構筑了我們的數字人格。在大數據和物聯網的背景下，現代社會的理性人逐漸轉化成可被計算的“微粒人”，智能化算法背后的權力行使者變得越來越隱秘，作為支持系統的信用評分機制更容易讓用戶放松對權力的警惕。面對線上線下不同場景的相互打通，我們已經處于物理世界與數字世界虛實同構的雙層空間之中。平臺公司不僅是簡單的基于數據做出交易決策，其還構建了人們的數字身份、特征和相關聯想，甚至會對用戶的未來機會產生影響。
隨著越來越多的企業參與到數字身份塑造的集體過程中，這一系列基于平臺的評分判斷會更深刻地塑造人們的生活。社會主體在不斷深入的連接中積累了平臺的“社會信用”，不同企業也會通過數據庫購買、從其他公司導入算法判斷等方式進一步節約成本，從而在整個社會廣泛傳播人們的算法聲譽和數字身份。這一過程可能給持有數字身份的主體帶來不合理的成本，比如在更多的領域中傳播歧視、限制未來機會與加深脆弱性等。更甚者，評分機制可能會鼓勵一種讓生活符合算法要求的新模式，以削弱人們對真實生活的判斷。與此同時，互聯網平臺產生的信用與國家信用體系的建設正以不同的方式產生聯系：政府通過大數據技術搜集社會成員的信用數據，將評分作為失信聯合懲戒的前提要件，以實現對金融領域的有效治理。政府希望通過平臺信用的推廣在社會領域中進一步提升國家能力，補強現有法律規范的效力，在政府集中供給的秩序之外提升社會治理效果。通過信用治理的層層推進，國家可以無限接近一個“數據庫國家”與“智能社會”的想象。
平臺的信用評分機制正變得越來越重要，學者們也開始對這一機制給予越來越多的關注。在平臺中充當支持性基礎設施的信用評分機制，究竟是橫向的同儕評分，還是平臺推動的新的等級化的排序社會？在過度互聯與記憶顛覆的評分社會中，如何給予收到較低評價的用戶彌補機會，或者是賦予收到錯誤評價的用戶訂正機會？當信用治理被擴展到各種社會活動中時，權力結構會發生何種變化？回應這些問題，需要對平臺信用評分機制的治理屬性進行分析，采取有效的規制措施以限制其負外部性效應，同時盡量避免公權力完全介入平臺自治機制，這無疑是多元治理下的一項重大挑戰。本文將從法社會學的角度，對平臺信用評分這種個性化、低成本的規范生成與執行機制進行討論，闡釋其與現有法治模式的沖突與交融，從中透視出人工智能時代的治理變革趨向，最后嘗試提出平臺信用評分機制實現治理功能的法治化路徑。
一、平臺信用評分機制的規制邏輯與治理變革
平臺信用評分機制起初是一種只影響特定平臺上客戶與商品/服務提供者的分布式信用，但這種評分正逐漸向集中式信用評分轉變。平臺信用評分與“征信”“社會信用體系”不但語義上有所重疊，在實際場景中也相互交融。平臺信用評分機制對于用戶信用數據的征集粒度更細密、適用場景更廣泛，但該領域的公權力監管還未完全成熟，難以達到前兩者的規制強度。于是，平臺信用評分形成了一個“自我監管社區”，建構了一種新型的權力機制，對傳統的征信邏輯與信任結構進行了挑戰與重構。
（一） 平臺信用評分機制的概念厘清
信用機制并不是新鮮產物，可以指代“理性行動者為了選擇交易對象和交易策略而可能運用到的各類信息機制的集中呈現”。在討論平臺信用機制時，首先需要厘清“信用”“征信”“社會信用體系”等語詞的確切概念。征信一般專屬于經濟金融領域，是基于資產狀況等經濟信息對主體未來履約能力的一種評價與預測。社會信用體系則以政務誠信、商務誠信、社會誠信和司法公信建設為主要內容，旨在建設一個全方位覆蓋“政府—市場—社會—司法”等領域的全民社會信用體系。信用在不同場景中的含義有所差異：它既可能指代一種性格意象，一種人際關系約定，一種可追溯的契約，也可能代表一種可計量的債務責任。總體而言，信用一詞被用于經濟范疇時，與征信的含義較為類似；被使用在更廣闊的場景時，就可能與社會信用體系發生重疊。
將視域切換回平臺信用領域，就會發現平臺信用評分機制更緊密地彌合了不同語詞間的縫隙。平臺信用評分機制中既存在類似于征信體系的B2C評分，如芝麻信用等；也有基于買賣雙方互動的C2C評分，如滴滴、愛彼迎（Airbnb）的雙方評價。一方面，由芝麻信用、騰訊征信、鵬元征信等共同發起的百行征信已經獲得了首張個人征信業務許可，而由京東數科、小米、曠視等擔任股東的樸道征信也正在申請第二家個人征信牌照。與此同時，芝麻信用下的花唄已被正式納入征信軌道，央行2021年9月出臺的《征信業務管理辦法》也試圖將更多征信主體納入監管范疇。另一方面，全民社會信用體系的建立也需要平臺企業的技術與數據資源。國務院辦公廳《關于促進平臺經濟規范健康發展的指導意見》提出要利用平臺數據補充完善現有信用體系，加強對平臺內失信主體的約束和懲戒。《中華人民共和國國民經濟和社會發展第十四個五年規劃和2035年遠景目標綱要》多個章節涉及社會信用體系的建設，并呼吁建立公共信用信息和金融信息的共享整合機制。在這個意義上，平臺信用正與征信體系、社會信用體系彼此深度嵌入，逐漸同構。
（二）平臺信用評分機制的規制邏輯
信用評分體系要處理“敘述”和“傳播”兩個問題：前者需要將定性問題轉化為定量事實，將復雜生活空間中的具體場景轉變為可以量化的指標體系；后者則要解決如何向用戶發布此類消息的問題。不同平臺會選擇不同的信用評級方式（從簡單統計到星級評定，從數字分數到等級排序，甚至是成就徽章），選擇不同的模式就意味著遵循不同的規制邏輯。
首先，平臺信用評分機制展現了數字化判斷的治理指向。平臺使用簡單統計時可以保證其對信用評定的介入最少，允許用戶基于自己的判斷做出決定。缺點是只有用戶對環境足夠熟悉，才能得出正確的結論。星級評定和成就徽章在一定程度上解決了這個問題，能夠更好地幫助用戶消化信息，同時對評級質量做出明確的判斷，適用于對信用評價質量有基本共識的場景。數字等級與排行榜等方式則更進一步，不僅賦予用戶信用判斷的權利，還展示了用戶與他人的關系，在用戶中引入了啄食順序，對社區文化產生了強烈的影響。用戶間的評級比較通常會提升貢獻動機，增強信譽系統的過濾作用，但同時也灌輸了一種競爭文化，可能會催生更多的操縱。平臺信用評級方式的變更也會產生架構式的權力，從而在一定程度上引導用戶的行為。
再次，平臺信用評分機制產生了場景化的信用外溢效應。與傳統征信相比，平臺評分機制采取了粒度更細的征信指標：既有傳統征信所使用的金融借貸數據，又囊括了金融非借貸數據與非金融數據；還可能接入通信運營商、公安、法院、社保機構等來源的多種外部數據。以芝麻信用為例，其采取“FICO”的評分體系，將評估維度分為身份特質、信用歷史、行為偏好、履約能力、人脈關系五個維度。信用分數高的用戶可以在其他場合享有信用特權。以芝麻信用為例，芝麻積分可以關聯多個平臺，打通信用借還、免押出行、極速退款等服務，高積分用戶還可以享有快速預約面簽、多國免簽等優待。隨著線上線下不同場景的打通以及平臺向社會信用體系的主動嵌入，平臺信用體系會產生更明顯的信用外溢效應（見表1）。
表一 芝麻信用數據來源
平臺信用評分是一種被設計和開發出的聲譽機制，在未來交易中提供了一個供買賣雙方信息披露和溝通的窗口，從而為雙方建立交易信任。平臺建立評分機制的初衷是在匿名社會中鼓勵信息披露，降低交易成本，解決陌生人線上交易引發的消費者事后權益無法保障等問題。評分機制在網絡平臺中充當著支持性基礎設施的角色，可以有效緩解合同執行中的保證問題。
最后，平臺信用評分機制創設了低成本的規范生成機制。平臺信用評分機制將用戶的行為經驗轉變為標準化的計分形式，使記錄、修訂與執行規范的速度大大提升，從而使標準化的“私人立法”成為可能。一方面，平臺信用評分機制能夠促進多元主體互相監督與自我審查，在“更多聲譽、更少監管”的命題下建構自我監管社區，逐漸實現無需法律的秩序。另一方面，信用評分也會實現對其他權力機制的整合，更好地促進成文規范的實施，進一步壓縮不成文規范和市場發揮作用的空間。在這個意義上，平臺成為了行政機構授權的法律體系的私人執行者，并由其承擔失敗風險。由此政府可以在確定授權邊界的基礎上保持規制謙抑，通過助推的方式實現多元治理。
（三） 平臺信用評分機制的治理變革
第一，實現了相對于傳統征信與社會信用體系的飛躍。在信用數據的征集范圍上，平臺信用評分廣泛采取替代性數據，在很大程度上解決了“信用不可見”（Credit-Invisible）的問題。平臺信用機制中大量使用的替代性數據很好地解決了央行征信中心收錄的9.9億自然人中，僅5.3億人有信貸記錄這一問題，賦予了更多主體獲取信用記錄的資格。此外，網絡技術的引入增加了信用預測的可靠性、數據的及時性，并且成本較為低廉。與此同時，相較于社會信用體系主要記錄失信信息的特征，平臺信用評分的信息記錄更加全面（見表2）。
表二 不同信用征集機構的模式差異
第二，實現了對法治模式與傳統信任機制的顛覆與重建。平臺信用評分以“數據—算法—后果”的數字化信用系統取代了“法律—行為—后果”的傳統法治模式，一定程度上促成了無需法律的秩序。這種強迫不再來自“槍的尖端”，也并非由國家權力所統攝。相反，信用評分機制的監督效力源自于“凝視”，來自一種不斷觀察的系統與不斷被觀察的自我意識的結合。平臺主導的信用評分機制使傳統的、經驗性的信任秩序轉而成為基于數據的算法控制與精確預測，實現了對傳統信任模式的重構。信用算法在自身運轉過程中產生了新的價值系統，看起來是平臺基于現有的價值系統來識別與糾正用戶行為，實則是數據控制者將原則轉化為算法，通過算法的分析和決策產生評估結果。數據驅動的算法將傳統的治理系統轉變為數據生成器，而數據生成器本身則通過另一套原則和目標進行管理。
第三，催生了新的權力結構與權力生態。隨著平臺經濟時代的到來，“國家—社會—平臺”的三元權力結構逐漸沖擊“國家—社會”的兩元權力結構，平臺成為了社會治理的重要力量。平臺信用評分機制既催生出包裹在技術中的平臺私權力，又拓寬了公權力的治理領域。平臺與政府在該場域內的權力邊界是相對模糊的，雙方都在通過彼此的試探碰觸，來嘗試界定自己相對于其他權力主體的確定位置。在信用數據從商業化到治理工具化的過程中，政府期待通過吸納平臺信用來施行更為有效的算法行政。在這個意義上，對于平臺信用評分機制的建設和發展，政府是樂見其成的。平臺信用評分機制可視為國家信用體系建設的基礎設施，在一定程度上提升了政府的統計能力與治理水平。
二、平臺信用評分機制的規制功能
平臺信用評分是一種參與式的信用征集方式。對用戶而言，實現了一種新的賦權，將一定的權力讓渡給被評級者自身；對平臺而言，信用評分是一種重要的自我規制措施，能夠以較為溫和的方式執行平臺規范。對現有的法律秩序而言，平臺信用提供了一種新的維度與可能，塑造出智能時代分布式的決策與回應型的法律。
（一） 促進賦權與分權的平衡
信用評分機制實現了網絡空間內對消費者的充分賦權與參與式治理，豐富并優化了市場的多元權力類型。平臺信用評分機制最初是一種分布式、具體定制的評分方式。這種評分方式將評價權交還給用戶與消費者，意在實現一種體現多元價值的“參與式治理”。消費者能夠通過撰寫和閱讀在線評論來交流信息、觀點和經驗，促進商家改進行為。平臺信用評分機制就像“第二只看不見的手”，可以有效引導市場，使第一只“看不見的手”變得更有力量。信用評分機制在效用上優于傳統的強制披露方式，平臺以評級、排名等柔性舉措向消費者提供建議是更為可取的。信用評分體系一直在不斷演進，從單純提供警示黑名單到綜合各類指標的中性系統，平臺信用評分系統完成了從風險預防者到商業建構者的轉變。
更為重要的是，平臺信用評分在集中規制與消費者權利之間找到了新的平衡點。平臺信用評分機制是一種由社群自主驅動的信用評價模式，聲譽反饋可以催生出“更知情的消費者”。基于消費經歷做出的分散化評價形式，能夠對規制機構制定的集中式標準進行挑戰。隨著公共治理“更多聲譽、更少監管”的轉向，平臺用戶通過信用互評可以實現與商家的雙向鉗制，構成了新的權力平衡點。在社會治理的外部視角中，平臺的聲譽機制一定程度上替代了傳統的政府監管，從而實現了對其他權力機制的限制與整合。
（二）生成自我規制秩序
平臺出于聲譽的考慮會主動進行有效的自律規制。對互聯網平臺而言，市場中過多的欺詐行為會影響流動性，減少平臺的交易量，因而平臺有動機制定并執行更高的自律準則，給市場參與者提供一個公平、透明與高效的市場。
首先，信用評分機制能夠幫助平臺對用戶未來的行為進行精準預測。基于用戶評價或系統反饋，平臺可以相對準確地預測用戶未來的行動方式。其次，信用評分機制能夠幫助用戶了解并執行平臺規范。當評級與其隱含的反饋被用來指導其他用戶的選擇時，平臺就建立了一個獎懲體系。平臺聲譽機制的廣泛生成，提升了用戶對重復博弈的預期。最后，信用評分機制充當著支持性基礎設施，可以有效預防糾紛的發生。
對平臺而言，通過聲譽機制篩選出誠實交易者來避免未來的糾紛是至關重要的，這可以通過對信用較高者提供額外獎勵來實現。在線聲譽有更強的穩定性、及時性、豐富性和便利性，以聲譽為依據的制裁也更有針對性。信用評分機制是對用戶進行處罰的前提，平臺通過聲譽處罰實現了對平臺用戶的社會控制。
（三）塑造回應型法律生態
平臺信用評分機制暗合了分布式決策下對規范的新認知：隨著網絡技術的迅猛發展，法律理論需要著眼于權力分散化的趨勢與自治系統的合法生產。法律不再是自上而下、建立在預設規則體系上的系統，而是一個自下而上的，靈活、異構和不完全規則的生成過程。以平臺信用評分為代表的新型規范機制與法律規范的特性并不相悖，隱于評分機制背后的代碼同樣承擔著減少不確定性、穩定相互間期望與增加交互性等功能。信用評分等新型規范與傳統法律間存在某種親緣性，在很多場景下可以相互重疊、彼此替代。
在這種情況下，法律需要清楚意識到對網絡自治系統直接干預可能產生的問題，法律僅需對其施以糾正性的干預，不可能也不必要塑造它們的基礎規范。國家的直接干預措施既低估了社會制度的自我構成潛能，也高估了立法者的認知能力和權力行使能力。同時，平臺企業也必須認識到自己不是一個擁有完全決策權的“孤島”。法律生態應該具有回應性，推進公私合作間的合理劃界與協調合作。
三、平臺信用評分機制的規制風險
平臺信用評分是一種行之有效的治理手段，在平臺自治與政府監管兩個維度都顯著提升了治理效果，但仍不能忽視這一機制存在的規制風險。多維度的信用評分構成了個人的數字化行為履歷，可能形成評分社會與排序社會，從而固化偏見, 給主體貼上難以移除的標簽。一方面，由于平臺與用戶間的技術差距與數據鴻溝，算法透明與算法可知幾乎無法真正實現。另一方面,平臺信用評分機制面臨著與其他算法有別的解釋悖論：評分算法不透明會影響用戶的知情權，但規則透明反過來又會增加操縱。
平臺信用評價機制容易被包裝成平等、民主的參與性行為，而忽略其作為處罰行為前置條件的權力屬性。
（一）平臺信用評分機制與傳統征信系統的共性風險
平臺主導的信用評分體系多通過數字表示，信用分值來自對用戶單個操作的數據收集與對其未來行為的類型化預測。簡單數值較難準確表達用戶的預期情緒與精準行為，更無法與真實世界的信用水平劃等號，這一點與傳統征信系統類似。有效的信用系統必須仔細跟蹤、報告用戶行為的各個方面，確定哪些行動與聲譽系統最為相關。這也就引發了新的悖論：若要提升評分的精準性，就需要收集用戶更多更全面的數據，但這又會引發平臺權力的進一步侵入，加劇評級用戶的弱勢地位。
平臺主導的信用評分有著傳統征信系統固有的不透明、任意評估與差別性影響等問題。平臺出于保護商業秘密的考慮，通常拒絕提供評分系統的細節，被評分者與監管者無法真正理解評分過程，更遑論對其底層算法進行監督與審計。雖然不同平臺在評價目標上有所不同，但是顯著的評分差異表明了相當比例任意評估的存在。從某種程度上看，平臺信用評分是在一個不完全嚴謹的信息收集過程之后得出的。平臺架構者還需要解決信用評級中不真實報告與報告偏見的問題，用戶可能通過刻意規避不良評價的方式進行不真實的報告，也可能在某些情形下更傾向于發布反饋。前者是不真實報告，而后者則屬于報道偏差，兩者降低了平臺聲譽評價的可靠性。
（二） 平臺信用評分機制的規制困境
平臺信用評分機制還會面臨與傳統征信體系不同的規制難題：替代性數據雖然有助于擴大信用評價的范圍，但數據非標化也引發了不當聯結與最弱環節的問題；平臺信用評分中評價主體獨立性的缺失可能引發更深層次的歧視；未知情同意與退出困難則使平臺評分體系構成了一個規制閉環，將用戶群體束縛其中，這種最初為了向消費者賦權的網絡民主機制正催生出更深層次的結構不平等。
第一，非標化與不當聯結。平臺信用評分中替代性數據的使用會引發數據質量與正確性等方面的風險。與傳統征信系統只涉及確定性指標不同，可替代數據包含了大量的行為數據、關聯數據、教育數據與社交數據等。數據的多樣性和繁瑣性使平臺很難及時公布評分依據。例如，FICO會公開自己的打分方法和標準，而沿用FICO計分方式的芝麻信用卻較少公布所涉及的指標信息，數據的非標化對用戶了解相關規則造成了障礙。
平臺信用的可移植性是廣泛存在的，行為信用與金融信用的聯通使不同平臺間很容易產生基于“同意”的反復授權。芝麻積分的場景拓展、與關聯方分享信用報告以及大數據征信等就是典型的例子。那么誰來管理不同場景下信用評價的流動，如何處理跨站點、跨公司的信譽評價，就成了無法回避的問題。在不同平臺與場景進行切換時，過度聯結可能產生最弱環節的問題，即最不安全站點的貢獻可能會損害整體評價的準確性。此外，平臺評級系統有強大的吸引力，給人以精確和可靠的錯覺，但預測算法可能并不準確。評價軟件通常是在極端的時間壓力下編寫的，設計原則不完善、算法模型與簡單編碼的問題都可能導致謬誤結果，聲譽系統的缺陷就變成了連帶責任。
第二，獨立性缺失與歧視強化。平臺信用評分機制并不符合傳統征信機構所要求的“獨立第三方”原則，無法真正滿足“業務獨立、治理機構獨立、關聯關系獨立、信息采集者與信息產生沒有關系”等要求。現有的平臺信用評分普遍存在使用本集團服務越多，信用評分越高，以及向集團內從事金融業務的部門透露用戶非公開信用信息等問題。當平臺聲譽產生廣泛的外溢效力時，就更需要審慎考慮獨立性的問題。
平臺信用評分機制容易受到利益相關者的操縱。聲譽指標越強大、越重要，意圖捕獲和顛覆它的力量就越大。信用評分算法非但沒有消除現有的歧視性做法，反而可能以更為隱蔽的方式將它們系統化。例如，當大數據征信與線上小額貸款結合時，會吸納社交平臺、電商平臺等的行為數據，可能導致居住在富裕板塊的人更容易獲得貸款。算法編寫者的偏見與價值觀會嵌入到算法中，通過信用共享進行傳播，以任意或歧視的方式縮小人們未來的生活與選擇機會。
第三，未知情而同意與退出困難。平臺信用評分中“未知情而同意”與打包授權的狀況頻繁出現。2017年，支付寶年度賬單一旦在朋友圈轉發就意味著同意使用《芝麻服務協議》，引發輿論軒然大波。多數用戶根本未曾閱讀冗長的用戶協議，可能構成未知情而同意，削弱了主體對個人信息的控制權。此外，參與者的退出機制也并不順暢，輕易退出意味著話語權的喪失。網絡效應使退出平臺的成本顯著提升，離開新浪微博并不像離開俄羅斯去美國，貼上“選擇退出”的標簽可能會加劇歧視。一些用戶協議中規定，在用戶與第三方關系尚未終止時，平臺有權不支持用戶撤銷授權，因此想退出系統的人可能發現自己還在繼續接受評級。
第四，價值層面的不平等與錯配。平臺信用評分催生了結構不平等與價值錯配。這種不平等首先體現在生產與分配上，用戶在評分過程中更像是商品而非主體，無法平等參與到評分過程中。在平臺信用評分的具體場景中，作為數據提供者的用戶成為了“沉默螺旋”中的大多數，產生了知識相對于知者的外移。繼而，這種認知錯位會加劇價值錯位。對用戶而言，平臺評分是一種操作的副產品，用戶被鼓勵生產出盡可能多的評分數據（用戶的態度要么是漠不關心，要么是警惕但被裹挾著無法作為）。對于平臺而言，評分數據意味著能夠帶來巨額盈利的價值資本，但作為數據提供者的用戶卻無法參與這種利潤分配。看似民主的信用評分中，平臺主導了規則的設置。在虛擬交互的空間中，用戶實際的不在場更可能進一步削弱控制感。
四、平臺信用評分機制規制功能的法治路徑
平臺信用數據正逐漸由分布式向集中式轉換，應用場景也逐步拓展到線下。互聯網平臺變成了規范化、大規模處理聲譽信息的主體，征信回到了萬物普遍聯系的最初設想。監管部門需要在程序與理念上予以糾偏，對于平臺信用評分機制的監管強度應略低于對傳統征信業的監管，但仍應提取其立法精神加以參考。
（一）確立法治化的評分規制理念
公權力在對平臺信用機制進行規制時，應秉持“增量賦權”的制度思路。遵循“國家立法權與民間創議權的良性互動，讓政策指導與行業自治彼此交融”，在鼓勵創新與保護用戶權益間實現平衡。前提是要了解平臺信用評分的規制機理與實現技術，賦予其一定的“飛地自由”，當其突破自我規制界限時允許公權力介入。監管理念要對創新驅動的自我規制秩序進行觀察與修正，尋求制度結構和社會結構的匹配路徑。對平臺信用評分的治理既要保護網絡的創新潛能，確保技術解決方案的安全性，也要保證它們的開放性和互操作性。
監管體系需要在平臺自治與政府監管間維持一種微妙的均衡。在平臺自我規制有效的情況下，政府需要保持克制，只對平臺進行糾正性的干預，不要試圖塑造它們已經形成的自律性基礎規范。但當平臺信用評分可能給用戶權益或未來選擇機會造成不利影響時，就需要公權力對其適用范圍進行限制，嚴格限定使用評級的領域。具體而言，信息收集階段需要秉承目的限縮、信息收集完整、敏感數據禁止收集等原則；使用與共享階段要堅持消費者明確的知情同意原則，在向第三方提供消費者的信用數據時，需要最大限度地驗證使用者的身份和使用目的，輔之以嚴格的監管與懲處規定，信用信息的公布只能在明文規定的有限場景下，并注意信用信息的及時更新。
政府應堅持技術賦權與正當程序的雙重原則。一是要采取技術規制的思路，增強政府的數據治理能力，通過身份驗證等技術進行有效追蹤，以實現公共政策的治理目標。更為重要的是，政府不可直接以平臺評價作為處罰依據，而應結合多種評價標準綜合判定。二是清楚限定平臺信用評分的適用場景，防止“一處失信，處處受限”的不當聯結。三是鼓勵平臺建立信用評分的正當程序，完善救濟手段。這可通過政府對透明度高的企業予以獎勵的方式實現，助推其他企業提升規范制定水平與執行質量。
（二） 促進數據分享與控制的法治化平衡
對平臺信用評分的治理要正視信用數據的公共性與可分享性，處理好不同主體間信息共享的區分性原則。個人信息保護主要適用于用戶與平臺之間，平臺與其他主體間的數據共享不適用這一原則。其一，平臺對用戶行為數據進行精細化收集時，應列明負面清單，可參照《征信業管理條例》的相關規定，禁止收集可能引發歧視的信息。其二，商業主體與政府機構間的數據分享與整合是必要的，要有意識地限制一些超級平臺為了追求所謂業務閉環，以保護用戶隱私或者商業秘密的理由拒絕向政府披露相關信息。其三，信用評分數據因其特有的公共性價值，由國家所有可能會更好地行使“所有權優勢”，繼而通過稅收等方式調節市場，最終實現對公共利益的“反哺”。因此，在平臺主導的信用評分中，可考慮用公有化矯正數字基礎設施的牟利性，用公權力的介入彌補公眾參與的不足。
平臺信用評分機制應區別用戶評價與信用評分兩個部分。用戶評價屬于企業的公開數據，每個人都可以查看。公開的評級能夠提示潛在交易方，形成聲譽壓力，在管理此類數據時，對惡意抓取進行限制即可。用戶的信用評分則屬于可識別的個人信息，在用戶知情并授權的條件下才能共享。用戶需要清楚知悉自己的信用評分在哪些場景下可以使用，會產生何種不利后果。若平臺信用評分存在錯誤，用戶有權利提出異議、要求更正或撤銷，或者要求恢復信譽、消除不利影響。
（三）實現評分算法治理的法治化
對平臺信用評分算法進行治理的核心是用客觀性矯正“算法黑箱”。在算法設計階段，既要建立基準，進行技術規制，又要加入“人機回圈”等方式，注入除設計者外的民主化濾鏡；在算法適用階段，需要通過算法解釋與算法審查并行的方式保障用戶的知情權。
其一，算法設計階段需建立基準。平臺信用評分算法基準的建立是至關重要的，能夠在一定程度上解決不同領域內信用算法的不當聯結問題。從歐盟的經驗來看，不同國家相異的聲譽制度可能會給歐洲單一市場造成新的障礙，因此要在歐盟層面協調在線評級與審查系統的相關規則。現有對在線評級制度的監管舉措是非均衡的，既有標準、指導方針、立法提案，也有不同法院的司法判決，需要提取其中的關鍵性要素，為后續的監管規范化提供參考。其中，基于買賣雙方互動的C2C評分是規則混亂的重災區。首先，要考慮透明度的問題。聲譽系統的運營商必須公平、清晰、透明地向用戶提供在線評論的發布與處理方式，說明評論發布前是否要受到平臺的審查。用戶協議中應包括提交評論的基本原則、評論權重與展示方法等，通過用戶易于理解的方式進行說明。其次，架構問題也需要納入考慮。評價系統是開放還是封閉，如何驗證用戶身份等可由市場自主決定，但平臺不應就評論的來源誤導用戶。平臺運營商可設置合適的激勵機制，或通過技術手段減少報告偏差。例如，易貝（eBay）不給賣家提供對買家進行負面反饋的選擇，以減少因害怕報復性反饋而不愿評價的問題。最后，要關注平臺主導的綜合評級的風險問題。綜合評級有助于減輕信息過載，多以星級或分數的方式呈現，會深刻影響消費者的購買決策。綜合評級是基于某種信息聚合的模型，意味著某種選擇性披露，其中的算法透明更不易實現，因此適宜由司法部門根據個案具體裁決。
其二，算法適用階段需完善算法解釋與算法審查機制。監管機構針對不同類型的算法應采取分類治理的方式。高風險算法是對個體產生重要影響的算法，如信用貸款審批、電子招聘、醫療服務、教育或顯著影響個人習慣或選擇的自動化決策。在面對高風險算法時，GDPR規定“應為數據主體提供自動化決策中運用邏輯的有用信息，與對數據主體可能造成的后果”。美國《算法審查法案》則規定，應詳細說明包括算法設計、訓練數據和算法目標在內的信息。算法解釋與算法透明是一體兩面的，算法透明可視為對算法設計與使用方的義務設定，算法解釋則是對受算法影響者的具體賦權。算法解釋權可以通過軟件驗證、加密承諾、零智商證明原則等技術來實現，同時可引入統計模式識別和偏見評級的自動校正系統。“人機回圈”原則通過補足人類智慧的方式來優化算法，可為算法決策過程注入民主化要素。比如，淘寶網的“大眾評審制度”與“閑魚小法庭”就可為評分和處罰過程增加參與性與民主性。對作為規制者的平臺而言，加強風險溝通有助于提升公眾的信任度，促使其決定合法化，改善決策質量。對公眾而言，無可能也無必要對每項算法都提出解釋需求，若這樣也等于基本告別了算法統治下的現代社會。
如果公布算法或者解釋算法中的各項權重因素確有困難，可考慮制定類似藥品說明書的算法說明書。雖然制藥工藝受專利與商業秘密保護免于披露，但功能主治與禁忌說明應該公開。算法設計與使用者應對核心算法的邏輯、目的等加以公布，對涉及的敏感因素予以提示。平臺信用評分也應向征信機構學習，公開指標體系，既提供信用評價與信用報告，也進行信用評分分析與信用信息的變化預警，從而更好地對用戶進行信用教育。
（四）探索程序化的信用評分模式
結語
在人人皆處其中的評分社會中，應肯定平臺信用體系在降低交易成本與塑造信任等方面的積極作用。這一在線聲譽體系對傳統的消費者保護形式進行了有效補充，但仍可能因制度和設計上的缺陷對消費者造成誤導或產生實質性傷害。更甚者，平臺信用評分的外溢效應可能導致價值上的錯位，營造出一種迎合算法生活的新趨勢。在平臺評分算法構筑的“規訓”空間內，主體價值的找尋就成為了重要課題。因此有必要建立新型的監管框架，通過算法基準與程序機制的設置確保平臺信用的有效性。監管核心在于厘清公權力與平臺自治的邊界，一方面運用程序規則限制平臺的自由裁量與權力擴張，另一方面允許用戶進行自我選擇，使法律擁有更好的回應性。在工業社會向算法社會的轉向中，通過個人自主性的提升來反對平臺集權，是一種可行之道。
《數字法治》專題由華東政法大學數字法治研究院特約供稿。專題統籌：秦前松
編輯：海洋