中國的社會信用體系會威脅瑞士這樣的民主國家嗎？

即使是一個只獎勵不懲罰的積分系統，也可能將積分少的人推向社會邊緣。 Vera Leysinger / SWI swissinfo.ch

許多中國人都沒有意識到身邊存在的社會信用體系，只有當興致勃勃地去乘高鐵、坐飛機，甚至買房時，才會突然發覺自己的信用值好像「不夠用」了。中國的社會信用體系甚至引發了其他國家的擔憂，人們擔心自己的周圍也會出現類似系統。目前一個瑞士團隊正在研究民主國家該如何防範社會評分系統的侵入。

阅读本文简体字版本请 点击这里

雖然每個人都嚮往更文明的社會生活：車好好停、綠帶無人破壞、人人都能守信，但如果用“社會信用體系”去矯正這些行為，又難免會帶來對個人權利的損害，西方不少學者甚至擔心會因此傷害到民主。

一個社會，對規範停車和生活健康的人予以獎勵，這樣的措施令某些人歡欣鼓舞，卻也讓許多人深感憂慮。因為即使是一個只獎勵不懲罰的積分系統，也可能將積分少的人推向社會邊緣。

中國的試點計畫和反烏托邦影片挑起了許多人對此敏感的神經：對政府持批判態度的人擔心這是國家的一種“助推”(Nudging)行為，另一些人則開始大談社會評分、獎勵和社會信用體系。

「中國的標準，不應該，也不是我們西歐社會所要的，」Johan Rochel表示。 Rochel是為瑞士技術影響評估基金會(TA-Swiss)研究此主題的團隊成員之一，研究的結果將於2026年發表。

未來德國：與直接民主結合的獎勵系統

早在2020年，由德國科技部委託出具的未來研究報告(德)外部链接就構想出一個情景：在2030年代，德國將落地一套“獎勵系統”。

研究認為：這套獎勵系統可以提升德國人的生活質量，因為「各類數據將優化民生保障系統」。積分系統會成為「預測和導向的工具，協助優化經濟發展並實現政策目標」。

不過該項未來研究也指出，在德國代議制民主框架下，社會評分必須與直接民主工具結合。有點像瑞士模式。

在這種情境下，一種新型的“數位化流動民主”將成為系統的“遊戲規則”。

生活在德國的人將藉助數位助手，不斷修正究竟哪些行為值得稱讚：文明的？生活方式環保的？戒酒的？所有人都要參與系統的規範與獎勵。

這項未來研究共為2030年規劃了6種情景，並指出其中的“獎勵機制”存在弊端：會引發“新的衝突”。積分一旦減少就可能因難以擺脫困境，而成為“長期擺爛者”。

歐盟禁用：人工智慧的社會評分

雖然這項研究在2020年時就已發布，但其描繪的場景卻越來越難以成為現實：2024年歐盟禁止將人工智慧演算法用於社會評分。瑞士目前尚未推出相似立法。

荷蘭萊頓大學的漢學家Adam Knight對歐盟禁令表示歡迎，他認為這是明確表示社會評分系統與歐洲的價值觀絕不相容。在歐盟看來，社會評分危及個人隱私、社會平等以及程序的正當性，因為它將人簡化為演算法生成的畫像。 Knight解釋：人們不僅要警惕監控，還要防範“演算法歧視”。

SWI swissinfo.ch

中國擁有超50部與社會信用相關的法律

目前中國的社會信用系統已在全國建立起來，「如果說以前它還只是地方性的試驗、或博眼球的試點項目，那麼近年來，中國社會信用系統已悄然發展為有法律標準的、可行政推行的體系，」Knight指出。如今中國已開通信用中國外部链接網站，公佈了失信的“黑名單”。

2003年中國啟動了以“獎勵守信、懲罰失信”為核心的社會信用體系建設。

2014年中國國務院提出《社會信用體系建設規劃綱要》，計劃在2020年之前建成“社會信用體系”，對14億公民的信譽度進行記錄。這是海外媒體開始關注中國社會信用建設的開端。

根據漢學家Knight介紹，2022年是一個轉捩點：「自那以後，相關部門集中精力將信用機制納入國家法規，目前已有超50部法律包含社會信用的相關條款。」也就是在這一年的3月，中國國家發展改革委發布通知，就“徵信修復”問題進行了補充。

雖然黑名單仍是社會信用體系的核心，但最新改革提供了“信用修復”的可能性，並專注於獎勵和矯正。其試點計畫(如記錄酒精消費和運動等)已“悄悄停止”-重點不再是“道德約束”，而在於經濟層面。

如今中國已不再實施單一評分，而是形成了“強制執行系統”。由違規數據構建起了一個更廣闊的“紅旗之網”，阻礙失信人獲得貸款、簽訂合約、找工作或享受公共服務。「最終留下的，是一個強大的、數據驅動的治理工具，用透明資訊來實施控制：一旦違規，你就會留下痕跡，」Knight解釋道。

中國如今已擁有一套“應用基礎設施”，用於獎勵良好行為並懲罰不良行為。 Copyright 2023 The Associated Press. All Rights Reserved

那麼瑞士的債務登記系統呢？

Knight認為，歐盟其實早有“演算法畫像”，那麼其禁令就引發另一問題：如何處理現有系統？這類“獎勵誠信、懲罰冒險的邏輯”存在於許多西方國家的體制中。

Knight舉例說，在AirBnB、優步、Yelp和信用機構(Kreditbüros)的平台上，評價和評分就很重要。在政府機構也是，「例如瑞士的債務登記系統，就會將未支付罰款和帳單的個人公之於眾」。如果在該系統“榜上有名”，那麼欠債人將無法租房“甚至”求職，這與社會信用體系中的黑名單極為相似。

瑞士的債務登記系統，就會將未繳罰款和帳單的個人公諸於世。 Keystone / Christian Beutler

在這位漢學家看來，問題的關鍵不在於是否與中國雷同，而是「世界範圍內資料與行為畫像是如何越來越多地影響著服務的獲取，又有哪些安全預防措施能夠保護個人權利」。這也是各國學者對中國社會信用系統態度不一的原因之一，雖然“社會信用體系”在中國並非敏感話題，且多數人持正面態度，但也有人認為這是一種政府的變相控制。

中國提出的社會信用體系與許多已開發國家的信用評分系統不完全相同，已開發國家通常僅有用於信貸的金融信用評分，而沒有類似的“社會信用”。

中國的“社會信用”數據主要由政府部門、社會組織等在監管和服務的過程中獲得，旨在“規範公共行為”，與習近平政府的大規模監控系統緊密相連，並採用了人臉識別技術和大數據分析技術。

摘自《維基百科》原文標示有資料來源

如何辨識社會評分？

瑞士學者Johan Rochel表示：「真正的挑戰在於，如何辨識、定義社會分數」。 TA瑞士研究計畫(TA-Swiss-Forschungsprojekt)正致力於解決這個問題：社會應如何定義“社會評分”(Social Scoring)，又該如何辨識它？

Rochel提到：「在歐盟的人工智慧指南中，社會評分是禁用的，但目前尚未出台明確定義，不清楚它到底指什麼」。這位法律與哲學學者認為，今後的法律案例將會輪廓化歐盟禁令的劍之所指。

他認為今後的政府機構或私人企業，可能會「毫不自知地使用社會評分或其他系統」。 Rochel擔心由於缺乏公共討論，社會評分系統會以“試點計畫的面目”悄悄進入。

特別在所有與公共利益相關的領域，類似問題相當棘手。他舉了數年前一個軟體的例子，在瑞士很有名：憑藉這款軟體教師可以檢舉學生「有恐怖主義傾向」(德)外部链接，如今該網站已下線(德)外部链接。

在交通、環境和健康領域的風險

Rochel指出，除公共安全外，在交通、環境和健康領域也存在高風險。德國現任總理弗里德里希默茨在競選期間曾提出一項醫保減免方案(德)外部链接：凡自願提供健康數據用於分析的人，健保費用可減免10%。 Rochel認為，這類提案乍聽無害-尤其是在“自願”的“掩護”下。但與概念清晰的“強制”或“禁止”不同，“自願”的性質比較模糊，當不參與的社會成本或經濟代價過高，自願就會演變為“變相的義務”。這就像加班文化或中國的隔代撫養，雖然法律並未規定祖父母、外祖父母有照顧孫輩的義務，但在現實生活中卻往往已變為變相的義務。

然而默茨的提議在2025年初引發了廣泛回應與批評，令Rochel欣慰的是，瑞士議會也就此展開了討論。他認為公眾的關注是“一種保護機制”，可以防止社會評分系統悄悄潛入。

瑞士人民黨(SVP)國民院議員Thomas Burgherr在2020年就此提出質詢，詢問聯邦委員會如何看待「其他行為驅動和行為經濟學的心理『小』技巧」(德)外部链接，以及如何將這些與民主和法治的國家相匹配。從聯邦委員會的答覆中可以看出，政府將以“助推”(Nudges)取代禁止，並認為「行為經濟學的認知與方法(…)可作用於個別領域」。

然而現如今德國2020年研究未來的作者們卻對民主機制的效果持更加懷疑的態度。該研究作者Michael Astor在回應詢問時表示，之所以將獎勵系統與直接民主結合，就是為了：保護該系統免受濫用，減少社會分裂，並使獎勵系統不斷適應“變化的社會需求”。

但現在Astor更多的是持批判態度：「鑑於許多民主國家都在向右翼偏移，人們對於民粹主義、種族主義和藉由某些系統實現的、動機不一的社會控制愈發懷疑」。他們原本期望的「正面的、因高參與度而產生的限制效果」正變得越來越渺茫。

(編輯：David Eugster，編譯自德文：宋婷/xy，繁體校對：盧品妤)