【ZiDongHua 之人文化天下收錄關(guān)鍵詞： 邱遙堃、 法社會(huì)學(xué)、 算法規(guī)避、 算法黑箱、 人工智能、 機(jī)器學(xué)習(xí) 、 機(jī)器人法官、自動(dòng)駕駛汽車】

 

 

 

 

 

 

　　作者 | 邱遙堃（法學(xué)博士，首都經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院講師）

 

　　來(lái)源 |《法學(xué)家》2023年第3期“專論”欄目。

 

　　因篇幅較長(zhǎng)，已略去原文注釋。

 

　　目錄

 

　　一、問(wèn)題的提出

 

　　二、算法規(guī)避的主要策略

 

　　三、算法規(guī)避的內(nèi)在成因

 

　　四、算法規(guī)避的后果與功能

 

　　五、算法規(guī)避的分類規(guī)制

 

　　結(jié)語(yǔ)

 

　　一、問(wèn)題的提出

 

　　由于大數(shù)據(jù)殺熟、新就業(yè)保障、機(jī)器人法官等現(xiàn)實(shí)問(wèn)題層出不窮，當(dāng)前對(duì)算法的法學(xué)研究主要著眼于權(quán)力限制的一面：或者要求算法的運(yùn)行過(guò)程可監(jiān)督、可控制，以算法透明與算法解釋反對(duì)算法黑箱與算法獨(dú)裁；或者要求算法的運(yùn)行結(jié)果合法且公正，杜絕算法失靈、算法歧視與算法損害；甚至未雨綢繆地進(jìn)一步思考（強(qiáng)）人工智能的法律地位，主張或有必要將其作為法律主體而非單純客體進(jìn)行規(guī)制，由此衍生出人工智能作品的著作權(quán)保護(hù)、自動(dòng)駕駛汽車的責(zé)任分配等問(wèn)題。這些研究最終在政策上凝結(jié)為《個(gè)人信息保護(hù)法》第24條、《關(guān)于落實(shí)網(wǎng)絡(luò)餐飲平臺(tái)責(zé)任切實(shí)維護(hù)外賣送餐員權(quán)益的指導(dǎo)意見(jiàn)》第2條和《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》等法律法規(guī)。

 

　　上述限權(quán)研究的潛在假定皆為：算法權(quán)力可能過(guò)于強(qiáng)大，使人無(wú)力抵抗，對(duì)個(gè)人權(quán)利與改革創(chuàng)新具有負(fù)面影響。然而經(jīng)驗(yàn)觀察顯示，在特定條件下，算法權(quán)力也可能相對(duì)弱勢(shì)，被治理對(duì)象發(fā)現(xiàn)規(guī)律后加以規(guī)避，致使算法權(quán)力無(wú)法實(shí)現(xiàn)既定目標(biāo)。該規(guī)避可能借助同樣強(qiáng)大的反向技術(shù)手段，但大多數(shù)情況下往往沒(méi)有什么技術(shù)含量，僅僅是“上有政策，下有對(duì)策”在算法時(shí)代的新變體。于是相比之下，人工智能治理中的“智能”二字飽含反諷意味。

 

　　因此，研究算法權(quán)力具有局限性，不能僅僅關(guān)注權(quán)力失控的可能性，還必須注意其效用的邊際；不能只進(jìn)行靜態(tài)描述，將受算法權(quán)力治理者視為有待拯救的受害者，還應(yīng)注意其能動(dòng)性，動(dòng)態(tài)地分析權(quán)力關(guān)系雙方你來(lái)我往的博弈過(guò)程。事實(shí)上，這正是一種法社會(huì)學(xué)的研究視角：關(guān)注“書(shū)本上的法”（law in books）與“行動(dòng)中的法”（law in action）之間的差距，在多元規(guī)范的語(yǔ)境中審視各方以法律這一特殊規(guī)范為背景的互動(dòng)，甚至不急于提出對(duì)現(xiàn)狀的改進(jìn)方案，因?yàn)橹獣詫?duì)當(dāng)前平衡的打破會(huì)帶來(lái)難以預(yù)期的后果，而且通常認(rèn)為的有害行為往往具有意想不到的社會(huì)功能。該視角有助于全面認(rèn)識(shí)相關(guān)法律現(xiàn)象的深層原因與實(shí)際影響，進(jìn)而使據(jù)此提出的解決方案更審慎、有效，避免公共權(quán)力的行使不當(dāng)或過(guò)分?jǐn)U張，反而新增規(guī)制風(fēng)險(xiǎn)，使權(quán)力與權(quán)利關(guān)系落入更糟糕的平衡，新秩序的好處未體現(xiàn)，而破壞舊秩序的弊病卻已先發(fā)生了。因此，本文將從法社會(huì)學(xué)的視角切入，通過(guò)剖析算法規(guī)避的主要策略、內(nèi)在成因、實(shí)際后果與功能，揭示算法權(quán)力的運(yùn)行邊界，進(jìn)而審慎地提出對(duì)算法規(guī)避的規(guī)制方案，借此反思算法規(guī)制乃至法律對(duì)技術(shù)的一般規(guī)制。

 

　　值得預(yù)先說(shuō)明的是，算法權(quán)力的主體包括公、私兩方面，算法所支持的規(guī)范亦包括法律與非法律的社會(huì)規(guī)范，故而存在“算法的法律”與“法律的算法”之區(qū)分。但對(duì)本文所論述的主題而言，上述區(qū)分意義有限，不論被規(guī)避算法所支持的主體及其規(guī)范性質(zhì)如何，其類型、成因與后果皆類似，何況許多社會(huì)規(guī)范是法律治理的承包者，二者目標(biāo)一致。此外，由于互聯(lián)網(wǎng)平臺(tái)作為運(yùn)用算法最重要的主體，具有私人治理公共化的特點(diǎn)，模糊了公與私之間的邊界，更無(wú)必要進(jìn)行界分。故而，本文的論述將雜糅公、私主體的算法應(yīng)用，僅在少數(shù)情況下進(jìn)行必要的區(qū)分。也正因?yàn)槿绱耍疚乃勊惴?quán)力的“治理”，主要意指通過(guò)算法進(jìn)行治理或算法權(quán)力作為治理手段，區(qū)別于對(duì)算法權(quán)力進(jìn)行限制的治理，但本文亦會(huì)論及對(duì)算法權(quán)力與算法規(guī)避進(jìn)行限制的問(wèn)題，主要以“規(guī)制”為關(guān)鍵詞，故而在此特別對(duì)用語(yǔ)進(jìn)行說(shuō)明，以免讀者產(chǎn)生混淆。

 

　　二、算法規(guī)避的主要策略

 

　　算法規(guī)避（evasion of algorithm）是指本應(yīng)受算法權(quán)力治理者通過(guò)實(shí)施特定行為，最終免受算法權(quán)力的治理。例如，網(wǎng)站根據(jù)搜索引擎排序算法的原理，嵌套符合條件的內(nèi)含隱藏內(nèi)容的頁(yè)面，從而達(dá)到即使與搜索內(nèi)容并不相關(guān)，亦可被檢索到并排名靠前的目的。又如，用戶通過(guò)總結(jié)社交網(wǎng)絡(luò)內(nèi)容審查算法的規(guī)律，以諧音、洗稿、添加空白內(nèi)容等方式，發(fā)布本應(yīng)被屏蔽的具有政治敏感性、抄襲盜版或低俗色情的內(nèi)容。再如，“網(wǎng)絡(luò)水軍”按照與評(píng)分平臺(tái)之反刷分算法的博弈經(jīng)驗(yàn)，通過(guò)賬號(hào)培育、手工刷分等方式，繼續(xù)堆砌虛假好評(píng)或差評(píng)。該行為的核心，是受算法權(quán)力治理者在違反算法要求的同時(shí)避開(kāi)算法權(quán)力的后果。要實(shí)現(xiàn)這一目的，在經(jīng)驗(yàn)上主要有以下三種基本策略。

 

　　（一）避免成為治理對(duì)象

 

　　算法規(guī)避的首要手段是避免成為算法權(quán)力的治理對(duì)象，使自己落在算法適用范圍之外，就像在傳統(tǒng)線下場(chǎng)景中的違法犯罪行為人避開(kāi)監(jiān)控?cái)z像、警察巡邏及逃脫公權(quán)力的可能執(zhí)法那樣。事實(shí)上，互聯(lián)網(wǎng)興起之初的“不可規(guī)制性”問(wèn)題，便是這一策略的極端典型例證。早期的互聯(lián)網(wǎng)架構(gòu)保障了網(wǎng)上行為人的充分匿名，其身份、位置與行為皆不可獲知，故無(wú)法對(duì)其進(jìn)行規(guī)制，更加不用說(shuō)采取算法手段。然而，隨著網(wǎng)絡(luò)架構(gòu)從開(kāi)放走向封閉，“在互聯(lián)網(wǎng)上沒(méi)有人知道你是一條狗”的故事已成為歷史，網(wǎng)絡(luò)空間已具備充分的可規(guī)制性，并且已深度向線下延伸，模糊了傳統(tǒng)的線上與線下之別。當(dāng)下，除非選擇極少數(shù)完全不涉及互聯(lián)網(wǎng)的行為乃至生活方式（例如使用現(xiàn)金、傳統(tǒng)的書(shū)信），否則，要想徹底避免成為算法權(quán)力的治理對(duì)象，極為困難。

 

　　但也并非完全不再有可能，平臺(tái)選擇即為避免成為算法權(quán)力治理對(duì)象的新型有效手段之一。由于不同平臺(tái)的發(fā)展階段有別，故而在網(wǎng)絡(luò)空間趨于封閉的整體環(huán)境下，仍然存在新興平臺(tái)“非法興起”的可能性，尤其是當(dāng)破壞性創(chuàng)新與跨界競(jìng)爭(zhēng)發(fā)生時(shí)。即使不同平臺(tái)的法治水平相當(dāng)，平臺(tái)間的數(shù)據(jù)與信息壁壘，仍然能阻斷跨平臺(tái)的算法權(quán)力的治理行為，幫助跨平臺(tái)的違法違規(guī)行為。因此，平臺(tái)間的邊界猶如線上與線下的邊界，將統(tǒng)一的網(wǎng)絡(luò)空間再度分割，使統(tǒng)一的算法適用不再成立。算法規(guī)避者或可利用新興平臺(tái)的制度不健全，繼續(xù)發(fā)布低俗抄襲內(nèi)容、販賣假冒偽劣商品；或可利用不同平臺(tái)間的信息不對(duì)稱與數(shù)據(jù)壁壘，從事跨平臺(tái)抄襲、“山寨”行為，一如上述那種選擇拋棄互聯(lián)網(wǎng)的行為與生活方式。

 

　　類似地，不同國(guó)家法制環(huán)境的差異，同樣可以奠定算法規(guī)避者空間選擇的基礎(chǔ)。某些國(guó)家認(rèn)定的低俗色情內(nèi)容，在另一些國(guó)家可能被認(rèn)為是性自由與性解放的象征；某些國(guó)家認(rèn)定的抄襲內(nèi)容、“山寨”產(chǎn)品，在另一些國(guó)家可能被認(rèn)為是合理使用與借鑒。彼此以他國(guó)規(guī)則為不合理，對(duì)行為人而言就產(chǎn)生了狡兔三窟的可能性。事實(shí)上，國(guó)際私法上的法律規(guī)避，便是利用不同轄區(qū)法律之差異來(lái)實(shí)施不為一地法律所認(rèn)可之行為，其典型例子如同性伴侶選擇同性婚姻合法化的地區(qū)結(jié)婚。由于各個(gè)國(guó)家網(wǎng)絡(luò)主權(quán)建設(shè)的不斷推進(jìn)，區(qū)域化互聯(lián)網(wǎng)或國(guó)域網(wǎng)正在形成當(dāng)中。這意味著線上與線下的融合不僅僅是線上治理手段與治理邏輯對(duì)線下區(qū)域的整合，反之亦然，意欲規(guī)避算法者得到了又一算法權(quán)力的裂縫。

 

　　綜上，避免成為治理對(duì)象的本質(zhì)是尋求算法權(quán)力的“法外之地”，或是其他平臺(tái)，或是其他國(guó)家，從而規(guī)避當(dāng)前平臺(tái)與當(dāng)前國(guó)家的算法權(quán)力。然而，隨著國(guó)內(nèi)法制與國(guó)際法制的日趨統(tǒng)一，這一規(guī)避手段正如徹底斷絕互聯(lián)網(wǎng)的行為與生活方式那樣越發(fā)難以持續(xù)。因此，如何在既有算法權(quán)力的治理體系下繼續(xù)規(guī)避算法，就需要或者調(diào)整行為、或者迷惑主體。

 

　?。ǘ┱{(diào)整滿足治理要求

 

　　算法規(guī)避的第二類手段是調(diào)整行為以滿足治理要求，使自己雖然在算法適用范圍之內(nèi)，但仍可以隱秘實(shí)施算法所欲禁止的行為，就像傳統(tǒng)經(jīng)濟(jì)法上的虛假納稅申報(bào)及其他虛假信息披露行為，或者傳統(tǒng)民商法上的變相借貸、變相融資、與實(shí)質(zhì)內(nèi)容不符的名義合同關(guān)系等“以合法形式掩蓋非法目的”的行為?；ヂ?lián)網(wǎng)的興起，不僅為此類行為調(diào)整提供了輔助工具，例如自動(dòng)化的洗稿軟件及其他文本轉(zhuǎn)換軟件、媒介轉(zhuǎn)換軟件，而且更使得此類技術(shù)及其影響的規(guī)避行為廣泛普及，大數(shù)定律支配下的用戶生產(chǎn)豐富多樣且更新速度極快，大大提高了算法權(quán)力的治理難度與滯后性，正所謂“道高一尺，魔高一丈”。更具體而言，調(diào)整行為以滿足治理要求，可被進(jìn)一步細(xì)分為如下兩種子類型。

 

　　其一是直接改變算法輸入數(shù)據(jù)。用戶在網(wǎng)上活動(dòng)需要注冊(cè)賬號(hào)，提供基本的個(gè)人信息，例如性別、年齡、位置等，為算法基于前述信息的治理提供基礎(chǔ)；如果謊報(bào)此類數(shù)據(jù)，那么就能實(shí)現(xiàn)對(duì)禁止未成年人瀏覽特定內(nèi)容、向特定性別或地域用戶進(jìn)行推薦等算法之規(guī)避。誠(chéng)然，網(wǎng)絡(luò)實(shí)名制及其罰則的存在，以及通過(guò)身份證號(hào)、實(shí)名手機(jī)號(hào)與郵箱或大數(shù)據(jù)分析甄別用戶申報(bào)信息之真?zhèn)?，已在最大限度上減少了虛假數(shù)據(jù)申報(bào)量，但依舊存在前述制度與技術(shù)未能覆蓋的網(wǎng)絡(luò)空間，例如僅僅在瀏覽前要求確認(rèn)年齡或者提供退出信息收集選項(xiàng)的網(wǎng)站。而且，保護(hù)個(gè)人信息的法律與社會(huì)規(guī)范，要求限制前述治理者的信息收集與分析。因此，虛假信息披露仍有可能，可以通過(guò)直接改變輸入算法的數(shù)據(jù)，從而對(duì)其進(jìn)行規(guī)避。

 

　　其二是通過(guò)改變行為來(lái)間接改變算法輸入數(shù)據(jù)。此類算法規(guī)避最為常見(jiàn)，例如通過(guò)諧音、拼音、首字母、拆字、聯(lián)想詞等方式規(guī)避算法對(duì)敏感詞匯的篩查；通過(guò)詞語(yǔ)替換、語(yǔ)序變更、意譯等方式抄襲文字，或者通過(guò)翻轉(zhuǎn)、旋轉(zhuǎn)、裁剪、噪聲、變速和幀率變換等手段改變音視頻，又或者通過(guò)將不同類型的素材或不同來(lái)源的作品進(jìn)行拼接等方式，規(guī)避算法對(duì)版權(quán)侵權(quán)的審查；通過(guò)對(duì)其他作品尤其是小眾作品的隨意打分來(lái)培育賬號(hào)，通過(guò)手動(dòng)刷分、以量取勝來(lái)控制評(píng)論，規(guī)避算法對(duì)虛假評(píng)分的審查。以上復(fù)雜的規(guī)避，皆屬于廣義的“以合法形式掩蓋非法目的”之行為，以算法的技術(shù)水平為前提，又或者正因?yàn)樗惴▽?duì)簡(jiǎn)單違法違規(guī)行為之禁絕而產(chǎn)生，與之持續(xù)博弈、互為因果。因此，提高技術(shù)水平，只會(huì)導(dǎo)致算法規(guī)避的繼續(xù)升級(jí)，甚至由于觸及個(gè)人自由之邊界而難以為繼，對(duì)算法規(guī)避行為的限制有限。

 

　　上述調(diào)整行為以滿足治理要求的本質(zhì)，是“以合法形式掩蓋非法目的”，或直接改變輸入數(shù)據(jù)，或通過(guò)改變行為來(lái)間接改變輸入數(shù)據(jù)。然而，并非所有數(shù)據(jù)與行為都易于改變，又或者如若改變則將使規(guī)避者的本來(lái)目的部分地或完全落空，因此需要其他手段在不直接改變核心數(shù)據(jù)與行為的同時(shí)依然規(guī)避算法權(quán)力，此即混淆迷惑治理主體這一手段。

 

　?。ㄈ┗煜曰笾卫碇黧w

 

　　算法規(guī)避的最終手段是混淆迷惑治理主體，使自己雖然直接從事了算法所禁止的行為，但仍可以蒙混過(guò)關(guān)，落在治理主體注意范圍之外。在傳播學(xué)上，這一策略被稱為信息洪流（information flooding），意為通過(guò)大量無(wú)關(guān)、低質(zhì)或虛假的信息的堆砌，使受影響者喪失對(duì)關(guān)鍵問(wèn)題的注意力?；ヂ?lián)網(wǎng)是實(shí)施信息洪流策略的完美工具。相較于過(guò)去的電報(bào)、電話、廣播、電視等媒介，互聯(lián)網(wǎng)傳播信息的數(shù)量更大、形式更多、速度更快、范圍更廣，而且傳播方式是雙向、多向而非單向、單一的，一對(duì)一、一對(duì)多與多對(duì)多傳播混合，大大降低了信息傳播的成本，增進(jìn)了不同主體間的信息流通與共享，產(chǎn)生了所謂信息爆炸。盡管算法權(quán)力有利于應(yīng)對(duì)海量?jī)?nèi)容的治理負(fù)擔(dān)，但在具體個(gè)案中，仍然可能被信息洪流欺騙或蒙蔽。

 

　　例如，意欲傳播淫穢色情內(nèi)容者，若按法律或平臺(tái)規(guī)則要求進(jìn)行打碼、刪截或者改為軟色情創(chuàng)作，則將違背其傳播本意，因此調(diào)整空間有限。但他仍可以將少量的色情內(nèi)容與大量無(wú)害或空白的內(nèi)容組合發(fā)布，又或者對(duì)色情內(nèi)容進(jìn)行明暗、色調(diào)處理，規(guī)避算法對(duì)色情內(nèi)容的審查。又如，意欲傳播盜版抄襲內(nèi)容者，除上述內(nèi)容調(diào)整策略外，還可采用將盜版抄襲內(nèi)容與無(wú)關(guān)的內(nèi)容或自己原創(chuàng)的內(nèi)容組合發(fā)布，降低重復(fù)率，規(guī)避算法對(duì)版權(quán)侵權(quán)的審查。前述行為雖然不涉及復(fù)雜的行為調(diào)整，對(duì)人工審查而言事實(shí)上相對(duì)簡(jiǎn)單低級(jí)，但由于算法權(quán)力的剛性與人工審查對(duì)海量?jī)?nèi)容的應(yīng)對(duì)乏力，故而依然存在廣泛的應(yīng)用空間，并且同樣存在博弈升級(jí)現(xiàn)象，體現(xiàn)出“人工智能”治理最為不“智能”的一面。

 

　　綜上，混淆迷惑治理主體的本質(zhì)是信息洪流，通過(guò)將違法信息與合法信息加以組合來(lái)規(guī)避算法審查，相對(duì)簡(jiǎn)單低級(jí)，體現(xiàn)出人工智能權(quán)力缺乏彈性。行文至此，算法規(guī)避的主要策略已總結(jié)完畢，更進(jìn)一步的問(wèn)題便是：為什么算法規(guī)避者可以避免成為治理對(duì)象、調(diào)整行為以滿足治理要求、混淆迷惑治理主體？下一節(jié)將從技術(shù)、規(guī)范與社會(huì)這三方面入手進(jìn)行解析。

 

　　三、算法規(guī)避的內(nèi)在成因

 

　　探究算法規(guī)避的內(nèi)在成因，通常可以從主客觀兩方面入手：主觀方面，規(guī)避者的守規(guī)意識(shí)薄弱、不積極遵守算法要求；客觀方面，算法之治存在漏洞，故而被規(guī)避者利用。但此種老生常談流于表面，未揭示所謂“算法漏洞”究竟是什么，以及所謂“守規(guī)意識(shí)薄弱”到底原因何在。更重要的是，如果有必要假定被治理者為“壞人”，那么就不應(yīng)過(guò)分關(guān)注甚至改造其主觀意識(shí)，而應(yīng)當(dāng)在客觀的制度建設(shè)與技術(shù)提高方面更多著力，借此改變其行為激勵(lì)，使之與算法要求激勵(lì)相容。因此，本部分將從技術(shù)、規(guī)范與社會(huì)三方面入手，解析算法規(guī)避的形成原因。

 

　　（一）技術(shù)剛性的相對(duì)性與絕對(duì)性

 

　　算法規(guī)避在技術(shù)上的表面原因是，正如代碼與架構(gòu)的剛性僅是從相對(duì)意義而非絕對(duì)意義來(lái)講，算法權(quán)力的嚴(yán)格性亦僅是相對(duì)于一般人類智能而言，故而更聰明的少數(shù)人可以調(diào)整行為來(lái)滿足治理要求，或者混淆迷惑治理主體。例如，防火墻或許能夠阻礙許多人在網(wǎng)上漫游，但少數(shù)人仍能憑借虛擬專用網(wǎng)絡(luò)等技術(shù)手段予以跨越；緩沖帶也許能夠妨礙許多人在現(xiàn)實(shí)中超速行車，但少數(shù)人仍能憑借過(guò)人的車技不予理會(huì)。算法權(quán)力亦然。內(nèi)容審查、版權(quán)執(zhí)法、犯罪預(yù)測(cè)等算法對(duì)大多數(shù)人與在大多數(shù)情況下有效，并不意味著其無(wú)往不利；對(duì)別有用心且又技高一籌的“壞人”而言，它們不過(guò)是提高了其規(guī)避或者違反算法的成本，迫使其付出更多的努力、采取其他方式來(lái)達(dá)成目的，例如更為復(fù)雜的內(nèi)容生產(chǎn)（諧音、洗稿、拼圖等），有針對(duì)性地加以規(guī)劃的行動(dòng)軌跡、個(gè)人形象設(shè)計(jì)，等等。

 

　　誠(chéng)然，任何技術(shù)及其執(zhí)行的規(guī)范都不可能做到完全實(shí)施，能夠?qū)Υ蠖鄶?shù)人的違法違規(guī)行為進(jìn)行阻卻即已實(shí)現(xiàn)其治理目標(biāo)，并有利于避免被治理者的反彈，但完美執(zhí)法的無(wú)法實(shí)現(xiàn)也更深刻地揭示出：算法之治及更一般性技術(shù)治理的剛性，無(wú)法從事處理邊際性治理問(wèn)題時(shí)所需的利益衡量。例如，將原文表達(dá)重新組裝，固然能達(dá)到不被著作權(quán)法直接禁止的地步，但根本上還是抄襲了原文思想的洗稿行為，這究竟屬于著作權(quán)的合理使用，還是對(duì)著作權(quán)的侵犯？用戶為培育賬號(hào)而發(fā)表的評(píng)論，究竟是言論自由的正當(dāng)行使，還是違反平臺(tái)規(guī)則、有意規(guī)避算法的不正當(dāng)行為？這些問(wèn)題對(duì)人類治理者而言都相當(dāng)棘手，因?yàn)槠溆|及治理權(quán)力與個(gè)人自由的邊界，難以劃定非黑即白的行為疆域，而技術(shù)的剛性所追求的正是這樣的劃界，故而產(chǎn)生了極大的不兼容。這正是智能化的算法反而容易被智能化水平不高的手段所簡(jiǎn)單規(guī)避的原因所在：剛性的邊界劃定太容易留下可以施展操作的灰色地帶，而裁量的存在反而有威懾的效力遺留。

 

　　技術(shù)剛性與利益衡量的不兼容，也阻斷了通過(guò)技術(shù)的進(jìn)步來(lái)克服這一局限的可能。通過(guò)機(jī)器學(xué)習(xí)使利益衡量類型化、使其中的規(guī)則明晰化，是算法權(quán)力有益的改進(jìn)方向，也是其對(duì)權(quán)力濫用之抑制的承諾所在。但這并不足以取消邊際性治理問(wèn)題的存在及其對(duì)利益衡量的需求：解決舊的問(wèn)題，明確現(xiàn)有規(guī)范，多阻卻一部分人的規(guī)避與違法，還會(huì)產(chǎn)生新的邊際，需要新的衡量，總有人會(huì)想方設(shè)法規(guī)避新的規(guī)范。前述洗稿與養(yǎng)號(hào)問(wèn)題的產(chǎn)生，正是因?yàn)樗惴?quán)力對(duì)較為初級(jí)的規(guī)避與違法行為進(jìn)行了有效治理，而對(duì)這些問(wèn)題的有效回應(yīng)，也必不會(huì)是算法權(quán)力的發(fā)展終點(diǎn)。這正是算法之治及其規(guī)避的上述博弈所揭示的動(dòng)態(tài)過(guò)程，更完美的執(zhí)法引發(fā)更完美的規(guī)避。

 

　?。ǘ┮?guī)則規(guī)范與標(biāo)準(zhǔn)規(guī)范的鴻溝

 

　　從法學(xué)理論對(duì)“規(guī)則”與“標(biāo)準(zhǔn)”之區(qū)分的角度觀之，上述不兼容的實(shí)質(zhì)，是試圖通過(guò)算法將標(biāo)準(zhǔn)完全轉(zhuǎn)化為規(guī)則的不可能。規(guī)則具有事前明確的一項(xiàng)或多項(xiàng)具體事實(shí)及其未能實(shí)現(xiàn)時(shí)的規(guī)范后果；標(biāo)準(zhǔn)在事前則僅有諸多與立法目標(biāo)相關(guān)、需要綜合考慮的事實(shí)因素，其規(guī)范后果之確定更為復(fù)雜。由此可見(jiàn)，規(guī)則在事前的清晰明確，雖然充分體現(xiàn)了法治的應(yīng)有之義，但它不僅有利于行為主體守法用法，而且也有利于規(guī)避與違法；對(duì)滿足形式要件而違背實(shí)質(zhì)目的、以合法形式掩蓋非法目的之行為，受限于文義的規(guī)則是無(wú)能為力的，除非繼續(xù)通過(guò)“解釋”將規(guī)則在事實(shí)上又轉(zhuǎn)化為標(biāo)準(zhǔn)。標(biāo)準(zhǔn)的模糊性與事后確定性，雖然不能提供精確的行為指引，但能夠通過(guò)自由裁量在具體語(yǔ)境中平衡不同的利益，抑制上述規(guī)避行為，避免規(guī)則過(guò)寬或過(guò)窄的問(wèn)題，從而成為規(guī)則治理、法治的必要補(bǔ)充。

 

　　算法權(quán)力的追求是更為清晰明確的規(guī)則，使違法行為無(wú)所遁形。這也就將規(guī)則的上述利弊都指數(shù)級(jí)放大，為執(zhí)法與治理者施加了更多限制，為規(guī)避與違法者提供了更多指導(dǎo)，使雙方權(quán)力關(guān)系發(fā)生轉(zhuǎn)化，大大增強(qiáng)被執(zhí)法與被治理一方的權(quán)力。因此，在規(guī)則力所不逮的適用范圍之外，裁量性的標(biāo)準(zhǔn)仍有其存在的必要與作用。就此而論，機(jī)器學(xué)習(xí)頗有機(jī)器裁量的色彩，并無(wú)明確的算法權(quán)力規(guī)則，而是綜合多種因素決策，似乎不易被規(guī)避，但機(jī)器學(xué)習(xí)除黑箱不透明的問(wèn)題外，其實(shí)仍是可以發(fā)現(xiàn)規(guī)律并對(duì)其有意加以規(guī)避的，除非其決策完全任意，但這將取消機(jī)器學(xué)習(xí)的正當(dāng)性，使之完全無(wú)法監(jiān)管。事實(shí)上，所有基于標(biāo)準(zhǔn)的決策都是可以總結(jié)規(guī)律的，并且都傾向于使之轉(zhuǎn)化為規(guī)則，司法經(jīng)驗(yàn)之歸納便是如此，算法不過(guò)是促進(jìn)并加速了這一進(jìn)程。這也就使規(guī)則與標(biāo)準(zhǔn)之間的鴻溝問(wèn)題更為凸顯。

 

　　也正因?yàn)槿绱?，為增?qiáng)算法問(wèn)責(zé)性而采取的算法透明與算法解釋之解決方案，具有將進(jìn)一步增強(qiáng)算法規(guī)避者之博弈能力的不利影響。當(dāng)前并不透明也無(wú)解釋的算法權(quán)力，已被意欲規(guī)避者總結(jié)出規(guī)律，如果治理算法完全透明并被解釋到人人都能理解的水平，那么算法規(guī)避的難度將大大降低。算法規(guī)避的現(xiàn)實(shí)存在與算法透明的負(fù)外部性，或許提示了算法黑箱并非一個(gè)亟待解決的重要問(wèn)題，畢竟不論運(yùn)行過(guò)程透明與否，算法權(quán)力的治理后果都是現(xiàn)實(shí)存在的，而該后果可以成為治理或規(guī)避的起點(diǎn)。然而，這并非等于主張算法問(wèn)責(zé)毫無(wú)必要、倡導(dǎo)“法不可知，則威不可測(cè)”，僅是認(rèn)為認(rèn)清算法透明的局限性與副作用，合理定位其在算法問(wèn)責(zé)中的輔助作用，乃是更為可取的算法治理之道。故而，應(yīng)當(dāng)通過(guò)有限度的算法透明來(lái)輔助算法監(jiān)管，確保權(quán)力運(yùn)行的公開(kāi)透明，但避免對(duì)算法規(guī)避者提供過(guò)多的信息，防止其以人工學(xué)習(xí)或機(jī)器學(xué)習(xí)方式創(chuàng)造更復(fù)雜高級(jí)的規(guī)避行為。

 

　　隨著技術(shù)的發(fā)展，個(gè)性化規(guī)則開(kāi)始出現(xiàn)，標(biāo)準(zhǔn)與規(guī)則開(kāi)始融合，但這一趨勢(shì)僅僅緩和了效率與公平的矛盾，甚至反倒加劇了個(gè)案公平與普遍公平的沖突。這是因?yàn)?，以技術(shù)手段確定的個(gè)案區(qū)分是算法權(quán)力精細(xì)化的極致，可以使每個(gè)人在具體場(chǎng)景下如何行為更具指引，但更難橫向或縱向?qū)Ρ炔煌瑘?chǎng)景的不同處理是否合理、一致，導(dǎo)致治理權(quán)力缺乏體系性、統(tǒng)一性。故而，從標(biāo)準(zhǔn)到規(guī)則的鴻溝仍然存在，僅僅是轉(zhuǎn)變?yōu)閭€(gè)性化規(guī)則與普遍化規(guī)則的鴻溝，而技術(shù)的精細(xì)化剛性區(qū)分，使這一鴻溝更難通過(guò)技術(shù)之外的其他方式予以彌合。這不僅是算法問(wèn)題的治理所面臨的挑戰(zhàn)，更是未來(lái)社會(huì)所有問(wèn)題之治理所共同面臨的挑戰(zhàn)。

 

　?。ㄈ┒嘣?guī)范社會(huì)秩序根深蒂固

 

　　將技術(shù)及其所執(zhí)行的規(guī)范進(jìn)一步還原至其所源自的社會(huì)語(yǔ)境，可以發(fā)現(xiàn)算法規(guī)避的根本原因在于多元規(guī)范社會(huì)秩序的根深蒂固?？傆衅渌?guī)范對(duì)立于算法權(quán)力所欲實(shí)施的規(guī)范，使其影響無(wú)法充分發(fā)揮。這對(duì)于避免成為治理對(duì)象的規(guī)避手段而言尤其如此。由于社會(huì)分群與分層的現(xiàn)實(shí)存在，多元規(guī)范秩序不可避免，不同平臺(tái)、不同國(guó)家的規(guī)范分殊僅僅是個(gè)中一例。更由于互聯(lián)網(wǎng)對(duì)強(qiáng)關(guān)系的增強(qiáng)與弱關(guān)系的增加、表達(dá)渠道的空前豐富，甚至由于信息繭房的不斷加劇，社會(huì)分群、分層乃至分裂、極化愈發(fā)嚴(yán)重，統(tǒng)一的規(guī)范共識(shí)愈發(fā)稀缺。因此，即使試圖以較為剛性的算法技術(shù)實(shí)施包括正式法律在內(nèi)的特定規(guī)范，也會(huì)遭遇對(duì)立面規(guī)范的強(qiáng)烈沖擊，呈現(xiàn)出明顯的規(guī)范競(jìng)爭(zhēng)格局。

 

　　也正因?yàn)槿绱?，算法?guī)避不必然具有非正當(dāng)性，僅僅是規(guī)避者對(duì)不同規(guī)范與不同秩序的選擇差異而已，即使被規(guī)避的算法所執(zhí)行的規(guī)范是法律時(shí)亦然。算法規(guī)避現(xiàn)象也不必然是一個(gè)有待解決的問(wèn)題，或者說(shuō)對(duì)此的解決方案不必然是一切向書(shū)本上的正式法律或規(guī)范看齊，承認(rèn)規(guī)范多元、允許規(guī)范競(jìng)爭(zhēng)亦無(wú)不可。規(guī)避算法者亦不必然是壞人或法盲，他們不過(guò)是有自己的利益與價(jià)值偏好，甚至精通算法及其背后的規(guī)范。應(yīng)當(dāng)承認(rèn)，算法所支持的規(guī)范在算法規(guī)避中仍然起作用，是算法規(guī)避的背景、起點(diǎn)與約束條件；沒(méi)有前述規(guī)范的存在，算法規(guī)避不會(huì)采取特定的形式，正如“在法律的陰影下討價(jià)還價(jià)”。所以，算法規(guī)避不僅揭示了算法預(yù)期目的與實(shí)際效果之差距的存在，而且還體現(xiàn)了多元規(guī)范與多元秩序?qū)π袨橹黧w的多重影響。

 

　　更進(jìn)一步來(lái)說(shuō)，在多元規(guī)范與多元秩序的視角下，算法只是影響法律與規(guī)范秩序的一個(gè)因素，其本身并沒(méi)有改變社會(huì)的獨(dú)立力量，此為其最關(guān)鍵的局限性。受算法支持的法律與規(guī)范固然效率更高、剛性更強(qiáng)，但強(qiáng)化治理也無(wú)法解決根本性的社會(huì)問(wèn)題，無(wú)法將對(duì)立面的社會(huì)規(guī)范完全壓倒。只要社會(huì)矛盾仍然存在，規(guī)避乃至違法的行為就不會(huì)消失，而只會(huì)轉(zhuǎn)變形式、轉(zhuǎn)移陣地，甚至向更極端、更劇烈的形式轉(zhuǎn)化。創(chuàng)新與革新從來(lái)都不會(huì)停止，也不會(huì)被完美執(zhí)法所阻卻，而只會(huì)改變其出現(xiàn)的形態(tài)，要求社會(huì)付出或高或低的不同代價(jià)。

 

　　不問(wèn)準(zhǔn)度、不計(jì)后果的算法權(quán)力濫用，乃至算法獨(dú)裁，因此變得不可能。試圖將規(guī)避所體現(xiàn)的灰色地帶全部歸為違法違規(guī)，納入算法權(quán)力的作用范圍，從而取消對(duì)邊際性治理問(wèn)題的利益衡量，這是誘惑極大且也危害極大的治理路徑。這樣做不僅可能危害到個(gè)人的權(quán)利與自由，而且也將反作用于算法權(quán)力本身，因?yàn)檫^(guò)分侵犯其他社會(huì)規(guī)范的算法將喪失其正當(dāng)性，需要比日常治理更為巨大的資源投入，而治理效用的產(chǎn)出，則會(huì)因?yàn)楸恢卫碚叱掷m(xù)的抗?fàn)幮袨槎鴤涫芟魅?。例如，為了打擊用戶賬號(hào)培育而對(duì)評(píng)論發(fā)言施加過(guò)分的限制，其最終結(jié)果是用戶出走其他平臺(tái)；又如，為了打擊洗稿而對(duì)著作權(quán)合理使用施加過(guò)分的限制，其最終結(jié)果或許不是大眾創(chuàng)造性的完全枯竭，而是整個(gè)著作權(quán)保護(hù)制度被棄之不用。算法獨(dú)裁固然令人害怕，但普遍性的失范狀態(tài)同樣令人恐懼。

 

　　綜上，算法規(guī)避之所以存在，是因?yàn)榧夹g(shù)的剛性有限，且不匹配處理邊際性治理問(wèn)題時(shí)所需的利益衡量，無(wú)法將所有的“標(biāo)準(zhǔn)”轉(zhuǎn)化為“規(guī)則”，解決不了多元規(guī)范秩序背后的根本性社會(huì)矛盾。這一規(guī)避既無(wú)法通過(guò)技術(shù)進(jìn)步予以徹底解決，更可能因?yàn)樗惴ㄍ该鞯缺O(jiān)管措施的出臺(tái)而愈演愈烈。因此，鑒于算法規(guī)避將長(zhǎng)期存在，在提出某種針對(duì)上述成因的技術(shù)、規(guī)范或社會(huì)解決方案之前，就必須先分析算法規(guī)避的后果如何及應(yīng)當(dāng)如何看待這一現(xiàn)象。

 

　　四、算法規(guī)避的后果與功能

 

　　通常而言，在提出問(wèn)題、分析問(wèn)題之后，便應(yīng)當(dāng)進(jìn)入解決問(wèn)題的階段，探索應(yīng)對(duì)算法規(guī)避的有效辦法，但法社會(huì)學(xué)的視角并非如此積極實(shí)用，毋寧說(shuō)更為“無(wú)情”。或許并非所有問(wèn)題都存在或應(yīng)當(dāng)存在解決方案，算法規(guī)避作為與算法權(quán)力針?shù)h相對(duì)的一種博弈，簡(jiǎn)單的解題思路可能收效甚微，甚至還會(huì)引起規(guī)避的繼續(xù)升級(jí)。

 

　　更重要的是，規(guī)避的后果或許并不如想象的那樣嚴(yán)重，又或者說(shuō)規(guī)避本身可能也存在法社會(huì)學(xué)意義上的一種“功能”，具有現(xiàn)實(shí)的合理性，因此不必然是一個(gè)問(wèn)題。算法被規(guī)避了又怎樣？何必在新的平衡尚未可知時(shí)破壞現(xiàn)有的平衡？故而，本節(jié)將嘗試更深層地理解算法規(guī)避的后果或功能，為后續(xù)的另一節(jié)中審慎地提出一些具有包容性的應(yīng)對(duì)策略奠定基礎(chǔ)。

 

　　（一）算法規(guī)避的實(shí)際負(fù)面后果

 

　　一般來(lái)說(shuō)，首先，算法規(guī)避意味著算法權(quán)力所欲實(shí)現(xiàn)的目標(biāo)并未實(shí)現(xiàn)或并未全部實(shí)現(xiàn)，降低了算法實(shí)施的效率，例如內(nèi)容治理算法本欲減少各種違法違規(guī)的內(nèi)容，營(yíng)造清朗的網(wǎng)絡(luò)空間，但規(guī)避者仍然發(fā)布并傳播了此類內(nèi)容，即導(dǎo)致治理的目標(biāo)落空，可能不得不回到傳統(tǒng)上效率更低的人工審查上來(lái)。其次，算法規(guī)避導(dǎo)致一部分人能夠獲得比其他人更多的收益，或者能夠更多避免算法帶來(lái)的不利影響，引發(fā)算法實(shí)施的不公平，甚至強(qiáng)化社會(huì)既存的不平等結(jié)構(gòu)。例如，有能力以選擇平臺(tái)或國(guó)家來(lái)規(guī)避算法者，往往具有更高的知識(shí)水平、更強(qiáng)的經(jīng)濟(jì)能力，而規(guī)避算法以后，其獲得的信息與資源相比于未規(guī)避者往往又有所提高，導(dǎo)致分化更加劇烈。最后，在算法規(guī)避的過(guò)程當(dāng)中，算法權(quán)力與規(guī)避者之間的持續(xù)博弈，可能造成社會(huì)資源的系統(tǒng)性浪費(fèi)，導(dǎo)致社會(huì)福利的總體性下降。例如，“網(wǎng)絡(luò)水軍”與評(píng)分算法之間的持續(xù)博弈，最終并未顯著提高評(píng)分算法的合理性，反而可能因?yàn)樵诜此⒎诸I(lǐng)域的巨大投入，而使得整體的“成本—收益”分析之結(jié)果為負(fù)。

 

　　但上述分析只能說(shuō)明算法規(guī)避具有降低效率、引發(fā)不公、導(dǎo)致社會(huì)資源浪費(fèi)的潛在可能，無(wú)法體現(xiàn)負(fù)面后果的實(shí)際影響范圍與嚴(yán)重程度。既然即使在算法等技術(shù)權(quán)力的賦能下也沒(méi)有任何法律或規(guī)范能夠得到完全執(zhí)行，“書(shū)本上的法”與“行動(dòng)中的法”之間的差距始終存在，不同法律或規(guī)范之間的實(shí)效差別，僅僅在于違反的比例與后果的嚴(yán)重程度，那么，究竟有多少人規(guī)避算法、有多少人服從算法，就成為算法權(quán)力是否有效、算法規(guī)避是不是一個(gè)需要解決的問(wèn)題之前提。對(duì)此，可以借助威懾曲線這一理論工具予以說(shuō)明。

 

　　所謂威懾曲線，是以執(zhí)法概率或懲罰后果為橫坐標(biāo)，以威懾效果為縱坐標(biāo)，得到正向相關(guān)的一條曲線。其系曲線而非直線的這一本質(zhì)，提示著因果關(guān)系的非線性，而且作為凸曲線而非凹曲線，表明邊際效果是遞減而非遞增的。換句話說(shuō)，提高執(zhí)法概率或加重懲罰后果能夠帶來(lái)的威懾效果越來(lái)越少，在達(dá)到一定數(shù)值后甚至趨近于零。該特點(diǎn)在經(jīng)驗(yàn)上的意義在于：許多人是不受威懾影響的，其固有的偏好無(wú)法被威懾所改變，要么是極端的守法者（比如無(wú)論如何都不會(huì)想象自己殺人越貨的普通人），要么是極端的違法者（比如某些無(wú)論如何都不會(huì)被懲罰阻卻的恐怖分子、反社會(huì)分子）。其背后的原因在于社會(huì)規(guī)范、個(gè)人內(nèi)心準(zhǔn)則對(duì)法律的支持或否定。因此，對(duì)威懾問(wèn)題的討論，需要集中關(guān)注可被威懾之人，通過(guò)自變量的調(diào)節(jié)，邊際地改變其行為，否則就會(huì)導(dǎo)致執(zhí)法資源的浪費(fèi)。

 

　　由于算法規(guī)避所針對(duì)的是借算法權(quán)力實(shí)施的法律或規(guī)范，故而同樣可通過(guò)上述威懾曲線進(jìn)行分析。又因?yàn)椴煌惴ㄒ?guī)避問(wèn)題對(duì)應(yīng)的威懾曲線亦有所不同，所以此處以平臺(tái)內(nèi)容治理算法為例進(jìn)行說(shuō)明，然后對(duì)所得出的結(jié)論予以拓展。當(dāng)前互聯(lián)網(wǎng)平臺(tái)的內(nèi)容治理已相對(duì)完善，相關(guān)的平臺(tái)規(guī)則已較為健全，并在算法的協(xié)助下得到了有效執(zhí)行，成功治理了許多網(wǎng)絡(luò)內(nèi)容問(wèn)題，維持了良好的網(wǎng)絡(luò)內(nèi)容秩序，能夠滿足法律要求與用戶需求，甚至存在平臺(tái)算法權(quán)力過(guò)于強(qiáng)大、可能被濫用的風(fēng)險(xiǎn)。因此，平臺(tái)內(nèi)容治理算法相關(guān)的威懾曲線已變得相對(duì)平緩。

 

　　這一威懾曲線的平緩，在經(jīng)驗(yàn)上體現(xiàn)為許多人甚至大部分人發(fā)布的網(wǎng)絡(luò)內(nèi)容都平凡無(wú)害，并不經(jīng)?？紤]如何最大限度地暢所欲言，因?yàn)樯鐣?huì)規(guī)范或個(gè)人內(nèi)心準(zhǔn)則的約束，導(dǎo)致其不敢甚至從未想過(guò)發(fā)表過(guò)于越界的內(nèi)容。即使某些低俗內(nèi)容為其所樂(lè)見(jiàn)，他們?cè)谄脚_(tái)規(guī)則乃至法律的威懾下，也會(huì)更多地選擇調(diào)整自身行為以滿足治理要求的策略，而非明目張膽地通過(guò)選擇平臺(tái)或采取迷惑混淆的手段來(lái)直接實(shí)施違法違規(guī)的行為，而這在較為寬松的標(biāo)準(zhǔn)審視下仍使治理目的得以實(shí)現(xiàn)，并且平衡了網(wǎng)絡(luò)治理與個(gè)人自由。只有少數(shù)別有用心且又技高一籌的“壞人”才會(huì)整日思考如何發(fā)表越界的內(nèi)容，而在算法與法律的治理水平不斷提高時(shí)，那些仍無(wú)論如何都會(huì)絞盡腦汁規(guī)避內(nèi)容治理算法者，又是其中的少數(shù)，位于威懾曲線的末端，屬于極端的無(wú)法被威懾者。如果將執(zhí)法資源集中于這一末端，那么在“成本—收益”分析視角下可能顯得并不合乎經(jīng)濟(jì)理性。故而，過(guò)分夸大算法規(guī)避的負(fù)面后果，是不切實(shí)際、沒(méi)有必要的。

 

　　統(tǒng)計(jì)數(shù)據(jù)亦能佐證算法規(guī)避在平臺(tái)內(nèi)容治理領(lǐng)域的相對(duì)少數(shù)地位。以Facebook發(fā)布的透明度報(bào)告為例。自2018年以來(lái)，違反Facebook關(guān)于成人裸露與性行為規(guī)定的內(nèi)容在平臺(tái)總內(nèi)容中的占比，最高時(shí)僅有0.14%，亦即1萬(wàn)條內(nèi)容中僅有約14條違規(guī)，最低時(shí)則僅有0.02%。誠(chéng)然，以Facebook的內(nèi)容總量計(jì)，再低的比例也會(huì)被放大為巨大的絕對(duì)數(shù)量，而且色情內(nèi)容僅僅只是違規(guī)內(nèi)容當(dāng)中的一種，此外還存在許多其他類型的違規(guī)內(nèi)容。但同樣不能忽視平臺(tái)的用戶總量與用戶受信息繭房所限而能夠?qū)嶋H接觸到的內(nèi)容，于是，單個(gè)用戶遭遇違規(guī)內(nèi)容的概率就很低了。故而，該數(shù)據(jù)也進(jìn)一步支持了上述理論分析與經(jīng)驗(yàn)觀察。

 

　　因此，只要仍然存在相對(duì)穩(wěn)定的社會(huì)秩序，那么算法規(guī)避對(duì)效率、公平與社會(huì)資源配置的負(fù)面后果就不會(huì)像設(shè)想的那樣嚴(yán)重，大多數(shù)人仍受算法權(quán)力治理，并由于算法的持續(xù)升級(jí)而越發(fā)受到控制。更高級(jí)的算法規(guī)避產(chǎn)生的另一面，是大量較低級(jí)的算法規(guī)避與違法違規(guī)已被阻卻或懲罰，而這正是算法對(duì)規(guī)范實(shí)施效率的巨大提升。更進(jìn)一步來(lái)說(shuō)，通過(guò)信息繭房、信息洪流等認(rèn)知操縱手段，大多數(shù)人不僅在“成本—收益”計(jì)算的基礎(chǔ)上選擇不去違反或規(guī)避算法，更可能從一開(kāi)始就沒(méi)有違反或規(guī)避算法的意識(shí)或心理選項(xiàng)，而是默認(rèn)算法規(guī)定的合理性，由此實(shí)現(xiàn)執(zhí)法與守法的統(tǒng)一。因此，對(duì)算法權(quán)力的反思與批判，并不等于支持虛無(wú)主義的法律觀與技術(shù)觀。過(guò)分放大該問(wèn)題，不僅沒(méi)有必要，而且更可能由于高估了人的主觀能動(dòng)性而降低了對(duì)算法權(quán)力的警惕性，阻礙將防范權(quán)力失控設(shè)置為更緊迫的算法治理議題。

 

　?。ǘ┧惴ㄒ?guī)避的隱性正面功能

 

　　更重要的是，算法規(guī)避事實(shí)上同樣發(fā)揮著限制算法權(quán)力、對(duì)抗算法濫用的功能。當(dāng)前的算法規(guī)制方案各有局限性。也就是說(shuō)，算法過(guò)程的透明，既可能因?yàn)榧夹g(shù)過(guò)程的復(fù)雜與使用主體的阻礙而缺乏可行性，也可能因?yàn)榕c私人利益、公共利益的沖突而缺乏可欲性；而算法結(jié)果的公平公正、算法所用數(shù)據(jù)的合規(guī)清潔，不足以打消人們對(duì)人工智能分析與決策的全部懷疑。因此，適當(dāng)?shù)母倪M(jìn)方案，除了將前述進(jìn)路予以有機(jī)結(jié)合外，利用算法規(guī)避這一被治理者在多元規(guī)范秩序視角下的第二方控制，或許亦有助益。例如，如果用戶認(rèn)為內(nèi)容治理算法過(guò)于嚴(yán)格，或者覺(jué)得自己受到大數(shù)據(jù)“殺熟”，缺乏透明性或公正性，除了選擇向更高層級(jí)的權(quán)力主體申訴外，還可以通過(guò)前述規(guī)避策略身體力行地主動(dòng)抵制，發(fā)布算法所不允許的內(nèi)容，阻礙算法目的實(shí)現(xiàn)，對(duì)權(quán)利進(jìn)行自我救濟(jì)。相比于申訴進(jìn)路的結(jié)果不確定與過(guò)程緩慢，直接規(guī)避顯然更有效率，也更能引起算法權(quán)力主體的警覺(jué)，推動(dòng)算法權(quán)力的不斷完善。

 

　　更一般而言，算法規(guī)避的限權(quán)作用，提示著算法權(quán)力的實(shí)施仍然存在縫隙，尚未過(guò)分限制個(gè)人自由，而這可以緩和被治理者的反彈，有利于維護(hù)社會(huì)穩(wěn)定。此為算法規(guī)避的更深層次的隱性功能。應(yīng)當(dāng)看到，即使是既有效率又合規(guī)范且滿足過(guò)程透明、結(jié)果公正的規(guī)范執(zhí)行，也是對(duì)個(gè)人自由的阻礙，可能引發(fā)個(gè)體對(duì)抗。算法權(quán)力可以大大提高規(guī)范執(zhí)行的效率，也因而必然對(duì)個(gè)人自由產(chǎn)生更大的約束，使人們無(wú)法暢所欲言、來(lái)去自如，阻礙可能的破壞性創(chuàng)新與改革。然而，算法規(guī)避的存在舒緩了這一緊張關(guān)系。規(guī)范執(zhí)行得不那么有效率（亦即規(guī)范直接效果的降低），在某些情況下反而更有利于間接社會(huì)效果的最大化：新權(quán)力的“非法興起”重獲可能，治理與自由的邊界仍然處于健康的流變與對(duì)話之中，而非被迫進(jìn)行非此即彼的激烈斗爭(zhēng)。例如，網(wǎng)絡(luò)用戶通過(guò)使用諧音、拼音、首字母、拆字、聯(lián)想詞等規(guī)避內(nèi)容審查，表達(dá)、呈現(xiàn)了許多法律法規(guī)未必真正意欲限制、但又因各類原因而未給出明確豁免的內(nèi)容，使原本過(guò)寬的內(nèi)容限制條款得以細(xì)化、限縮，將粗疏的法律規(guī)定落實(shí)為可操作的、決定具體場(chǎng)景下言說(shuō)與否的網(wǎng)絡(luò)表達(dá)規(guī)則。

 

　　如果算法權(quán)力過(guò)分強(qiáng)大，那么甚至即使算法權(quán)力可以通過(guò)認(rèn)知操縱促使執(zhí)法與守法相統(tǒng)一，也仍然會(huì)存在少數(shù)人醒悟并反彈的可能性，并且反彈將更為劇烈。這是因?yàn)?，上文所述多元?guī)范秩序的根深蒂固，并非技術(shù)所能徹底改變。試想一下，若將內(nèi)容治理算法發(fā)展到極致，沒(méi)有任何違法違規(guī)或規(guī)避能夠逍遙法外，甚至無(wú)從發(fā)聲，則網(wǎng)絡(luò)空間是否將成為一潭死水？非也。少數(shù)人仍將尋找突破架構(gòu)控制的辦法，另起爐灶，開(kāi)辟新的言論空間，甚至將言論表達(dá)從線上轉(zhuǎn)移至線下，依靠更為原始的方式發(fā)聲引眾，傳播思想。例如，由于版權(quán)制度過(guò)于嚴(yán)格，過(guò)分保護(hù)版權(quán)人利益而阻礙后來(lái)作者的創(chuàng)新，曾有人主張建立與版權(quán)（copyright）制度針?shù)h相對(duì)的版權(quán)開(kāi)放（copyleft）制度。又如，當(dāng)下熱議的元宇宙，事實(shí)上源于Facebook試圖擺脫操作系統(tǒng)層面的掣肘，直接觸達(dá)并管理用戶，這也說(shuō)明了建立一套全新的控制架構(gòu)并非不可能。而且，互聯(lián)網(wǎng)對(duì)多元規(guī)范社會(huì)秩序的增強(qiáng)，將提供更多替代性的社會(huì)空間與社會(huì)力量，賦權(quán)并非僅僅針對(duì)博弈中的任何一方，且更不利于試圖控制網(wǎng)絡(luò)空間的公共主體，威懾曲線的趨于平緩將更為迅速。

 

　　由此可見(jiàn)，包容一定比例的算法規(guī)避，有利于限制算法權(quán)力或調(diào)節(jié)算法權(quán)力的實(shí)施效率，適當(dāng)限定其適用范圍，平衡治理與自由，促進(jìn)社會(huì)穩(wěn)定與治理的綜合效率，在相對(duì)柔性地促使大多數(shù)人不選擇成本較高的突破架構(gòu)阻礙選項(xiàng)時(shí)，仍為少數(shù)能力超群者留下規(guī)避的空間，從而避免完美執(zhí)法后果的出現(xiàn)，為個(gè)人自由的充分舒展、法律與社會(huì)規(guī)范的良性互動(dòng)，以及可能的改革與創(chuàng)新，奠定必要基礎(chǔ)。

 

　　五、算法規(guī)避的分類規(guī)制

 

　　承認(rèn)算法權(quán)力的總體有效性乃至算法規(guī)避的隱性正面功能，并不等于主張對(duì)算法規(guī)避無(wú)所作為、放任自流，否則權(quán)力關(guān)系此消彼長(zhǎng)，負(fù)面后果就會(huì)變得嚴(yán)重。由于某些算法規(guī)避僅僅利用治理者在信息與資源方面的局限性，并未觸及技術(shù)與規(guī)則的邊界，不涉及難辦的多元規(guī)范競(jìng)爭(zhēng)問(wèn)題，對(duì)效率、公平與社會(huì)福利的損害較突出，對(duì)算法權(quán)力限制的支持相對(duì)次要，故而應(yīng)當(dāng)通過(guò)技術(shù)能力的增強(qiáng)與規(guī)則執(zhí)行的完善進(jìn)行治理。另一些算法規(guī)避雖然確實(shí)觸及邊際性利益衡量與多元規(guī)范競(jìng)爭(zhēng)，其負(fù)面后果與正面功能都相對(duì)不確定，甚至收益可能大于成本，但仍然應(yīng)當(dāng)通過(guò)非法律與非技術(shù)的柔性方式進(jìn)行治理，并保持與對(duì)立面的溝通和相互諒解。這一區(qū)分可被概括為簡(jiǎn)單案件與困難案件（或稱難辦案件、復(fù)雜案件）的經(jīng)典二分，二者的區(qū)別在于是否存在明確的規(guī)則可供適用。此外，針對(duì)困難案件的社會(huì)規(guī)范治理進(jìn)路，不僅有利于避免“困難案件制造壞的法律”，而且也符合對(duì)新興互聯(lián)網(wǎng)問(wèn)題堅(jiān)持包容審慎治理的原則。

 

　　（一）規(guī)則執(zhí)行的技術(shù)增強(qiáng)

 

　　算法規(guī)避策略中的相對(duì)簡(jiǎn)單者，包括避免成為治理對(duì)象中的平臺(tái)選擇、調(diào)整滿足治理要求中的虛假申報(bào)、簡(jiǎn)單的行為調(diào)整、混淆迷惑治理主體。四者皆存在較為明確的規(guī)則可供適用，所需者僅僅是提高規(guī)則的執(zhí)行水平，而技術(shù)對(duì)此能夠發(fā)揮最大的作用，并且因此較少存在過(guò)于剛性或不夠透明的問(wèn)題，輔助技術(shù)的人工成本并不高昂。

 

　　就平臺(tái)選擇而言，“非法興起”盡管是小型新興平臺(tái)與大型壟斷平臺(tái)競(jìng)爭(zhēng)的重要手段，但互聯(lián)網(wǎng)早已不是法外之地，任何平臺(tái)皆不能逾越法律的底線而為違法違規(guī)行為提供庇護(hù)。例如，對(duì)于淫穢色情內(nèi)容、假冒偽劣商品，平臺(tái)應(yīng)當(dāng)通過(guò)包括算法在內(nèi)的各種手段予以阻卻與懲罰。而利用平臺(tái)間的數(shù)據(jù)與信息壁壘從事明確的跨平臺(tái)違法違規(guī)行為，同樣應(yīng)當(dāng)受到禁止，對(duì)此，應(yīng)當(dāng)通過(guò)超越平臺(tái)的國(guó)家層面執(zhí)法或行業(yè)層面自律進(jìn)行規(guī)制，例如部委聯(lián)合組織的“清朗”“凈網(wǎng)”系列行動(dòng)、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)等網(wǎng)絡(luò)社會(huì)組織發(fā)起的行業(yè)評(píng)議與獎(jiǎng)懲等。

 

　　就虛假申報(bào)而言，隱私與個(gè)人信息保護(hù)，不能作為以虛假信息披露來(lái)規(guī)避法律強(qiáng)制性規(guī)定的理由。一方面，法律雖然限制了個(gè)人信息處理者收集、處理、儲(chǔ)存、傳播個(gè)人信息的相關(guān)行為，但對(duì)此并非完全予以禁止，甚至還要求其為服務(wù)或執(zhí)法所需而收集最小必要的個(gè)人信息。另一方面，前臺(tái)匿名、后臺(tái)實(shí)名的架構(gòu)設(shè)置，能夠平衡隱私保護(hù)與網(wǎng)絡(luò)治理，而大數(shù)據(jù)分析亦可減少乃至杜絕通過(guò)虛假申報(bào)來(lái)隱瞞必要身份信息的行為。因此，法律與技術(shù)雙管齊下，要求每個(gè)人都應(yīng)當(dāng)為其在網(wǎng)絡(luò)空間中的所做所言負(fù)責(zé)。

 

　　就簡(jiǎn)單的行為調(diào)整而言，由于其本質(zhì)的違法違規(guī)易于識(shí)別，故而應(yīng)當(dāng)在區(qū)塊鏈存取證所奠定的信息基礎(chǔ)與網(wǎng)絡(luò)架構(gòu)控制所奠定的執(zhí)行基礎(chǔ)上，不斷提高大數(shù)據(jù)分析、人工智能識(shí)別的準(zhǔn)確度，高效認(rèn)定算法規(guī)避導(dǎo)致的違法違規(guī)行為，同時(shí)輔以必要的人工審查作為補(bǔ)充，不能因復(fù)雜的行為調(diào)整存在就放棄對(duì)簡(jiǎn)單者進(jìn)行規(guī)制。并且，由于此類規(guī)避并未觸及規(guī)則邊界，故而黑箱技術(shù)的治理結(jié)果更易受到人類理性的承認(rèn)，算法透明與算法信任方面的問(wèn)題較輕微，能夠在最大限度發(fā)揮技術(shù)治理準(zhǔn)確高效之優(yōu)勢(shì)的同時(shí)，減輕其局限性帶來(lái)的負(fù)面影響。

 

　　就混淆迷惑治理主體而言，由于規(guī)避者從事的亦為直接的違法違規(guī)行為，僅僅利用信息洪流進(jìn)行掩飾，故而同樣不存在正當(dāng)化理由?？梢宰裱笆龅南嗨埔?guī)制方法，通過(guò)人工審查輔助與機(jī)器學(xué)習(xí)技術(shù)，提高數(shù)據(jù)分析與智能識(shí)別的精度，避免人工智能被不智能的簡(jiǎn)單處理所蒙蔽。事實(shí)上，隨著內(nèi)容治理的不斷發(fā)展，通過(guò)與空白內(nèi)容相整合或明暗、色調(diào)變化等處理進(jìn)行迷惑混淆的技巧，已越來(lái)越為算法所熟悉，因此迷惑混淆將變得越發(fā)困難，進(jìn)而同樣轉(zhuǎn)入復(fù)雜的行為調(diào)整。而對(duì)于此類規(guī)避，技術(shù)與規(guī)則的作用有限，需要更多發(fā)揮社會(huì)規(guī)范的作用。

 

　?。ǘ┥鐣?huì)規(guī)范的治理應(yīng)用

 

　　算法規(guī)避策略中的相對(duì)困難、難辦、復(fù)雜者，主要是調(diào)整滿足治理要求中的復(fù)雜行為調(diào)整。再次強(qiáng)調(diào)，此處所謂“復(fù)雜”，并不是從單純技術(shù)意義上（例如跨媒介洗稿的各種變換與拼接手段）來(lái)講的，而是即使所用技術(shù)簡(jiǎn)單或并未使用任何技術(shù)，但觸及邊際性利益衡量與多元規(guī)范競(jìng)爭(zhēng)，法律性質(zhì)認(rèn)定極為困難，例如規(guī)避敏感詞審查的各種轉(zhuǎn)化方式、軟色情、意譯式洗稿等人類智能尚難裁量、人工智能更難判斷的問(wèn)題。因此，需要保持規(guī)制寬容，并通過(guò)社會(huì)規(guī)范進(jìn)行治理，從而更有利于相關(guān)規(guī)制維護(hù)政治秩序、保持公序良俗、激勵(lì)創(chuàng)作創(chuàng)新等目的之實(shí)現(xiàn)。

 

　　具體來(lái)說(shuō)，首先，平臺(tái)應(yīng)當(dāng)繼續(xù)利用用戶舉報(bào)、評(píng)分、自我組織與管理等方式，充分發(fā)揮平臺(tái)直接治理體制之外的個(gè)人與組織的自我治理作用。這不但能夠?qū)⒐姷男畔?、知識(shí)及其支持的社會(huì)規(guī)范有機(jī)融入算法之治，有利于邊際性治理問(wèn)題的利益衡量，而且還能夠強(qiáng)化用戶對(duì)算法的認(rèn)同，促進(jìn)其自愿守規(guī)，甚至最終將算法要求內(nèi)化為無(wú)意識(shí)行為，有利于提高算法治理的正當(dāng)性，降低算法治理的成本。這一規(guī)范執(zhí)行與規(guī)范遵守的高度統(tǒng)一，以及法律、平臺(tái)規(guī)則、社會(huì)規(guī)范的相互協(xié)調(diào)，正是所謂“網(wǎng)絡(luò)生態(tài)治理”的題中之意。

 

　　其次，行業(yè)協(xié)會(huì)應(yīng)當(dāng)繼續(xù)完善行業(yè)自律規(guī)范的制定與執(zhí)行。一方面，應(yīng)當(dāng)通過(guò)行業(yè)實(shí)踐經(jīng)驗(yàn)的總結(jié)，細(xì)化法律未能明確規(guī)定的各類違規(guī)行為判斷規(guī)則，為算法權(quán)力主體的治理提供指引，減少算法規(guī)避者之自由調(diào)整行為的空間。另一方面，應(yīng)當(dāng)通過(guò)行業(yè)評(píng)議與獎(jiǎng)懲，對(duì)違規(guī)行為及相關(guān)的直接與間接責(zé)任者進(jìn)行力度適中的激勵(lì)或抑制，從而減少確實(shí)損害社會(huì)福利的算法規(guī)避行為。但是，不論是自律規(guī)范的制定還是執(zhí)行，都應(yīng)當(dāng)始終保持開(kāi)放的治理態(tài)度，及時(shí)適應(yīng)互聯(lián)網(wǎng)環(huán)境的變化，在實(shí)踐中不斷進(jìn)行調(diào)整。

 

　　最后，政府應(yīng)當(dāng)繼續(xù)推廣并完善社會(huì)信用制度，使之從經(jīng)濟(jì)領(lǐng)域向更為廣泛的社會(huì)治理領(lǐng)域延伸。就此而言，可以網(wǎng)絡(luò)實(shí)名制為基礎(chǔ)，為每個(gè)網(wǎng)絡(luò)用戶建立信用檔案，對(duì)受到其他用戶舉報(bào)、經(jīng)治理者審核確認(rèn)的違法違規(guī)者，根據(jù)其情節(jié)與后果的嚴(yán)重程度進(jìn)行扣分，并根據(jù)低分所處區(qū)間，施以相應(yīng)程度的懲罰。同時(shí)，對(duì)某些影響較為廣泛、具有公共人物性質(zhì)的用戶，可以考慮設(shè)置公開(kāi)的用戶評(píng)論區(qū)，展示純粹的信用分?jǐn)?shù)無(wú)法充分體現(xiàn)的用戶意見(jiàn)，為其他用戶的評(píng)價(jià)提供充足的信息參考，從而形成良性的市場(chǎng)反饋循環(huán)。

 

　　但應(yīng)當(dāng)注意，由于某些平臺(tái)選擇、虛假申報(bào)、簡(jiǎn)單的行為調(diào)整與混淆迷惑治理主體的策略所規(guī)避的算法執(zhí)行的規(guī)范，同樣是有爭(zhēng)議或有問(wèn)題的法律、平臺(tái)規(guī)則或社會(huì)規(guī)范，但孰是孰非無(wú)法在短時(shí)間內(nèi)根據(jù)單方判斷決定，因此亦留有多元規(guī)范競(jìng)爭(zhēng)、保持規(guī)制寬容的余地。例如，為規(guī)避平臺(tái)歧視消費(fèi)者或盤(pán)剝勞動(dòng)者的算法而選擇其他平臺(tái)，又或者為規(guī)避對(duì)老人、女性或特定地域用戶的歧視算法而謊報(bào)數(shù)據(jù)，以及其他為規(guī)避不合理的規(guī)范及其相關(guān)算法而混淆迷惑或調(diào)整行為。此時(shí)需要治理的，往往并非算法規(guī)避，而是被規(guī)避的算法本身；算法規(guī)避作為個(gè)人自由之行使，此時(shí)具有高度正當(dāng)性，發(fā)揮著上述直接限制算法權(quán)力、對(duì)抗算法濫用、促使算法向善的隱性功能。

 

　　與之類似，避免成為治理對(duì)象中的國(guó)家選擇，同樣涉及不同法律規(guī)范之爭(zhēng)，因此難以判斷孰是孰非。算法規(guī)避在此種情況下具有緩和被治理者反彈、維護(hù)社會(huì)穩(wěn)定的深層隱性功能，例如低俗色情治理中的性自由之爭(zhēng)，或者洗稿抄襲治理中的信息自由之爭(zhēng)。但由于不同法律選擇背后皆有各自國(guó)家強(qiáng)制力作為支撐，故而在治理結(jié)果上更接近對(duì)簡(jiǎn)單低級(jí)算法規(guī)避的強(qiáng)化規(guī)制，只是由于爭(zhēng)議較大而始終存在規(guī)避與反規(guī)避的相互博弈。

 

　　結(jié)語(yǔ)

 

　　本文對(duì)算法規(guī)避的研究，始終堅(jiān)持法社會(huì)學(xué)的視角，并非先驗(yàn)地主張算法規(guī)避有害、應(yīng)當(dāng)受到規(guī)制，而是經(jīng)驗(yàn)地分析算法規(guī)避的三種策略、多重原因、實(shí)際后果與隱性功能，并據(jù)此提出簡(jiǎn)要的規(guī)制方案。事實(shí)上，這一法社會(huì)學(xué)的經(jīng)驗(yàn)進(jìn)路，適用于所有法學(xué)研究與現(xiàn)實(shí)規(guī)制，但在新興領(lǐng)域，特別是互聯(lián)網(wǎng)治理領(lǐng)域，特別值得強(qiáng)調(diào)。新興互聯(lián)網(wǎng)治理問(wèn)題往往以特殊性為理由或借口，要求另行規(guī)制或不規(guī)制，從而掩蓋其新瓶裝舊酒的本質(zhì)。但正如算法權(quán)力不過(guò)是算法對(duì)多元規(guī)范的技術(shù)賦能、算法規(guī)避只是用戶權(quán)力對(duì)算法權(quán)力的反抗一樣，從經(jīng)驗(yàn)視角切入，互聯(lián)網(wǎng)新問(wèn)題的本來(lái)面貌即可還原，甚至進(jìn)入法學(xué)教義舊瓶裝新酒的既定套路。因此，在這個(gè)意義上講，經(jīng)驗(yàn)進(jìn)路也成為法教義學(xué)與社科法學(xué)相結(jié)合的最大公約數(shù)，使傳統(tǒng)法學(xué)與其他學(xué)科在具體的觀察與分析中得以溝通與協(xié)調(diào)，進(jìn)而共同提出全面的解決方案。而這也是本文通過(guò)算法規(guī)避這個(gè)細(xì)小的切口，所欲揭示的更為一般的研究與規(guī)制之發(fā)展道路 。