內(nèi)容提要：人工智能技術(shù)的司法應(yīng)用，開啟了從“接近正義”邁向“可視正義”的歷史進(jìn)程，引發(fā)了司法運行機(jī)制的深刻變革，通過司法過程場景化、司法規(guī)則代碼化、司法決策建?；?、司法服務(wù)管理智慧化重塑著司法過程，大大提升了智慧司法的社會效能。但司法人工智能亦有其內(nèi)在限度。算法決策要達(dá)到絕對的客觀和精準(zhǔn)并非易事，面對復(fù)雜疑難案件，其能夠促進(jìn)形式正義，卻很難實現(xiàn)實質(zhì)正義。發(fā)揮人工智能對司法的優(yōu)化重塑效應(yīng)，應(yīng)與對人工智能的風(fēng)險防范同步進(jìn)行。需針對算法決策設(shè)立相應(yīng)的規(guī)制和救濟(jì)機(jī)制，注入公開、公平和責(zé)任理念，進(jìn)而興利除弊，促進(jìn)科技向善和打造良性發(fā)展的智慧司法，更好地實現(xiàn)“可視正義”。

 

　　關(guān) 鍵 詞：司法人工智能；可視正義；數(shù)字正義；智慧司法

　　作者簡介：馬長山，華東政法大學(xué)教授。 

　　隨著網(wǎng)絡(luò)化、數(shù)字化、智能化的飛速融合發(fā)展，人類逐漸步入智慧時代和數(shù)字社會。近年來，我國的智慧政務(wù)、智慧司法、智慧治理等重大建設(shè)方案紛紛落地。在這些方案的實施過程中，司法人工智能無疑將會扮演關(guān)鍵角色并承擔(dān)重要使命，①同時也會面臨諸多問題和挑戰(zhàn)。理性審視司法人工智能的應(yīng)用空間與限度，由此成為一項重要的理論課題和實踐任務(wù)。

　　一、從“接近正義”邁向“可視正義”

　　設(shè)置司法權(quán)的根本意義在于處理糾紛、實施救濟(jì)、弘揚正義，但要讓人們在每一個案件中切身體驗正義，卻不那么容易，這也正是卡夫卡“法律之門”的深層隱喻所在。人們曾對“法律之門”做出很多不同解讀，但有兩點是明確的：其一，“法律之門”是“供給”正義的地方，它莊嚴(yán)尊貴卻又壁壘森嚴(yán)；其二，人們可以走近“法律之門”，但難以邁入門內(nèi)，更難觀測門內(nèi)的設(shè)置、工序流程和決策機(jī)制。這很大程度上要歸因于物理時空中的資源限制、區(qū)間阻隔和機(jī)制障礙。特別是，由于交通不便、訴訟費用高昂、訴訟過程煩瑣漫長等原因，人們在尋求司法救濟(jì)時經(jīng)常遇到挫折、面臨困難，以至于20世紀(jì)中葉以來，“司法危機(jī)”在世界范圍內(nèi)大面積出現(xiàn)。為擺脫這一困境，人們發(fā)起了旨在為當(dāng)事人接近法院、實現(xiàn)訴權(quán)提供實質(zhì)保障的“接近正義”運動。該運動的基礎(chǔ)和前提是國家財力和司法改革，價值導(dǎo)向是平等和效率，目標(biāo)是實現(xiàn)分配正義。經(jīng)過“三波”重要努力，②“接近正義”運動取得了一定效果。然而，由于福利國家的不可持續(xù)性以及司法改革的制度性瓶頸，“接近正義”運動需要付出較高成本和代價，也面臨諸多難題。這些局限在傳統(tǒng)的物理時空和策略路徑下很難克服。

　　信息革命的到來，給“接近正義”運動的整體轉(zhuǎn)型提供了巨大動力和難得契機(jī)。算法的應(yīng)用不僅提升了司法的糾紛處理能力，降低了解決糾紛的成本，而且在很大程度上提高了糾紛解決的自動化程度，“為更加接近正義奠定了現(xiàn)實基礎(chǔ)”。③比如，從ADR邁向ODR，增加了司法程序的公開透明度，使人們看到了“數(shù)字正義”的曙光。近年來，我國司法機(jī)關(guān)也利用這些新技術(shù)進(jìn)行了大量改革探索，致力于構(gòu)建“網(wǎng)絡(luò)化”“陽光化”“智能化”的新時代司法樣態(tài)，實現(xiàn)了對物理時空資源和要素的優(yōu)化重組。通過技術(shù)“克服或至少是瓦解正義之路上的一些障礙”，④可以消解因物理時空條件局限而導(dǎo)致的正義實現(xiàn)難題，使物理意義上的“接近正義”邁向數(shù)字意義上的“可視正義”。

　　其一，平臺化的分享可視。新興技術(shù)革命顛覆了傳統(tǒng)的工商業(yè)態(tài)和經(jīng)營模式，人類從此進(jìn)入平臺經(jīng)濟(jì)時代，平臺模式也迅速地從工商業(yè)向社會領(lǐng)域延展，其突出特點和優(yōu)勢在于：線上線下交融、多主體共享、生態(tài)化運行、覆蓋性整合以及價值鏈創(chuàng)造。這就突破了以往物理時空的商業(yè)邏輯，顛覆了單一線性的交易形式，開啟了廣場化的全景互動。智慧司法建設(shè)同樣也經(jīng)歷了這種技術(shù)賦能過程，深刻重塑著司法運行模式，具體表現(xiàn)為：在案件辦理上，支持全流程在線審理，辦案全過程智能輔助，審理信息全方位在線公開；在監(jiān)督管理上，實現(xiàn)重點案件自動化識別、標(biāo)簽化處理、節(jié)點化控制，建立智能化、自動化、精準(zhǔn)化監(jiān)管機(jī)制；在訴訟服務(wù)上，形成多功能、集成性、智能化、線上線下融合的一站式訴訟服務(wù)模式；在平臺載體上，實現(xiàn)內(nèi)部平臺整合對接，外部數(shù)據(jù)互聯(lián)互通，形成系統(tǒng)集成、集約高效、信息共享的平臺建設(shè)模式。⑤司法運行的這種平臺化轉(zhuǎn)向，能夠“讓數(shù)據(jù)發(fā)聲，使數(shù)據(jù)關(guān)聯(lián)，用大數(shù)據(jù)思維發(fā)現(xiàn)審判規(guī)律、提高審判質(zhì)效”，⑥也能夠在微觀(司法機(jī)關(guān)內(nèi)部)、中觀(司法機(jī)關(guān)與當(dāng)事人和相關(guān)機(jī)構(gòu))和宏觀(司法機(jī)關(guān)與全社會)三個層面，分別實現(xiàn)不同程度的數(shù)據(jù)分享和在線互動，覆蓋幾乎所有司法業(yè)務(wù)，形成司法運行的“生態(tài)圈”和正義“價值鏈”。這樣，司法運行從線下走到了線上，從封閉的、局限的“劇場”模式轉(zhuǎn)向了開放的、包容的平臺模式，實現(xiàn)全程可視。曾經(jīng)神秘威嚴(yán)的“法律之門”被移到陽光下，不僅提升了司法效率，促進(jìn)了司法公正，也便于公眾監(jiān)督和正義傳播。

　　其二，超時空的場景可視。對司法程序進(jìn)行高度專業(yè)化、復(fù)雜化的制度設(shè)計，目的在于阻斷人為因素干擾和不公因素滲透，從而更好地保護(hù)權(quán)利和維護(hù)正義。然而，這也帶來一個負(fù)面問題，即“法律之門”變成了煩瑣昂貴的博弈場。“接近正義”運動的諸多舉措之所以未能取得理想效果，原因在于其以物理時空的思維和方式解決物理時空的問題，無法打破“法律之門”的物理時空“圍墻”。隨著數(shù)字時代的到來，原來的物理“圍墻”逐漸被虛擬空間擊碎；原來生物形態(tài)的身體、行為、言語，原來物理形態(tài)的財物、流轉(zhuǎn)及其關(guān)系等，逐漸增添了一種“無形流動”的數(shù)字形態(tài)。此時，很多舊有的習(xí)慣將被顛覆，舊有的制度將面臨挑戰(zhàn)，司法制度及其運行機(jī)制也隨之發(fā)生深度變革。“在‘數(shù)字正義’理念之下，私人和社會都加強(qiáng)了對數(shù)字技術(shù)的采用，在法院內(nèi)外共同促進(jìn)‘接近正義’的實現(xiàn)”，尤其是人們通過設(shè)計出可以服務(wù)公眾的虛擬空間，使糾紛解決克服物理條件的限制。⑦例如，各地開發(fā)上線的“微訴訟”“E法庭”“律師通”“執(zhí)檢小智”以及正在全國推廣的“移動微法院”等小程序或軟件系統(tǒng)，使當(dāng)事人足不出戶即可參與在線庭審、調(diào)解或執(zhí)行。人臉識別、智能驗證、全程視頻留痕，也讓司法運行更加規(guī)范透明。這樣，憑借技術(shù)進(jìn)步就實現(xiàn)了線上與線下、虛擬與現(xiàn)實、遠(yuǎn)程與現(xiàn)場的立體鏈接與跨界融合，甚至形成了當(dāng)事人“零跑腿”的司法環(huán)境。“法律之門”也因此擺脫了物理形態(tài)的約束，開始在社會中進(jìn)行超時空、無形化、分布式的前置延展，形成了靈活便捷、體驗多樣的場景可視狀態(tài)?；?，普通民眾得以隨時隨地進(jìn)出“法律之門”，主張權(quán)利和伸張正義。

　　其三，全要素的數(shù)據(jù)可視。在新興技術(shù)的驅(qū)動和支撐下，司法運行數(shù)據(jù)化、自動化趨勢不斷加速。一是基于智慧司法的全流程在線審理和平臺化運行，會產(chǎn)生海量的司法數(shù)據(jù)，形成案件信息庫、案件特征庫、電子卷宗庫、證據(jù)標(biāo)準(zhǔn)庫、罪名要件庫、裁判文書庫、案例庫、法律法規(guī)司法解釋庫、辦案業(yè)務(wù)文件庫等多類型數(shù)據(jù)庫。這些數(shù)據(jù)庫實質(zhì)上是把復(fù)雜的司法案件轉(zhuǎn)換為可以存儲、計算和分析的數(shù)據(jù)，對其中涉及的人財物、社會關(guān)系和規(guī)則程序進(jìn)行了全要素的模塊化、可視化構(gòu)建。這些“越來越多的數(shù)據(jù)將會講述越來越多的故事”，⑧展示越來越豐富的正義價值和司法效果。二是司法程序憑借數(shù)字技術(shù)不斷拓展和升級，比較典型的是司法區(qū)塊鏈。“區(qū)塊鏈極大的去中心化、不可篡改性、不可否認(rèn)性、公開透明性共同促成了區(qū)塊鏈作為信任基礎(chǔ)設(shè)施的可行性，解決了參與者之間的共識問題。”⑨在電子證據(jù)認(rèn)證和智能合約履行上，司法區(qū)塊鏈可以做到電子數(shù)據(jù)及行為的全流程記錄、全鏈路可信、全節(jié)點見證、全方位協(xié)作，從而實現(xiàn)全要素的數(shù)據(jù)可視。三是隨著智慧司法的進(jìn)一步發(fā)展，算法決策將被更多地應(yīng)用于程序控制和司法裁判之中，人機(jī)互動、人腦算法和機(jī)器算法的融合也會日益加強(qiáng)。算法決策的優(yōu)勢在于自動運行、精細(xì)一致、超能高效。作為辦案通用的“公共決策工具”，它能夠全程回溯、數(shù)據(jù)留痕，這就比人腦決策更有利于聚集全要素，也更有利于可視化。總之，司法運行的數(shù)據(jù)化呈現(xiàn)，使其日益變得可代碼化表達(dá)、可量化計算、可分析預(yù)測、可審計問責(zé)，從而實現(xiàn)了全要素的數(shù)據(jù)可視，并進(jìn)入了“可視正義”時代。

　　二、司法人工智能的重塑效應(yīng)

　　司法人工智能所帶來的，已不再是過去那種外在技術(shù)裝備的更新?lián)Q代，而是對司法運行的內(nèi)嵌式、技術(shù)性變革，對司法運行產(chǎn)生了重塑效應(yīng)。

　　(一)司法過程場景化

　　古往今來，司法裁判過程都是在固定的場所——法庭中進(jìn)行的。庭審活動包含著時間、地點、人物、事件等諸要素，經(jīng)由法官、檢察官、律師、證人、被告人、法警等角色的參與，按照形式化的規(guī)則和程序來完成。它類似于上演一幕幕戲劇的“劇場”運行狀態(tài)，深嵌于特定化、場域化的物理時空之中，“法律之門”也就富有了神圣性、神秘性和儀式性。然而，人工智能的司法應(yīng)用，使得這種場域化的“劇場”運行狀態(tài)發(fā)生了重大轉(zhuǎn)向。

　　1.遠(yuǎn)程臨場

　　新興科技和數(shù)字經(jīng)濟(jì)的發(fā)展，改變了社會的“時空體制”。社會親近性與物理鄰近性、社會相關(guān)性與空間鄰近性開始剝離，空間位置或環(huán)境對大多社會過程而言已不再重要或不再具有決定性。時間和空間已經(jīng)“脫嵌”并獲得重構(gòu)。⑩司法人工智能就在這種“時空體制”變革中，創(chuàng)新了司法運行機(jī)制。如作為全國試點推廣的上海“206系統(tǒng)”(智能輔助辦案系統(tǒng))，就涵蓋了從刑事案件立案、偵查、審查起訴、庭審、判決，鏈接到刑罰執(zhí)行、減刑假釋、服刑人員刑滿釋放、回歸社會等環(huán)節(jié)，“以實現(xiàn)人機(jī)協(xié)同、線上線下跨界融合，實現(xiàn)從刑事辦案單一系統(tǒng)向刑罰執(zhí)行、社會治理領(lǐng)域綜合系統(tǒng)的轉(zhuǎn)變”。(11)案件當(dāng)事人無論身在何處，只要有在線電腦、攝像頭、麥克風(fēng)和可上傳的訴訟文書，即可參加訴訟庭審，甚至允許當(dāng)事人利用“碎片化”時間，靈活選擇場所，以非同步的方式完成訴訟，實現(xiàn)超時空的“錯時審理”。(12)這就突破了司法過程的物理場域限制，跨越了“虛擬/現(xiàn)實”的兩重空間和人的“生物/數(shù)字”的雙重屬性，實現(xiàn)了數(shù)字身份及行為的遠(yuǎn)程臨場。

　　2.情境互動

　　智慧法院建設(shè)的基本方向是網(wǎng)絡(luò)化、陽光化、智能化。目前全國三千多家法院已基本實現(xiàn)網(wǎng)上立案、庭審直播、遠(yuǎn)程開庭、遠(yuǎn)程調(diào)解。訴訟過程已不再必須經(jīng)過物理時空中的“對簿公堂”，而是以“云法庭”的視頻庭審形式，完成人臉識別、證據(jù)上傳、視頻抗辯、電子筆錄、全程留痕等一系列虛實交融的庭審活動。一次庭審可能出現(xiàn)多角色、多地點、多場所、多方式的同時在線和立體情境，每個訴訟當(dāng)事人都是網(wǎng)絡(luò)鏈接、信息傳遞、節(jié)點控制的參與者、分享者和承擔(dān)者。這就改變了封閉單一、機(jī)械受動的“面對面”場域化庭審過程，形成了靈活自主、多相界面、情境互動的司法場景。

　　3.全景敞視

　　福柯曾對環(huán)形監(jiān)獄的“全景敞視建筑”進(jìn)行過深刻分析：“在環(huán)形邊緣，人徹底被觀看，但不能觀看；在中心瞭望塔，人能觀看一切，但不會被觀看到”，從而形成了一種“分解觀看/被觀看二元統(tǒng)一體的機(jī)制”。(13)它通過空間阻隔、單向透明和中心瞭望的等級體系構(gòu)架來完成，旨在確保權(quán)力的隨時俯瞰、持續(xù)監(jiān)視和自動運行，是一種物理時空的中心化、等級化、不對稱的“全景敞視”。司法人工智能創(chuàng)造了一種與之相反的全新景象。在以往的庭審活動中，審判席處于法庭的正中位置且高出地面，訴訟兩造分列兩側(cè)，略低于審判席，公訴人、律師、被告人、被害人、證人以及旁聽席位等坐落有序。它無疑是中心化、場域化的，其認(rèn)證、質(zhì)證、抗辯等過程，都因物理條件限制而只能有限可視。不消說法庭外的庭審參與，即便是在法庭現(xiàn)場，也需工作人員的證據(jù)傳遞幫助才能做到“面對面”的認(rèn)證質(zhì)證。然而，網(wǎng)絡(luò)化、數(shù)字化和智能化技術(shù)的融合發(fā)展與司法應(yīng)用，打破了這種物理屏障，憑借電子文書、數(shù)據(jù)傳輸、即時視頻等方式，訴訟參加人不需“相逢”即可“見面”，審判席也悄然無形化為一個陽光性的控制節(jié)點，進(jìn)而改變了法庭的中心化、等級化設(shè)置。它與“全景敞視建筑”的目標(biāo)相反，推動了中心權(quán)力的非中心化，其自動運行也并非那種俯瞰式的持續(xù)監(jiān)視，而恰恰是趨向于參與各方的對稱透明和平向可視，形成了全新的跨時空、無屏障、分布式、扁平化的“全景敞視”。

　　綜上，在新的“時空體制”下，“社會關(guān)系從彼此互動的地域性關(guān)聯(lián)中，從通過對不確定的時間的無限穿越而被重構(gòu)的關(guān)聯(lián)中‘脫離出來’”。(14)司法過程也不再局限于物理上的結(jié)構(gòu)性設(shè)置和實體運行，而是從場域化走向了場景化，附加了數(shù)字化的意義展示、體驗分享和“可視正義”。

　　(二)司法規(guī)則代碼化

　　司法運行需要大量專業(yè)人員，他們是促成法律規(guī)則轉(zhuǎn)化為社會秩序的行動者、構(gòu)建者。人們在司法者身上寄托了不偏不倚、客觀公正的濃厚期待，但他們中的每一個都具有人性，都有普通人的一面。個體的價值觀、心情、精力甚至先入之見等，都會深深影響他們的自由裁量，這種來自人性自身的局限是無法克服的。立法本意、法律規(guī)則和正義價值在轉(zhuǎn)化為社會秩序的過程中，難免受到辦案人員一定程度的主觀雕塑或續(xù)造，其結(jié)果可能是更趨于公正，也可能相反。同時，程序煩冗、案多人少、專業(yè)素質(zhì)等因素也影響著司法成本和司法效率。這些一直是邁進(jìn)“法律之門”和“接近正義”所必須承受的“司法代價”。

　　信息革命把人們帶進(jìn)了虛實同構(gòu)的“在線生活”，形成了一套“法規(guī)的/自愿的、正式的/非正式的、國家的/超國家的、等級制的/分散的”全新規(guī)制模式。(15)在這里，算法扮演著重要角色，“代碼就是法律”。(16)司法規(guī)則的代碼化和自動執(zhí)行成為一種趨勢，不僅消減了以往的“司法代價”，也產(chǎn)生了特殊的司法效果。

　　1.自動化的程序運行

　　隨著人工智能技術(shù)的廣泛應(yīng)用，自動化執(zhí)法不再是一種“越軌”。(17)同樣，人工智能技術(shù)也可以將司法規(guī)則轉(zhuǎn)換成能夠自動運行的程序代碼，“按照合乎程序規(guī)定的方式將司法過程精確拆解，又借助數(shù)據(jù)分享和集中管理，令系統(tǒng)中的每一個動作都為最上的管理者可見”。(18)這些智能程序沒有情感糾纏，一絲不茍且不知疲倦。讓它們替代有人性局限的司法者，就成為新時代的一個選項。例如，上海的“206系統(tǒng)”建立了逮捕條件審查、證據(jù)標(biāo)準(zhǔn)指引、單一證據(jù)審查、證據(jù)鏈和全案證據(jù)審查、庭審示證、類案推送、辦案程序合法性審查監(jiān)督等自動程序。假設(shè)警察破獲了一起案件，想要逮捕犯罪嫌疑人，系統(tǒng)會自動提示哪些關(guān)鍵證據(jù)缺失、哪些證據(jù)有瑕疵；檢察官起訴時，系統(tǒng)會提示類似案件的起訴比例如何；法官將寫好的判決書放人系統(tǒng)中，系統(tǒng)會自動提示判決在多大程度上同本院以及上級法院在類似案情中的判決不一樣，法官若堅持該判決，系統(tǒng)將自動把判決推送給庭長以供討論。(19)司法區(qū)塊鏈技術(shù)則實現(xiàn)了從生成智能合約、完成實人認(rèn)證并簽約、合同原文及智能合約上傳至司法區(qū)塊鏈、智能合約自動運行、合約無法執(zhí)行后轉(zhuǎn)人多元調(diào)解流程、納入信用獎懲聯(lián)合機(jī)制、立案、審判、執(zhí)行的全流程智能化。2019年12月19日，杭州互聯(lián)網(wǎng)法院對一起該類型案件進(jìn)行了宣判，這是國內(nèi)首例“無人工干預(yù)、無外部因素干擾”的“智審”斷案。(20)這些人工智能輔助辦案系統(tǒng)，已初步實現(xiàn)了“去人化”，在一定程度上實現(xiàn)了司法標(biāo)準(zhǔn)的統(tǒng)一，且降低了成本，提高了效率。

　　2.隱身性的司法能動

　　在當(dāng)今信息時代，技術(shù)賦能可以提高司法效率、提供“可視正義”，同時也助長了司法能動。一是實現(xiàn)了空間拓展。近年來，北京互聯(lián)網(wǎng)法院的電子訴訟平臺、廣州中院的“律師通”和“移動執(zhí)行”手機(jī)APP、浙江“移動微法院”等紛紛上線運行。2019年廣州互聯(lián)網(wǎng)法院還在穗港澳布設(shè)了12個“E法亭”，全方位為當(dāng)事人提供自助存證、自助立案、自助查詢、智能送達(dá)、在線調(diào)解、在線庭審等六大訴訟服務(wù)功能。(21)這類智能平臺走出了法院的固定場域，實現(xiàn)了在現(xiàn)實/虛擬雙重空間中的拓展，增強(qiáng)了司法實現(xiàn)“可視正義”的能力。二是實現(xiàn)了權(quán)力增能。例如，通過執(zhí)行網(wǎng)絡(luò)辦案平臺，辦案人員足不出戶就能完成對被執(zhí)行人財產(chǎn)的自動查詢和凍結(jié)、扣劃，直接查詢被執(zhí)行人在異地不動產(chǎn)登記詳細(xì)信息和投資的具體情況；執(zhí)行智能預(yù)警平臺則通過匯集人口、婚姻、金融、政務(wù)、電商、信用、社交等周邊數(shù)據(jù)，全方位評價當(dāng)事人的身份特質(zhì)、行為偏好、資產(chǎn)狀況、信用歷史，對涉案當(dāng)事人進(jìn)行信用畫像和自動風(fēng)險評估。(22)這些智能聯(lián)動，使得司法權(quán)力穿透了原來的物理“圍墻”，延伸至所有涉案領(lǐng)域，并在控制力上獲得了增能擴(kuò)張。三是實現(xiàn)了關(guān)聯(lián)限制。在以往的司法運行中，司法機(jī)關(guān)對當(dāng)事人權(quán)利的限制措施基本都是“就事論事”，并遵守相應(yīng)的規(guī)則和程序。司法人工智能帶來了“關(guān)聯(lián)限制”效應(yīng)，如采取“彈屏”電子送達(dá)方式時，法院發(fā)送到被送達(dá)人手機(jī)上的短信送達(dá)內(nèi)容，不受殺毒軟件、手機(jī)終端設(shè)置等方面的屏蔽攔截，無論其手機(jī)處于操作過程還是待機(jī)狀態(tài)，均被即刻鎖屏，查閱內(nèi)容后方能解鎖。這固然確保了送達(dá)的便捷性、有效性和可靠性，但如今手機(jī)所承載的功能、意義和價值已經(jīng)遠(yuǎn)遠(yuǎn)超出通訊工具本身，關(guān)涉移動支付、商品交易、媒體社交、個人隱私等多方面的生活權(quán)利，一旦被鎖屏，它所鎖定的就是這些權(quán)利，而不僅僅是同送達(dá)相關(guān)的權(quán)利，這樣就產(chǎn)生了關(guān)聯(lián)限制。(23)這些隱身性的司法能動傾向，無疑加深了司法權(quán)的社會嵌入程度和影響。

　　3.技術(shù)性的規(guī)則重寫

　　司法具有鮮明的法條主義和形式主義特征，但“在一些問題上，我們沒有辦法事前就給定法官可以機(jī)械適用的規(guī)則，而必須由其來創(chuàng)制規(guī)則”。(24)司法不僅是一個適法的過程，也是理解、重釋甚至重寫規(guī)則的過程。司法人工智能所帶來的法律規(guī)則代碼化，既有控制自由裁量、對訴訟流程進(jìn)行節(jié)點控制、實現(xiàn)“可視正義”的司法效果，也會帶來對規(guī)則進(jìn)行技術(shù)性重寫的機(jī)會。“代碼作者越來越多地是立法者。他們決定互聯(lián)網(wǎng)的缺省設(shè)置應(yīng)當(dāng)是什么；隱私是否將被保護(hù)；所允許的匿名程度；所保證的連接范圍。”(25)一旦可以把司法規(guī)則轉(zhuǎn)化為代碼，對代碼的控制就成為在司法解釋和“法官造法”之外的二次重釋或重寫規(guī)則的權(quán)力。這些代碼的編寫基本都是由司法機(jī)關(guān)和技術(shù)專家主導(dǎo)，很少有律師、學(xué)者和公眾參與。司法者難免從有利于司法權(quán)力運行的立場出發(fā)，在數(shù)據(jù)標(biāo)注、要素抽取和代碼編寫過程中注入自身的或者職業(yè)的價值偏好，這意味著在數(shù)字司法向度上擴(kuò)大了司法權(quán)。

　　(三)司法決策建模化

　　在當(dāng)今世界，數(shù)字經(jīng)濟(jì)已成為主導(dǎo)形態(tài)，“人類正在進(jìn)入一切皆可計算的時代”。(26)與此相應(yīng)，社會生產(chǎn)和生活都逐漸走出了個別性、分散性、經(jīng)驗性的決策方式，形成了體系化、自動化的建模運營方式，通過信息采集、數(shù)據(jù)分析和設(shè)計算法來實現(xiàn)決策的智能化，從而“提供了一種全新的革命性工具”。(27)這意味著，很多決策“已經(jīng)從人手中轉(zhuǎn)移到算法手中”。(28)智慧司法的一個重要方向，就是司法決策的建?；?/p>

　　首先，生成法官智慧的聚合效應(yīng)。理性選擇理論上的“聚合效應(yīng)”或者“聚合的奇跡”，意指在規(guī)模群體的民主決策過程中，個體計算或預(yù)測的誤差會彼此抵消。“在絕大多數(shù)情況下，平均意味著平庸。但在決策時，卻常常效果非凡”，(29)很容易形成意想不到的、最優(yōu)的多數(shù)決判斷。然而，人們很快又發(fā)現(xiàn)了它的局限。由于聚合過程中充滿了“系統(tǒng)性錯誤”，不可通約的偏見“污染”了聚合效應(yīng)，簡單過半數(shù)投票在加總個人偏好并排序后，“會因出現(xiàn)嚴(yán)格社會偏好的循環(huán)，導(dǎo)致無法從一些有限的可行社會狀態(tài)集中確定一個最優(yōu)的社會狀態(tài)”。(30)而司法人工智能中的決策建?；軌蚯宄@種可能的“系統(tǒng)性錯誤”，進(jìn)而生成法官智慧的聚合效應(yīng)。

　　具言之，雖然有公開的明確規(guī)則、統(tǒng)一的司法政策和遵循先例原則，但“法律的生命不是邏輯，而是經(jīng)驗”。(31)面對日常生活中種類繁多、情節(jié)復(fù)雜的大量案件，這些規(guī)則、政策和原則難以直接被無縫套用，自由裁量不可避免。即便是最智慧、最敬業(yè)、最高尚的法官，也只能作出分散性、個體性的裁量，無法克服個體決策的有限性。如何約束自由裁量權(quán)以提升裁判水平、促進(jìn)公平正義就成為一個難題。司法人工智能通過數(shù)據(jù)標(biāo)注識別、案件要素抽取、知識圖譜構(gòu)建來進(jìn)行算法建模，這個“機(jī)器人法官”擁有的不再是法官個體或者合議庭法官的有限能力和個體經(jīng)驗，而是來自海量類似案件信息及裁判結(jié)果的數(shù)據(jù)庫運算，它所作的每一份判決，都是一項數(shù)據(jù)龐大的實證研究和綜合衡量。例如，在上海“206系統(tǒng)”運用深度學(xué)習(xí)算法構(gòu)建的智能量刑模型中，僅盜竊案一個量刑模型的學(xué)習(xí)樣本，就囊括了全國三十萬個盜竊案件樣本的全部案情要素及量刑情節(jié)要素。(32)這樣，就形成了一種空前的聚合效應(yīng)。由于這種建模算法并不是基于一個個法官的即時投票，而是基于業(yè)已形成的個案化的既定裁判，并且這些裁判都是立足相同職業(yè)背景和專業(yè)知識的理性判斷，不易受到普遍的、不可通約的偏見“污染”。此時，才真正有可能創(chuàng)造出“聚合的奇跡”，這相當(dāng)于整合、提煉了所有已決案件法官的集體智慧和最佳方案。

　　其次，加持?jǐn)?shù)理邏輯和計算理性?，F(xiàn)代性法律的一個突出特征是形式理性。它體現(xiàn)著“在技術(shù)上可能的計算和由它真正應(yīng)用的計算的程度”，(33)推動了法律規(guī)則的權(quán)利義務(wù)設(shè)計和利益平衡，使人們能夠預(yù)測自己和他人的行為效果，合理規(guī)劃自己的行為。而法官在案件裁判過程中，則存在著“法官造法”的構(gòu)建理性和自由裁量的經(jīng)驗理性，他們力圖尋求邏輯一致、唯一正確的司法結(jié)果，進(jìn)而維持法律的形式理性。

　　從生命科學(xué)來看，人腦思維本身也是一種問題求解的計算過程。法律或司法上的各種理性形式就是各種生化算法。如今信息技術(shù)能夠?qū)懗鲈絹碓綇?fù)雜的電子算法，二者可能會適用相同的數(shù)學(xué)定律，這就“打破了動物和機(jī)器之間的隔閡，并期待電子算法終有一天能夠解開甚至超越生化算法”。(34)其實，在20世紀(jì)70年代，人們就通過“如果A和B，那么C”的方式對三段論加以描述，讓機(jī)器法律推理變成可操作的現(xiàn)實。“將法學(xué)問題形式化為可計算問題”，(35)然后選擇合適的計算方法進(jìn)行建模編程，就成為一種智慧司法的潮流，英國“在線法院”法官還基此提出了“算法裁判”的倡議。(36)在我國，司法人工智能主要通過機(jī)器學(xué)習(xí)來構(gòu)建司法知識圖譜和算法模型，可以在線一鍵啟動從開庭到裁判執(zhí)行的所有流程，也即“采用大數(shù)據(jù)和訴訟建模將管轄法院、訴訟請求、賠償數(shù)額的計算、法律依據(jù)的引用等訴訟事項進(jìn)行全面模塊化，當(dāng)事人選項即可完成起訴、應(yīng)訴等過程”。(37)在這種情況下，智能系統(tǒng)的規(guī)范性含義會變得更加清晰，“它們平均會比人類專家提供更好的結(jié)果”。(38)這就在法律表達(dá)和運行上加持了數(shù)理邏輯和計算理性，把知識系統(tǒng)轉(zhuǎn)化成了數(shù)字系統(tǒng)，把案件審理過程轉(zhuǎn)化成了案件運算過程，從而提供更客觀、更科學(xué)、更準(zhǔn)確的糾紛解決方案。

　　再次，實現(xiàn)同案同標(biāo)、同案同判。近代以來，司法被賦予獨立品格和中立立場，但面臨的一個根本困境是：如果法官恪守條文，機(jī)械地司法，可能無法回應(yīng)社會需求、實現(xiàn)公平正義；如果法官們偏離法律過于頻繁，“違反了選擇最優(yōu)化，則法治便無法存活”。(39)更為復(fù)雜的是，面對類似或相同案件，每個司法者的判斷都會有所不同，他們可以輕而易舉地，即使是無意識地，以發(fā)現(xiàn)法律規(guī)則本意的名義，在裁判中推行他們自身的偏好。(40)要擺脫上述困境，關(guān)鍵在于克服法官自由裁量中的先入之見、價值偏好以及心情、性格和精力等主觀因素的影響。盡管真正意義上的同案或同判可能都不存在，人們卻一直渴望司法統(tǒng)一、同案同標(biāo)、同案同判，只不過受諸多主客觀因素或條件限制，這一期待常常落空。

　　司法人工智能為人們化解這一難題帶來了巨大希望。按部就班的程序沒有情感和意識，更沒有先入之見、價值偏好等因素的干擾。從理論上講，“算法可以詳細(xì)地描述應(yīng)用于每個小的決定(進(jìn)而形成最終的重要決定)之中的那些具體規(guī)則”。(41)它們以標(biāo)準(zhǔn)一致的要素抽取、相同的算法建模以及流水化的操作流程，對相同的信息輸入給出相同的算法輸出。在這種智能系統(tǒng)自動運行的司法決策條件下，同案同標(biāo)、同案同判將有機(jī)會走進(jìn)現(xiàn)實生活。

　　(四)司法服務(wù)管理智慧化

　　隨著網(wǎng)絡(luò)化、數(shù)字化、智能化技術(shù)在司法領(lǐng)域的廣泛應(yīng)用，“讓當(dāng)事人少跑路、讓數(shù)據(jù)多跑路”，從“最多跑一次”轉(zhuǎn)向“一次都不用跑”，不再是一句口號。2019年，全國97.8％的法院支持網(wǎng)上立案，其中高級法院的支持率達(dá)100％；全國法院支持網(wǎng)上證據(jù)交換的達(dá)66.9％，支持網(wǎng)上開庭的達(dá)58.2％；全國高級法院公開終本案件信息的比例達(dá)100％，中級法院和基層法院也分別達(dá)98.8％和96.6％。當(dāng)事人通過中國執(zhí)行信息公開網(wǎng)共聯(lián)系法官73203次，法官及時回復(fù)率為85.2％。(42)這些都大大提升了司法服務(wù)的智慧化、便捷化，經(jīng)由技術(shù)賦能實現(xiàn)了“服務(wù)群眾訴訟全方位、全天候、零距離、無障礙”的目標(biāo)。

　　司法管理和司法監(jiān)督也實現(xiàn)了智慧化、透明化。例如，上海“206”系統(tǒng)采用了審判管理數(shù)字化智能提示、審判執(zhí)行流程可視化智能跟蹤管理、審判質(zhì)效目標(biāo)化動態(tài)管理、法官業(yè)績數(shù)字化智能評價等技術(shù)，并進(jìn)一步運用大數(shù)據(jù)分析、視頻圖像識別、語義分析等技術(shù)，實現(xiàn)了辦案過程全程可視、全程留痕、全程監(jiān)督，確保司法權(quán)的陽光運行。借助這些數(shù)據(jù)分析和智能技術(shù)，的確更容易發(fā)現(xiàn)惡意訴訟，以及同私下交易有關(guān)的“關(guān)系案”“人情案”“金錢案”，庭審中的遲到、退庭、衣冠不整等現(xiàn)象也都會透明可視。

　　總之，司法人工智能使司法運行產(chǎn)生了前所未有的深刻變革。在司法效果上，實現(xiàn)了司法權(quán)在物理空間中的去中心化和扁平化以及在電子空間中的能動延展和擴(kuò)張，并有可能出現(xiàn)數(shù)字司法界面下的“再中心化”。在司法邏輯上，形成了知識系統(tǒng)與數(shù)字系統(tǒng)、法律理性和計算理性的互動構(gòu)建。建立在思辨的邏輯推理基礎(chǔ)上的“公理思維”，開始轉(zhuǎn)向立足計算和相關(guān)性分析的“數(shù)據(jù)思維”。在司法機(jī)制上，智能輔助辦案系統(tǒng)的平臺化，使得具有分工制約關(guān)系的公檢法司開始高效一體化運行。在司法裁決上，出現(xiàn)了正義的程式化、產(chǎn)品化供給方式，算法也從“提煉自這個世界，來源于這個世界”，轉(zhuǎn)向“開始塑造這個世界”。(43)這些無疑都使司法獲得了巨大的技術(shù)賦能，推動著“接近正義”向“可視正義”轉(zhuǎn)型。

　　三、司法人工智能的內(nèi)在限度

　　人工智能技術(shù)融入司法是數(shù)字時代的必然趨勢，其發(fā)展前景無需質(zhì)疑，但“要想讓算法更好地服務(wù)于人類，我們必須承認(rèn)算法不是全能的”。(44)智慧司法建設(shè)并不是一項司法革新的完美規(guī)劃，它對司法機(jī)制及其運行的重塑效應(yīng)也是有限的。

　　(一)客觀性上的悖論

　　我國的智慧司法建設(shè)，旨在實現(xiàn)“全面覆蓋、移動互聯(lián)、跨界融合、深度應(yīng)用、透明便民、安全可控”的轉(zhuǎn)型升級，力圖以算法決策規(guī)避人腦的“決策噪音”，讓司法活動更為陽光，司法公正更為直觀，最終提升司法結(jié)果的客觀性、一致性、公正性和效率性。然而，從全球范圍的實踐來看，算法決策和司法大數(shù)據(jù)的客觀性并不像人們想象的那樣易得，其也存在被主觀因素侵入的風(fēng)險。

　　1.算法決策的復(fù)雜性

　　首先，算法決策是數(shù)字時代的新型權(quán)力。人們曾把算法視為一種自由言論或商業(yè)秘密，但這些都不是算法的本質(zhì)所在。人工智能在商業(yè)交易、公共政策的制定、司法過程、交通出行等日常生活中深度應(yīng)用的場景越來越多，它們不僅僅進(jìn)行預(yù)測和推薦，很多時候也在作定性判斷，如人臉識別、資格審查、屏蔽封號、自動執(zhí)法等。“這些自動化系統(tǒng)已經(jīng)由簡單的行政管理工具變成了主要的‘決策者’”，(45)形成了一種替代人腦決策的裁斷權(quán)力，并在資源配置和行為控制上對相對人產(chǎn)生重要影響。就智能輔助辦案系統(tǒng)而言，它所進(jìn)行的證據(jù)標(biāo)準(zhǔn)和規(guī)則指引、逮捕條件審查、證據(jù)鏈和全案證據(jù)審查判斷、社會危險性評估、言詞證據(jù)審查、減刑假釋案件辦理、裁判偏離度提示、辦案程序監(jiān)督等等，也都是在行使算法裁斷權(quán)力。這種算法決策，并非簡單的計算公式和無意識的程序運行，而是從一開始就被“教導(dǎo)”了法律知識與邏輯，輸入了主觀的定性判斷基準(zhǔn)。盡管它需經(jīng)司法裁判者最終確認(rèn)，才能產(chǎn)生實際的司法效力，但仍不可否認(rèn)其權(quán)力屬性。

　　其次，算法權(quán)力也會受價值偏好影響。人們曾對算法決策抱有技術(shù)中立和進(jìn)步福利的浪漫幻想，認(rèn)為它在準(zhǔn)確性、一致性和效率上遠(yuǎn)優(yōu)于人類，而且不受情感和私欲干擾。“對于計算機(jī)來說，除非程序設(shè)計者把偏見因素引入進(jìn)來，否則它不會存在這個問題，而且我們可以通過查看程序的內(nèi)容來判斷其是否存在偏見因素”，(46)但問題也恰恰出現(xiàn)在這里。設(shè)計者“可以建造、構(gòu)筑、編制網(wǎng)絡(luò)空間，使之保護(hù)我們最基本的價值理念，同樣地，我們也可以建造、構(gòu)筑、編制網(wǎng)絡(luò)空間，使這些價值理念喪失殆盡”。代碼是被制造而非發(fā)掘出來的，并且“僅由我們所制造”。(47)基于相同的數(shù)據(jù)信息、技術(shù)條件、求解方案，分別由兩組各自封閉的程序員來設(shè)計算法，最后的輸出結(jié)果很可能不一樣。甚至在不同的使用場合，當(dāng)人們使用完全相同的運算步驟，想要得出相同結(jié)論，都常常不太可能。(48)這也說明了設(shè)計者主觀性的重要影響。盡管問題能夠被發(fā)現(xiàn)，但很難通過程序?qū)彶檫M(jìn)行糾偏。2018年初美國紐約市出臺“自動化決策特別工作組法”，試圖對政府使用的各種算法進(jìn)行監(jiān)管，最后不了了之。(49)同樣，在我國的人工智能司法應(yīng)用過程中，司法機(jī)關(guān)各自或者聯(lián)合研發(fā)的智能系統(tǒng)，都不同程度地反映著部門的職權(quán)立場、行動邏輯和地域特點。例如，上海“206系統(tǒng)”工程龐大復(fù)雜，只能采取全國法院的“眾籌”模式來完成證據(jù)知識圖譜的繪制。這些法律適用規(guī)則的整理，其實就是對刑法知識的一次精加工，“編輯者的邏輯編排、要旨提煉、觀點選擇，體現(xiàn)了個人的價值取向、學(xué)術(shù)判斷、政策立場”。(50)這些知識圖譜經(jīng)由程序員的代碼編寫和算法建模，自然又會或多或少地滲入一些人為因素。盡管代碼的執(zhí)行是無偏差的，但“偏差”會被編碼到系統(tǒng)中。(51)

　　再次，算法背后隱藏著算法黑箱與“算法霸權(quán)”。自人類社會開啟了“算法為王”的智慧發(fā)展模式，建模算法開始“大膽地從混沌之中創(chuàng)建秩序”。(52)然而，它們在提供技術(shù)進(jìn)步福利的同時，也帶來了算法黑箱問題。“用戶們無法看清其中的規(guī)則，無法提出不同意見，也不能參與決策過程，只能接受最終的結(jié)果。”(53)這就形成了一個算法決策的閉合回路，除非自我更新和改善，否則它將持續(xù)運行，不受外界因素的干擾和影響。一旦算法決策出現(xiàn)偏見、不公乃至有意的“暗算”，就會誘發(fā)嚴(yán)重的社會危機(jī)。有研究認(rèn)為，“程序員和設(shè)計者可能會試圖以公開或隱蔽方式嵌入一種邏輯，以使算法偏向期望的目標(biāo)”，如為特權(quán)階層布設(shè)“后門”。(54)盡管算法權(quán)力以建模計算之必然輸出結(jié)果的形式，獲得了技術(shù)中立的外在表現(xiàn)，但它不予公開、不接受質(zhì)詢、不提供解釋、不進(jìn)行救濟(jì)，難免會有演化為“算法霸權(quán)”的風(fēng)險。(55)于是，算法解釋權(quán)和算法治理隨之成為一種時代訴求。(56)我國的智慧司法建設(shè)也應(yīng)著力消除算法黑箱和算法霸權(quán)的隱患。未來在程序設(shè)計環(huán)節(jié)實現(xiàn)立法者、專家學(xué)者、律師和社會人士的開放性參與，打造可公開、可解釋、可救濟(jì)的智能系統(tǒng)，對于防范算法黑箱和算法霸權(quán)之風(fēng)險，大有必要。

　　2.司法大數(shù)據(jù)中的主觀性因素

　　從19世紀(jì)開始，一些科學(xué)家就期望利用客觀、可靠的統(tǒng)計數(shù)據(jù)來“構(gòu)建完美社會”，(57)司法大數(shù)據(jù)的挖掘利用也旨在打造更理想的司法效果。然而，這一過程依然可能受到主觀因素的干擾。

　　首先，數(shù)據(jù)采集的“全樣本”是一種主觀界定。算法和算力仰賴于“數(shù)據(jù)喂養(yǎng)”，數(shù)據(jù)量越大、越全、越真，算法決策就越客觀精準(zhǔn)，人工智能也才越“聰明”。司法是一項非常復(fù)雜的定分止?fàn)帣C(jī)制，涉及人財物、時間地點、主客觀狀態(tài)、行為方式、涉案工具等等，僅一個案件就會產(chǎn)生大量的司法數(shù)據(jù)。如果想就某一類型或某一類案由的案件進(jìn)行算法建模，就需要采集海量的數(shù)據(jù)。若要做到“全樣本”則難上加難，僅在什么時間、空間、范圍上來界定這個“全樣本”，就是一個很大的問題。從上海“206系統(tǒng)”的研發(fā)過程來看，命案被劃分為現(xiàn)場目擊型、現(xiàn)場留痕型、認(rèn)罪供述得到印證型和拒不認(rèn)罪型四大類，這四類命案“證據(jù)標(biāo)準(zhǔn)指引”的建模算法，主要是基于上海市2012年至2016年間審結(jié)的591起命案數(shù)據(jù)。71個常涉刑事案件罪名的“證據(jù)標(biāo)準(zhǔn)指引”，則是基于近三年全國102個常涉罪名刑事案件的數(shù)據(jù)制定的?？梢园l(fā)現(xiàn)，這些數(shù)據(jù)樣本都是三五年內(nèi)的。同樣，上海民事、行政案件智能輔助辦案系統(tǒng)從467個民商事案由、61個行政案由中首選了六大類8個案由，雖然標(biāo)注電子卷宗達(dá)5800余份，標(biāo)注點數(shù)量達(dá)12萬個，但上海市2016年道路交通事故糾紛一個案由收案量就達(dá)51312件。(58)可見，研發(fā)智能輔助辦案系統(tǒng)所憑借的，暫時還只能是有限時間段內(nèi)、有限范圍內(nèi)的“樣本”。只要對這個“樣本”的時間段和范圍稍作調(diào)整，它所匯集的司法數(shù)據(jù)情況可能就大相徑庭。數(shù)量變化還是小事情，對法律規(guī)則、司法解釋、司法政策、政治事件、社會環(huán)境等方面變革及其影響的權(quán)重計量，則更為復(fù)雜。真正意義上的“全樣本”收集很難做到，而有限時間段和范圍的“全樣本”選取，很大程度上是帶有主觀性的。

　　其次，數(shù)據(jù)標(biāo)注是一種主觀選擇。數(shù)據(jù)標(biāo)注是司法知識圖譜構(gòu)建的重要基礎(chǔ)，上海“206系統(tǒng)”的研發(fā)采取了人工標(biāo)注和自動標(biāo)注兩種形式，人工的數(shù)據(jù)清洗和標(biāo)注自不待言，機(jī)器的自動標(biāo)注也需要經(jīng)過程序設(shè)計人員的確認(rèn)。同樣，圖像識別、手寫體識別、插圖簽章、涂抹塊檢測、插入檢測等的準(zhǔn)確率雖然可達(dá)92％-98％，但它仍需人工審查校正，這些無疑也都是主觀選擇的過程。

　　再次，司法數(shù)據(jù)的闡釋理解是一種主觀判斷。標(biāo)定數(shù)據(jù)對機(jī)器學(xué)習(xí)和建模算法的效果具有很大影響。由于中文語詞具有多義性、模糊性和地方性，對于相同或者相似的文本知識和數(shù)據(jù)，不同的標(biāo)注人員會形成不同的闡釋理解，導(dǎo)致數(shù)據(jù)標(biāo)注結(jié)果可能因人而異。雖然可以通過構(gòu)建多層級數(shù)據(jù)標(biāo)注體系來消除語義分歧和增進(jìn)標(biāo)注的可解釋性，但仍有一定的主觀作用空間。主觀性和創(chuàng)造性在數(shù)據(jù)分析和建模算法中發(fā)揮著重要作用，“同樣的數(shù)據(jù)在不同的環(huán)境內(nèi)容中可以有截然不同的意義，這些意義并非數(shù)據(jù)所固有，而是人們在特定環(huán)境中分析數(shù)據(jù)并將意義賦予了數(shù)據(jù)”。(59)這也正是“投入多少人工，就有多少智能”的原因所在。

　　由上可見，在科學(xué)技術(shù)發(fā)展到一定程度或治理能力足以防范相關(guān)風(fēng)險之前，算法決策的客觀性與中立性都只能是有限的。也許有人爭辯說，人腦決策也有“人腦黑箱”，價值偏好更明顯，(60)相比而言，“即使最糟糕的數(shù)學(xué)模型應(yīng)該也沒那么糟糕”。(61)但是，人腦決策基本都是個體化的、局部的、發(fā)散的，其反饋回路是開放的，能夠反思和糾偏。而算法決策一旦出現(xiàn)問題，就會形成自動化、體系化、機(jī)制化的普遍侵害后果。更嚴(yán)重的是，算法決策往往以“科學(xué)”面目呈現(xiàn)，受到影響的相對人對其既不知情又不能質(zhì)疑。一旦算法決策變?yōu)橐环N被灌輸?shù)摹⒔o定的“客觀”，造成“假作真時真亦假”的反向替代，司法也就異化成為它的反面了。這是二者最深層的區(qū)別，也是我們必須警醒的地方。

　　(二)正義判斷上的困境

　　司法人工智能讓人們看到了“可視正義”和“數(shù)字正義”的希望，(62)但進(jìn)一步分析就會發(fā)現(xiàn)，“可視正義”也好，“數(shù)字正義”也罷，雖然近在咫尺，但也不會來得那么容易。

　　其一，難以對正義進(jìn)行建模計算。正義是人類社會自古以來的向善追求和崇高價值，也是法律價值的核心所在。追求正義的理想和社會不公的現(xiàn)實之間的矛盾，一直是困擾人類秩序的重大難題。盡管人工智能技術(shù)可以大大提升司法實現(xiàn)正義的功能，但很多復(fù)雜疑難案件的正義性判斷，仍然難以通過建模計算獲得。

　　首先，正義價值是普遍的，卻沒有統(tǒng)一標(biāo)準(zhǔn)。古今中外，人人都渴望正義，但“正義本身包含著各種相互沖突的價值”，它“并不只是以一種聲音說話”。(63)前些年我國發(fā)生的“刻章救妻案”，(64)就存在復(fù)雜的情理法的糾纏，“入獄養(yǎng)老案”也同樣讓人反思頗多。(65)正義呈現(xiàn)出一種無形的、流動的、多元的主觀判斷狀態(tài)，“具有著一張普洛透斯似的臉”。(66)對待正義問題，只能通過謀求最大公約數(shù)和重疊共識方式來獲得認(rèn)同。我們很難針對正義進(jìn)行共識性的要素抽取和建立通用的知識圖譜，“其價值難以用數(shù)字體現(xiàn)”，(67)也就很難進(jìn)行建模計算。同時，“機(jī)器人沒有道德觀。它們只是一種物體，被灌輸了程序員為達(dá)到特定目的而編寫的代碼”。(68)它所運行的數(shù)學(xué)公式，也難以為復(fù)雜的正義判斷提供可靠的答案。

　　其次，正義沒有價值位階，裁判需要權(quán)宜平衡。正義具有豐富的價值內(nèi)涵和理論體系，卻沒有一個明確的位階圖表，“它意味著在各種善之間不存在一種完備的字典式排序；它還意味著不存在‘社會制度的首要美德’，而只是一系列公共的善和美德，由于環(huán)境的不同而具有相對的重要性”。(69)關(guān)鍵問題并不是確定哪一個價值、哪一種善更重要，而在于“維護(hù)這樣一種制度：對于過一種良善生活是重要的所有價值的要求都能在這種制度中得到考慮和權(quán)衡”。(70)因此，比例原則、法益衡量等一直在司法裁判中占據(jù)重要位置。在社會公眾心中，“法官應(yīng)當(dāng)被視為兩個世界永恒的杠桿：應(yīng)然的世界和實然的世界，公共價值的世界和主觀偏好的世界，憲法的世界和政治的世界。法官在其中之一尋求合法性，但必須在另一個中認(rèn)識自身”。(71)司法中的算法決策，必須能夠面對和處理這樣的權(quán)衡情境。至少，“當(dāng)任務(wù)是構(gòu)造一個正確的或公正的法律裁決時，或者是對這樣的一個裁決進(jìn)行評論時，相關(guān)的各個當(dāng)事人的利益和觀點必須作為模型的一部分”。(72)這就很有可能超出了人工智能的建模計算能力。當(dāng)然，科技中的想象力可以讓人受到鼓舞，人們期待能在智能系統(tǒng)中嵌入一種“道德算法”，或者具有道德推理和道德討論能力的計算系統(tǒng)，以解決倫理判斷難題，比如“如果一個機(jī)器人開展搜救工作，那么它應(yīng)該先疏散/救援誰？或者，如果提供社會陪伴服務(wù)，那它什么時候該和用戶撒謊”。(73)然而，日常倫理判斷畢竟不同于司法裁判。道德算法或許能夠應(yīng)對日常倫理判斷，若要處理情節(jié)復(fù)雜的重大疑難案件，道德算法還是難以勝任。從目前看，“法律推理的所有關(guān)系模型都不能用于恰當(dāng)?shù)亟⑺痉ㄗ杂刹昧繖?quán)的模型”，(74)力圖解決一切、無所不能的“終極算法”也還不存在。司法裁判中法官的權(quán)宜平衡一時還難以用算法來替代。

　　再次，實現(xiàn)正義依靠的是實質(zhì)判斷，而不是體現(xiàn)相關(guān)性的概率計算。隨著人工智能技術(shù)快速發(fā)展，司法領(lǐng)域中算法決策與人腦決策的對弈測試也逐漸增多。美國曾研究測試，人工智能在584個案件中有79％的案件審理結(jié)果與歐洲人權(quán)法院的審判專家組判決結(jié)果相同。英國“機(jī)器律師”與倫敦100名律師在保險合同案件的法律判斷比賽中，“機(jī)器律師”以86.6％的準(zhǔn)確率領(lǐng)先于律師的66.3％。(75)這些事例似乎表明，算法決策比人腦決策更優(yōu)越。但實際情況是，“計算機(jī)并不是‘思考’，而是依據(jù)邏輯算法處理數(shù)據(jù)”。(76)它主要是基于數(shù)據(jù)進(jìn)行相關(guān)性分析，但這些“相關(guān)性關(guān)系并非決定性的，而是隨機(jī)的，屬于概率邏輯”。(77)此時，如何用數(shù)量、概率和邏輯來表達(dá)和定義善、惡、權(quán)利、義務(wù)、公正等倫理范疇，通過這種代碼轉(zhuǎn)換使人的倫理變成程序化的機(jī)器倫理，(78)就顯得十分關(guān)鍵。“我們必須將意圖寫入法律，同時寫入控制機(jī)器的軟件。”(79)這對于簡單案件而言，也許并不難做到，但對于復(fù)雜的疑難案件來說，僅有這種數(shù)量、概率和相關(guān)性邏輯還遠(yuǎn)遠(yuǎn)不夠，它們更多需要因果性分析。這種因果性分析并非單純的形式邏輯演繹，而是一種實質(zhì)性判斷。誠如霍姆斯所言，“一個時代為人們感受到的需求、主流道德和政治理論、對公共政策的直覺——無論是公開宣布的還是下意識的，甚至是法官與其同胞們共有的偏見，在決定賴以治理人們的規(guī)則方面的作用都比三段論推理大得多”。(80)正義的司法裁判需要通過綜合考量各種因素的實質(zhì)性判斷來實現(xiàn)，而很難依靠計算概率實現(xiàn)，即便算法可以進(jìn)行形式邏輯推演，也無法作出這種實質(zhì)性判斷。

　　其二，難以窮盡“正義”的樣本。擁有了司法正義的“全樣本”，才可能實現(xiàn)精準(zhǔn)的算法正義。理論上講，這個司法知識圖譜應(yīng)該是法律法規(guī)、司法文件、法院判例、證據(jù)規(guī)則和案件事實的動態(tài)集合，其數(shù)據(jù)采集是可以做到的。但實際上，大量的司法活動難以被完全數(shù)據(jù)化，且各機(jī)關(guān)或機(jī)構(gòu)的數(shù)據(jù)處理標(biāo)準(zhǔn)常常不一致，數(shù)據(jù)交換也有障礙。即使在單個的刑事罪名背后，也隱藏著千百種“適用場景”，對應(yīng)著各類成文或不成文規(guī)則，既有法律適用規(guī)則、量刑操作規(guī)則，也有證據(jù)審核規(guī)則、程序把關(guān)規(guī)則等等。如果沒有專業(yè)人員進(jìn)行提煉、分類、整合和標(biāo)準(zhǔn)化處理，進(jìn)而將之轉(zhuǎn)化為算法嵌入系統(tǒng)，那就只能作“打包”處理。即使不“打包”而是進(jìn)行詳盡的規(guī)范化處理，也無法涵蓋司法實踐中的各類復(fù)雜情況。例如，對“入戶搶劫”的理解，就需結(jié)合數(shù)個個案情形，依據(jù)相似性判斷、有效性判斷、相關(guān)性判斷和技術(shù)性判斷來認(rèn)定。這表明，要對司法正義的各類情形和所有樣本作出窮盡式的提煉與歸納，操作起來十分困難。這還沒有把不同時間段的法律修訂、法律解釋改變、司法政策變化、潛在冤錯案、案例內(nèi)容矛盾、司法的地方性差別等因素考慮進(jìn)去，否則將會更加復(fù)雜，也更難窮盡案件的正義樣本。

　　其三，正義難以零和博弈。從根本上說，“算法就是把輸入轉(zhuǎn)換成輸出的計算步驟的一個序列”。(81)面對海量的司法大數(shù)據(jù)、復(fù)雜的法律規(guī)則體系和司法運行機(jī)制，算法的開發(fā)設(shè)計者需要把知識系統(tǒng)轉(zhuǎn)化為數(shù)字系統(tǒng)，把法律邏輯轉(zhuǎn)化為數(shù)理邏輯，進(jìn)而把復(fù)雜的司法活動簡化為一種“無須滿足任何更多的條件即可生成‘是’與‘否’的二元選項”的代碼執(zhí)行和機(jī)器運算。(82)這固然提高了司法效率和裁判一致性，但不容否認(rèn)的是，“法律世界包羅萬象、復(fù)雜混沌，常常沒有明確的對錯之分”，(83)尤其是司法正義，更不可能簡化為一個是與否的零和博弈。算法決策“是”或“否”的對立判斷，不免存在風(fēng)險。“一旦它們做出了錯誤的決定，其造成的后果就很有可能是駭人聽聞的。”(84)此時，司法正義就會面臨嚴(yán)峻的挑戰(zhàn)。

　　其四，正義難以忽略人性。從古到今，司法活動都不是一個冰冷的、機(jī)械的規(guī)則適用過程，而是帶有鮮明的人文關(guān)懷。人們追求司法正義，無疑也是為了塑造更加公平和合理的社會秩序。盡管法官有人性的弱點，自由裁量權(quán)有專斷腐敗的可能，但他們的經(jīng)驗正義理念和司法主動性也確實抵消了“不斷增多的普遍性規(guī)則可能產(chǎn)生的僵化行為”，(85)維護(hù)著司法公正的公信力。相比之下，司法人工智能固然有助于作出更為高效一致的司法裁判，但它們不會計算情感，不能與人進(jìn)行心靈互動，自然也不可能有人文關(guān)懷，難以根據(jù)具體場景靈活地、創(chuàng)造性地維護(hù)正義價值。而越來越多的機(jī)器執(zhí)法和裁斷，越來越少的人際互動和交流，有把公民變成“馴服的身體”的危險。因此，在通過算法決策實現(xiàn)司法正義的過程中，需要人類“為系統(tǒng)提供必要的情感和共鳴元素”。(86)“審判中不可減少的人性，恰恰在于人類對事實和矛盾的法律要素審查所產(chǎn)生的不可預(yù)測性，這種不可預(yù)測性或多或少取決于不同情況。”(87)目前各國大多都將算法決策定位為輔助系統(tǒng)，辦案人員必須處于主導(dǎo)地位，以防止算法決策帶來人文流失?？梢?，司法人工智能只能帶來有條件的“可視正義”和“數(shù)字正義”，即使法律人工智能已廣泛投入運用，在追求司法正義的過程中，“法律人的‘情懷’和‘匠心’”仍然無法被復(fù)制和替代。(88)

　　(三)政治因素的遮蔽

　　現(xiàn)代法治的核心特征之一是司法中立，然而，司法畢竟是一種制度體系中的構(gòu)架，它不可能做到隔絕政治。“法院在某些情況下不得不處理社會政策問題，這并不是因為人們特別希望他們這么做，而是因為通常情況下法院沒有別的選擇。”(89)例如，美國聯(lián)邦最高法院可以通過重新定義某些規(guī)則條款和標(biāo)準(zhǔn)，“來滿足大法官不斷變化的政策偏好，從而在集權(quán)與分權(quán)、保守與自由之間做出最有利于大法官的選擇”，(90)但“布什訴戈爾案”之類的司法裁決仍不是一種單純的司法行為，而是帶有明顯的政治考量。(91)基于我國的制度屬性和歷史傳統(tǒng)，政治性因素對司法的影響也比較明顯。比如，“民憤極大”就曾是一種從政治上、道義上來考慮的從重處罰情節(jié)，“領(lǐng)導(dǎo)批示”也會對案件的定性和裁判具有重要“指導(dǎo)”作用。

　　這些影響因素很難進(jìn)入算法決策的考量范圍。首先，政策性、政治性影響因素往往是無形的、不確定的，如“堅持法律效果、政治效果、社會效果相統(tǒng)一”的綜合考量，就潛在于辦案人員某種未能言明的“自由心證”之中。其次，社會輿情、領(lǐng)導(dǎo)批示和聯(lián)合專案組等一些政治性因素，并不能全部反映到卷宗中，很多都反映在辦案人員的政治立場和方向思路上，很難做到全程留痕。再次，辦案人員往往會利用法律技術(shù)和規(guī)則漏洞，采取表面上遵從司法程序、符合法律規(guī)定、體現(xiàn)法律邏輯的形式，將政治性因素予以融入吸收并“合法化”，進(jìn)而將其“遮蔽”在司法過程和司法裁判中。對這些無影無形卻又有重要影響的因素，很難進(jìn)行數(shù)據(jù)采集、樣本分類、要素抽取和知識圖譜構(gòu)建，也難以將其納入建模計算。

　　(四)精準(zhǔn)性上的障礙

　　人工智能之所以被廣泛應(yīng)用于生活領(lǐng)域，原因之一就是它具備遠(yuǎn)超人腦的精準(zhǔn)計算和超強(qiáng)預(yù)測能力。但在實際運行中，算法決策未必能完全做到精準(zhǔn)，甚至還有一些風(fēng)險需要加以防范。一是算法錯誤。人工智能雖然都有“先發(fā)制人”和“完美預(yù)防”的預(yù)設(shè)，但無缺點的自動化系統(tǒng)并不存在，(92)需要容忍不可避免的系統(tǒng)錯誤和故障。經(jīng)驗表明，“由于程序員偷懶或者疏忽，不少被編碼的法規(guī)與書面法規(guī)相比，確實存在精細(xì)度不夠的問題”，而“錯誤的編碼導(dǎo)致法律條文被嚴(yán)重扭曲，其效果也發(fā)生了改變”。(93)二是算法自主。隨著人工神經(jīng)網(wǎng)絡(luò)技術(shù)的發(fā)展，人工智能在分析、預(yù)測和判斷上的某些能力已經(jīng)超過了人類。有時還會出現(xiàn)算法超出設(shè)計預(yù)期的運算方式和輸出結(jié)果，令設(shè)計者難以理解的情況，即算法自主或者算法異化現(xiàn)象。三是算法不能。其實從圖靈開始，人們就已經(jīng)意識到，雖然在很多情況下算法執(zhí)行的任務(wù)是人類無法完成的，但算法并不能解決所有問題，(94)如不少刑事案件中犯罪者的動機(jī)和目的。四是算法差異。在人工智能的實際應(yīng)用中，相同的任務(wù)或應(yīng)用可以采用不同的算法來完成，但這些不同算法的正確性、容錯性和效率性存在優(yōu)劣之別。從審級上說，從基層人民法院到最高人民法院，究竟是使用一套算法還是四套算法？如果使用一套算法，就會導(dǎo)致四個審級的智能裁判結(jié)果完全一致，不同審級之間的監(jiān)督功能就會喪失；如果使用四套算法，那又如何保證它們的計算品質(zhì)相同？從地域上說，全國如果使用一套算法，要如何解決經(jīng)濟(jì)、社會和文化上的地域差異問題？如果使用多套算法，如何保證全國的司法統(tǒng)一性？可見，盡管算法決策是基于客觀的數(shù)據(jù)分析和理性計算作出的，但面對重大疑難案件和大國的司法運行，有很多復(fù)雜因素難以用建模算法來回應(yīng)。即使可以進(jìn)行量化計算，也可能達(dá)不到人們所期待的精準(zhǔn)程度。“最難訴諸自動化的任務(wù)，就是那些要求靈活性、判斷力和常識技能等人只能通過默契來理解的任務(wù)。”(95)

　　本文對司法人工智能的正向展望與反向省思，并非是“以己之矛、攻己之盾”的邏輯游戲，而是旨在深入分析和研究它的可能空間與內(nèi)在限度。對司法人工智能的進(jìn)步與前景，我們當(dāng)然抱有積極樂觀的態(tài)度，但越是這樣就越要對其存在的問題和自身限度予以高度重視，從而進(jìn)行合理定位和科學(xué)賦能。發(fā)揮人工智能對司法的優(yōu)化重塑效應(yīng)，與對人工智能的風(fēng)險防范應(yīng)同步進(jìn)行。需針對算法決策設(shè)立相應(yīng)的規(guī)制和救濟(jì)機(jī)制，注入公開、公平和責(zé)任理念，進(jìn)而興利除弊，促進(jìn)科技向善和打造良性發(fā)展的智慧司法，更好地實現(xiàn)“可視正義”。

　　算法只能延續(xù)和提煉人類知識，但很難開拓和創(chuàng)造人類知識。算法決策能夠通過程序性、公式化計算來優(yōu)化訴訟程序和處理簡單案件，卻難以處理重大的復(fù)雜疑難案件；它能夠促進(jìn)形式正義，卻很難實現(xiàn)實質(zhì)正義。算法有可能勝任法庭上的多項工作，但無法勝任判決工作，(96)包括證據(jù)標(biāo)準(zhǔn)指引、條件審查、校驗糾錯、裁判偏離度提示等，都只能是人腦決策的輔助工具。關(guān)鍵之時還需要人來做決定，由人來擔(dān)任最終決策者。(97)也許，隨著人工智能技術(shù)的突破升級，算法決策替代人腦決策的空間會更大、質(zhì)量也更高，但它依然是司法助手、工作伙伴，而不是獨立裁判的“法官”。即便是“強(qiáng)人工智能”時代的“奇點”到來，人類也會重新規(guī)劃自身主體地位的發(fā)展藍(lán)圖。

　　注釋：

　?、僭趯W(xué)術(shù)界，人們曾對AI法律和法律AI進(jìn)行過區(qū)分和討論。當(dāng)今社會，網(wǎng)絡(luò)技術(shù)、數(shù)字技術(shù)和人工智能技術(shù)日漸呈現(xiàn)交融發(fā)展之勢，三者相互支撐和彼此賦能。因此，本文所稱“司法人工智能”是一個涵攝面更廣、包容性更強(qiáng)的概念，主要指司法領(lǐng)域中以網(wǎng)絡(luò)化、數(shù)字化和智能化融合驅(qū)動為基礎(chǔ)的人工智能技術(shù)應(yīng)用。

　　②即從為當(dāng)事人提供直接的物質(zhì)幫助和法律援助，到推進(jìn)擴(kuò)散利益保護(hù)的公益訴訟和司法改革，再到提供訴訟外的替代性糾紛解決方案(ADR)這“三波”運動。參見[意]卡佩萊蒂編：《福利國家與接近正義》，劉俊祥等譯，法律出版社2000年版，第5頁。

　　③[美]伊森·凱什、[以色列]奧娜·拉比諾維奇·艾尼：《數(shù)字正義：當(dāng)糾紛解決遇見互聯(lián)網(wǎng)科技》，趙蕾等譯，法律出版社2019年版，第64頁以下。

　?、芡蠒?，第256頁。

　?、菀姟稙榫W(wǎng)絡(luò)社會治理貢獻(xiàn)法治智慧》，《人民法院報》2019年9月7日第2版。

　?、蘩铌枺骸洞蛟熘悄軙r代司法文明新坐標(biāo)——人民法院智慧法院建設(shè)工作綜述》，《人民法院報》2019年3月10日第7版。

　?、咔耙?，凱什等書，第30頁以下。

　?、郲美]Phil Simon：《大數(shù)據(jù)可視化：重構(gòu)智慧社會》，漆晨曦譯，人民郵電出版社2015年版，第45頁。

　?、嵝煦〉龋骸端惴ńy(tǒng)治世界——智能經(jīng)濟(jì)的隱形秩序》，清華大學(xué)出版社2017年版，第311頁。

　?、鈪⒁奫德]哈特穆特·羅薩：《新異化的誕生——社會加速批判理論大綱》，鄭作彧譯，上海人民出版社2018年版，第118頁；[英]安東尼·吉登斯：《現(xiàn)代性的后果》，田禾譯，譯林出版社2011年版，第18頁。

　　(11)崔亞東：《人工智能與司法現(xiàn)代化》，上海人民出版社2019年版，第261頁。

　　(12)見《法治藍(lán)皮書：2019年全國高級法院支持網(wǎng)上立案率首次達(dá)到100％》，http://www.chinapeace.gov.cn/chinapeace/c100007/2020-06/03/content_12356666.shtml，2020年6月3日最后訪問。

　　(13)[法]米歇爾·?？拢骸兑?guī)訓(xùn)與懲罰》，劉北成等譯，生活·讀書·新知三聯(lián)書店1999年版，第226頁。

　　(14)前引⑩，吉登斯書，第18頁。

　　(15)[英]詹姆斯·柯蘭等：《互聯(lián)網(wǎng)的誤讀》，何道寬譯，中國人民大學(xué)出版社2014年版，第128頁。

　　(16)[美]勞倫斯·萊斯格：《代碼2.0：網(wǎng)絡(luò)空間中的法律》，李旭等譯，清華大學(xué)出版社2018年版，第6頁。

　　(17)參見[美]瑞恩·卡洛等編：《人工智能與法律的對話》，陳吉棟等譯，上海人民出版社2018年版，第239頁。

　　(18)蘆露：《中國的法院信息化：數(shù)據(jù)、技術(shù)與管理》，載蘇力主編：《法律和社會科學(xué)》第15卷第2輯，法律出版社2016年版，第46頁。

　　(19)見《最高法司改辦何帆：中國法院正努力把人工智能引入辦案系統(tǒng)》，https://www.thepaper.cn/newsDetail_forward_1746283，2020年4月30日最后訪問。

　　(20)見《中國首個應(yīng)用區(qū)塊鏈智能合約技術(shù)案件宣判》，http://www.chinanews.com/sh/2019/12-19/9038475.shtml，2020年4月30日最后訪問。

　　(21)見《是“E法亭”，不是“一法庭”!廣州打通司法服務(wù)最后一公里》，http://dy.163.com/v2/article/detail/EVII2P8D05149N9E.html，2020年4月30日最后訪問。

　　(22)見王牧、吳磊：《“智慧執(zhí)行”模式的具體探索和未來展望》，https://www.chinacourt.org/article/detail/2018/01/id/3179286.shtml，2020年4月29日最后訪問。

　　(23)見祝文明：《北京互聯(lián)網(wǎng)法院推出彈屏短信送達(dá)》，http://www.cipnews.com.cn/Index_NewsContent.aspx? newsId=111737，2020年4月29日最后訪問。

　　(24)[美]李·愛潑斯坦等：《法官如何行為：理性選擇的理論和經(jīng)驗研究》，黃韜譯，法律出版社2017年版，第25頁。

　　(25)前引(16)，萊斯格書，第87頁。

　　(26)前引⑨，徐恪等書，第323頁。

　　(27)[英]喬治·扎卡達(dá)基斯：《人類的終極命運：從舊石器時代到人工智能的未來》，陳朝譯，中信出版社2017年版，第296頁。

　　(28)[美]克里斯托弗·斯坦納：《算法帝國》，李筱瑩譯，人民郵電出版社2014年版，第197頁。

　　(29)[美]布賴恩·卡普蘭：《理性選民的神話：為何民主制度選擇不良政策》，劉艷紅譯，上海人民出版社2010年版，第7頁。

　　(30)[美]埃里克·馬斯金等：《選擇的悖論：阿羅不可能定理與社會選擇真相》，黃永譯，中信出版集團(tuán)2016年版，導(dǎo)言，第XV頁。

　　(31)[美]小奧利弗·溫德爾·霍姆斯：《普通法》，冉昊等譯，中國政法大學(xué)出版社2006年版，第1頁。

　　(32)參見前引(11)，崔亞東書，第168頁。

　　(33)[德]馬克斯·韋伯：《經(jīng)濟(jì)與社會》上卷，林榮遠(yuǎn)譯，商務(wù)印書館1997年版，第106頁。

　　(34)[以色列]尤瓦爾·赫拉利：《未來簡史》，林俊宏譯，中信出版社2017年版，第333頁。

　　(35)鄧矜婷、張建悅：《計算法學(xué)：作為一種新的法學(xué)研究方法》，《法學(xué)》2019年第4期，第104頁以下。

　　(36)參見曹建峰：《“人工智能+法律”十大趨勢》，《機(jī)器人產(chǎn)業(yè)》2017年第5期，第86頁以下。

　　(37)鄧恒：《人工智能技術(shù)運用與司法創(chuàng)新》，《人民法院報》2017年12月14日第2版。

　　(38)前引(17)，卡洛等編書，第120頁。

　　(39)[美]杰弗里·布蘭德：《法治的界限：越法裁判的倫理》，婁曲亢譯，中國人民大學(xué)出版社2016年版，第313頁。

　　(40)參見[美]歐文·費斯：《如法所能》，師帥譯，中國政法大學(xué)出版社2008年版，第13頁。

　　(41)[美]盧克·多梅爾：《算法時代：新經(jīng)濟(jì)的新引擎》，胡小銳等譯，中信出版社2016年版，第139頁。

　　(42)參見中國社會科學(xué)院法學(xué)研究所法治指數(shù)創(chuàng)新工程項目組：《2019年中國法院信息化發(fā)展與2020年展望》，載陳甦、田禾主編：《法治藍(lán)皮書：中國法院信息化發(fā)展報告No.4(2020)》，社會科學(xué)文獻(xiàn)出版社2020年版，第2頁以下。

　　(43)前引(41)，多梅爾書，第214頁。

　　(44)[美]凱西·奧尼爾：《算法霸權(quán)——數(shù)學(xué)殺傷性武器的威脅與不公》，馬青玲譯，中信出版集團(tuán)2018年版，第243頁。

　　(45)前引(41)，多梅爾書，第137頁。

　　(46)前引(24)，愛潑斯坦等書，第425頁。

　　(47)前引(16)，萊斯格書，第6頁。

　　(48)參見[德]羅納德·巴赫曼等：《大數(shù)據(jù)時代下半場：數(shù)據(jù)治理、驅(qū)動與變現(xiàn)》，劉志則等譯，北京聯(lián)合出版公司2017年版，第263頁。

　　(49)參見張凌寒、李榮：《美國紐約算法監(jiān)管遇挫啟示錄》，《法治周末》2020年1月16日第11版。

　　(50)何帆：《人工智能時代，為何還要打造這樣一本刑法工具書》，https://new.qq.com/omn/20190508/20190508A0708Q.html，2020年4月6日最后訪問。

　　(51)參見前引(17)，卡洛等編書，第283頁。

　　(52)[美]Robert C.Martin：《代碼整潔之道：程序員的職業(yè)素養(yǎng)》，余晟等譯，人民郵電出版社2016年版，第18頁。

　　(53)前引(41)，多梅爾書，第139頁以下。

　　(54)前引(17)，卡洛等編書，第297頁。

　　(55)參見前引(44)，奧尼爾書，前言，第V頁。

　　(56)參見張凌寒：《商業(yè)自動化決策的算法解釋權(quán)研究》，《法律科學(xué)》2018年第3期，第65頁以下；張欣：《算法解釋權(quán)與算法治理路徑研究》，《中外法學(xué)》2019年第6期，第1425頁以下。

　　(57)參見前引(41)，多梅爾書，第206頁。

　　(58)參見前引(11)，崔亞東書，第128頁以下。

　　(59)前引(48)，巴赫曼等書，第205頁。

　　(60)參見前引(40)，費斯書，第93頁。

　　(61)前引(44)，奧尼爾書，第238頁。

　　(62)參見前引③，凱什等書，第263頁。

　　(63)[英]約翰·格雷：《自由主義的兩張面孔》，顧愛彬等譯，江蘇人民出版社2002年版，第7頁以下。

　　(64)為救尿毒癥妻子，廖丹私刻醫(yī)院收費章，四年間涉嫌騙取醫(yī)院17萬余元。2012年12月7日，北京市東城區(qū)人民法院一審以詐騙罪判處廖丹有期徒刑3年，緩刑4年。見鄧海建：《“刻章救妻”案中情與法的謙抑》，http://opinion.cntv.cn/sikegongzhang/，2020年4月11日最后訪問。

　　(65)69歲老漢生活無助，為“入獄養(yǎng)老”，持刀在北京站廣場搶劫。2008年12月被北京鐵路運輸法院判處2年有期徒刑。見李代祥：《老漢入獄為養(yǎng)老，消除“無奈犯罪”根源更迫切》，https://www.chinacourt.org/article/detail/2008/12/id/337941.shtml，2020年4月11日最后訪問。

　　(66)[美]E.博登海默：《法理學(xué)——法哲學(xué)及其方法》，鄧正來等譯，華夏出版社1987年版，第238頁以下。

　　(67)前引(44)，奧尼爾書，第242頁。

　　(68)[美]約翰·C.黑文斯：《失控的未來》，仝琳譯，中信出版社2017年版，第22頁。

　　(69)[美]威廉·A.蓋爾斯敦：《自由多元主義》，佟德志等譯，江蘇人民出版社2005年版，第6頁。

　　(70)[美]約翰·凱克斯：《反對自由主義》，應(yīng)奇譯，江蘇人民出版社2003年版，第233頁。

　　(71)前引(40)，費斯書，第60頁。

　　(72)[德]托馬斯·F.戈登：《訴答博弈——程序性公正的人工智能模型》，周志榮譯，中國政法大學(xué)出版社2018年版，第8頁。

　　(73)[英]瑪格麗特·博登：《AI：人工智能的本質(zhì)與未來》，孫詩惠譯，中國人民大學(xué)出版社2017年版，第195頁。

　　(74)前引(72)，戈登書，第8頁。

　　(75)參見前引(11)，崔亞東書，第35頁以下。

　　(76)前引(27)，扎卡達(dá)基斯書，第292頁。

　　(77)前引(48)，巴赫曼等書，第199頁。

　　(78)參見段偉文：《人工智能的道德代碼與倫理嵌入》，《光明日報》2017年9月4日第15版。

　　(79)[德]克里斯多夫·庫克里克：《微粒社會——數(shù)字化時代的社會模式》，黃昆等譯，中信出版社2017年版，第136頁以下。

　　(80)前引(31)，霍姆斯書，第1頁。

　　(81)[美]托馬斯·科爾曼等：《算法導(dǎo)論》，殷建平等譯。機(jī)械工業(yè)出版社2013年版，第3頁。

　　(82)前引(41)，多梅爾書，第220頁。

　　(83)陳爾彥：《法律如何應(yīng)對人工智能挑戰(zhàn)》，《經(jīng)濟(jì)參考報》2017年12月12日第8版。

　　(84)前引(41)，多梅爾書，第136頁。

　　(85)前引(40)，費斯書，第96頁。

　　(86)前引(17)，卡洛等編書，第264頁以下。

　　(87)[法]伊莎貝爾·貝林：《法院判決真可以用數(shù)據(jù)預(yù)測嗎》，李蒙譯，https://www.chainnews.com/articles/678354421816.htm，2020年4月6日最后訪問。

　　(88)參見前引(50)，何帆文。

　　(89)前引(24)，愛潑斯坦等書，第22頁。

　　(90)[美]杰弗瑞·A.西格爾等：《正義背后的意識形態(tài)：最高法院與態(tài)度模型》，劉哲瑋譯，北京大學(xué)出版社2012年版，第36頁。

　　(91)參見韓顯陽：《美國最高法院大法官席位爭奪戰(zhàn)開打》，《光明日報》2016年2月17日第12版。

　　(92)參見前引(17)，卡洛等編書，第257頁。

　　(93)前引(41)，多梅爾書，第140頁以下。

　　(94)參見[澳]托比·沃爾什：《人工智能會取代人類嗎？——智能時代的人類未來》，閭佳譯，北京聯(lián)合出版公司2018年版，第12頁。

　　(95)同上書，第84頁。

　　(96)參見前引(41)，多梅爾書，第145頁。

　　(97)參見前引(48)，巴赫曼等書，第268頁。