【ZiDongHua 之人文化天下收錄關鍵詞：法與自動化 自動化科技   機器人  數(shù)字司法  人工智能  維爾茨堡大學   北京大學  自然語言處理  chatGPT 】

法苑·動態(tài)︱Eric Hilgendorf：數(shù)字司法：我們是否需要“機器人法官”

2023年5月9日，北京大學法學院全球教席學者、德國維爾茨堡大學刑法、刑事司法、法律理論、信息與計算科學法系系主任Eric Hilgendorf教授以“數(shù)字司法：我們是否需要機器人法官”為主題開展了一場線上學術講座。講座由北京大學法學院研究員江溯主持，北京大學法學院教授梁根林擔任講座評議人。校內(nèi)外近百余名師生通過zoom會議平臺在線參與講座，反響熱烈。

本文以文字實錄的方式呈現(xiàn)講座核心要點。

Eric Hilgendorf：

司法活動是否可以得到以及在多大程度上能夠得到人工智能的支持、人工智能系統(tǒng)是否可以代替法官等議題已經(jīng)引起廣泛討論。在對上述議題展開討論前，我們首先應當明確法官的職責。法官必須根據(jù)法律進行裁決，需要確定法律并通過解釋法律將之適用于具體案件，不能任意妄為。另外，法官同時代表法律和法治：一個審判是否是一場公平正義的審判，其衡量標準不僅僅限于判決的法律適用是否準確，還包括該判決是否能被糾紛各方所接受。司法活動的任務不僅僅是合并并提供法律信息，還包括向社會傳遞法律精神以及推動民眾對國家權力的接受等。

人工智能系統(tǒng)可以用以輔助司法系統(tǒng)，但不應該用以做出最終司法判決。從速度和效率的角度來看，如果現(xiàn)代技術手段能夠使得法院更快、更有效地開展司法活動，那么法院應當對數(shù)字化方式等技術的使用持開放態(tài)度，并及時跟進最新技術。

在司法活動中使用人工智能，可以幫助消除導致法官錯誤裁判的某些錯誤來源。法官的決策會受到情感和認知偏見的影響，但人工智能的運用可能能夠協(xié)助避免或排除上述影響(前提是相關問題不會發(fā)生在人工智能系統(tǒng)中，或者至少在技術上可以預防相關問題在人工智能系統(tǒng)發(fā)生)——這意味著人類決策與人工智能的結合，可以幫助避免司法裁決中的認知理性缺陷。未來既不完全屬于人類，也不完全屬于人工智能，而是屬于人與人工智能之間的協(xié)作。

在司法活動中使用人工智能可以使司法機構比以前更強大，人工智能不僅可以提高司法效率，還可以使民眾更加了解司法系統(tǒng)。下面將對人工智能在前述幾個方面的應用前景進行進一步討論與分析。

1. 通過數(shù)據(jù)庫分析以輔助司法判決

人工智能在支持司法決策方面最突出的用途是人工智能可以儲存大量的判決書，并在判例法和文獻數(shù)據(jù)庫中快速檢索出與待審判案件相關的法律主題。因此，人工智能可以用來輔助司法判決。

2. 做出預測

人工智能不僅非常擅長識別司法裁判的模式，它還可以從這些模式中總結相關規(guī)律，并根據(jù)這些規(guī)律做出預測。諸多實例表明，程序法必須改變以適應智能化時代所出現(xiàn)的新的可能性。但應明確的是，對基本權利的保護而言，新技術需被謹慎對待。在司法過程中使用任何有關人工智能的法規(guī)，都需要先對相關問題進行仔細分析并權衡其優(yōu)缺點。

3. 裁判文書寫作與在線仲裁法院

人工智能系統(tǒng)，如最近引起巨大關注的ChatGPT，可根據(jù)具體案件生成高質(zhì)量的裁判文書，因此人工智能能夠適用于法律文本書寫。此外，隨著人工智能在司法領域的廣泛應用，法官和檢察官將會越來越多地處理“Chat法官”的意見。在德國，民事訴訟不一定要在州法院進行，因此將來利益沖突可能不再由州法院裁決，而是由私人運營的在線仲裁法院根據(jù)算法生成或根據(jù)算法解釋的規(guī)則進行裁判——這在很大程度上取決于國家能否迅速地將新技術融入到現(xiàn)有的司法文化當中，捍衛(wèi)基本法律規(guī)則的同時，利用人工智能系統(tǒng)提高司法的效率與準確性。但可以肯定的是，無論如何，我們現(xiàn)存司法體系將發(fā)生重大變化——唯一的問題是，它是會以自主的方式向前邁進，還是會被動受到驅(qū)動或被削弱。

4. 事實調(diào)查、證據(jù)收集和證據(jù)評估

人工智能在事實調(diào)查、證據(jù)收集和證據(jù)評估方面還沒有被充分重視，其可用于估算當事人對同一案件事實進行不同法律解釋的概率。

5. 人工智能在溝通交流領域的應用

在司法領域使用人工智能還可協(xié)助促進法院和當事人之間的溝通。人工智能能夠克服法院與糾紛雙方在溝通過程中遇到的法律用語溝通障礙和特定的文化障礙。

6. 在虛擬空間中主持訴訟過程

人工智能在司法領域的另一個潛在用途是在虛擬空間中進行取證程序、證人詢問或整個聽證過程。特別是對于民事訴訟而言，不但能通過網(wǎng)絡在線進行，還可以將其轉(zhuǎn)移到一個虛擬環(huán)境中。在這個虛擬環(huán)境中，行為人以虛擬人形態(tài)出現(xiàn)，即作為自然人的化身參與訴訟。

7. 是否應該由人工智能做出最終的司法裁決?

真正的“人工智能法官”是指一個能夠獨立解決法律糾紛且具有合法性與正當性的系統(tǒng)。關于是否應該由人工智能做出最終司法裁決的論題已經(jīng)被討論了相當長的時間。當下，特別是在稅收和行政罰款過程中，行政執(zhí)法人員已使用人工智能系統(tǒng)做出行政裁決(該決定可以被上訴)。需要說明的是，上述決定中人工智能的決策能力是有限的，而不是無限的。如果公民可以對機器所作出的裁決提出上訴，也就是說，如果仍然能夠保證人類對司法過程的有效控制，那么“人工智能法官”的存在是極具可能性的。具有有限決策權的人工智能系統(tǒng)可以可觀地提升司法決策效率：人工智能簡化了行政流程和裁決過程，使法官能夠集中精力處理需要人類參與的復雜任務。因此，從一開始就排除司法領域中人工智能的使用是明顯錯誤的。

然而，必須讓那些受到人工智能所做出決策影響的人知道做出決定的不是人，而是人工智能。因此，該程序必須是透明的。在德國，人工智能決策系統(tǒng)的引入應該由議會在個案中進行嚴格審查，并由法律對其適用范圍、適用情形等作出明確規(guī)定。最后，必須完善使用人工智能決策的補救措施，確保最終的決定是由人類做出的。

誠然，數(shù)字化技術手段與人工智能系統(tǒng)的運用有助于支持司法機構完成其任務并推動司法機構的進一步發(fā)展。然而，人工智能與數(shù)字化手段所帶來的風險也不應被低估。

1.一般性問題

第一，必須確保司法系統(tǒng)功能的準確性，尤其是在法律適用領域。因此，我們不僅必須盡可能地避免并消除程序性錯誤，還必須對抗相關的黑客攻擊，以確保司法系統(tǒng)安全性。

第二，司法裁判數(shù)字系統(tǒng)的性能取決于它們的數(shù)據(jù)。這意味著某些社會問題，例如某些被認為帶有歧視性的職業(yè)選拔方式，可能會對人工智能系統(tǒng)的決策產(chǎn)生一定影響。

第三，從單純支持型AI到自我決定型AI的轉(zhuǎn)變是由一系列非理性因素(如人類情感)所推動的，為了盡可能地減輕這些因素所帶來的影響，人們應認真審視這些因素并在實踐中采取多種方式避免這些因素對決策的影響。人追求便利的心理便是影響因素之一，出于這種便利心理，人們會更傾向于直接采納機器所作出的建議。并且如果在現(xiàn)有的系統(tǒng)使用過程中只有成功的經(jīng)驗，那么在實踐中更容易導致人們對機器建議的盲目信任(即“機器偏見”)。

另外，與司法決策權從人類轉(zhuǎn)移到機器所密切相關的是，被要求做決定的人類可能喪失決策能力和勇氣。技術的使用會對使用技術的人產(chǎn)生影響，而這些影響可能包括某些能力的喪失。例如若計算機能夠比人更快、更可靠地完成計算任務，那么人們將不再使用他們的計算能力，并且逐漸喪失這種能力。

為了避免陷入技術上的死胡同，我們不妨把目光投向世界上那些已經(jīng)在司法系統(tǒng)數(shù)字化方面取得較大進展的國家。它們不一定是具有傳統(tǒng)技術優(yōu)勢的西方國家;相反，司法系統(tǒng)的數(shù)字化轉(zhuǎn)型有可能使那些在技術發(fā)展方面趨于落后的國家在該領域發(fā)揮主導作用。

第四，我們也不能忽視民眾對司法系統(tǒng)數(shù)字化的接受度問題。在司法決策這樣一個敏感的領域使用人工智能，將會引發(fā)民眾的極大關注。法律的有效性取決于民眾的接受程度，所以在司法系統(tǒng)數(shù)字化的過程中，最重要的是通過教育和充分的論證來消除民眾對司法領域應用人工智能的疑慮。但在某些情況下，人們不接受人工智能應用于司法領域的理由也并非毫無道理。此時，特別是在民主國家，應當注意技術必須適應人，而不是人適應技術。

2. 法律上的具體挑戰(zhàn)

第一，如果只在原有判決基礎上去學習和理解算法，并只在以往案件材料的基礎上作出新的判決，那么就會缺失區(qū)分好法官與普通法官的重要標準，新的社會價值觀和公序良俗的變化也不會被納入到人工智能決策系統(tǒng)的考慮范圍中。雖然不排除有一天這個問題會被解決，但只要這在實踐中還未實現(xiàn)，法官就必須檢查根據(jù)原有判例法和文獻所表達出的觀點發(fā)展而來的裁決建議是否真的可以為當下的糾紛雙方與社會公眾所接受。這也是將最終決策權交給人而非機器的一個重要理由。

第二，人工智能系統(tǒng)得出裁決建議的方式并不明確。至少在民法體系中，人類決策者以法律規(guī)定為指導而得出相應裁決，而法律規(guī)定則是根據(jù)其所使用的法律用語進行解釋，并同時考慮到立法者的意圖、法律體系的整體協(xié)調(diào)性及其客觀含義。人工智能裁決規(guī)則是基于過往案例形成的，這與英美法系法官的裁決規(guī)則形成基礎較為相似;然而，人工智能得出裁決建議的內(nèi)部流程不太可能類似于英美法系法官根據(jù)判例做出裁決的思維過程——這是司法決策完全依賴人工智能所面臨的又一重要問題。

第三，技術壟斷問題。在司法領域的軟件使用也將出現(xiàn)于一般軟件領域所存在的壟斷問題。壟斷的形成并不能促進創(chuàng)新，反而會抑制創(chuàng)新。在司法軟件的使用方面，還需要注意的是主權國家必須能夠保障司法過程的穩(wěn)定和持續(xù)推進，這是公民有權期望國家完成的一項任務。如果司法機構廣泛依賴大型外國公司，而這些公司或多或少可以自由決定是否延長或修改現(xiàn)有合同，這很難滿足國家保障司法機構正常運作的目標——至少在德國是如此，因此在司法裁決過程中使用人工智能系統(tǒng)，從而導致技術壟斷很可能是違憲的。

結語：

目前來看，人工智能不可能完全取代法官和法院。法院的任務遠不止創(chuàng)造法律資料和在具體案件中適用法律，法院還負責促進民眾對個案法律判決及對國家和其整個法律體系的接受。在三權分立的國家中，獨立的司法機構發(fā)揮著核心的政治性作用。人工智能并不能完全獨立地完成前述目標，但是其仍然能在司法活動中發(fā)揮重要作用，未來屬于人工智能和人類決策者之間的合作。

梁根林：

Hilgendorf教授從對法官的任務界定出發(fā)，首先明確了人工智能可以幫助法官提高工作效率，保障裁決的客觀性與公正性，減少決策錯誤，同時也探討了數(shù)字化與人工智能應用于司法領域可能存在的風險。對人工智能運用于司法過程的利弊和其前景分析的基礎上，Hilgendorf教授得出的結論是雖然人工智能不可能完全接管司法任務，但可以支持法院作出相關決定，未來應當屬于人工智能和人類的合作。

較之于歐洲公眾輿論以及學者對司法中運用人工智能的抵觸和限制，人工智能和數(shù)字化司法在中國司法實踐中的運用是超前的。在2016年，中國發(fā)布了《國家信息化戰(zhàn)略發(fā)展綱要》，把智慧法院納入國家信息化發(fā)展戰(zhàn)略，并且致力于數(shù)字法治和智慧司法信息化體系的建設，以便辦案更加精細、司法管理更加科學、程序更加透明、過程更加高效、甚至服務更具人性。中歐之間的差異性可能在于當歐洲同行還在爭論人工智能在司法活動中的可接受度時，中國已全面推行數(shù)字化司法和智慧司法，借助于諸如大數(shù)據(jù)、云計算等手段，對司法全過程和結果進行全面管理和運用。當然，中國也存在類似爭議，相關討論與報告的展開也與Hilgendorf教授今天的講座內(nèi)容大體契合，比如中國同行認為人工智能雖能提升效率，實現(xiàn)同案同判，但如果過于依賴算法技術和人工智能，可能會引發(fā)機械司法和教條司法，從而導致所謂的工具理性與個案爭議的沖突。

如Hilgendorf教授所言，司法過程不是對法律的簡單理解和使用，司法過程需要法官根據(jù)對法律的理解及法律所蘊含的價值觀、法律目的、法律條文的客觀意義，甚至需要結合社會公序良俗的變化來予以個別化認定，以實現(xiàn)個案正義。全面數(shù)字化的司法可能伴隨著中國學者所指出的“數(shù)字鴻溝”、“技術壁壘”、“數(shù)字優(yōu)勢”、“購買優(yōu)勢”等問題，可能對司法公正形成威脅;同時，技術外包可能導致技術壟斷、算法缺陷、技術偏見。全面數(shù)字化甚至可能導致法官形成司法惰性，不少學者已經(jīng)認識到上述威脅并開始對其展開針對性研究。我相信中國同行可以就今天講座的話題與Hilgendorf教授及其他歐洲同行進行更深入的交流——在數(shù)字化時代和數(shù)字化司法進程當中，如何在個案中更好地實現(xiàn)正義。

開講學者簡介：

Eric Hilgendorf 教授學養(yǎng)深厚，著作等身。他擁有圖賓根大學哲學、現(xiàn)代史和法學學士學位以及圖賓根大學的雙博士學位。他于 1997 年擔任康斯坦茨大學刑法教授，后當選該法學院院長。2001年，他調(diào)任至維爾茨堡大學，后又于 2010 年牽頭成立了工業(yè)、交通與私人自動化系統(tǒng)領域聞名遐邇的“Forschungsstelle Robotrecht” 研究中心。自2013 年起，他擔任 AdaptIVe 項目泛歐法律事務組組長。2016年，他被德國交通運輸部部長 Alexander Dobrindt 任命為德國國家自動駕駛倫理委員會委員。自2019年起，他擔任巴伐利亞數(shù)字化轉(zhuǎn)型研究所主任。此外，他還是歐洲人工智能高級別專家組成員。

Eric Hilgendorf 教授研究領域廣泛，包括刑法、刑事訴訟法、法哲學、法律與自動化交通及人工智能、醫(yī)事刑法與生物倫理等。他的代表性著作包括《德國刑法典-教學與實踐評注》《德國刑法手冊》《德國刑法學：從傳統(tǒng)到現(xiàn)代》和《刑法案例研習》等。