【ZiDongHua 之人文化天下收錄關(guān)鍵詞：人工智能 ChatGPT AIGC AI 】

　　

　　研討實(shí)錄 | 比較人工智能法律國(guó)際研討會(huì)

　　

　　9月28至29日，北京大學(xué)國(guó)際法學(xué)院（以下簡(jiǎn)稱“北大國(guó)法”）主辦的“比較人工智能法律國(guó)際研討會(huì)”在北京大學(xué)深圳研究生院舉行，吸引了全球法學(xué)界與人工智能領(lǐng)域的關(guān)注。此次盛會(huì)得到鑄成律師事務(wù)所、德國(guó)EBS大學(xué)布萊特?cái)?shù)字化和法律中心等協(xié)辦機(jī)構(gòu)以及南山區(qū)司法局、南山區(qū)工業(yè)和信息化局等權(quán)威單位的支持，彰顯其重要性與影響力。此次盛會(huì)不僅響應(yīng)了習(xí)近平總書(shū)記關(guān)于涉外法治人才培養(yǎng)和涉外法治體系建設(shè)的號(hào)召，更在AI迅猛發(fā)展的時(shí)代背景下，為市民們揭開(kāi)了AI與法律交織的神秘面紗。

 

　　

　　北大國(guó)法副教授Gilad Abiri，北大法學(xué)院副教授戴昕，北大國(guó)法常駐學(xué)者、EBS法學(xué)院教授Emanuel V. Towfigh共同策劃了這場(chǎng)學(xué)術(shù)盛宴。研討會(huì)設(shè)置了八個(gè)專題，涵蓋AI治理、責(zé)任、知識(shí)產(chǎn)權(quán)、市場(chǎng)轉(zhuǎn)型、法律職業(yè)、內(nèi)容審查等多個(gè)領(lǐng)域，內(nèi)容豐富，精彩紛呈。

 

　　

　　在為期兩天的研討中，來(lái)自中、德、法、澳等國(guó)的頂尖學(xué)者與實(shí)務(wù)專家齊聚一堂，圍繞AI治理、AI與責(zé)任、AI與知識(shí)產(chǎn)權(quán)、AI與市場(chǎng)轉(zhuǎn)型等熱點(diǎn)議題展開(kāi)熱烈討論，從跨國(guó)法和比較法的視角探討了國(guó)家監(jiān)管政策可能帶來(lái)的超越國(guó)境的外部性和溢出效應(yīng)。實(shí)務(wù)圓桌討論環(huán)節(jié)更是將理論與實(shí)踐緊密結(jié)合，為AI相關(guān)法律問(wèn)題提供了實(shí)務(wù)見(jiàn)解和解決方案。

　　

　　特別值得一提的是，此次研討會(huì)緊密結(jié)合我國(guó)政府在AI治理方面的最新政策，如《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等，為相關(guān)企業(yè)“走出去”和AI創(chuàng)新應(yīng)用場(chǎng)景提供了寶貴的法律支撐。同時(shí)，會(huì)議主題順應(yīng)全球最新技術(shù)發(fā)展趨勢(shì)及國(guó)家對(duì)新一代人工智能發(fā)展的重視，重點(diǎn)關(guān)注人工智能的安全和健康發(fā)展，為提升人工智能發(fā)展質(zhì)量貢獻(xiàn)學(xué)術(shù)與實(shí)務(wù)智慧，助力依法保護(hù)個(gè)人信息、商業(yè)秘密及行業(yè)重要數(shù)據(jù)。

　　

　　這場(chǎng)研討會(huì)不僅是學(xué)術(shù)盛宴，更是提升法治素養(yǎng)、了解AI與法律關(guān)系的絕佳機(jī)會(huì)。通過(guò)專家們的精彩演講與深入剖析，公眾得以更全面地認(rèn)識(shí)AI時(shí)代法律的重要性。

　　

　　展望未來(lái)，隨著AI技術(shù)的持續(xù)進(jìn)步與應(yīng)用的廣泛推廣，涉外法治建設(shè)將面臨更多挑戰(zhàn)和機(jī)遇。北京大學(xué)國(guó)際法學(xué)院將繼續(xù)發(fā)揮自身優(yōu)勢(shì)，搭建國(guó)際交流平臺(tái)，促進(jìn)法學(xué)界與AI領(lǐng)域的深度融合，為推動(dòng)我國(guó)涉外法治事業(yè)的發(fā)展貢獻(xiàn)更多智慧與力量。

　　

　　專題1：奠定基調(diào)，全球AI治理

　　

　　專題一由澳大利亞紐卡斯?fàn)柎髮W(xué)（University of Newcastle）法學(xué)院院長(zhǎng)Tania Sourdin、中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒和法國(guó)里爾天主教大學(xué)（Université catholique de Lille）副教授Delphine Dogot做主旨演講，由北京大學(xué)國(guó)際法學(xué)院副教授Gilad Abiri主持。Tania Sourdin圍繞“政府、司法和大型律所視角下的AI治理”，介紹了澳大利亞目前的AI治理規(guī)定，從政府、組織、司法、法院四個(gè)角度探討AI治理的途徑和問(wèn)題。張凌寒以“以人為本的AI治理”為主題，提及今年3月發(fā)布的《中華人民共和國(guó)人工智能法（學(xué)者建議稿）》，以促進(jìn)對(duì)AI立法的討論工作，針對(duì)被頻繁問(wèn)及的兩個(gè)問(wèn)題，即為什么中國(guó)需要一部綜合的AI法律以及聯(lián)合國(guó)在AI治理中發(fā)揮關(guān)鍵作用的必要性展開(kāi)討論，并介紹了其作為工作組成員剛剛提交的聯(lián)合國(guó)AI咨詢機(jī)構(gòu)的最終報(bào)告。Delphine Dogot聚焦“AI在全球安全治理中的規(guī)范性”，探討AI如何成為社會(huì)治理的一部分，在將AI作為監(jiān)管對(duì)象的同時(shí)，思考其帶來(lái)的規(guī)范效應(yīng)。

　　

　　專題2：AI與責(zé)任

　　

　　專題二由中國(guó)政法大學(xué)法學(xué)院副教授沈偉偉和德國(guó)奧斯納布呂克大學(xué)（University of Osnabrück）歐洲私法和商法教授、歐洲法律研究所所長(zhǎng)Christoph Busch做主旨演講，由北京大學(xué)國(guó)際法學(xué)院助理教授吳奕鋒主持。沈偉偉圍繞“重塑仿人機(jī)器人事故責(zé)任體系”，針對(duì)人形機(jī)器人的人形模擬、人工智能以及人機(jī)互控等技術(shù)特點(diǎn)可能帶來(lái)的侵權(quán)責(zé)任法上的疑難問(wèn)題進(jìn)行分析，提出對(duì)傳統(tǒng)的侵權(quán)責(zé)任框架進(jìn)行重構(gòu)，在各個(gè)產(chǎn)業(yè)內(nèi)部引入技術(shù)安全港，從而在法律監(jiān)管和技術(shù)發(fā)展之間取得新的平衡，并探討新的救濟(jì)措施的可行性。Christoph Busch圍繞“為代理AI系統(tǒng)更新歐盟消費(fèi)者法”，考慮到AI未來(lái)能夠在消費(fèi)者的委托下作出交易決策的可能性，探討現(xiàn)行的歐盟消費(fèi)者法能否應(yīng)對(duì)這樣的AI代理系統(tǒng)帶來(lái)的問(wèn)題和挑戰(zhàn)，認(rèn)為應(yīng)當(dāng)改進(jìn)其監(jiān)管設(shè)計(jì)，并調(diào)整相應(yīng)的商業(yè)行為規(guī)則。

　　

　　專題3：AI與知識(shí)產(chǎn)權(quán)

　　

　　專題三由北京大學(xué)國(guó)際法學(xué)院副教授Danny Friedmann和中國(guó)人民大學(xué)法學(xué)院副教授、數(shù)字法學(xué)教研中心主任、未來(lái)法治研究院執(zhí)行院長(zhǎng)張吉豫做主旨演講，由北京大學(xué)國(guó)際法學(xué)院副院長(zhǎng)、助理教授茅少偉主持。Danny Friedmann圍繞“算法勸阻：對(duì)可能侵犯版權(quán)的內(nèi)容進(jìn)行排序，使其相對(duì)消失”，主要探討平臺(tái)對(duì)內(nèi)容流量進(jìn)行操作的合法性，指出ChatGPT等AI工具在產(chǎn)出答案時(shí)并不給出明確的答案來(lái)源，在重述和總結(jié)答案時(shí)可能產(chǎn)生知識(shí)產(chǎn)權(quán)侵權(quán)和不正當(dāng)競(jìng)爭(zhēng)的問(wèn)題；算法對(duì)搜索結(jié)果進(jìn)行展示和屏蔽可能會(huì)對(duì)內(nèi)容上傳者的基本權(quán)利造成侵害，以中國(guó)的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》為例，考察現(xiàn)有的推薦算法規(guī)定能否對(duì)這樣的算法威懾（algorithmic dissuasion）進(jìn)行有效規(guī)制。張吉豫圍繞“AI模型訓(xùn)練中的合理使用：中國(guó)相關(guān)法律發(fā)展回顧與展望”，針對(duì)使用海量作品訓(xùn)練AI模型而引發(fā)的版權(quán)爭(zhēng)訟，回顧了中國(guó)著作權(quán)制度下的相關(guān)立法和司法過(guò)程，以及在人工智能相關(guān)立法探討中的分歧和共識(shí)，分析論證了在中國(guó)法下應(yīng)該明確增加數(shù)據(jù)分析訓(xùn)練例外的條款，“三步檢驗(yàn)法”可以應(yīng)對(duì)未來(lái)的發(fā)展，始終為著作權(quán)人提供必要的保護(hù)。

　　

　　專題4：AI與版權(quán)

　　

　　專題四由對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院教授、數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任張欣和北京大學(xué)法學(xué)院助理教授邊仁君做主旨演講，由北京大學(xué)國(guó)際法學(xué)院助理教授黃心瑜主持。張欣重點(diǎn)探討了人工智能的價(jià)值鏈，指出內(nèi)容生成的方式從個(gè)人產(chǎn)出變成多主體合作的流程性產(chǎn)出，內(nèi)容產(chǎn)業(yè)的組織結(jié)構(gòu)從個(gè)人創(chuàng)作的工作坊模式轉(zhuǎn)變?yōu)樯鐣?huì)化的大量?jī)?nèi)容產(chǎn)出，內(nèi)容創(chuàng)作的激勵(lì)從內(nèi)容生產(chǎn)者直接從內(nèi)容銷售盈利擴(kuò)大為生產(chǎn)模式和規(guī)則的貨幣化。邊仁君以“模型崩潰，版權(quán)幸存”為主題，指出當(dāng)前“版權(quán)已死”的觀點(diǎn)認(rèn)為版權(quán)的存在是因?yàn)樾枰?lì)創(chuàng)作，但現(xiàn)在AI已經(jīng)可以勝任，版權(quán)似乎不再必要；但是，AI模型的產(chǎn)出并不穩(wěn)定可持續(xù)，實(shí)驗(yàn)表明以同一組人工拍攝照片為原初數(shù)據(jù)產(chǎn)出的照片在三代以后就會(huì)模糊不清，人類產(chǎn)出的數(shù)據(jù)、創(chuàng)作的內(nèi)容對(duì)于大型語(yǔ)言模型的開(kāi)發(fā)依然是必要的，因此版權(quán)保護(hù)也將“幸存”。

　　

　　實(shí)務(wù)研討會(huì)：中國(guó)AI實(shí)務(wù)觀察

　　

　　實(shí)務(wù)圓桌邀請(qǐng)到騰訊研究院高級(jí)研究員曹建峰、OPPO合規(guī)總監(jiān)范琦、米哈游知識(shí)產(chǎn)權(quán)總監(jiān)羅希、鑄成律師事務(wù)所合伙人兼首席運(yùn)營(yíng)官秦健、鑄成律師事務(wù)所上海分所負(fù)責(zé)人和華東政法大學(xué)博士后研究員許亮參與研討，由北京大學(xué)法學(xué)院助理教授邊仁君主持，為AI相關(guān)的法律問(wèn)題帶來(lái)實(shí)務(wù)見(jiàn)解。五位訪談嘉賓針對(duì)AI目前的發(fā)展階段提出了數(shù)字設(shè)備催生的新的法律問(wèn)題如何解決、AI技術(shù)在法律服務(wù)中的新應(yīng)用、企業(yè)出海時(shí)面臨的數(shù)據(jù)隱私合規(guī)監(jiān)管、原始內(nèi)容創(chuàng)作者與AI平臺(tái)公司之間的權(quán)利義務(wù)平衡等問(wèn)題，介紹了目前市場(chǎng)的新發(fā)展的和針對(duì)上述問(wèn)題的解決方式的探索。

　　

　　專題5：AI與市場(chǎng)轉(zhuǎn)型

　　

　　專題五由北京大學(xué)法學(xué)院副教授胡凌和北京大學(xué)國(guó)際法學(xué)院教授Sang Yop Kang做主旨演講，由北京大學(xué)國(guó)際法學(xué)院模擬法庭項(xiàng)目主任、C.V. Starr高級(jí)法律講師仇小雅主持。胡凌圍繞“市場(chǎng)的本質(zhì)：AI如何改變當(dāng)前法律體系中的市場(chǎng)理念”，從法律與經(jīng)濟(jì)的視角，在不同場(chǎng)景下觀察AI對(duì)市場(chǎng)機(jī)制的重塑，認(rèn)為隨著平臺(tái)所擁有的人工智能力量的增強(qiáng)，自由市場(chǎng)逐漸轉(zhuǎn)變?yōu)?ldquo;控制論”市場(chǎng)，在內(nèi)容生產(chǎn)，基礎(chǔ)設(shè)施建設(shè)，生產(chǎn)組織等三個(gè)方面對(duì)市場(chǎng)形態(tài)產(chǎn)生影響，進(jìn)而影響對(duì)相關(guān)法律規(guī)則的確定。Sang Yop Kang圍繞“平臺(tái)動(dòng)態(tài)定價(jià)的法律與經(jīng)濟(jì)分析”，從亞馬遜、Uber、阿里巴巴、美團(tuán)等依靠平臺(tái)經(jīng)濟(jì)崛起的中外公司對(duì)生產(chǎn)者-消費(fèi)者交互關(guān)系以及消費(fèi)模式的重構(gòu)的角度，對(duì)動(dòng)態(tài)定價(jià)過(guò)程中可能涉及到的收集和使用個(gè)人數(shù)據(jù)的行為進(jìn)行分析，對(duì)這一過(guò)程中可能涉及到的隱私泄露、價(jià)格歧視、平臺(tái)壟斷以及對(duì)消費(fèi)者和社會(huì)福利的影響等問(wèn)題提出解決方案。

　　

　　專題6：調(diào)整AI：從技術(shù)機(jī)制到社會(huì)影響

　　

　　專題六由EBS商業(yè)與法律大學(xué)（EBS Universität für Wirtschaft und Recht）法學(xué)院講席教授兼商學(xué)院教授佟天佑（Emanuel V. Towfigh）、北京大學(xué)法學(xué)院長(zhǎng)聘副教授戴昕和騰訊研究院高級(jí)研究員曹建峰做主旨演講，由北京大學(xué)國(guó)際法學(xué)院博士后楊立主持。佟天佑圍繞“反歧視法中自動(dòng)決策系統(tǒng)的挑戰(zhàn)和影響”，觀察到自動(dòng)決策（ADM）系統(tǒng)在利用統(tǒng)計(jì)數(shù)據(jù)對(duì)個(gè)人行為進(jìn)行概率評(píng)估時(shí)將群體特征歸因于決策行為這一現(xiàn)象，指出其中可能牽涉到嚴(yán)重的反歧視法問(wèn)題，考察ADM系統(tǒng)的歧視風(fēng)險(xiǎn)，提出對(duì)ADM系統(tǒng)的問(wèn)責(zé)和監(jiān)管框架。戴昕以“社會(huì)評(píng)分：禁令還是監(jiān)管”為主題，從歐盟《人工智能法案》第5(1)(c)條對(duì)AI應(yīng)用于社會(huì)評(píng)分的禁止性規(guī)范出發(fā)，指出相關(guān)條文形成過(guò)程中可能存在的非理性因素，以及其實(shí)際適用范圍存在的不確定性，并以中國(guó)相關(guān)制度經(jīng)驗(yàn)為參照，提出對(duì)AI評(píng)分系統(tǒng)的制度回應(yīng)可以選擇監(jiān)管而非禁令進(jìn)路。 曹建峰圍繞“從算法學(xué)習(xí)到價(jià)值統(tǒng)一：論生成式AI的內(nèi)在治理機(jī)制”，指出AI模型的價(jià)值對(duì)齊問(wèn)題已成為大模型治理的核心問(wèn)題，政府、產(chǎn)業(yè)等相關(guān)方正在探索相關(guān)舉措，AI企業(yè)也在探尋AI對(duì)齊和安全治理的自查措施，監(jiān)管、技術(shù)和倫理三種治理方式的結(jié)合能夠?yàn)锳I治理提供更有用的途徑，倫理設(shè)計(jì)化、倫理服務(wù)化和倫理眾包化不失為可行的結(jié)合方式。

　　

　　專題7：AI與法律職業(yè)

　　

　　專題七由奧地利格拉茨大學(xué)（Universität Graz）博士后Elisabeth Paar和北京大學(xué)國(guó)際法學(xué)院教授Ray Campbell做主旨演講，由北京大學(xué)國(guó)際法學(xué)院聯(lián)合聘任制常駐杰出學(xué)者Liav Orgad主持。Elisabeth Paar 圍繞“法庭訴訟中的AI：法官的小助手還是AI惡意收購(gòu)的開(kāi)端？”，從AI能否取代人類法官這一爭(zhēng)議出發(fā)，提出讓AI工具協(xié)助法官進(jìn)行決策比將司法決策完全委托給AI更容易出現(xiàn)問(wèn)題，并根據(jù)司法決策過(guò)程的不同階段和特點(diǎn)對(duì)各種類型的AI工具進(jìn)行分類，指出用戶在監(jiān)督AI工作時(shí)會(huì)將自己的世界觀推定為AI的世界觀，但實(shí)際上兩者并不相同，提出同AI合作需要將司法裁判任務(wù)分解成不同的部分，并根據(jù)其特點(diǎn)和AI的能力分配給法官和AI工具。Ray Campbell圍繞“利用AI實(shí)現(xiàn)垂直法律服務(wù)輔助人員”，指出目前存在的直接為消費(fèi)者提供法律服務(wù)的AI應(yīng)用可能由于未經(jīng)授權(quán)而執(zhí)業(yè)帶來(lái)對(duì)開(kāi)發(fā)者的訴訟，此外消費(fèi)者也無(wú)法辨別此類產(chǎn)品服務(wù)中的錯(cuò)誤，提出應(yīng)當(dāng)進(jìn)行相應(yīng)的監(jiān)管改革，在AI的支持下培訓(xùn)輔助專業(yè)人員，使其在有限的實(shí)務(wù)領(lǐng)域直接為公眾服務(wù)。

　　

　　專題8：AI與內(nèi)容審查

　　

　　專題八由北京大學(xué)國(guó)際法學(xué)院副教授Gilad Abiri和北京大學(xué)法學(xué)院助理教授左亦魯做主旨演講，由北京大學(xué)國(guó)際法學(xué)院副教授Danny Friedmann主持。Gilad Abiri圍繞“被視作數(shù)字媒體的生成式AI”，指出不應(yīng)當(dāng)將生成式人工智能理解為一種全新的技術(shù)，而是將其作為數(shù)字媒體平臺(tái)的接續(xù)發(fā)展，以相同的目標(biāo)對(duì)其進(jìn)行監(jiān)管，以鼓勵(lì)負(fù)責(zé)任的內(nèi)容創(chuàng)作、促進(jìn)公平合理的市場(chǎng)競(jìng)爭(zhēng)，維持媒體機(jī)構(gòu)的公信力，并同時(shí)指出歐盟和美國(guó)的監(jiān)管方式與建立數(shù)字媒體公信力的錯(cuò)配性。左亦魯圍繞“AIGC時(shí)代的內(nèi)容審查：中國(guó)視角”，梳理了中國(guó)內(nèi)容管理的特征和人工智能等新技術(shù)對(duì)內(nèi)容管理帶來(lái)的挑戰(zhàn)，并勾勒出新技術(shù)背景下中國(guó)內(nèi)容管理面臨的挑戰(zhàn)。