【ZiDongHua 之“駕駛自動化”收錄關鍵詞：科技部  國家科技倫理委員會   人工智能  人工智能倫理  駕駛自動化  自動駕駛】

駕駛自動化技術研發(fā)倫理指引

1.目的

為指導駕駛自動化技術研究開發(fā)和應用的規(guī)范開展，防范技術研發(fā)與產品應用過程中的科技倫理風險，推動該領域健康發(fā)展，研究提出駕駛自動化技術研究開發(fā)倫理指引。

2.術語

2.1駕駛自動化功能（drivingautomationfeature）

駕駛自動化功能是指駕駛自動化系統(tǒng)在特定的設計運行條件內執(zhí)行部分或全部動態(tài)駕駛任務的能力。

2.2汽車駕駛自動化分級（taxonomyofdrivingautomationforvehicles）

基于駕駛自動化系統(tǒng)能夠執(zhí)行動態(tài)駕駛任務的程度，根據(jù)在執(zhí)行動態(tài)駕駛任務中的角色分配以及有無設計運行范圍限制，將駕駛自動化由低到高分成0級至5級，分別為應急輔助（emergencyassistance）、部分駕駛輔助（partialdriverassistance）、組合駕駛輔助（combineddriverassistance）、有條件自動駕駛（conditionallyautomateddriving）、高度自動駕駛（highlyautomateddriving）、完全自動駕駛（fullyautomateddriving）。

0級駕駛自動化（應急輔助）系統(tǒng)：不能持續(xù)執(zhí)行動態(tài)駕駛任務中的車輛橫向或縱向運動控制，但具備持續(xù)執(zhí)行動態(tài)駕駛任務中的部分目標和事件探測與響應的能力。

1級駕駛自動化（部分駕駛輔助）系統(tǒng)：在其設計運行條件下持續(xù)地執(zhí)行動態(tài)駕駛任務中的車輛橫向或縱向運動控制，且具備與所執(zhí)行的車輛橫向或縱向運動控制相適應的部分目標和事件探測與響應的能力。

2級駕駛自動化（組合駕駛輔助）系統(tǒng)：在其設計運行條件下持續(xù)地執(zhí)行動態(tài)駕駛任務中的車輛橫向和縱向運動控制，且具備與所執(zhí)行的車輛橫向和縱向運動控制相適應的部分目標和事件探測與響應的能力。

3級駕駛自動化（有條件自動駕駛）系統(tǒng)：在其設計運行條件下持續(xù)地執(zhí)行全部動態(tài)駕駛任務。

4級駕駛自動化（高度自動駕駛）系統(tǒng)：在其設計運行條件下持續(xù)地執(zhí)行全部動態(tài)駕駛任務并自動執(zhí)行最小風險策略。

5級駕駛自動化（完全自動駕駛）系統(tǒng)：在任何可行駛條件下持續(xù)地執(zhí)行全部動態(tài)駕駛任務并自動執(zhí)行最小風險策略。

2.3先進駕駛輔助功能（advanceddriverassistancefunction）

先進駕駛輔助功能是指駕駛自動化系統(tǒng)在特定的設計運行條件下輔助駕駛員執(zhí)行部分動態(tài)駕駛任務的功能。包括“應急輔助”“部分駕駛輔助”和“組合駕駛輔助”功能。

2.4自動駕駛功能（automateddrivingfunction）

自動駕駛功能是指駕駛自動化系統(tǒng)在特定的設計運行條件下代替駕駛員持續(xù)自動地執(zhí)行全部動態(tài)駕駛任務的功能。包括“有條件自動駕駛”“高度自動駕駛”和“完全自動駕駛”功能。

3.基本原則

3.1以人為本、增進福祉

駕駛自動化技術的研究開發(fā)應堅持以人為本的發(fā)展思想，充分體現(xiàn)人文關懷，積極引導科技向善，應有利于促進經濟發(fā)展、社會進步、民生改善，有利于促進交通效率提高和生態(tài)環(huán)境可持續(xù)發(fā)展。

3.2安全優(yōu)先、尊重生命

駕駛自動化技術的研究開發(fā)和應用必須充分考慮安全性，既要盡最大可能保證用戶及參與者的生命安全，還應高度重視保護車輛周圍人員生命與環(huán)境安全。在面對不可避免的交通事故或極端行車環(huán)境時，應確保駕駛自動化系統(tǒng)能高度尊重生命，積極尋求有效應對方法最大限度降低對人的傷害。

3.3公平公正、避免偏見

應確保在駕駛自動化系統(tǒng)的正常運行過程中或在面臨緊急情況時，系統(tǒng)決策不受人類個體屬性和個體特征（如年齡、性別、種族、身體特征、社會地位、財富水平或城鄉(xiāng)背景等）的影響。應避免單一技術路線或單一技術主體造成的技術壟斷，以防止駕駛自動化系統(tǒng)成為部分群體道德觀念的表達載體，導致對其他群體的不公正對待。確保在駕駛自動化系統(tǒng)設計階段所有相關群體的利益得到平等考量。

3.4知情保障、信息公開

與駕駛自動化技術相關的算法、模型等內容應當被清晰記錄、隨時可查。依照相關法律法規(guī)、國家標準及其他有關文件在數(shù)據(jù)記錄、存儲、讀取以及重要數(shù)據(jù)保護等方面的要求，保證與駕駛自動化功能相關的重要數(shù)據(jù)得到安全記錄、妥善保存，保障利益相關方的知情權。涉及新的、可能具有爭議的技術時，應充分討論，廣泛聽取利益相關方和公眾意見。

4.一般要求

4.1合法合規(guī)

駕駛自動化技術的研究開發(fā)和應用應嚴格遵守我國法律法規(guī)和相關規(guī)定，遵守科技倫理基本原則和要求以及行業(yè)協(xié)會、產業(yè)聯(lián)盟及其他科學共同體達成的專業(yè)共識和技術規(guī)范。在駕駛自動化技術的國際推廣和相關產品的海外應用中，還應遵循國際公認的倫理準則和目標國家的法律規(guī)范。

4.2效益提升

駕駛自動化技術的研究開發(fā)和應用應以提升綜合效益為導向。應通過技術創(chuàng)新與產業(yè)協(xié)同推動經濟增長，培育智能網聯(lián)汽車產業(yè)生態(tài)；應致力于增強公眾出行便利性，優(yōu)化交通服務可及性，積極改善特殊群體出行體驗，降低社會交通參與成本；應有效提升交通系統(tǒng)運行效率，緩解交通擁堵，助推智慧交通基礎設施與新型智慧城市建設；應注重提升環(huán)境效益，通過應用駕駛自動化技術提高能源利用效率，降低交通運輸領域碳排放，助力綠色低碳發(fā)展。

4.3控制風險

駕駛自動化技術的研究開發(fā)應設計完善的風險監(jiān)測與應急機制，確保相關責任主體能夠及時發(fā)現(xiàn)、干預并控制風險，將潛在威脅降至合理可控的范圍內。駕駛自動化系統(tǒng)內置的風險應對策略應當成為事后追責的重要參考依據(jù)。

4.4及時調整

駕駛自動化技術研究開發(fā)過程中應科學評估技術成熟度與現(xiàn)實可行性，應充分考慮和吸納社會公眾的意見和建議，保證各利害相關者利益訴求盡可能得到滿足，并根據(jù)技術進步、市場變化等及時優(yōu)化調整。

4.5隱私保護

駕駛自動化技術的研究開發(fā)和應用應建立健全數(shù)據(jù)全生命周期隱私保護機制，嚴格遵循知情同意、最小必要、去標識化等原則。數(shù)據(jù)采集須限定于實現(xiàn)駕駛功能所需范圍，避免留存可識別特定自然人的原始數(shù)據(jù)；對行蹤軌跡、地理環(huán)境等敏感信息應通過技術手段實現(xiàn)實時模糊化處理，建立數(shù)據(jù)訪問權限動態(tài)審查機制，對涉密機構等特殊區(qū)域的地理信息實施訪問阻斷。

5.不同類型駕駛自動化技術的倫理規(guī)范要求

5.1先進駕駛輔助階段

先進駕駛輔助階段是指2級及以下的駕駛自動化。這一階段由人類駕駛員與駕駛自動化系統(tǒng)共同完成行車過程中對目標和事件的探測與響應，人類駕駛員完成動態(tài)駕駛后援任務，駕駛自動化系統(tǒng)在有限制的設計運行范圍內發(fā)揮輔助作用。為了保證駕駛安全性，當駕駛員1主動請求駕駛自動化系統(tǒng)退出時，立即解除系統(tǒng)控制權。因此，在先進駕駛輔助階段，責任主體通常是人類駕駛員。具有先進駕駛輔助功能汽車的生產制造標準應當符合國家相關法規(guī)的基本安全要求。先進駕駛輔助階段的駕駛自動化系統(tǒng)應能夠提供不低于傳統(tǒng)有人駕駛汽車所能提供的

安全性，并在特定場景中優(yōu)于人類駕駛員，以體現(xiàn)技術優(yōu)勢。系統(tǒng)設計需降低用戶2的學習成本、操作復雜性和經濟負擔，確保技術的易普及性和可用性。在產品開發(fā)中，應充分考慮老年人、殘疾人等特殊群體的需求，體現(xiàn)技術應用的公平性和包容性。應向所有用戶明確告知駕駛自動化系統(tǒng)的核心功能、使用條件、使用方式、安全應對措施等內容。駕駛自動化系統(tǒng)遵循的技術標準、編程規(guī)則和決策邏輯需保持清晰透明，在責任追溯過程中能夠被政府等監(jiān)管部門按需審查。鼓勵駕駛自動化系統(tǒng)設計方和生產者主動設置倫理審查機構開展倫理評估（審查），通過適當引入外部審計機制等方式提升社會信任。

1包含傳統(tǒng)駕駛員（conventionaldriver）和遠程駕駛員（remotedriver）。

2與駕駛自動化相關的人類角色的統(tǒng)稱，包括傳統(tǒng)駕駛員、遠程駕駛員、乘客、動態(tài)駕駛任務后援用

戶、調度員等主體。

5.2有限制階段的自動駕駛

有限制階段的自動駕駛包括3級和4級駕駛自動化。在這一階段，自動駕駛系統(tǒng)能夠持續(xù)完成車輛的橫向和縱向運動控制，并承擔目標與事件的探測與響應。自動駕駛系統(tǒng)需具備識別動態(tài)駕駛任務后援用戶的接管能力，并在特定條件下及時向動態(tài)駕駛任務后援用戶發(fā)出介入請求，或在設計運行范圍內自動執(zhí)行最小風險策略以保障車輛及周圍環(huán)境的安全?；诖?，有限制階段的自動駕駛責任主體因具體運行場景而異。當自動駕駛系統(tǒng)作為自動駕駛責任主體時，應當能夠根據(jù)有關法律法規(guī)、技術標準向相關自然人主體或法人主體（包括但不限于自動駕駛系統(tǒng)開發(fā)者、自動駕駛系統(tǒng)生產商、自動駕駛汽車權利人、自動駕駛系統(tǒng)用戶）清晰追責。有限制階段的自動駕駛除了應當遵循前述先進駕駛輔助相關的科技倫理指引以外，需要遵從以下幾點要求：

一是在自動駕駛系統(tǒng)的設計、開發(fā)階段，影響自動駕駛系統(tǒng)功能的關鍵算法、訓練數(shù)據(jù)等內容的重大變更應當被清晰記錄，在需要時能夠被政府等監(jiān)管部門及時調取并清晰審查。

二是自動駕駛的決策行為應當可追溯、可審查，以便在發(fā)生侵權行為、碰撞行為或其他違法行為時，能夠通過追溯算法內容明確相關的自然人責任主體或法人責任主體。

三是自動駕駛系統(tǒng)應按照用戶預設的導航習慣、行程和路徑偏好等行車策略執(zhí)行全部動態(tài)駕駛任務。若因突發(fā)情況必須對行車策略進行變更，系統(tǒng)應通過清晰的方式提前告知用戶變更內容和變更原因。

四是自動駕駛算法的設計和實現(xiàn)應符合社會最大公約數(shù)的價值傾向，體現(xiàn)廣泛的社會認同。

五是自動駕駛決策選擇應體現(xiàn)對全體人類的平等尊重，任何基于個體屬性的差異化決策表現(xiàn)出的歧視與偏見均屬倫理不可接受范圍。為此，算法設計者和汽車生產商需在決策機制中消除潛在的偏見，確保技術公平性。

5.3無限制階段的自動駕駛

無限制階段的自動駕駛為5級的駕駛自動化。這一階段由完全自動駕駛系統(tǒng)完成車輛的橫向和縱向控制，負責行車過程中對目標和事件的探測與響應，并在緊急情況下采取最小風險策略，以保障車輛及周圍環(huán)境的安全。5級自動駕駛不受設計運行范圍的限制，能夠在任何可行駛條件下正常運行。若存在潛在安全風險，自動駕駛系統(tǒng)可暫緩滿足用戶退出自動駕駛的請求，并執(zhí)行最小風險策略以達到最小風險狀態(tài)。除非特殊情況下有用戶主動介入操作，否則無限制階段自動駕駛的責任主體以自動駕駛系統(tǒng)為主。當自動駕駛系統(tǒng)作為自動駕駛責任主體時，應當能夠根據(jù)有關法律法規(guī)、技術標準向相關自然人主體或法人主體（包括但不限于自動駕駛系統(tǒng)開發(fā)者、自動駕駛系統(tǒng)生產商、自動駕駛汽車權利人、自動駕駛系統(tǒng)用戶）清晰追責。無限制階段的自動駕駛除了應當遵循前述先進駕駛輔助、有限制階段的自動駕駛相關的科技倫理指引以外，需要遵從以下幾點要求:

一是在完全自動駕駛系統(tǒng)執(zhí)行全部動態(tài)駕駛任務時，車輛所能提供的安全性應不低于擁有駕駛資格、駕駛經驗豐富且具備道德敏感性的人類駕駛員在相同情境下所能達到的安全水平3。

二是自動駕駛系統(tǒng)的決策應具有穩(wěn)定性，表現(xiàn)在一定范圍內的時間一致性和空間一致性，即在相同行車情境下，自動駕駛系統(tǒng)不應因時點不同或空間差異而做出相互矛盾的決策。

三是在遵守法律法規(guī)和技術標準的前提下，不同廠商、型號、版本的自動駕駛系統(tǒng)在面臨相同駕駛情境時，其決策邏輯應具有較高的一致性，以體現(xiàn)技術規(guī)范化與社會公平性。

四是在人類駕駛員執(zhí)行動態(tài)駕駛任務時，在充分保護用戶隱私并獲得合法授權的前提下，允許自動駕駛系統(tǒng)基于即時的行車環(huán)境預判相關主體的行動意圖。

五是當人類駕駛員可能實施危害社會的行為時，自動駕駛系統(tǒng)應及時向利益相關方發(fā)出警示，必要時采取合理方式干預相關操作，以避免重大社會危害或違法行為。

3為此，需要依據(jù)有關法規(guī)和標準，對自動駕駛系統(tǒng)的測試里程、場景覆蓋率、決策響應時間、道德

圖靈測試、道德學習機制、決策社會接受度等進行多維度測試和系統(tǒng)性驗證。

6.科普宣傳

技術研發(fā)人員和企業(yè)應積極開展面向公眾的科學普及工作，引導社會公眾以理性、科學的態(tài)度認識駕駛自動化技術。在發(fā)布重大研究成果時，相關主體應堅持客觀準確、實事求是，避免片面夸大、隱匿風險，不得編造、傳播與駕駛自動化系統(tǒng)實際功能和效果不相符的虛假信息。此外，在研發(fā)、生產、推廣等過程中，相關主體應向社會公眾明確告知并清晰闡釋駕駛自動化產品的功能分級、使用條件、使用方式等注意事項，及時澄清和糾正可能導致公眾對駕駛自動化技術產生誤解的誤導性信息，引導并敦促用戶合理、正確地使用不同分級的駕駛自動化產品，避免公眾認知偏差和產品誤用、濫用。

本指引由國家科技倫理委員會人工智能倫理分委員會研究制定，定期評估，適時修訂。

國家科技倫理委員會人工智能倫理分委員會

2025年6月

主要參考文件

[1]《智能汽車創(chuàng)新發(fā)展戰(zhàn)略》（2020）

[2]《汽車駕駛自動化分級GB/T40429-2021》（2021）

[3]《中華人民共和國網絡安全法》（2016）

[4]《中華人民共和國數(shù)據(jù)安全法》（2021）

[5]《中華人民共和國道路交通安全法》（2021）

[6]《智能網聯(lián)汽車準入和上路通行試點實施指南(試行)》（2023）

[7]《國家車聯(lián)網產業(yè)標準體系建設指南(智能網聯(lián)汽車)》（2023）

[8]《新一代人工智能倫理規(guī)范》（2021）

[9]《智能網聯(lián)汽車術語和定義GB/T44373-2024》（2024）

[10]《智能網聯(lián)汽車自動駕駛數(shù)據(jù)記錄系統(tǒng)GB44497-2024》（2024）