【ZiDongHua 之“駕駛自動化”收錄關(guān)鍵詞：科技部  國家科技倫理委員會   人工智能  人工智能倫理  駕駛自動化  自動駕駛】

駕駛自動化技術(shù)研發(fā)倫理指引

1.目的

為指導(dǎo)駕駛自動化技術(shù)研究開發(fā)和應(yīng)用的規(guī)范開展，防范技術(shù)研發(fā)與產(chǎn)品應(yīng)用過程中的科技倫理風(fēng)險，推動該領(lǐng)域健康發(fā)展，研究提出駕駛自動化技術(shù)研究開發(fā)倫理指引。

2.術(shù)語

2.1駕駛自動化功能（drivingautomationfeature）

駕駛自動化功能是指駕駛自動化系統(tǒng)在特定的設(shè)計運行條件內(nèi)執(zhí)行部分或全部動態(tài)駕駛?cè)蝿?wù)的能力。

2.2汽車駕駛自動化分級（taxonomyofdrivingautomationforvehicles）

基于駕駛自動化系統(tǒng)能夠執(zhí)行動態(tài)駕駛?cè)蝿?wù)的程度，根據(jù)在執(zhí)行動態(tài)駕駛?cè)蝿?wù)中的角色分配以及有無設(shè)計運行范圍限制，將駕駛自動化由低到高分成0級至5級，分別為應(yīng)急輔助（emergencyassistance）、部分駕駛輔助（partialdriverassistance）、組合駕駛輔助（combineddriverassistance）、有條件自動駕駛（conditionallyautomateddriving）、高度自動駕駛（highlyautomateddriving）、完全自動駕駛（fullyautomateddriving）。

0級駕駛自動化（應(yīng)急輔助）系統(tǒng)：不能持續(xù)執(zhí)行動態(tài)駕駛?cè)蝿?wù)中的車輛橫向或縱向運動控制，但具備持續(xù)執(zhí)行動態(tài)駕駛?cè)蝿?wù)中的部分目標(biāo)和事件探測與響應(yīng)的能力。

1級駕駛自動化（部分駕駛輔助）系統(tǒng)：在其設(shè)計運行條件下持續(xù)地執(zhí)行動態(tài)駕駛?cè)蝿?wù)中的車輛橫向或縱向運動控制，且具備與所執(zhí)行的車輛橫向或縱向運動控制相適應(yīng)的部分目標(biāo)和事件探測與響應(yīng)的能力。

2級駕駛自動化（組合駕駛輔助）系統(tǒng)：在其設(shè)計運行條件下持續(xù)地執(zhí)行動態(tài)駕駛?cè)蝿?wù)中的車輛橫向和縱向運動控制，且具備與所執(zhí)行的車輛橫向和縱向運動控制相適應(yīng)的部分目標(biāo)和事件探測與響應(yīng)的能力。

3級駕駛自動化（有條件自動駕駛）系統(tǒng)：在其設(shè)計運行條件下持續(xù)地執(zhí)行全部動態(tài)駕駛?cè)蝿?wù)。

4級駕駛自動化（高度自動駕駛）系統(tǒng)：在其設(shè)計運行條件下持續(xù)地執(zhí)行全部動態(tài)駕駛?cè)蝿?wù)并自動執(zhí)行最小風(fēng)險策略。

5級駕駛自動化（完全自動駕駛）系統(tǒng)：在任何可行駛條件下持續(xù)地執(zhí)行全部動態(tài)駕駛?cè)蝿?wù)并自動執(zhí)行最小風(fēng)險策略。

2.3先進駕駛輔助功能（advanceddriverassistancefunction）

先進駕駛輔助功能是指駕駛自動化系統(tǒng)在特定的設(shè)計運行條件下輔助駕駛員執(zhí)行部分動態(tài)駕駛?cè)蝿?wù)的功能。包括“應(yīng)急輔助”“部分駕駛輔助”和“組合駕駛輔助”功能。

2.4自動駕駛功能（automateddrivingfunction）

自動駕駛功能是指駕駛自動化系統(tǒng)在特定的設(shè)計運行條件下代替駕駛員持續(xù)自動地執(zhí)行全部動態(tài)駕駛?cè)蝿?wù)的功能。包括“有條件自動駕駛”“高度自動駕駛”和“完全自動駕駛”功能。

3.基本原則

3.1以人為本、增進福祉

駕駛自動化技術(shù)的研究開發(fā)應(yīng)堅持以人為本的發(fā)展思想，充分體現(xiàn)人文關(guān)懷，積極引導(dǎo)科技向善，應(yīng)有利于促進經(jīng)濟發(fā)展、社會進步、民生改善，有利于促進交通效率提高和生態(tài)環(huán)境可持續(xù)發(fā)展。

3.2安全優(yōu)先、尊重生命

駕駛自動化技術(shù)的研究開發(fā)和應(yīng)用必須充分考慮安全性，既要盡最大可能保證用戶及參與者的生命安全，還應(yīng)高度重視保護車輛周圍人員生命與環(huán)境安全。在面對不可避免的交通事故或極端行車環(huán)境時，應(yīng)確保駕駛自動化系統(tǒng)能高度尊重生命，積極尋求有效應(yīng)對方法最大限度降低對人的傷害。

3.3公平公正、避免偏見

應(yīng)確保在駕駛自動化系統(tǒng)的正常運行過程中或在面臨緊急情況時，系統(tǒng)決策不受人類個體屬性和個體特征（如年齡、性別、種族、身體特征、社會地位、財富水平或城鄉(xiāng)背景等）的影響。應(yīng)避免單一技術(shù)路線或單一技術(shù)主體造成的技術(shù)壟斷，以防止駕駛自動化系統(tǒng)成為部分群體道德觀念的表達(dá)載體，導(dǎo)致對其他群體的不公正對待。確保在駕駛自動化系統(tǒng)設(shè)計階段所有相關(guān)群體的利益得到平等考量。

3.4知情保障、信息公開

與駕駛自動化技術(shù)相關(guān)的算法、模型等內(nèi)容應(yīng)當(dāng)被清晰記錄、隨時可查。依照相關(guān)法律法規(guī)、國家標(biāo)準(zhǔn)及其他有關(guān)文件在數(shù)據(jù)記錄、存儲、讀取以及重要數(shù)據(jù)保護等方面的要求，保證與駕駛自動化功能相關(guān)的重要數(shù)據(jù)得到安全記錄、妥善保存，保障利益相關(guān)方的知情權(quán)。涉及新的、可能具有爭議的技術(shù)時，應(yīng)充分討論，廣泛聽取利益相關(guān)方和公眾意見。

4.一般要求

4.1合法合規(guī)

駕駛自動化技術(shù)的研究開發(fā)和應(yīng)用應(yīng)嚴(yán)格遵守我國法律法規(guī)和相關(guān)規(guī)定，遵守科技倫理基本原則和要求以及行業(yè)協(xié)會、產(chǎn)業(yè)聯(lián)盟及其他科學(xué)共同體達(dá)成的專業(yè)共識和技術(shù)規(guī)范。在駕駛自動化技術(shù)的國際推廣和相關(guān)產(chǎn)品的海外應(yīng)用中，還應(yīng)遵循國際公認(rèn)的倫理準(zhǔn)則和目標(biāo)國家的法律規(guī)范。

4.2效益提升

駕駛自動化技術(shù)的研究開發(fā)和應(yīng)用應(yīng)以提升綜合效益為導(dǎo)向。應(yīng)通過技術(shù)創(chuàng)新與產(chǎn)業(yè)協(xié)同推動經(jīng)濟增長，培育智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)生態(tài)；應(yīng)致力于增強公眾出行便利性，優(yōu)化交通服務(wù)可及性，積極改善特殊群體出行體驗，降低社會交通參與成本；應(yīng)有效提升交通系統(tǒng)運行效率，緩解交通擁堵，助推智慧交通基礎(chǔ)設(shè)施與新型智慧城市建設(shè)；應(yīng)注重提升環(huán)境效益，通過應(yīng)用駕駛自動化技術(shù)提高能源利用效率，降低交通運輸領(lǐng)域碳排放，助力綠色低碳發(fā)展。

4.3控制風(fēng)險

駕駛自動化技術(shù)的研究開發(fā)應(yīng)設(shè)計完善的風(fēng)險監(jiān)測與應(yīng)急機制，確保相關(guān)責(zé)任主體能夠及時發(fā)現(xiàn)、干預(yù)并控制風(fēng)險，將潛在威脅降至合理可控的范圍內(nèi)。駕駛自動化系統(tǒng)內(nèi)置的風(fēng)險應(yīng)對策略應(yīng)當(dāng)成為事后追責(zé)的重要參考依據(jù)。

4.4及時調(diào)整

駕駛自動化技術(shù)研究開發(fā)過程中應(yīng)科學(xué)評估技術(shù)成熟度與現(xiàn)實可行性，應(yīng)充分考慮和吸納社會公眾的意見和建議，保證各利害相關(guān)者利益訴求盡可能得到滿足，并根據(jù)技術(shù)進步、市場變化等及時優(yōu)化調(diào)整。

4.5隱私保護

駕駛自動化技術(shù)的研究開發(fā)和應(yīng)用應(yīng)建立健全數(shù)據(jù)全生命周期隱私保護機制，嚴(yán)格遵循知情同意、最小必要、去標(biāo)識化等原則。數(shù)據(jù)采集須限定于實現(xiàn)駕駛功能所需范圍，避免留存可識別特定自然人的原始數(shù)據(jù)；對行蹤軌跡、地理環(huán)境等敏感信息應(yīng)通過技術(shù)手段實現(xiàn)實時模糊化處理，建立數(shù)據(jù)訪問權(quán)限動態(tài)審查機制，對涉密機構(gòu)等特殊區(qū)域的地理信息實施訪問阻斷。

5.不同類型駕駛自動化技術(shù)的倫理規(guī)范要求

5.1先進駕駛輔助階段

先進駕駛輔助階段是指2級及以下的駕駛自動化。這一階段由人類駕駛員與駕駛自動化系統(tǒng)共同完成行車過程中對目標(biāo)和事件的探測與響應(yīng)，人類駕駛員完成動態(tài)駕駛后援任務(wù)，駕駛自動化系統(tǒng)在有限制的設(shè)計運行范圍內(nèi)發(fā)揮輔助作用。為了保證駕駛安全性，當(dāng)駕駛員1主動請求駕駛自動化系統(tǒng)退出時，立即解除系統(tǒng)控制權(quán)。因此，在先進駕駛輔助階段，責(zé)任主體通常是人類駕駛員。具有先進駕駛輔助功能汽車的生產(chǎn)制造標(biāo)準(zhǔn)應(yīng)當(dāng)符合國家相關(guān)法規(guī)的基本安全要求。先進駕駛輔助階段的駕駛自動化系統(tǒng)應(yīng)能夠提供不低于傳統(tǒng)有人駕駛汽車所能提供的

安全性，并在特定場景中優(yōu)于人類駕駛員，以體現(xiàn)技術(shù)優(yōu)勢。系統(tǒng)設(shè)計需降低用戶2的學(xué)習(xí)成本、操作復(fù)雜性和經(jīng)濟負(fù)擔(dān)，確保技術(shù)的易普及性和可用性。在產(chǎn)品開發(fā)中，應(yīng)充分考慮老年人、殘疾人等特殊群體的需求，體現(xiàn)技術(shù)應(yīng)用的公平性和包容性。應(yīng)向所有用戶明確告知駕駛自動化系統(tǒng)的核心功能、使用條件、使用方式、安全應(yīng)對措施等內(nèi)容。駕駛自動化系統(tǒng)遵循的技術(shù)標(biāo)準(zhǔn)、編程規(guī)則和決策邏輯需保持清晰透明，在責(zé)任追溯過程中能夠被政府等監(jiān)管部門按需審查。鼓勵駕駛自動化系統(tǒng)設(shè)計方和生產(chǎn)者主動設(shè)置倫理審查機構(gòu)開展倫理評估（審查），通過適當(dāng)引入外部審計機制等方式提升社會信任。

1包含傳統(tǒng)駕駛員（conventionaldriver）和遠(yuǎn)程駕駛員（remotedriver）。

2與駕駛自動化相關(guān)的人類角色的統(tǒng)稱，包括傳統(tǒng)駕駛員、遠(yuǎn)程駕駛員、乘客、動態(tài)駕駛?cè)蝿?wù)后援用

戶、調(diào)度員等主體。

5.2有限制階段的自動駕駛

有限制階段的自動駕駛包括3級和4級駕駛自動化。在這一階段，自動駕駛系統(tǒng)能夠持續(xù)完成車輛的橫向和縱向運動控制，并承擔(dān)目標(biāo)與事件的探測與響應(yīng)。自動駕駛系統(tǒng)需具備識別動態(tài)駕駛?cè)蝿?wù)后援用戶的接管能力，并在特定條件下及時向動態(tài)駕駛?cè)蝿?wù)后援用戶發(fā)出介入請求，或在設(shè)計運行范圍內(nèi)自動執(zhí)行最小風(fēng)險策略以保障車輛及周圍環(huán)境的安全。基于此，有限制階段的自動駕駛責(zé)任主體因具體運行場景而異。當(dāng)自動駕駛系統(tǒng)作為自動駕駛責(zé)任主體時，應(yīng)當(dāng)能夠根據(jù)有關(guān)法律法規(guī)、技術(shù)標(biāo)準(zhǔn)向相關(guān)自然人主體或法人主體（包括但不限于自動駕駛系統(tǒng)開發(fā)者、自動駕駛系統(tǒng)生產(chǎn)商、自動駕駛汽車權(quán)利人、自動駕駛系統(tǒng)用戶）清晰追責(zé)。有限制階段的自動駕駛除了應(yīng)當(dāng)遵循前述先進駕駛輔助相關(guān)的科技倫理指引以外，需要遵從以下幾點要求：

一是在自動駕駛系統(tǒng)的設(shè)計、開發(fā)階段，影響自動駕駛系統(tǒng)功能的關(guān)鍵算法、訓(xùn)練數(shù)據(jù)等內(nèi)容的重大變更應(yīng)當(dāng)被清晰記錄，在需要時能夠被政府等監(jiān)管部門及時調(diào)取并清晰審查。

二是自動駕駛的決策行為應(yīng)當(dāng)可追溯、可審查，以便在發(fā)生侵權(quán)行為、碰撞行為或其他違法行為時，能夠通過追溯算法內(nèi)容明確相關(guān)的自然人責(zé)任主體或法人責(zé)任主體。

三是自動駕駛系統(tǒng)應(yīng)按照用戶預(yù)設(shè)的導(dǎo)航習(xí)慣、行程和路徑偏好等行車策略執(zhí)行全部動態(tài)駕駛?cè)蝿?wù)。若因突發(fā)情況必須對行車策略進行變更，系統(tǒng)應(yīng)通過清晰的方式提前告知用戶變更內(nèi)容和變更原因。

四是自動駕駛算法的設(shè)計和實現(xiàn)應(yīng)符合社會最大公約數(shù)的價值傾向，體現(xiàn)廣泛的社會認(rèn)同。

五是自動駕駛決策選擇應(yīng)體現(xiàn)對全體人類的平等尊重，任何基于個體屬性的差異化決策表現(xiàn)出的歧視與偏見均屬倫理不可接受范圍。為此，算法設(shè)計者和汽車生產(chǎn)商需在決策機制中消除潛在的偏見，確保技術(shù)公平性。

5.3無限制階段的自動駕駛

無限制階段的自動駕駛為5級的駕駛自動化。這一階段由完全自動駕駛系統(tǒng)完成車輛的橫向和縱向控制，負(fù)責(zé)行車過程中對目標(biāo)和事件的探測與響應(yīng)，并在緊急情況下采取最小風(fēng)險策略，以保障車輛及周圍環(huán)境的安全。5級自動駕駛不受設(shè)計運行范圍的限制，能夠在任何可行駛條件下正常運行。若存在潛在安全風(fēng)險，自動駕駛系統(tǒng)可暫緩滿足用戶退出自動駕駛的請求，并執(zhí)行最小風(fēng)險策略以達(dá)到最小風(fēng)險狀態(tài)。除非特殊情況下有用戶主動介入操作，否則無限制階段自動駕駛的責(zé)任主體以自動駕駛系統(tǒng)為主。當(dāng)自動駕駛系統(tǒng)作為自動駕駛責(zé)任主體時，應(yīng)當(dāng)能夠根據(jù)有關(guān)法律法規(guī)、技術(shù)標(biāo)準(zhǔn)向相關(guān)自然人主體或法人主體（包括但不限于自動駕駛系統(tǒng)開發(fā)者、自動駕駛系統(tǒng)生產(chǎn)商、自動駕駛汽車權(quán)利人、自動駕駛系統(tǒng)用戶）清晰追責(zé)。無限制階段的自動駕駛除了應(yīng)當(dāng)遵循前述先進駕駛輔助、有限制階段的自動駕駛相關(guān)的科技倫理指引以外，需要遵從以下幾點要求:

一是在完全自動駕駛系統(tǒng)執(zhí)行全部動態(tài)駕駛?cè)蝿?wù)時，車輛所能提供的安全性應(yīng)不低于擁有駕駛資格、駕駛經(jīng)驗豐富且具備道德敏感性的人類駕駛員在相同情境下所能達(dá)到的安全水平3。

二是自動駕駛系統(tǒng)的決策應(yīng)具有穩(wěn)定性，表現(xiàn)在一定范圍內(nèi)的時間一致性和空間一致性，即在相同行車情境下，自動駕駛系統(tǒng)不應(yīng)因時點不同或空間差異而做出相互矛盾的決策。

三是在遵守法律法規(guī)和技術(shù)標(biāo)準(zhǔn)的前提下，不同廠商、型號、版本的自動駕駛系統(tǒng)在面臨相同駕駛情境時，其決策邏輯應(yīng)具有較高的一致性，以體現(xiàn)技術(shù)規(guī)范化與社會公平性。

四是在人類駕駛員執(zhí)行動態(tài)駕駛?cè)蝿?wù)時，在充分保護用戶隱私并獲得合法授權(quán)的前提下，允許自動駕駛系統(tǒng)基于即時的行車環(huán)境預(yù)判相關(guān)主體的行動意圖。

五是當(dāng)人類駕駛員可能實施危害社會的行為時，自動駕駛系統(tǒng)應(yīng)及時向利益相關(guān)方發(fā)出警示，必要時采取合理方式干預(yù)相關(guān)操作，以避免重大社會危害或違法行為。

3為此，需要依據(jù)有關(guān)法規(guī)和標(biāo)準(zhǔn)，對自動駕駛系統(tǒng)的測試?yán)锍?、場景覆蓋率、決策響應(yīng)時間、道德

圖靈測試、道德學(xué)習(xí)機制、決策社會接受度等進行多維度測試和系統(tǒng)性驗證。

6.科普宣傳

技術(shù)研發(fā)人員和企業(yè)應(yīng)積極開展面向公眾的科學(xué)普及工作，引導(dǎo)社會公眾以理性、科學(xué)的態(tài)度認(rèn)識駕駛自動化技術(shù)。在發(fā)布重大研究成果時，相關(guān)主體應(yīng)堅持客觀準(zhǔn)確、實事求是，避免片面夸大、隱匿風(fēng)險，不得編造、傳播與駕駛自動化系統(tǒng)實際功能和效果不相符的虛假信息。此外，在研發(fā)、生產(chǎn)、推廣等過程中，相關(guān)主體應(yīng)向社會公眾明確告知并清晰闡釋駕駛自動化產(chǎn)品的功能分級、使用條件、使用方式等注意事項，及時澄清和糾正可能導(dǎo)致公眾對駕駛自動化技術(shù)產(chǎn)生誤解的誤導(dǎo)性信息，引導(dǎo)并敦促用戶合理、正確地使用不同分級的駕駛自動化產(chǎn)品，避免公眾認(rèn)知偏差和產(chǎn)品誤用、濫用。

本指引由國家科技倫理委員會人工智能倫理分委員會研究制定，定期評估，適時修訂。

國家科技倫理委員會人工智能倫理分委員會

2025年6月

主要參考文件

[1]《智能汽車創(chuàng)新發(fā)展戰(zhàn)略》（2020）

[2]《汽車駕駛自動化分級GB/T40429-2021》（2021）

[3]《中華人民共和國網(wǎng)絡(luò)安全法》（2016）

[4]《中華人民共和國數(shù)據(jù)安全法》（2021）

[5]《中華人民共和國道路交通安全法》（2021）

[6]《智能網(wǎng)聯(lián)汽車準(zhǔn)入和上路通行試點實施指南(試行)》（2023）

[7]《國家車聯(lián)網(wǎng)產(chǎn)業(yè)標(biāo)準(zhǔn)體系建設(shè)指南(智能網(wǎng)聯(lián)汽車)》（2023）

[8]《新一代人工智能倫理規(guī)范》（2021）

[9]《智能網(wǎng)聯(lián)汽車術(shù)語和定義GB/T44373-2024》（2024）

[10]《智能網(wǎng)聯(lián)汽車自動駕駛數(shù)據(jù)記錄系統(tǒng)GB44497-2024》（2024）