【ZiDongHua之人文化天下收錄關(guān)鍵詞：浙江大學(xué) 自動(dòng)化科技 人工智能 法與自動(dòng)化 算法 決策  機(jī)器學(xué)習(xí)  信息處理自動(dòng)化 ChatGPT】

人工智能與自動(dòng)化在合同中的應(yīng)用

4月28日，浙江大學(xué)國際戰(zhàn)略與法律研究院舉辦系列講座，主題為人工智能與自動(dòng)化在合同中的應(yīng)用(The use of artificial intelligence and automation in contracting)。該講座由浙江大學(xué)文科資深教授、國際戰(zhàn)略與法律研究院院長王貴國教授主持，演講嘉賓為University of Ferrara的Alberto De Franceschi教授，以及University of Osnabrück的Christoph Busch教授。

王貴國教授說，此講座為浙江大學(xué)國際戰(zhàn)略與法律研究院國際前沿問題系列講座的一個(gè)專題。國際前沿問題系列講座的目的是為了促進(jìn)不同地區(qū)學(xué)者的交流，為學(xué)生提供更多的學(xué)習(xí)機(jī)會(huì)。

Christoph Busch教授是歐洲私法和商法教授，奧斯納布呂克大學(xué)歐洲法律研究所所長，紐黑文耶魯法學(xué)院耶魯信息社會(huì)項(xiàng)目的通訊研究員。Alberto De Franceschi是費(fèi)拉拉大學(xué)私法和數(shù)字法教授，魯汶大學(xué)數(shù)字法全球教授，浙江大學(xué)歐盟數(shù)字法客座教授。兩位教授是歐洲法律研究所(ELI)數(shù)字法律組聯(lián)合主席。

Christoph Busch教授的講座主題為Is EU consumer law ready for the AI chatbot economy?(“歐盟消費(fèi)者法是否為人工智能聊天機(jī)器人經(jīng)濟(jì)做好了準(zhǔn)備?”)。Busch教授從社會(huì)熱議的ChatGPT引入，認(rèn)為此類聊天機(jī)器的廣泛使用將會(huì)對(duì)歐盟消費(fèi)者法產(chǎn)生重要的影響，然后從三個(gè)方面進(jìn)行分析，一是聊天機(jī)器人經(jīng)濟(jì)，二是此類經(jīng)濟(jì)將會(huì)給歐盟消費(fèi)者法帶來哪些挑戰(zhàn)，三是分析歐盟法律研究院最近啟動(dòng)的關(guān)于算法合同的項(xiàng)目，該項(xiàng)目旨在分析探索歐盟消費(fèi)者法需要如何做。

Busch教授將使用聊天機(jī)器的消費(fèi)者分為兩類，一類稱之為增強(qiáng)型消費(fèi)者，即AI作為決策支持系統(tǒng)，為消費(fèi)者提供額外信息以幫助消費(fèi)者作出決策;另一類稱為算法消費(fèi)者，即消費(fèi)者將決策完全委托給AI，由AI代替消費(fèi)者作出決策。Busch教授認(rèn)為這將給歐盟消費(fèi)者法帶來相當(dāng)根本性挑戰(zhàn)，因?yàn)闅W盟消費(fèi)者法是以“人”為基礎(chǔ)的，即其前提是消費(fèi)決定是由人作出的。但在新場景中，隨著算法型消費(fèi)者和增強(qiáng)型消費(fèi)者的出現(xiàn)，AI占據(jù)了舞臺(tái)中心。如自動(dòng)駕駛汽車技術(shù)以及搜索引擎優(yōu)化方面，AI的出現(xiàn)便為消費(fèi)者法帶來的新問題。就此，Bush教授討論了其所在的ELI為解決這些新問題正在研究的算法合同項(xiàng)目，方式是通過測試一系列場景來驗(yàn)證歐盟的立法、指令和法規(guī)在多大程度上為AI做好了準(zhǔn)備，嘗試開發(fā)的用于自動(dòng)合同的分類系統(tǒng)

最后，Busch教授對(duì)歐盟消費(fèi)者法的修改提出了一些建議。首先，歐盟電子商務(wù)指令中規(guī)定，成員國應(yīng)確保其法律制度允許通過電子方式訂立合同，認(rèn)為若現(xiàn)在將其轉(zhuǎn)化為聊天機(jī)器經(jīng)濟(jì)，則有必要聲明成員國應(yīng)確保其法律制度允許通過算法代理簽訂合同。此外，消費(fèi)者有權(quán)使用人工智能系統(tǒng)簽訂合同，任何直接或間接放棄或限制此權(quán)利的合同條款對(duì)消費(fèi)者不具有約束力，即算法合同的非歧視原則。同時(shí)，商戶不得以阻止消費(fèi)者使用AI系統(tǒng)與其訂立合同的方式設(shè)計(jì)、組織或操作其在線界面，即設(shè)計(jì)的合規(guī)性或友好型設(shè)計(jì)，使消費(fèi)者能夠使用這些新技術(shù)。同時(shí)，應(yīng)以2019年加州機(jī)器人程序披露和責(zé)任法案為藍(lán)本，規(guī)定透明度要求，即若企業(yè)或消費(fèi)者正在使用AI系統(tǒng)，應(yīng)予以披露，以便對(duì)方清楚其在與AI系統(tǒng)進(jìn)行對(duì)話。針對(duì)AI系統(tǒng)的弱點(diǎn)，Busch教授認(rèn)為應(yīng)該有保護(hù)AI系統(tǒng)免受操縱的規(guī)則;交易者不得以可能損害人工智能系統(tǒng)的方式使用其在寫界面的結(jié)構(gòu)、設(shè)計(jì)、功能或操作方式，使得AI變得難以作出做出自由、自主和知情決策或選擇。最后，Busch教授提及歐盟委員會(huì)關(guān)于金融服務(wù)遠(yuǎn)程營銷指令中的第16D.3條，該條款賦予消費(fèi)者與人進(jìn)行交談的權(quán)利。其認(rèn)為，該條款是以人為本的，但同時(shí)可能會(huì)阻礙創(chuàng)新，使企業(yè)規(guī)模化變得更加困難，尤其是對(duì)小型初創(chuàng)企業(yè)更是如此。這表明人們有必要繼續(xù)研究自動(dòng)化的局限性以及授權(quán)的限制等問題。

在討論環(huán)節(jié)中，王貴國教授、程樂教授以及同學(xué)們就消費(fèi)者拒絕使用AI的權(quán)利、AI錯(cuò)誤導(dǎo)致的糾紛解決及責(zé)任歸屬、數(shù)字化時(shí)代的隱私憂慮等問題與Busch教授進(jìn)行了深入探討。

Alberto De Franceschi教授的講座題目為The use of artificial intelligence and automation in B2B contracting: Global Challenges and the UNCITRAL Draft Principles(“人工智能和自動(dòng)化在B2B合同中的應(yīng)用—全球挑戰(zhàn)和貿(mào)易法委員會(huì)原則草案”)Franceschi教授從自動(dòng)合同訂立與合同履行間的區(qū)別、合同訂立中使用自動(dòng)化的案例以及UNCITRAL關(guān)于自動(dòng)化合同的原則草案等討論這一主題。

首先，F(xiàn)ranceschi教授指出，根據(jù)《貿(mào)易法委員會(huì)電子商務(wù)示范法》和《聯(lián)合國關(guān)于國際合同使用電子通信公約》(“ECC”)，自動(dòng)化合同至少包含兩種情況，一是通過EDI在計(jì)算機(jī)之間發(fā)送的電子通信形成的供應(yīng)合同，二是自然人在網(wǎng)站下訂單形成的銷售合同。其中，通過EDI或其他互聯(lián)網(wǎng)技術(shù)訂立的合同，可以分為由“智能”設(shè)備通過連接的在線平臺(tái)下訂單的合同，以及互聯(lián)網(wǎng)機(jī)器人與網(wǎng)站互動(dòng)形成的合同。

Franceschi教授在講座中列舉了大量的美國、德國、新加坡、日本等國家法院的判例，對(duì)于涉及不同自動(dòng)化合同存在的各類問題予以分析，包括通過與“智能”揚(yáng)聲器互動(dòng)形成的合同、互聯(lián)網(wǎng)與網(wǎng)站交互形成的合同、自然人與自動(dòng)談判工具交互形成的合同、在算法交易平臺(tái)上形成的合同等等;問題包括市場運(yùn)營商的責(zé)任、屏幕抓取/截屏的數(shù)據(jù)侵權(quán)、系統(tǒng)輸出的歸因問題等等。這些問題都是國際貿(mào)易法委員會(huì)制定原則所關(guān)注的內(nèi)容。

Franceschi教授還指出，在實(shí)踐中自動(dòng)化系統(tǒng)主要用于低風(fēng)險(xiǎn)、低變量的交易中，如機(jī)器學(xué)習(xí)和基于認(rèn)知的問題解決。目前專家們正在開發(fā)在合同中使用AI來執(zhí)行更復(fù)雜的決策過程，如談判。實(shí)踐中，以確定性方式運(yùn)行的自動(dòng)化系統(tǒng)意味著系統(tǒng)在給定相同輸入的情況下生成相同的輸出，而非確定性的自動(dòng)化系統(tǒng)則具有很大的挑戰(zhàn)。然而，無論使用何種技術(shù)，自動(dòng)化系統(tǒng)或工具并沒有獨(dú)立意志或獨(dú)特的法人資格，因此歐洲正在廣泛討論自動(dòng)化系統(tǒng)的輸出可歸因于操作人員。目前一些法域的現(xiàn)行合同法規(guī)則可能不足以解決與自動(dòng)化系統(tǒng)不可預(yù)測性相關(guān)的新問題。另一個(gè)問題是，某些規(guī)則是否因人為干預(yù)而無法應(yīng)用于自動(dòng)執(zhí)行的合同。此外，智能設(shè)備的使用涉及一系列的參與者，包括個(gè)人、計(jì)算機(jī)程序、操作系統(tǒng)的人員等，因此需要分析系統(tǒng)如何運(yùn)作以及各方之間存在哪些其他合同安排。例如，與更基礎(chǔ)的機(jī)器類比，使用平臺(tái)提供服務(wù)的框架合同，通常會(huì)影響有關(guān)責(zé)任歸屬的問題。

Franceschi教授認(rèn)為，了解錯(cuò)誤的歸屬問題，首先需要了解編程錯(cuò)誤和第三方干預(yù)如何影響自動(dòng)化訂立和執(zhí)行合同。就責(zé)任而言，編程錯(cuò)誤可能會(huì)導(dǎo)致第三方軟件供應(yīng)商對(duì)使用該系統(tǒng)訂立或履行合同的一方承擔(dān)責(zé)任。因此，確定合同條款，需要確定如何處理“動(dòng)態(tài)信息”(即可能根據(jù)外部數(shù)據(jù)源定期或連續(xù)變化的信息，例如市場價(jià)格)。此外，通過確定性系統(tǒng)簽訂的合同，具有良好的可預(yù)測性;而通過非確定性系統(tǒng)訂立的合同，則可能需要額外的規(guī)則來抵消這種系統(tǒng)的不可預(yù)測性。Franceschi教授認(rèn)為，在合同中可根據(jù)透明度、可解釋性和可追溯性的原則制定條款，也可從衡平原則和代理的一般原則中尋找靈感，以界定一方當(dāng)事人可以拒絕使用自動(dòng)化系統(tǒng)訂立合同的情形。

最后，F(xiàn)ranceschi教授簡要分析了UNCITRAL工作組關(guān)于自動(dòng)訂立合同的原則草案，共七項(xiàng)原則，即自動(dòng)化系統(tǒng)的定義、在合同中使用自動(dòng)化系統(tǒng)、法律承認(rèn)、責(zé)任歸屬、心態(tài)、法律后果以及法律合規(guī)。Franceschi教授指出，目前自動(dòng)訂立合同中出現(xiàn)的相關(guān)問題在UNCITRAL的草案中都有相關(guān)的原則，其中討論的焦點(diǎn)在于責(zé)任歸屬、有效性、心態(tài)、編程錯(cuò)誤及第三方干預(yù)。

討論環(huán)節(jié)，王貴國教授、程樂教授及同學(xué)們就自動(dòng)化系統(tǒng)輸出的責(zé)任歸屬、AI開店中可能存在的消費(fèi)者欺詐、禁止反言學(xué)說在自動(dòng)化系統(tǒng)歸因中的應(yīng)用等問題與Franceschi教授進(jìn)行了深入的探討。

最終，王貴國教授對(duì)兩位教授及所有參與本次講座的同學(xué)表示了感謝，本次講座圓滿結(jié)束。關(guān)于本次講座的詳細(xì)內(nèi)容請(qǐng)見附件ppt及會(huì)議錄屏。