“有些嘗試是在設(shè)計階段就不應(yīng)該去做的，我們不能用‘可能會影響發(fā)展’的借口去嘗試那些已經(jīng)處于紅線、甚至越過紅線的應(yīng)用和場景。近日，澎湃新聞記者專訪中國科學院自動化所研究員、北京智源人工智能研究院AI倫理中心主任、國家新一代人工智能治理專委會委員曾毅，就國外某些科技巨頭停止使用人臉識別技術(shù)、中國公眾對數(shù)據(jù)隱私的態(tài)度和人工智能治理等話題展開討論。

如何看待放棄人臉識別技術(shù)？

5月底，非裔美國人弗洛伊德遭美國警察暴力執(zhí)法致死一事后，人臉識別使用爭議再次引發(fā)討論。美國多家科技公司，包括微軟、IBM和亞馬遜因隱私爭議、算法偏見等問題表示暫停向美國警方提供人臉識別系統(tǒng)。對此，曾毅認為，技術(shù)公司放棄使用人臉識別算法并沒有解決問題，而是在回避問題。他推測，如果技術(shù)公司宣布放棄人臉識別的使用，很可能是找到了其他替代方案，例如改用其他生物特征識別方法。

“比如公眾對人臉識別的意見非常大，技術(shù)公司說‘好，我們放棄人臉識別’”，“但公眾可能并不知道，虹膜識別、步態(tài)識別、聲紋識別和指紋識別等其他生物特征幾乎可以達到人臉識別的準確率。而這些當中也不乏存在膚色、性別、年齡、種族和國別等偏見的問題。因此簡單的禁止使用某項技術(shù)并沒有解決潛在風險，積極負責任地解決技術(shù)的倫理風險本身，發(fā)揮技術(shù)的善用才是真正應(yīng)該做的事情”。在他看來，人臉識別技術(shù)在國家與社會安全中發(fā)揮了很多積極作用，例如跨年齡人臉識別可用來打拐。“關(guān)鍵問題是，不應(yīng)該讓人臉識別系統(tǒng)直接去做決策，比如不能因為膚色黑、以及一些特定的其他面部特征，就判斷犯罪的可能性高。”人臉識別技術(shù)可以用來做決策輔助，但不應(yīng)該在決策中扮演決定性作用。

對于人工智能算法的偏見問題，他補充解釋道，人工智能基于大量的社會數(shù)據(jù)，數(shù)據(jù)中已經(jīng)表征了社會偏見，這是一個不能回避的問題。而技術(shù)開發(fā)者本身也有可能由于自身的偏見，對系統(tǒng)引入額外偏見。“我們應(yīng)當采用人工智能技術(shù)去規(guī)避數(shù)據(jù)當中的潛在偏見，更應(yīng)避免技術(shù)設(shè)計者引入個人偏見。”

從“漸變碼”看中國公眾對數(shù)據(jù)隱私的態(tài)度

“說中國公眾對隱私問題不是特別重視，其實是一個誤區(qū)，并可能產(chǎn)生誤導。”曾毅認為，就公眾對隱私的重視程度而言，中國和西方國家沒有本質(zhì)差異。他提到，2019年世界經(jīng)濟論壇就公眾對政府合理使用人臉識別系統(tǒng)的態(tài)度進行過一次調(diào)研。結(jié)果發(fā)現(xiàn)，中國公眾的支持率是83%，美國的支持率是80%，兩者結(jié)果相似。

2020年5月，他所在的北京智源人工智能研究院人工智能倫理與安全研究中心聯(lián)合中國科學院自動化研究所中英人工智能倫理與治理研究中心共同發(fā)布了《人臉識別與公共衛(wèi)生調(diào)研報告》，顯示新冠疫情期間，中國公眾沒有放松對隱私安全的要求。

曾毅尤其關(guān)注到，新冠疫情期間，“杭州漸變色健康碼將上線”的消息在網(wǎng)上引發(fā)討論。他表示中國網(wǎng)民關(guān)于“漸變碼”的倫理和隱私安全討論“非常切中要害”。首先，網(wǎng)民對“漸變碼”的關(guān)注度很高，很多討論幾千人點贊和回復。“具體觀點來看，大家當時就談，健康碼是為新冠疫情而做的。如果超越了新冠防控本身，老百姓是不愿意的，這是一個非常明確的意見。”第二，網(wǎng)友提到，健康碼的設(shè)計初衷是給別人看的，但每天是否抽煙、喝酒、睡眠時長甚至走路步數(shù)，這些都是個人的健康數(shù)據(jù)，并沒有打算給別人看。他認為，公眾的對于隱私保護的討論、對于數(shù)據(jù)流向等概念的理解非常清晰，分析也很深刻。

人工智能治理愿景與技術(shù)落地

2019年5月，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《數(shù)據(jù)安全管理辦法(征求意見稿)》。同年8月，國家互聯(lián)網(wǎng)信息辦公室又發(fā)布《兒童個人信息網(wǎng)絡(luò)保護規(guī)定》，明確任何組織和個人不得制作、發(fā)布、傳播侵害兒童個人信息安全的信息。曾毅在采訪中提到，上述兩個規(guī)定以及新頒布的民法典中，都有關(guān)于數(shù)據(jù)安全保護的相關(guān)規(guī)定，尤其關(guān)于兒童個人信息保護的規(guī)定在全世界走在前列。但無論是歐盟的《通用數(shù)據(jù)保護條例》或者中國的這些嘗試，都有一些需迫切解決的問題。例如，《通用數(shù)據(jù)保護條例》中提到數(shù)據(jù)刪除，即用戶授權(quán)同意后改變想法，想把數(shù)據(jù)撤回?！锻ㄓ脭?shù)據(jù)保護條例》要求允許用戶撤回。

曾毅介紹，盡管很多人工智能企業(yè)表明自己符合這條規(guī)定，但從人工智能模型中刪除數(shù)據(jù)十分困難。目前幾乎沒有一家企業(yè)可以做到在訓練好的人工智能模型中，把某個用戶數(shù)據(jù)的影響從模型中刪除。“規(guī)范的愿景長期來講一定是有益的，但在落地層面還需要學術(shù)界、企業(yè)界真正從技術(shù)的角度解決倫理與治理的痛點，從而取得突破。”

不應(yīng)以發(fā)展為借口越過AI倫理紅線

換臉軟件ZAO在協(xié)議中暗藏霸王條款、教室使用表情識別技術(shù)、杭州動物園“人臉識別第一案”……2019年發(fā)生了數(shù)起因濫用人臉識別相關(guān)技術(shù)或觸碰倫理紅線而引發(fā)爭議的事件。曾毅表示，出現(xiàn)這些現(xiàn)象是因為人工智能的利益相關(guān)方，例如開發(fā)AI的公司、部署AI的企業(yè)、用戶在數(shù)據(jù)合規(guī)性和用戶隱私保護方面做得不夠規(guī)范。

在他看來，人工智能產(chǎn)品研發(fā)的過程當中，在設(shè)計、研發(fā)、使用和部署各環(huán)節(jié)都應(yīng)當注意數(shù)據(jù)隱私安全和算法潛在倫理隱患等問題。應(yīng)當采取策略性的設(shè)計，并使用多相關(guān)方共擔責任的框架，以此發(fā)展未來的人工智能。“多相關(guān)方共擔責任的框架”是指人工智能算法的提供者和技術(shù)使用者承擔各自應(yīng)承擔的責任。例如新冠疫情期間的健康碼雖然由企業(yè)開發(fā)，但數(shù)據(jù)部署和收集工作由各省市的大數(shù)據(jù)中心負責。因此，不僅提供相關(guān)技術(shù)的企業(yè)需要注意數(shù)據(jù)安全保護的問題，維護數(shù)據(jù)的各個省市大數(shù)據(jù)中心也需要注意相關(guān)的保護問題。

曾毅總結(jié)道，作為一種顛覆性的技術(shù)，人工智能可以改變世界，它能夠被善用，也有風險被惡用、誤用和濫用。“我們在用技術(shù)改變社會的嘗試中，應(yīng)當盡可能避免誤用、杜絕惡用和濫用。所以，有些嘗試是在設(shè)計階段就不應(yīng)該去做的。人工智能一定是發(fā)展是主題，但是我們不能用‘可能會影響發(fā)展’的借口去嘗試那些已經(jīng)處于紅線、甚至越過紅線的應(yīng)用和場景。”

=========================================================================

延展閱讀 ~ 關(guān)于曾毅

曾毅研究領(lǐng)域：

實現(xiàn)并超越人類水平的智能是人工智能研究的終極目標。世界上除了人腦以外，目前沒有任何一個智能系統(tǒng)能夠高度協(xié)同多模態(tài)感知、決策、推理、預測、語言、動作等認知能力，具有高度自適應(yīng)性、自主學習能力，甚至是自我意識，并穩(wěn)定工作至少幾十年。因此，研究腦信息處理原理，構(gòu)建類腦智能計算模型，最終應(yīng)用于人工智能系統(tǒng)研發(fā)，是實現(xiàn)人類水平人工智能，最終超越人類智能的重要途徑。與此同時，我們要充分關(guān)注人工智能風險、安全與倫理，確保類腦人工智能的研究向?qū)θ祟惣吧鐣幸娴姆较虬l(fā)展。

主要研究領(lǐng)域圍繞類腦人工智能研究展開。主要涉及：

(1) 類腦認知計算模型: 類腦脈沖神經(jīng)網(wǎng)絡(luò)、類腦人工神經(jīng)網(wǎng)絡(luò)、類腦自主學習理論與算法，并將上述研究成果應(yīng)用于類腦信息處理、類腦智能機器人的研究中。

(2) 人工智能倫理與治理：研究不同人工智能模型存在的風險、安全、社會倫理與治理問題，并通過算法落地的形式發(fā)展低風險、高度安全、具有道德與倫理的有益人工智能。