新一代人工智能正在全球范圍內(nèi)蓬勃興起,為經(jīng)濟(jì)社會(huì)發(fā)展注入新動(dòng)能，但人工智能技術(shù)如果運(yùn)用不當(dāng)，也會(huì)給公共安全、道德倫理、社會(huì)治理等帶來(lái)威脅。近年來(lái)，加大力度防控人工智能安全風(fēng)險(xiǎn)已成為全球共識(shí)，我國(guó)在大力發(fā)展人工智能發(fā)展的同時(shí)，也需要關(guān)注內(nèi)容安全，加強(qiáng)風(fēng)險(xiǎn)防控。

9月5日，人民中科董事長(zhǎng)，中國(guó)科學(xué)院自動(dòng)化研究所模式識(shí)別國(guó)家重點(diǎn)實(shí)驗(yàn)室研究員，知名青年AI專家李兵受邀接受CCTV10專訪。

李兵認(rèn)為“人工智能技術(shù)的快速發(fā)展，在一定程度上為網(wǎng)絡(luò)安全的發(fā)展提供了很大的支撐，同時(shí)也是一把雙刃劍，也會(huì)對(duì)網(wǎng)絡(luò)安全帶來(lái)新的隱患。”

01

人工智能發(fā)展帶來(lái)一定安全風(fēng)險(xiǎn)

人工智能技術(shù)存在算法黑箱、技術(shù)濫用、侵犯隱私等安全問(wèn)題，隨著人工智能與實(shí)體經(jīng)濟(jì)深度融合，這些風(fēng)險(xiǎn)將會(huì)進(jìn)一步疊加放大，給公共安全、道德倫理、社會(huì)治理等帶來(lái)挑戰(zhàn)。

技術(shù)內(nèi)生風(fēng)險(xiǎn)。

深度學(xué)習(xí)作為運(yùn)用最為廣泛的人工智能技術(shù)，存在“算法黑箱”“不可解釋”等缺點(diǎn)，難以對(duì)其實(shí)施檢測(cè)檢查，一旦算法模型中存在漏洞，其產(chǎn)生的安全風(fēng)險(xiǎn)問(wèn)題可能對(duì)社會(huì)安全產(chǎn)生重大威脅。華盛頓大學(xué)等高校的研究人員在一篇論文中披露，自動(dòng)駕駛汽車并不能“真正理解”指示牌上的圖案，而是通過(guò)一些特征來(lái)進(jìn)行識(shí)別，人們只需要在交通標(biāo)志上用貼紙進(jìn)行相應(yīng)處理，就可以讓系統(tǒng)錯(cuò)誤地將停車標(biāo)志識(shí)別為限速標(biāo)志。

技術(shù)濫用風(fēng)險(xiǎn)。

技術(shù)發(fā)展是把雙刃劍，隨著人工智能應(yīng)用日益深入，出現(xiàn)了利用計(jì)算機(jī)視覺(jué)、智能語(yǔ)音等技術(shù)實(shí)現(xiàn)“換臉”“換音”的情形，不但侵犯?jìng)€(gè)人隱私，還可能被用于實(shí)施詐騙，產(chǎn)生嚴(yán)重后果。2019 年 3 月，《華爾街日?qǐng)?bào)》報(bào)道，有犯罪分子使用深度偽造技術(shù)成功模仿了英國(guó)某能源公司在德國(guó)母公司CEO的聲音，詐騙了220000歐元，造成嚴(yán)重的財(cái)產(chǎn)損失。

數(shù)據(jù)隱私風(fēng)險(xiǎn)。

人工智能技術(shù)訓(xùn)練需要依靠大量數(shù)據(jù)，但當(dāng)前數(shù)據(jù)的獲取、使用的監(jiān)督管理尚不完善，存在隱私泄露、數(shù)據(jù)濫用等風(fēng)險(xiǎn)，同時(shí)數(shù)據(jù)作為重要資產(chǎn)，跨境流動(dòng)時(shí)處理不當(dāng)還可能對(duì)國(guó)家安全產(chǎn)生威脅。2020年2月，服務(wù)于600多家執(zhí)法機(jī)構(gòu)及安保公司的美國(guó)人臉識(shí)別創(chuàng)業(yè)公司Clearview AI稱其客戶面部信息數(shù)據(jù)庫(kù)被盜，據(jù)報(bào)道，Clearview AI從網(wǎng)絡(luò)社交媒體上抓取了超過(guò)30億張照片，這些數(shù)據(jù)在采集時(shí)并未明確獲得用戶的同意。

02

人工智能技術(shù)是把雙刃劍

李兵認(rèn)為“網(wǎng)絡(luò)安全一直是一個(gè)永恒的主題，有新的技術(shù)引入就一定會(huì)帶來(lái)新的安全隱患，隨著人工智能技術(shù)的快速發(fā)展，在一定程度上為網(wǎng)絡(luò)安全的發(fā)展提供了很大的支撐，同時(shí)也是一把雙刃劍，也會(huì)對(duì)網(wǎng)絡(luò)安全帶來(lái)新的隱患。比如虛假信息偽造、深度模型本身的安全隱患等。”

作為國(guó)內(nèi)資深內(nèi)容安全領(lǐng)域?qū)＜?，人民中科?nèi)容安全公司創(chuàng)始人，

目前各城市已在數(shù)字化、智能化的道路上獲益，實(shí)現(xiàn)管理效能提升、運(yùn)營(yíng)成本降低，為智能城市發(fā)展注入“數(shù)字動(dòng)力”。當(dāng)前世界上已有2億個(gè)攝像頭監(jiān)視著我們的一舉一動(dòng)，城市中隨時(shí)有數(shù)字化攝像設(shè)備，觀察和監(jiān)視著個(gè)體的行為，并識(shí)別嫌疑人員的相關(guān)行為，并提高了公共空間的安全性，但不利的一面是容易陷入到監(jiān)控視頻的海洋中，尋找準(zhǔn)確的圖像猶如大海撈針。

而面部識(shí)別技術(shù)為該問(wèn)題提供了解決方案，李兵指出，面部識(shí)別技術(shù)目前比較主流的是基于深度學(xué)習(xí)、深度神經(jīng)網(wǎng)絡(luò)的方法，該方法是一個(gè)端到端的黑盒，只需要關(guān)注輸入大量的訓(xùn)練樣本，輸出相應(yīng)結(jié)果的過(guò)程，不需要關(guān)注模型本身，技術(shù)性能相對(duì)較好，能將人臉識(shí)別的性能大幅度提高，但同時(shí)也存在一個(gè)缺點(diǎn)，需要大量的大數(shù)據(jù)樣本進(jìn)行模型訓(xùn)練，同時(shí)在訓(xùn)練的過(guò)程中需要大量的計(jì)算資源，例如GPU、CPU等相應(yīng)的硬件支持。

李兵表示“隨著AI技術(shù)的發(fā)展，AI換臉過(guò)程中是保持B人臉部基本特征情況下，將A臉的生物特征進(jìn)行深度嵌入，視覺(jué)是完全沒(méi)有辦法視察出來(lái)的。人臉合成和人臉交換會(huì)帶來(lái)巨大的安全隱患，造成人身份信息的混亂及虛假信息的傳播，這是目前面臨的非常大的問(wèn)題。”

該技術(shù)解決了依賴高清圖像才能識(shí)別的問(wèn)題，但面部識(shí)別技術(shù)同樣會(huì)遇到一些問(wèn)題，如通過(guò)一些服飾偽裝等手段，系統(tǒng)就無(wú)法正常完成人臉識(shí)別。如今智能技術(shù)與真實(shí)世界的融合效果更加自然，甚至出現(xiàn)了以假亂真的換臉技術(shù)，也就是將A人的臉換到B人的臉上，讓人難以分辨真假。

03

強(qiáng)化AI內(nèi)容安全技術(shù)研發(fā)

人民中科作為中國(guó)科學(xué)院自動(dòng)化研究所技術(shù)成果轉(zhuǎn)化平臺(tái)，以先進(jìn)的算法研發(fā)能力和算法優(yōu)化迭代能力為核心點(diǎn)，聚焦于內(nèi)容安全領(lǐng)域的產(chǎn)業(yè)應(yīng)用及產(chǎn)品開(kāi)發(fā)，為內(nèi)容安全產(chǎn)業(yè)提供新方案，構(gòu)建有責(zé)任、有價(jià)值的人工智能生態(tài)。

人民中科與中科院自動(dòng)化所國(guó)家模式識(shí)別實(shí)驗(yàn)室的研究團(tuán)隊(duì)提出了一種基于身份空間約束的偽造人臉檢測(cè)新方法。

不久前，團(tuán)隊(duì)從實(shí)際應(yīng)用出發(fā)，通過(guò)大量的科學(xué)觀察和實(shí)驗(yàn)發(fā)現(xiàn)，公眾人物或特定的人物在實(shí)際的人臉交換檢測(cè)任務(wù)中，他們的身份總是已知的，或者每個(gè)人至少有一個(gè)真實(shí)的面部圖像。既然卷積神經(jīng)網(wǎng)絡(luò)單憑待測(cè)圖像進(jìn)行分類的泛化性能不佳，而參考人臉圖像又包含了相應(yīng)身份人物的先驗(yàn)信息，這些信息利用起來(lái)可為偽造人臉圖像鑒別模型提供重要判定依據(jù)。該思想對(duì)實(shí)際應(yīng)用較為簡(jiǎn)單、合理，有助于克服泛化問(wèn)題。

“目前我們?cè)诎踩I(lǐng)域做了關(guān)于對(duì)抗人臉交換，進(jìn)行人臉鑒偽的AI技術(shù)工作，即對(duì)偽造人臉進(jìn)行鑒別，從而保護(hù)公民的個(gè)人隱私。目前我們提出了在人的生物特征區(qū)域，在不同尺度上細(xì)分地找到對(duì)應(yīng)的原始人臉和被交換人臉之間的不兼容點(diǎn)或偽造點(diǎn)，來(lái)判斷臉部圖像是否是偽造合成的。”

李兵認(rèn)為

人民中科(濟(jì)南)智能技術(shù)有限公司是人民網(wǎng)與中科院自動(dòng)化所聯(lián)合發(fā)起設(shè)立的“人工智能技術(shù)引擎”和科技成果轉(zhuǎn)化平臺(tái)，以內(nèi)容安全為初始應(yīng)用場(chǎng)景，建設(shè)內(nèi)容智能理解核心能力，目標(biāo)是成為全球內(nèi)容科技領(lǐng)導(dǎo)企業(yè)。