2020年12月，荷蘭期刊《信息政體》(Information Polity)推出了一期特刊《政府中的算法透明性：多層視角方向》(Algorithmic Transparency in Government: Towards a Multi-Level Perspective)。其中的六篇論文分析了不同層級(jí)政府在運(yùn)用算法作決策的過(guò)程中經(jīng)歷的挑戰(zhàn)，旨在幫助人們?cè)诟拍詈蛯?shí)證層面更好地理解如何在政府決策中使用算法。

部分算法系統(tǒng)存在偏向性

據(jù)特刊客座編輯、荷蘭萊頓大學(xué)公共管理學(xué)院助理教授薩拉·蓋斯特(Sarah Giest)和荷蘭烏得勒支大學(xué)治理學(xué)院副教授斯蒂凡·格雷姆里克懷森(Stephan Grimmelikhuijsen)介紹，以往的研究顯示，機(jī)器學(xué)習(xí)技術(shù)以及算法有望提高政府服務(wù)的公平性、有效性，將決策從人類的主觀性中“解脫”出來(lái)。如今，算法在醫(yī)療、司法等許多公共服務(wù)領(lǐng)域日益普及。例如，在司法系統(tǒng)中，由算法預(yù)測(cè)犯罪者再犯概率的準(zhǔn)確性高于人類法官。

但是，基于算法的決策或建議也可能給弱勢(shì)群體帶來(lái)過(guò)多負(fù)面影響。例如，荷蘭一些地方政府曾引入一個(gè)系統(tǒng)，用算法篩選可能實(shí)施社會(huì)福利詐騙行為的人群。該系統(tǒng)的應(yīng)用遭到了一部分人反對(duì)，并于2020年被荷蘭一家法院判定“具有歧視性”“不透明性”，因?yàn)槿鮿?shì)群體往往被預(yù)測(cè)為具有詐騙嫌疑的行為人。這種偏倚(bias)現(xiàn)象背后的一大問(wèn)題是算法的透明性不足。實(shí)際上，政府決策中所用的算法大多由商業(yè)機(jī)構(gòu)開(kāi)發(fā)，這些算法被視為知識(shí)產(chǎn)權(quán)，不會(huì)對(duì)民眾公開(kāi)。政府基于不透明的算法作決策是有風(fēng)險(xiǎn)的，因?yàn)榫哂衅蛐缘臎Q策會(huì)侵蝕民眾對(duì)政府的信任。蓋斯特談到，針對(duì)政府算法決策不透明的批評(píng)迅速增加，僅揭示算法的技術(shù)細(xì)節(jié)是不夠的，還需考察算法運(yùn)行的制度、機(jī)構(gòu)、個(gè)人背景，如此才能真正確保政府透明、負(fù)責(zé)任地使用算法。

透明性涉及各個(gè)政府層級(jí)

格雷姆里克懷森稱，算法使用的透明性挑戰(zhàn)貫穿政府的不同層級(jí)。立法機(jī)構(gòu)可以設(shè)立算法透明性機(jī)制，行政機(jī)構(gòu)可以出臺(tái)算法使用的新政策，政府工作人員個(gè)人可以有自己的知識(shí)技能庫(kù)，所有這些層級(jí)相互作用并影響著公共機(jī)構(gòu)內(nèi)的算法透明性。透明性挑戰(zhàn)還可能呈現(xiàn)不同的形式，技術(shù)工具、監(jiān)管指導(dǎo)方針、機(jī)構(gòu)政策既能增加透明性，也能限制透明性。特刊收錄的文章在宏觀(macro-)、中觀(meso-)、微觀(micro-)三個(gè)層級(jí)上探討了透明性挑戰(zhàn)。宏觀層級(jí)在制度視角下描述現(xiàn)象：國(guó)家體制、法律法規(guī)、文化在算法決策中起到什么作用?中間層級(jí)關(guān)注機(jī)構(gòu)和團(tuán)隊(duì)：政府機(jī)構(gòu)大體上是如何應(yīng)對(duì)算法透明性問(wèn)題的?制定了哪些機(jī)構(gòu)和團(tuán)隊(duì)策略?微觀層級(jí)聚焦信仰、動(dòng)機(jī)、互動(dòng)、行為等個(gè)人屬性，例如，社區(qū)工作人員是如何使用算法的?透明的算法是否會(huì)讓他們作出不同或更好的決策?

在宏觀層級(jí)上，芬蘭赫爾辛基大學(xué)政治學(xué)教授佩爾蒂·阿霍寧(Pertti Ahonen)和泰羅·厄吉拉(Tero Erkkil?覿)考察了與政府算法決策透明性相關(guān)的觀念沖突和概念轉(zhuǎn)變。通過(guò)分析國(guó)家性和國(guó)際性的官方文件，開(kāi)展半結(jié)構(gòu)化的專家訪談，他們發(fā)現(xiàn)歐盟和芬蘭的法律法規(guī)以復(fù)雜的方式相互交織。雖然存在具有約束力的規(guī)范，例如《通用數(shù)據(jù)保護(hù)條例》(GDPR)，但成員國(guó)在如何制定和實(shí)施具體政策上有一定的自由空間。在芬蘭國(guó)內(nèi)，算法透明性及其他自動(dòng)化決策的透明性概念處在法律、倫理、政治、政策、管理、技術(shù)領(lǐng)域的復(fù)雜交界地帶，人們對(duì)相關(guān)法律的解讀存在理念沖突。阿霍寧和厄吉拉的研究提供了兩點(diǎn)重要啟示：第一，在算法和算法決策的透明性問(wèn)題上，歐盟和國(guó)家法律框架以及成員國(guó)的公共領(lǐng)域(public sphere)傳統(tǒng)之中既有制約因素也有促進(jìn)因素，應(yīng)就這一主題開(kāi)展比較研究。第二，為了讓研究人員擁有更大的監(jiān)督管控力度，同時(shí)提供專業(yè)見(jiàn)解，有必要考察專家顧問(wèn)機(jī)構(gòu)的作用。

荷蘭萊頓大學(xué)公共管理學(xué)院助理教授亞歷克斯·英格拉姆斯(Alex Ingrams)采用無(wú)監(jiān)督機(jī)器學(xué)習(xí)(unsupervised machine learning)方法分析了美國(guó)運(yùn)輸安全管理局(TSA)收到的數(shù)千條公眾評(píng)論。經(jīng)過(guò)分析，研究人員發(fā)現(xiàn)了突出的話題群(topic cluster)，可幫助政策制定者在公開(kāi)征求意見(jiàn)過(guò)程中了解大量信息。這項(xiàng)研究表明，不僅算法本身應(yīng)具有透明性，算法還可作為提高政府決策透明性的工具。

在中觀層級(jí)上，基于半結(jié)構(gòu)化訪談和文獻(xiàn)分析的定性研究方法，西班牙馬德里自治大學(xué)政治學(xué)與國(guó)際關(guān)系學(xué)教授J.伊格納西奧·克里亞多(J. Ignacio Criado)等學(xué)者分析了瓦倫西亞自治區(qū)政府使用的一種算法系統(tǒng)。他們希望回答兩個(gè)問(wèn)題：算法在多大程度上影響政府工作人員作決策時(shí)的自由裁量權(quán)?算法透明性對(duì)政府工作人員的自由裁量權(quán)有何影響?這項(xiàng)研究顯示，算法對(duì)政府工作人員的自由裁量權(quán)有積極作用。讓他們積極參與到法律承認(rèn)的研發(fā)或?qū)徍诉^(guò)程中，有助于增強(qiáng)算法透明性。

愛(ài)爾蘭都柏林圣三一大學(xué)信息系統(tǒng)副教授弗蘭克·班尼斯特(Frank Bannister)和愛(ài)爾蘭都柏林城市大學(xué)信息系統(tǒng)教授雷吉娜·康納利(Regina Connolly)提出，隨著人工智能的發(fā)展，人類決策正在越來(lái)越多地依賴算法和機(jī)器學(xué)習(xí)技術(shù)。能夠檢測(cè)到算法決策的風(fēng)險(xiǎn)并將風(fēng)險(xiǎn)分類，對(duì)于系統(tǒng)化地、精準(zhǔn)地應(yīng)對(duì)風(fēng)險(xiǎn)至關(guān)重要。

在微觀層級(jí)上，墨西哥經(jīng)濟(jì)研究與教育中心(CIDE)公共管理教授里克·皮特斯(Rik Peeters)提出，如果不能理解算法如何影響人類決策，算法設(shè)計(jì)如何影響透明性和人類自主判斷的實(shí)際可能性，“保持人類知情”(keep humans in the loop)的呼吁或?qū)⑹菬o(wú)力的。通過(guò)回顧近期的學(xué)術(shù)文獻(xiàn)，皮特斯發(fā)現(xiàn)，透明性和人類自主判斷的前提由三個(gè)關(guān)鍵的設(shè)計(jì)變量(自動(dòng)化程度、算法類型、組織范圍)決定，有限理性(bounded rationality)、滿意行為(satisficing behavior)、自動(dòng)化偏倚(automation bias)、一線應(yīng)對(duì)機(jī)制(frontline coping mechanism)對(duì)人類如何使用算法中的監(jiān)督和超馳控制(override)選項(xiàng)起到關(guān)鍵性影響。

美國(guó)得克薩斯農(nóng)工大學(xué)公共服務(wù)與管理系副教授賈斯汀·布洛克(Justin Bullock)等學(xué)者設(shè)計(jì)了一個(gè)將關(guān)于人工智能、人類自主判斷、公共機(jī)構(gòu)行政制度形式的研究整合起來(lái)的理論框架，并以此考察了公共部門使用人工智能的兩個(gè)非常不同的領(lǐng)域(醫(yī)療保險(xiǎn)審計(jì)和警務(wù))。研究結(jié)果顯示，人工智能對(duì)人類自主判斷的影響是非線性、非單調(diào)的(nonmonotonic)。

蓋斯特和格雷姆里克懷森表示，為倡導(dǎo)負(fù)責(zé)任的、透明的算法使用，接下來(lái)的研究應(yīng)探索上述宏觀、中觀、微觀層面之間的相互作用。