【ZiDongHua之“自動化者人文”收錄關鍵詞：博鰲亞洲論壇   人工智能    決策】

博鰲亞洲論壇丨曾毅：人工智能的決策不可靠 應對風險必須從現(xiàn)在開始

3月27日，在博鰲亞洲論壇2024年年會上，中國科學院自動化研究所研究員、聯(lián)合國人工智能高層顧問機構專家曾毅在會后對騰訊財經表示，人類永遠應該是決策的最終角色，人工智能的決策是不可靠的，還會產生虛假信息，永遠不要將決策這件事讓給人工智能。


“人工智能產生很多虛假信息，讓世界產生了很多不信任，我認為這是當前的一個重大挑戰(zhàn)。”談及風險，曾毅進一步指出，以前我們總說“眼見為實”，現(xiàn)在已經“眼見不為實”了，所以解決人工智能產生的社會信任問題是當務之急。

“因為人工智能缺乏理解能力，未來如果它產生了自我意識，希望尋求更多權利，而不是輔助人類決策的時候，那我們要如何去應對挑戰(zhàn)呢？”曾毅表示，應對這樣的風險，我們可能需要10年20年，必須從現(xiàn)在就開始，否則就太晚了！

對于“未來已來”的說法，曾毅表示：“我們處在一個既有機遇也有風險的時代，我們目前對人工智能的理解還如此膚淺，就快速地將下一代推向AI時代是不負責任的。”他還是堅持，目前的重點是研究人工智能技術進展，預測相關風險并做好治理。（騰訊財經 祝玉婷）

關于我們

清華大學人工智能國際治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清華大學成立的校級科研機構。依托清華大學在人工智能與國際治理方面的已有積累和跨學科優(yōu)勢，研究院面向人工智能國際治理重大理論問題及政策需求開展研究，致力于提升清華在該領域的全球學術影響力和政策引領作用，為中國積極參與人工智能國際治理提供智力支撐。