【ZiDongHua之“自動化者人文”收錄關(guān)鍵詞：博鰲亞洲論壇   人工智能    決策】

博鰲亞洲論壇丨曾毅：人工智能的決策不可靠 應(yīng)對風(fēng)險(xiǎn)必須從現(xiàn)在開始

3月27日，在博鰲亞洲論壇2024年年會上，中國科學(xué)院自動化研究所研究員、聯(lián)合國人工智能高層顧問機(jī)構(gòu)專家曾毅在會后對騰訊財(cái)經(jīng)表示，人類永遠(yuǎn)應(yīng)該是決策的最終角色，人工智能的決策是不可靠的，還會產(chǎn)生虛假信息，永遠(yuǎn)不要將決策這件事讓給人工智能。


“人工智能產(chǎn)生很多虛假信息，讓世界產(chǎn)生了很多不信任，我認(rèn)為這是當(dāng)前的一個(gè)重大挑戰(zhàn)。”談及風(fēng)險(xiǎn)，曾毅進(jìn)一步指出，以前我們總說“眼見為實(shí)”，現(xiàn)在已經(jīng)“眼見不為實(shí)”了，所以解決人工智能產(chǎn)生的社會信任問題是當(dāng)務(wù)之急。

“因?yàn)槿斯ぶ悄苋狈斫饽芰?，未來如果它產(chǎn)生了自我意識，希望尋求更多權(quán)利，而不是輔助人類決策的時(shí)候，那我們要如何去應(yīng)對挑戰(zhàn)呢？”曾毅表示，應(yīng)對這樣的風(fēng)險(xiǎn)，我們可能需要10年20年，必須從現(xiàn)在就開始，否則就太晚了！

對于“未來已來”的說法，曾毅表示：“我們處在一個(gè)既有機(jī)遇也有風(fēng)險(xiǎn)的時(shí)代，我們目前對人工智能的理解還如此膚淺，就快速地將下一代推向AI時(shí)代是不負(fù)責(zé)任的。”他還是堅(jiān)持，目前的重點(diǎn)是研究人工智能技術(shù)進(jìn)展，預(yù)測相關(guān)風(fēng)險(xiǎn)并做好治理。（騰訊財(cái)經(jīng) 祝玉婷）

關(guān)于我們

清華大學(xué)人工智能國際治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清華大學(xué)成立的校級科研機(jī)構(gòu)。依托清華大學(xué)在人工智能與國際治理方面的已有積累和跨學(xué)科優(yōu)勢，研究院面向人工智能國際治理重大理論問題及政策需求開展研究，致力于提升清華在該領(lǐng)域的全球?qū)W術(shù)影響力和政策引領(lǐng)作用，為中國積極參與人工智能國際治理提供智力支撐。