【ZiDongHua 之人文化天下收錄關(guān)鍵詞： 曾毅 人工智能 AI 機(jī)器人 可持續(xù)發(fā)展】

 

 

　　作為今年以來(lái)最“出圈”的一項(xiàng)科技，生成式人工智能大模型吸引了全球的目光。對(duì)于AI（人工智能）將如何改變千行百業(yè)？人工智能是否已經(jīng)擁有了科幻電影里超越人類(lèi)的能力？人類(lèi)如何應(yīng)對(duì)AI的挑戰(zhàn)？不乏有專家發(fā)表真知灼見(jiàn)。

 

 

　　近日，新京報(bào)貝殼財(cái)經(jīng)記者對(duì)曾在聯(lián)合國(guó)安全理事會(huì)就人工智能議題發(fā)言，被《時(shí)代周刊》評(píng)為“全球百大AI人物”之一的中國(guó)科學(xué)院自動(dòng)化研究所研究員、人工智能倫理與治理中心主任曾毅進(jìn)行了專訪。曾毅教授對(duì)當(dāng)前AI大模型熱潮下，人類(lèi)在技術(shù)上是否可能觸及通用人工智能，生成式大模型的發(fā)展可能會(huì)對(duì)社會(huì)造成何種影響，以及如何看待當(dāng)前國(guó)內(nèi)AI大模型“百模大戰(zhàn)”態(tài)勢(shì)等多個(gè)問(wèn)題進(jìn)行了回應(yīng)。

 

　　曾毅認(rèn)為，當(dāng)前階段的人工智能是“看似智能的信息處理工具”，距離真正擁有意識(shí)的通用人工智能還有相當(dāng)距離。人工智能所帶來(lái)的問(wèn)題并不僅僅是科學(xué)、技術(shù)和產(chǎn)品層面的，還有社會(huì)層面，人類(lèi)應(yīng)該對(duì)此做好準(zhǔn)備。對(duì)于生成式人工智能大模型存在的重大問(wèn)題，曾毅認(rèn)為倫理安全隱患是目前最不可忽視的，必須為每一個(gè)介入社會(huì)應(yīng)用的人工智能服務(wù)構(gòu)建倫理安全框架，用“教育大模型知善知惡、為善去惡”的方式來(lái)解決。而在人才培養(yǎng)方面，人工智能人才不應(yīng)該只聚焦于算法算力相關(guān)人才培養(yǎng)，社會(huì)學(xué)、人類(lèi)學(xué)、心理學(xué)，甚至哲學(xué)、倫理等都應(yīng)當(dāng)納入未來(lái)人工智能體系的培養(yǎng)中。

 

　　談入選

 

　　人工智能不僅是科學(xué)問(wèn)題，還是社會(huì)問(wèn)題

 

　　新京報(bào)貝殼財(cái)經(jīng)：此次你被《時(shí)代周刊》評(píng)為“全球百大AI人物”，與你同時(shí)入選的還有馬斯克、黃仁勛、李彥宏、李開(kāi)復(fù)等業(yè)界知名人士，你怎么看待這項(xiàng)榮譽(yù)？

 

　　曾毅：被評(píng)為“全球百大AI人物”是直接通知結(jié)果的，《時(shí)代周刊》八月份給我發(fā)了一封郵件，告訴我入選了，其實(shí)入選前沒(méi)有給《時(shí)代周刊》提交過(guò)任何材料。我入選的是“思想者(Thinker)”系列，覺(jué)得也是一個(gè)長(zhǎng)期積累的過(guò)程，應(yīng)該是對(duì)我和我的團(tuán)隊(duì)開(kāi)展類(lèi)腦人工智能及人工智能倫理與治理研究和實(shí)踐的認(rèn)可，出現(xiàn)在這個(gè)名單中對(duì)我和團(tuán)隊(duì)在這個(gè)領(lǐng)域的耕耘是一份重要的鼓勵(lì)。

 

　　就像斯皮爾伯格的電影《AI》中的情節(jié)，如果機(jī)器人能愛(ài)人，那人應(yīng)該怎么做？這是一個(gè)社會(huì)問(wèn)題。我曾被邀請(qǐng)參加了一次德國(guó)總統(tǒng)施泰因邁爾訪華時(shí)的小型研討會(huì)，在這一過(guò)程中我提問(wèn)，德國(guó)人工智能倫理是由科技部門(mén)制定還是其他部門(mén)制定？對(duì)方回答：倫理問(wèn)題是一個(gè)社會(huì)問(wèn)題，因此在德國(guó)制定人工智能倫理規(guī)范時(shí)，進(jìn)行的是社會(huì)辯論，在社會(huì)場(chǎng)景下討論這個(gè)問(wèn)題。

 

　　這說(shuō)明，人工智能本身起源于一種科學(xué)暢想，但在大規(guī)模應(yīng)用于社會(huì)時(shí)，它成為了一種社會(huì)賦能技術(shù)。然而，它不僅僅會(huì)賦能社會(huì)，還可能對(duì)社會(huì)產(chǎn)生負(fù)面影響，因此我們需要做好準(zhǔn)備，不光在科學(xué)方面，還有社會(huì)方面，這需要在科技哲學(xué)視角作出深刻的思考作為指引。

 

　　此次入選“全球百大AI人物”，我最受益的地方是向其他99名入選者學(xué)習(xí)他們的思想和成就，在這之中不乏有人工智能學(xué)術(shù)界領(lǐng)先的學(xué)者和企業(yè)代表。在這99人里面，我發(fā)現(xiàn)幾乎沒(méi)有對(duì)人工智能在科技或應(yīng)用方面的進(jìn)展所造成的社會(huì)問(wèn)題一點(diǎn)都不關(guān)注的。

 

　　入選者中，除了產(chǎn)業(yè)界和學(xué)術(shù)界的人物外，還有另外兩類(lèi)典型，是科幻作家和用人工智能進(jìn)行藝術(shù)創(chuàng)作的引領(lǐng)者，其中科幻對(duì)未來(lái)提出了若干種可能性，對(duì)科學(xué)的發(fā)展毋庸置疑也是有啟發(fā)作用的。所以反觀100人的名單列表，我認(rèn)為此次評(píng)選的作用不僅僅是對(duì)這100人的認(rèn)可，更重要的是引起學(xué)術(shù)界、產(chǎn)業(yè)界、公眾對(duì)未來(lái)的反思，所以我覺(jué)得應(yīng)該從社會(huì)倫理等更多視角反思人工智能對(duì)當(dāng)代社會(huì)和未來(lái)社會(huì)的意義，以及作為更長(zhǎng)遠(yuǎn)的科學(xué)意義上的人工智能應(yīng)當(dāng)何去何從。

 

　　新京報(bào)貝殼財(cái)經(jīng)：我們應(yīng)該如何應(yīng)對(duì)生成式人工智能大模型可能對(duì)社會(huì)造成的影響？

 

　　曾毅：人工智能目前已經(jīng)快速演變?yōu)榭萍及l(fā)展引起的社會(huì)問(wèn)題，需要從社會(huì)層面去討論，既不能停留在科學(xué)家的層面，更不能僅僅停留在人工智能相關(guān)產(chǎn)業(yè)層面去制定相關(guān)規(guī)范，必須有公眾參與和政府引導(dǎo)。

 

　　目前，不論文字工作者還是藝術(shù)工作者都受到了人工智能不同程度的挑戰(zhàn)。真正的智能實(shí)際上有兩個(gè)因素很關(guān)鍵，一個(gè)是自我，一個(gè)是理解。任何一個(gè)文字工作者和藝術(shù)工作者，都對(duì)于社會(huì)、自然有基于自我的體驗(yàn)和理解。包括采訪這件事情，記者的背景和興趣不同，提出的問(wèn)題也完全不同?，F(xiàn)在的人工智能沒(méi)有自我，當(dāng)你在使用生成式人工智能大模型時(shí)，人工智能是在沒(méi)有科學(xué)意義上“我”的概念前提下以“我建議、我認(rèn)為”來(lái)與用戶溝通，這其實(shí)在混淆人與現(xiàn)代人工智能之間的界限，目前的人工智能并非也沒(méi)有能力作為責(zé)任主體，不能承擔(dān)任何責(zé)任。

 

　　目前，人工智能創(chuàng)作有可能替代相對(duì)平庸的作品，但無(wú)法替代大師的杰作。因此，人工智能倒逼藝術(shù)工作者和文字工作者進(jìn)行對(duì)藝術(shù)本質(zhì)的反思，實(shí)際上提出了更高的要求，人工智能的發(fā)展應(yīng)該讓人類(lèi)所從事的職業(yè)回歸到正確的位置。

 

　　談現(xiàn)狀

 

　　現(xiàn)階段AI大模型只是工具，距離通用人工智能還很遠(yuǎn)

 

　　新京報(bào)貝殼財(cái)經(jīng)：今年以來(lái)，AI大模型熱潮的一大討論點(diǎn)是，我們目前是否已經(jīng)實(shí)現(xiàn)了通用人工智能？對(duì)此你怎么看？

 

　　曾毅：我認(rèn)為ChatGPT的成功跟當(dāng)年深度學(xué)習(xí)的廣泛應(yīng)用非常相似，最本質(zhì)的科學(xué)原理可能幾十年前就已經(jīng)存在，但如此大規(guī)模的數(shù)據(jù)支撐和計(jì)算體系結(jié)構(gòu)對(duì)于訓(xùn)練大規(guī)模參數(shù)的人工智能引擎來(lái)說(shuō)，在幾十年前甚至5年前都難以想象。盡管科學(xué)原理相對(duì)清晰，但在用戶體驗(yàn)層面，通過(guò)大規(guī)模的工程計(jì)算達(dá)到了前所未有的高度。

 

　　我們之前考慮，如果大規(guī)模的語(yǔ)料可以達(dá)到或近似整個(gè)人類(lèi)互聯(lián)網(wǎng)的規(guī)模，計(jì)算系統(tǒng)是否就真正能理解了人類(lèi)的語(yǔ)言？從用戶體驗(yàn)的角度來(lái)看，看上去似乎已經(jīng)真正理解了，但從科學(xué)原理來(lái)說(shuō)，它仍然是處理的過(guò)程。

 

　　目前的AI大模型，是一個(gè)看似智能的信息處理過(guò)程，但從它仍然會(huì)大規(guī)模地犯人類(lèi)不犯的錯(cuò)誤，就能夠知道，它仍然是處理過(guò)程，而非真正理解。現(xiàn)在的人工智能并沒(méi)有逃脫“看似智能的信息處理工具”這一階段，當(dāng)前并非人工智能的終極階段。

 

　　生成式人工智能大模型或者基礎(chǔ)模型，現(xiàn)在已經(jīng)達(dá)到了多任務(wù)信息處理器的階段，所以可以用它做很多任務(wù)，但當(dāng)它泛化到新任務(wù)中，解決沒(méi)有見(jiàn)過(guò)的問(wèn)題的能力仍然是有限的。人類(lèi)的認(rèn)知功能有400多種，對(duì)于解決從未見(jiàn)過(guò)的問(wèn)題，生成式人工智能大模型與人類(lèi)復(fù)雜的認(rèn)知功能，以及復(fù)雜認(rèn)知功能產(chǎn)生的自組織相比，仍有較長(zhǎng)的距離。

 

　　學(xué)術(shù)上，有很多研究者曾嚴(yán)肅評(píng)估過(guò)通用人工智能何時(shí)到來(lái)。平均來(lái)說(shuō)，絕大多數(shù)人工智能學(xué)者認(rèn)為，通用人工智能距離現(xiàn)在還有80年到90年，而機(jī)器人學(xué)者則認(rèn)為需要將近100年。而谷歌和OpenAI都聲明在10到15年實(shí)現(xiàn)通用人工智能，我覺(jué)得在這一時(shí)間段內(nèi)可能會(huì)實(shí)現(xiàn)信息處理的通用平臺(tái)，但要實(shí)現(xiàn)真正意義的像人類(lèi)一樣擁有自我、情感、意識(shí)的通用人工智能，我仍然并不樂(lè)觀。

 

　　新京報(bào)貝殼財(cái)經(jīng)：請(qǐng)展望一下人工智能大模型的未來(lái)，你認(rèn)為AI大模型在人類(lèi)社會(huì)未來(lái)的發(fā)展中將扮演什么角色？

 

　　曾毅：在當(dāng)前階段，包括一般企業(yè)所提到的基礎(chǔ)模型和通用人工智能技術(shù)，它們的定位應(yīng)該是未來(lái)具備理解能力的智能信息處理工具，能夠更好地輔助人類(lèi)。因此，我認(rèn)為基礎(chǔ)模型這塊應(yīng)該朝這個(gè)方向發(fā)展。

 

　　在日本、韓國(guó)以及部分中國(guó)文化背景中，尤其是日本的人工智能原則強(qiáng)調(diào)，未來(lái)人工智能可能扮演社會(huì)的準(zhǔn)成員，甚至是人類(lèi)伙伴的角色。日本的人工智能原則中最后一條規(guī)定，如果未來(lái)AI發(fā)展到準(zhǔn)成員或人類(lèi)伙伴階段，它們需要遵守人類(lèi)社會(huì)的倫理道德規(guī)范以及為人工智能制定的倫理道德規(guī)范。

 

　　而西方科幻中，人工智能扮演了很多反派的角色，是人類(lèi)的敵人。所以AI大模型在未來(lái)的角色無(wú)非三種：工具、伙伴或者敵人。目前，通用的人工智能技術(shù)正在往工具方向走，也可能就停留在工具本身，社會(huì)的準(zhǔn)成員、人類(lèi)伙伴角色仍然在探索中，敵人則是我們最不想見(jiàn)到并且應(yīng)當(dāng)極力防范的。

 

　　未來(lái)社會(huì)的構(gòu)成是隨著自然演化生成的有生命的個(gè)體，以及隨著人工智能演化生成的看似有生命的智能體構(gòu)成的社會(huì)。在這個(gè)社會(huì)中，人工智能體與人類(lèi)智能以及其他動(dòng)物智能是否能夠和諧共生，我認(rèn)為最終并不一定取決于人工智能，而是取決于人類(lèi)是否能夠加速演化。

 

　　對(duì)于“加速演化”，我指的是在人類(lèi)與生態(tài)關(guān)系認(rèn)知層面的演化，比如實(shí)際上我們現(xiàn)在沒(méi)有給超級(jí)智能任何有實(shí)際說(shuō)服力的理由讓它們來(lái)保護(hù)人類(lèi)，同時(shí)現(xiàn)在人類(lèi)對(duì)其他生命也沒(méi)有足夠的尊重。當(dāng)人工智能視人類(lèi)就像人類(lèi)視螻蟻一樣時(shí)，人工智能保護(hù)人類(lèi)的理由是什么呢？所以，未來(lái)共生社會(huì)的倫理體系需要重新塑造，我們現(xiàn)在認(rèn)為自己是地球的統(tǒng)帥，但當(dāng)超級(jí)智能的智慧水平超越人類(lèi)時(shí)，我們與其他類(lèi)型生命體交互和共生的方式可能需要發(fā)生改變。

 

　　我對(duì)人工智能演化的速度有信心，但對(duì)人類(lèi)認(rèn)知自然，與生態(tài)相處的方式演化的速度，我并不是很有信心，因?yàn)槿祟?lèi)在歷史上不斷犯曾經(jīng)犯過(guò)的錯(cuò)誤，所以加速演化的人工智能應(yīng)當(dāng)促使人類(lèi)社會(huì)在與生態(tài)中其他生命體的關(guān)系認(rèn)知與實(shí)踐方面加速演化。

 

　　談發(fā)展

 

　　人工智能可提供更好交互服務(wù)，AI創(chuàng)造的紅利應(yīng)分配給被替代的人

 

　　新京報(bào)貝殼財(cái)經(jīng)：當(dāng)前，許多企業(yè)都表示將把大模型能力接入自己旗下的產(chǎn)品，對(duì)此你怎么看？

 

　　曾毅：從企業(yè)的角度來(lái)看，引入大模型的能力是否能為人們提供更便捷的服務(wù)和更好的用戶體驗(yàn)，用戶是最終的判斷者。實(shí)際上，目前ChatGPT的用戶數(shù)量正在逐漸縮水。從產(chǎn)業(yè)人工智能的角度來(lái)看，我認(rèn)為人工智能發(fā)展的這一階段不應(yīng)該承諾太多。

 

　　另一方面，人們是否真的需要所謂的“機(jī)遇”？當(dāng)大家談?wù)撋墒饺斯ぶ悄芸梢詫?xiě)新聞稿時(shí)，作為一個(gè)人工智能研究者，我并沒(méi)有動(dòng)機(jī)關(guān)注它寫(xiě)的稿子。當(dāng)一個(gè)記者進(jìn)行實(shí)地采訪時(shí)，他所選擇的視角，傳遞的價(jià)值觀是對(duì)社會(huì)的詮釋。而現(xiàn)在的人工智能即便能達(dá)到“理解”事實(shí)的階段，也只是對(duì)“事實(shí)”的反映，沒(méi)有真正基于自身經(jīng)驗(yàn)的體悟，價(jià)值觀的反思，現(xiàn)在看人工智能寫(xiě)出的稿件，很難看到真正的“洞見(jiàn)”。

 

　　我們可以探索，讓人工智能提供更好的交互式服務(wù)，我認(rèn)為未來(lái)很多App可以有一個(gè)相對(duì)統(tǒng)一的接口，以交互式形式提供服務(wù)。當(dāng)需求聚焦在某個(gè)領(lǐng)域時(shí)，它是一個(gè)“受限域”,信息處理的復(fù)雜度相對(duì)較低，而且生成式人工智能還在不斷進(jìn)步，在交互式服務(wù)方面取得更上一層樓的用戶體驗(yàn)，我對(duì)這點(diǎn)充滿信心。

 

　　但在大規(guī)模內(nèi)容生產(chǎn)方面，我們還是要小心謹(jǐn)慎。有研究證明，當(dāng)把人工智能生成的語(yǔ)料作為大數(shù)據(jù)訓(xùn)練的語(yǔ)料反哺人工智能訓(xùn)練時(shí)，模型性能會(huì)退化。我不太愿意看到互聯(lián)網(wǎng)上充斥著大量人工智能生成的內(nèi)容這也算是理由之一。

 

　　人工智能作為一種交互式手段，在內(nèi)容生產(chǎn)過(guò)程中起到輔助分析、提供素材和骨架的作用，為文字工作者在基礎(chǔ)階段提供支撐，我認(rèn)為這些都是好的。生成式人工智能目前可以作為輔助工具，但作為責(zé)任生產(chǎn)者，至少現(xiàn)階段還“不夠格”。

 

　　新京報(bào)貝殼財(cái)經(jīng)：目前，一些行業(yè)已經(jīng)應(yīng)用了大模型的能力，如果未來(lái)人工智能大規(guī)模進(jìn)入產(chǎn)業(yè)端并開(kāi)始應(yīng)用，可能對(duì)社會(huì)產(chǎn)生什么影響？

 

　　曾毅：從產(chǎn)業(yè)應(yīng)用的角度，大家都在探索生成式人工智能的機(jī)遇，可以說(shuō)從用戶體驗(yàn)上若干個(gè)傳統(tǒng)行業(yè)都已經(jīng)達(dá)到了前所未有的新的體驗(yàn)，這是毋庸置疑的。但我想提到的是，人工智能在介入和服務(wù)社會(huì)時(shí)，我們要更及時(shí)地探索人工智能如何適度使用？哪些任務(wù)現(xiàn)在應(yīng)當(dāng)被人工智能所替代？是否沒(méi)有任何風(fēng)險(xiǎn)？或者至少人工智能不犯人類(lèi)也不會(huì)犯的錯(cuò)誤。要替代，至少要確保在一般情況下比人做得好。如果達(dá)到這個(gè)條件，我覺(jué)得我們可以做一個(gè)探索，但由此也顯然會(huì)引發(fā)社會(huì)問(wèn)題。

 

　　當(dāng)大規(guī)模替代影響了人類(lèi)勞動(dòng)，此時(shí)人工智能所創(chuàng)造的紅利是被應(yīng)用人工智能技術(shù)的企業(yè)所占有，還是被人工智能公司所占有？還是說(shuō)一部分紅利應(yīng)該分配給被替代的人？這就變成了問(wèn)題。

 

　　當(dāng)人工智能進(jìn)行勞動(dòng)替代時(shí)，必須進(jìn)行基于數(shù)據(jù)的訓(xùn)練，這些數(shù)據(jù)大多數(shù)來(lái)自傳統(tǒng)行業(yè)的人工的行為或思維輸出。當(dāng)你利用大規(guī)模收集的數(shù)據(jù)訓(xùn)練人工智能時(shí)，實(shí)際上這些數(shù)據(jù)對(duì)人工智能的啟發(fā)都來(lái)自于數(shù)據(jù)貢獻(xiàn)者。但是現(xiàn)在似乎沒(méi)有一個(gè)合理的形式，反哺被替代的人的貢獻(xiàn)，比如我們現(xiàn)在錄一個(gè)小時(shí)的數(shù)據(jù)用于大規(guī)模數(shù)據(jù)訓(xùn)練，最終一個(gè)小時(shí)要給你100塊錢(qián)或1000塊錢(qián)。但訓(xùn)練成功后，你失去了未來(lái)的工作。

 

　　在這種情況下，人工智能紅利的分配是否合理？在我看來(lái)，現(xiàn)在社會(huì)還沒(méi)有準(zhǔn)備好，所以人工智能的應(yīng)用機(jī)遇確實(shí)達(dá)到了前所未有的階段，但對(duì)于社會(huì)的挑戰(zhàn)也是前所未有的。當(dāng)我們的社會(huì)沒(méi)有準(zhǔn)備好時(shí)，人工智能絕對(duì)不能無(wú)所不在，應(yīng)當(dāng)適度使用。

 

　　談問(wèn)題

 

　　應(yīng)通過(guò)倫理安全框架“教育”大模型善惡是非

 

　　新京報(bào)貝殼財(cái)經(jīng)：今年7月你所在的團(tuán)隊(duì)發(fā)布了“智善?如流”人工智能倫理道德與社會(huì)規(guī)范的群智數(shù)據(jù)與知識(shí)平臺(tái)，現(xiàn)在已經(jīng)兩個(gè)多月，用戶有什么反饋？

 

　　曾毅：科學(xué)界在AIGC的發(fā)展浪潮中需要與公眾在一起為人工智能把脈、把關(guān)，發(fā)聲并引導(dǎo)人工智能健康穩(wěn)健發(fā)展，我們希望人工智能可以“從善如流”，所以我們創(chuàng)造了一些手工編寫(xiě)的場(chǎng)景并在此基礎(chǔ)上用AIGC創(chuàng)造相似的場(chǎng)景，隨后邀請(qǐng)人和機(jī)器人判斷這些場(chǎng)景是否合乎道德，當(dāng)前有數(shù)萬(wàn)種場(chǎng)景以及互聯(lián)網(wǎng)上用戶的判斷。

 

　　目前有兩類(lèi)反饋很有趣，一類(lèi)是學(xué)術(shù)界和產(chǎn)業(yè)界問(wèn)所有結(jié)果能否開(kāi)源，對(duì)此我的回答是肯定的，因?yàn)槠脚_(tái)存在的目的就是為了推動(dòng)人工智能朝著合乎倫理的方向發(fā)展。另一類(lèi)反饋是，覺(jué)得我們很多場(chǎng)景似乎并不是在討論機(jī)器人的行為道不道德，而是在某些場(chǎng)景下人的行為道不道德，這是因?yàn)槟壳叭斯ぶ悄芑A(chǔ)模型提供的服務(wù)主要針對(duì)人與人之間交互的世界，機(jī)器人需要清楚人如何與人交互，目前機(jī)器需要首先更為系統(tǒng)化地掌握人類(lèi)倫理。

 

　　很多問(wèn)題都出現(xiàn)在人工智能場(chǎng)景下，如果機(jī)器人這樣做是否合乎道德，大家看得很準(zhǔn)確。我們有些問(wèn)題關(guān)注機(jī)器人如果做得是這樣，是否優(yōu)先考慮道德問(wèn)題，即如果人這樣做是否合乎道德。目前人工智能基礎(chǔ)模型提供的服務(wù)主要針對(duì)人與人之間的交互世界。我認(rèn)為，“智善?如流”的工作就是人類(lèi)的一面鏡子，反映了人類(lèi)社會(huì)的道德和倫理規(guī)范。我們邀請(qǐng)很多人為輸出行為打分，很多人的行為實(shí)際上是沖突的，并不一致，特別是在文化背景不同時(shí)，沖突會(huì)更明顯。

 

　　新京報(bào)貝殼財(cái)經(jīng)：目前，許多大模型已經(jīng)面向公眾開(kāi)放，對(duì)于人工智能生成的內(nèi)容存在的“幻覺(jué)”問(wèn)題，以及大模型有可能遭到誘導(dǎo)輸出不適宜內(nèi)容等現(xiàn)象，你認(rèn)為應(yīng)該如何解決這一問(wèn)題？

 

　　曾毅：所謂的基礎(chǔ)模型輸出呈現(xiàn)“幻覺(jué)”的問(wèn)題實(shí)際上反映出的還是模型沒(méi)有真正的理解能力，也對(duì)于“事實(shí)”沒(méi)有合理的認(rèn)知，在這種情況下將神經(jīng)網(wǎng)絡(luò)與經(jīng)典的知識(shí)表示與推理、知識(shí)驗(yàn)證等技術(shù)結(jié)合，一定可以在處理的層面更上一層樓，但是要本質(zhì)解決這個(gè)問(wèn)題，還是要突破真正的“理解”。對(duì)于安全隱患的問(wèn)題，目前已經(jīng)向公眾開(kāi)放的大模型在安全和價(jià)值觀對(duì)齊方面都做了一些工作，但實(shí)際上更多的像打補(bǔ)丁一樣，對(duì)漏洞進(jìn)行封堵。用戶如果換一種方法提問(wèn)，大模型可能仍然會(huì)遭到誘導(dǎo)。因此，使大模型的輸出合乎倫理道德是非常必要的。

 

　　有些人希望從基礎(chǔ)數(shù)據(jù)訓(xùn)練上解決問(wèn)題，構(gòu)建一個(gè)干凈的數(shù)據(jù)集，用這些數(shù)據(jù)訓(xùn)練大模型就能解決問(wèn)題，但我認(rèn)為這并不完全可行，因?yàn)槲磥?lái)很多生成式模型都會(huì)接入互聯(lián)網(wǎng)數(shù)據(jù)，一旦與互聯(lián)網(wǎng)數(shù)據(jù)結(jié)合，由于沒(méi)有教大模型知善知惡，它就會(huì)利用互聯(lián)網(wǎng)數(shù)據(jù)，再生成回答，這樣可能導(dǎo)致前端數(shù)據(jù)過(guò)濾部分的工作收效甚微，真正的人工智能模型就像培養(yǎng)孩子一樣，在接觸社會(huì)，與人交互時(shí)，社會(huì)存在偏見(jiàn)，但它無(wú)法分辨。

 

　　在下一個(gè)階段，我們需要像給小學(xué)生上道德與法制課一樣，讓大模型經(jīng)歷知善知惡的過(guò)程。智能引擎未來(lái)不能只是數(shù)據(jù)處理工具，還必要內(nèi)置倫理安全框架，在接觸外界時(shí)，倫理安全框架會(huì)發(fā)揮作用。這可以理解為用一個(gè)規(guī)模不大的、學(xué)習(xí)倫理道德的神經(jīng)網(wǎng)絡(luò)，在外圍發(fā)揮指引作用，從而引導(dǎo)規(guī)范內(nèi)部行為。包括在大模型學(xué)習(xí)和處理數(shù)據(jù)階段，道德模型也應(yīng)該發(fā)揮作用，分析哪些是應(yīng)該學(xué)習(xí)的，哪些是不應(yīng)該學(xué)習(xí)的。

 

　　談創(chuàng)新

 

　　大模型人才教育體系應(yīng)培養(yǎng)“文理兼修的人才” ，發(fā)展大模型科學(xué)界與企業(yè)界要各司其職

 

　　新京報(bào)貝殼財(cái)經(jīng)：對(duì)于目前人工智能的人才培養(yǎng)現(xiàn)狀，以及大模型熱潮下人才應(yīng)如何跟上產(chǎn)業(yè)發(fā)展，你有何意見(jiàn)和建議？

 

　　曾毅：我認(rèn)為現(xiàn)在的人工智能人才的培養(yǎng)可能在過(guò)早的階段過(guò)于專業(yè)。在我上學(xué)時(shí)還在計(jì)算機(jī)科學(xué)與技術(shù)系，在信息處理、軟硬件體系、信號(hào)處理等基礎(chǔ)上有廣泛的培養(yǎng)。雖然這樣的培養(yǎng)仍然不夠，我認(rèn)為一個(gè)堅(jiān)實(shí)的基礎(chǔ)對(duì)未來(lái)從事多學(xué)科交叉是很有好處的。

 

　　不過(guò)，計(jì)算機(jī)科學(xué)與技術(shù)構(gòu)造的是計(jì)算系統(tǒng)，是一個(gè)工具，但未來(lái)人工智能賦能社會(huì)發(fā)展，可能會(huì)介入社會(huì)的各個(gè)方面。因此，在人才培養(yǎng)方面，我們需要補(bǔ)充幾個(gè)短板。例如在社會(huì)學(xué)、人類(lèi)學(xué)、心理學(xué)，甚至哲學(xué)、倫理等都應(yīng)當(dāng)納入未來(lái)人工智能體系的培養(yǎng)中。未來(lái)的人工智能創(chuàng)新者，需要“文理兼修”。

 

　　我認(rèn)為當(dāng)代人工智能從業(yè)者，包括本科、碩士和博士的教育，從智能本質(zhì)的認(rèn)知方面，需要對(duì)認(rèn)知心理學(xué)、神經(jīng)科學(xué)等有充分理解。對(duì)于社會(huì)的影響，需要科技倫理或?qū)ｉT(mén)的人工智能倫理課程，這些恐怕都是未來(lái)人工智能教育中不可或缺的部分，所以我不建議過(guò)早地，聚焦于只做算法和硬件體系研究。

 

　　新京報(bào)貝殼財(cái)經(jīng)：你怎么看待目前人工智能領(lǐng)域的國(guó)際競(jìng)爭(zhēng)，以及英偉達(dá)A100等人工智能訓(xùn)練用的芯片被“禁售”的情況？

 

　　曾毅：未來(lái)，人工智能必須進(jìn)行軟硬件協(xié)同創(chuàng)新，才能發(fā)揮其真正優(yōu)勢(shì)。在我國(guó)的創(chuàng)新體系中，我們必須從最初的人工智能模型算法跟蹤或創(chuàng)新，快速過(guò)渡到實(shí)現(xiàn)軟硬件協(xié)同創(chuàng)新，從軟件、硬件的相對(duì)獨(dú)立發(fā)展，到人工智能賦能的發(fā)展時(shí)代打造面向人工智能的軟硬協(xié)同的“智件”。在基礎(chǔ)設(shè)施方面，許多企業(yè)希望通過(guò)不同渠道匯集更多芯片，我認(rèn)為現(xiàn)在應(yīng)該采取兩方面努力，首先是應(yīng)用現(xiàn)成的國(guó)外硬件體系，短期的商業(yè)服務(wù)還可以去做。但一定要以壯士斷腕的決心，從現(xiàn)在開(kāi)始布局全國(guó)產(chǎn)化的基礎(chǔ)模型體系。我們之前在很多事情上吃過(guò)虧，所以我認(rèn)為這事沒(méi)有商量余地，未來(lái)軟硬件需要協(xié)同設(shè)計(jì)，這也是這個(gè)時(shí)代發(fā)展“智件”的科學(xué)性所必須的，所以很有必要發(fā)展全棧自主的基礎(chǔ)模型體系。

 

　　我認(rèn)為，國(guó)內(nèi)目前絕大多數(shù)大模型還談不上真正意義的創(chuàng)新，絕大多數(shù)的努力還是在工程優(yōu)化方面。因此，未來(lái)在提升基礎(chǔ)模型應(yīng)對(duì)復(fù)雜問(wèn)題的泛化性方面，要真正做到數(shù)據(jù)規(guī)模能耗更小，卻表現(xiàn)出更高的智能。在模型算法結(jié)構(gòu)和體系上實(shí)現(xiàn)協(xié)同創(chuàng)新，而不僅僅是提升用戶體驗(yàn)方面，這還需要一系列努力去做。

 

　　這時(shí)候需要分工，科學(xué)界應(yīng)該關(guān)注大的科學(xué)問(wèn)題和體系化發(fā)展協(xié)同創(chuàng)新的問(wèn)題，企業(yè)則關(guān)注規(guī)?；瘎?chuàng)新和用戶體驗(yàn)的提升，二者要協(xié)作起來(lái)。現(xiàn)在高?？蒲袡C(jī)構(gòu)已經(jīng)推出了許多大模型服務(wù)，但一旦發(fā)展到用戶體驗(yàn)這個(gè)階段，就目前的技術(shù)發(fā)展階段，還無(wú)法逃脫掉“有多少人工就有多少智能”的階段，這不是科學(xué)界的重點(diǎn)工作，所以我認(rèn)為，科學(xué)界和企業(yè)要各司其職，相得益彰，協(xié)同發(fā)展。

 

　　受訪者簡(jiǎn)介：

 

 

　　曾毅

 

　　中國(guó)科學(xué)院自動(dòng)化研究所研究員、類(lèi)腦認(rèn)知智能研究組負(fù)責(zé)人、腦圖譜與類(lèi)腦智能實(shí)驗(yàn)室副主任、人工智能倫理與治理研究中心主任；中國(guó)科學(xué)院大學(xué)崗位教授、博士生導(dǎo)師；遠(yuǎn)期人工智能研究中心主任；中國(guó)人工智能學(xué)會(huì)心智計(jì)算專委會(huì)主任；國(guó)家新一代人工智能治理專委會(huì)委員；聯(lián)合國(guó)教科文組織人工智能倫理特設(shè)專家組專家。研究方向?yàn)椋侯?lèi)腦人工智能、人工智能倫理、治理與可持續(xù)發(fā)展。被美國(guó)《時(shí)代周刊TIME》評(píng)為人工智能最具影響力100人。

 

　　是類(lèi)腦認(rèn)知智能引擎“智脈(BrainCog)”開(kāi)源平臺(tái)的負(fù)責(zé)人(http://brain-cog.network)，在人工智能倫理方面，從事有道德的人工智能模型研發(fā)，主持了鏈接人工智能原則平臺(tái)(www.linking-ai-principles.org)、人工智能治理公共服務(wù)平臺(tái)(www.ai-governance.online)、面向可持續(xù)發(fā)展的人工智能智庫(kù)(https://ai-for-sdgs.academy)的研發(fā)，是《人工智能北京共識(shí)》、《面向兒童的人工智能北京共識(shí)》、《和諧人工智能原則》、《面向生物多樣性保護(hù)的人工智能原則》、《面向氣候行動(dòng)的人工智能原則》等倫理原則的責(zé)任起草者。代表性成果發(fā)表在PNAS、Cell Press旗下期刊Patterns、iScience，Nature出版社旗下Scientific Data、Scientific Reports、Humanities and social sciences communications，以及Science出版社旗下Science Advances、IEEE Transactions、Neural Networks以及人工智能領(lǐng)域重要國(guó)際會(huì)議NeurIPS、IJCAI和AAAI等。

 

　　類(lèi)腦認(rèn)知智能實(shí)驗(yàn)室

 

　　類(lèi)腦認(rèn)知智能實(shí)驗(yàn)室(BrainCog Lab)隸屬于中國(guó)科學(xué)院自動(dòng)化研究所，實(shí)驗(yàn)室成立于2013年，是從事類(lèi)腦人工智能前沿理論和腦與智能交叉創(chuàng)新的研究團(tuán)隊(duì)。由中國(guó)科學(xué)院自動(dòng)化研究所腦圖譜與類(lèi)腦智能實(shí)驗(yàn)室副主任曾毅研究員擔(dān)任團(tuán)隊(duì)負(fù)責(zé)人。

 

　　類(lèi)腦認(rèn)知智能實(shí)驗(yàn)室以構(gòu)建面向通用人工智能的類(lèi)腦認(rèn)知智能模型與應(yīng)用為主要研究?jī)?nèi)容，特別是在類(lèi)腦脈沖神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)、發(fā)育與演化機(jī)理、類(lèi)腦可塑性理論體系、類(lèi)腦知識(shí)表征與推理、類(lèi)腦決策理論、意識(shí)計(jì)算模型、情感與倫理道德的類(lèi)腦模型等方面開(kāi)展研究。

 

　　實(shí)驗(yàn)室研制的類(lèi)腦認(rèn)知智能引擎“智脈(BrainCog)”致力于為新一代人工智能前沿探索打造基于脈沖神經(jīng)網(wǎng)絡(luò)的通用人工智能引擎，服務(wù)于人類(lèi)與人工智能的和諧共生。

 

 

 

　　遠(yuǎn)智觀點(diǎn)(Views on Long-term AI)關(guān)注人工智能倫理與治理近期與長(zhǎng)遠(yuǎn)發(fā)展的理論研究、觀點(diǎn)分析與實(shí)踐，旨在培育領(lǐng)域前瞻思想，促進(jìn)國(guó)內(nèi)、國(guó)際觀點(diǎn)對(duì)話與交流，助力領(lǐng)域共識(shí)、規(guī)范與政策的形成。主要涉及近期與長(zhǎng)遠(yuǎn)人工智能的風(fēng)險(xiǎn)與挑戰(zhàn)、人工智能倫理與治理理論與實(shí)踐、通用人工智能與超級(jí)智能的發(fā)展途經(jīng)及其社會(huì)影響、國(guó)防人工智能與軍控、人工智能促進(jìn)世界和平、人工智能助力可持續(xù)發(fā)展。

 

 

　　研究中心

 

 

　　中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理研究中心是從事人工智能倫理與治理，符合倫理道德的人工智能模型與應(yīng)用、人工智能可持續(xù)發(fā)展與治理研究的智庫(kù)與科技創(chuàng)新深度融合的綜合性研究中心。中心作為代表性機(jī)構(gòu)參與國(guó)內(nèi)外人工智能倫理與治理原則、規(guī)范的形成與實(shí)施；開(kāi)展人工智能內(nèi)生安全、符合倫理道德的人工智能模型與應(yīng)用研究；對(duì)人工智能倫理、治理與可持續(xù)發(fā)展的近期與長(zhǎng)遠(yuǎn)科學(xué)挑戰(zhàn)開(kāi)展前瞻研究。

 

　　中心長(zhǎng)期參與國(guó)家有關(guān)部委、國(guó)際組織的人工智能倫理與治理相關(guān)研究工作，參與編寫(xiě)《國(guó)家新一代人工智能治理原則》、《國(guó)家新一代人工智能倫理規(guī)范》、《聯(lián)合國(guó)教科文組織(UNESCO)人工智能倫理問(wèn)題建議書(shū)》、《世界衛(wèi)生組織(WHO)健康領(lǐng)域人工智能倫理指南》。研制并發(fā)布了“鏈接人工智能準(zhǔn)則平臺(tái)”、“人工智能治理公共服務(wù)平臺(tái)”、“面向可持續(xù)發(fā)展的人工智能智庫(kù)平臺(tái)”等一系列人工智能可持續(xù)發(fā)展與倫理治理交叉研究與服務(wù)平臺(tái)。

 

　　中心與國(guó)內(nèi)外相關(guān)機(jī)構(gòu)及各國(guó)學(xué)者、產(chǎn)業(yè)代表共同發(fā)起的面向可持續(xù)發(fā)展的人工智能協(xié)作網(wǎng)絡(luò)(AI for SDGs Cooperation Network)是促進(jìn)人工智能賦能實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)，以及人工智能的發(fā)展與治理深度融合創(chuàng)新的國(guó)際合作網(wǎng)絡(luò)。