【ZiDongHua之會展賽培壇:《AIGC:AI新浪潮之下的趨勢與展望》專題論壇 、AIGC 、騰訊研究院、 ChatGPT 、人工智能 、對話機器人】整個AIGC,以及未來人工智能技術(shù),一定會給我們現(xiàn)有的生產(chǎn)工具跟生產(chǎn)力帶來一個根本性變革。這些變革一定會引起生產(chǎn)關(guān)系的變化,這可能會對人類未來以及社會產(chǎn)生比較大的影響。

AIGC可能對于未來數(shù)字原生世界而言是一個重大的機遇,同時也是一個全新挑戰(zhàn)。相對于物理世界的數(shù)字化轉(zhuǎn)型來說,未來數(shù)字原生世界很有可能就是元宇宙世界,人類可以憑空創(chuàng)造出很多新應(yīng)用、新業(yè)態(tài)、新商業(yè)模式,而AIGC是不可缺少的一環(huán)。

AIGC主要是帶來了一種內(nèi)容生產(chǎn)自動化,那么這種自動化實際上會徹底改變?nèi)撕蜋C器的認(rèn)知協(xié)同過程。它真正的挑戰(zhàn)是,AIGC作為一個內(nèi)容生產(chǎn)或者知識生產(chǎn)的引擎,我們有沒有在內(nèi)容本身上做好準(zhǔn)備,包括法律和倫理規(guī)則等。

 

 

萬字圓桌實錄:ChatGPT背后的AIGC,將生成怎樣的浪潮?

 

 

2022年,從引爆AI作畫領(lǐng)域的DALL-E 2、Stable Diffusion等AI模型,到以ChatGPT為代表的接近人類水平的對話機器人,AIGC不斷刷爆網(wǎng)絡(luò),其強大的內(nèi)容生成能力給人們帶來了巨大的震撼。

當(dāng)AIGC成為社會各界關(guān)注的熱點時,人們不禁發(fā)問,AI會成為新的造物者嗎?AIGC為什么突然爆發(fā),是否標(biāo)志著AI正迎來下一個時代,又會如何走向?兼具大模型和多模態(tài)模型的AIGC模型是否會成為新的技術(shù)平臺?AIGC技術(shù)和應(yīng)用將給經(jīng)濟社會帶來哪些影響,不同主體應(yīng)如何看待與應(yīng)對?

2023年1月9日,騰訊研究院舉辦《AIGC:AI新浪潮之下的趨勢與展望》專題論壇,具體討論了“AIGC”這一前沿科技趨勢的技術(shù)現(xiàn)狀和產(chǎn)業(yè)實踐,發(fā)展機遇與未來挑戰(zhàn)等問題。我們將會議實錄刊發(fā)在這里,供各領(lǐng)域思想者參考。

 

研討嘉賓:

姚 新

南方科技大學(xué)計算機科學(xué)與工程系講席教授、系主任

段偉文

中國社會科學(xué)院哲學(xué)所科技哲學(xué)研究室主任

王蘊韜

中國信息通信研究院云計算與大數(shù)據(jù)研究所副總工程師

吳保元

香港中文大學(xué)(深圳)數(shù)據(jù)科學(xué)學(xué)院副教授

殷 俊

騰訊游戲CROS研發(fā)效能部數(shù)字內(nèi)容技術(shù)中心總監(jiān)

史樹明

騰訊AI Lab自然語言處理中心總監(jiān)、文涌產(chǎn)品負(fù)責(zé)人

主持人:

楊 健

騰訊集團副總裁、騰訊研究院總顧問

 

 

AIGC的蓄力與爆發(fā)

 

 

楊健

(主持人) 如何看待AIGC在2022年下半年這一時間節(jié)點突然爆發(fā)?AIGC是否代表著AI技術(shù)的下一個時代?

姚新:

AIGC的爆發(fā)實際上是一個綜合性的成功。AI雖然在內(nèi)容生成方面有很長的歷史,但過去因為數(shù)據(jù)、算力和算法技術(shù)等限制,一直沒有發(fā)展到現(xiàn)在這個程度?,F(xiàn)在大家對AIGC產(chǎn)生濃厚興趣的一個重要因素是它超出了人們的預(yù)想,所以大家就覺得這東西特別有意思。但是仍需思考AIGC在技術(shù)上究竟有什么樣的突破。

第一,在技術(shù)上,達(dá)到超出人們預(yù)想的效果相對比較容易。比如在圖像、對話,甚至在音樂方面,它可以生成具有某個作曲家風(fēng)格,但又是不完全一樣的曲子。但是很多人認(rèn)為AIGC可能是一個通向AGI的有效路徑,其實是值得慎重思考的。因為現(xiàn)在AIGC生成內(nèi)容是靠著大量的數(shù)據(jù)和算力堆出來的。而人在生成內(nèi)容的時候,有時候是通過一個抽象的過程,比如我看了很多圖像,腦子里面是有個抽象過程,然后從抽象過程再回到圖像的空間,最后來創(chuàng)造生成一個圖像。我還不是太清楚現(xiàn)在AIGC有沒有這種抽象的層次在里面。你看了100萬幅貓和狗的圖像,機器是不會自己生成一個概念,如4條腿、有毛等。

第二,未來AIGC進一步發(fā)展,涉及到科學(xué)技術(shù)領(lǐng)域,或者真正關(guān)系到國計民生的應(yīng)用領(lǐng)域,可能會有額外的挑戰(zhàn)。因為AIGC生成內(nèi)容難以保證保證它生成的內(nèi)容滿足一定約束條件。打一個比喻,我們現(xiàn)在可以把很多分子送到AI系統(tǒng)里面,它或許給你生成新的分子。從生成分子到生成藥物是可以想象的,但是真正到最后落地,它的距離會在什么地方?真正要達(dá)到所謂的AGI的距離在什么地方?這是需要我們思考和探索的。

殷?。?/strong>

首先,我跟姚老師的觀點非常一致,無論從廣義的基于人工智能做內(nèi)容生成這件事情,還是比較狹義的做深層次大模型,其實都是厚積薄發(fā),已經(jīng)有了比較長的研究歷史。AIGC到今天爆發(fā)是多方面的,一方面的確積累了非常大量的數(shù)據(jù)集,而且是公開高質(zhì)量數(shù)據(jù)集;一方面是一些理論上的突破,比如以擴散(Diffusion)模型為代表;還有就是新的計算硬件,從2020年開始以GBT3為代表,模型堆得足夠大,效果也足夠好,以前可能并沒有這么強的計算設(shè)備來支持這種規(guī)模的模型訓(xùn)練,即使到現(xiàn)在這個模型訓(xùn)練成本還是非常高的。幾方面因素疊加,導(dǎo)致大家覺得以前可能比如說生成圖片或者是生成文本是一個不太現(xiàn)實的一個東西,現(xiàn)在好像離我們很近了,我覺得今年AIGC爆發(fā)是這么一個狀態(tài)。

目前AIGC的發(fā)展跟最早期的深度神經(jīng)網(wǎng)絡(luò)相比,并沒有從范式上產(chǎn)生一個根本性的變化。我們不能從ChatGPT對話生成效果好、表現(xiàn)的很智能,就得出它真的是產(chǎn)生了通用智能的結(jié)論,因為它并不能真正知道它自己在說什么,只是給人們一種它已經(jīng)理解其所生成內(nèi)容的感覺而已,這跟人類智能還是有一定距離。

我認(rèn)為AI的下一個時代,需要往幾個重要的方向發(fā)展。一方面是它可以自主學(xué)習(xí),它本身的一些推理邏輯要跟我們?nèi)艘粯右山忉尰蛘呖衫斫?,真的能夠做到跨領(lǐng)域等。另一方面就是從產(chǎn)業(yè)落地的角度來看,比如用人工智能的方法去輔助做游戲里面的內(nèi)容生成,但是現(xiàn)在無論是AIGC生成圖片、文本生成3D模型、去生成游戲里面的角色動畫,或者是我們用ChatGPT來做游戲劇本或NPC對話等,其實離現(xiàn)在游戲的專業(yè)規(guī)范性還是有一定的距離的。

楊健

(主持人)謝謝兩位老師的觀點,總的來講就是現(xiàn)在AIGC爆發(fā)可能還是在量變到質(zhì)變的邊緣,很難說它真正的完成了質(zhì)變。它還在過去的范式基礎(chǔ)之上,只是因為其他的技術(shù)條件進步了。但是AIGC到底是不是符合人類智能或者說是將來通用人工智能的真正的內(nèi)在規(guī)律,現(xiàn)在還無法確定,可能還要根據(jù)后續(xù)的發(fā)展才能更好地判斷。

楊健

(主持人)AIGC的技術(shù)現(xiàn)狀和產(chǎn)業(yè)實踐如何,有哪些代表性的應(yīng)用和方向?

王蘊韜:

首先從目前AIGC產(chǎn)業(yè)界的實踐來看,AIGC的技術(shù)分類按照處理的模態(tài)來看,大概可以分成是文本類、音頻類、圖像視頻類和虛擬空間類等:(1)文本類,主要包括文章生成、文本風(fēng)格轉(zhuǎn)換、問答對話等生成或者編輯文本內(nèi)容的AIGC技術(shù),典型應(yīng)用包括寫稿機器人、聊天機器人等;(2)音頻類,包括了文本轉(zhuǎn)音頻、語音轉(zhuǎn)換,語音屬性編輯等生成或者編輯語音內(nèi)容的,以及音樂合成、場景聲編輯等生成或者編輯的非語音內(nèi)容的,典型應(yīng)用就是智能配音主播、虛擬歌手演唱、自動配樂、歌曲生成等;(3)圖像視頻,包括了人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容,圖像生成、圖像增強、圖像修復(fù)等技術(shù)都是相關(guān)聯(lián)的,典型應(yīng)用包括美顏換臉、捏臉、復(fù)刻或者是修改圖像風(fēng)格,AI繪畫等;(4)虛擬空間類。主要包括了三維重建、數(shù)字仿真等生成或者是編輯數(shù)字人物、虛擬場景相關(guān)的,典型應(yīng)用包括元宇宙、數(shù)字孿生、游戲引擎、3D建模、VR等。

 

從AIGC應(yīng)用來看,目前在提供更加豐富多元、動態(tài)、可交互的內(nèi)容有很大優(yōu)勢,在傳媒、電商、影視、娛樂等數(shù)字文化程度比較高、內(nèi)容需求豐富的行業(yè),已經(jīng)取得了一些比較重大的創(chuàng)新發(fā)展。比較具有代表性的包括AIGC+傳媒,主要是在人機協(xié)同生產(chǎn)來推動媒體融合,這其中寫稿機器人生成一篇深度報告的時間,已經(jīng)由最初的30秒縮短到了兩秒以內(nèi);還有AIGC+電商,比較核心的是生成商品3D模型,把它用于商品展示和虛擬試用,提升線上購物體驗。還有虛擬數(shù)字人打造虛擬主播,賦能直播帶貨;另外一塊就是AIGC+影視,主要是來拓展影視創(chuàng)作空間,提升作品質(zhì)量。目前已經(jīng)有產(chǎn)品在為劇本創(chuàng)作提供新的思路,比如小說選劇本的智能寫作服務(wù),其中包括《你好,李煥英》、《流浪地球》等。還有AIGC賦能影視剪輯、后期制作的升級服務(wù),包括《厲害了我的國》、《馬路天使》等多部影視劇都用到了基于AI的圖像處理服務(wù);AIGC+娛樂,主要是趣味性圖像、音視頻生成等。那么同時目前的話也是有這種開發(fā)這種C端應(yīng)用的這種數(shù)字化身來布局相關(guān)元宇宙的相關(guān)的應(yīng)用案例,這塊可能大家還是見得比較多的。此外,AIGC在醫(yī)療、工業(yè)領(lǐng)域也有一些實踐,但可能還僅僅是用在虛擬交互方面,對于深入行業(yè)、覆蓋行業(yè)業(yè)務(wù)邏輯方面,還在探索中。

史樹明:

從整體技術(shù)進展來看,AIGC確實進展非常大。5年前,AIGC領(lǐng)域也只有文本生成語音(TTS)被認(rèn)為是可用的。3年前,如果說AI根據(jù)文本來生成圖片,生成的圖片質(zhì)量過關(guān)、相關(guān)度也比較高,人們是難以想象的。但是現(xiàn)在這些都已經(jīng)變成現(xiàn)實了。此外,以前文本生成大多是基于模板,這種模式的通用性就非常差,只適用于非常狹窄的領(lǐng)域?,F(xiàn)在隨著大模型的出現(xiàn),以及語言模型本身也在進步,所以AIGC讓人印象深刻。不管是Stable Diffusion,還是ChatGPT,讓人很驚嘆于它們強大的文本理解和內(nèi)容生成能力。

當(dāng)然中國在AIGC發(fā)展中確實是還需要再努力。絕大多數(shù)工作都是美國的少數(shù)研究機構(gòu)完成的,它們引領(lǐng)了整個AI技術(shù)的發(fā)展。所以我們也要努力,也要爭取在AI發(fā)展史上能夠有更多的貢獻。

商業(yè)化應(yīng)用方面,目前主要能看到的一個顯著方向是輔助人來,如AI輔助創(chuàng)作,AIGC充當(dāng)輔助的角色。AIGC如果自己獨立生成很多圖片不一定有意義。但當(dāng)人有需要的時候,AIGC可以根據(jù)一些Prompt,也就是輸入一些提示詞及其組合,經(jīng)過不停的測試、交互之后,最終能夠產(chǎn)生精美的圖片,并應(yīng)用在具體的工作或者生活中。AIGC確實能夠輔助大多數(shù)很不擅長畫圖的人去創(chuàng)作。文本生成也是一樣,比如在AIGC的輔助之下,我們進行文本續(xù)寫、文本改寫的效率會更高,它也能夠啟發(fā)我們的思路。因此客觀上AIGC提升了我們這種勞動生產(chǎn)效率,工作效率。從商業(yè)化應(yīng)用來看,最直接的就是AI輔助創(chuàng)作,其他方面還需要進一步挖掘。當(dāng)然,有人問ChatGPT是不是能夠取代搜索引擎,但是現(xiàn)在看來可能性還不大,它只是可能完成搜索引擎中的一部分功能,但還不能取代。

總結(jié)一下,第一,技術(shù)進展非常快,超出預(yù)期;第二,商業(yè)化有很多的想象空間,但是目前我們似乎還沒有挖掘到最關(guān)鍵的東西。

楊健

(主持人)雖然AIGC還在探索階段,但是我覺得已經(jīng)很讓人心馳神往了。以前學(xué)設(shè)計、美術(shù)的都是要從素描開始學(xué)起,現(xiàn)在這些技法隨著AI技術(shù)輔助好像變得越來越?jīng)]有用武之地了,所以可能更需要人在創(chuàng)意方面的一些突破,這也是涉及到技術(shù)里面的術(shù)和道的關(guān)系問題。

 

AIGC價值引領(lǐng)

 

楊健

(主持人)我們回歸到價值層面上來看,AIGC為什么會這么重要?它到底有什么樣的價值和意義?它能夠在哪些領(lǐng)域引發(fā)變革,除了物質(zhì)層面,從精神層面價值層面能夠帶來一些什么樣的更多的沖擊和變化?

段偉文:

我主要從4個方面來談:

第一,AIGC帶來一種全新的內(nèi)容創(chuàng)作,但是其實它還應(yīng)該是一種全新的認(rèn)知方式?,F(xiàn)在讓AIGC生成內(nèi)容時,個人的Idea變得更重要了。

第二,AIGC是一種全新的學(xué)習(xí)和研究工具,因為它賦予了每個個體更高層次的創(chuàng)作能力。比方說最近有爭議的是,很多本科生的論文已經(jīng)可以用AIGC寫出來了,大家認(rèn)為這個是作弊。其實我們仔細(xì)去看現(xiàn)在大多數(shù)的本科生論文,它確實也就是這抄一段那兒抄一段,只不過他會抄的比較好,他歸納的比較合理。但實際上如果運用AIGC這樣一個技術(shù),它就能夠讓你比較輕松的完成文獻搜集和處理的工作,提升學(xué)習(xí)效率。在研究工作中,AIGC的應(yīng)用或許能夠常規(guī)化的,成為人機認(rèn)知的協(xié)同過程中的有利工具。

第三,會涉及到元宇宙,也就是可能世界的創(chuàng)造。AI繪畫實際上是把各種可能性都結(jié)合在一塊,類似于克里普克的可能世界理論。那么在以往的時候,個人大腦調(diào)用這些可能的數(shù)據(jù)資源的能力是非常有限的。而有了AIGC以后,它就可以完全是按照你的想象來進行組合,成為一種可能世界的制造機器。所以這樣來看,元宇宙的視野就更開闊了,而是我們完全可以把人類所有的精神財富、思想創(chuàng)造,還有文化遺產(chǎn)等,經(jīng)過組合方式,再加上人的靈感選擇去進行創(chuàng)造。

第四,AIGC有一些有意思的應(yīng)用,一個是可以用來防止孤獨癥。現(xiàn)在有很多人社交恐懼,所以他可以搞一個自己的數(shù)字人,然后自己跟自己聊天。還有一個藝術(shù)家用她小時候的日記去訓(xùn)練AI,最后實現(xiàn)了與小時候的自己對話,她就能夠了解她在青少年時期擔(dān)心憂慮什么,達(dá)到心理治療的作用。因此,我覺得AIGC還有在精神的自我認(rèn)知、自我療愈發(fā)揮作用,甚至最后AIGC它會成為我們的好伴侶、好陪伴,能夠讓我們通過AI來自助來獲得新生,來產(chǎn)生更大的精神力量。

殷?。?/strong>

我認(rèn)為AIGC對于整個包括元宇宙的虛擬內(nèi)容生產(chǎn)來說,它可以把內(nèi)容生產(chǎn)的門檻給降得很低。比如AI生成的太空歌劇院主題的畫作拿了第一名。人們擁有AIGC之后看到一個新的可能性,是不是以后就變成了大眾創(chuàng)作,只需要有一個好的Idea就可以去創(chuàng)作了。比如用ChatGPT把一整套劇本按照我的思路演繹出來?;氐皆钪孢@個話題,以往生產(chǎn)工具跟生產(chǎn)方式可能不能滿足元宇宙的海量內(nèi)容的生產(chǎn)需求。但是現(xiàn)在AIGC讓大家覺得它可能是下一代生產(chǎn)工具。

楊健

(主持人)剛才段老師、殷老師更多的是從人類怎樣去來提升自己、突破自己,利用新技術(shù)來實現(xiàn)這個目標(biāo)的過程。但是不免的可能也會有另外的一面,它有可能對我們既有的生存方式、生活方式、以及生產(chǎn)方式有比較大的沖擊,我們怎么樣來消化這些可能的變化和沖突呢?

王蘊韜:

我們接觸產(chǎn)業(yè)界比較多一些,我第一次看到AIGC的時候,腦海中想到的第一個詞是“超算”。AIGC很有可能會對我們目前已有的計算體系,包括計算系統(tǒng),會提出新的挑戰(zhàn)。其實我們真正在用一套計算系統(tǒng),去把異構(gòu)的AI系統(tǒng)做一個很好地并行部署時,會發(fā)現(xiàn)有很多的計算裝置、數(shù)據(jù)儲備、軟硬件協(xié)同的不足之處。對于這些不足之處,可能都是需要我們?nèi)ビ拥倪@么一個挑戰(zhàn)。

另外從應(yīng)用來看,AIGC對傳統(tǒng)行業(yè)的最大挑戰(zhàn),是內(nèi)容科技的挑戰(zhàn)。其實就是整個內(nèi)容的創(chuàng)造已經(jīng)從平臺的中心化創(chuàng)造,越來越走向分散式的用戶創(chuàng)造,那么AI技術(shù)在這個過程中也是越來越起到了一種顛覆性的作用。無論是內(nèi)容生成,還是內(nèi)容傳播、內(nèi)容審核?AI的顛覆性作用是越來越強。

這里其實一個最核心的就是元宇宙,它一定是充滿了各種內(nèi)容的試驗場。元宇宙與傳統(tǒng)游戲不同的是,元宇宙似乎沒有一個大家需要實現(xiàn)或完成的目標(biāo),這就意味著元宇宙來說這個游戲一定要不停的持續(xù)下去。那么如何才能在元宇宙場景下打造一個無限持續(xù)的游戲規(guī)則呢?AIGC就會有一個非常重要的作用,輔助人類在未來元宇宙的內(nèi)容體系設(shè)計時,實現(xiàn)無限的滾動下去。

 

 

建立可信AIGC

 

楊健

(主持人)AIGC現(xiàn)在有哪些潛在挑戰(zhàn)?這些挑戰(zhàn)分為兩個層面,一個是技術(shù)和產(chǎn)業(yè)層面的難點有哪些,另一個是它可能會帶來哪些法律和倫理和社會方面的問題,我們應(yīng)該怎么樣去應(yīng)對?

吳保元:

首先,最近ChatGPT很火熱,但是人們也發(fā)現(xiàn)它會帶來很多的負(fù)面問題。最典型的就是它產(chǎn)生虛假信息、錯誤信息,它會產(chǎn)生一堆看似正確但又是錯的內(nèi)容。但是如果對這些挑戰(zhàn)過于關(guān)注,就會對技術(shù)的發(fā)展多多少少產(chǎn)生限制。比如學(xué)術(shù)界在研究Deepfake的時候,做生成攻擊的需要做倫理影響和技術(shù)潛在風(fēng)險的聲明,而做防御檢測則不需要,導(dǎo)致大家更傾向于做防御檢測方面的研究。但是攻擊技術(shù)往往會啟發(fā)防御技術(shù)。其次,在數(shù)字經(jīng)濟中,AIGC可以作為數(shù)據(jù)產(chǎn)生的工具,可以保護隱私、大幅度降低數(shù)據(jù)采集的成本、創(chuàng)造新的數(shù)據(jù)??偨Y(jié)來看,AIGC帶來的社會問題以及它本身面臨挑戰(zhàn),還有它需要更多的應(yīng)用場景去驅(qū)動其正面發(fā)展。

段偉文:

AIGC的法律、倫理和社會問題在很多討論里面已經(jīng)有了,比如在藝術(shù)創(chuàng)作里,已經(jīng)有藝術(shù)家提出來版權(quán)問題。過去在搜索引擎、平臺經(jīng)濟時期,我們實際上是在把世界變成數(shù)據(jù),即世界數(shù)據(jù)化,相應(yīng)的隱私、倫理法律問題也在不斷深化和治理中。那么,進入到AIGC技術(shù)階段后,就是在世界數(shù)據(jù)化的基礎(chǔ)上進行生成,也就是二階的世界數(shù)據(jù)化時代。那么,它的法律和倫理問題,應(yīng)該是跟以前存在不一樣的地方,因此我們需要有一些新的社會契約和共識,也就是哪些行為我們是可以接受的,哪些行為是不可以接受的。

AIGC生成內(nèi)容如果從知識生產(chǎn)的一般意義上來講,它生成的內(nèi)容是在世界數(shù)據(jù)化之上,生產(chǎn)的新內(nèi)容。這就好比歐幾里得發(fā)明了歐式幾何,歐式幾何是原來世界上沒有的,世界上原來只有測量,它是在測量基礎(chǔ)上發(fā)展而來。那么現(xiàn)在AIGC也是這樣的,它是一種新的認(rèn)知或知識生產(chǎn)的新形態(tài)。所以在這種新形態(tài)下,我覺得在法律倫理治理方面,要給予AIGC一個創(chuàng)新的保護空間。為什么要講創(chuàng)新的保護空間,它不僅僅是保護你的經(jīng)濟利益,而是只有技術(shù)為社會所接受,而且技術(shù)從一開始就重視倫理法律問題,才能夠行穩(wěn)致遠(yuǎn)。所以監(jiān)管者、管理者和法律倫理的學(xué)者,以及產(chǎn)業(yè)界應(yīng)該是協(xié)同的,一起來構(gòu)建一個可預(yù)期的治理模式,通過法律和倫理上的探索,能夠讓AIGC有更好的發(fā)展。舉個例子,現(xiàn)在經(jīng)常說數(shù)據(jù)毒性,它其實就是現(xiàn)實生活中的毒性。這有兩面,第一面是通過AIGC能夠暴露出來數(shù)據(jù)毒性,社會中的一些偏見歧視等,反過來可以凈化我們的社會生活。但是這種凈化不可能是絕對的凈化,因為絕對凈化其實又違背了我們現(xiàn)代人生活的一些最基本的初衷。因為關(guān)于什么東西是干凈的或不干凈的,沒有一個絕對的標(biāo)準(zhǔn)。最后還是有一個大家要共同接受的過程。所以在這種情況下,我們要認(rèn)識到事物的復(fù)雜性,只有認(rèn)識到這樣一個復(fù)雜性,才能夠開拓前進。在開拓過程中,我們就能夠知道哪些東西是可以接受的,哪些東西是現(xiàn)在還不能接受的。

在我看來,法律、倫理和社會問題要納入到AIGC帶來新的認(rèn)知范式背景下,新的認(rèn)知方式對整個社會的法律倫理等方面的動態(tài)沖擊,以及我們?nèi)绾蝿討B(tài)的應(yīng)對。

楊健

(主持人)很多時候技術(shù)問題確實是一個度的把握問題。AIGC作為新技術(shù),要在法律倫理上給予一定的約束,但是又不能抑制它的發(fā)展。那么,未來怎么樣能夠安全、可信、負(fù)責(zé)任地發(fā)展應(yīng)用AIGC就變得非常的重要,我們在這些方面應(yīng)該具備什么條件才能夠把它做好?

 

姚新:

我覺得從內(nèi)容生成來說,安全、可信和負(fù)責(zé)任發(fā)展的確稍微落后了一點。第一個問題是,現(xiàn)在大部分?jǐn)?shù)據(jù)來源于互聯(lián)網(wǎng),互聯(lián)網(wǎng)中有不小比例的數(shù)據(jù)是錯誤或者是不準(zhǔn)確的,但這些數(shù)據(jù)用于訓(xùn)練AI大模型,然后用AI大模型生成新的數(shù)據(jù),最后這些生成的數(shù)據(jù)也會被新一代的AI大模型用來訓(xùn)練。所以可以想象,就像做計算的時候誤差會疊加,有一些錯誤在大模型中會被固化,一旦固化了以后就比較難解決。

第二個問題是,AIGC如果真正有一些工業(yè)應(yīng)用,或者應(yīng)用跟人相關(guān)的比較密切,安全性和可信性問題應(yīng)該在哪一個階段考慮?不可能是在AI生成以后,再去找辦法來判斷它是否安全、可行??隙ㄊ窃谡麄€模型的建立和訓(xùn)練過程中都要考慮。

第三個問題是,比如有一些學(xué)生寫畢業(yè)論文也是這里抄一下,那邊抄一點,沒準(zhǔn)他最后寫的還不如ChatGPT,那么為啥不讓他用這個工具?這里有一個比較深層次的問題。教育應(yīng)該教學(xué)生什么?應(yīng)該怎么教學(xué)生?這是挺重要的問題。因為依賴某一個AI大模型去生成知識,會不會損失產(chǎn)生知識的多樣性,假如失去了產(chǎn)生知識的多樣性,會對我這個社會有什么影響?這都是AIGC發(fā)展之初應(yīng)該考慮的,否則就有可能走推薦系統(tǒng)老路,好像咱們的世界視野被一個個推薦系統(tǒng)封閉了,將來會不會被一個大模型給封閉住。

楊健

(主持人)謝謝姚老師。姚老師提的三個問題都是非常重要的。首先是數(shù)據(jù)源頭污染的問題,這個問題進入到整個內(nèi)容基因里是非??膳碌?第二是對技術(shù)的干預(yù)到底是在什么樣的階段,要以一個什么樣的度來把握;第三是AI大模型會不會從人類助手變成人類的一個桎梏,成為約束人類的牢籠。

吳保元:

我從自身研究的可信AI領(lǐng)域來探討一下。可信AI的定義已經(jīng)很明確了,魯棒性、公平性、隱私和可解釋性等。然而這些僅限于此前判別式、決策式AI,AIGC的相關(guān)研究還比較少。第一,如同姚老師所言,AIGC的安全問題更可能是在源頭上制造的,危害可能更大。所以針對AIGC的可信問題,除了以前的老問題,還應(yīng)該關(guān)注新的挑戰(zhàn),比如版權(quán)問題、責(zé)任追溯問題等。因此,需要先把它的問題定義清楚,后面技術(shù)解決方案可以進一步探討。

第二,AIGC有個特點是它的危害性好像不那么直接,即AIGC的衍生問題,作為技術(shù)人員而言,他可能想不到那么清楚,所以AIGC治理需要更多的交叉學(xué)科更早的參與進來,共同把問題定義清楚,從源頭上去管控它,這樣有助于AIGC健康發(fā)展。

 

AIGC 未來可期

 

楊健

(主持人)對AIGC和人工智能領(lǐng)域的未來發(fā)展有何期待和展望?它對人類社會的未來影響可能會是怎樣的?

殷?。?/strong>

整個AIGC,以及未來人工智能技術(shù),一定會給我們現(xiàn)有的生產(chǎn)工具跟生產(chǎn)力帶來一個根本性變革。這些變革一定會引起生產(chǎn)關(guān)系的變化,這可能會對人類未來以及社會產(chǎn)生比較大的影響。

王蘊韜:

AIGC可能對于未來數(shù)字原生世界而言是一個重大的機遇,同時也是一個全新挑戰(zhàn)。相對于物理世界的數(shù)字化轉(zhuǎn)型來說,未來數(shù)字原生世界很有可能就是元宇宙世界,人類可以憑空創(chuàng)造出很多新應(yīng)用、新業(yè)態(tài)、新商業(yè)模式,而AIGC是不可缺少的一環(huán)。

那么它也存在著很多挑戰(zhàn),包括對傳統(tǒng)經(jīng)濟理論的挑戰(zhàn),也就是AIGC可能改變未來人類生產(chǎn)生活的成本結(jié)構(gòu),未來智慧能力的成本會下降很多,也就是對智慧使用的邊際收益會增長很多,因此人類會面臨一個更加復(fù)雜、更加多元的新世界。

姚新:

第一,應(yīng)該擁抱AIGC技術(shù),這是毫無疑問的。第二,在擁抱AIGC的過程中一定要明確它潛在的挑戰(zhàn),當(dāng)然也不是一定要解決這些挑戰(zhàn)才可以推廣AIGC應(yīng)用。

史樹明:

第一,我相信AIGC和整個人工智能技術(shù)還會持續(xù)高速發(fā)展;第二,我很期待這種發(fā)展會有利于提升整個人類的生活品質(zhì),讓我們的生活更加舒適便捷。

段偉文:

AIGC主要是帶來了一種內(nèi)容生產(chǎn)自動化,那么這種自動化實際上會徹底改變?nèi)撕蜋C器的認(rèn)知協(xié)同過程。它真正的挑戰(zhàn)是,AIGC作為一個內(nèi)容生產(chǎn)或者知識生產(chǎn)的引擎,我們有沒有在內(nèi)容本身上做好準(zhǔn)備,包括法律和倫理規(guī)則等。

吳保元:

AIGC對于人工智能而言,應(yīng)該是又一波熱潮。這里也有一個潛在影響,就是目前人工智能教學(xué)和教材需要大幅度的更新修改。以往我們的教學(xué)重點是在判別式網(wǎng)絡(luò),但現(xiàn)在可能需要增加生成式AI方面的內(nèi)容。

楊健

(主持人)感謝各位嘉賓的精彩分享!可以說我們正是在經(jīng)歷著這么一場AIGC引領(lǐng)的生成大浪潮,它不只是科技行業(yè)的進展,也是整個社會都要面對的一個趨勢,我們要用更加開放的心態(tài)去認(rèn)知它,用樂觀而且謹(jǐn)慎的態(tài)度去接受它,可能這樣才能夠看清,并且受益于這個浪潮。