奧特曼達沃斯訪談全文：AGI即將出現(xiàn)，未來最重要的資源是算力和能源
觀點分享丨奧特曼達沃斯訪談全文：AGI即將出現(xiàn)，未來最重要的資源是算力和能源
轉(zhuǎn)自 騰訊科技
編譯 / 金鹿
編輯 /騰訊科技 郝博陽
丨劃重點
?、?關于新模型的名字，奧特曼還沒有明確的想法，但他稱不喜歡像“iPhone 27”這樣的命名方式。
?、?奧特曼認為AGI將在不久的將來出現(xiàn)，但對社會和工作的影響程度可能遠低于預期。
③ 奧特曼表示，盡管AI的潛力超過預期，但它沒有像人們想象的那樣大規(guī)模地取代工作。
?、?奧特曼重申，OpenAI永遠不會成為以盈利為目的的傳統(tǒng)公司，但股權組織結(jié)構(gòu)可能會變化。
⑤ 奧特曼認為雖然未來可能會有新的技術出現(xiàn)，但智能手機不會消失。
?、?馬坎朱預計，AI監(jiān)管將在2024年成為現(xiàn)實。美國總統(tǒng)已經(jīng)簽署了行政令，歐盟也在敲定AI立法細節(jié)。
騰訊科技訊 1月17日消息，據(jù)外媒報道，美國當?shù)貢r間周二，在瑞士達沃斯參加2024年度世界經(jīng)濟論壇期間，人工智能初創(chuàng)公司OpenAI首席執(zhí)行官山姆·奧特曼以及全球事務副總裁安娜·馬坎朱接受了彭博社記者布拉德·斯通的專訪。在訪談期間，他們分享了關于OpenAI下一代大模型的進展、美國大選期間AI技術該被如何使用、通用人工智能（AGI）的未來、去年11月的人事劇變以及監(jiān)管法規(guī)的制定等話題。
以下為專訪全文實錄：
問：今天你們發(fā)布了關于在選舉中使用AI的新準則，這是達沃斯論壇上備受矚目的議題。你們禁止在政治活動中使用ChatGPT，還引入了加密水印或圖像，旨在提高使用AI生成圖像的透明度。這些準則由像Facebook、TikTok以及YouTube這樣的大平臺共同制定并努力實施。你們是如何確保這些原則得到實施的呢？
馬坎朱：這些原則的實施并非易事，但我們已經(jīng)在這方面努力了很長時間。我們擁有一個強大的安全系統(tǒng)團隊，他們不僅具備監(jiān)控能力，還能夠利用我們的工具來提升執(zhí)行力。這為這件事提供了很大的優(yōu)勢。同時，我們也與美國聯(lián)邦和各州政府建立了合作關系，這樣我們就可以獲得權威的投票信息。因此，我們有多種方法來執(zhí)行這些原則。
問：山姆，你是否認為這讓足夠你放心？不會讓OpenAI在即將到來的2024年關鍵的民主選舉中產(chǎn)生影響？
奧特曼：不，我們?nèi)匀环浅ｊP注這個問題，我認為不能掉以輕心。這是好事，有焦慮感也是件好事，我們會盡一切努力讓它變得盡可能正確。我認為我們的角色與內(nèi)容分發(fā)平臺的角色截然不同，但仍然很重要。我們需要與他們合作。你在這里生成內(nèi)容，在那里分發(fā)內(nèi)容，整個過程之中都需要進行良好的溝通。但我們也從之前的技術周期中學到了一些經(jīng)驗。我認為不能把上次那樣的錯誤再犯一回（編者：應指Facebook干預投票的劍橋公司事件），但我們確實從中吸取了一些教訓。所以如果我說我不擔心，感覺很好，那將是可怕的事。我們一定會密切關注今年發(fā)生的事情，進行超級緊密的監(jiān)控和反饋循環(huán)。
問：安娜，你在Facebook和OpenAI都工作過，所以我問這個問題可能有點挑釁。但你是否擔心會出現(xiàn)另一個劍橋分析公司事件？
馬坎朱：我認為正如奧特曼所提到的，我們可以從中學到很多經(jīng)驗。從一開始，OpenAI就是一家致力于解決這些問題的公司，這也是它成立的重要原因之一。因此，我們團隊在開發(fā)這些工具（即生成式模型）時就已經(jīng)深思熟慮地考慮這個問題了，這緩解了我很大部分的緊張。
問：山姆，唐納德·特朗普昨天剛剛贏得了艾奧瓦州的黨團會議選舉。我們現(xiàn)在面臨大選即將到來的現(xiàn)實。你認為對于科技和人工智能的安全管理來說，在美國大選里什么是最重要的？你是否覺得這是一個選民應該會在這次選舉中考慮的關鍵問題？
奧特曼：針對當前的形勢而言，我們之前并未預料到特朗普的言論能引起部分人如此大的共鳴。我到這兒的兩天里，艾奧瓦州的選舉現(xiàn)在都成了達沃斯論壇的討論中心了。所以如果我們早點對大選進行深入反思，或許能減輕現(xiàn)在的壓力。但我們必須認識到，這次選舉涉及的關鍵議題遠不止這些。
選舉無疑是一個重大的事件。但不論選舉結(jié)果如何，我堅信美國會繼續(xù)穩(wěn)健前行。同樣，不論選舉結(jié)果如何，人工智能的發(fā)展也將繼續(xù)。我們?nèi)孕韪冻鼍薮蟮呐泶_保這一點。然而，我認為我們尚未真正吸取教訓，真正理解什么對美國公民有利，什么會帶來潛在的風險。
問：安娜，我想問你同樣的問題?？紤]到你的政治背景，你認為硅谷和AI在美國大選中面臨什么風險？
馬坎朱：讓我感受很深的是，關于人工智能的討論仍然非常兩極化。讓我感到擔心的是……
奧特曼：兩黨都恨它。
馬坎朱：哈哈哈哈，對。然而，我了解到在這個領域中，共和黨人傾向于采取一種更為開放的態(tài)度，他們不太贊成過度監(jiān)管。但值得肯定的是，無論是共和黨還是民主黨，都認為這項技術需要一定的規(guī)范和引導。參議員舒默與共和黨同僚在這方面展開了跨黨派合作，共同推進相關立法工作。在與華盛頓的各方人士交流時，我感覺到現(xiàn)在兩黨在這個問題上已經(jīng)達成了一致意見。
問：你是否覺得現(xiàn)有的競選活動在關于人工智能的問題上表達得同樣清楚？
馬坎朱：到目前為止，人工智能確實已經(jīng)成為競選議題。因此，如果我們關于即將發(fā)生的事情是正確的，這將是一件有趣的事情。
奧特曼：如果我們的認知是對的，那這場技術革命的重要性無可比擬，從某種意義上說，它與以往的所有技術或社會革命都有所不同。它不僅是一個技術問題，更是一個社會問題、政治問題。盡管這項技術已經(jīng)在某些領域產(chǎn)生了深遠的影響，但令人感到奇怪的是，它還沒有成為主流社會關注的焦點。然而，隨著今年將要發(fā)生事情，這里不是說選舉，而是AI產(chǎn)品能力的持續(xù)提升，人們會慢慢意識到當前已經(jīng)發(fā)生了什么和正在發(fā)生什么。
問：在美國和全球范圍內(nèi)，像唐納德·特朗普這樣的政治人物已經(jīng)敏銳地抓住了公眾的焦慮情緒，包括對科技發(fā)展帶來的脫節(jié)感、工人階級的憤怒、以及日益加劇的社會不平等。AI技術的發(fā)展，是否會進一步加劇這些社會問題呢？
奧特曼：是的，這是一個非常重要的問題，值得我們深入思考。但令人欣喜的有利方面是，當我們在研發(fā)技術、進行科學研究時，我們總是說，我們會遵循科學的指引，當產(chǎn)品問世時，我們會說，它將會與社會共同進步，我們會跟隨用戶的反饋進行改進。然而，我們只能在某種程度上駕馭這種力量。
有些事情是不可避免的，技術的潛力和人們的使用方式往往會超出我們的預期。我們期待AI更多的是一種工具。它目前還不能像人們想象的那樣大規(guī)模地取代工作，但在未來，它將成為一種強大的生產(chǎn)力工具。這個前景在我們一開始做這件事時并不清晰，我們不知道未來會走向何方，但感謝技術的發(fā)展讓我們看到了這條道路。這是一個放大人類能力的工具，它將人們的工作能力提升到一個新的水平，同時也讓AI能夠承擔部分工作。當然，工作方式會發(fā)生變化，有些工作可能會消失，但人類的驅(qū)動力非常強大，社會自身運作的慣性也很強。
我相信AGI（通用人工智能）將在不久的將來出現(xiàn)，但它給世界和人類工作帶來的改變比人們現(xiàn)在預想的要小。
問：鑒于你們親眼目睹了這項技術的發(fā)展，你是否改變了對AI將給就業(yè)帶來的巨大影響和破壞的看法？
馬坎朱：確實，我們的政策研究團隊已經(jīng)對這個問題進行了深入研究，他們發(fā)現(xiàn)AI對工作方式的改變產(chǎn)生了相當大的影響，但這并不是讓人們失業(yè)，而是讓工作方式變得更加高效。我認為這實際上將加速社會的進步，并且將改變更多人的工作方式。就像山姆所說的那樣，到目前為止，人工智能還沒有成為主要的就業(yè)替代原因。
奧特曼：你知道，經(jīng)常聽到程序員說：“我現(xiàn)在的效率比以前提高了兩倍、三倍，如果沒有這個工具，我根本無法完成代碼編寫。”事實上，世界上有大量需求，需要更多的人才來編寫代碼，這對其他行業(yè)也是一樣。所以，我們面臨的不是需求不足的問題，而是需求遠遠超過我們當前能力的問題。隨著技術的進步，人們可以做更多的事情。期望也會隨之提高，但我們的能力也在不斷提升。
問：我想就今天的另一篇報道問你們，報道稱OpenAI正在放寬其對AI在軍事項目和開發(fā)武器中使用的人工智能限制。你們能就這方面以及OpenAI與美國國防部和其他軍事機構(gòu)所做的工作發(fā)表更多意見嗎？
馬坎朱：這些政策中的很多內(nèi)容，在我們還未了解人們將如何使用我們的工具時就已經(jīng)制定出來了。因此，這不僅僅是關于軍事用例政策的調(diào)整，而是一個全面的調(diào)整，以便人們更清楚地了解哪些是可能的，哪些是不可能的。具體到軍事這個領域，我們實際上仍然禁止開發(fā)武器、破壞財產(chǎn)和傷害個人。但我們也一直在與國防部合作開發(fā)用于開源軟件的網(wǎng)絡安全工具，以保護關鍵基礎設施，也在探索AI是否可以幫助預防退伍軍人自殺。因為以前基本上全面禁止軍方使用AI，但這些項目和我們想要帶給這個世界的高度統(tǒng)一。
問：美國政府有沒有要求你們限制與其他國家軍事機構(gòu)的合作？
馬坎朱：他們還沒有問過我們，但我們現(xiàn)在的主要關注點是與美國國家安全機構(gòu)進行這方面的合作。我想我們一直相信民主國家需要在這項技術方面處于領先地位。
問：換個話題，山姆，給我們介紹一下GPT商店，你是否看到了其與移動應用商店早期類似的創(chuàng)造力爆發(fā)？
奧特曼：是的，同樣的創(chuàng)造力和同樣多的垃圾，但這發(fā)生在人們喜歡探索技術的早期階段。那里也有一些令人難以置信的東西。
問：給我們舉個例子。
奧特曼：GPT是一個非常輕量級的定制ChatGPT的方式。如果你想讓它以特定的方式表現(xiàn)，使用特定的數(shù)據(jù)來調(diào)用外部服務，你可以創(chuàng)建這個功能，可以用它來執(zhí)行各種類似的操作。最近，我們還推出一個商店，用戶可以在那里看到其他人創(chuàng)建的東西，并分享自己的作品。我個人特別喜歡的一個應用是Al Trails。每兩個周末，我都想進行一次長時間的徒步旅行。你告訴它你的喜好和已經(jīng)走過的路線，它就會推薦另一個很棒的徒步旅行線路。這聽起來可能有些傻，但我真的很喜歡這個應用。
問：你有沒有添加自己的GPT？
奧特曼：我自己制作了一些，但我還沒有把它們放在商店里，也許我會那樣做。
問：你能給我們更新一下你看到的新GPT的數(shù)量或增長速度嗎？
奧特曼：在推出商店之前，已經(jīng)有300萬個GPT被創(chuàng)建了。由于我一直忙于世界各地的旅行，沒有時間關注日常指標，所以我不知道自從商店推出以來情況如何。但根據(jù)現(xiàn)在ChatGPT的卡頓程度（編者：用的人很多，所以卡），它發(fā)展的應該很不錯。
問：我想問你關于OpenAI的版權問題?？紤]到《紐約時報》上個月對OpenAI提起了訴訟，出版商關系對OpenAI的業(yè)務有多重要？
奧特曼：出版商關系對于OpenAI確實非常重要，但原因可能并非如人們所想。許多人認為我們極度依賴他們的訓練數(shù)據(jù)，而且這些數(shù)據(jù)非常有價值。然而，實際情況并非如此。舉個例子，我們其實并不想用《紐約時報》的數(shù)據(jù)來訓練模型?，F(xiàn)在，我們正在邁入一個數(shù)據(jù)的世界，在這個世界里，你只需要更多的數(shù)據(jù)。但無論如何，總有一天你會耗盡這些數(shù)據(jù)。因此，我們的大部分研究都集中在如何從更少的高質(zhì)量數(shù)據(jù)中學習到更多知識。我相信，世界終將找到解決這個問題的答案。
如果出版商愿意，我們的目標就是，當我們的用戶提到今天達沃斯發(fā)生了什么時，我們可以準確地告訴他們這是來自彭博社的文章，這是來自《紐約時報》的文章，等等。我們可以用這項技術做一些非?？岬氖虑椤?/div>
有些出版商愿意與我們合作，有些則不然。我們已經(jīng)建立了很多了不起的合作關系，未來還會有更多。當然，也有一些出版商不愿與我們合作，但我還是希望他們和我說而不是直接起訴。我們會為自己辯護的。
問：你說不想在《紐約時報》上訓練，這是否意味著你只是不希望使用他們的數(shù)據(jù)來訓練模型？這是否意味著考慮到法律風險，你會以不同的方式訓練你的模型？
奧特曼：確實，使用出版商的數(shù)據(jù)來訓練模型是一個復雜的問題。網(wǎng)絡世界如此龐大，有時候人們會從《紐約時報》等媒體復制文章，然后未署名地發(fā)布在其他網(wǎng)站上。如果我們使用了這些數(shù)據(jù)，可能很難確定文章的真正來源。如果《紐約時報》或其他出版商愿意為我們提供他們所有文章的數(shù)據(jù)庫，并明確要求我們不要發(fā)布與其相匹配的內(nèi)容，那么我們或許能夠很好地處理這個問題。但我們并不希望簡單地反芻他人的內(nèi)容。
問題并不像聽起來那么簡單，但我相信我們有能力將這類情況的發(fā)生率降至最低，這將成為我們評估自己的一個重要標準。如果某些內(nèi)容受到版權保護，無論是否被用于其他目的，我們都無法得知。但如果這些出版商愿意向我們展示其內(nèi)容，并明確要求我們不要用盜版給用戶做響應，那么我們應該能夠做到這一點。
總的來說，我們有信心在這方面做得很好。我堅信，隨著技術的發(fā)展，將會有更多新穎的方式出現(xiàn)，讓人們更好地消費和貨幣化新聞以及其他已發(fā)布的作品。對于《紐約時報》的情況，我們還有很多富有創(chuàng)意的事情可以做，而不僅僅是制造一些轟動效應。
問：那圍繞Dalle的版權爭議給你帶來了什么教訓，你們將如何改變？
奧特曼：我們與藝術界進行了很多深入的交流。你知道，我們一直努力遵守各種要求，比如不要模仿我的風格來生成內(nèi)容，即使你從未在我的數(shù)據(jù)上進行過訓練。這是非常合乎情理的，所以我們知道要實施這樣的事情。我真的很想做到這一點，雖然技術還沒有完全實現(xiàn)。
但我們更想的事，與其讓藝術家們說：“我不想因為以上那些原因而用AI”，我們更想能夠提供一些工具或平臺，讓藝術家們能夠推出屬于自己風格的Dalle版本。如果他們愿意，可以出售這些產(chǎn)品的訪問權；如果他們不愿意，那就自己使用它，或者獲得某種經(jīng)濟利益及其他方面的回報。這不是關乎用他們的圖像訓練模型的，而是關于風格的問題。
至少在與我對話的藝術家中，很多人對這個想法非常感興趣。所以我們要了解人們不想要什么，并確保我們尊重這一點。當然，你不能讓每個人都滿意，但要盡量讓美術界感覺我們是伙伴。但我認為更好的、更令人興奮的是，我們能夠做一些讓藝術家們覺得很棒的事情。
問：安娜，作為OpenAI駐華盛頓的大使，我對你在Facebook的工作經(jīng)歷，以及你在過去幾十年中從科技公司與政府和監(jiān)管機構(gòu)的緊張關系中學到的東西很感興趣。這些經(jīng)驗無疑為你現(xiàn)在的工作提供了寶貴的洞察力和實踐知識。
馬坎朱：在政府內(nèi)工作期間，我深刻認識到一件事：在2016年俄羅斯選舉干預事件中，那時我在白宮工作，盡管人們以為那是第一次聽說這種事，但實際上我們早已對此有所準備。我們都明白這種情況會發(fā)生，但如何應對呢？我所做的是，在很長時間內(nèi)避免與科技公司交流，因為在政府工作中，我們通常不會這樣做。尤其在當時，這類情況并不多見，這些新興技術還處于起步階段。
當我投身科技領域時，我反思了這一點，我深感后悔。我真心希望政府能深入理解這項技術，明白這些公司是如何做出決策的。坦白說，當我初次加入OpenAI時，政府里幾乎沒人聽說過這家公司。每次使用這一工具，我都會想，如果我在政府任職的8年間就已經(jīng)用了這個工具，我原本能完成10倍的工作。
所以，如何讓我的同事們也使用這個工具變得至關重要，尤其是考慮到OpenAI的使命——確保這些工具能為每個人帶來福祉。我認為這永遠不會發(fā)生，除非政府能將其納入公共服務中，使其變得更高效、更快速。這實際上是我最期待的事情之一——讓政府真正利用它來造福于每一個人。
問：監(jiān)管機構(gòu)是否接受這樣的觀點，畢竟政府中很多人對與硅谷過去的互動持懷疑態(tài)度。
馬坎朱：我深感，在大部分時間里，我甚至未能充分闡述它的價值，因為大眾的焦點更多地放在治理和監(jiān)管上。我堅信，他們從理論上明白這項技術能為政府帶來巨大的益處。然而，許多政府尚未做好采納的準備，當然也有明顯的例外，比如那些真正站在技術前沿的政府。因此，很多時候，我甚至未能真正參與到這一對話中。
問：我想問你們關于去年11月發(fā)生的一系列戲劇性事件。你們是否處理了OpenAI的管理問題以及其非常獨特的公司結(jié)構(gòu)，包括非盈利董事會和上限利潤部門，導致你們的所有權結(jié)構(gòu)出現(xiàn)了變化？
奧特曼：我們將首先關注組建一個更好的董事會。我預計我們在未來幾個月內(nèi)在這方面取得很大進展。然后，新的董事會將會審視治理結(jié)構(gòu)。但我認為，我們已經(jīng)在討論這到底意味著什么。
問：OpenAI是否應該成為一家傳統(tǒng)的硅谷營利性公司？
奧特曼：我們永遠不會成為一家傳統(tǒng)公司，但我認為我們應該審視我們的組織結(jié)構(gòu)。也許我們現(xiàn)在擁有的結(jié)構(gòu)是合適的，但我認為我們應該保持開放心態(tài)，考慮其他可能性。不過，現(xiàn)在還不是時候，我們首先要關注董事會，然后從各個角度審視這個問題。
關于OpenAI，很難用言語表達的一點是，我們的團隊、身邊的人，包括投資者、微軟等支持者，他們都長期致力于這個使命。在那瘋狂的幾天里，我想有97%或98%的公司員工簽署了一份聲明，表示他們愿意辭職并轉(zhuǎn)向其他事情。這會導致每個人的股權化為烏有，對許多員工來說，這是他們的大部分財富。人們愿意這樣做，我認為這很不尋常。我們的投資者也將眼睜睜看著他們的股份變成零，但依然選擇支持我和我們的目標。我覺得這對于一個公司來講非常幸運。當然，我們也想讓所有的股東賺到一大筆錢，但對我來說，我們優(yōu)先考慮的事情是非常清楚的。這對我來說意義重大。
問：在去年6月的彭博科技大會上，也曾有人問了你一些問題，大意是為什么我們應該信任你，你非常坦率地說我們不應該信任你，如果他們愿意的話，董事會應該能夠解雇你。當然，他們后來確實這么做了，你巧妙地策劃了自己的回歸。
奧特曼：讓我告訴你一件事，董事會真的做出了那個決定，我當時覺得這太瘋狂了，完全困惑，完全沒有準備。但這就是公司的治理結(jié)構(gòu)，我立刻開始思考下一步該如何應對。直到一些董事會成員在第二天早上給我打電話，我才真正考慮重新回到公司。董事會是有著完全的決定權的，至于后面你的問題我就不想說了……
馬坎朱：有很多人在編造故事，比如說山姆回歸是其他所有力量精心策劃的。這是不準確的。我想說OpenAI的員工想要這個結(jié)果，他們認為讓山姆回來是正確的事情。
奧特曼：我想說的是，我認為擁有一個可以解雇我的實體是很重要的。雖然有一個實體能夠執(zhí)行決策很重要，但這個實體也必須承擔一定的責任。這是當前發(fā)生的事情中一個明確的問題。
問：安娜，你在那段時間給員工寫了一封信。今天我很高興你能來這里，我想問問你，那五天對你來說是怎樣的，你為什么要寫這封信？
奧特曼：如果安娜愿意的話，她可以清楚地回答這個問題。但你真的想讓我們把時間花在像肥皂劇這樣的事情上，而不是關注人工智能的未來發(fā)展嗎？
問：我認為人們對這個話題很感興趣。
馬坎朱：我想說的是，就在公司全體員工準備休息一周的前一天，發(fā)生了一些事情。所以我們在周五都在為即將到來的輕松假期做準備，希望能夠緩解過去瘋狂的一年里的緊張情緒，那時我們有許多人會在辦公室的地板上睡上一周。
問：這里有一個問題：我們在達沃斯論壇上，氣候變化是議程上的一個重要議題。問題是：考慮到計算成本和芯片需求，人工智能的發(fā)展和通向AGI（通用人工智能）的道路是否有可能使我們在氣候問題上走向相反的方向？
奧特曼：我們確實需要比之前認為的更多的能源。我對世界的理解是，未來的兩種重要資源將是智能計算和能源。無論是我們的想象力，還是讓想法變?yōu)楝F(xiàn)實的能力，以及運行計算的能力，都離不開這兩者。然而，我認為我們尚未充分認識到這項技術所需的能源需求。如果沒有重大突破，我們就無法實現(xiàn)這一目標。我們需要核聚變，或者更便宜的太陽能加上超大規(guī)模的存儲或其他技術，是那種從沒人真正規(guī)劃過的規(guī)模水平。
公平地說，人工智能的發(fā)展將需要大量能源，但我堅信這會迫使我們更多地投資于能夠提供這種能源的技術。這些技術都不能再依賴傳統(tǒng)的燃煤技術，否則會有巨量的碳排放從中產(chǎn)生。我認為核聚變可能是最有可能的解決方案，或者至少是第二選擇。
我認為世界對核裂變的看法仍然偏負面，但對聚變的看法很正向，但我希望世界能夠更接受核裂變（編者：即傳統(tǒng)核能發(fā)電）。我可能對此過于樂觀，但我相信我們現(xiàn)在已經(jīng)有了實現(xiàn)大規(guī)模能源轉(zhuǎn)型的途徑，可以遠離傳統(tǒng)的燃煤能源。單這需要時間，汽車等交通工具的轉(zhuǎn)型也不可能一蹴而就。我們還得等一段時間才能讓每條貨船裝上核聚變反應堆。
然而，如果我們能夠像我希望的那樣大幅降低能源成本，那么碳捕獲的數(shù)學計算就會發(fā)生變化。遺憾的是，我認為世界還走在一條我們需要環(huán)境工程這樣一種臨時解決方案來解決環(huán)境問題的路上。但我們現(xiàn)在看到了長期解決方案的曙光。
問：好的，讓我們再回到我剛才的問題上。從需求的角度來看，答案可能是肯定的，除非我們在供應方面取得重大突破。然而，我無法看到在沒有這種突破的情況下，如何滿足這種供應需求。這會不會讓你們感到不安？
奧特曼：目前，全球在能源供應方面并未展現(xiàn)出足夠的靈活性。然而，正如你所強調(diào)的，人工智能并不會等待我們找到足夠的能源才開始發(fā)展。它推動我們更加積極地投資于核聚變、新型存儲技術等領域，以及如何以人工智能所需、乃至全球所需的巨大規(guī)模來提供能源。因此，我們不能只是坐等。我們深信即將到來的變革，并希望了解如何利用我們的能力、資本等資源來應對這一變革。在這個過程中，我們希望為世界其他地區(qū)提供解決方案，而不僅僅是專注于人工智能的訓練或推理工作負載。
問：安娜，2023年我們幾乎開始了一場關于AI監(jiān)管的假設性對話。2024年我們會期待什么？政府會采取行動嗎？它會變成現(xiàn)實嗎？AI安全會是什么樣子？
馬坎朱：我認為它正在成為現(xiàn)實。歐盟即將敲定一項全面的AI法規(guī)。而拜登政府也發(fā)布了一項歷史上篇幅最長的行政命令，全面涵蓋了這項技術，并計劃在2024年開始實施。因為他們給各機構(gòu)布置了一系列關于如何實施和監(jiān)管這項技術的任務。
然而，關于安全問題，我認為這仍然是我們尚未解決的一大挑戰(zhàn)。我們成立了Frontier Model Forum（前沿模型論壇），微軟、OpenAI、Anthropic和谷歌都是其中的成員，但我相信未來會有更多的前沿實驗室加入。現(xiàn)在我們所有人都在研究安全問題，大家都有紅隊，在這方面做了很多工作，但實際上并沒有統(tǒng)一或標準化的方法。
某種程度上，人們認為這只是行業(yè)內(nèi)部的問題。但實際上，這也是在回應許多政府對我們的要求。
問：你們認為，是否存在一種風險，即監(jiān)管開始阻礙人工智能領域的創(chuàng)業(yè)活動？
馬坎朱：我想人們對此感到非常害怕。這就是為什么我認為德國、法國和意大利會干預歐盟的AI法案討論，因為他們真的很擔心自己的國內(nèi)產(chǎn)業(yè)在發(fā)展之前就被削弱。
問：你是否對拜登的行政命令感到滿意？其中有沒有你反對的內(nèi)容？
馬坎朱：事實上，我認為它非常好，因為它不僅僅限制，也考慮到了機構(gòu)將如何利用這個機會更好地發(fā)展。我非常高興他們采取了平衡的方法。
問：山姆，這是你第一次參加達沃斯論壇。你提到你更愿意花更多的時間在舞臺上談論AGI。那你想給這里的政治領導人和商界領袖傳達什么信息？
奧特曼：我認為2023年是全球逐漸認識到AI能力不斷提升、應用場景越來越廣泛的一年。然而，GPT-4更應該被視為一種預覽版本。它的實用性超出了我們的預期，對更多人來說也有著更多的用途，但其局限性也一眼可見。需要指出的是，這里的進步并不是線性的，這是最讓人頭疼的地方。人類的指數(shù)增長直覺很糟糕，至少我自己是這樣的。但這似乎是人類的共同點。如果GPT-5比GPT-4好四倍，GPT-6比GPT-5好六倍，那將意味著什么呢？如果我們正處于這個發(fā)展軌跡上，那又會意味著什么呢？
至于監(jiān)管問題，我認為不同國家嘗試不同的事情是件好事。一些國家可能會禁止AI，一些國家可能沒有任何保障措施。我認為這兩種情況都不太合適，我們會看到不同的事情起作用。但是隨著這些系統(tǒng)變得越來越強大，隨著它們越來越深入地融入經(jīng)濟，隨著它們成為我們所有人用來工作的工具。其他事情也會隨之發(fā)生，它們變得能夠為全人類發(fā)現(xiàn)新的科學知識，甚至在某個時候，它們變得能夠進行人工智能研究。世界的變化或許會先開始很慢，但后續(xù)突然加快。但不論如何，世界都會變化。
我會對人們說，沒有人知道接下來會發(fā)生什么，我真的相信這一點。保持對此的謙遜態(tài)度非常重要。你可以看到前方的幾步，但不能看得太多。
但是，當認知的成本降低一千倍或一百萬倍，它的能力將以難以想象的方式增強我們自身。我給大家舉的一個例子：如果世界上每個人都能擁有一個由一萬名出色的虛擬員工組成的強大公司，而且這些員工在各個領域都是專家、從不互相爭斗，也不需要休息；它們還會以驚人的速度變得越來越聰明，那么我們能為彼此創(chuàng)造什么呢？這會給我們所生活的世界帶來什么呢？答案是我們都不知道。
當然，我們對此都沒有強烈的直覺。我可以想象它，但它并不是一幅清晰的畫面。這將會發(fā)生，但并不意味著我們無法駕馭它，也不意味著我們無法非常努力地使它變得安全，并以負責任的方式做到這一點。但是，我們將走向未來，我認為我們現(xiàn)在所擁有的政府干預程度，就是以一種可行的方式到達未來的最佳途徑。
我們相信迭代部署的必要性，因為人們需要時間逐漸習慣它、理解它。我們需要時間以便在風險較低的情況下犯錯誤。政府需要時間來犯一些政策錯誤，同時技術和社會也必須以這種方式共同演變。因此，技術將隨著每次迭代而改變，但社會的運作方式也會改變，而這必須是一個交互式的迭代過程。我們需要擁抱它，但要謹慎行事。
問：這個迭代過程需要多長時間呢？
奧特曼：我堅信這是一個連續(xù)的過程，充滿了驚奇和可能性。我并不喜歡思考其中的不連續(xù)性，而是更傾向于欣賞人工智能在AI研究等領域中所能展現(xiàn)的出色能力?？偟膩碚f，我認為這并不是一個關于跨越某個界限的問題，而是關于我們共同攀登的那條連續(xù)的、指數(shù)增長的曲線。那么，我們需要多長時間呢？這個問題很難回答，因為它的答案似乎是無限的。
在這個過程中，我們不能忽視任何一步，因為每一步都可能帶來新的發(fā)現(xiàn)和突破。我們需要保持謙遜和開放的態(tài)度，不斷學習和進步。同時，我們也需要謹慎行事，確保我們所做的一切都是安全和負責任的。
問：本周早些時候，我看到GPT-5在X上很熱門，我點擊進去。你知道，聽起來可能有點誤導人。你能告訴我們更多關于GPT-5的事情嗎？它是不是比我們之前看到的有了指數(shù)式的進步？
奧特曼：關于下一個模型的命名，我還沒有明確的想法。我并不喜歡像“iPhone 27”這樣的命名方式，因為這不是我的風格。但我相信，我們即將發(fā)布的下一個模型將會令人印象深刻。我期待它能夠?qū)崿F(xiàn)一些以前使用GPT-4無法實現(xiàn)的新功能，并且能夠做得更好。我們將花費足夠的時間來確保我們推出的產(chǎn)品能夠讓我們自己感到滿意和有責任感。
問：在OpenAI，一些員工認為自己在“建造上帝”？
奧特曼：我從未聽說過這個觀點，但我認為大多數(shù)員工會說，他們正在創(chuàng)造一種工具，能讓他們感到非常興奮的工具。在這個行業(yè)中，我們是在創(chuàng)造一個生物還是一個工具？我們更像是工具的創(chuàng)造者。AI更像是一個工具，而不是一個實體。去年最美好的事情之一，就是看到世界各地的人們可以用這個工具做多少事情，這讓我們感到驚訝。而且我認為，我們將看到越來越多的人類創(chuàng)造力，以及使用更好的工具做更多事情。
問：最近有報道稱，你正在與喬尼·艾維共同開發(fā)一款AI設備，它可能是作為OpenAI的一部分，也可能是獨立的公司。提到這個項目，是因為CES在不久前舉行，AI驅(qū)動的設備成為了會議的熱門話題。你能給我們提供關于這個項目的最新消息嗎？AI是否會帶我們進入智能手機的終結(jié)時代？
奧特曼：我認為智能手機非常棒，它們在許多方面都表現(xiàn)出色，并且具有廣泛的應用。雖然未來可能會有新的技術出現(xiàn)，但我認為智能手機不會消失。它們將繼續(xù)在我們的生活中發(fā)揮重要作用。新的技術可能會以新的方式幫助我們更好地完成工作，提供更高效、更便捷的服務。正如我們現(xiàn)在可以與計算機交談并讓它們?yōu)槲覀冏鍪虑橐粯?，未來可能會有更多的?chuàng)新和突破。
我們一直在探索計算機行業(yè)的新領域，如果我們能夠利用這些新技術做一些真正偉大的事情，那么我們應該勇于嘗試并探索新的技術方向。當然，如果事實證明智能手機確實非常好，而且主要是依賴于軟件的發(fā)展，那么我們也可以充分利用這一點，繼續(xù)推動軟件技術的發(fā)展。
問：與艾維的合作是OpenAI的一個項目嗎？這是成立獨立的公司？
奧特曼：我還沒有聽到與艾維合作的任何官方消息。
問：安娜，我會給你最后一個發(fā)言的機會，因為你和山姆在這里與商業(yè)和世界領導人會面。你想給他們留下什么信息？
馬坎朱：我認為有一種趨勢是，人們對人工智能技術感到更害怕而不是興奮。我明白，我們必須努力確保提供這項技術的最佳版本。但我認為，許多通過達沃斯論壇與會者接觸到人工智能技術的人，他們確實有責任確保自己發(fā)出沒有偏見的信息。這樣，人們才能真正參與其中，并意識到這項技術帶來的益處。
奧特曼：再給我20秒鐘，我來補充說明下。我認為，在某些方面，OpenAI的表現(xiàn)并不完美。我們還沒有找到構(gòu)建這些工具的正確方法。ChatGPT在將對話引導至積極方向方面的表現(xiàn)確實出色。但這并不是因為我們有信心說“它會變得出色”，而是因為當人們真正使用它后，他們不由自主地說“哦，我明白了，它使用起來非常自然”。智能手機之所以吸引人，也是因為它讓我們擺脫了鍵盤和電話的束縛，我們可以更自然地與它互動。
談到喬尼·艾維，他確實是個天才。他一直致力于讓計算機與人類更兼容。我認為這對于技術的發(fā)展至關重要，它讓技術更像科幻電影中的神奇之物，而不是可怕的東西。它為我們提供了一種全新的方式來使用計算機。
我還記得自己得到第一臺iMac時的情景，它對我意義重大。雖然它很重，但它有一個把手，這讓我感覺可以輕松地移動它。這個把手讓我與它建立了不同尋常的關系。如果它試圖“醒來”并接管我的生活，我可以拔掉電源并把它扔出窗外?？偟膩碚f，我認為我們在設計和使用產(chǎn)品時所采用的方式確實很重要。
我要收藏
點個贊吧
轉(zhuǎn)發(fā)分享
微信"掃一掃"，分享轉(zhuǎn)發(fā)
咨詢詳情：如需咨詢文中涉及的相關產(chǎn)品或解決方案詳情，請加微信：ZiDongHuaX 。
微信聯(lián)盟：人工智能微信群、OpenAI微信群、ChatGPT微信群，各細分行業(yè)微信群：點擊這里進入。
鴻達安視：水文水利在線監(jiān)測儀器、智慧農(nóng)業(yè)在線監(jiān)測儀器 查看各品牌在細分領域的定位宣傳語
微信聯(lián)盟：人工智能微信群、OpenAI微信群、ChatGPT微信群，各細分行業(yè)微信群：點擊這里進入。
鴻達安視：水文水利在線監(jiān)測儀器、智慧農(nóng)業(yè)在線監(jiān)測儀器 查看各品牌在細分領域的定位宣傳語
評論排行