智東西（公眾號：zhidxcom）
編譯 |? 陳駿達
編輯 |? Panken
智東西6月25日(ri)消息，近(jin)日(ri)，OpenAI首席技術官米拉·穆(mu)拉提（Mira Murati）在達特(te)茅(mao)斯(si)塞耶工程學(xue)(xue)院(yuan)畢(bi)業季的(de)活動上，與前亞馬遜高管、現(xian)達特(te)茅(mao)斯(si)學(xue)(xue)院(yuan)受托(tuo)人的(de)杰弗(fu)里(li)·布萊克(ke)本（Jeffery Blackburn）開展了一(yi)場50分鐘的(de)深度訪談。
▲穆拉提在達(da)特茅斯學(xue)院(yuan)（圖源：達(da)特茅斯學(xue)院(yuan)）
在(zai)這場訪談(tan)中，穆(mu)拉提(ti)分享了(le)自(zi)己從航天行(xing)(xing)業、汽車行(xing)(xing)業、VR/AR再到加入OpenAI的豐富職業生涯，并(bing)根據(ju)自(zi)己在(zai)行(xing)(xing)業最(zui)前沿的所見所聞(wen)，分析了(le)AI治(zhi)理、AI對(dui)教育的影(ying)響、AI對(dui)工作的影(ying)響等問(wen)題(ti)。
她在訪談中透露，明年或后年就會出現博士水平的智能系統，這或許指的就是GPT-5。她更是拋出一個極具爭議性的觀點，有些創意工作本不該存在，而AI很快便會取代這些職位。這一觀點在網上引發軒然大波，認(ren)為OpenAI吃了飯就砸鍋，并不理解創造力(li)意味著什么。
穆拉提認為OpenAI的成就離不開深度神經網絡、大量數據和大量算力這3個因素的疊加，雖然他們還在研究背后的原理，但實踐證明深度學習真的行得通。
她稱AI安全和AI能力是一體兩面的，聰明的模型才能理解我們給它設定的護欄。從工程的角度上來看，AI能力的提升并不會降低模型的安全性。OpenAI對模型的安全性負有很大責任，但要實現風險的有效管控，社會和政府的參與也是必不可少的。OpenAI正積極與政府和監管機構合作，共同解決AI安全問題。
在場的觀眾也向穆拉提拋出了尖銳的問題。穆拉提在回應觀眾對于模型價值觀的問題時提到，OpenAI目前已經通過人類反饋強化學習將人類價值觀融入AI系統，但未來的重點會是在基礎價值體系上，給客戶提供高度定制化的模型價值體系。
觀眾還就OpenAI最近的侵權疑云和內容創作者的許可和補償問題詢問穆拉提的看法。穆拉提再次強調OpenAI并未刻意模仿斯嘉麗的聲音，她挑選聲音的決策過程是完全獨立的。
至于版權內容，OpenAI目前在嘗試以聚合數據池的形式，讓創作者提供版權內容到數據池中，整體評估創意內容對模型表現的貢獻，并給予相應的報酬。但這一技術頗具難度，實際落地還需要一段時間。
與OpenAI CEO薩姆·阿爾特曼（Sam Altman）不同(tong)，穆拉提之(zhi)前的公眾認(ren)知度較低(di)。她在1998年出生于阿爾巴尼亞，之(zhi)后到加拿(na)大和美國求學。
她2018年便加入OpenAI，是OpenAI的早期成員之一。作為OpenAI的CTO，她領導了OpenAI在ChatGPT、DALL·E、Codex和Sora方面的工作，同時還監管公司的研究、產品和安全團隊。
微軟首席執行官薩蒂亞·納德拉（Satya Nadella）評價穆拉提時說到，她既具備技術專長，也頗有商業頭腦，并對OpenAI的使命有深刻認識。
以(yi)下是對穆拉提(ti)在達特(te)茅斯學院(yuan)深度訪談的完整編(bian)譯（為提(ti)高可讀性，智東(dong)西(xi)調整了部分問(wen)答的順序，并(bing)在不違背(bei)原意(yi)的前提(ti)下進(jin)行(xing)了一定的增刪修改）：
一、干過航天、汽車、VR/AR等行業，發現自己對AI最感興趣
杰弗里·布萊克本：大家都想聽聽你的近況和你正在構建的東西，這真是太吸引人了。不過也許我們應該從你的故事開始。你畢業后去了特斯拉一段時間，然后是OpenAI。你能簡短地和我們描述一下那個時期嗎，還有你加入早期的OpenAI的故事。
米拉·穆拉提：我(wo)大(da)學(xue)畢業之后(hou)其實在(zai)航(hang)空(kong)領(ling)域(yu)短暫工作過，但之后(hou)我(wo)意識到航(hang)空(kong)領(ling)域(yu)的(de)發展相當緩慢。我(wo)對(dui)(dui)特斯拉的(de)使命非常感(gan)興趣，也對(dui)(dui)構建可持續交通的(de)未來(lai)需要面臨(lin)的(de)創(chuang)新挑戰感(gan)興趣，因此我(wo)決定加入特斯拉。
在參與Model S和Model X的工作后，我意識到自己也不想在汽車行業工作。我(wo)想要做一些(xie)能(neng)真正推動社(she)會(hui)發(fa)展的(de)事情，同時解決(jue)一些(xie)非常困難的(de)工程挑戰。
我在特斯(si)拉的時(shi)候(hou)(hou)對自動駕駛汽車(che)、計算(suan)機視(shi)覺、AI這(zhe)些技(ji)術(shu)和(he)它們在自動駕駛汽車(che)上的應用很感(gan)興趣。我那(nei)時(shi)候(hou)(hou)想更(geng)深入(ru)(ru)地了解AI的其它領域(yu)。于(yu)是我加入(ru)(ru)了一家(jia)初創(chuang)公(gong)司(si)，在那(nei)里領導工程和(he)產(chan)品團隊，將AI和(he)計算(suan)機視(shi)覺應用于(yu)空間(jian)計算(suan)領域(yu)，研究計算(suan)的下一個界面。
當時我認為計算的交互界面會是VR和AR，但現在我的想法不一樣了。那時候我認為，如果我們可以用手與非常復雜的信息交互，無論是公式、分子還是拓撲概念，我們便可以更直觀地了解這些東西，擴展自己的學識。然(ran)而事實證(zheng)明，當時談VR還(huan)為時過(guo)早。
但這給了我許多機會，能了解不同領域的AI技術。我想我的職業生涯一直都處于技術和應用的交叉點。這給了(le)(le)我(wo)一個不同的視(shi)角，能大致了(le)(le)解AI的發(fa)展(zhan)程(cheng)度以(yi)及它(ta)可以(yi)應用(yong)到什么領域。
杰弗里·布萊克本：所以在特斯拉的自動駕駛研究中，你看到了機器學習、深度學習的可能性，看到了它的發展方向。
米拉·穆拉提：是的(de)。但我并(bing)沒有看得很清(qing)楚。
杰弗里·布萊克本：你給馬斯克工作過嗎？
米拉·穆拉提：是的，特別是在最后一年。但那時我們還不太明確AI的發展方向。當時，我們仍然只是將AI應用于特定的應用場景里，而非通用的場景。VR和AR也是如此。而我不想只是將這些技術應用于具體問題。我想做更多的研究，了解背后的原理，然后開始將這些技術應用到其他事物上。
我就在這個階段加入了OpenAI，OpenAI的使命對我非常有吸引力。當時它是一個非營利組織。現在使命沒有變，但結構變了。當我6年前加入時，它是一個致力于構建安全AGI（通用人工智能）的非營利組織。當時OpenAI是DeepMind之外唯一一個做相關研究的公司。這就是(shi)我在OpenAI旅程(cheng)的開始。
二、3大技術進步讓ChatGPT成為可能，實踐證明模型能深入理解數據
杰弗里·布萊克本：明白了，所以你從那時起你就一直在構建很多東西。也許你可以為在場的觀眾提供一些AI的基礎知識。從機器學習、深度學習到現在的AI，這些概念都是相互關聯的，但也各有不同。這些轉變是如何發生的呢，又是如何讓ChatGPT、DALL·E或者Sora這樣的產品成為可能的呢？
米拉·穆拉提：其實我們的產品并不是全新的，在某種意義上我們的產品是建立在過去幾十年人類共同的努力的基礎上的。其(qi)實AI就開始于達特茅(mao)斯學院。
在過去幾十年中，神經網絡、大量數據和大量算力的結合帶來了真正具有變革性的AI系統或模型，它們能夠執行一般性任務。盡管我們不清楚其為何成功，但是深度學習真的行得通。我們(men)也(ye)試圖通(tong)過(guo)(guo)研(yan)(yan)究和工具來理解這些系統的(de)實際運作方式。不過(guo)(guo)根據我們(men)過(guo)(guo)去幾年研(yan)(yan)究AI技術時的(de)經驗(yan)，我們(men)知道這條路行(xing)得通(tong)。我們(men)也(ye)見證(zheng)了它們(men)逐漸進(jin)步的(de)軌跡(ji)。
以GPT-3為例，這是一個大約三年半前部署的大型語言模型。其目標是預測下一個token，基本上是下一個單詞的預測。我們發現，如果我們給這個模型預測下一個token的任務，并用大量數據訓練這個模型，給它大量計算資源時，我們還能獲得一個真正理解語言的模型，而且其理解水平與人類相似。
它通過閱讀大量書籍和互聯網的信息，形成了自己對這些數據的模式的理解，而不僅僅是簡單地記憶。我們還發現，這種模型不僅可以處理語言，還可以處理不同類型的數據，如代碼、圖像、視頻和聲音。它并不在乎我們輸入什么數據。
我們發現，數據、計算和深度學習的結合運作得非常好，通過增加數據類型和計算量，這些AI系統的性能會不斷提高。這便是所謂的擴展法則（Scaling Laws）。它不(bu)是(shi)(shi)實際的(de)法則(ze)，而是(shi)(shi)模型能力提高(gao)的(de)統計學預測(ce)。這就(jiu)是(shi)(shi)推動今天AI進(jin)步的(de)動力。
杰弗里·布萊克本：你們為什么選擇了聊天機器人作為第一款產品呢？
米拉·穆拉提：就產品(pin)而言(yan)，我們其實是從API開始的，而不是聊天機器人。因為我們不知(zhi)道如(ru)何(he)將GPT-3商(shang)業化。商(shang)業化AI技術(shu)實際上非(fei)常困(kun)難(nan)。我們最初專注于(yu)技術(shu)的開發和研(yan)究，我們認為只要(yao)構(gou)建(jian)了一個優秀(xiu)的模型，商(shang)業伙伴就會自然(ran)地拿它去(qu)構(gou)建(jian)產品(pin)。但后(hou)來我們發現(xian)這實際上非(fei)常困(kun)難(nan)，這也(ye)是為什(shen)么我們開始自己(ji)開發產品(pin)。
于是我們開始自己構建一個聊天機器人，我們試圖理解為什么一個成功的公司不能將這項技術轉化為有用的產品。我們最終發現，這其實是一種非常奇怪的構建產品的方式——從技術出發，而不是從要解決的問題出發。
三、模型能力和安全性相輔相成，聰明的模型才能理解人類設定的護欄
杰弗里·布萊克本：隨著算力、數據的增長，智能似乎在以線性的方式發展，只要增加這些元素，它就變得更聰明。ChatGPT在過去幾年中的發展到底有多快呢？它又會在何時實現人類水平的智能呢？
米拉·穆拉提：其實這些系統已經在某些領域達到了與人類相似的水平，但在很多任務上確實也還存在差距。根據系統發展的軌跡，像GPT-3這樣的系統可能具有幼兒級別的智能，而GPT-4則更像是聰明的高中生。在未來幾年，我們將看到它們在特定任務上達到博士學位水平的智能。發展進步的速度還是很快的。
杰弗里·布萊克本：你是說一年內會有這樣的系統嗎？
米拉·穆拉提：一年半吧。或許那時候就會有能(neng)在很多領域超越人類表現的AI系統了。
杰弗里·布萊克本：這種快速的智能發展引發了關于安全性的討論。我知道你一直非常關注這一話題，我也樂見你在研究這些問題。不過大家真的很想聽聽你的觀點。
假設3年后，當AI系統變得極為聰明，能夠通過任何地方的每一個律師考試和我們設計的每一個測試時，它有沒有可能自己決定接入互聯網，并開始自主行事呢？這會成為現實嗎，作為OpenAI的CTO和引領產品方向的人，你會思考這些問題嗎？
米拉·穆拉提：我們一直在考慮這個問題。我們勢必會擁有具有行為能力的AI系統，它(ta)們能夠連接到互(hu)聯網(wang)、相互(hu)交談、共(gong)同完成(cheng)任(ren)務(wu)，或者與(yu)人類(lei)(lei)一(yi)起工作，實現(xian)與(yu)人類(lei)(lei)的(de)無縫協(xie)作。
至于這些技術的安全問題和社會影響，我認為不能在問題出現之后才想著解決，而是需要在技術發展的同時，將問題的解決方案嵌入到技術中，才能確保正確處理這些風險。
模型能力和安全性是相輔相成的，它們攜手并進。告訴一(yi)個(ge)聰(cong)(cong)明(ming)的模(mo)型(xing)不(bu)要做某事(shi)，要比讓一(yi)個(ge)不(bu)聰(cong)(cong)明(ming)的模(mo)型(xing)理解這(zhe)一(yi)概念要容(rong)易得多。這(zhe)就好(hao)像訓練一(yi)只聰(cong)(cong)明(ming)的狗(gou)和不(bu)聰(cong)(cong)明(ming)的狗(gou)的區別。智能和安全是密(mi)不(bu)可分的。更聰(cong)(cong)明(ming)的系統能更好(hao)地理解我們設定(ding)的護(hu)欄(lan)。
目前大家在爭論是應該進行更多安全研究，還是AI能力的研究。我認為這種觀點是具有誤導性的。
因為在開發產(chan)品時，當然要考慮安全性和護欄，但在研發方面，它們實際上是相輔相成的。我們認為應(ying)該非常科學(xue)地(di)來看待這個(ge)問題，嘗試(shi)在模型完(wan)成訓練前預(yu)測出它們將具(ju)備哪(na)些能力，然后在此過程中準備相應(ying)的護欄。
但到目前為止，這在(zai)(zai)行業中并非常態。我(wo)們(men)訓(xun)練(lian)這些模型，然(ran)后出(chu)現了所謂(wei)的涌現能力。這些能力是(shi)突然(ran)涌現的，我(wo)們(men)不知道(dao)它們(men)是(shi)否會出(chu)現。我(wo)們(men)雖然(ran)可以看到數(shu)(shu)據上的性能提升(sheng)，但我(wo)們(men)不知道(dao)這種數(shu)(shu)據的提升(sheng)能是(shi)否意味著模型在(zai)(zai)翻譯、生物化(hua)學、編程或其他方面做得更好。
做好預測模型能力的科學研究，有助于我們為即將到來的事情做好準備。所(suo)有安(an)全方面(mian)的(de)研究工作(zuo)與技術的(de)發(fa)展方向是(shi)一(yi)致的(de)，必須一(yi)同實現。
四、深度偽造風險不可避免，多方合作才能解決問題
杰弗里·布萊克本：米拉，現在網上也出現了AI偽造的烏克蘭總統澤連斯基說“我們投降”的視頻，或者湯姆·漢克斯視頻的牙醫廣告，你如何看待這類的事情呢？這是不是你們公司應該管控的問題，或者是否需要有相關法規來規范，你是如何看待這個問題的呢？
米拉·穆拉提：我的看法是，這是我們的技術，所以我們對用戶如何使用它負有責任。但這也是與民眾、社會、政府、內容制作者、媒體等共同的責任，我(wo)們需要一(yi)起弄(nong)清楚如(ru)何使用這(zhe)些技術。但為了使其成(cheng)為共同的責任，我(wo)們需要帶領人們，給他們提供訪問權限(xian)，給他們提供工(gong)具來理解這(zhe)些技術，并(bing)給予適當的護欄。
我認為不可能完全沒有風險，但問題是要如何最小化風險，并(bing)為(wei)人們提供這樣做(zuo)的(de)工(gong)具。以政(zheng)府為(wei)例，非常(chang)重要的(de)是與他們一同研究，并(bing)讓他們提前接觸到事物，讓政(zheng)府以及(ji)監管機構了(le)解企業(ye)里發生了(le)什(shen)么。
也許ChatGPT所做的最重要的事情就是讓公眾意識到AI的存在，讓人們真正直觀地感受到這項技術的能力以及它的風險。當人們親自嘗試AI技術并將(jiang)其(qi)應用于自己(ji)(ji)的(de)業務時，就(jiu)能清楚的(de)意(yi)識(shi)到它(ta)不能做(zuo)某些事情，但可(ke)以做(zuo)很多其(qi)它(ta)的(de)事情，明白這(zhe)一技術對自己(ji)(ji)或(huo)者整個勞(lao)動力(li)市(shi)場意(yi)味(wei)著什(shen)么(me)。這(zhe)讓人們可(ke)以做(zuo)好準(zhun)備。
五、前沿模型需要更多監管，做好模型能力預測是關鍵
杰弗里·布萊克本：這是一個很好的觀點，你們創建的這些互動界面，比如ChatGPT、DALL·E讓人們知道了未來會出現什么。關于政府我還想談最后一點。你希望現在就有一些規定被制定出來，而不是等到一年或兩年后當系統變得非常智能，甚至是有點可怕的時候。那我們現在究竟應該做什么呢？
米拉·穆拉提：我們一直在主張對前沿系統進行更多的監管，這些模型的能力出色，但正因如此可能由于濫用而造成的負面影響也更大。我們一直對政策制定者持有非常開放的態度，并與監管機構合作。對于更小的模型，我認為允許生態系統中有很多的廣度和豐富性是好的，不(bu)要讓人們因為擁(yong)有的計(ji)算或數(shu)據(ju)資源較少而無法參與(yu)這(zhe)一領域(yu)的創新。
我們一(yi)直在主張(zhang)對前(qian)沿系統進行(xing)更多(duo)的(de)監(jian)管，那(nei)里(li)的(de)風險(xian)要(yao)高得多(duo)。而(er)且(qie)，你可(ke)以提前(qian)預見即(ji)將(jiang)到(dao)來(lai)的(de)事情，而(er)不是試圖跟上已(yi)經迅速發生的(de)變化(hua)。
杰弗里·布萊克本：你們可能不希望美國政府對GPT-5的發布進行監管吧？讓他們對你們指手畫腳。
米拉·穆拉提：這也看情況吧，我(wo)們在(zai)做的許多安全(quan)工作(zuo)已經被政府編(bian)纂到AI監管的準則里了(le)。我(wo)們已經完成了(le)不少(shao)AI安全(quan)的工作(zuo)，甚至為美國(guo)政府乃(nai)至聯(lian)合(he)國(guo)提(ti)供了(le)AI部署(shu)的相關原則。
我認為要做好AI安全，需要真真正正地參與AI研究，理解這些技術在實踐過程中意味著什么，然后根據這些理解創建相關(guan)的(de)規(gui)定。這也是(shi)目前正在發生的(de)事情(qing)。
要讓監管領(ling)先于這(zhe)些前沿系(xi)統(tong)，我(wo)們需要在模型能力(li)預測領(ling)域(yu)進行進一步(bu)的科研，以便提出正(zheng)確的監管。
杰弗里·布萊克本：我希望政府有能夠理解你們在做什么的人。
米拉·穆拉提：似乎越來越多(duo)的人加入(ru)政府，這些(xie)人對(dui)AI有(you)更好的理解，但還不(bu)夠。
六、所有知識型工作都會受AI影響，AI讓一切事情的“初稿”都變得更簡單
杰弗里·布萊克本：你們應該是AI行業，乃至整個世界中，最能看清這項技術將如何影響不同行業的公司。它已經在金融、內容、媒體和醫療等領域有所應用。展望未來，你認為那些行業會因為AI和你們在OpenAI的工作，而產生巨大的變革呢？
米拉·穆拉提：這很像是我們剛剛開始構建基于GPT-3的產品時，企業家問我們的問題。人們會問我，我能用它做什么？它有什么用？我會說，任何事情，你嘗試一下就知道了。我認為它將影響一切行業，沒有領域不會受到影響，至少在知識型工作和知識勞動方面不會。也許進入物理(li)世界需(xu)要一點時間(jian)，但我認(ren)為(wei)一切(qie)都將受(shou)到影(ying)響(xiang)。
現在我們看到，AI在高(gao)風險領域(yu)如醫療保(bao)健或(huo)法律領域(yu)的(de)應(ying)(ying)(ying)用有所滯后(hou)。這(zhe)也是(shi)很(hen)合理(li)的(de)。首先，你要在低風險、中(zhong)等風險的(de)用例中(zhong)理(li)解并使用它，確保(bao)這(zhe)些用例得(de)到安全的(de)處理(li)，然(ran)后(hou)才能(neng)將其應(ying)(ying)(ying)用到高(gao)風險的(de)事情上。最初應(ying)(ying)(ying)該(gai)有更(geng)多人類的(de)監督，然(ran)后(hou)逐漸切換到更(geng)高(gao)的(de)人機協作程度。
杰弗里·布萊克本：有哪些用例是正在出現、即將出現或者你個人比較喜歡的？
米拉·穆拉提：到目前為止，我最喜歡的用例就是，AI讓我們做的所有事情的第一步都變得更加容易了，無論是創建(jian)一個新的(de)設計(ji)、代碼、文章、電子郵件，都變得(de)更(geng)加(jia)容易了(le)。
一切事物的“初稿”都變得更加容易，它降低了(le)做某(mou)件事的障礙，讓人們可以(yi)專注于更有創意(yi)、更困難的部分。特別是在代碼方(fang)面，你(ni)可以(yi)把很多(duo)(duo)繁瑣的工(gong)作(zuo)外包給AI，比如(ru)文檔方(fang)面的。在行業方(fang)面，我們已(yi)經看到了(le)很多(duo)(duo)應(ying)用。客服絕對是AI聊天機器人的重要應(ying)用領域(yu)。
分析(xi)類的工(gong)(gong)作(zuo)也是，因(yin)為(wei)現在我們(men)(men)已經(jing)將很(hen)多工(gong)(gong)具連接到核(he)心模型上，這使得模型更(geng)加(jia)易用(yong)和(he)高效。我們(men)(men)現在有代碼分析(xi)工(gong)(gong)具，可(ke)(ke)以(yi)分析(xi)大(da)量(liang)的數據，可(ke)(ke)以(yi)將各種數據傾(qing)倒入其中，它(ta)可(ke)(ke)以(yi)幫助你(ni)分析(xi)和(he)篩選數據。你(ni)可(ke)(ke)以(yi)使用(yong)圖(tu)像生成(cheng)工(gong)(gong)具，你(ni)可(ke)(ke)以(yi)使用(yong)瀏覽(lan)工(gong)(gong)具。如果(guo)你(ni)是在準備論文，AI能讓你(ni)的研究工(gong)(gong)作(zuo)可(ke)(ke)以(yi)更(geng)快、更(geng)嚴(yan)謹地完成(cheng)。
我認為這是模型生產力進步的下一層次——即給核心模型加上工具，并讓它們深度融合。模(mo)型會(hui)決定何時(shi)使用分(fen)析工具、搜索(suo)或代碼工具。
七、有些創意工作本不該存在，模型將成為極佳的創意工具
杰弗里·布萊克本：隨著模型逐漸觀看了世界上所有的電視節目和電影，它是否會開始編寫劇本和制作電影？
米拉·穆拉提：這些模型是一種工具(ju)，作為工具(ju)它當(dang)然(ran)可以完成這些任務。我(wo)期望我(wo)們能與這些模型合作，擴展我(wo)們創造(zao)力的邊界(jie)。
而人類是如何看待創造力的呢？我們認為它是一種非常特殊的東西，只有少數有才華的人才能接觸到。而這些工具實際上降低了創造力的門檻，提升了人們的創造力。所以從這個(ge)意(yi)義上說，我認為模(mo)型會成為很好的創(chuang)意(yi)工具。
但我認為它真的將成為一個協作性工具，特別是在創意領域。更多的人將變得更加有創造力。一些創意工作可能會消失，但如果它生產的內容質量不高，也許它們從一開始就不應該存在。我真的相信AI可以成為教育和(he)創造力的工具，它(ta)將提升我們的智力、創造力和(he)想象力。
杰弗里·布萊克本：人們曾經認為CGI等東西會毀掉電影行業，他們當時非常害怕。AI的影響力肯定要大于CGI，但我希望你對AI的看法是對的。
八、AI對工作的影響尚未可知，但經濟轉型勢不可擋
杰弗里·布萊克本：人們擔心許多工作可能面臨被AI取代的風險。AI對人們的工作究竟有什么影響，你能從整體上談談這個問題嗎？人們應該真的為此擔憂嗎？哪些類型的工作更危險，你是如何看待這一切的發展的？
米拉·穆拉提：事實上，我們并不真正了解AI將對就業產生什么影響。第一步是(shi)幫助(zhu)人(ren)們理解這些系(xi)統能做什么，將它們集成到他們的工作流程中，然后開始(shi)預測和預測影響。并且我認為，人(ren)們并沒有意識(shi)到這些工具已經被(bei)大量的使用(yong)了，這方(fang)面的研究還不夠。
因此，我們應該研究當前工作的本質、教育的本質發生了什么變化，這將幫助我們預測如何為這些AI能力的提升做好準備。具體而言，我不是經濟學家，但我確實預計會有很多工作發生變化，一些工作將消失，一些工作機會將出現，我們不知道具體會是什么樣子，但可以想象許多嚴格意義上來說的重復性的工作將會消失。人們在做這些工作的時候并沒有任何成長。
杰弗里·布萊克本：你認為會有足夠多的其他工作被創造出來嗎，能不能補償這些消失的工作？
米拉·穆拉提：我認為會有很多工作被創造出來，但是創造多少工作，改變多少工作，失去多少工作，我不知道。我也不認為現在有人真正知道，因為這一問題還沒有被仔細研究，但真的需要引起重視了。
但是我認為經濟將會轉型，這些工具將會創造很多價值，所以問題是如何利用這個價值。如果工作的性質真的改變了，那么我們如何將經濟價值分配到社會中。是通過公共福利嗎？是通過全民基本收入（UBI）嗎？是通過一些其他新系統嗎？有很多問題需要探索和解決。
九、AI能實現高等教育普惠化，提供定制化學習服務
杰弗里·布萊克本：也許高等教育在你描述的工作中扮演了一個重要角色。你認為高等教育在AI的未來和演變中扮演什么角色？
米拉·穆拉提：我認為弄清楚如何使用AI工具促進教育事業是很重要的。因為我認為AI最強大的應用之一將是在教育中，提升我們的創(chuang)造力和知識(shi)。我們有(you)機會(hui)利用AI建立超高質量的教育，非常容(rong)易獲得(de)，理想情況下對世界上任何人都(dou)是免費(fei)的，能以(yi)任何語(yu)言的形式呈現，反應文化間的細微差別。
有了(le)AI，我們可以為世界(jie)上的(de)任(ren)何人提供(gong)定制的(de)教(jiao)育。當然，在(zai)(zai)(zai)像(xiang)達特茅斯這樣的(de)機(ji)構中，教(jiao)室更小，學生可以獲得(de)很多關注。不(bu)過(guo)即(ji)使在(zai)(zai)(zai)這里，也很難有一對一的(de)輔導，更不(bu)用說在(zai)(zai)(zai)世界(jie)其(qi)他(ta)地方了(le)。
其實(shi)我(wo)們沒有花足夠(gou)的時(shi)間學(xue)(xue)習(xi)如何(he)學(xue)(xue)習(xi)，這(zhe)通(tong)常(chang)(chang)發生(sheng)在很晚的時(shi)候(hou)，比如在大學(xue)(xue)。但學(xue)(xue)習(xi)的技能是一件非常(chang)(chang)基本(ben)的事情，不掌握(wo)這(zhe)項技能就(jiu)會浪費(fei)很多時(shi)間。有了AI，課程、課程設置、問題(ti)集，一切(qie)都可以根據學(xue)(xue)生(sheng)自己(ji)的學(xue)(xue)習(xi)方式進(jin)行定制(zhi)。
杰弗里·布萊克本：所以你認為即便是在像達特茅斯這樣的地方，AI也能對教育有所補充？
米拉·穆拉提：絕對可以，是的。
十、用戶反饋形成了系統的基本價值體系，正在研發價值觀高度定制化的系統
杰弗里·布萊克本：要不我們開始觀眾提問環節吧？
米拉·穆拉提：好的，沒問題。
觀眾1：作為達特茅斯的第一批計算機科學家之一，John Kemeny曾經做過一次講座，講述人類構建的每個計算機程序都嵌入了人類價值觀，無論是有意還是無意。
你認為GPT產品中嵌入了哪些人類價值觀？或者換句話說，我們應該如何將尊重、公平、公正、誠實、正直等價值觀嵌入到這些工具中？
米拉·穆拉提：這是一(yi)個(ge)很(hen)好(hao)的(de)(de)問題(ti)，也是一(yi)個(ge)很(hen)困(kun)難的(de)(de)問題(ti)。這些問題(ti)我們已經思考了很(hen)久(jiu)了。目前系統(tong)中的(de)(de)很(hen)多價值觀(guan)基本上(shang)是通過數(shu)據嵌入的(de)(de)，也就是互聯(lian)網(wang)上(shang)的(de)(de)數(shu)據，許(xu)可(ke)數(shu)據，還(huan)有(you)人類標(biao)注(zhu)員的(de)(de)標(biao)注(zhu)數(shu)據。每個(ge)都(dou)有(you)特定的(de)(de)價值觀(guan)，所以這是一(yi)個(ge)價值觀(guan)的(de)(de)集合，這很(hen)重要。一(yi)旦我們將這一(yi)產品(pin)投(tou)放到世界中，我們就有(you)機會從(cong)更多人手中，獲得更廣泛的(de)(de)價值觀(guan)集合。
現在我們在ChatGPT上向人們免費提供最強大的系統，全世界有超過1億人使用過。這些人都可以向ChatGPT提供反饋。如果他們允許我們使用數據，我們將使用它來創建這個聚合的價值觀，使系統更好，更符合人們的期望。
但這是默認的底層系統。我們真正想要的是在底層系統上還有一個自定義層，讓每個(ge)群體(ti)都可(ke)以有他(ta)(ta)們自(zi)己(ji)的價(jia)值觀(guan)。比如說(shuo)一(yi)個(ge)學校(xiao)、一(yi)個(ge)教(jiao)堂、一(yi)個(ge)國家，甚至一(yi)個(ge)州(zhou)，他(ta)(ta)們在(zai)這個(ge)有基本人(ren)類(lei)價(jia)值觀(guan)的默認系統(tong)之上，提供自(zi)己(ji)更具體(ti)、更精確(que)的價(jia)值觀(guan)，建立(li)屬于他(ta)(ta)們自(zi)己(ji)的系統(tong)。
我(wo)們(men)也在(zai)研究(jiu)如何做到(dao)這一點。但這真的(de)(de)(de)(de)(de)是一個很困難的(de)(de)(de)(de)(de)問(wen)題(ti)。因為(wei)既有(you)人(ren)類自(zi)己的(de)(de)(de)(de)(de)問(wen)題(ti)，因為(wei)我(wo)們(men)并(bing)不(bu)能所有(you)事情上都達成一致。然后還要解(jie)決技(ji)術(shu)問(wen)題(ti)。在(zai)技(ji)術(shu)問(wen)題(ti)上，我(wo)認為(wei)我(wo)們(men)已經取得了很多進展。我(wo)們(men)使用像人(ren)類反饋(kui)強化學習這樣的(de)(de)(de)(de)(de)方法，讓(rang)人(ren)們(men)將自(zi)己的(de)(de)(de)(de)(de)價值觀輸入系(xi)(xi)統(tong)中(zhong)。我(wo)們(men)剛(gang)剛(gang)發(fa)布了模型規范(fan)指南(nan)Spec，它提供(gong)了更(geng)高的(de)(de)(de)(de)(de)透(tou)明度(du)，讓(rang)人(ren)們(men)了解(jie)系(xi)(xi)統(tong)中(zhong)的(de)(de)(de)(de)(de)價值觀。我(wo)們(men)也正在(zai)建(jian)立一種反饋(kui)機制，我(wo)們(men)收集輸入和數據，評估(gu)Spec的(de)(de)(de)(de)(de)推進情況，你可以(yi)將其視為(wei)AI系(xi)(xi)統(tong)的(de)(de)(de)(de)(de)憲法。
但這一“憲法”是不斷變化的，因為我們的價值觀也隨著時間的推移而發展。它會變得更(geng)加精(jing)確。這(zhe)是我們正在(zai)重點研究的問題(ti)。現(xian)在(zai)我們正在(zai)考慮基(ji)本價值(zhi)觀，但(dan)隨(sui)著(zhu)系統變得越來(lai)越復雜，我們將不(bu)得不(bu)考慮更(geng)細致(zhi)的價值(zhi)觀。
杰弗里·布萊克本：你能防止它變得憤怒嗎？
米拉·穆拉提：不，那實際上應該由你決定。作為用戶，如果你想要一個憤怒的聊天機器人，你就可以擁有一個這樣的聊天機器人。
十一、紅隊演練中并未發現Sky聲音的問題，正研究如何向創作者提供報酬
觀眾2：我真的很好奇，你是如何考慮版權問題和生物特征權利（比如聲紋、指紋等）的。你之前提到一些創意工作可能不再存在，許多從事創意行業的人正在思考數據使用的許可和補償問題。因為無論是專有模型還是開源模型，數據都是從互聯網上獲取的。我真的很想知道你對許可和補償的看法，因為這涉及到版權問題。
還有一件事是生物特征權利，比如聲音、肖像等方面的權利。OpenAI最近出現了關于Sky聲音的爭議，今年的選舉年也受到深度偽造信息的威脅，你是如何看待這些問題的呢？
米拉·穆拉提：好的(de)，我會(hui)從最后一部分(fen)開始(shi)講起。我們對語音(yin)技術(shu)做(zuo)了很(hen)多(duo)研究，直到最近才發布，因(yin)為(wei)它們帶來了很(hen)多(duo)風險和(he)問題。
但同樣重要(yao)的是，要(yao)讓社會接受，在給人們使用權限的同時設置好防護措施并控制風(feng)險(xian)，同時也版主其他人研究并取(qu)得進展。
例如，我們正在與機構合作，幫助我們思考AI與人類的互動。現在模型有了聲音和視頻，這些都是非常能引起情感共鳴的模態。我(wo)們需要理解這(zhe)些事情會怎么發展，為(wei)這(zhe)些情況做好準(zhun)備。
在這一情況下，Sky的聲音并不是斯嘉麗·約翰遜的聲音，也無意成為她的聲音。我負責選擇聲音，我們的首席執行官正在與斯嘉麗·約翰遜進行對話。這兩個過程是完全平行，互不干涉的。
但(dan)出于對她的(de)尊重，我們將(jiang)其撤下。有些人聽(ting)到了一(yi)些相似之處，但(dan)這些事情是(shi)很主觀的(de)。
我(wo)認為處理(li)這類問(wen)題可以采取紅隊(dui)演練的方(fang)式(shi)（一般指網絡實戰攻防(fang)演習），如果(guo)聲音被認為與(yu)一個著名的公眾(zhong)聲音非常相(xiang)似，那么我(wo)們就不選(xuan)擇這個聲音。
不過在我們的紅隊演練中，這個問題并沒有出現。這(zhe)就是為(wei)什么(me)進(jin)行更廣泛的紅(hong)隊演練以提前捕捉這(zhe)些問(wen)題是很重要的。
但(dan)我們(men)(men)關(guan)于(yu)生物特征(zheng)問題的(de)整體策略(lve)是(shi)，最初只(zhi)向少數人(ren)提供訪問權限，比如專家(jia)或紅隊成員，讓他們(men)(men)幫助我們(men)(men)很(hen)好地理解風險和(he)能力，我們(men)(men)據此建(jian)立解決(jue)措施。
隨著我(wo)們(men)對這(zhe)些措施更(geng)有(you)把握后，我(wo)們(men)再向更(geng)多(duo)的(de)(de)人提供訪(fang)問權限。我(wo)們(men)不允許(xu)人們(men)使用(yong)這(zhe)項技術制作自(zi)己(ji)的(de)(de)聲音，因(yin)為我(wo)們(men)仍在(zai)研究這(zhe)一問題的(de)(de)風險，我(wo)們(men)還沒有(you)信心能夠處理(li)好那(nei)個領域(yu)的(de)(de)濫用(yong)問題。
但我們對于ChatGPT里目前的幾個聲音的安全措施還是比較滿意的，它能較好的防止濫用問題。我們從一個小規模測試開始，本質上是擴展的紅隊演練。然后當我們將規模擴展到1000個用戶時，我們的alpha版本將與這些用戶緊密合作，收集反饋并了解極端情況，以便我們在擴展到10萬人規模時為這些情況做好準備。然后是100萬人，然后是1億人，以此類推。但這都是在嚴格的控制下進行的，這就是我們所說的迭代部署。
如果我(wo)(wo)們(men)不覺得這些(xie)用例足(zu)夠安全，那么我(wo)(wo)們(men)就不會將它們(men)發布給用戶。或者我(wo)(wo)們(men)會針對(dui)這些(xie)特定用例，以某種(zhong)方式對(dui)產(chan)品(pin)進(jin)行(xing)功能(neng)限制，因為能(neng)力和(he)風險(xian)是共存的。
但(dan)我(wo)們(men)(men)也在進行很多研究，幫助我(wo)們(men)(men)處理內容出處和(he)內容真實性的問(wen)題，讓(rang)人們(men)(men)有工具來(lai)理解某些東(dong)西(xi)是否是深度偽造的，或者是虛假信(xin)息等(deng)等(deng)。
自從OpenAI成立之初，我們就一直在研究虛假信息問題。我們構建了很多工具，比如水印、內容政策等，允許我們管理虛假信息。特別是今年，鑒于這是一個全球性的選舉年，我們更加加強了這項工作。
然而這是一個極其具有(you)挑戰性(xing)的領(ling)域，我們作(zuo)為技術和產(chan)品(pin)制(zhi)造商需要做(zuo)很多工(gong)作(zuo)，但也(ye)需要與民眾、社(she)會、媒體和內容制(zhi)作(zuo)者合(he)作(zuo)，共同研究如何解決這些問題。
在開(kai)發語音和Sora等(deng)技(ji)術(shu)時，我(wo)們(men)首(shou)先與紅(hong)隊(dui)成員展開(kai)合作，一同研究風險(xian)。之后就(jiu)是和內容創(chuang)作者研究這(zhe)一問(wen)題，了(le)解這(zhe)項技(ji)術(shu)將(jiang)如何(he)幫助他們(men)，如何(he)構建一個既安全、有用(yong)，并(bing)且(qie)能真正推(tui)動社會(hui)進(jin)步的產品。我(wo)們(men)在DALL·E和Sora上都做了(le)類似(si)的研究。
補償和許可的問題是很重要的，同時也很有挑戰。我們(men)(men)與媒體公司進(jin)行了很(hen)多(duo)合作(zuo)，還給了人們(men)(men)很(hen)多(duo)控制權，讓他(ta)們(men)(men)可(ke)以自(zi)己決(jue)定數據在(zai)產品中的使(shi)用(yong)方(fang)式。如果他(ta)們(men)(men)不希望他(ta)們(men)(men)的數據被用(yong)來改(gai)進(jin)模型(xing)，或讓我們(men)(men)進(jin)行任何研究或訓練，那完全可(ke)以。我們(men)(men)就不使(shi)用(yong)這些數據。
然后對于(yu)一般的創作者社區(qu)，我們(men)很早就(jiu)讓他(ta)們(men)使用(yong)這些(xie)工具，這樣(yang)我們(men)可以首先聽到(dao)他(ta)們(men)的意(yi)見(jian)，了解他(ta)們(men)希(xi)望如(ru)何使用(yong)它，根(gen)據這些(xie)信息構(gou)建最(zui)有用(yong)的產品。
此外，這些都是研(yan)究預覽版，所以我們不需要花大(da)價(jia)錢構建(jian)產品(pin)。我們只有在確(que)定這項技術能帶來很大(da)用(yong)處時才會大(da)量投入(ru)資金(jin)進行開發(fa)。
我們也在嘗試創建一些工具，允許人們按照他們的數據貢獻獲得補償。這從技術角度來說非常棘手，也很難構建這樣的產品，因為你必(bi)須(xu)弄清楚(chu)特定數量(liang)的數據(ju)在經過訓(xun)練(lian)后的模型中創造了多少(shao)價值。
我(wo)們(men)(men)很(hen)難估計出個別(bie)數據(ju)實際上創造了多(duo)少價(jia)值。但(dan)如果(guo)我(wo)們(men)(men)能(neng)夠創建(jian)聚合數據(ju)池，讓人們(men)(men)往里面提(ti)供數據(ju)，這樣的衡量(liang)或許會更容(rong)易(yi)。
所以在過去兩年里，我們一直在嘗試這些方法，但還沒有實際部署任何東西。我們在技術(shu)方面進行(xing)了實(shi)驗(yan)，并(bing)獲取(qu)了一(yi)些進步，但這是(shi)一(yi)個非常困難的問(wen)題。
十二、若重回學生時代要給自己減壓，擴展知識面很重要
觀眾3：我的問題是相當簡單的。如果你現在又重回大學，回到達特茅斯，你想做點什么，你不會再做什么？你會主修什么，或者你會更多地參與什么事情嗎？
米拉·穆拉提：我認為我會學習相同的東西，但可能壓力會小一些。我想我仍然會學習數學，但也會學習更多的計算機科學課程。但我的壓力會小一些，以更有好奇心、更快樂的方式來學習。這肯定更有成效。
我還是(shi)(shi)學(xue)生(sheng)的時候，總是(shi)(shi)有(you)點壓力，擔(dan)心(xin)接下來(lai)會發生(sheng)什么。每個人都會告訴我，不(bu)要有(you)壓力，但不(bu)知何(he)故我總是(shi)(shi)很有(you)壓力。當我和學(xue)長(chang)學(xue)姐交談(tan)時，他們總是(shi)(shi)說(shuo)要享受學(xue)習(xi)，全身心(xin)投入，少一些(xie)壓力。
我認為在課程選擇上，最好要多學一些科目，對一切都有一點了解。我發現這在(zai)(zai)上學(xue)時和畢業后(hou)都是很好(hao)(hao)的事(shi)(shi)情。即便(bian)我現在(zai)(zai)在(zai)(zai)一家研究機構工作，我也(ye)一直學(xue)習(xi)，從(cong)不止步。對一切都有了解(jie)是一件(jian)很好(hao)(hao)的事(shi)(shi)情。
杰弗里·布萊克本：非常感謝你，因為我知道你的生活壓力很大。感謝你今天來到這里，也感謝你為社會所做的非常重要和有價值的工作。感謝在達特茅斯的所有人。給學生們的建議剛好給這場對話收了個尾，我想再次感謝在場各位的到來，享受你們剩下的畢業周末。謝謝你們。
來源：達特茅斯學院
