改變一切

　　OpenAI 真正想要的是什么?

　　ChatGPT 發(fā)布之后，這家年輕的公司在世界各地引發(fā)沖擊波。但這僅僅是個(gè)開始。

　　*目標(biāo)：Change everything。

　　是的，Everything。

　　神諭

　　GPT-4 發(fā)布之后，Sam Altman 開啟了他的全球巡回，

　　不論在任何一個(gè)城市，Altman 享受著搖滾明星一樣的待遇。

　　人們狂熱地尖叫、提問。每個(gè)人都想要合影。

　　他在聚光燈下。

　　在新聞里，他的形象是人類公敵(AI)的視覺象征。

　　所到之處，他說的話，就是神諭。

　　注入新的世界觀

　　人們會(huì)怎樣記住那幾個(gè)月的 Sam Altman 呢?

　　Steven Levy 想象有一天，機(jī)器人書寫人類的歷史。它們這樣定義那個(gè)時(shí)刻：

　　一名低調(diào)卻引人關(guān)注(quietly compelling) CEO，用一種打破范式的技術(shù)，試圖將一種非常奇特的世界觀，注入全球思維。他從舊金山一個(gè)無人問津的四層辦公樓，走向了全世界。

　　不吝嗇夢(mèng)想

　　OpenAI 的員工們可能已經(jīng)把建立 AGI 的夢(mèng)想烙在了肉體上。

　　在 OpenAI 的辦公區(qū)，討論「Build AGI」永遠(yuǎn)比「make it safe」更令員工們感到興奮。

　　他們從不回避也從不吝嗇使用「超級(jí)智能」這個(gè)詞。

　　他們假設(shè)，AI 的發(fā)展軌跡，將遠(yuǎn)超生物學(xué)所能達(dá)到的極限。

　　OpenAI 的財(cái)務(wù)文件，甚至規(guī)定了一種應(yīng)急退出措施，以防 AI 毀滅了人類的整個(gè)經(jīng)濟(jì)體系。

　　Only The Faithful

　　只有 the faithful 能成為 OpenAI 的員工。

　　記者 Levy 向 OpenAI 的高層提問，如果有人并不相信 AGI 真的會(huì)到來，他們能否在 OpenAI 舒適工作?

　　「為什么一個(gè)非信徒(nonbeliever)想要在這里工作?」高管們不理解。

　　Altman 會(huì)說，如果你被錄用，那一瞬間你就不可避免地被吸引到他們的魔咒里。

　　就是想要那種人

　　「那是 2015 年，我們開始招人的時(shí)候，那時(shí)候你讓一個(gè) AI 研究員說 AGI 值得認(rèn)真對(duì)待的話，這個(gè)人的職業(yè)生涯就完了。」

　　Sam Altman 在拿到各方資金后，開始偷偷組建團(tuán)隊(duì)，「但我就是想要那些認(rèn)真對(duì)待它的人�！�

　　Greg Brockman、Andrej Karpathy、Ilya Sutskever，他們都是這樣的人。

　　教父驚呆了

　　Ilya Sutskever，從俄羅斯移民到以色列，再移民加拿大，在多倫多大學(xué)，稱為 Geoffrey Hinton 的門徒。

　　就連 Hinton 也驚訝于 Sutskever 的天分。

　　Hinton 早期給 Sutskever 安排了一個(gè)復(fù)雜的項(xiàng)目，但 Sutskever 厭煩了寫代碼來做必要的計(jì)算，他告訴 Hinton，如果他為這個(gè)任務(wù)編寫一種定制編程語言，會(huì)更容易搞定。

　　Hinton 有些惱火，警告學(xué)生不要分心，他認(rèn)為這么做會(huì)耽誤一個(gè)月時(shí)間。

　　「我今早寫好了，」Sutskever 向老師坦白說。

　　*次親密接觸

　　2015 年年中，Altman 給 Sutskever 寫郵件，約他和馬斯克、Brockman(當(dāng)時(shí) Stripe CTO)一起吃個(gè)晚飯。

　　Sutskever 并不是知道，那是專為他準(zhǔn)備的局。

　　他們討論了 AGI 和人工智能發(fā)展的話題，聊了聊 Google 和 DeepMind 是否不可超越。沒有人給 Sutskever 示意。

　　但 Sutskever 聊興奮了，不久后他給 Altman 寫了一封郵件，大意是，「我來 lead」。

　　這封郵件卡草稿箱沒發(fā)出去...

　　但 Altman 又主動(dòng)去找他了。

　　也有人不買賬

　　不過并不是所有人都欣然接受 Altman 的邀請(qǐng)。

　　卡馬克，約翰·卡馬克，傳奇，拒絕了 Altman。

　　后來他自己創(chuàng)業(yè)投身 AGI。

　　名不見經(jīng)傳

　　Alec Radford，一個(gè)外界報(bào)道鮮有提到的 OpenAI 研究員，2016 年抱著加入個(gè)研究項(xiàng)目的心態(tài)接受 OpenAI 的 offer。

　　他后來扮演的角色，就像 Larry Page 發(fā)明了 PageRank(Google 開始的地方)。

　　他很害羞，用長(zhǎng)郵件回復(fù)了 Levy 的采訪。

　　他在 OpenAI 不知道該做什么，除了愿景一無所有的時(shí)候，開始了*個(gè)實(shí)驗(yàn)：用 20 億條 Reddit 評(píng)論訓(xùn)練語言模型。這個(gè)實(shí)驗(yàn)失敗了，他當(dāng)時(shí) 23 歲。

　　當(dāng)時(shí)的 CTO，現(xiàn)在的總裁 Brockman 說，小伙子很棒，讓他再試試吧，let him do his thing。

　　開天辟地

　　受限于算力，Radford 只能專注在單一領(lǐng)域的小數(shù)據(jù)集上實(shí)驗(yàn)。

　　于是他選擇了亞馬遜電商評(píng)論，然后讓語言模型可以簡(jiǎn)單地預(yù)測(cè)并生成用戶評(píng)論的下一個(gè)字符。

　　突然間，模型自己能夠確定評(píng)論是積極的還是負(fù)面的，它能根據(jù)要求提供奉承或者苛刻的評(píng)論。

　　后來，在 OpenAI，這被稱為「無監(jiān)督情緒神經(jīng)元」。

　　好運(yùn)臨頭了。

　　他山之石

　　Sutskever 鼓勵(lì) Radford 將研究拓展到亞馬遜評(píng)論之外的數(shù)據(jù)。

　　不久后，2017 年，Attention is all you need 發(fā)表。

　　Sutskever 是全世界個(gè)別幾個(gè)真正理解 Transformer 有多么強(qiáng)大的人之一。

　　「這就是我們一直在等待的東西�！顾�說。

　　Radford 開始嘗試 Transformer 架構(gòu)，「我在兩周內(nèi)取得的進(jìn)展，比過去兩年還要多�！�

　　轉(zhuǎn)折點(diǎn) 1

　　方向明確了，就是 Transformer。

　　「為了利用 Transformer，你需要擴(kuò)大規(guī)模。」OpenAI 董事會(huì)成員，Quora CEO Adam D'Angelo 說，「你需要像一個(gè)工程組織一樣運(yùn)營(yíng)它，不能讓每個(gè)研究人員做自己喜歡的事情，煉自己的模型，發(fā)自己的論文。你必須做更乏味、不那么優(yōu)雅的工作�！�

　　這是 2018 年，全世界都好沒意識(shí)到，Altman 和 Musk 創(chuàng)辦的 AI 實(shí)驗(yàn)室，開始正式的攀峰。

　　他們?cè)�本聽起來瘋狂的想法，突然不再無解了。

　　Radford 把他們最終創(chuàng)建的模型其名為 generatively pretrained transformer。

　　1.17 億參數(shù)，包括書籍、Quora、初高中考試的文章等等，模型在理解語言和產(chǎn)生答案的方面超越了以往一切的人工智能。

　　那是一個(gè)深夜，Radford 在 OpenAI 辦公室，「我只是一遍又一遍的說，『行，挺酷，但我敢保證它做不了xxx』，我迅速編寫一個(gè)評(píng)估測(cè)試，(然后發(fā)現(xiàn)，)行吧，它還真可以做xxx�！�

　　親手實(shí)現(xiàn)了科幻

　　OpenAI是從什么時(shí)候意識(shí)到「Open」是很危險(xiǎn)的?

　　GPT-2。Radford 親手做出了自己十年前讀的科幻小說里的機(jī)器。

　　在尼爾·史蒂芬森的《詛咒》一書中，互聯(lián)網(wǎng)上充斥著垃圾郵件生成器。

　　「我曾認(rèn)為這真的很牽強(qiáng)，但隨著我多年來在語言模型上的工作，隨著我讓它們變得更好，我不安地意識(shí)到，這是真正可能發(fā)生的�！�

　　OpenAI 與內(nèi)外部的專家討論，做了很多安全工作后，最終決定發(fā)布一個(gè)功能有所保留的版本，GPT-2。

　　他來了，他走了

　　馬斯克在這時(shí)候有了想法。

　　他想要擁有 OpenAI，收購(gòu)多數(shù)股權(quán)。不只是一個(gè)沒有商業(yè)回報(bào)的贊助者，他想要 OpenAI 像 Tesla、SpaceX、Neuralink、Boring Company 等等公司一樣，成為「馬斯克宇宙」的一員。

　　他覺得 OpenAI 要抓住*優(yōu)勢(shì)，他覺得 OpenAI 應(yīng)該注重安全問題，不管怎樣，他的解決方案只有一個(gè)：把一切都交給他。

　　Altman 和 OpenAI 其他「智囊團(tuán)」成員拒絕了馬斯克。

　　馬斯克憤然退出 OpenAI 董事會(huì)。在全體員工會(huì)議上，馬斯克完成了他的道別：

　　他預(yù)測(cè) OpenAI 必將失敗，然后稱呼至少一個(gè)研究人員為「蠢蛋」(jackass)。

　　人走了，他的資金支持也斷了。

　　霸王條款

　　硅谷不會(huì)愿意向非營(yíng)利組織砸錢。

　　OpenAI 創(chuàng)建了營(yíng)利性的實(shí)體，雖然表面上還是非營(yíng)利組織的研究機(jī)構(gòu)，但實(shí)際上絕大部分員工都在從事盈利業(yè)務(wù)。

　　潛在投資者們卻收到了一份奇怪的警告：不要期待投資回報(bào)。如果公司確實(shí)做出了AGI，會(huì)重新考慮財(cái)務(wù)安排。

　　這樣的「霸王條款」并不是玩笑。

　　OpenAI 為盈利業(yè)務(wù)設(shè)定了上限，上限外的一切都將回歸非營(yíng)利研究機(jī)構(gòu)。

　　實(shí)現(xiàn)技術(shù)革命的*使命，被編碼在公司的組織規(guī)則里。

　　在這里，董事會(huì)的工作不是監(jiān)督會(huì)計(jì)財(cái)務(wù)，而是保證OpenAI忠于使命。

　　同一個(gè)問題

　　聰明的投資者非但沒被嚇退，還加倍投下了賭注，OpenAI的員工同樣爭(zhēng)取自家的股權(quán)。

　　公司的估值達(dá)到了30億美元，只是股東列表里，沒有Altman。

　　對(duì)他來說，一份有意義的工作，要比錢更有價(jià)值。

　　Altman 被問了太多次為什么不要股權(quán)。

　　他現(xiàn)在想要了，這樣就不用總回答同一個(gè)問題了。

　　微軟進(jìn)場(chǎng)

　　回到融資。指數(shù)級(jí)躍遷的參數(shù)迭代背后，是靠著資金壘起來資源。

　　像是《大白鯊》里的捕魚獵人，擺在 OpenAI 面前的，是大白鯊一樣龐大的目標(biāo)，他們還不知道，需要建造多大的船。

　　不過顯然，在數(shù)十億美元的風(fēng)投回合中，只有少數(shù)幾家公司能上牌桌。

　　Microsoft 先后投入 13 億美元，大型云提供商的支持，為 OpenAI 縮短了計(jì)算時(shí)間。

　　Microsoft 也開始要求更多的東西：49% 的「非控制性股權(quán)」。

　　這家科技巨頭，獲得了將 OpenAI 技術(shù)商業(yè)化的*許可，還換得了對(duì)方只使用 Microsoft Azure 的承諾。

　　即使沒有從 OpenAI 的利潤(rùn)中分一杯羹，Microsoft 也能借助跟 OpenAI 的綁定，為 Azure 云計(jì)算服務(wù)鎖定世界范圍內(nèi)最理想的新客戶。

　　壓力的另一端

　　披頭士引發(fā)了巨大的文化變革浪潮。

　　但火爆全球之后僅僅 6 年，披頭士解散。

　　所有的壓力，來自全世界的無情關(guān)注，每個(gè)產(chǎn)品周期實(shí)現(xiàn)革命的目標(biāo)，投資人的商業(yè)回報(bào)，被迫和全世界技術(shù)能力最強(qiáng)的商業(yè)巨頭們站在同一個(gè)斗獸場(chǎng)里，還要承擔(dān)起「守護(hù)人類」的使命，這些很有可能是一種削弱的力量。

　　OpenAI 的創(chuàng)始人們，他們想要一個(gè)足夠智能但安全的計(jì)算機(jī)，結(jié)束一段歷史，將人類推入一個(gè)難以想象的慷慨時(shí)代。

　　轉(zhuǎn)折點(diǎn) 2

　　與巨頭微軟的親密接觸讓 OpenAI 的口碑走向了另一個(gè)方向。

　　馬斯克聲討，稱 OpenAI 從想要拯救雨林，變成了木材商。

　　叛逃陸續(xù)發(fā)生在曾經(jīng)并肩作戰(zhàn)的老伙計(jì)身上。

　　研究主管 Dario Amodei 和幾位關(guān)鍵高管離職，創(chuàng)辦了一家名為Anthropic 的競(jìng)對(duì)公司�，F(xiàn)在 Claude 系列模型是 GPT *的競(jìng)爭(zhēng)對(duì)手。

　　GPT-2、GPT-3 的項(xiàng)目技術(shù)貢獻(xiàn)者 Rewon Child，進(jìn)入了 Inflection AI。

　　在這些人看來，OpenAI 迷失了自己的使命，成了過于商業(yè)化的受害者。

　　這是計(jì)劃的一部分

　　為什么在 GPT-4 已經(jīng)震撼微軟全家數(shù)月之后，才緩緩放出基于 GPT-3.5 的 ChatGPT?

　　「迭代部署假設(shè)」(iterative deployment hypothesis)。

　　Altman 稱這是戰(zhàn)略的一部分，雖然 OpenAI 內(nèi)部有很多爭(zhēng)議，但他堅(jiān)持認(rèn)為要讓大眾階梯式地適應(yīng)人工智能，適應(yīng)即將到來的全新的時(shí)代。

　　「有了 ChatGPT，我們可以引入對(duì)話，同時(shí)不必把后端功能做得太好，給用戶慢慢適應(yīng)。想一口氣適應(yīng) GPT-4 要難得多�！笰ltman 解釋道。

　　為奇點(diǎn)的降臨，提供軟著陸。

　　Sutskever 的解釋不太一樣，他說，「你會(huì)想創(chuàng)造更大更強(qiáng)的智慧體，然后藏在自家地下室里嗎?」

　　300 年前的鏡子

　　「回顧工業(yè)革命，每個(gè)人都會(huì)覺得它對(duì)世界來說是一件好事，」OpenAI 政策研究院 Sandhini Agarwal 說道，「最初的 50 年真的很痛苦。很多失業(yè)、很多貧困，在這之后世界才適應(yīng)了。」

　　OpenAI正在做什么？

　　產(chǎn)品本身、商業(yè)化公司、與微軟的關(guān)系、開發(fā)者生態(tài)系統(tǒng)、應(yīng)用商店，還有 AGI 的研究。

　　六件事。

　　哦，還有投資。

　　「這些是不同的文化，事實(shí)上，它們與研究任務(wù)是有有沖突的。」以為 AI 行業(yè)的高管對(duì) Levy 說。