人工智能成為科技行業(yè)最火的板塊，有關(guān)人工智能的未來應(yīng)用和潛在危險也引發(fā)了科技大腕的口水之爭，許多人擔(dān)心人工智能未來給人類社會造成巨大威脅和風(fēng)險。據(jù)外媒最新消息，馬斯克旗下的一家人工智能研發(fā)公司，已經(jīng)研發(fā)出能夠?qū)懶侣労托≌f的AI機器人，但是由于擔(dān)心技術(shù)被濫用，他們暫時不敢公布研究成果。

　　據(jù)國外媒體報道，由埃隆·馬斯克(Elon Musk)支持的非營利性人工智能研究公司OpenAI表示，其名為GPT2的新人工智能模型非常好，但是被惡意使用的風(fēng)險如此之高，以至于它正在打破向公眾公布全部研究成果的常規(guī)慣例，以便有更多時間討論技術(shù)突破帶來的各種后果。

　　GPT2的核心是一個文本生成器。人們向人工智能系統(tǒng)輸入從幾個單詞到整個頁面的任何文本，并要求根據(jù)對下一步將發(fā)生什么的預(yù)測來編寫接下來的幾個句子。該系統(tǒng)正在突破人們認為可能的極限范圍(無論是在產(chǎn)出的文字質(zhì)量方面，還是在廣泛的潛在用途方面)。

　　當(dāng)用來簡單地生成新的文本時，GPT2能夠?qū)懗雠c它的風(fēng)格和主題相匹配的看似合理的段落。它很少顯示出任何與以前的人工智能系統(tǒng)不同的奇怪之處，比如在段落中途忘記寫些什么，或者破壞長句的語法。

　　如果向這一人工智能系統(tǒng)輸入喬治·奧威爾(George Orwell)的《一九八四》小說的開場白——“四月份是一個明亮的寒冷的一天，時鐘敲了十三下”，隨后這套系統(tǒng)將會識別出模糊的未來主義基調(diào)和小說風(fēng)格，并繼續(xù)寫出以下的句子：“在去西雅圖找新工作的路上，我坐在車里。我加滿油，把鑰匙放進去，然后就讓它跑路。我只是想象這一天會是什么樣子。一百年后的2045年，我在中國農(nóng)村貧困地區(qū)的一所學(xué)校當(dāng)老師。我開始教中國歷史和科學(xué)史課程。”

　　如果把英國“衛(wèi)報”(Guardian)有關(guān)英國退歐的報道的前幾段提供給它，它的產(chǎn)出就是可信的報紙新聞文字，比如新聞文章囊括了杰里米·科爾賓(Jeremy Corbyn)的“引述”，提到愛爾蘭邊境，以及英國首相發(fā)言人的回答。

　　其中一個完全是人工智能撰寫的段落寫道：“特里莎梅首相的一位發(fā)言人被要求澄清這些報道，他說：‘首相已經(jīng)明確表示，她的意圖是盡快離開歐盟，這將屬于女王上周講話中確認的她的談判授權(quán)范圍。’”

　　從研究的角度來看，GPT2在兩個方面是富有開創(chuàng)性的。OpenAI的研究主管達里奧·阿莫迪(Dario Amodei)說，其中之一就是它的規(guī)模。

　　與以前最先進的人工智能模型相比，GPT2模型“大12倍，數(shù)據(jù)集大15倍，范圍更廣”。它是在一個包含大約1000萬篇文章的數(shù)據(jù)集上進行訓(xùn)練的，這些文章是通過在社交新聞網(wǎng)站Reddit上投票超過3票的新聞鏈接而選出的。大量的文本數(shù)據(jù)多達40GB，足以存儲大約35000份《白鯨》小說的全部文字。

　　GPT2訓(xùn)練的數(shù)據(jù)量直接影響到它的質(zhì)量，它在理解書面文本方面有了更多的知識。這也導(dǎo)致了第二次突破。GPT2比以前的文本模型更通用。通過分析輸入的文本，它可以執(zhí)行翻譯和摘要等任務(wù)，并通過簡單的閱讀理解測試，通常表現(xiàn)得與專門為這些任務(wù)構(gòu)建的其他人工智能系統(tǒng)一樣好或更好。

　　然而，這種質(zhì)量也導(dǎo)致OpenAI改變了其推動人工智能向前發(fā)展的慣例，并考慮將GPT2技術(shù)關(guān)在門內(nèi)，評估惡意用戶可能會對它做些什么。

　　“我們需要進行實驗，找出他們能做什么不能做什么，”該研究機構(gòu)的政策負責(zé)人杰克·克拉克(Jack Clark)說。“如果你不能預(yù)見到一個人工智能模型的所有能力，你就必須督促它看看它能做些什么。有更多的人比我們更善于思考它可以惡意地做些什么。”

　　為了說明這意味著什么，OpenAI制作了GPT2的一個版本，只做了一些適度的調(diào)整，這些調(diào)整可以用來對文字產(chǎn)品產(chǎn)生無限的正面或負面評價。垃圾郵件和假新聞是另外兩個明顯的潛在缺點，這也是人工智能未經(jīng)過濾的本質(zhì)。由于它是在互聯(lián)網(wǎng)上訓(xùn)練的，不難鼓勵它產(chǎn)生偏執(zhí)的文本、陰謀論等等。

　　據(jù)悉，OpenAI的目標(biāo)是展示未來一兩年內(nèi)人工智能的主流技術(shù)發(fā)展。“我有一個術(shù)語來形容這件事。來自地獄的自動扶梯，”克拉克說，“它總是使新科技在成本上降低，在價格上降低。你可以用來控制技術(shù)的規(guī)則已經(jīng)從根本上改變了。

　　克拉克說：“我們不是說我們知道在這里應(yīng)該做什么，我們不是在說‘這就是方法’，…，我們正試圖在這里發(fā)展更嚴格的思想。當(dāng)我們穿越新環(huán)境時，我們正在努力修筑這條路。”