我知道，暫停大模型研究種事，基本是不可能了。但我還是覺得應(yīng)該暫停。

尤其是當(dāng)我看到Smallville小鎮(zhèn)。

盡管在現(xiàn)實(shí)世界中，離情人節(jié)還有很長的時間，但在Smallville小鎮(zhèn)上，正在準(zhǔn)備舉辦一場盛大的情人節(jié)派對——我寫這篇稿子的時候，鎮(zhèn)上的時間是2023年2月13日的上午。

(資料圖)

派對的策劃人是Wolfgang Schulz，今年21歲，是橡樹山學(xué)院化學(xué)專業(yè)的學(xué)生，也是一名學(xué)生運(yùn)動員。

整整一上午，她都在回復(fù)郵件和定制派對上要用到的裝飾品，她也和其他人聯(lián)系，確定時間和節(jié)目。

這場派對邀請了全鎮(zhèn)居民參加，一共25個“人”，他們的年齡相差有些懸殊，Wolfgang算是很年輕的居民，另外還有年過半百的藝術(shù)家，四十出頭的建筑設(shè)計師，以及最近要去佛羅里達(dá)旅行的程序員等等。

Smallville鎮(zhèn)有一條環(huán)形公路，中間是鎮(zhèn)圖書館，道路的另一側(cè)是民房和學(xué)校，而幾乎所有房子的窗戶都能看見鎮(zhèn)子唯一的公園——明天，情人節(jié)派對就在那里舉辦。

這簡直是既浪漫又充滿生機(jī)，我俯瞰著整個鎮(zhèn)子，看著Wolfgang為派對忙前忙后，畫家鋪好紙張，設(shè)計師繪制藍(lán)圖，主婦擰開爐灶的旋鈕，老人走到后院開始修剪草坪……

如果這一切不是2D像素組成，如果Smallville小鎮(zhèn)不是斯坦福大學(xué)一個“Generative Agents”（生成式智能體）實(shí)驗(yàn)，如果Wolfgang的和她的情人節(jié)派對不是智能交互的一部分，如果一切對話不是ChatGPT模型的生成……

我甚至認(rèn)為這一切無限接近于真實(shí)的虛構(gòu)，或許因?yàn)榧映至薃I的力量而顯得有些可怕——最新的技術(shù)顯示，通過下載公有模型，使用云技術(shù)，你甚至不需要哪怕一塊GPU就能在家訓(xùn)練一個屬于自己的模型，為AI添加獨(dú)一無二的靈魂。

這讓我想到前一陣，馬斯克和圖靈獎獲得者Yoshua Bengio，以及一眾技術(shù)大牛聯(lián)合呼吁暫停所有GPT4以上的模型研究6個月。

這或許并不僅僅出于一場商業(yè)角逐，而確實(shí)是對人類未來的擔(dān)憂。

01 當(dāng)AI有靈魂

Smallville沒有黑夜——不過斯坦福大學(xué)技術(shù)團(tuán)隊制造的25個AI小人也需要休息。

在這里，25個“人”被植入AI靈魂。

他們白天忙碌，各司其職。比如畫家清點(diǎn)作品要去城里辦一個畫展；鎮(zhèn)上藥店的老板想辦法讓居民以更快的速度訂到藥劑；工程師為某個項目和建筑設(shè)計師討論圖紙；音樂家則熱衷于演奏和與任何一個居民探討音樂。

在Smallville，時間的流逝是現(xiàn)實(shí)世界的3倍，盡管如此之快，每個居民仍然擁有“出生”后的記憶，并根據(jù)記憶做出判斷，比如履行一個星期前和某人的某個約定——這一點(diǎn)上，AI從不會爽約。

這一系列令人驚嘆模擬，源于一個乏味的技術(shù)名詞——Generative Agents，中文是“生成式智能體”，它解釋起來比較拗口：利用生成模型來模擬可信人類行為的智能體，并證明它們能產(chǎn)生可信的個人和突發(fā)群體行為的模擬。

斯坦福的技術(shù)團(tuán)隊為“生成式智能體”給出的界定：

能夠?qū)ψ约骸⑵渌悄荏w和環(huán)境進(jìn)行廣泛的推斷；能夠根據(jù)自身特點(diǎn)創(chuàng)建日常計劃并執(zhí)行，并根據(jù)執(zhí)行結(jié)果考慮是否重新部署計劃；能夠在終端用戶改變環(huán)境或用自然語言命令它們時做出反應(yīng)。

這其實(shí)就是制造了25個有靈魂的數(shù)字人，再讓他們通過ChatGPT-3.5自然語言模型進(jìn)行交互，由此實(shí)現(xiàn)了真正意義上的AutoGPT——AI驅(qū)動AI。

但離現(xiàn)實(shí)越近，人們越感到后背發(fā)涼。

隨著時間的推移，小鎮(zhèn)上的AI憑借記憶和推斷形成了新的關(guān)系，他們的互動開始帶有明顯目的——有了是非之分，甚至開始喜歡或討厭一個人。

例如，Sam 一開始并不認(rèn)識Latoya，兩人在公園散步時初次相識，在第一次對話中，Latoya 提到自己正在進(jìn)行一個攝影項目，她告訴Sam：“我正在拍攝一組關(guān)于公園的照片。”

而幾天之后兩人再見面時，Sam 問道：Latoya，你的拍攝進(jìn)展如何？Latoya 回答：進(jìn)展得很好——兩人的關(guān)系更進(jìn)一步。

而此時，Sam正是鎮(zhèn)長的競選人之一，他請求Latoya作為朋友投他一票，Latoya欣然同意——然而從其他AI的對話中也可以看出，有人不喜歡Sam這種“交際花型”候選人，雖然Sam的支持率左右搖擺，但他仍舊積極地試圖和每個人交流，擴(kuò)大自己在鎮(zhèn)子上的影響力。

需要注意的是，這一切都沒有人類進(jìn)行干預(yù)——每一個AI都擁有自己的個性和對環(huán)境的判斷，雖然這些生成偶爾也會犯錯誤，比如未能檢索相關(guān)記憶，甚至憑空編造一段記憶，但瑕不掩瑜，在這個2D像素的世界里，AI已經(jīng)不斷演化出堪比真實(shí)世界的故事了。

然而令人生畏的技術(shù)不止如此。

02 暫停AI

最近一個月里，有人發(fā)現(xiàn)自己的ChatGPT賬號失竊了。

網(wǎng)絡(luò)防火墻研究機(jī)構(gòu)Check Point在一份報告中提到，多數(shù)失竊的ChatGPT賬號都流向了——暗網(wǎng)。在那里，這些賬號被當(dāng)做商品售賣，并且可以用加密數(shù)字幣結(jié)賬，因此賬號的最終去向沒辦法追蹤。

另外在暗網(wǎng)，ChatGPT Plus帳戶的終身升級費(fèi)用僅為59.99美元，而OpenAI對此服務(wù)的官方定價為每月20美元——這項地下服務(wù)還提供了與另一名黑客共享ChatGPT帳戶的選項，價格為24.99美元，終身有效。

按理說，ChatGPT只是一個自然語言大模型，比如上面的提到的Smallville小鎮(zhèn)，用到與ChatGPT相關(guān)的技術(shù)，也只是AI之間的自然語言交流。

為什么這一技術(shù)在地下交易中異常踴躍？

還是創(chuàng)造Smallville小鎮(zhèn)的斯坦福大學(xué)，其計算機(jī)與心理學(xué)教授Michal Kosinski前不久在一篇論文中認(rèn)為，心智理論可能自發(fā)地出現(xiàn)在大型語言模型中。

簡單說，就是一些AI語言模型在訓(xùn)練中已經(jīng)產(chǎn)生了意識。在那篇論文中，Kosinski認(rèn)為，以GPT4為例的大語言模型，為了提高語言能力，演化出一種類似ToM的能力。

ToM全稱Theory of Mind（心智理論），是一個心理學(xué)術(shù)語，這被認(rèn)為是人類獨(dú)有的能力，即通過觀察對面人物的表情、肢體動作和環(huán)境變化，來推斷對方的行動，并因此調(diào)整自己的決策。論文中，Kosinski通過一系列和ChatGPT的對話實(shí)驗(yàn)，來證實(shí)ToM之于AI的存在。

這就像是在Smallville小鎮(zhèn)，Sam通過和Latoya成為朋友而得到一張選票，也可以將這個邏輯反過來說：Latoya因?yàn)镾am和她關(guān)系的改變，而為他投了一票——這里劃重點(diǎn)，Sam很明顯的知道，通過交朋友，可能會得到更多的選票，他因此在公園散步時，和Latoya打了招呼。

圖/Smallville小鎮(zhèn)

是的，AI已經(jīng)初步掌握了社會關(guān)系中的人情世故。

這就能解釋為何在暗網(wǎng)上，有人會出售ChatGPT賬號牟利，某種意義上，一個ChatGPT賬號就是一個可以被開發(fā)的，擁有空白靈魂的模型——你往里面裝什么，它就變成什么。

當(dāng)然，并不是人人都會冒險在暗網(wǎng)上購買ChatGPT的賬號用于訓(xùn)練模型，畢竟還需要耗費(fèi)大量資金用來購買GPU，不過，另外的技術(shù)可以幫助普通人不用GPU也能訓(xùn)練屬于自己性格的模型。

比如利用一種名為Vicuna的模型，它被嵌在瀏覽器中，訓(xùn)練者只需要鍵入命令，相關(guān)的模型包就會下載到本地，測試者對模型進(jìn)行了多語言、寫詩、寫小說等試驗(yàn)，發(fā)現(xiàn)Vicuna足以在個人電腦上利用CPU訓(xùn)練出一個初級的Smallville小鎮(zhèn)。

另一邊，在今年1月舉行的美國電子消費(fèi)展上，三星發(fā)布了NEON——迄今為止最真實(shí)的數(shù)字人——你甚至用真人來形容都不為過。但NEON在發(fā)布之初并未收到太多關(guān)注，直到ChatGPT為AI注入靈魂——有人說，NEON+ChatGPT，終究打開了人類社會賽博朋克的大門。

還有幾個小時，在那個虛擬的Smallville小鎮(zhèn)上，虛擬的情人節(jié)派對就將由虛擬的AI舉辦——你當(dāng)然可以隨時關(guān)掉網(wǎng)頁忘掉這一切，但AI的研究并未因此而停止。

倡導(dǎo)暫停研究AI的大佬馬斯克已經(jīng)轉(zhuǎn)身成立了新的大模型公司。說實(shí)話，這背后頗有一種“既然無人問津，不如破罐破摔”的做法——技術(shù)當(dāng)然無罪，但技術(shù)能創(chuàng)造出什么東西來，誰都說不好。

標(biāo)簽：