人工智能的風(fēng)險(xiǎn)引發(fā)了更多人的擔(dān)憂。

AGI的通天塔還沒搭成，人類卻早已吵成一團(tuán)。

(相關(guān)資料圖)

成立于2015年的OpenAI，本來是由馬斯克等一眾科技界的億萬富翁共同出資創(chuàng)辦的，只是到了2018年，馬斯克反而斷然撤銷了一筆巨額資金，并直接從OpenAI的董事會(huì)卸任，且公開表示是因?yàn)橛欣鏇_突。

事情到此戛然而止，OpenAI不溫不火倒也不算什么，只是轉(zhuǎn)折在于，當(dāng)OpenAI兩個(gè)月日活1億，且上線了其最新人工智能模型GPT-4，這一舉徹底徹底轟動(dòng)了整個(gè)科技界后，事情又有了新的波瀾。

除了上述秘聞被挖出之外，近日，未來生命研究所直接公布了一封公開信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。

如果只是一個(gè)非盈利機(jī)構(gòu)的公開信提提建議倒也實(shí)屬正常，但值得指出的是，此公開信目前已經(jīng)有1079人簽署，馬斯克在其中尤為醒目，除此之外還有被稱為“人工智能教父”的杰弗里·辛頓，蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等等。

公開信給予的理由是，廣泛的研究表明，具有與人類競爭智能的人工智能系統(tǒng)可能對社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)，且指出，這一觀點(diǎn)得到了頂級(jí)人工智能實(shí)驗(yàn)室的承認(rèn)。

而且相關(guān)背景也被吵出，OpenAI CEO薩姆·阿爾特曼也坦誠，AI已經(jīng)出現(xiàn)其無法解釋的推理能力，同時(shí)承認(rèn)“AI殺死人類”有一定可能性。

但問題來了，到底是學(xué)術(shù)的歸學(xué)術(shù)，眾多科技大佬更擔(dān)心技術(shù)及科研層面AGI帶來的巨大社會(huì)風(fēng)險(xiǎn)，還是更加擔(dān)心借此之下，權(quán)益更加不保？

到底為何而吵？

我們先來看公開信全文，并畫畫重點(diǎn)：

第一，目前沒有人能準(zhǔn)確地理解、預(yù)測或控制AI系統(tǒng)，所以也沒有相應(yīng)水平的規(guī)劃和管理；

第二，現(xiàn)在也并不能確信諸如OpenAI這樣的人工智能系統(tǒng)效果積極、風(fēng)險(xiǎn)可控，即便是OpenAI也在最近聲明中指出，在開始訓(xùn)練未來系統(tǒng)之前，需要得到獨(dú)立審查，不然也同意限制速度；

第三，所以就應(yīng)該在控制上述潛在風(fēng)險(xiǎn)之時(shí)，抓緊共同制定并實(shí)施一套安全協(xié)議，以確保系統(tǒng)的安全性。

公開信全篇都在討論安全，以及擔(dān)心AGI不知道會(huì)將人類帶向何方，尤其是提醒眾人，最好停止使用其他技術(shù)可能會(huì)對社會(huì)造成災(zāi)難性影響，給整體社會(huì)一個(gè)適應(yīng)，保持準(zhǔn)備狀態(tài)，才能可以享受漫長的人工智能夏天，而不是匆忙進(jìn)入秋天。

其實(shí)要這么看來，這個(gè)討論也是正常的，正如公開信所提及的，隨著ChatGPT的風(fēng)頭日盛，關(guān)于人工智能的風(fēng)險(xiǎn)也確實(shí)引發(fā)了更多人的擔(dān)憂。

比如，杰弗里·辛頓在接受哥倫比亞廣播公司采訪的時(shí)候就表示，人工智能可能發(fā)展到對人類構(gòu)成威脅“并非不可想象”的地步。

辛頓的發(fā)言在推特上收到了蓋瑞·馬庫斯的響應(yīng)，稱超級(jí)智能可能會(huì)也可能不會(huì)迫在眉睫，但在短期內(nèi)，需要擔(dān)心“MAI(平庸人工智能)風(fēng)險(xiǎn)”。

馬庫斯甚至認(rèn)為，生成式人工智能的大范圍傳播，或許會(huì)導(dǎo)致比新冠更糟糕的傳播，很多人可能會(huì)因此而死亡，甚至文明都會(huì)因此而被徹底破壞。

就連薩姆·阿爾特曼也在談話中表示，人工智能的超級(jí)智能所帶來的風(fēng)險(xiǎn)，可能會(huì)遠(yuǎn)遠(yuǎn)超出我們的預(yù)料，“GPT系列為何會(huì)出現(xiàn)推理能力，OpenAI的研究者自己都搞不明白。只是在不斷測試中，人們忽然發(fā)現(xiàn)：從ChatGPT開始，GPT系列開始出現(xiàn)了推理能力。AI確實(shí)可能殺死人類。”

當(dāng)然，風(fēng)向并沒有一邊倒，總不能剛開始有人工智能狂飆的苗頭就直接掐滅，同樣作為圖靈獎(jiǎng)得主的Yann??LeCun，就直接沒有簽署上述公開信，并直接表示不同意上述前提。

且值得商榷的是，這1000多位大佬的簽名中，還冒出了一個(gè)所謂的OpenAI CEO，但根據(jù)馬庫斯和一眾網(wǎng)友的推測，這反而像一出羅生門，使得事情更加可疑。

我們理解，隨著OpenAI的GPT模型不斷向前地毯式推進(jìn)，全球的各家AI實(shí)驗(yàn)室乃至AI企業(yè)都正在瘋狂展開AI競賽，都想用更短的時(shí)間來開發(fā)和部署更強(qiáng)大的AI，以使得自身在新的時(shí)代有更多的話語權(quán)，這確實(shí)會(huì)裹挾更多瘋狂，使得場面更加不可控制。

甚至，毫不諱言，公開信只是展露了一個(gè)事實(shí)，大家更擔(dān)心的是，這些人工智能的系統(tǒng)越來越集中地掌握在大型科技公司的手中，確實(shí)會(huì)給更多的人帶來不安全感，這是必須要解決的問題。

如果按照公開信所言，技術(shù)暫停6個(gè)月，或許會(huì)有利于各個(gè)公司集中起來做出更穩(wěn)妥的方案出來。

巨頭位置決定當(dāng)下態(tài)度

但其實(shí)，GPT的不斷演化固然像被打開的潘多拉魔盒，更多的還是巨頭被裹挾，在下一個(gè)時(shí)代來臨之時(shí)沒有拿到船票的恐慌。

馬斯克離開OpenAI不要緊，6個(gè)月后，OpenAI從微軟那里獲得了10億美元的投資，并跟微軟形成了深度捆綁的關(guān)系：微軟直接在GPT-4發(fā)布后第一時(shí)間表示，新的Bing已經(jīng)基于GPT-4技術(shù)運(yùn)行。

這也為微軟帶來了巨大的好處：Bing的日活首次突破1以，且在移動(dòng)設(shè)備上使用率有所增長。微軟甚至展示了其類似ChatGPT的人工智能在原來Office辦公套件中的妙用，甚至，OpenAI還能幫微軟成為使用更廣泛的人工智能云。

這一切當(dāng)然會(huì)讓馬斯克不爽，去年12月，ChatGPT發(fā)布一個(gè)月后，馬斯克取消了OpenAI對Twitter數(shù)據(jù)的訪問權(quán)限，而這項(xiàng)協(xié)議是在馬斯克收購Twitter之前簽訂的。

乃至于近期，馬斯克甚至在推特上表示，“我仍然很困惑，一個(gè)我捐贈(zèng)了近1億美元的非營利性組織，如何成為一個(gè)市值達(dá)300億美元的營利性機(jī)構(gòu)？如果這是合法的，為什么不是每個(gè)人都這么做？”

馬斯克隨后還用了更加直白的語言，“我意識(shí)到，人類創(chuàng)造的最強(qiáng)大的工具，現(xiàn)在掌握在一個(gè)無情的壟斷公司手中。”“人類還能做什么？我們最好使用Neuralink（來對抗人工智能）！”

這或許是因?yàn)槌藗?cè)面交鋒之外，OpenAI開始跟特斯拉正面剛：據(jù)媒體報(bào)道，OpenAI正在進(jìn)軍特斯拉的機(jī)器人領(lǐng)域，且已經(jīng)投資了挪威人形機(jī)器人公司1X。而這早也引起了外界對于GPT模型和機(jī)器人結(jié)合的熱烈討論。

那么，在眾多業(yè)內(nèi)人士都達(dá)成共識(shí)，表示生成式AI的產(chǎn)生本質(zhì)上是一種生產(chǎn)力革命，其不僅是工具，而是直接成為生產(chǎn)要素的重要部分，馬斯克還曾堅(jiān)信，只有他自己才能真正安全開創(chuàng)人工智能時(shí)代，或許真的是一種吃不到葡萄說葡萄酸的心理了。

不然，類比下黃仁勛，在今年GTC的官方預(yù)告中，黃仁勛直接表示：“AI正迎來有史以來最輝煌的時(shí)刻。新的AI技術(shù)和迅速蔓延的應(yīng)用正在改變科學(xué)和各行各業(yè)，并為成千上萬的新公司開辟新的疆域。這將是我們迄今為止最重要的一次 GTC。”

投中網(wǎng)也曾之前調(diào)侃過，“巨頭AI混戰(zhàn)背后，‘賣水的’賺麻了”，屁股決定腦袋，巨頭乃至科技大佬的一言一行一定代表了他們自身的立場和利益。

尤其是，蘋果、谷歌、微軟乃至國內(nèi)百度、阿里、騰訊、美團(tuán)等無一不是因?yàn)檠鹤⒘思夹g(shù)的紅利，形成了自身巨大的護(hù)城河，那么當(dāng)OpenAI作為一個(gè)外部來的攪局者，希望建立一個(gè)由自身作為入口的新型人工智能驅(qū)動(dòng)的新模態(tài)，早前的既得利益者怎么會(huì)輕易罷手？

就連辛頓自己都在接受CBS NEWS采訪時(shí)都表示，人工智能正處于一個(gè)「關(guān)鍵時(shí)刻」，通用人工智能(AGI)的出現(xiàn)比我們想象的更加迫近。

AI的應(yīng)用，讓人和計(jì)算機(jī)交互的方式產(chǎn)生了劇變，已經(jīng)是個(gè)不爭的事實(shí)，一個(gè)非常確定且巨大的時(shí)代機(jī)會(huì)下，誰甘心自己是沒有船票的哪個(gè)人？

有眼可見，接下來或許技術(shù)層面有待確認(rèn)是否安全，但商業(yè)世界的爭吵一定會(huì)愈演愈烈，畢竟，現(xiàn)在正是見證歷史的時(shí)刻。

標(biāo)簽：