大家都知道，上周差評君去WAIC上看機器人去了，但其實咱也順便看了看諾獎得主，AI教父辛頓的一個演講。
話里話外的總結(jié)一下就是，老爺子又開始擔憂了。
現(xiàn)在AI太厲害了，已經(jīng)有點控制不住了，各國得趕緊想辦法給它管管，可不能養(yǎng)虎為患。
當然很多差友估計也都知道，這也不是老爺子第一次這么說，這兩年他一直覺得自己打開了潘多拉魔盒，跟葉文潔似的，點燃了火，卻控制不了它。
該說不說，AI這玩意兒到底安不安全，會不會突然長腦子，把咱人類給一波團滅了，其實一直是這行里最前沿的話題之一，谷歌的哈薩比斯前幾天也擔憂過。
雖然每次大家一說AI要成精了，科學(xué)家們都會站出來辟謠，讓大家冷靜冷靜。但是你要較真，未來AI到底會不會有意識，毀滅人類？那他們可就不好說了，科學(xué)家里也有信的有不信的。
這里邊兒最核心，大家都公認的事其實就一個，AI現(xiàn)在確實太強了。不過咱今天想跟大家嘮的是，讓這些大佬感到恐懼的，究竟是什么。
中國現(xiàn)代有個哲學(xué)家叫趙汀陽，這人說你要討論AI安全性這塊兒，那就得話分兩頭。一個叫意識的威脅，另一個叫能力的威脅，先別把這兩件事搞混。
咱就拿辛頓這次講話來說，首先第一個前提，他覺得這人腦，跟現(xiàn)在的大語言模型（LLM）其實差不多，都一個類型。
其實這也好理解，深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)啥的說白了，它本來就是帶點模仿生物的樣子做的嘛。咱編輯部不少有育兒經(jīng)驗的同事也覺得，小孩剛開始學(xué)語言啥就跟訓(xùn)練大模型很像很像。
所以你要這么去推理，AI這玩意他很可能也就跟小孩一樣，能發(fā)展出來自我意識，那它就也有青春期，也會叛逆啊。看過動漫的都知道，中二小孩談個對象都得毀天滅地的，萬一這AI學(xué)歪了，那不就完蛋了。
所以像這種，這就叫意識的威脅。
舉個例子，22年谷歌有個事兒鬧挺大。說是有個谷歌工程師，跟谷歌的LaMDA模型聊天，聊著聊著發(fā)現(xiàn)這東西太像人了，什么都懂，還說自己有意識，不想被關(guān)掉。于是這哥們兒就嚇到了，一封預(yù)警信交上去，結(jié)果谷歌反手把他給開了。當時就搞得一堆人說，谷歌這老小子有陰謀啊，搞智械危機啊。
然而在工程師眼中，這屬實是有點san值太低了。因為LaMDA其實跟別的模型沒啥區(qū)別，只是規(guī)模更大了，語言更流暢，所以剛開始接觸到的測試者就被嚇暈了。
但在三年后的現(xiàn)在，各家的大模型其實都比LaMDA會說話，甚至像GPT-4o啥的，還專門要測一個情商分。
至于大家覺得像人，當時有認知科學(xué)家就分析，說這是因為人類天然有擬人化的偏見，會把有人類特征的東西投射在非人實體上，這種事在視覺上其實更常見，比如這張圖。
那有朋友可能就要問了，你咋就能確定模型沒有自我意識呢，萬一這些模型其實都有意識，只不過裝的清純無害呢？
老實說，要這么問，那這問題其實沒法回答。
現(xiàn)代哲學(xué)上有一個叫哲學(xué)僵尸的概念，啥意思呢，就是假設(shè)你身邊有個偽人，跟活人一毛一樣，他也會說話，也會拉屎，下雨也知道往家走，你跟他講笑話他也跟著笑，你倆看恐怖片他也抖，但是以上這些所有動作都是它裝的，其實它沒有自我意識，內(nèi)心毫無波瀾，只是個有這種逢場作戲的條件反射的軀殼。
那么問題來了，你怎么判斷你身邊這個朋友是活人還是偽人呢？
這個思想實驗就是說，對個體而言，你其實沒法判斷對面的人是不是真有自我意識，那就更不要說AI和機器人了。
所以對于AI會不會產(chǎn)生意識的討論，說白了辯論雙方再怎么討論也是雞同鴨講眼碌碌。
用連線雜志主編，技術(shù)預(yù)言家凱文凱利的話來說，我們對意識本身幾乎一無所知，我們甚至不知道我們自己的意識是什么，所以去討論它們“有沒有”意識其實非常困難。
所以，對意識的恐懼，其實目前更多還是在哲學(xué)的層面上，也確實不好討論。那既然不用討論，辛頓這些大佬是不是就擱這兒杞人憂天呢？恰恰相反。
這咱就得說到另一邊兒，能力的威脅。
還是拿辛頓來講，老頭呢這次的第二個觀點就說，這大模型啊，他學(xué)知識學(xué)的太快了，嚇銀。
拿我們?nèi)祟惐龋瑒⒋刃赖男≌f鄉(xiāng)村教師里就寫，我們?nèi)祟愂强柯晭г诳諝饫飩鞑フ駝觼斫粨Q信息的物種，一秒的傳輸量才幾個比特，哪怕你從中專開始學(xué)說唱，完事兒你叭叭半天，信息量都趕不上百度網(wǎng)盤下載速度。
而且就算你講出來，聽的人能不能學(xué)會還兩碼事呢。不少信息都是左耳進右耳出，這咱上過學(xué)的都懂。
但是這AI它就不一樣。首先人家在電腦里，信息速度那首先海了去了，就不說在電線里跑，這次WAIC上連光通信的都有了，這你咋比。
再一個，人家學(xué)的也快。不光是人家能力進步快，一秒讀完好幾本書這種，關(guān)鍵AI這東西哪怕互相學(xué)習(xí)，它也快。
比方你有一很牛的大模型，你怎么讓小模型也學(xué)會呢？只需要蒸餾一遍，這小模型就能全掌握，變成大模型的樣子。
所以這辛頓就擔憂，那要照這么發(fā)展下去，人類不就遲早玩成了AI的玩物了？這回演講中他就說，大家搞這個是養(yǎng)老虎，別看它現(xiàn)在小，以后長大了遲早要吃人。
該說不說，辛頓這話確實有道理，聽得有點后背發(fā)涼是不。
就拿現(xiàn)在用的最多的聊天AI來說，光這玩意負面新聞就也不少了，有宣傳納粹思想的，有教唆青少年自殺的，有讓小孩子加入邪教獻祭儀式的。
再比如，《侏羅紀公園》的作者以前寫過一篇科幻小說，說是某天人類發(fā)明了一個醫(yī)用機器人，可以自己制造打印材料，制造新的機器人。但有一天出了個bug，機器人開始從環(huán)境里掠食有機物來復(fù)制，于是就把地球上所有生命（包括你我）都團滅了。
所以哪怕這AI它就算沒有意識，但就這個成長速度，未來AI跟硬件互聯(lián)還能控制機器人，那出點兒什么事，我是想都不敢想。
那看到這，可能有朋友得生氣了，聽你這么一說，合著發(fā)展AI就是個錯唄，那大家干脆學(xué)波爾布特行了。
然而你瞅瞅外邊兒，這AI大趨勢奪么火熱，就知道那肯定不是所有人都這么想的。比方說馬克·安德里森，人就覺得AI就純粹是一工具，能“給人類帶來無限繁榮”的“有史以來最好的東西”，吹上天了這一塊。
不過在凱文·凱利（KK）看來，甭管是辛頓還是馬克·安德里森，其實都沒說到點子上。
在他十年前出版的《必然》一書中認為，烏托邦和反烏托邦其實都更像是基于對未來盲目，這種盲目或許只是現(xiàn)代社會難以逃避的苦惱，因為技術(shù)的發(fā)展實在是太快了。
而真正的未來，反而是當下就能看到的、正在“形成”這種進程的產(chǎn)物（protopia）。
所以他倒是覺得，AI更像一種工具，最終發(fā)展估計就像電一樣，會成為大家生活里的一個基礎(chǔ)設(shè)施。那家用電還能短路起火災(zāi)呢，有本事你別用啊。
照他的意思，它不是來取代人類的，是來增強人類的。AI下棋軟件的出現(xiàn)，并沒有讓國際象棋完蛋。反而是在這些超強軟件的幫助下，下棋的人數(shù)、比賽的數(shù)量、棋手的水平，全都達到了歷史最高，棋力碾壓古人。
這么想，未來一定是人和AI融合的，就像我們離不開手機一樣。
圖源Bilibili: 野路子梗畫師
其實說白了，任何大有作為的新發(fā)明都會有反對者，而且作為越大，反對聲也越大。 現(xiàn)在大家對AI的恐慌，研究技術(shù)奇點帶來會毀滅還是狂歡，這場面倒特像50年前大家討論互聯(lián)網(wǎng)。
1994 年,《時代周刊》認為互聯(lián)網(wǎng)“并非為商業(yè)設(shè)計,也不能優(yōu)雅地容忍新用戶”，所以永遠不會成為主流。。。
1995年2月,《新聞周刊》在標題里更是直接開大，互聯(lián)網(wǎng)？我呸！(Internet ? Bah!)。這文章還認為在線購物和網(wǎng)絡(luò)社區(qū)有違常識，都是不切實際的幻想，覺得在線數(shù)據(jù)庫不會取代報紙。
你瞅瞅這臉打的。
不過雖然凱文·凱利認為AI的重要性不亞于火、印刷術(shù)和工業(yè)革命，然而他也說，100年后估計AI會真的有大眾理解的那種意識，而且會是與人類完全不同的模式，他稱之為異人意識(alien consciousness)。
實際上，甚至在互聯(lián)網(wǎng)尚未起步的時代，科幻作家和哲學(xué)家們就已經(jīng)開始擔憂機械智能毀滅人類了，比如戰(zhàn)錘40k里的鐵人叛亂。
用哲學(xué)家趙汀陽的話說，以前的技術(shù)革命，只是理性的技術(shù)升級，但人工智能和基因編輯不僅僅是技術(shù)革命，而且是存在論水平上的革命，技術(shù)的無限進步也許是一場不可信任的賭博。
不過要我說，無論是覺得有沒有意識，啥樣的意識，還是認為AI是養(yǎng)老虎或者新電力，我覺得咱還是得從務(wù)實的角度來看。
目前大多數(shù)人都同意一件事是，這玩意的力量確實超乎人類想象，那就絕不能放任自流，該管還得管。這就好比核能。核裂變可以發(fā)電，但核武器的威脅一天都沒離開過我們，上個月美國還為這事飛B2呢。
大國之間既然可以通過協(xié)商，制訂條約來限制核武器，那在AI這塊兒其實也一樣。人類需要一起坐下來，給它訂一個防火墻，來防止那個可能發(fā)生在100年后的危機。
比方說馬斯克就老琢磨，AI這玩意兒以后估計要都集中在幾個巨頭手里，那萬一哪家AI叛變了，剩下的也夠嗆打得過。所以他要去搞開源的OpenAI，覺得人人有槍那它就不亂，提出一些美國方案。
這方案好不好咱先不說，但這說明，大家已經(jīng)開始認真思考如何建墻的問題了。
所以在我看來，AI這事兒，你要說它是天網(wǎng)降臨那有點過，要說天下太平也不至于。
就像KK說的，我們現(xiàn)在就像站在1984年，看著一堆剛剛注冊的.com域名一樣，一臉懵逼又滿心激動。本世紀前半葉最偉大的事物已經(jīng)出現(xiàn)在我們面前，只不過那些奇跡般的發(fā)明，都在等著人類用卓識遠見和智慧來采摘那些累累果實。
技術(shù)爆炸的未來注定是一場冒險，而我們，全人類，都是這未來的一份子。