在人人都能對無人駕駛、語音識別、AI醫(yī)療等評頭論足的今天，又有多少普通人真正了解“人工智能”是如何從不被看好到今天的火爆的?還有，我們要了解什么學(xué)科才能更好地理解AI?人工智能到底是會把人類帶入烏托邦還是世界末日?人類會成為人工智能的奴隸嗎?
這些高屋建瓴，又尤其需要理性思考的問題，當(dāng)然需要人工智能領(lǐng)域先驅(qū)者提供視角與答案。
特倫斯·謝諾夫斯基 出版社供圖
特倫斯·謝諾夫斯基(Terrence Sejnowski)在人工智能領(lǐng)域的地位舉足輕重，作為神經(jīng)網(wǎng)絡(luò)和計算神經(jīng)科學(xué)的先驅(qū)，他對這些議題擁有絕對的話語權(quán)。此次來到中國，僅僅兩天的行程，就有十多家媒體蜂擁而至。國內(nèi)的神經(jīng)科學(xué)家、腦科學(xué)家、計算機科學(xué)家、心理學(xué)家、當(dāng)然還有所有對AI感興趣的各行各業(yè)人士都希望能和他聊上一聊。
他奪目的光環(huán)包括：世界十大人工智能科學(xué)家之一，美國僅 3 位在世的四院院士之一，他還同時兼任NIPS(全球人工智能頂級會議)主席，奧巴馬政府“大腦”計劃顧問委員會委員等等。
早在1986 年，他就與上周獲得“圖靈獎”的杰弗里·辛頓(Geoffrey Hinton)共同發(fā)明了玻爾茲曼機，開啟了神經(jīng)網(wǎng)絡(luò)的快速發(fā)展。正是基于此項貢獻，深度學(xué)習(xí)從邊緣課題變成了人工智能仰賴的核心技術(shù)。也就是說，他和好友杰弗里·辛頓直接推動了人工智能的井噴式發(fā)展。
特倫斯除了是一名杰出的科學(xué)家和研究者，還是一名十分擅長傳授知識和理念的教授，他本人一直于在線學(xué)習(xí)平臺 Coursera開設(shè)一門名為《學(xué)會如何學(xué)習(xí)》的免費課程，通過系統(tǒng)講解大腦認知的底層知識，讓學(xué)習(xí)者可以改變思維模式，提高學(xué)習(xí)的能力和效率。截至目前，已吸引了超過 300 萬聽眾，被認為是全球最受歡迎的互聯(lián)網(wǎng)課程之一。
作為最了解人工智能歷史、趨勢，最早開啟人工智能浪潮的人，一個長期致力于科普的教授與作家，七十四歲的特倫斯前不久前剛出版了這本《深度學(xué)習(xí)》。用他自己的話說，“現(xiàn)在市面上有百余本關(guān)于人工智能的書。但他們都太情緒化了，要么鼓吹人工智能的優(yōu)勢將會幫助全人類，以后我們將生活在烏托邦，要么走向另一個極端——人工智能將帶來世界末日。但我們要知道，現(xiàn)實是介于兩者之間的。我想做的就是提供一個對未來可能性更實際的評估。此外，AI領(lǐng)域發(fā)展得如此之快，以至于人們甚至都不知道它的發(fā)展方向。所以，未來到底在哪里呢?”
這也是一本關(guān)于深度學(xué)習(xí)的科普讀物，為圈外人了解深度學(xué)習(xí)在過去60年間的發(fā)展脈絡(luò)與人工智能的螺旋上升，了解AI的過去、現(xiàn)在和未來提供了絕佳的材料。
3月31日上午，澎湃新聞就本書的內(nèi)容，對深度學(xué)習(xí)以及算法的相關(guān)問題，對人工智能的倫理問題等對特倫斯·謝諾夫斯基專門進行了一次采訪。特倫斯罕見地強調(diào)了他在科研領(lǐng)域從無名之輩到“中頭彩”的傳奇經(jīng)歷，他希望中國讀者喜歡他講述的這個不迷信權(quán)威的故事，他說：“我不信任權(quán)威。即使他們擁有所有的權(quán)力，也不意味著他們是對的。人要相信自己，你的直覺很重要。即使現(xiàn)在你沒有權(quán)力，或許有一天你會的。”
“為什么人工智能的突破不是通過寫程序，而是通過深度學(xué)習(xí)?”
澎湃新聞：你撰寫這本書的初衷是什么?你希望中國讀者可以從這本書里學(xué)到什么?
特倫斯：這本書其實是記敘性的，我講了一個故事，提供了很多背景資料。很多讀報紙的人會誤以為所有的關(guān)于AI和深度學(xué)習(xí)的發(fā)展都是一夜之間發(fā)生的。這是因為在過去的三十年里，學(xué)術(shù)研究一直只在幕后進行，沒人聽說過，然后它卻突然間上了報紙。所以我認為，需要有人出來向公眾解釋它是從哪里來的，以及科學(xué)是如何運作的。我認為一定要有人來講這個故事。
現(xiàn)在市面上有很多關(guān)于人工智能的書。我想大概有一百本這樣針對大眾的書，但這些書都只是為了制造噱頭，要么是鼓吹著人工智能的優(yōu)勢將會幫助全人類，以后我們將生活在烏托邦。要么走向另一個極端——人工智能將帶來世界末日。人類將被統(tǒng)治，成為人工智能的奴隸。但你要知道，現(xiàn)實是介于兩者之間的。我想做的就是提供一個對未來可能性更實際的評估。還有另外一件事需要注意，就是這個領(lǐng)域發(fā)展得如此之快，以至于人們甚至都不知道它的發(fā)展方向。所以，未來到底在哪里呢?
我的書可以分為三個部分。第一部分是談?wù)撨^去，即我們從哪里來?第二部分是具體的算法，試著解釋算法的原理。我盡我最大的努力去解釋算法到底是什么(笑)，以及我們在發(fā)展的過程中遇到了什么困難，又是如何克服的。
最后一部分是展望未來，我試圖解釋神經(jīng)科學(xué)和人工智能之間的關(guān)系。
這本書要傳達的信息就是，人工智能和大腦之間有一種趨同，它們實際上正在走向一起。人工智能越來越像人的大腦，并且受到腦科學(xué)的啟發(fā)。當(dāng)人工智能得到發(fā)展后，腦科學(xué)也可以受益。因為我們在機器學(xué)習(xí)中開發(fā)的這些工具和技術(shù)將可以用來解釋大腦。所以，這兩個領(lǐng)域之間有著很好的互動。
但我希望中國讀者能夠從書中學(xué)到的是失敗者的故事。我們是在1980年代開始這些研究的。那個時候?qū)W界被斯坦福，麻省理工和卡內(nèi)基梅隆這樣的大學(xué)所統(tǒng)治。他們從政府那里得到所有的經(jīng)費和工作。他們有權(quán)威，也是專家。這些人得到了最好的工作，控制著他們的學(xué)生。他們還得到了所有的關(guān)注。簡言之，他們是掌權(quán)的人，是權(quán)威人士。而這時候我們是誰呢?我們很年輕，是無名之輩。當(dāng)時我和杰弗瑞(Geoffrey Hinton)在一個會議上遇見了，我們都覺得這些權(quán)威人士的方法是錯誤的。之所以錯是因為不切實際，或者說，他們的方法實際上沒有取得任何進展。
他們的確解決了一些問題，比如做些小玩具演示。但是他們沒有解決任何高難度問題，比如視覺。視覺對人類來說很簡單。你睜開眼睛，一抬頭，就看到了東西，一個物體、一只手，又或者是文字。這件事就是發(fā)生了，人類把這視作理所當(dāng)然，因為這一切都是在無意識中發(fā)生的。正因此，你不知道為什么你可以看見東西。盡管沒人知道這是怎么一回事，但當(dāng)時研究人工智能的人卻覺得視覺是個簡單的問題。因為相比之下，他們可以寫一個可以玩游戲，并且解決理論和數(shù)學(xué)問題的程序。他們認為這是最難的，他們覺得數(shù)學(xué)比視覺復(fù)雜得多。但他們完全錯了。
這本書講述了我當(dāng)時作為無名之輩的故事。在當(dāng)時，我作為年輕的研究人員沒有地位，也是剛開始工作。所有的權(quán)威人士都沿著一條路走?？晌覀冋J為他們錯了。但我們是誰呢?我們只是有自己的想法而已，我們不能改變這個世界的運作方式。在那里我們根本沒有任何權(quán)力。而我們擁有的，就是干勁、年輕的熱情和對自己的信念。
我們相信我們有不同的方法來解決智能的問題。我們從解決大腦問題的方式中得到啟發(fā)，因為這是唯一能證明你能解決問題的依據(jù)。我們意識到的舊方法的錯誤之處就在于，計算機和大腦的結(jié)構(gòu)是不同的。大腦是大規(guī)模并行的結(jié)構(gòu)。計算機只有一個處理器和內(nèi)存，且它們互相聯(lián)系。但這就是瓶頸所在：你得不到足夠的信息。但大腦是在處理大量的信息，且必須同時進行。
舉個例子，如果傳統(tǒng)的計算機要掃描一幅圖像，它一次只能掃描一個像素點，但你的視網(wǎng)膜有一百萬個感光細胞同時工作，所以效率更高。一邊是很多種不同類型的計算機，一邊是大腦。人工智能的研究人員一直盯著計算機想要解決智能的問題。但大腦就在這里等著你研究，為什么他們要看那邊呢?
有一句諺語是這么說的，如果你丟了鑰匙，不要因為哪里有光就去哪里找。有光的地方并不意味著鑰匙在那里，對吧?你看到有人在燈柱下搜索。但是丟鑰匙的人是我，他們在那尋找并不意味著你能找到自己的鑰匙。事實上，你把鑰匙丟在這條巷子里了。因此，如果你不往小巷里找，你就找不到你的鑰匙。這就是我想說的，人必須看到別的地方。
澎湃新聞：你覺得我們今天已經(jīng)完全了解視覺是如何運作了的嗎?
特倫斯：我認為我們還沒有。我們永遠無法知道一切，這個目標太高了。但實際上，我們運用深度學(xué)習(xí)和神經(jīng)元的知識，了解了很多猴子視覺皮層神經(jīng)元的知識。這兩個方面的知識正在匯聚。我想很快我們會有一個視覺理論，一個關(guān)于視覺背后的機理的數(shù)學(xué)解釋。
澎湃新聞：那些當(dāng)時壟斷人工智能領(lǐng)域的人，他們是計算機科學(xué)家嗎?
特倫斯：對，他們大部分是工程師。計算機科學(xué)也在發(fā)展，這門學(xué)科是和計算機一起誕生的。計算機直到五六十年代才開始出現(xiàn)。所以人工智能誕生的時間和計算機差不多。計算機科學(xué)在誕生后的幾十年里并沒有真正形成一門學(xué)科。
回到那個為什么當(dāng)時的權(quán)威人士錯了的問題，這涉及到我們的直覺到底從何而來?
我們的直覺來自于這樣一個事實：唯一存在的能證明你能解決這些問題的證據(jù)，比如視覺問題，就是大自然已經(jīng)解決了這個問題。因為除此之外就沒有人了，沒有程序可以做到這一點。他們想寫一個關(guān)于視覺的程序，但是沒人知道怎么做。他們嘗試了許多方法，結(jié)果都是一場空，就像你說的，是一個非常難的問題。它是如此的困難，以至于人類用了數(shù)百萬年，甚至幾億年的時間來進化，來完善我們的視力，直到達到今天如此智能的程度。
澎湃新聞：關(guān)于剛才談到的視覺的機理，是接下來十幾年就可以完成的嗎?
特倫斯：我想我們已經(jīng)差不多完成了，現(xiàn)在已經(jīng)很接近了。數(shù)學(xué)家們正在研究這個問題。幾周前我參加了美國國家科學(xué)院的一個會議，是關(guān)于深度學(xué)習(xí)的。然后一些數(shù)學(xué)家說，這是一個函數(shù)。這就是數(shù)學(xué)家擅長的研究問題的方法，所以我想他們應(yīng)該能算出來。他們現(xiàn)在正用非常強大的數(shù)學(xué)工具和技術(shù)來解決這個高維空間的曲面幾何問題。如果你有數(shù)十億這樣連接強度的數(shù)據(jù)，比如你的模型中有十億個這樣的參數(shù)，那你就是在這些參數(shù)間，尋找一個適合現(xiàn)實世界函數(shù)的解。而大腦實際上有更多這樣的結(jié)構(gòu)，它有大約一百萬億個突觸。這是個天文數(shù)字。
但是我們認為，通過分析能夠?qū)ψR別物體和圖像的深度學(xué)習(xí)網(wǎng)絡(luò)的運作原理，我們也可以將這些原理應(yīng)用到大腦，因為大腦結(jié)構(gòu)和這些網(wǎng)絡(luò)的相似性。和大腦相比，網(wǎng)絡(luò)很簡單，但我認為它們有相同的功能和原理，或者類似的數(shù)學(xué)描述，只是大腦要復(fù)雜得多。
另一個問題是，研究人工智能的人，他們最開始的目標是研究人類的智力?；旧?，他們想要寫一個和人腦一樣智能的程序。這種“一般性智力”意味著你可以解決各種各樣的問題。但人很靈活，可以適應(yīng)新的環(huán)境。這對人類來說是很特別的，也是我們比任何其他物種都做得更好的地方。
澎湃新聞：而且我們大腦的能耗很低，對吧?我看到過一個數(shù)據(jù)，如果計算機要達到人腦那樣同樣的功能，我們需要幾百臺超級計算機，才能達到同樣的功能。
特倫斯：是的，生物用了數(shù)億年不只是提出問題的解決方案，而且優(yōu)化了電力成本。所以你大腦的用電量和21個燈泡的用電量差不多。而這個用電量對計算機而言是很小的?？墒侨四X的計算能力卻超過最大的超級計算機。最大的超級計算機可以覆蓋我們這個大樓的地板，就像大型中國超級計算機，對吧?它們消耗著成千上百萬瓦的電力。所以數(shù)字計算機需要消耗的電量比大自然的要多得多。這是驚人的，這就是我們的直覺。
另一方面，這個問題確實反映了我們的處境。我們認為我們已經(jīng)解決了難題——計算機和現(xiàn)實世界的連接。換句話說，“能夠看見”是擁有一般智力的先決條件。在人工智能中，這被稱為“接地”(grounding)。
澎湃新聞：這又是什么意思呢?
特倫斯：研究人工智能的人和語言學(xué)家會說，單詞“杯子”(cup)，它是一個單詞，但它代表了什么意思?它代表了所有可能存在的杯子，包括大杯子和小杯子，不管是紙做的還是玻璃做的，這些都是杯子。這很好，但問題是，如果你想寫一個指向“杯子”圖像的程序。因為杯子可以有很多不同的形式，上百萬種不同的形狀和大小，所以一個可以識別所有可能的杯子的程序是寫不出來的。
這就是問題所在，“寫”程序是不可能的。這就意味著“杯子”的概念是沒有根據(jù)的。你不可能把這個符號和世界上所有我們稱之為杯子的東西聯(lián)系起來。這就是“接地”(grounding)。但現(xiàn)在我們可以這樣做了。我們有一個非常強大的深度學(xué)習(xí)網(wǎng)絡(luò)，它可以針對成千上萬種不同的杯子進行訓(xùn)練。
澎湃新聞：你提到過GANS(生成對抗性網(wǎng)絡(luò))是十分高效的，它會自己產(chǎn)生一輛新的車的影像。
特倫斯：這是另一個很好的例子，是另一種網(wǎng)絡(luò)。這不是我剛才說的那種“輸入—輸出”的模式，你給我一個圖片，它就能識別出是一輛車。GANS的神奇之處在于，你給了它100萬張杯子的圖片，它就能夠創(chuàng)建新的杯子的圖像。
我舉一個例子。我可以訓(xùn)練一只猴子識別出杯子的圖案，實際上你也可以訓(xùn)練一只鴿子做到這件事。換句話說，你通過多次訓(xùn)練鴿子，把這件事變成反射。信息輸入，反應(yīng)輸出，這是一個反射，對吧?它是由事件驅(qū)動的。這叫做感官運動，感官輸入，感官輸出。你可以訓(xùn)練人這樣做。然而，人們也可以只是坐在那里，就產(chǎn)生想法，他們不需要任何輸入。晚上，你躺在床上，天很黑，你開始想事情。你是怎么開始想到這些東西的呢?這是你的大腦內(nèi)部生成的。它是活躍的，是內(nèi)在的。比如說，你可能突然想起來你忘記關(guān)掉浴室的燈了，所以你起床去洗手間。而這個印象不是來自浴室，而是來自你的腦袋。
深度學(xué)習(xí)網(wǎng)絡(luò)比傳統(tǒng)編程究竟好在哪?
澎湃新聞：人工智能是一個跨學(xué)科的領(lǐng)域，你是神經(jīng)學(xué)家，這個領(lǐng)域里還有計算機科學(xué)家，也有認知科學(xué)家，他們是怎么分別對這個領(lǐng)域做出貢獻的呢?
特倫斯：是的，這是一個非常好的問題。事實上，我原來的專業(yè)是物理，后來我轉(zhuǎn)到神經(jīng)科學(xué)。杰弗瑞(Geoffrey Hinton)起先學(xué)的是心理學(xué)，然后才轉(zhuǎn)到人工智能的行業(yè)。我想這可能就是為什么我們能擁有和主流不同的觀點。那些研究人工智能的人，他們都是從和其他人一樣的角度看問題。掌權(quán)者編寫教科書，他們同時也教書。進入這個領(lǐng)域?qū)W習(xí)的學(xué)生讀了他們寫的課本，就相信了他們的理論。但是我們是從別的學(xué)科進入這個領(lǐng)域的。我沒有讀過那些課本，我也不必相信那些東西。所以令人驚嘆的就是，即使他們有這么大的控制力，現(xiàn)在完全被翻轉(zhuǎn)了。隨著時間的推移，我們的算法規(guī)模迅速發(fā)展。人工智能的關(guān)鍵就是想出一個更好的算法，讓你的計算能力越來越強。
而傳統(tǒng)的算法是組合性的。當(dāng)問題變復(fù)雜，可能性爆炸式增長，這種算法很難發(fā)展。它們只能解決“Toy problems”，而不能解決現(xiàn)實世界中的問題。所以一旦他們想把它應(yīng)用到現(xiàn)實世界，它就會爆炸，根本無法應(yīng)用。順便說一句，80年代時我們并不知道這個規(guī)模到底會有多大，因為那時候網(wǎng)絡(luò)規(guī)模很小。計算機運行速度很慢，所以這些程序不會太復(fù)雜，只有幾百個單位。但是現(xiàn)在計算機的速度比那時快了一百萬倍，網(wǎng)絡(luò)是原來的一百萬倍大，我們的算法擴展得非常漂亮。層數(shù)越多，包含的單位數(shù)就越多。擁有的參數(shù)越多，運行效果就越好。大概五年前，我們的算法達到了一個臨界點。我們突然能夠解決現(xiàn)實世界中有關(guān)視覺、語言和翻譯的問題?，F(xiàn)在，這個結(jié)構(gòu)被應(yīng)用到成千上萬個不同的問題上，比如商業(yè)領(lǐng)域的很多問題。只要你有足夠的數(shù)據(jù)，你就可以用它們來訓(xùn)練網(wǎng)絡(luò)。隨著參數(shù)增多，需要的數(shù)據(jù)也變多。
澎湃新聞：談到算法，神經(jīng)網(wǎng)絡(luò)的算法和傳統(tǒng)程序的算法到底有什么不同呢?
特倫斯：區(qū)別就在于“學(xué)習(xí)”。雖然他們都被稱作“算法”，但卻是兩種解決問題的方法。傳統(tǒng)的人工智能研究人員編寫代碼，嘗試觸及每一種可能性。比如你想識別杯子，你必須為每一種可能出現(xiàn)的杯子編寫一行代碼。這是一個龐大的項目，需要寫作很長時間。因為編程需要耗費很多人力，所以這非常昂貴。與之相反的算法是“學(xué)習(xí)算法”，它會說，“不不不，我們不要寫代碼。只要給我很多例子就行。”所以每次它的數(shù)據(jù)庫增加一個樣本，它就會變好，變得越來越擅長解決問題。它會比較新的輸入和之前輸入之間的相似性。這個過程被稱為“泛化”(Generalization)。
所以如果你曾給這個系統(tǒng)輸入了一千個樣本，這時你再輸入一個，即使這個和你之前訓(xùn)練它的不同，這被稱為“判例案件”(Test case)。如果它也識別出了這個樣本，那就意味著在某種程度上，它理解了“杯子”的概念。就比如你有一千個杯子。現(xiàn)在如果給你展示一個從未見過的新杯子，你就知道這是一個杯子——這就是人類所做的，我們非常善于學(xué)習(xí)。我們擅長從一些例子中歸納，也能看到它們之間的關(guān)系。這是因為我們有一種神奇的吸收新信息的能力，并將其融入到我們過去的經(jīng)歷中。
這兩種算法還有一個非常重要的區(qū)別，且這一點很重要：即使傳統(tǒng)算法成功地寫了一個視覺程序，這也不能幫助他們寫一個語音識別程序。換句話說，針對每一個問題寫出的程序都是單獨的。再換句話說，想解決新的問題?你必須從頭開始。一個視覺程序不能語音識別，一個語音識別程序不能做視覺。所以如果你有100個問題要解決，基本上你必須要寫100個不同的程序。這種勞動密集型是難以置信的。但是，如果你有一個學(xué)習(xí)算法，你不需要寫一個新的程序。你只是在用同樣的程序接受不同的數(shù)據(jù)，你只需要收集數(shù)據(jù)。所以這是非常高效的方式。
澎湃新聞：例如自動駕駛汽車對深度學(xué)習(xí)的應(yīng)用?
特倫斯：是，這也是一個很好的例子。大約十年前有個比賽，誰的汽車能夠駛過加州北部猶他州邊境一百二十英里的路程，就可以獲得兩百萬美元的獎金。那里有很多蜿蜒的道路，有很多你不得不穿過的非常困難的地形，還有巖石和大圓石。獲勝的那輛車是由斯坦福大學(xué)的Sebastian thrun建造的，當(dāng)時他和我來自同一個社區(qū)——神經(jīng)信息處理中心，所以他相信“學(xué)習(xí)”的力量。而卡內(nèi)基梅隆大學(xué)的人，他們設(shè)計了一個重型卡車。這輛裝滿計算機的大卡車非常笨重地前行。塞巴斯蒂安，我的書里有他的照片，他的小車一路暢行。他是怎么做到的呢?雖然他不知道機理是什么，他是這樣訓(xùn)練它的車的：他開著車在那個區(qū)域到處轉(zhuǎn)，到各種各樣不同的道路上。汽車上有傳感器，所以能接收很多感官輸入信息，或者叫視覺雷達，它能夠檢測到物體在哪里以及它們有多遠。在他開車的時候，他進行一系列的比如轉(zhuǎn)動方向盤、踩剎車等操作。這些他收集的數(shù)據(jù)都被用來訓(xùn)練這個網(wǎng)絡(luò)。這雖然不是一個“深度學(xué)習(xí)網(wǎng)絡(luò)”，但是屬于“機器學(xué)習(xí)”，是一種“學(xué)習(xí)算法”。
那輛車后來自己開到了伊拉克。因為它知道之前面對各種巖石的路況時，駕駛員是如何操作的。所以從以前的駕駛經(jīng)驗中，它學(xué)會了如何在類似的情況下駕駛汽車。所以這里的學(xué)習(xí)指的是，如何理解環(huán)境的特點，以及面對障礙時人類對環(huán)境做出的反應(yīng)，最終保持在路上行駛。
澎湃新聞：真的很神奇。
特倫斯：對我而言，這是一個轉(zhuǎn)折點，因為這表明我們的方法在現(xiàn)實世界中的應(yīng)用是可行的。他贏了200萬美元，而這個領(lǐng)域也中了頭彩，意味著這種算法會越來越好。事實也確實如此。十年就這樣過去了。2012年，在一次會議上，日本的科學(xué)家發(fā)表了一篇論文，證明
深度學(xué)習(xí)網(wǎng)絡(luò)做得比傳統(tǒng)編程要好得多。因為對傳統(tǒng)編程而言，針對每一個新對象，他都要編寫一個新程序來識別它。
澎湃新聞：你認為自己很幸運嗎?因為你一直堅信這種“學(xué)習(xí)算法”?
特倫斯：我說我中了頭彩，但是，我同時也冒了險。我在事業(yè)上冒了很大的風(fēng)險，我曾經(jīng)并不知道結(jié)果會怎樣。但是我有一個強烈的信念，那就是直覺。我的直覺是基于比計算機更廣泛的知識。我有來自物理的知識，我也有生物的知識。所以我想把這些不同領(lǐng)域的知識結(jié)合起來。杰弗瑞的過人之處就在于他擁有令人贊嘆的知識。
而這里有一個關(guān)鍵，物理學(xué)非常擅長建立世界模型。但是物理學(xué)沒有問的一件事是，這個世界在計算什么?你不會問這個問題對吧?因為世界沒有功能，世界存在本身也沒有目的。物理學(xué)的研究也沒有目的。你會問物理學(xué)研究的目的是什么嗎?重力的作用是什么嗎?換句話說，重力不是一個計算過程，只是一組自然遵循的方程。這就像是對世界正在發(fā)生的事情的描述。但是我發(fā)現(xiàn)我正在研究的這些大腦模型中缺少了什么，因為我以前是一個物理學(xué)家。所以我想讓我們做一個大腦模型吧，也許這會幫我們理解它。
但即使你有最好的模型，它也不會告訴你運作原理是什么。為什么它會這樣運作呢?研究它的原理是一個計算問題。它的目標是什么?它想要做什么?這其實是計算機科學(xué)需要解決的問題。計算機科學(xué)實際上是一門研究如何通過計算來達到目標的學(xué)科，算法會帶你找到答案。
而這就是我缺失的部分。你知道，我是個優(yōu)秀的物理學(xué)家，我也學(xué)到了很多關(guān)于大腦的知識。但是，神經(jīng)科學(xué)或物理學(xué)中沒有人會問關(guān)于“功能”的問題。但在生物學(xué)領(lǐng)域，人們會問這個問題。他們談?wù)撔袨楹蜕?。很明顯功能肯定存在，比如為了生存。然而，當(dāng)你談?wù)撋窠?jīng)元的功能時，這是一個謎。我的意思是，沒有人知道為什么生物體把神經(jīng)元放在那里，它是怎么在那里的，為什么會有這么多的神經(jīng)元?我們試圖理解一些非常復(fù)雜的東西，一個沒有人理解的機器。
澎湃新聞：但你們可以模仿這個結(jié)構(gòu)，然后給它數(shù)據(jù)，它們就會自己學(xué)習(xí)。
特倫斯：是的。所以我想說，我希望中國讀者能夠從我的書中明白不要相信權(quán)威。我不信任權(quán)威。即使他們擁有所有的權(quán)力，也不意味著他們是對的。人要相信自己，你的直覺很重要。即使現(xiàn)在你沒有權(quán)力，或許有一天你會的。
澎湃新聞：我想知道深度學(xué)習(xí)發(fā)展的更高階段是什么?現(xiàn)在計算機還是需要大量的數(shù)據(jù)才能識別出杯子，但是我們的大腦只需要一兩個樣本，就可以認出其他杯子。
特倫斯：這是個好問題，所以我們的方向在哪里?現(xiàn)在還缺少什么?我們的每個網(wǎng)絡(luò)都解決了一個問題。比如我們已經(jīng)有一個視覺網(wǎng)絡(luò)，一個語音網(wǎng)絡(luò)，還有一個語言網(wǎng)絡(luò)。我們還有一個運動系統(tǒng)網(wǎng)絡(luò)。
我們真正需要做的是想出一種全局的方法，來組織協(xié)調(diào)所有這些網(wǎng)絡(luò)。
因為我們的大腦皮層有很多特殊的區(qū)域，負責(zé)一些特殊的事情，但無論如何它必須是一個操作系統(tǒng)。不同的部分在協(xié)作，信息在系統(tǒng)的不同部分之間流動。這就是涉及到“意識”的問題。換句話說，這些特殊的系統(tǒng)之上肯定還存在一個層級。每一個獨立的領(lǐng)域有獨立的網(wǎng)絡(luò)。大腦中有無意識的部分嗎?你并不會意識到你的視覺，你也沒有語言意識。但不知何故，我就是可以看到你，可以聽到你，可以觸摸到你。當(dāng)把你放到一個背景中，我就可以我能認出你臉上的表情。這些在我大腦的不同部位發(fā)生著，是一個協(xié)調(diào)的過程。
AI當(dāng)然會產(chǎn)生意識，也絕對會帶來新的倫理問題
澎湃新聞：你書中談到AI最后會產(chǎn)生意識，那么它會有情緒嗎?
特倫斯：一定會的。只是現(xiàn)在還沒有。其實我們知道大腦中有一部分負責(zé)情緒，只是我們還沒有把它們放到網(wǎng)絡(luò)中。但我們將會這么做的，這也是絕對必要的。我的意思是，如果你想要AI能夠和你互動，并且擁有相同的社會水平，它也必須有情感。這些都是已知的了，“擁有情緒”只是時間問題。而且這一切已經(jīng)在發(fā)生了，有人正在研究這個問題，意識也是一樣，一切都是自發(fā)的。
澎湃新聞：那他們和人類建立的紐帶會改變現(xiàn)在社會結(jié)構(gòu)，并帶來很多倫理問題吧!
特倫斯：絕對會，所以我們應(yīng)該做好準備。我們不應(yīng)該等到它發(fā)生，而是提前做好準備。所有的技術(shù)發(fā)展皆是如此。無論它們什么時候來到這個世界上，你都可以用它們來做好事，也可以用來做壞事。
澎湃新聞：但它們可能會成為最強的物種，那時候它們還會和人類協(xié)商嗎?
特倫斯：是我們創(chuàng)造了它們，我們才是老板。如果我們讓他們失控了，那么這是我們的問題。如果我們讓這樣的情況發(fā)生，我們就是愚蠢的了。
澎湃新聞：但有時候人類就是會犯蠢啊。
特倫斯：不是所有人都這樣，也不是一直都這樣。我有信心，作為一個物種，人類有足夠的智慧平穩(wěn)地避免最壞的結(jié)果。自從工業(yè)時代以來，我們所擁有的技術(shù)有時被用于戰(zhàn)爭，也會被用于建設(shè)文明，還用來建設(shè)工廠。技術(shù)發(fā)展總會遇到問題，你要做的就是控制它。通過制定法律，來控制人們?yōu)E用技術(shù)獲利。這樣的困境總是會發(fā)生的。但所有的技術(shù)都是如此，人工智能也不例外。所以我想說，現(xiàn)在開始擔(dān)心并且考慮停下還為時過早。我不認為僅僅因為將來路上可能會遇到問題，你就停止前進。比如無人駕駛汽車殺人的問題等，這都是我們可以解決的問題。因為這就是科技發(fā)展的規(guī)律。
澎湃新聞：我可以稱你為人工智能樂觀派嗎?
特倫斯：我是現(xiàn)實主義者。我的現(xiàn)實主義是建立在科技發(fā)展歷史的基礎(chǔ)上的。我想說的是在生物學(xué)中，也是一樣的道理。我們可以操縱基因，所以我們擁有控制自然的力量。這種力量非常強大，這甚至比人工智能更強大。
澎湃新聞：你能否簡單介紹一下美國、中國和日本的人工智能發(fā)展情況?你在書中談到，覺得中國人工智能的發(fā)展是很大可能超過其他國家的。
特倫斯：我認為這是“蘋果”和“桔子”的關(guān)系。我的意思就是你其實是在比較兩種不同的東西。換句話說，中國和美國的發(fā)展完全不同，就像在兩條不同的軌道上的火車。在美國，人工智能是一種自下而上的研究?；旧纤械难芯慷际窃诠镜馁Y助下進行的，而不是政府。政府花的錢很少。資金全都來自大型互聯(lián)網(wǎng)公司，比如臉書(Facebook)，國際商業(yè)機器公司( IBM)和微軟。他們的研究由市場驅(qū)動的，這關(guān)于怎么用人們想要的方式把產(chǎn)品投入市場。比如蘋果手機想要語音識別和人臉識別的功能。人們想要這些功能。
但是在中國，這是自上而下的發(fā)展，是一種完全不同的方式。每一種方法都有一定的優(yōu)勢。
澎湃新聞：可是我們也有許多來自企業(yè)的資本投入。
特倫斯：是的，但是這里的問題不是錢從哪里來，而是目標是什么。誰決定了人工智能的目標?我的意思是，公司可能可以控制資金，但是政府可能說，我就想讓你做人臉識別，這是權(quán)威的問題。但在美國，每個人都是為了自己，每個人都努力研發(fā)出產(chǎn)品在市場中盈利。我的意思是，這兩種模式都在以不同的方式進化，我們無法預(yù)測它們會在什么時候結(jié)束。很有可能是一個非常不同的結(jié)局，但現(xiàn)在我們還不知道。
數(shù)字化要一盤棋更要各自為戰(zhàn)
分享到微信 ×
打開微信，點擊底部的“發(fā)現(xiàn)”，
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。