我們姑且把超智慧定義為在任一種關注領域上,都實質且大幅超越人類認知表現的智慧。要注意的是,關於超智慧要如何實現,這裡的定義是含糊的。而關於感質(qualia,指的是人的知覺意識或感覺感受,例如當你看到630nm波長光時產生的「紅色」感覺)也是含糊的。超智慧到底有沒有主觀意識經驗?這在某些問題上可能十分重要(尤其是道德問題),但我們首先要關注的是超智慧的前因後果,而不是心智的形而上學。
就這個定義來說,西洋棋程式Deep Fritz不是超智慧,因為Deep Fritz只有在西洋棋這項限制領域有過人的才略。然而,某些特定領域限定的超智慧有可能非常重要。當我們提及特定領域的超智慧表現,我們馬上就會察覺它的限制。舉例來說,一個「工程超智慧」會是一個在工程領域遠遠超過當前最優秀人類心智的智慧。除非特別提及,否則我會用這類詞彙來指稱那些在通用智慧上超越人類等級的系統。該怎樣創造超智慧呢?我們來檢驗幾種可能的途徑。
人工智慧
「用學習來讓一個簡單系統自我成長至人類智慧水準」這個想法並沒有多新穎,早在1950年,圖靈就發表了「孩童機器」的概念:
與其製造一個模擬成人心智的程式,何不製造一個模仿孩子心智的程式呢?如果接下來給它一個適當的教育課程,這個程式將可獲得成人的大腦。
圖靈設想了一套重複流程來開發這種孩童機器:
我們不能期待好孩子機器可以一次到位。我們得靠實驗教導這個機器,並且觀察它能學得多好。接下來可以試試其他方法,看它學得更好還是更糟。這個流程與演化有很明顯的連結⋯⋯然而,我們也可以期待這個流程比演化更迅速有效。要測量最適者生存的優勢往往十分緩慢,但進行智力測驗的實驗者可以加速這個過程。同樣重要的事實在於,實驗者並不受限於隨機突變,如果實驗者能查出某些弱點的成因,便能思考什麼樣的變異可使機器進步。
我們知道,無方向的演化過程可以產生人類水準的通用智慧,截至今日,已成功過至少一回。那麼,預先有方向的演化過程,也就是由有智慧的人類程式設計者所設計並指揮的遺傳程式,應該能以遠高於自然演化的效率,達成類似的成果。大衛.查摩斯(David Chalmers)、漢斯.莫拉維克(Hans Moravec)等哲學家及科學家論證了這個觀察結果:人類水準的人工智慧不只理論上說得通,且在本世紀內即可實行。
他們認為,要是我們預估一下演化和人類工程製造智慧的相對能力,便能發現人類工程已在某些領域大幅超越了演化,過不了多久也將擴及其他領域。既然演化產生了智慧,人類工程很快也能做到這一點。早在1976年,莫拉維克就曾寫道:在這些限制下產生的數種智慧案例讓我們自信滿滿,讓我們相信自己可以在較短的時程中達成同樣的成果。就像我們的文化還尚未釐清鳥、蝙蝠、昆蟲的重體飛行(注:heavier-than-air flight,透過空氣動力學的原理,在翼的上下創造不同壓力差來飛行)是怎麼一回事之前,牠們早就清清楚楚證明了重體飛行的可能性一樣。
但我們必須注意,這條論證是用什麼推論來界定的。演化確實產生了重體飛行,人類工程師隨後也成功仿效(儘管使用了截然不同的機制)。其他可列舉的例子還包括聲納、磁性導航、化學武器、感光器以及各種機器與動力學的行動特性。然而,我也可以指出人類工程師遠遠不及演化的領域:形態發生(morphogenesis)、自我修復,以及免疫防禦等等。在這些例子中,人類的努力遠遠落後演化的成果。因此,莫拉維克的論點無法讓我們「自信滿滿」,說我們一定能「在短時程中」達到人類水準的人工智慧。智慧生命的演化頂多就是替智慧設計工作設下先天的困難上限,但這個天花板也遠遠高過了目前人類工程的能力。
另一個利用演化論點來使人工智慧得以實現的想法是,我們可以在高效能的快速電腦上運作遺傳演算式,達到媲美生物演化的結果。這個版本的演化論點因此提出了一種特定的方法,讓智慧得以生產出來。
但在不久的將來,我們真的會有足夠的運算能力,來概括重現產生人類智慧的相關演化過程嗎?答案取決於接下來幾十年電腦運算技術的進展,以及執行和過往天擇演化的最佳化能力一樣強的遺傳演算運算能力。儘管到頭來,我們探究這段論證所得到的結論並不明確,但我們仍然可以做出概略的估計。別的不提,光是這樣的演練就讓人注意到一些有趣的未知事物。
概括重現演化需要什麼?
在人類智慧發展的歷程中,並不是每個藉由演化得到的特性,都和企圖以人工發展機器智慧的人類工程師有關。地球上只有一小部分的演化抉擇出智慧。更具體來說,人類工程師在意的問題,可能只是整體演化的極小部分目標。舉個例子,既然我們可以用電力驅動電腦,我們就不需要為了創造智慧機器,重新發明進行細胞能量作用的分子。然而這種代謝式的分子演化,卻可能用掉了地球演化史上能運用的大部分天擇能量。
可能會有人反駁說,人工智慧的關鍵洞見體現於神經系統的構造中,而這套系統出現至今還不到十億年。如果接受這個觀點,那麼演化的相關「實驗」便大幅縮短了。目前世界上約有4~6×1030個原核生物,但只有1019隻昆蟲,以及少於1010個人類(且農業時代前的人口比後來還少了好幾個數量級)。這些數字只是稍微嚇嚇人而已。
然而,演化演算法不僅需要可供選擇的變量,也需要一個適應函數來評價變量,而這往往是運算上最昂貴的部分。人工智慧演化所需的適應函數需要神經發展、學習和認知的模擬,好評估何者最為適當。因此,我們不應該關注擁有複雜神經系統的生命體之大略數量,而是若要模仿演化的適應函數,那麼在這個生命體中,要模擬多少個神經元?我們可以利用地表數量凌駕一切動物的昆蟲(光是螞蟻,估計就占了總量的15~20%),針對神經元的數量做一個粗略的估計。昆蟲的腦部大小懸殊各異,大型昆蟲和社群性昆蟲有較大的腦:蜜蜂的腦只有不到106個神經元,果蠅有105個神經元,螞蟻則在25萬上下。大多數更小型的昆蟲,腦中可能只有幾千個神經元。以保守的數字估算,如果1019隻昆蟲每隻都只分到果蠅的神經元數量,那麼世上總共會有1024個昆蟲神經元。如果再列入水生橈腳類(水蚤)、鳥類、爬蟲類、哺乳類等生物,還可以再增加一個數量級,達到1025(相對來說,在前農業時代,人類總數少於107,每個人的神經元都不多於1011;因此人類的總神經元少於1018,儘管人類平均每個神經元有比較多的突觸)。
模擬一個神經元的運算成本,取決於模擬該神經元的詳盡程度。極簡單的神經元模型若要(即時)模擬一個神經元,所需的每秒浮點運算次數(floating-point operations per second,FLOPS)為1,000次。在電生理學上仿真的霍奇金-赫胥黎模型(Hodgkin–Huxley model)要用到120萬個FLOPS。更詳盡的多區隔模型,則要再增加三到四個數量級;而提取神經元系統的更高等模型,則要從簡單模型中扣除掉兩到三個數量級。如果我們要模擬1025個神經元經歷10億年的演化(比我們已知神經系統存在的時間還長),且讓電腦跑上一年,那麼這個數據所需的FLOPS為1031~1044。舉個例子相比,中國的「天河二號」是截至2013年9月為止全世界最強大的超級電腦,也只提供了3.39×1016個FLOPS。近幾十年,商用電腦大約每6.7年才增加一個數量級的能力。就算接下來一整個世紀都持續按照摩爾定律進展,也不足以填補這個空缺。運用更專門的硬體或加長運作時間,都只能少少增加幾個數量級而已。(摘錄整理自《超智慧》第二章,感電出版提供)
圖片來源_感電出版
書名 超智慧:AI風險的最佳解答(Superintelligence: Paths, Dangers, Strategies)
尼克.伯斯特隆姆(Nick Bostrom)/著;唐澄暐/譯
感電出版
定價:600元
圖片來源_Future of Humanity Institute
作者簡介
尼克.伯斯特隆姆(Nick Bostrom)
牛津大學哲學系教授,其學術背景包含理論物理學、計算神經科學、數學邏輯、人工智慧以及哲學。他在全球五十歲以下的哲學家中被引用次數最多,擁有廣泛的影響力。伯斯特隆姆同時是牛津馬丁學院人類未來研究所(Future of Humanity Institute)的創立者和所長。這個跨學科的研究中心聚集了一群傑出的數學家、哲學家和科學家,共同致力於深入探索人工智慧的安全與政策、生物安全、宏觀策略、數位思維倫理等關鍵科技與基礎問題。
伯斯特隆姆的學術成就與貢獻受到廣泛讚譽。他是TED大會的常客,多次在此發表演講,並且已接受超過一千次來自各類媒體的採訪。他的學術實力和影響力使他兩度榮登《外交政策》(Foreign Policy)雜誌的全球百大思想家名單,並且作爲最年輕的思想家之一,他也成功躋身於《展望》(Prospect)雜誌的世界思想家排行榜前十五位。
熱門新聞
2024-10-13
2024-10-14
2024-10-13
2024-10-11
2024-10-11
2024-10-12
2024-10-14