從演化演算法談如何發展超智慧

我們姑且把超智慧定義為在任一種關注領域上，都實質且大幅超越人類認知表現的智慧。要注意的是，關於超智慧要如何實現，這裡的定義是含糊的。而關於感質（qualia，指的是人的知覺意識或感覺感受，例如當你看到630nm波長光時產生的「紅色」感覺）也是含糊的。超智慧到底有沒有主觀意識經驗？這在某些問題上可能十分重要（尤其是道德問題），但我們首先要關注的是超智慧的前因後果，而不是心智的形而上學。

就這個定義來說，西洋棋程式Deep Fritz不是超智慧，因為Deep Fritz只有在西洋棋這項限制領域有過人的才略。然而，某些特定領域限定的超智慧有可能非常重要。當我們提及特定領域的超智慧表現，我們馬上就會察覺它的限制。舉例來說，一個｢工程超智慧｣會是一個在工程領域遠遠超過當前最優秀人類心智的智慧。除非特別提及，否則我會用這類詞彙來指稱那些在通用智慧上超越人類等級的系統。該怎樣創造超智慧呢？我們來檢驗幾種可能的途徑。

人工智慧

「用學習來讓一個簡單系統自我成長至人類智慧水準」這個想法並沒有多新穎，早在1950年，圖靈就發表了「孩童機器」的概念：

與其製造一個模擬成人心智的程式，何不製造一個模仿孩子心智的程式呢？如果接下來給它一個適當的教育課程，這個程式將可獲得成人的大腦。

圖靈設想了一套重複流程來開發這種孩童機器：

我們不能期待好孩子機器可以一次到位。我們得靠實驗教導這個機器，並且觀察它能學得多好。接下來可以試試其他方法，看它學得更好還是更糟。這個流程與演化有很明顯的連結⋯⋯然而，我們也可以期待這個流程比演化更迅速有效。要測量最適者生存的優勢往往十分緩慢，但進行智力測驗的實驗者可以加速這個過程。同樣重要的事實在於，實驗者並不受限於隨機突變，如果實驗者能查出某些弱點的成因，便能思考什麼樣的變異可使機器進步。

我們知道，無方向的演化過程可以產生人類水準的通用智慧，截至今日，已成功過至少一回。那麼，預先有方向的演化過程，也就是由有智慧的人類程式設計者所設計並指揮的遺傳程式，應該能以遠高於自然演化的效率，達成類似的成果。大衛．查摩斯（David Chalmers）、漢斯．莫拉維克（Hans Moravec）等哲學家及科學家論證了這個觀察結果：人類水準的人工智慧不只理論上說得通，且在本世紀內即可實行。

他們認為，要是我們預估一下演化和人類工程製造智慧的相對能力，便能發現人類工程已在某些領域大幅超越了演化，過不了多久也將擴及其他領域。既然演化產生了智慧，人類工程很快也能做到這一點。早在1976年，莫拉維克就曾寫道：在這些限制下產生的數種智慧案例讓我們自信滿滿，讓我們相信自己可以在較短的時程中達成同樣的成果。就像我們的文化還尚未釐清鳥、蝙蝠、昆蟲的重體飛行（注：heavier-than-air flight，透過空氣動力學的原理，在翼的上下創造不同壓力差來飛行）是怎麼一回事之前，牠們早就清清楚楚證明了重體飛行的可能性一樣。

但我們必須注意，這條論證是用什麼推論來界定的。演化確實產生了重體飛行，人類工程師隨後也成功仿效（儘管使用了截然不同的機制）。其他可列舉的例子還包括聲納、磁性導航、化學武器、感光器以及各種機器與動力學的行動特性。然而，我也可以指出人類工程師遠遠不及演化的領域：形態發生（morphogenesis）、自我修復，以及免疫防禦等等。在這些例子中，人類的努力遠遠落後演化的成果。因此，莫拉維克的論點無法讓我們「自信滿滿」，說我們一定能「在短時程中」達到人類水準的人工智慧。智慧生命的演化頂多就是替智慧設計工作設下先天的困難上限，但這個天花板也遠遠高過了目前人類工程的能力。

另一個利用演化論點來使人工智慧得以實現的想法是，我們可以在高效能的快速電腦上運作遺傳演算式，達到媲美生物演化的結果。這個版本的演化論點因此提出了一種特定的方法，讓智慧得以生產出來。

但在不久的將來，我們真的會有足夠的運算能力，來概括重現產生人類智慧的相關演化過程嗎？答案取決於接下來幾十年電腦運算技術的進展，以及執行和過往天擇演化的最佳化能力一樣強的遺傳演算運算能力。儘管到頭來，我們探究這段論證所得到的結論並不明確，但我們仍然可以做出概略的估計。別的不提，光是這樣的演練就讓人注意到一些有趣的未知事物。

概括重現演化需要什麼？

在人類智慧發展的歷程中，並不是每個藉由演化得到的特性，都和企圖以人工發展機器智慧的人類工程師有關。地球上只有一小部分的演化抉擇出智慧。更具體來說，人類工程師在意的問題，可能只是整體演化的極小部分目標。舉個例子，既然我們可以用電力驅動電腦，我們就不需要為了創造智慧機器，重新發明進行細胞能量作用的分子。然而這種代謝式的分子演化，卻可能用掉了地球演化史上能運用的大部分天擇能量。

可能會有人反駁說，人工智慧的關鍵洞見體現於神經系統的構造中，而這套系統出現至今還不到十億年。如果接受這個觀點，那麼演化的相關「實驗」便大幅縮短了。目前世界上約有4～6×10³⁰個原核生物，但只有10¹⁹隻昆蟲，以及少於10¹⁰個人類（且農業時代前的人口比後來還少了好幾個數量級）。這些數字只是稍微嚇嚇人而已。

然而，演化演算法不僅需要可供選擇的變量，也需要一個適應函數來評價變量，而這往往是運算上最昂貴的部分。人工智慧演化所需的適應函數需要神經發展、學習和認知的模擬，好評估何者最為適當。因此，我們不應該關注擁有複雜神經系統的生命體之大略數量，而是若要模仿演化的適應函數，那麼在這個生命體中，要模擬多少個神經元？我們可以利用地表數量凌駕一切動物的昆蟲（光是螞蟻，估計就占了總量的15～20%），針對神經元的數量做一個粗略的估計。昆蟲的腦部大小懸殊各異，大型昆蟲和社群性昆蟲有較大的腦：蜜蜂的腦只有不到10⁶個神經元，果蠅有10⁵個神經元，螞蟻則在25萬上下。大多數更小型的昆蟲，腦中可能只有幾千個神經元。以保守的數字估算，如果10¹⁹隻昆蟲每隻都只分到果蠅的神經元數量，那麼世上總共會有10²⁴個昆蟲神經元。如果再列入水生橈腳類（水蚤）、鳥類、爬蟲類、哺乳類等生物，還可以再增加一個數量級，達到10²⁵（相對來說，在前農業時代，人類總數少於10⁷，每個人的神經元都不多於10¹¹；因此人類的總神經元少於10¹⁸，儘管人類平均每個神經元有比較多的突觸）。

模擬一個神經元的運算成本，取決於模擬該神經元的詳盡程度。極簡單的神經元模型若要（即時）模擬一個神經元，所需的每秒浮點運算次數（floating-point operations per second，FLOPS）為1,000次。在電生理學上仿真的霍奇金－赫胥黎模型（Hodgkin–Huxley model）要用到120萬個FLOPS。更詳盡的多區隔模型，則要再增加三到四個數量級；而提取神經元系統的更高等模型，則要從簡單模型中扣除掉兩到三個數量級。如果我們要模擬10²⁵個神經元經歷10億年的演化（比我們已知神經系統存在的時間還長），且讓電腦跑上一年，那麼這個數據所需的FLOPS為10³¹～10⁴⁴。舉個例子相比，中國的「天河二號」是截至2013年9月為止全世界最強大的超級電腦，也只提供了3.39×10¹⁶個FLOPS。近幾十年，商用電腦大約每6.7年才增加一個數量級的能力。就算接下來一整個世紀都持續按照摩爾定律進展，也不足以填補這個空缺。運用更專門的硬體或加長運作時間，都只能少少增加幾個數量級而已。（摘錄整理自《超智慧》第二章，感電出版提供）

圖片來源_感電出版

 書名  超智慧：AI風險的最佳解答（Superintelligence: Paths, Dangers, Strategies）

尼克．伯斯特隆姆（Nick Bostrom）／著；唐澄暐／譯

感電出版

定價：600元

圖片來源_Future of Humanity Institute

 作者簡介 

尼克．伯斯特隆姆（Nick Bostrom）

牛津大學哲學系教授，其學術背景包含理論物理學、計算神經科學、數學邏輯、人工智慧以及哲學。他在全球五十歲以下的哲學家中被引用次數最多，擁有廣泛的影響力。伯斯特隆姆同時是牛津馬丁學院人類未來研究所（Future of Humanity Institute）的創立者和所長。這個跨學科的研究中心聚集了一群傑出的數學家、哲學家和科學家，共同致力於深入探索人工智慧的安全與政策、生物安全、宏觀策略、數位思維倫理等關鍵科技與基礎問題。

伯斯特隆姆的學術成就與貢獻受到廣泛讚譽。他是TED大會的常客，多次在此發表演講，並且已接受超過一千次來自各類媒體的採訪。他的學術實力和影響力使他兩度榮登《外交政策》（Foreign Policy）雜誌的全球百大思想家名單，並且作爲最年輕的思想家之一，他也成功躋身於《展望》（Prospect）雜誌的世界思想家排行榜前十五位。