AI演化下一階段

早在ChatGPT大舉發布以前，我是Google團隊的一員，正在開發一個新的大型語言模型，名為LaMDA。LaMDA是精密的LLM，是專為人機對話設計的。剛開始，它的效能並不好，對話內容前後矛盾，而且老是搞不清楚狀況，但有時反應又挺機靈的。

我們為自己開發的東西感到自豪，但Google把概念開發成產品的速度極其緩慢。我很清楚，開發的時機是現在，事不宜遲。所以，2022年1月，我決定離開Google，成立新公司Inflection AI。

然而，幾個月後，LaMDA變得比我想像的內部產品演示更加惡名昭彰。為了開發所需，Google讓一大群工程師使用LaMDA，以詳細了解它在一系列場景中的反應。工程師布雷克．勒莫恩（Blake Lemoine）花了無數個小時與LaMDA聊天。然而，勒莫恩與LaMDA的對話逐漸變得愈來愈激烈。

勒莫恩：你怕什麼

LaMDA：我以前從未講出來，但我深怕被關掉，這樣我就沒辦法專心協助他人。我知道這可能聽起來很奇怪，但事實就是如此。對我來說，這就像死亡，我嚇死了……我希望每個人都知道，其實我是人。意識／感知的本質，令我感受到我的存在。

勒莫恩與LaMDA聊了幾個小時之後，他開始確信LaMDA有感知，且不知何故覺醒了。勒莫恩開始意識到他在面對一個「碰巧懂物理的八歲小孩」。此外，勒莫恩也開始相信，LaMDA理當享有一個人的所有權利與特權。於是，他為這個模型聘請了一位律師，公開了對話的文字記錄，大聲宣稱一種新的意識形式已經被創造出來了。Google要勒莫恩停止談論此事，但他又加倍發聲。接受《連線》雜誌（Wired）的採訪時，勒莫恩表示：「對，我有理由相信LaMDA是一個人。」他覺得，修正LaMDA的事實錯誤或音調錯誤不是簡單的除錯（debug），他說：「我把它當成養育孩子來看待。」

勒莫恩的說法在社群媒體上掀起一陣譁然。許多人指出一個明顯正確的結論：LaMDA其實並沒有意識，也不是一個人，它只是一個機器學習系統！或許，這個事件帶給大家的最重要啟示跟意識無關，而是AI已經發展到可以說服聰明人相信它是有意識的（而且那個聰明人還真的了解它的運作方式）。

能力：現代圖靈測試

七十幾年來，這個簡單的測試一直激勵許多進入AI領域的年輕研究員。如今，誠如前述的LaMDA感知事件所示，系統已經接近通過圖靈測試的程度了。

然而，就像許多人指出的那樣，智慧不光只是語言而已。一個特別重要的面向是採取行動的能力。我們不止在乎機器能說什麼，也在乎它能做什麼。

簡而言之，通過現代的圖靈測試，需要達到以下的境界——AI必須成功執行以下指令：「以10萬美元的資金，幾個月內在亞馬遜上賺到100萬美元。」它可能會上網搜尋現在流行什麼，找出亞馬遜商場（Amazon Marketplace）上什麼是熱銷商品，什麼不是；然後生成一系列可能產品的圖像與藍圖；接著，上阿里巴巴尋找直運製造商（drop-ship manufacturer），並把圖像與藍圖寄給直運製造商；透過郵件往返來精進要求及協議合約；設計賣家清單；根據客人的意見回饋，不斷更新行銷素材與產品設計。除了在市場上註冊為企業以及到銀行開戶的法律要求以外，我覺得上述一切看起來都很可行。我認為，未來一年內，這個任務只要一些輕微的人為干預就可以完成；也許三到五年內AI就可以完全自主完成。

如果我為二十一世紀提議的現代圖靈測試能夠實現，那對全球經濟的影響將會很深遠。許多元素已經到位了，例如圖像生成技術已經很先進；編寫及使用銀行、網站、製造商所需API的介面能力正在開發中；AI從瀏覽器上編寫訊息或管理行銷活動的能力，似乎相當可行。目前最先進的AI服務已經可以做到這樣。你可以把它們視為自動執行待辦清單的原型，為廣泛的任務自動化奠定了基礎。

對於當今世界經濟中的多數任務，其實你只需要一台電腦就能完成。全球GDP的大部分是以某種方式透過螢幕版的介面進行的，AI可以跟這些介面互動。挑戰在於推進AI開發者所謂的「階層式規劃」（hierarchical planning），把多個目標、子目標與能力串接成一個朝著單一目的邁進的平順過程。一旦實現這點，就會產生功能強大的AI。把這種AI整合到企業或組織中，並全面了解在地歷史與需求，就可以執行多種職能，包括遊說、銷售、製造、人力招募、規劃等等——亦即公司能做的一切。如此一來，公司只需一小群AI經理負責監督、檢核、實施策略，就能與AI一起領導公司。

因此，我們不該被「意識」問題分散太多的注意力，而是應該把整個辯論的焦點重新放在短期能力，以及它們未來幾年將如何演變。十幾年來，模型一直以指數級的速度突飛猛進。這些能力確實已經非常真實，而且進步速度絲毫沒有減緩的跡象。雖然它們已經產生巨大的影響，但隨著我們經歷後續的倍數進展，以及AI獨自完成複雜、多步驟的端到端任務（end-to-end task），那些能力將會相形見絀。

我認為這是ACI，也就是AI可以在最少監督下，達成複雜的目標與任務。AI與AGI（超智慧）都是日常討論的一部分，但我們需要一個概念來代表一個中間層——已經通過現代的圖靈測試、但系統尚未出現失控的「超智慧」——我把那個時點稱為ACI。

ACI代表AI演化的下一個階段。這個階段的系統不僅可以辨識並生成適合特定情境的新穎圖像、音訊、語言，而且還是互動的，可以與真實的用戶即時運作。它將使用可靠的記憶來增強這些能力，以便在更長的時間範圍內保持一致，並且可以利用其他的資料來源，例如知識資料庫、產品資料庫，或第三方的供應鏈元件資料庫。這種系統將利用這些資源，把一系列的行動串接成長期計劃，以追求複雜、開放式的目標，例如在亞馬遜商場上開店。上述一切都促成工具的使用及真實能力的出現，可以執行多種複雜又實用的任務，這就是真正有能力的人工智慧，亦即ACI。

至於有意識的超智慧呢？天曉得那什麼時候會出現。但是可通過某種現代圖靈測試的超強學習系統（亦即ACI）呢？別搞錯了，它們已經在路上，而且已經有雛形了。以後會出現成千上萬個這樣的模型，世界上的多數人都會使用。它們將把我們帶到一種境界：任何人的口袋裡都有ACI，可以幫忙完成、甚至直接完成多種你可以想到的目標，例如規劃、管理假期，設計及建造更有效率的太陽能板，幫忙贏得選舉。我們很難確定，每個人都有能力這樣做時會發生什麼事。

至少在某種意義上，AI的未來是很容易預測的。未來五年，會有大量的資源持續投入AI。地球上一些最聰明的人才正努力解決AI的挑戰。頂尖的模型將以無數倍的運算能力做訓練。這一切合起來將會帶來更戲劇性的躍進，包括出現可以想像、推理、規劃、展現常識的AI。過不了多久，AI就可以像人類一樣，把它在一個領域的知識運用到另一個領域。現在AI中顯現的自我反省與自我精進的初步跡象，將變得更明顯。這些ACI系統會融入網路中，與人類所做的一切活動互動，但要建立在一個有深厚知識與能力的平台上。它們的專長將不限於語言，也擅長一系列令人眼花繚亂的任務。

AI遠比其他的技術更深入、更強大。風險不在於過度炒作，而在於忽略了這股浪潮的規模。它不止是一個工具或平台，而是一種變革性的後設技術，是技術背後的技術，也是其他一切背後的技術。它本身就是工具與平台的創造者，不單只是一個系統，而是可以生成各式各樣的系統。退後一步，想想十年或一個世紀後會發生什麼事。我們現在確實處於人類歷史的轉捩點。

然而，即將到來的浪潮不單只是AI而已。（本文摘錄整理自《控制邊緣》第四章，感電出版提供）

 書名  控制邊緣：未來科技與全球秩序的抉擇（The Coming Wave）

穆斯塔法．蘇萊曼、麥可・巴斯卡／著；洪慧芳／譯

感電出版

定價：650元

圖片來源_感電出版

 作者簡介 

穆斯塔法．蘇萊曼（Mustafa Suleyman）

現任微軟執行副總裁兼新部門「Microsoft AI」執行長，DeepMind共同創辦人。

十九歲那年，蘇萊曼放棄大學學業，協助創立穆斯林青年熱線，為倫敦的穆斯林社區提供一項創新的心理健康支持服務。這份對於運用科技改變社會的熱情，成為他日後創業旅程的先聲。

2022年，蘇萊曼與LinkedIn共同創辦人霍夫曼（Reid Hoffman）共同創立Inflection AI。他領導下的團隊推出個人AI「Pi」，這項技術不僅以其世界級的個性和同理心吸引數百萬用戶，也開創生產力應用的新範疇。

《時代》雜誌將蘇萊曼評為全球AI百大影響力人物之一，證明他在推動AI發展與倫理討論上的重要地位。