Google創辦人警告AI的隱憂：樂觀看待但得小心AI可能反過來操縱人類

繼比爾蓋茲、霍金之後，Google創辦人暨Alphabet總裁Sergey Brin也公開表達對人工智慧（AI）威脅的疑慮，表示需要科技公司的謹慎態度。

該公司每年一度的《創辦人的公開信》（Founder’s Letter）中，Brin先引述《雙城記》的「這是最好的年代，也是最壞的年代…是光明的年代，也是黑暗的年代」來描述現今時代有極佳的展望及可能性，也需要周延思慮及責任感。

他指出，Google創立之初使用的Pentium II浮點運算是每秒1億次，現今的GPU約為20兆次，而Google自行研發的TPU更來到180兆次。不過比起量子運算都是不算什麼，Google正在研發的72 qubit處理器原型運算力是數百萬台傳統電腦的總和。

運算快速發展原因來自摩爾定律，以及遊戲產業與Ethereum等加密貨幣推升對GPU運算力的需求。但最重要因素是十年以來機器學習的發展，它同時是更強大處理器的產物，也是促進處理器發展的動力。

他也提及Google將機器學習用於各種產品上，包括Waymo、Google Home、Google Translate、Youtube、Gmail的自動回覆、提升硬體的相機和音質，或是糖尿病視網膜病變的篩檢等。AI的應用五花八門，堪稱「科技復興」（technology renaissance）。

但他也指出，AI也引發疑慮，包括在各產業造成的就業問題、人類是否能掌控它、它是否會反過來操縱人類、合理性及公平性等問題。其中安全性問題小到自駕車效能如何驗證，大到AI是否發展出知覺。為此Alphabet內部也展開了關於AI安全性、倫理及業界合作計畫。

這也是比爾蓋茲、特斯拉執行長Elon Musk、已故英國天文物理學家霍金之後，最新一位科技龍頭對AI表達憂慮。但Brin似乎對AI較有信心，他預期機器學習仍然持續快速發展，而Alphabet在產品發展上也會更謹慎、思考更周詳，對AI發展抱持「審慎樂觀」態度。

目前Alphabet機器學習兩大研發中心Google Brain及DeepMind會參與Alphabet旗下事業如生技公司Verily、自駕車公司Waymo、智慧城市Sidewalk Labs及無人機連網基礎架構計畫Project Wing、及Nest等AI相關計畫。