圖片來源: 

攝影/羅正漢

在今年臺北國際電腦展(Computex 2024)上,未來有望普及的AI PC,無疑是本場展會最重要的焦點之一,各大筆電廠商展示最新款機型,不僅顯露出未來筆電的新樣貌,也展現AI加持下的筆電新能耐。

究竟有哪些重要變化?在Computex大會現場各廠商展示的多款新型筆電產品中,最讓大家印象深刻的是,Windows筆電上新增了專為AI設計的Copilot按鍵,通常設置於鍵盤區右邊Alt鍵的右方,可以快速叫出Windows 11上提供的Windows Copilot功能,讓使用者一鍵就可以啟動AI體驗,使用Copilot網路服務。

可以想見的是,這個按鈕會在AI PC世代佔有重要的地位。比起過往Windows 8的實體Home鍵的變化,有更大的意義存在。

另一重要變化在於,專門為AI應用而設計的NPU(Neural Processing Unit),如今這項應用開始擴及Windows個人電腦領域。

例如,電腦處理器大廠Intel去年底推出Meteor Lake行動處理器,其架構包含CPU、GPU與NPU,就率先獲得多家筆電廠商採用,在2023年底就開始陸續有產品上市。

因此在今年Computex電腦展上,Intel就在攤位上特別陳列了多家廠商的新品,包括:微軟Surface Laptop 6、Dell XPS 14(9440)、HP Elitebook 840G11,以及宏碁Swift Go 16、華碩Vivobook S 14(S5406)、技嘉Aorus 15、微星Prestige 13 AI Evo,還有聯想IdeaPad Slim 5i、LG Gram Pro、三星Galaxy Book4 Pro、Dynabook Portege X40L-M等,特別的是,Intel不只是陳列各廠商產品,更希望讓大家可以透過這些產品先目睹NPU能力的新應用。

新世代筆電可運用NPU幫助AI運算

關於NPU的實際應用場景,是大家都關注的重點,畢竟,過去個人電腦上沒有NPU,AI相關運算只能依靠CPU與GPU,尤其是具有平行運算能力的GPU,但隨著現今生成式AI技術的興起,專為加速AI應用而設計的NPU,也成為了新的解決方案。

在今年6月的Computex電腦展上,我們看到Intel展區中就有多項NPU相關技術與應用的實機展示:

(一)資安威脅與防護

首先我們要介紹的應用相當特別,是要保護AI應用程式不被竄改。

在今年Computex的Intel展區上,特別以一臺電腦展示一段影片,內容是本機端AI應用程式被竄改、污染的資安風險。

根據現場導覽人員的說明,影片中主要呈現出,當使用者在AI應用程式中提出問題,詢問「臺灣銀行網銀服務的官方網站網址是什麼?」在一般情況下,AI應用程式可回答出正確的網址。

不過,一旦AI模型、知識庫沒有受到保護,遭到竄改或下毒,這時使用者再次詢問同樣的問題,由於AI應用程式受到操弄,因此我們看到AI應用程式此時的回答,是一個錯誤的可疑網址。

關於上述這項AI PC上的資安應用,其實是由趨勢科技所提供,該公司亦在Computex設置展區並展示這方面的解決方案,因此他們的現場工作人員在導覽時,也向我們提供進一步的說明。

基本上,隨著NPU、開源小型LLM的發展,如今在筆電上這樣的邊緣運算,將讓攻擊面變得更寬廣。因此,趨勢科技已經針對AI PC提供資安解決方案,強調Security for AI,聚焦保護AI應用程式不被竄改。

他們解釋,因為現今大眾普遍使用的生成式AI服務,主要是將資料傳回至雲端才能處理,但雲端上的AI其實都有著企業等級的安全防護,相對而言,當電腦有了NPU之後,各種AI應用程式就能直接在PC上執行,只是本機端的AI模型也就成為新的風險。

另一方面,他們也有提出AI for Security的應用,是發展出由NPU驅動的電子郵件防護。這是因為,趨勢科技過去提供的雲端Email防護解決方案,有些功能需要將郵件內容去識別化後送至雲端處理,像是要識別詐騙郵件等功能,而且這樣的應用需要使用者同意後才能送至雲端分析。若運用電腦本身NPU來處理,不僅同樣可以帶來保護,也具有更高的隱私。

(二)手勢控制

另一展示情境為手勢控制(Gesture Control)的應用。由於現在不只手機,運動相機也都首度開始加入手勢控制的能力,在筆電上的應用發展又是如何?

在一臺技嘉Aorus 15筆電上所展示的應用場景,是以愛奇藝的Windows App的手勢操作功能為例,根據現場人員導覽時的說明,該程式在前幾年已經加入手勢識別AI模型,背後主要利用CPU與GPU來處理分析,可以透過視訊鏡頭來識別手勢,像是掌心張開對著電腦代表停止播放,OK手勢代表繼續播放,而現在能使用NPU來獨立處理,時時分析鏡頭前的手勢操作。因此,與過去運算處理方式相比,將可減輕CPU與GPU的負擔,讓這些資源可去處理其他工作任務。

(三)眼球追蹤

關於眼球追蹤(Eye-Tracking)這樣的技術,多年前我們已經看過這類技術應用的展示,但至今其應用仍遲遲未能普及,今年Computex我們又看到有這樣的展示。

在現場一臺Dynabook Portege X40L-M電腦上,展示了兩個眼球追蹤的場景,首先是一個書架的畫面,現場人員向我們說明,我們只要在電腦前,用眼睛注視著畫面上的任何一本書,筆電鏡頭就能偵測使用者的目光焦點,當我們實際這麼做,盯著中間右邊的樂譜書籍時,該物件真的就會稍微放大,望向其他書時也會有同樣效果,如同用眼睛操控滑鼠游標一樣的效果。

另一個是X光照片的畫面,我們也依據現場導覽人員的指出,當我們頭部朝向筆電靠近,螢幕上的圖片就會跟著放大,看到更清楚的X光斷層掃瞄細節,當我們頭部往後,圖片則會縮小。現場導覽人員也說明,有了NPU可以讓人眼追蹤時的AI運算,更具能耗上的效益。

(四)Windows AI應用程式

談到AI PC,大家對於微軟提出的Copilot+ PC應該相當印象深刻,而我們在Intel展區也看到一臺微軟Surface Laptop 6筆電,正展示著Windows 11 24H2將提供給AI筆電的微軟AI應用程式,包括即時字幕翻譯Live Captions、Windows Studio Effects。儘管這臺電腦尚不符合微軟對Copilot+ PC的定義,但依然能夠展示這些AI應用程式的效果。

例如,筆電上正播放Computex 2024主題演說的YouTube影片,我們可以看到以Live Captions的效果是,可將演講內容即時產生英文字幕於筆電畫面的上方。現場工作人員向我們表示,在這項技術下,包括偵測到的語音,輔助字母的產生,都是在電腦上完成,並不會與雲端或微軟共用。

同時,這臺電腦另一半畫面也展示了啟用視訊影像下的Camera effect效果,可快速自動對焦與模糊背景,並使視訊的影像更清晰。

(五)寫作助手

自從ChatGPT與Gemini等生成式AI服務的出現,現在大家對於上網使用生成式AI服務,命令AI寫出一段文章,已經並不陌生。不過,之後使用者也可在不連網的情況之下,利用自己筆電上的AI應用程式,來執行生成式AI應用。

例如,在Intle展區另一臺LG Gram Pro筆電上,所展示的應用就是寫作助手。電腦畫面上呈現出使用Word編輯文章時,能另外叫出一個具Secure Local機制的寫作助手,現場人員表示,其特色在於不用將文字內容上傳生成式AI服務,就能快速調整一段寫作內容。

從寫作助手的功能選單來看,介面上提供了很多寫作風格的切換,包括正式、輕鬆、簡單,簡單扼要,或是需要擴展,甚至也能調整內容為具說服性、具敘述性,或是具資訊性。又或是調整為幽默、嚴肅、樂觀、悲觀的語氣。此外也有翻譯能力,包括中文、英文、西班牙文、日文、韓文等。

隨著NPU運算效能提升,以及支援NPU的AI應用程式增加,AI筆電會更有看頭

綜合來看,雖然上述採用Intel Meteor Lake處理器的產品,其NPU運算能力只有11.5 TOPS,但可預期的是,各家處理器大廠正持續發力,積極提升NPU運算能力。

這是因為今年5月微軟、Intel已經透露,未來AI PC的門檻至少要達40 TOPS,目前Intel也已經預告下一代Lunar Lake,其NPU將提升超過40 TOPS

而在高通與AMD方面,這兩家廠商的動作更快,近期已開始推出NPU運算能力更高的處理器,像是高通主打Arm架構的Snapdragon X1系列筆電處理器,其NPU效能達45 TOPS,AMD也已經新發表Ryzen AI系列處理器,其NPU效能達50 TOPS。

再者,繪圖AI晶片大廠Nvidia目前也在積極發力,他們認為NPU在效能與支援性上與GPU相比仍有落差,僅依靠NPU只能算基本的AI PC,因此該公司也持續針對AI筆電提供更強的GPU來執行更多AI功能。

綜觀上述發展,聚焦GPU、NPU的運算效能提升,應該會是接下來新世代筆電持續強調的重點。

我們在這次Computex電腦展上,也首度看到這些新品在臺亮相。例如,在宏碁展區所擺設的一臺Swift 14 AI的筆電,該產品就是搭載擁有45 TOPS的Sanpdragon X Eltie處理器。

另外在Computex上華碩的展區中,我們也看到一臺ProArt PX13,搭載的就是擁有50 TOPS的AMD Ryzen AI 9 HX 370處理器,並還搭載了Nvidia GeFrce3 RTX 4070顯示晶片,可增至320 AI TOPS。

不僅能為筆電、PC提供多元的AI運算潛力,也盼能促進體感操作的普及

在AI發展大勢之下,由於新世代Windows筆電、PC的處理器都將變成整合CPU、GPU與NPU的架構,從上述各式AI應用方式來看,確實讓新世代個人裝置有了相當大的變化。

但大家可能也會想到的是,現在生成式AI服務已獲大眾普遍應用,不論是OpenAI的ChatGPT,Google的Gemini,以及主打AI繪圖的Stable Diffusion等,很多應用其實只要我們連上網路就能使用,而且訂閱這些雲端服務後,可獲得更強的能力。

因此,最大重點應該是放在「在裝置端執行」這件事,例如,如果不想將敏感資料上傳至雲端服務,就是大家可能看重的面向;還有一些輔助性的功能,像是手勢與眼球的追蹤,視訊上的美肌、自動背景去背與更換等,也很適合交由NPU來執行,讓CPU與GPU的資源可以留給其他任務。

值得一提的是,以上述的手勢控制、眼球追蹤而言,這些技術其實發展已久,像是Intel在10年前提出Ultrabook概念後,當時還會強調由攝影鏡頭、軟體、傳感器所構成的RealSense體感操作技術,聚焦於聚焦於人臉、手勢的捕捉,不只要讓辨識、追蹤變得更精準,更希望為下一代電腦的操作體驗帶來革新。然而,後續這類應用,只有Windows Hello登入技術變得普及,

如今隨著NPU的應用領域開始擴及Windows電腦產品,由於各大處理器廠商均強調,新的NPU能讓處理器以更節能的方式,在筆電上執行AI運算任務。

因此,另一大重點就是「NPU運算功耗低於GPU」的特性,而我們也期盼,在這樣的節能效果之下,不只可以發揮多元的AI應用,同時還能促進筆電的體感應用變得真正普及。

當然,PC端應用的發展也值得觀察,畢竟PC不像筆電本身就內建視訊鏡頭與麥克風等,或許All in One(AIO)機型也會再次成為市場焦點。此外,由於PC處理器的運算能力比筆電更好,可負荷更高的AI運算,如何推動更多元化的應用,將是各家電腦廠商的機會與挑戰。

無論如何,儘管AI PC可能要等到2025年才會在市場上正式發酵,但初期我們可從上述各式NPU的應用場景,來看出當前AI筆電的新特性,後續可以想見的是,由於筆記各家廠商已經紛紛表態,要提供更好的AI運算能力,要針對AI PC提供更多應用,屆時我們應該能見識到AI PC真正的能耐。

熱門新聞

Advertisement