AI趨勢周報第214期：企業協作平臺Slack推出Slack GPT平臺

重點新聞(0428～0504)

Slack     Slack GPT     自動化  

企業協作平臺Slack推出Slack GPT平臺，要讓工作流程更自動化

企業常用的協作溝通平臺Slack最近推出Slack GPT平臺，要助使用者整合各種生成式AI，來實現工作流程自動化。Slack GPT有3大特點，首先，使用者可用它直接整合、自動執行自己選擇的語言模型，不論是ChatGPT、Claude這類第三方App還是自建模型，都能在Slack GPT上整合使用。再來，Slack GPT提供一系列Slack內建AI功能，包括對話摘要和寫作輔助，其中，對話摘要功能在使用者切換頻道時，就會自動跳出。

此外，Slack GPT還提供一款新的Einstein GPT應用程式，可讓使用者觀看Salesforce Customer 360服務和資料雲服務所分析的消費者洞察。Slack還透露，今年晚些時候，使用者還能將生成式AI，即時帶入自己在Slack的自動化流程。也就是說，只要使用Slack的無程式碼自動化工具Workflow Builder，使用者就能在自己的工作流程中，增添生成式AI指令功能，來讓工作流程更自動化。（詳全文）

  YOLO     NAS     物件偵測  

最新物件偵測模型YOLO-NAS為何特別？開發者揭背後關鍵

YOLO系列模型一直是物件偵測的主流模型，最近又有新進展了。一家AI公司Deci日前發表即時物件偵測模型YOLO-NAS，宣稱準確度和速度都比過往YOLO系列模型要好，勝過YOLOv6、YOLOv7和YOLOv8。進一步來說，YOLO-NAS的基礎模型是由Deci自家神經架構搜尋器AutoNAC產生，這款神經架構搜尋器的特點在於，它可根據使用者需求，來快速生成兼具速度、準確度和高效能的自定義深度學習模型。Deci稱，該工具不只能根據資料和硬體等參數來尋找最佳架構，還能根據其他模型推理棧（如編譯器和量化）來尋找，在準確度與模型推論速度間取得平衡。

YOLO-NAS採用COCO、Objects365和Roboflow 100等資料集進行預訓練，可良好執行各種下游任務。在Nvidia T4 GPU的條件下與其他SOTA模型相比，YOLO-NAS的吞吐量提高了50%，平均精度均值則提高1 mAP。目前，Deci已開源YOLO-NAS模型和預訓練權重，其預訓練權重可在Deci的PyTorch函式庫SuperGradients使用。

不過，Deci共同創辦人Ran El-Yaniv指出，AutoNAC雖生成目前最好的YOLO模型，但他們知道，目前不會有一體適用的模型。因為，用相同的現成模型，在邊緣裝置上進行即時串流影片分析，並用雲端GPU來偵測物件，模型表現並不好。關鍵在於神經架構的設計，得兼顧影像解析度、物件大小、硬體屬性（如平行化能力、運算效率和記憶體緩存大小等），這是AutoNAC嘗試克服的挑戰。（詳全文）

  LLaMA    OpenLLaMA       大型語言模型  

Meta的LLaMA很厲害但不開源，加州大學伯克萊分校不只復刻還開源了

加州大學伯克萊分校近日釋出一個大型語言模型OpenLLaMA預覽版，具70億參數，號稱是Meta的LLaMA復刻版。因為，團隊參照了LLaMA論文，採用相同的模型前處理和訓練方法，舉凡模型架構、文章長度、訓練步驟、超參數訓練方式、學習率排程和優化器等都與LLaMA相同，唯有資料集不同。

進一步來說，他們採用的資料集是RedPajama資料集，該資料集也是仿LLaMA的訓練資料而建置，共有1.2兆多個Token。而目前釋出的7B OpenLLaMA模型，是採用資料集中2千億個Token訓練而成。為訓練模型，團隊也開發一套Jax訓練/微調流程EasyLM，並用雲端TPU-v4s來訓練OpenLLaMA。

之後，團隊用語言模型評估工具lm-evaluation-harness來測試LLaMA、OpenLLaMA和GPT-J的表現。他們發現，OpenLLaMA的分數與LLaMA和GPT-J相當，甚至在某些任務上優於兩者。目前，開發者可在Huggingface社群中，找到Python和Jax版本的OpenLLaMA預訓練模型權重。同時，團隊也正訓練另外兩種OpenLLaMA模型，包括30億參數、較小型的模型，以及要用整個RedPajama資料集（含1.2兆Token）來訓練的大型模型版本，未來將釋出這兩種模型。（詳全文）

  Gogolook     GPT-3.5     金融客服  

Gogolook用生成式AI打造金融客服機器人Roo AI

Gogolook主打金融諮詢服務，開發袋鼠金融平臺來協助民眾辨識網路上各種金融商品資訊，最近還推出GPT-3.5加持的AI智能問答服務Roo AI，回答內容更貼近臺灣消費者金融知識，還能從用戶提問內容中，找出可能導致用戶受騙的資訊，並提醒用戶。

首先，團隊選用GPT-3.5作為回答生成模型。接著，為避免GPT模型給錯答案，團隊自建資料庫來訓練一套LLM模型，用了400萬字的金融文章和200多項金融商品的資料，來確保生成內容符合臺灣消費者金融需求。同時，Gogolook也用微調和嵌入2種方法來完善Roo AI問答模型，也就是說，在流程上，使用者輸入問題後，會先透過團隊自建的嵌入式上下文分析器，來比對搜尋自建的金融知識資料庫，找出匹配的文本內容，再連同提問文字轉為向量，將這些資訊輸入GPT模型，提高正確性。而模型產出的結果會搭配參考資訊，回傳給使用者。

不只如此，團隊也用BERT的NLU語言模型，來處理斷詞、關鍵字，甚至是預先過濾提問中可能包含的不當或非法詞彙，並在後續回覆加註警示。目前，使用者向Roo AI提問時，平均需等待30秒到1分鐘左右，但該服務為beta版，有使用次數限制，團隊未來將透過用戶回饋持續調校優化LLM模型。（詳全文）

  語音助理     生成式AI     蘋果  

Amazon和蘋果都要用LLM強化語音助理

在Google、微軟掀起大型語言模型（LLM）和聊天機器人服務競爭的同時，Amazon和蘋果也要開發LLM來改善各自的語音助理。Amazon執行長Andy Jassy日前表示，Amazon將用LLM來改良Alexa，在既有底層模型上，再開發規模、能力和通用性都還要大的模型。

同時，蘋果也傳有LLM改良Siri的計畫。《紐約時報》指出，蘋果近日舉行生成式AI、LLM相關的內部活動，特別是給Siri開發部門，且蘋果員工也正測試一些語言生成概念技術。《9to5Mac》則報導一個可能是蘋果Siri的初期LLM計畫，在近日釋出的tvOS 16.4中，包含一個名為Siri Natural Language Generation的軟體框架，顯示蘋果可能用LLM來在Apple TV上執行對話力更強的Siri。（詳全文）

  腦機介面     文字     GPT  

非侵入性腦機介面成功將大腦活動轉為文字

德克薩斯大學奧斯汀分校整合語言模型和功能性磁振造影（fMRI）技術，開發出一套系統，可將大腦活動轉為文字敘述，證明了非侵入性腦機介面的可行性。由於大腦每秒處理超過2個單字，現行fMRI還難以跟上大腦速度、連續解碼語言訊號，因此，團隊研發出一種能猜測候選單字序列的解碼器，可根據腦反應來評估每個候選序列的可能性，最終選出最佳序列，來處理連續解碼工作。

為將單字序列與受試者的腦反應相比較，團隊還訓練一個編碼模型，來預測受試者大腦對自然語言短語的反應。測試時，每位受試者穿戴fMRI掃瞄器，聽16個小時的Podcast，研究團隊也用解碼器和語言模型GPT，來將受試者的大腦活動轉換成有意義的文字內容。雖然目前這項研究還在很初期的階段，但解碼器已能針對部分大腦刺激，正確解析出特定單詞，並生成意思相近的語句。（詳全文）

  微軟     網頁設計     生成式AI  

微軟網頁設計工具和視覺設計工具再添生成式AI功能

繼在Office、Power System、Dynamic 365等產品加入AI助理Copilot後，微軟日前又在另一款協作產品SharePoint中加入Copilot新功能。SharePoint是一款能讓使用者設計網站和共享資訊的平臺，最近整合大型語言模型GPT和Microsoft Graph中的資料，使用者可在SharePoint對話框中，用文字描述網站或網頁，比如「建立一個給新任產品經理使用的員工介紹頁、外加公司logo和員工導覽」，它就能產生一個網頁原型，用戶可再一邊與AI助理對話，一邊調整要的動線或外觀。Copilot也可將現有文件轉變成SharePoint網頁，例如將一份無人機產品規格文件變成介紹網頁，並抓出其中特色成為網頁標題。

此外，微軟視覺設計工具Designer也加入新AI功能，還整合到瀏覽器Edge的側邊欄工具中，並開放全面免費測試。微軟去年10月開始將OpenAI的文字轉圖像模型DALL-E整合到自家視覺設計工具Designer，來協助使用者設計社群平臺貼文、邀請函、電子賀卡等。現在，使用者只需輸入一個詞語，Designer的DALL-E模型就能生成數個配合貼文的圖片、小標或hashtag建議，來供選擇。

其次，Designer也加入自訂和調整原有設計畫布大小的功能，並新增動態視覺元素，如動態背景、表情符號及具轉場效果的文字。微軟預告，未來Designer還會加入新AI功能，像是以物件填滿某個圈起的部位、擴大背景填滿圖片、從圖片中塗抹掉某個物件，並生成其他圖片取代、以及變更背景等。（詳全文）

圖片來源／Slack、Deci、Gogolook、德克薩斯大學奧斯汀分校、微軟

  AI近期新聞 

1. 美國聯邦交易委員會主席呼籲規範生成式AI

2. 微軟Bing Chat全面開放試用，強化圖表搜尋、自動化和外掛支援

3. 吳恩達聯手OpenAI開設免費的ChatGPT Prompt Engineering課程

資料來源：iThome整理，2023年5月