微軟Azure AI推出小語言模型Phi-3微調工具、新增Llama 3.1、GPT-4o mini等模型

微軟Azure AI部門上周宣布模型更新版及相關工具，包括小語言模型Phi-3的無伺服器微調端點、更新Phi-3-mini模型，並增加GPT-4o mini、Llama 3.1、Mistral2作為最新模型服務。

Phi-3是微軟4月發表的小語言模型，包含三種參數規模模型，分別是Phi-3-mini（3.8B）、Phi-3-small（7B）、及Phi-3-medium（14B），強調操作較簡單，可用於運算效能有限或離線環境，允許資源有限的組織將之部署在成本較低的裝置以及頻寬受限的環境中。5月份再公布具視覺能力的模型Phi-3-vision 4.2B。

微軟上周發表Phi-3微調管道。雖然6月份微軟為了Copilot+ PC，微調出專門執行於這類Windows PC上的Phi Silica模型，但是開發人員還無法自行微調。現在，微軟Azure AI工具Models-as-a-Service（無伺服器端點）正式上線，Phi-3-small模型將可利用這項服務進行微調，微軟提供128K及8K context window版本，Phi-3-vision很快也可利用Models-as-a-Service端點微調。

微軟並在上個月宣布Phi-3-mini的更新版本，宣稱核心品質及聽從指令的能力更提升。該公司說模型經過重新訓練，現在理解指令能力大幅改進，來回對話品質和理解能力更高，且支援XML與JSON結構化輸出以及<|system|>提示。

最後，微軟宣布Azure AI加入更多AI模型生力軍，現在平臺上的模型已來到1,600多個。本月Azure OpenAI Service平臺增加了剛公布的OpenAI GPT-4o mini、Meta Llama 3.1 405B/70B/8B和Mistral Large 2，以及最新的Cohere的Rerank，後者支援100多種語言、4k context windows，它也具備語義搜尋力，可搜尋半結構化資訊，如郵件、收據、JSON文件、程式碼和表格等。