微軟推出Windows AI Studio簡化Windows本地端AI應用開發

微軟在Windows上推出一款稱為Windows AI Studio的人工智慧開發工具，供企業和開發人員可以便捷地在Windows上，開始本地端的人工智慧開發和部署。由於Windows AI Studio結合了來自Azure AI Studio的工具和模型，方便開發者在Windows選擇並運用小語言模型，進而高效地開發和最佳化人工智慧應用程式。

微軟表示，現在有許多人工智慧開發工具、框架和開源模型，但是開發者很難選出適合的工具集測試、微調和最佳化模型，況且要針對不同業務需求，選擇適合的模型本身也是困難的工作。Windows AI Studio彙集了來自Azure AI Studio、Hugging Face等平臺工具和模型，可以簡化生成式人工智慧應用程式開發，使開發人員能夠簡單地微調、自訂和部署小語言模型，供Windows應用程式在本地端使用。

Windows AI Studio提供了一個全面的端到端指引工作環境，包括模型配置使用者介面和開發指南，可在開發者完成小語言模型微調後，利用整合的Prompt Flow和Gradio模板快速測試模型。微軟推出Windows AI Studio的用意，在於促進混合循環開發模型，賦予開發者根據不同情境，在Azure雲端和本地的Windows裝置間自由選擇並執行模型的能力，實現高效且靈活的人工智慧開發流程。

微軟還強調Windows AI Studio未來將提供專門針對Windows GPU和NPU最佳化的新模型，諸如 Llama 2-7B、Mistral-7B、Falcon-7B和Stable Diffusion XL。被微軟視為Windows AI入口的高效能推論引擎ONNX Runtime，以及Windows本地端機器學習的API DirectML，在本地端人工智慧開發扮演重要角色，兩者結合以提供開發者簡單且高效的人工智慧開發體驗。

除此之外，開發者也可以使用Olive（ONNX Live）模型最佳化工具，來進一步提高於Windows執行模型的效能。Olive原本是針對在雲端和邊緣裝置上運作模型所設計，其整合了模型壓縮、最佳化和編譯技術，能夠根據模型和目標硬體，採用最適合的技術最佳化模型。因此Olive與ONNX Runtime成為一個端到端推論最佳化解決方案，而且Olive也與DirectML緊密整合，藉以在整個Windows生態系實現模型硬體加速。

在數周內，開發者就可以在VS Code的擴充套件開始使用Windows AI Studio，在熟悉的介面中進行本地端人工智慧應用開發。