Windows ML 首次向所有開發者全面推出 AI 應用程式直接執行在本地硬體上

Windows ML 首次全面向所有開發者推出
讓 AI 應用程式直接本地硬體上

新的抽象層，讓 Windows 11 的 AI 開發變得更容易

由 Alfonso Maruccia 撰寫，2025 年 9 月 25 日 上午 11:46

重點摘要：雖然大多數第三方生成式 AI 服務仍專注於遠端管理的模型與雲端基礎架構，但各大平台業者正迅速推動，將 AI 直接帶到本地電腦上。微軟現在正式推出自家技術，旨在協助開發者打造可在數以百萬計 PC 上運行的最佳化 AI 應用程式。

                               
登錄/註冊後可看大圖

　　在 2025 年 Build 大會首次亮相後，微軟現已將 Windows ML 正式開放給所有以 Windows 11 24H2 為目標的開發者使用。這項技術提供了一個內建 AI 推論功能的執行環境，並針對裝置端模型運行進行最佳化。微軟希望這項解決方案能加速 AI 產品的普及，讓它們幾乎出現在每一個（Windows）螢幕上。

　　Windows ML 的設計目標是大幅簡化在本地端執行的 AI 工具開發。它充當一個新的硬體抽象層，能夠在合適的加速硬體上執行 AI 應用程式——無論是 CPU、GPU，還是 NPU。Windows ML 同時也是 Windows AI Foundry 的基礎，而後者是微軟在 Windows 上管理 AI 工作負載的更廣泛平台。

　　Windows ML 的硬體抽象層 (HAL) 會自動為使用者電腦中的加速硬體選擇正確的『執行提供者 (Execution Provider, EP)』。它作為執行環境與應用生態系統之間的橋樑，能在執行過程中動態下載最合適的 EP。透過自動偵測硬體，Windows ML 減少了軟體負擔，讓 AI 應用程式不必再額外打包所有執行環境或 EP 元件，就能支援各種不同的裝置。

　　微軟同時強調了 Windows ML 所提供的更廣泛相容性，並指出 HAL 技術將持續獲得各類晶片的支援。開發者可以針對特定的電源配置進行調整，選擇透過 NPU 採取低功耗模式，或是利用 GPU 來追求更高效能的選項。

　　微軟表示，他們與主要的晶片合作夥伴——AMD、Intel、Nvidia 和 Qualcomm——進行了緊密合作。其結果是，Windows ML 應能在最新的 X86 CPU 與 NPU、基於 Arm 架構的 Snapdragon X 系列 SoC，以及來自 Nvidia 與 AMD 的高效能獨立 GPU 上，優化離線生成式 AI 的體驗。

資訊來源：https://www.techspot.com/news/109614-windows-ml-debuts-all-developers-enabling-ai-apps.html