Introduzione a Windows ML

Questo argomento illustra il percorso minimo per l'esecuzione di un modello ONNX con Windows ML sulla CPU, quindi punta all'accelerazione hardware quando si è pronti.

Per altre informazioni su Windows ML, vedere Che cos'è Windows ML.

Prerequisiti

Annotazioni

Windows app ml possono essere destinate a qualsiasi versione di Windows supportata SDK per app di Windows. I provider di esecuzione ottimizzati per l'hardware acquisiti tramite il catalogo EP Windows ML richiedono Windows 11 versione 24H2 (build 26100) o versione successiva. Per maggiori dettagli, vedi provider di esecuzione di Windows ML.

  • .NET 8 o versione successiva per usare tutte le API di Windows ML
    • Con .NET 6 è possibile installare provider di esecuzione usando le Microsoft.Windows.AI.MachineLearning API, ma non è possibile usare le Microsoft.ML.OnnxRuntime API.
  • Riferirsi a un TFM specifico per Windows 10 come net8.0-windows10.0.17763.0 o versione successiva

Passaggio 1: Trovare un modello

Prima di scrivere codice, è necessario un modello ONNX. Vedere Trovare o fare il training dei modelli per indicazioni su come ottenere modelli ONNX.

Passaggio 2: Installare Windows ML

Vedere Installare e distribuire Windows ML per istruzioni complete in tutti i linguaggi e le modalità di distribuzione supportati (dipendenti dal framework e indipendenti).

Passaggio 3: Aggiungere namespace/intestazioni

Dopo aver installato Windows ML nel progetto, consulta Usare le API ONNX per indicazioni su quali namespace/intestazioni utilizzare.

Passaggio 4: Eseguire un modello ONNX

Con Windows ML installato, è possibile eseguire modelli ONNX nella CPU senza alcuna configurazione aggiuntiva. Per indicazioni , vedere Eseguire modelli ONNX .

A questo punto l'app ha un percorso di inferenza funzionante nella CPU.

Passaggio 5: Facoltativamente accelerare su NPU o GPU

Vuoi inferenza più veloce su NPU, GPU o persino CPU? Vedere Accelerare i modelli di intelligenza artificiale per aggiungere provider di esecuzione ottimizzati per l'hardware di destinazione.

Vedere anche