Inizia: Interroga i LLM e crea prototipi di agenti di intelligenza artificiale senza codice

Questa esercitazione senza codice di 5 minuti introduce l'intelligenza artificiale generativa in Azure Databricks. Userai il AI Playground per fare quanto segue:

• Interrogare i modelli di linguaggio di grandi dimensioni e confrontare i risultati fianco a fianco.
• Prototipare un agente AI per il richiamo degli strumenti
• Esporta il tuo agente in Databricks Apps o in un notebook
• Facoltativo: creare un prototipo di chatbot di domande e risposte usando la generazione aumentata di recupero (RAG)

Prima di iniziare

Assicurarsi che l'area di lavoro possa accedere agli elementi seguenti:

• Modelli di base.

• Catalogo Unity.
• Agenti personalizzati. Consulta Funzionalità con disponibilità regionale limitata.

Passaggio 1: Eseguire query su LLMs usando AI Playground

Utilizzare AI Playground per fare domande agli LLM in un'interfaccia di chat.

1. Nell'area di lavoro selezionare Playground nel riquadro di spostamento a sinistra in Intelligenza artificiale/Machine Learning.
2. Digitare una domanda, ad esempio " Che cos'è RAG?"

Aggiungere un nuovo LLM per confrontare le risposte affiancate:

1. In alto a destra selezionare + per aggiungere un modello per il confronto.
2. Nel nuovo riquadro selezionare un modello diverso usando il selettore a discesa.
3. Selezionare le caselle di controllo Sincronizza per sincronizzare le query.
4. Provare una nuova richiesta, ad esempio "Che cos'è un sistema di intelligenza artificiale composto?" per visualizzare le due risposte affiancate.

Continua a testare e confrontare i diversi modelli di linguaggio per decidere quale sia il migliore da usare per creare un agente di intelligenza artificiale.

Passaggio 2: Creare un prototipo di un agente di intelligenza artificiale chiamante uno strumento

Gli strumenti consentono ai modelli linguistici di fare più che generare il linguaggio. Gli strumenti possono eseguire query su dati esterni, eseguire codice ed eseguire altre azioni. AI Playground offre un'opzione senza codice per creare prototipi di agenti che chiamano gli strumenti:

1. In Playground scegliere un modello con etichetta Strumenti abilitati.

   

2. Selezionare Strumenti>+ Aggiungi strumento e selezionare la funzione predefinita Catalogo Unity, system.ai.python_exec.

   Questa funzione consente all'agente di eseguire codice Python arbitrario.

   

   Altre opzioni dello strumento includono:

   • Funzione UC: selezionare una funzione Catalogo Unity che l'agente può utilizzare.
   • Definizione della funzione: definire una funzione personalizzata per chiamare l'agente.
   • Ricerca intelligenza artificiale: specificare un indice di ricerca di intelligenza artificiale. Se l'agente usa un indice di ricerca di intelligenza artificiale, la risposta citerà le origini usate.
   • MCP: specificare i server MCP per l'uso di server MCP gestiti di Databricks o server MCP esterni.

3. Porre una domanda che implica la generazione o l'esecuzione di codice Python. È possibile provare diverse varianti nella formulazione della richiesta. Se si aggiungono più strumenti, LLM seleziona lo strumento appropriato per generare una risposta.

   

Facoltativo: creare il prototipo di un bot di domande RAG

Se nell'area di lavoro è configurato un indice di ricerca di intelligenza artificiale, è possibile creare un prototipo di bot di domande-risposta. Questo tipo di agente usa documenti in un indice di ricerca di intelligenza artificiale per rispondere a domande basate su tali documenti.

1. Fare clic su Strumenti>+ Aggiungi strumento. Selezionare quindi l'indice di ricerca di intelligenza artificiale.

   

2. Porre una domanda relativa ai documenti. L'agente può usare l'indice per cercare le informazioni pertinenti e citerà tutti i documenti usati nella risposta.

   

Per configurare un indice di ricerca di intelligenza artificiale, vedere Creare un indice di ricerca di intelligenza artificiale.

Passaggio 3: Esporta il tuo agente

Dopo aver testato l'agente in AI Playground, esportarlo in modo che sia possibile distribuire, valutare ed eseguire l'iterazione all'esterno di Playground. AI Playground offre due percorsi di esportazione:

• Esporta in Databricks Apps (consigliato): installa un'app agente distribuibile a partire dal template agent-openai-agents-sdk, inclusi un'interfaccia di chat integrata, l'integrazione degli strumenti MCP e l'autenticazione. Scegli questo percorso per i nuovi agenti.
• Creare il notebook dell'agente (legacy): genera un notebook Python che definisce l'agente e lo distribuisce in un endpoint di gestione del modello. Scegli questo percorso se Databricks Apps non è disponibile nel tuo workspace o nella tua regione.

Esporta in app (scelta consigliata)

L'opzione Esporta nelle app Databricks genera un'app agente distribuita con cui è possibile chattare. L'app usa lo stesso modello, prompt di sistema e strumenti (inclusi i server MCP e la ricerca vettoriale) configurati in Playground.

Prima di esportare, assicurarsi che l'area di lavoro soddisfi i requisiti seguenti:

• Le app di Databricks devono essere abilitate nell'area di lavoro. Vedere Configurare l'area di lavoro e l'ambiente di sviluppo di Databricks Apps.
• L'endpoint selezionato nel passaggio 2 deve supportare gli strumenti.
• L'anteprima dei server MCP gestiti deve essere abilitata nell'area di lavoro. Vedere Gestire le anteprime di Azure Databricks.

Per esportare l'agente:

1. Nel Playground, fare clic su Ottieni il codice>Esporta in Databricks Apps.

2. Nella finestra di dialogo Esporta in Databricks Apps impostare quanto segue:

   • Nome app: nome univoco che inizia con agent- e contiene solo lettere minuscole, numeri e trattini (ad esempio, agent-research-assistant).
   • Descrizione dell'app: breve descrizione delle operazioni dell'agente.
   • Esperimento MLflow: selezionare un esperimento MLflow esistente da usare per la traccia e la valutazione oppure crearne uno nuovo.

3. Fare clic su Esporta. Azure Databricks esegue le operazioni seguenti:

   1. Verifica che il nome dell'app sia disponibile.
   2. Installa il agent-openai-agents-sdk modello nell'area di lavoro e concede le autorizzazioni dell'app per le risorse necessarie. Queste risorse includono l'esperimento MLflow, l'endpoint di gestione e qualsiasi server MCP, funzioni del catalogo Unity, Genie Spaces o indici di ricerca vettoriali aggiunti come strumenti.
   3. Genera agent_server/agent.py dalla configurazione di Playground in modo che l'agente distribuito corrisponda a quello testato.

4. Quando viene visualizzata la finestra di dialogo operazione riuscita, fare clic su Visualizza agente per aprire l'app distribuita e chattare con essa usando l'interfaccia utente predefinita.

Per personalizzare il codice dell'agente, configurare l'autenticazione, aggiungere una valutazione o ridistribuire con Databricks Asset Bundles (DABs), consulta Creare un agente IA e distribuirlo su Databricks Apps.

Creare un notebook dell'agente (legacy)

Dopo aver testato l'agente in AI Playground, fare clic su Ottieni il codice>Crea notebook dell'agente per esportare l'agente in un notebook Python.

Dopo aver esportato il codice dell'agente, Azure Databricks salva una cartella con un notebook del driver nell'area di lavoro. Questo driver definisce un ResponsesAgent con chiamata di strumenti, testa l'agente in locale, usa il logging basato sul codice, registra e distribuisce l'agente di intelligenza artificiale usando Custom Agents.

Passaggi successivi

Per creare agenti usando un approccio code-first, vedere Creare un agente di intelligenza artificiale e distribuirlo in Databricks Apps.