Rilevare, bloccare e analizzare le minacce agli agenti di intelligenza artificiale usando Microsoft Defender (anteprima)

Gli agenti di intelligenza artificiale distribuiti operano in modo autonomo, richiamando strumenti, accedendo ai dati e eseguendo azioni tra i sistemi in risposta all'input in linguaggio naturale. Ciò rende critico il rilevamento continuo, la protezione del runtime e l'analisi. Microsoft Defender rileva il comportamento degli agenti sospetti e dannosi, blocca le azioni pericolose in tempo reale, fornisce avvisi quasi in tempo reale e consente ai team di sicurezza di analizzare gli eventi imprevisti e tracciare la causa radice completa e il raggio di esplosione.

Questo articolo illustra come Microsoft Defender rileva, blocca e consente ai team di sicurezza di analizzare le minacce agli agenti di intelligenza artificiale gestiti tramite Microsoft Agent 365, incluse le funzionalità di rilevamento e protezione estese disponibili per le piattaforme degli agenti supportate.

Prerequisiti

• Eseguire l'onboarding in Microsoft Agent 365.
• Abilitare le funzionalità di anteprima nel portale di Microsoft Defender per ottenere prove correlate all'agente di intelligenza artificiale negli avvisi.

Bloccare le azioni dell'agente di intelligenza artificiale non sicuro in tempo reale

Microsoft Defender offre protezione in tempo reale (RTP) per impedire agli agenti di intelligenza artificiale di eseguire azioni non sicure durante il runtime. Defender si integra direttamente con Work IQ MCP per valutare le chiamate di strumenti avviate dall'agente supportate prima dell'esecuzione. Se Defender determina che un'azione è rischiosa, blocca l'azione prima che l'agente la esegua, impedendo comportamenti dannosi.

Per gli agenti di intelligenza artificiale locali supportati, la protezione runtime estende questo valore all'endpoint in cui gli agenti possono leggere file, richiamare strumenti, chiamare servizi e agire sulle workstation utente. Defender esamina l'attività del ciclo agente coperta, inclusi i prompt degli utenti, le chiamate pre-strumento e le risposte post-strumento, usando hook a livello di applicazione supportati dal provider, quindi controlla o blocca in base ai criteri prima che le azioni rischiose continuino.

La protezione in tempo reale è incentrata sulle minacce ad alta attendibilità, tra cui:

• Tentativi di estrarre o esfiltrare istruzioni di sistema o dettagli dello strumento interno

• Tentativi diretti di perdita di dati sensibili

• Uso improprio di strumenti solo interni

• Routing di informazioni a destinazioni non attendibili o dannose

• Uso di contenuto offuscato o nascosto per modificare il comportamento dell'agente

• Perdita di credenziali tramite canali legittimi, ad esempio posta elettronica o API esterne

• Richieste di attacchi injection che tentano di manipolare gli agenti tramite istruzioni inserite nascoste in file, risposte degli strumenti o input dell'utente (in particolare per gli agenti di intelligenza artificiale locali con protezione di runtime)

Quando Microsoft Defender blocca un'azione, genera un avviso dettagliato che spiega cosa è stato bloccato, perché l'azione è stata considerata rischiosa e quali agenti, utenti e strumenti sono stati coinvolti. In questo modo i team di sicurezza possono analizzare le azioni bloccate usando i flussi di lavoro di Defender familiari.

Abilitare la protezione in tempo reale

Per abilitare la protezione in tempo reale per gli agenti di intelligenza artificiale:

1. Aprire il portale di Microsoft Defender

2. SelezionareImpostazioni>di sistema>Sicurezza per gli agenti di intelligenza artificiale. Verrà visualizzata la pagina Security for AI agents settings (Sicurezza per gli agenti di intelligenza artificiale).

3. Assicurarsi che sicurezza per gli agenti di intelligenza artificiale sia attivata o disattivata.

4. Assicurarsi che Agent 365 sia connesso nell'ambito della protezione in tempo reale dell'intelligenza artificiale & indagine.

   

5. Per abilitare le funzionalità di protezione estesa in tempo reale per gli agenti di Microsoft Copilot Studio, assicurarsi che Copilot Studio sia connesso con la protezione in tempo reale dell'intelligenza artificiale & l'indagine.

   Per altre informazioni, vedere integrazione Copilot Studio in Microsoft Defender for Cloud Apps.

6. Per abilitare la protezione del runtime per gli agenti di intelligenza artificiale locali in esecuzione negli endpoint, seguire la procedura descritta in Configurare la protezione runtime dell'agente di intelligenza artificiale con Microsoft Defender per endpoint.

Rilevare le minacce degli agenti di intelligenza artificiale quasi in tempo reale

Microsoft Defender monitora continuamente l'attività degli agenti di intelligenza artificiale e rileva comportamenti sospetti e dannosi in tutti gli agenti gestiti Agent 365. Defender analizza i dati di telemetria degli agenti, l'utilizzo degli strumenti e i modelli di esecuzione per identificare minacce quali tentativi di jailbreak persistenti, attività utente sospette che coinvolgono un tentativo di jailbreak e tentativi di esecuzione sospetti dell'agente.

Microsoft Defender visualizza i rilevamenti come avvisi quasi in tempo reale nel portale di Defender e consente ai team di sicurezza di analizzarli usando flussi di lavoro noti per le operazioni di sicurezza, tra cui valutazione degli avvisi, correlazione degli eventi imprevisti e Ricerca avanzata.

Per altre informazioni, vedere Eventi imprevisti e avvisi nel portale di Microsoft Defender.

I rilevamenti quasi in tempo reale si basano su dati di osservabilità Agent 365, che forniscono anche un contesto prezioso per l'analisi degli eventi imprevisti e della ricerca delle minacce. Microsoft Defender analizza questi dati per identificare il comportamento sospetto dell'agente e generare avvisi.

Abilitare rilevamenti quasi in tempo reale e ricerca avanzata delle minacce

Per abilitare gli avvisi quasi in tempo reale e la ricerca delle minacce:

1. Abilitare il connettore di app Microsoft 365 per raccogliere Agent 365 dati di osservabilità per le azioni dell'agente di intelligenza artificiale. Per altre informazioni, vedere Connettere Microsoft 365 a Microsoft Defender for Cloud Apps.

2. Assicurarsi che l'agente di intelligenza artificiale emetta dati di osservabilità in Microsoft 365.

   • Gli agenti compilati con Microsoft Copilot Studio inviano dati di osservabilità a Microsoft 365 per impostazione predefinita.

   • Per gli agenti di intelligenza artificiale basati su altre piattaforme, abilitare l'osservabilità usando Microsoft Agent 365 SDK, come descritto nella documentazione del ciclo di vita dello sviluppo Agent 365.

Abilitare i rilevamenti estesi quasi in tempo reale per gli agenti Microsoft Copilot Studio e Microsoft Foundry

Quando si abilitano le funzionalità pertinenti, gli agenti compilati con Microsoft Copilot Studio e Microsoft Foundry dispongono di un set esteso di avvisi di rilevamento quasi in tempo reale oltre la baseline disponibile per tutti gli agenti gestiti Microsoft Agent 365.

Per abilitare queste funzionalità estese:

• Per gli agenti di Microsoft Foundry, vedere Abilitare la protezione dalle minacce per i carichi di lavoro di intelligenza artificiale di Microsoft Foundry.

• Per Microsoft Copilot Studio agenti, vedere integrazione Copilot Studio in Microsoft Defender for Cloud Apps.

Analizzare le minacce degli agenti di intelligenza artificiale e cercare i rischi usando Ricerca avanzata

Microsoft Defender correla gli avvisi degli agenti di intelligenza artificiale in eventi imprevisti e visualizza il contesto correlato in modo che i team di sicurezza possano valutare rapidamente l'impatto e assegnare priorità alla risposta. Ricerca avanzata consente quindi agli analisti di eseguire query sui dati di osservabilità Agent 365 usando Linguaggio di query Kusto (KQL) per analizzare gli eventi imprevisti e cercare i rischi nell'ambiente.

Analizzare gli eventi imprevisti e gli avvisi

Microsoft Defender correla gli avvisi degli agenti di intelligenza artificiale, inclusi i rilevamenti quasi in tempo reale e gli avvisi generati quando la protezione in tempo reale blocca un'azione, in eventi imprevisti.

Gli analisti della sicurezza possono usare il grafico degli eventi imprevisti e l'esperienza di indagine per comprendere il contesto completo di un potenziale attacco, incluse le relazioni tra le entità coinvolte e il raggio di esplosione delle minacce degli agenti di intelligenza artificiale. Per altre informazioni, vedere Eventi imprevisti e avvisi nel portale di Microsoft Defender.

Correlare gli avvisi e Agent 365 dati di osservabilità e cercare i rischi usando Ricerca avanzata

Ricerca avanzata in Microsoft Defender consente ai team di sicurezza di eseguire query sui dati di osservabilità Agent 365 insieme ad altri dati di sicurezza usando Linguaggio di query Kusto (KQL). Ciò supporta la ricerca proattiva delle minacce, l'analisi degli eventi imprevisti e l'analisi della causa radice tra agenti, applicazioni, identità e dispositivi.

Ad esempio, usare Ricerca avanzata per:

• Tracciare chiamate specifiche dello strumento agente e correlarle con avvisi o eventi di blocco correlati

• Analizzare la causa radice e l'ambito di una minaccia dell'agente di intelligenza artificiale rilevata

• Identificare i modelli di esecuzione anomali o il comportamento degli agenti rischiosi negli ambienti

• Creare regole di rilevamento personalizzate in base ai segnali di attività dell'agente

Tabelle di ricerca avanzate per l'analisi dell'agente di intelligenza artificiale

Le tabelle di ricerca avanzata seguenti offrono visibilità sulla configurazione, gli avvisi e l'attività dell'agente di intelligenza artificiale. È possibile eseguire query su queste tabelle singolarmente o correlarle per analizzare gli eventi imprevisti e cercare i rischi correlati agli agenti.

Passaggi successivi

• Individuare gli agenti di intelligenza artificiale e valutare il comportamento di sicurezza usando Microsoft Defender

• Proteggere gli asset di intelligenza artificiale da minacce e vulnerabilità emergenti usando Microsoft Defender