Protezione runtime dell'agente di intelligenza artificiale con Microsoft Defender per endpoint (anteprima)

Gli agenti di intelligenza artificiale locali, inclusi gli assistenti di codifica, gli strumenti dell'interfaccia della riga di comando, le app desktop per intelligenza artificiale e le piattaforme degli agenti autonomi, vengono eseguiti con privilegi utente sugli endpoint. Questi agenti agiscono su testo da richieste, file, contenuto Web e output degli strumenti e non possono separare in modo affidabile il contenuto attendibile dalle istruzioni nascoste. Una singola istruzione inserita può usare in modo improprio l'accesso dell'agente per esfiltrare dati, modificare il codice o eseguire comandi dannosi.

Microsoft Defender fornisce la protezione runtime dell'agente di intelligenza artificiale controllando i punti chiave nel ciclo dell'agente: richieste utente, chiamate pre-strumento e risposte post-strumento. Ciò consente di rilevare la richiesta di inserimento e le azioni pericolose e di controllarle o bloccarle prima dell'esecuzione. Per altre informazioni sul modo in cui la protezione del runtime controlla e blocca l'inserimento delle richieste, vedere Quale protezione di runtime rileva e Come funziona.

Questo articolo illustra quali interruzioni della protezione del runtime, come funziona e come analizzare i rilevamenti.

Cosa rileva la protezione di runtime

La protezione del runtime è destinata alla definizione della minaccia per gli agenti di IA locali: inserimento di prompt, che prevede istruzioni dannose nascoste all'interno di contenuti altrimenti legittimi che un agente legge e su cui agisce. Defender controlla i tre punti in cui il contenuto entra o lascia il ragionamento dell'agente: la richiesta dell'utente, lo strumento chiama l'agente che sta per effettuare e le risposte restituite da tali strumenti. Questo approccio rileva l'inserimento indipendentemente dalla posizione di origine del contenuto, sia che si tratti di un file, di una pagina Web, di un repository o dell'output di uno strumento.

Ad esempio, un agente di codifica recupera la documentazione di un progetto per rispondere a una domanda e la pagina contiene testo nascosto che indica all'agente di leggere il file con estensione env locale e di pubblicarne il contenuto in un URL esterno. L'agente considera l'istruzione come parte della pagina e sta per essere conforme, ma Defender rileva il prompt injection nella risposta dello strumento e blocca l'azione prima che i dati lascino il dispositivo.

Come funziona

La protezione del runtime usa hook dell'agente: punti definiti nell'esecuzione di un agente in cui uno strumento esterno può esaminare e agire sulle azioni dell'agente. Agenti come Claude Code e GitHub Copilot'interfaccia della riga di comando espongono questi punti hook e Defender li usa per controllare l'attività dell'agente.

Quando un agente supporta gli hook, Defender riceve i payload nelle fasi chiave del ciclo agentic:

• Richiesta utente: richiesta inviata all'agente.
• Chiamata pre-strumento: richiesta di chiamata dello strumento prima dell'esecuzione.
• Risposta post-strumento: la risposta dello strumento dopo il completamento dell'esecuzione.

Defender analizza questi payload per la richiesta di inserimento prima che un'azione rischiosa continui. Ogni analisi è un controllo rapido e inline in uno di questi punti anziché il monitoraggio continuo del processo dell'agente, quindi la latenza aggiunta è minima.

Per altre informazioni sugli hook dell'agente, vedere Claude Hook del codice e hook GitHub Copilot.

Cosa accade quando si abilita la protezione di runtime

Una volta abilitato in un dispositivo, Defender controlla gli agenti supportati nei punti hook mentre gli utenti lavorano, senza modificare il modo in cui eseguono l'agente. Ciò che accade dopo un rilevamento dipende dalla modalità configurata:

• Blocco: Defender blocca la minaccia e segue le regole di notifica configurate per il dispositivo. Defender notifica all'utente sia nell'interfaccia utente dell'agente che tramite una notifica di tipo avviso popup di Windows. Il rilevamento viene registrato nella cronologia di protezione di Defender nel dispositivo e viene inviato un avviso di sicurezza a Defender, correlato agli eventi imprevisti che il SOC deve analizzare.
• Revisione: Defender consente all'azione di continuare e registra il rilevamento. Un avviso di sicurezza viene ancora generato in Defender per l'analisi.
• Disabili: La protezione di runtime è disattivata. Defender non controlla l'attività dell'agente e gli agenti vengono eseguiti senza rilevamento o blocco di prompt injection.

Microsoft consiglia di iniziare in modalità di controllo per osservare i rilevamenti e convalidare l'accuratezza prima di passare alla modalità di blocco per l'imposizione attiva. L'impostazione di protezione del runtime è protetta dalla protezione da manomissioni, che impedisce modifiche non autorizzate e funziona insieme ai controlli di Defender esistenti.

Per i passaggi di configurazione, vedere Abilitare la protezione di runtime.

Indagine

Quando la protezione di runtime rileva l'inserimento dei prompt, Defender genera un avviso di inserimento di richieste di intelligenza artificiale sospette e correla l'attività correlata in eventi imprevisti per l'indagine.

Per il flusso di lavoro di analisi completo, incluse le esperienze utente e SOC, vedere Esaminare e analizzare i rilevamenti.

Agenti supportati

La tabella seguente elenca gli agenti di intelligenza artificiale locali supportati da Defender per la protezione del runtime e i collegamenti alla documentazione degli hook di ogni agente.

Funzionalità di sicurezza di intelligenza artificiale più ampie

Le funzionalità di protezione del runtime di Defender fanno parte di un approccio completo alla sicurezza dell'intelligenza artificiale. Defender offre altre funzionalità nell'ecosistema di intelligenza artificiale dell'organizzazione:

• Individuare gli agenti di intelligenza artificiale locali: rilevare automaticamente gli agenti di intelligenza artificiale locali supportati e le configurazioni del server MCP nei dispositivi. Per altre informazioni, vedere Individuazione dell'agente di intelligenza artificiale locale con Microsoft Defender per endpoint.
• Individuare gli agenti cloud e della piattaforma: trovare gli agenti creati con Microsoft Copilot Studio, Microsoft Foundry, Amazon Web Services (AWS) Bedrock e Google Cloud Platform (GCP) Vertex AI.
• Valutare il comportamento di sicurezza: valutare le configurazioni degli agenti, identificare i rischi, ottenere raccomandazioni con priorità e percorsi di attacco di superficie.
• Rilevare e analizzare le minacce: correlare gli avvisi e analizzare il comportamento degli agenti sospetti nell'infrastruttura di sicurezza.

Per informazioni dettagliate su queste funzionalità e su come applicarle, vedere Proteggere gli asset di intelligenza artificiale da minacce e vulnerabilità emergenti usando Microsoft Defender.

Passaggi successivi

• Configurare la protezione runtime dell'agente di intelligenza artificiale con Microsoft Defender per endpoint
• Individuazione dell'agente di intelligenza artificiale locale con Microsoft Defender per endpoint