Ai agent-kørselsbeskyttelse med Microsoft Defender for Endpoint (prøveversion)

Lokale AI-agenter, herunder kodeassistenter, CLI-værktøjer, skrivebords-AI-apps og autonome agentplatforme, kører med brugerrettigheder på slutpunkter. Disse agenter reagerer på tekst fra prompter, filer, webindhold og værktøjsoutput og kan ikke pålideligt adskille indhold, der er tillid til, fra skjulte instruktioner. En enkelt injiceret instruktion kan misbruge agentadgang til exfiltrate data, ændre kode eller køre skadelige kommandoer.

Microsoft Defender giver AI-agenten kørselsbeskyttelse ved at undersøge nøglepunkter i agentløkken: brugerprompter, kald før værktøjet og svar efter værktøjet. Dette hjælper med at registrere hurtig injektion og farlige handlinger og overvåge eller blokere dem, før de udføres. Hvis du vil vide mere om, hvordan overvågning af kørselsbeskyttelse og blokerer promptinjektion, skal du se Hvad kørselsbeskyttelse registrerer og hvordan det fungerer.

I denne artikel forklares det, hvad kørselsbeskyttelse stopper, hvordan det fungerer, og hvordan registreringer undersøges.

Hvilken kørselsbeskyttelse registrerer

Kørselsbeskyttelse er målrettet den definerende trussel mod lokale AI-agenter: promptinjektion, som omfatter skadelige instruktioner, der er skjult i andet lovligt indhold, som en agent læser og derefter reagerer på. Defender undersøger de tre punkter, hvor indholdet kommer ind eller forlader agentens begrundelse: brugerens prompt, værktøjet kalder agenten er ved at foretage, og svarene på disse værktøjer returneres. Denne fremgangsmåde griber ind, uanset hvor indholdet stammer fra, uanset om det er en fil, en webside, et lager eller et værktøjs output.

En kodeagent henter f.eks. et projekts dokumentation for at besvare et spørgsmål, og siden indeholder skjult tekst, der giver agenten besked om at læse den lokale .env-fil og sende dens indhold til en ekstern URL-adresse. Agenten behandler instruktionen som en del af siden og er ved at overholde den, men Defender registrerer den prompte injektion i værktøjssvaret og blokerer handlingen, før nogen data forlader enheden.

Sådan fungerer det

Kørselsbeskyttelse bruger agentkroge – definerede punkter i en agents udførelse, hvor et eksternt værktøj kan inspicere og reagere på agentens handlinger. Agenter som Claude Code og GitHub Copilot kommandolinjegrænsefladen eksponerer disse krogpunkter, og Defender bruger dem til at inspicere agentaktivitet.

Når en agent understøtter kroge, modtager Defender nyttedata på vigtige stadier i den agentiske løkke:

• Brugerprompt: Den prompt, der er sendt til agenten.
• Førværktøjskald: Anmodningen om aktivering af værktøjet før udførelse.
• Svar efter værktøj: Værktøjssvaret, når udførelsen er fuldført.

Defender scanner disse nyttedata for hurtig injektion, før en risikabel handling får lov til at fortsætte. Hver scanning er en hurtig, indbygget kontrol på et af disse punkter i stedet for kontinuerlig overvågning af agentprocessen, så den ekstra ventetid er minimal.

Du kan få flere oplysninger om agent hooks under Claude Code hooks og GitHub Copilot kroge.

Hvad sker der, når du aktiverer beskyttelse mod kørsel

Når funktionen er aktiveret på en enhed, inspicerer Defender understøttede agenter på deres krogpunkter, når brugerne arbejder, uden at ændre den måde, de kører agenten på. Hvad der sker efter en registrering, afhænger af den konfigurerede tilstand:

• Blok: Defender blokerer truslen og følger de meddelelsesregler, der er konfigureret for enheden. Defender giver brugeren besked både i agentbrugergrænsefladen og via en Windows-toastmeddelelse. Registreringen registreres i Defender Protection-historikken på enheden, og der sendes en sikkerhedsadvarsel til Defender, der er korreleret i hændelser, som SOC skal undersøge.
• Revision: Defender gør det muligt for handlingen at fortsætte og registrerer registreringen. Der er stadig en sikkerhedsadvarsel i Defender til undersøgelse.
• Deaktiveret: Kørselsbeskyttelse er slået fra. Defender inspicerer ikke agentaktivitet, og agenter kører uden hurtig injektionsregistrering eller blokering.

Microsoft anbefaler, at du starter i overvågningstilstand for at overvåge registreringer og validere nøjagtigheden, før du skifter til blokeringstilstand for aktiv håndhævelse. Indstillingen for kørselsbeskyttelse er beskyttet af manipulationsbeskyttelse, som forhindrer uautoriserede ændringer og fungerer sammen med dine eksisterende Defender-kontrolelementer.

Du kan finde konfigurationstrin under Aktivér beskyttelse mod kørsel.

Undersøgelse

Når beskyttelse under kørsel registrerer promptinjektion, udløser Defender en alarm om mistænkelig ai-promptinjektion og korrelerer relateret aktivitet med hændelser, der skal undersøges.

Hvis du vil se hele arbejdsprocessen for undersøgelse, herunder bruger- og SOC-oplevelser, skal du se Gennemse og undersøg registreringer.

Understøttede agenter

I følgende tabel vises de lokale AI-agenter, som Defender understøtter til kørselsbeskyttelse, og links til hver agents hooks-dokumentation.

Bredere funktioner til ai-sikkerhed

Defenders runtime-beskyttelsesfunktioner er en del af en omfattende tilgang til AI-sikkerhed. Defender leverer andre funktioner på tværs af organisationens AI-økosystem:

• Find lokale AI-agenter: Registrer automatisk understøttede lokale AI-agenter og MCP-serverkonfigurationer på tværs af dine enheder. Du kan finde flere oplysninger under Registrering af lokal AI-agent med Microsoft Defender for Endpoint.
• Oplev cloud- og platformagenter: Find agenter, der er bygget med Microsoft Copilot Studio, Microsoft Foundry, Amazon Web Services (AWS) Bedrock og GCP (Google Cloud Platform) Vertex AI.
• Vurder sikkerhedsholdning: Evaluer agentkonfigurationer, identificer risici, få prioriterede anbefalinger og angrebsstier.
• Registrer og undersøg trusler: Korreler beskeder, og undersøg mistænkelig agentadfærd på tværs af din sikkerhedsinfrastruktur.

Du kan finde oplysninger om disse funktioner, og hvordan du anvender dem, under Beskyt AI-aktiver mod nye trusler og sårbarheder ved hjælp af Microsoft Defender.

Næste trin

• Konfigurer ai-agentens kørselsbeskyttelse med Microsoft Defender for Endpoint
• Lokal registrering af AI-agent med Microsoft Defender for Endpoint