KI-Agent-Laufzeitschutz mit Microsoft Defender for Endpoint (Vorschau)

Lokale KI-Agents, einschließlich Programmierassistenten, CLI-Tools, Desktop-KI-Apps und autonome Agent-Plattformen, werden mit Benutzerberechtigungen auf Endpunkten ausgeführt. Diese Agents reagieren auf Text von Eingabeaufforderungen, Dateien, Webinhalten und Toolausgaben und können vertrauenswürdige Inhalte nicht zuverlässig von ausgeblendeten Anweisungen trennen. Eine einzelne eingefügte Anweisung kann den Agent-Zugriff missbrauchen, um Daten zu exfiltrieren, Code zu ändern oder schädliche Befehle auszuführen.

Microsoft Defender bietet Laufzeitschutz für DEN KI-Agent, indem wichtige Punkte in der Agent-Schleife überprüft werden: Benutzereingabeaufforderungen, Aufrufe vor dem Tool und Antworten nach dem Tool. Dies hilft dabei, Eingabeaufforderungen und gefährliche Aktionen zu erkennen und sie zu überwachen oder zu blockieren, bevor sie ausgeführt werden. Weitere Informationen dazu, wie der Laufzeitschutz die Einschleusung von Aufforderungen überwacht und blockiert, finden Sie unter Was der Laufzeitschutz erkennt und wie er funktioniert.

In diesem Artikel wird erläutert, welche Laufzeitschutz beendet wird, wie er funktioniert und wie Erkennungen untersucht werden.

Was der Laufzeitschutz erkennt

Laufzeitschutz zielt auf die definierende Bedrohung für lokale KI-Agents ab: Eingabeaufforderung, die schädliche Anweisungen umfasst, die in ansonsten legitimen Inhalten versteckt sind, die ein Agent liest und dann handelt. Defender überprüft die drei Punkte, an denen Inhalte in die Argumentation des Agents gelangen oder diese verlassen: die Eingabeaufforderung des Benutzers, das Tool ruft den Agent auf, und die Antworten, die diese Tools zurückgeben. Dieser Ansatz fängt die Einschleusung ab, unabhängig davon, wo der Inhalt stammt, ob eine Datei, eine Webseite, ein Repository oder die Ausgabe eines Tools.

Beispielsweise ruft ein Codierungs-Agent die Dokumentation eines Projekts ab, um eine Frage zu beantworten, und die Seite enthält ausgeblendeten Text, der den Agent anweist, die lokale ENV-Datei zu lesen und ihren Inhalt an eine externe URL zu veröffentlichen. Der Agent behandelt die Anweisung als Teil der Seite und ist dabei, dies zu erfüllen, aber Defender erkennt die Eingabeaufforderung in der Toolantwort und blockiert die Aktion, bevor Daten das Gerät verlassen.

So funktioniert es

Der Laufzeitschutz verwendet Agent-Hooks – definierte Punkte bei der Ausführung eines Agents, an denen ein externes Tool die Aktionen des Agents überprüfen und darauf reagieren kann. Agents wie Claude Code und GitHub Copilot CLI machen diese Hookpunkte verfügbar, und Defender verwendet sie zum Untersuchen der Agent-Aktivität.

Wenn ein Agent Hooks unterstützt, empfängt Defender Nutzlasten in wichtigen Phasen der agentic-Schleife:

• Benutzereingabeaufforderung: Die an den Agent übermittelte Eingabeaufforderung.
• Aufruf vor dem Tool: Die Aufrufanforderung des Tools vor der Ausführung.
• Antwort nach dem Tool: Die Antwort des Tools nach Abschluss der Ausführung.

Defender überprüft diese Nutzlasten auf Eingabeaufforderungen, bevor eine riskante Aktion fortgesetzt werden kann. Bei jeder Überprüfung handelt es sich um eine schnelle Inlineüberprüfung an einem dieser Punkte anstelle einer kontinuierlichen Überwachung des Agent-Prozesses, sodass die zusätzliche Latenz minimal ist.

Weitere Informationen zu Agent-Hooks finden Sie unter Claude Codehooks und GitHub Copilot Hooks.

Was geschieht, wenn Sie den Laufzeitschutz aktivieren?

Nach der Aktivierung auf einem Gerät überprüft Defender unterstützte Agents an ihren Hookpunkten, während Benutzer arbeiten, ohne die Ausführung des Agents zu ändern. Was nach einer Erkennung geschieht, hängt vom konfigurierten Modus ab:

• Block: Defender blockiert die Bedrohung und befolgt die für das Gerät konfigurierten Benachrichtigungsregeln. Defender benachrichtigt den Benutzer sowohl auf der Agent-Benutzeroberfläche als auch über eine Windows-Popupbenachrichtigung. Die Erkennung wird im Defender-Schutzverlauf auf dem Gerät aufgezeichnet, und eine Sicherheitswarnung wird an Defender gesendet, die mit Incidents korreliert ist, die vom SOC untersucht werden sollen.
• Audit: Defender ermöglicht das Fortsetzen der Aktion und zeichnet die Erkennung auf. In Defender wird zur Untersuchung weiterhin eine Sicherheitswarnung ausgelöst.
• Deaktiviert: Der Laufzeitschutz ist deaktiviert. Defender überprüft keine Agent-Aktivität, und Agents werden ohne Erkennung oder Blockierung von Eingabeaufforderungen ausgeführt.

Microsoft empfiehlt, den Überwachungsmodus zu starten, um Erkennungen zu beobachten und die Genauigkeit zu überprüfen, bevor Sie zur aktiven Erzwingung in den Blockmodus wechseln. Die Laufzeitschutzeinstellung ist durch Manipulationsschutz geschützt, der nicht autorisierte Änderungen verhindert und zusammen mit Ihren vorhandenen Defender-Steuerelementen funktioniert.

Konfigurationsschritte finden Sie unter Aktivieren des Laufzeitschutzes.

Untersuchung

Wenn der Laufzeitschutz die Einschleusung von Aufforderungen erkennt, löst Defender eine Warnung zur Einschleusung verdächtiger KI-Eingabeaufforderungen aus und korreliert die zugehörigen Aktivitäten zur Untersuchung mit Incidents.

Den vollständigen Untersuchungsworkflow, einschließlich Benutzer- und SOC-Erfahrungen, finden Sie unter Überprüfen und Untersuchen von Erkennungen.

Unterstützte Agents

In der folgenden Tabelle sind die lokalen KI-Agents aufgeführt, die Defender für den Laufzeitschutz unterstützt, sowie Links zu den Hooks-Dokumentationen der einzelnen Agents.

Umfassendere KI-Sicherheitsfunktionen

Die Laufzeitschutzfunktionen von Defender sind Teil eines umfassenden KI-Sicherheitsansatzes. Defender bietet weitere Funktionen im gesamten KI-Ökosystem Ihrer organization:

• Ermitteln lokaler KI-Agents: Erkennen Sie automatisch unterstützte lokale KI-Agents und MCP-Serverkonfigurationen auf Ihren Geräten. Weitere Informationen finden Sie unter Ermittlung des lokalen KI-Agents mit Microsoft Defender for Endpoint.
• Entdecken Sie Cloud- und Plattform-Agents: Suchen Sie Agents, die mit Microsoft Copilot Studio, Microsoft Foundry, Amazon Web Services (AWS) Bedrock und Google Cloud Platform (GCP) Vertex KI erstellt wurden.
• Bewerten des Sicherheitsstatus: Bewerten Sie Agent-Konfigurationen, identifizieren Sie Risiken, erhalten Sie priorisierte Empfehlungen und Angriffspfade.
• Erkennen und Untersuchen von Bedrohungen: Korrelieren Sie Warnungen, und untersuchen Sie verdächtiges Agent-Verhalten in Ihrer Gesamten Sicherheitsinfrastruktur.

Ausführliche Informationen zu diesen Funktionen und deren Anwendung finden Sie unter Schützen von KI-Ressourcen vor neuen Bedrohungen und Sicherheitsrisiken mithilfe von Microsoft Defender.

Nächste Schritte

• Einrichten des Laufzeitschutzes für DEN KI-Agent mit Microsoft Defender for Endpoint
• Ermittlung des lokalen KI-Agents mit Microsoft Defender for Endpoint