Agentische KI-Sicherheit und -Governance: Risikomanagement mit Microsoft Security Copilot und Entra ID

Governance und KI-Aufsicht: Kontrolle autonomer Akteure

Mit großer Macht (und Autonomie) geht große Verantwortung einher. Microsoft hat ausdrücklich darauf hingewiesen, wie wichtig Governance und Risikomanagement sind, da die Agenten von Security Copilot zunehmend größere Rollen übernehmen:

Entra ID und „Agent Identity“ 

Jede von einem Copilot-Agenten ausgeführte Aktion ist mit einer Identität in Azure AD/Entra ID verknüpft. Microsoft hat das Konzept einer Entra-„Agent-ID“ eingeführt – im Wesentlichen ein Dienstkonto für KI-Agenten –, mit dem Unternehmen nachverfolgen und einschränken können, was KI-Agenten tun dürfen. Beispielsweise könnte ein Agent die Berechtigung haben, ein Benutzerkonto zu deaktivieren oder ein Gerät zu löschen, arbeitet jedoch unter einer Identität, die in Protokollen nachverfolgt werden kann und deren Berechtigungen von Administratoren angepasst werden können – genau wie bei einem menschlichen Konto. Dies ist entscheidend für die Nachvollziehbarkeit: Wenn ein Agent eine Änderung vornimmt, wissen Sie, welcher Agent (und wer diesen Agenten autorisiert hat) dies getan hat.

Administrative Kontrolle und Festlegung des Umfangs 

Wie bereits erwähnt, können Administratoren festlegen, welche Benutzer Zugriff auf die Funktionen von Security Copilot haben und damit auch, in welchen Bereichen des Unternehmens KI-Agenten zum Einsatz kommen. Unternehmen können sich für eine schrittweise Einführung entscheiden – z. B. indem sie das System zunächst im Sicherheitsteam testen und es anschließend auf den IT-Betrieb oder Compliance-Teams ausweiten. Darüber hinaus können bestimmte Funktionen der Agenten durch rollenbasierte Zugriffskontrollen eingeschränkt werden. Microsoft nutzt sein bestehendes Entra ID-Gruppenmitgliedschaftssystem als „Kill-Switch“ oder Zugangskontrolle: Die Zugehörigkeit zu einer bestimmten Gruppe könnte den Copilot für eine Gruppe von Benutzern aktivieren oder deaktivieren.

Zentralisierte Dashboards für KI-Risiken 

Um die Steuerung dieser neuen Automatisierungsebene zu erleichtern, hat Microsoft zudem zentrale Überwachungstools angekündigt. Eines dieser auf der Ignite vorgestellten Tools ist „Agent 365“ von Microsoft, eine neue Verwaltungsplattform zur Bestandserfassung und Überwachung aller KI-Agenten in einem Unternehmen. Über das Microsoft 365-Admin-Center können IT-Administratoren einsehen, welche Agenten bereitgestellt sind, welche Aufgaben sie ausführen, und detaillierte Richtlinien festlegen (z. B. darf ein Agent nicht außerhalb der Geschäftszeiten laufen oder auf Finanzdatensysteme zugreifen). Dies trägt dazu bei, „Schatten-KI“-Szenarien zu verhindern, in denen unkontrollierte oder unbeaufsichtigte Agenten ungehindert agieren könnten. Kurz gesagt: Microsoft verschafft der IT die nötige Transparenz und Kontrolle, um KI-gesteuerte Arbeitsabläufe zu steuern – genau wie bei jedem anderen kritischen System auch.

Sicherheitsvorkehrungen und menschliche Aufsicht

Da Microsoft sich bewusst ist, dass keine KI perfekt ist, empfiehlt das Unternehmen bei sensiblen Maßnahmen einen „Human-in-the-Loop“-Ansatz. So kann ein Agent beispielsweise einen Plan zur Behebung eines Vorfalls entwerfen oder das Konto einer Führungskraft automatisch als kompromittiert kennzeichnen, doch ein Analyst kann diese Maßnahmen überprüfen, bevor sie vollständig umgesetzt werden. Viele Unternehmen werden wahrscheinlich damit beginnen, Agenten zunächst eher in einem beratenden Modus zu konfigurieren – automatisierte Schritte werden bis zu einem bestimmten Punkt durchgeführt, während für die endgültigen, entscheidenden Maßnahmen (wie das Löschen von Daten oder das Herunterfahren eines Servers) eine menschliche Genehmigung erforderlich ist. In den Audit-Protokollen werden alle Empfehlungen und Maßnahmen von Copilot erfasst, was für die Einhaltung von Vorschriften und die Nachbetrachtung von Vorfällen von entscheidender Bedeutung ist.

Grenzen und verantwortungsvolle KI 

Microsoft hat einige Nutzungsbeschränkungen eingebaut: So stellen beispielsweise die SCU-Limits sicher, dass ein Agent nicht außer Kontrolle gerät und eine Endlosschleife ressourcenintensiver Vorgänge ausführt. Indem die Erweiterung der Kapazitäten vorerst weiterhin von Menschen gesteuert wird (über das Pay-as-you-go-Modell), wird zudem implizit sichergestellt, dass Unternehmen bewusst entscheiden, ob sie eine Ausweitung der KI-Aktivitäten wünschen. Microsoft hat zudem darauf hingewiesen, dass die KI zwar leistungsstark ist, Unternehmen jedoch weiterhin strenge Sicherheitsrichtlinien und eine strenge Aufsicht aufrechterhalten müssen. „Automatisiert“ bedeutet nicht „einmal einrichten und dann vergessen“; Unternehmen sollten ihre internen Richtlinien aktualisieren, um festzulegen, wie diese Agenten eingesetzt werden, welche Aufgaben sie übernehmen dürfen und wie ihre Ergebnisse überwacht werden.

Ein Gleichgewicht zwischen agentenbasierten KI-Innovationen und Sicherheit sowie Kontrolle

Im Wesentlichen verbindet Microsoft die Stärkung autonomer KI mit den Werkzeugen, um diese umsichtig zu steuern. Dieser doppelte Fokus auf Leistungsfähigkeit und Kontrolle ist entscheidend, um das Vertrauen der Kunden zu gewinnen, damit KI-Systeme in ihren Umgebungen eingesetzt werden können. Er spiegelt die Erfahrungen wider, die von frühen KI-Anwendern gesammelt wurden – von denen viele betonen, dass sie zwar den Nutzen der Automatisierung erkennen, aber Transparenz und Governance benötigen, um sich bei einem breiten Einsatz sicher zu fühlen.