Mitarbeitende können heute mit vergleichsweise wenig technischem Wissen eigene KI-Assistenten, Automatisierungen und sogar KI-Agenten entwickeln. Das eröffnet Unternehmen neue Möglichkeiten, bringt aber auch Risiken mit sich. Eine aktuelle Forschungsarbeit zeigt, warum nicht genehmigte KI-Agenten für die IT-Sicherheit zunehmend zum Problem werden – und weshalb Unternehmen klare Leitplanken für den KI-Einsatz benötigen.
Wenn KI-Anwendungen außerhalb der IT entstehen
Am 9. November 2026 wurde eine Forschungsarbeit mit dem Titel „Detecting Shadow AI: Unsanctioned LLM Agents on Enterprise Endpoints“ veröffentlicht. Darin untersuchen die Forscher Jeremy Canale und Fabien Soulis, wie sich nicht genehmigte KI-Agenten auf Unternehmenscomputern erkennen lassen.
Im Mittelpunkt steht das Phänomen „Shadow AI“. Der Begriff beschreibt KI-Anwendungen, die ohne offizielle Freigabe oder ausreichende Kontrolle durch die zuständigen Stellen im Unternehmen eingesetzt werden.
Das Problem ist nicht grundsätzlich neu. Schon seit Jahren nutzen Mitarbeitende Software oder Cloud-Dienste, die nicht offiziell von der IT-Abteilung genehmigt wurden. Dieses Phänomen wird als „Shadow IT“ bezeichnet.
Durch generative KI erhält es jedoch eine neue Dimension.
Denn moderne KI-Werkzeuge ermöglichen es Mitarbeitenden zunehmend, selbst kleine Anwendungen, Skripte oder automatisierte Arbeitsabläufe zu entwickeln. Dafür sind nicht immer umfangreiche Programmierkenntnisse erforderlich.
Warum KI-Agenten neue Risiken schaffen
Während ein klassischer KI-Chatbot hauptsächlich Informationen verarbeitet und Antworten erzeugt, können KI-Agenten mit anderen Anwendungen verbunden werden und innerhalb ihrer Berechtigungen eigenständig Aktionen ausführen.
Ein selbst entwickelter Agent könnte beispielsweise E-Mails auswerten, Dokumente aus einem Unternehmensordner abrufen, Daten in einer Anwendung verändern oder Informationen zwischen verschiedenen Systemen übertragen.
Solche Funktionen können Arbeitsabläufe erheblich vereinfachen. Problematisch wird es allerdings, wenn diese Anwendungen ohne ausreichende Sicherheitsprüfung eingesetzt werden.
Ein Agent könnte Zugriff auf sensible Informationen erhalten, ungewollt Daten weitergeben oder Aktionen ausführen, die ursprünglich nicht vorgesehen waren.
Besonders relevant ist dabei, dass KI-Agenten häufig mit den Zugriffsrechten der Person arbeiten, die sie eingerichtet hat. Verfügt diese Person über weitreichende Berechtigungen, können auch die Handlungsmöglichkeiten des Agenten entsprechend umfangreich sein.
Hinzu kommt, dass selbst entwickelte Automatisierungen nicht immer zentral dokumentiert werden. Für Unternehmen wird es dadurch schwieriger nachzuvollziehen, welche Anwendungen tatsächlich im Einsatz sind und welche Daten sie verarbeiten.
Was zeigt die neue Forschungsarbeit?
Die Forschenden haben einen Open-Source-Detektor entwickelt, der Hinweise auf nicht genehmigte KI-Agenten auf Windows-Systemen erkennen soll.
Dafür untersucht das System unter anderem technische Konfigurationen, ausgeführte Prozesse und Verbindungen zu bekannten KI-Diensten.
In einer kontrollierten Testumgebung konnte der Detektor verschiedene KI-Agenten identifizieren. Gleichzeitig zeigte sich, dass eine zuverlässige Erkennung technisch anspruchsvoll ist.
Insbesondere kurzzeitig aktive Agenten oder bestimmte Netzwerkverbindungen lassen sich nicht immer eindeutig zuordnen.
Die Untersuchung basiert auf einer kleinen Testumgebung mit synthetischen Beispielen. Sie liefert deshalb noch keinen Nachweis dafür, dass sich nicht genehmigte KI-Agenten in realen Unternehmensnetzwerken umfassend erkennen lassen.
Die Forschung macht aber ein grundsätzliches Problem sichtbar: Je einfacher Mitarbeitende eigene KI-Anwendungen erstellen können, desto schwieriger wird es für Unternehmen, den Überblick über alle eingesetzten Systeme zu behalten.
Was bedeutet Shadow AI für den deutschen Mittelstand?
Gerade in kleinen und mittleren Unternehmen kann die eigenständige Nutzung von KI ein wichtiger Innovationstreiber sein.
Mitarbeitende kennen ihre täglichen Abläufe häufig am besten und erkennen schnell, wo sich wiederkehrende Aufgaben durch KI vereinfachen lassen.
Wenn jede neue Idee zunächst einen langwierigen Genehmigungsprozess durchlaufen muss, kann das die Entwicklung sinnvoller Anwendungen ausbremsen.
Vollständig unkontrollierte KI-Nutzung ist jedoch ebenfalls keine tragfähige Lösung.
Unternehmen benötigen deshalb einen Rahmen, der beides ermöglicht: eigenständiges Experimentieren und einen verantwortungsvollen Umgang mit Unternehmensdaten und -systemen.
Dazu gehören beispielsweise klare Regeln für die Verwendung von KI-Werkzeugen, definierte Zugriffsrechte und nachvollziehbare Freigabeprozesse für Anwendungen, die mit internen Systemen verbunden werden.
Ebenso wichtig ist die Qualifizierung der Mitarbeitenden. Wer KI-Agenten entwickelt oder nutzt, sollte verstehen, welche Daten verarbeitet werden, welche Aktionen ein Agent ausführen kann und wann eine menschliche Kontrolle erforderlich ist.
KI-Governance darf Innovation nicht verhindern
Die zunehmende Verbreitung von KI-Agenten zeigt, dass KI-Governance nicht ausschließlich eine Aufgabe der IT-Abteilung ist.
Auch Führungskräfte, Fachabteilungen und Mitarbeitende müssen in die Entwicklung geeigneter Regeln eingebunden werden.
Ein sinnvoller Ansatz besteht darin, sichere Möglichkeiten zum Experimentieren bereitzustellen und gleichzeitig klare Grenzen für den produktiven Einsatz festzulegen.
So könnten Unternehmen beispielsweise zwischen einfachen KI-Anwendungen ohne Zugriff auf sensible Daten und Agenten unterscheiden, die direkt mit Unternehmenssystemen verbunden sind. Je größer die möglichen Auswirkungen einer Anwendung, desto umfangreicher sollten die erforderlichen Prüfungen und Kontrollen sein.
Fazit: Shadow AI zeigt, dass die technische Entwicklung schneller voranschreiten kann als die organisatorischen Strukturen in Unternehmen. Die Antwort darauf sollte weder ein pauschales Verbot noch eine vollständig unkontrollierte Nutzung sein. Entscheidend ist, Mitarbeitende zu befähigen und gleichzeitig klare Verantwortlichkeiten, Sicherheitsstandards und Freigabeprozesse zu etablieren. Denn eine nachhaltige KI-Integration braucht nicht nur leistungsfähige Technologie, sondern auch eine Organisation, die verantwortungsvoll mit ihr umgehen kann.
Quellen: