Agentische AI 2025: Zwischen Hype, Realität und Sicherheitsrisiken

Orchestrierung: Einfach stark, komplex riskant 

Bennet empfiehlt nur an den Stellen, wo klassische Prozessautomatisierung nicht greift und die Dynamik von LLMs wirklich gebraucht wird, einen kleinen spezialisierten Agenten einzusetzen, der begrenzten Handlungsspielraum hat.  

Wenn nötig könne RAG (Retrieval-Augmented Generation) für Wissenskontext hinuzugefügt werden. Ergänzend kann ein Router an spezialisierte Mini‑Agenten delegieren. Vor generischen Multi‑Agent‑Systemen warnt er: je mehr Schritte, desto höher die Gesamtfehlerrate; ein Supervisor kann Ergebnisse der Sub‑Agenten oft nicht verifizieren. 

Multi‑Agent‑Systeme klingen gut, sind aber schnell intransparent – und Fehler potenzieren sich. Die Idee an sich ist sehr schön und vielleicht wird das irgendwann mal funktionieren, aber im Moment ist das Science Fiction.

Insgesamt fehlen den Agenten hier noch die entscheidenden Fähigkeiten, Fehler entweder nicht zu machen oder Fehler zu erkennen und selbstständig zu korrigieren. „Standardmäßig lernt ein Agent gerade überhaupt nicht aus seinen Fehlern. Es gibt verschiedene Konstrukte, wie man das versucht zu simulieren, aber das funktioniert bis jetzt noch überhaupt nicht gut.” 

Sonderfall Coding Agents: Warum es hier schneller geht 

In der Softwareentwicklung erkennt Bennet die größten kurzfristigen Fortschritte. Entwicklungsumgebungen lassen sich simulieren; Agenten können stundenlang arbeiten, Code generieren, testen und iterativ verbessern – ohne Produktion zu gefährden. 

Wenn der Code nicht gut ist, wird er einfach nicht akzeptiert – das reduziert das Risiko massiv.

Für generische Office‑Tätigkeiten sieht er Forschungsfortschritte bei der „Computer‑Bedienung" durch Modelle (Browser‑, Maus‑, Tastatur‑Steuerung). Das könne End‑to‑End‑Aufgaben ermöglichen – von Recherche über Dokumentation bis E‑Mail‑Versand, sei aber nicht die generelle Lösung und bleibe textuellen Schnittstellen meist unterlegen. Der Weg dorthin sei außerdem noch sehr lang und die Forschung hier erst am Anfang. 

Sicherheit zuerst: Least Privilege, Kill‑Switches, menschliche Freigaben 

Für den sicheren Einsatz formuliert Bennet klare Prinzipien: Least‑Privilege‑Zugriffe, Logging, Kill‑Switches und menschliche Freigaben für risikoreiche Aktionen. Ein Agent darf nie höhere Rechte haben als die Person, mit der er interagiert. 

Agenten dürfen nur auf Daten zugreifen, die der jeweilige Nutzer auch sehen darf.

Besonders kritisch sind Prompt Injections – manipulierte Inhalte in Tickets, E‑Mails oder Dokumenten, die Agenten zu ungewollten Aktionen verleiten. Filter helfen, sind aber nie perfekt. Der robuste Schutz liegt laut Bennet in der Architektur: Tools so beschränken, dass sie kritische Aktionen technisch gar nicht ausführen können.

Angriffsfläche: Wenn eine E‑Mail reicht 

Bennet beschreibt einen Fall aus einem Sicherheitsbericht: Ein generisch gebauter Agent mit zu breiten Rechten ließ sich über eine simple E‑Mail manipulieren und begann, CRM‑Daten an eine fremde Adresse zu senden. Sein Fazit: Rechte stark begrenzen, Empfänger whitelisten, sensible Tools grundsätzlich nur mit menschlicher Freigabe. 

Der Agent hätte nie in der Lage sein dürfen, beliebige Empfängeradressen zu nutzen.

Scheitern mit Ansage: Wo AI‑Projekte hängen bleiben 

Sicherheitsbedenken sieht Bennet als einen der Gründe für das Scheitern von AI-Projekten. Viele Projekte würden aus Angst vor Compliance‑Risiken erst gar nicht gestartet. Verschiedenen Untersuchungen zufolge wird ein großer Anteil der AI‑Initiativen derzeit abgebrochen; viele POCs enden vor der Produktion. Bennet sieht hier auch Management-Fehler: Die entsprechenden POCs würden entwickelt, ohne Strategie für Betrieb, Budget und Verantwortlichkeiten von vornherein mitzudenken. 

Viele Proof of Concepts werden entwickelt, ohne eine klare Vision zu haben, wie diese irgendwann einmal echten Wert stiften können. Ohne diese und Budget für die Weiterentwicklung zu einem produktionsreifen System, den Betrieb, Verantwortliche und klare KPIs fehlt die Brücke in die Realität.

Warum es sich trotzdem lohnt, jetzt anzufangen 

Trotz der eher ernüchternden Einschätzung plädiert Bennet dafür, mit AI im Unternehmen zu experimentieren – aber fokussiert. Erfahrungen aus echten Einsätzen schärfen Klarheit über die Prozesse, geben Aufschluss über Umfang und Qualität von benötigten Daten und bereiten die Systeme darauf vor, zukünftig mit Agenten zu interagieren. Wichtig sei, Projekte so zu schneiden, dass der Nutzen nachweisbar wird – statt reflexartig „überall AI“ zu integrieren. Diese Erfahrungen seien enorm wertvoll. Und: 

Ein erfolgreicher Anwendungsfall kann viele gescheiterte Experimente finanzieren.

Ausblick auf das nächste Jahr: Stabilisierung statt Wunder 

Bennet sieht das nächste Jahr realistisch:  

Ich erwarte keinen radikalen Durchbruch – eher, dass klar wird, was wirklich Wert bringt.

Grundlegende Limitierungen verschwänden erstmal nicht; vieles wird aber schrittweise besser. Er rechnet mit längeren Kontextfenstern und besseren Gedächtnisfunktionen (Memory), damit Agenten längere Aufgabenketten zuverlässig bearbeiten. Im Bereich Customer Service könnte Level 2 erreicht werden. Coding Agents hingegen könnten bald ganze Tickets übernehmen. Insgesamt meint Bennet aber, der Hype könnte einer bedachteren Nutzung weichen, statt "Copilots überall" rechnet er mit einem nüchterneren Einsatz da, wo es Sinn ergibt.  

Regelmäßige Updates: LinkedIn-Newsletter "Enterprise AI"

Holistikönner und AI-Experte Bennet Krause beleuchtet in seinem monatlichen LinkedIn-Newsletter, wie Unternehmen künstliche Intelligenz erfolgreich einsetzen können – pragmatisch, geprüft, ohne Hype.