Warum die Steuerung von Agenten Chefsache ist

Agentische KI-Systeme entscheiden längst nicht mehr nur, wie Aufgaben erledigt werden, sondern welche Informationen eine Organisation überhaupt wahrnimmt. Als Anthropic Anfang Mai in New York zehn auf Finanzdienstleister zugeschnittene Agenten vorstellte, gerieten klassische Finanzdatenanbieter unmittelbar unter Druck. Die Aktie des US-Unternehmens FactSet fiel zeitweise um bis zu 8,1 Prozent. Was an diesem Tag sichtbar wurde: Agentische KI ist keine Spielerei mehr. Sie rückt in den operativen Kern regulierter Unternehmen vor und damit in Bereiche, in denen Steuerung, Aufsicht und Verantwortung zentrale Fragen sind.

Neue Risiken erkennen

Was zunächst als operative Entlastung beginnt – mit automatisierten Marketingmaterialien, Bearbeitung von Kundenanfragen oder eigenständigen Wettbewerbsanalysen – wächst in vielen Unternehmen schnell zu vernetzten Agentensystemen, die tief in strategische Prozesse eingebettet sind. Jeder dieser Agenten wurde einmal konfiguriert: mit Auftrag, Datenzugängen, Relevanzkriterien, Toolrechten oder Kontrollmechanismen. Doch je stärker solche Systeme in Entscheidungen hineinwirken, desto wichtiger wird eine Frage: Werden die Annahmen hinter den Konfigurationen noch genauso aktiv geführt wie das System selbst? Genau darin besteht ein Risiko: Die Einstellungen bestimmen, welche Informationen der Agent erkennt, gewichtet und in Prozesse einspeist.

Jede Konfiguration trifft Vorentscheidungen: Welche Datenquellen zählen, welche Signale gelten als relevant, welche Tools dürfen genutzt werden, wann wird der Mensch eingebunden? Ein Marktbeobachtungsagent, der bestimmte Regionen nicht kennt, wird sie nicht melden. Ein Wettbewerbsagent, der auf definierte Signale trainiert wurde, wird andere übersehen. Diese Lücken entstehen nicht durch unzureichende Technik, sondern durch Annahmen, die weiter wirken, auch wenn sich Strategie, Marktumfeld oder Datengrundlage bereits verändert haben.

Die Macht der Agenten

Die Macht, welche Themen als entscheidungsrelevant in die Organisation gelangen, lag bisher bei Menschen: Stabsstellen, erfahrene Führungskräfte, externe Berater. Sie war personengebunden und damit in bestehende Prozesse eingebunden. Mit agentischen Systemen wandert diese Macht in Konfigurationen und Datenzugänge. Zwar sind sie grundsätzlich einsehbar, doch Transparenz ersetzt keine Steuerung. Sichtbarkeit ersetzt keine laufende Prüfung. Entscheidend ist daher nicht die Dokumentation, sondern sind klare Verantwortlichkeiten, regelmäßige Management-Reviews und ein konsequenter Abgleich mit den Prioritäten des Unternehmens.

Neben der Frage, was ein Agent wahrnimmt, stellen sich weitere Führungsfragen, bevor ein System live geht: Wann darf es aus seinen Ergebnissen Handlungen ableiten, und wann muss menschliches Urteil zwingend eingebunden bleiben? Wo entstehen Außenwirkungen, wenn der Agent falsch liegt? Wo ist Nachvollziehbarkeit regulatorisch oder kulturell unverhandelbar?

Leitplanken überprüfen

Die technische Umsetzung kann delegiert werden. Die Definition dieser Leitplanken nicht. Regelmäßige Überprüfungen, nicht als bürokratisches Audit, sondern als Gespräche auf Führungsebene, sind dabei der einfachste Weg, Fragen zu klären und Lücken sichtbar zu machen, bevor sie Konsequenzen haben. Die Konfiguration agentischer Systeme ist keine technische Detailfrage, sondern Chefsache.