KI-Agenten im Unternehmen: Was dürfen AI Agents selbstständig entscheiden – und wer haftet?
Ein klassischer KI-Chatbot beantwortet eine Frage. Ein KI-Agent kann einen Schritt weitergehen: Er kann ein Ziel erhalten, Informationen beschaffen, mehrere Arbeitsschritte planen, auf freigegebene Systeme zugreifen und anschließend Aktionen ausführen.
Damit verändert sich eine der zentralen Fragen für Unternehmen.
Nicht mehr nur:
„Welche Inhalte darf unsere KI erstellen?“
Sondern:
„Welche Entscheidungen und Handlungen dürfen wir einer KI selbstständig überlassen?“
Darf ein KI-Agent beispielsweise eine E-Mail an einen Kunden verschicken? Einen CRM-Datensatz verändern? Eine Rechnung prüfen? Einen Termin buchen? Bewerbungen analysieren? Oder sogar eine Bestellung auslösen?
Technisch wird davon immer mehr möglich.
Organisatorisch und rechtlich bedeutet „technisch möglich“ aber noch lange nicht „sollte autonom ausgeführt werden“.
Genau diese Unterscheidung wird für Unternehmen beim Einsatz von AI Agents entscheidend.
Was ist ein KI-Agent?
Ein KI-Agent oder AI Agent ist vereinfacht gesagt ein KI-basiertes System, das nicht nur einzelne Antworten erzeugt, sondern auf Basis eines Ziels mehrere Schritte planen, Werkzeuge nutzen und Aktionen ausführen kann.
Stellen wir uns einen Vertriebsmitarbeiter vor.
Er könnte einem KI-Assistenten sagen:
„Fasse mir die Informationen zu diesem Kunden zusammen.“
Die KI recherchiert und erstellt eine Zusammenfassung.
Ein KI-Agent könnte dagegen den Auftrag erhalten:
„Bereite meinen morgigen Kundentermin vor.“
Daraus könnten mehrere Arbeitsschritte entstehen:
- CRM-Daten abrufen.
- vergangene Kommunikation auswerten.
- offene Angebote identifizieren.
- aktuelle Informationen recherchieren.
- Gesprächspunkte erstellen.
- eine Präsentation vorbereiten.
- Follow-up-Aufgaben vorbereiten oder – wenn die entsprechenden Rechte vorhanden sind – selbst anlegen.
Dass solche Systeme längst nicht mehr rein theoretisch sind, zeigt beispielsweise die Entwicklung sogenannter Workspace Agents. Moderne Agenten können mit Unternehmensanwendungen und Tools verbunden werden und wiederkehrende Workflows ausführen.
Der entscheidende Unterschied liegt deshalb in Handlungsfähigkeit und Autonomie.
Der entscheidende Unterschied: Assistieren oder handeln
Für Unternehmen hilft eine einfache Einteilung.
Stufe 1: KI informiert
Die KI recherchiert, analysiert oder beantwortet Fragen.
Beispiel:
„Welche Kunden haben seit sechs Monaten nichts mehr bestellt?“
Der Mensch erhält die Information und entscheidet anschließend selbst.
Stufe 2: KI empfiehlt
Die KI analysiert eine Situation und schlägt eine Handlung vor.
Beispiel:
„Diese 15 Kunden sollten wir kontaktieren. Hier sind die Gründe.“
Noch immer entscheidet der Mensch.
Stufe 3: KI bereitet eine Aktion vor
Der Agent erstellt beispielsweise bereits eine E-Mail, einen CRM-Eintrag oder eine Aufgabe.
Der Mitarbeiter muss die Aktion jedoch freigeben.
Stufe 4: KI handelt innerhalb definierter Grenzen
Der Agent darf bestimmte Aktionen selbstständig durchführen.
Beispielsweise:
- interne Aufgaben erstellen,
- freigegebene Datensätze aktualisieren,
- Informationen zwischen definierten Systemen übertragen oder
- standardisierte Workflows starten.
Stufe 5: KI entscheidet und handelt weitgehend autonom
Der Agent entscheidet selbst, welche Aktion erforderlich ist, und führt sie ohne vorherige menschliche Freigabe aus.
Spätestens hier steigt das Risiko erheblich.
Denn nun geht es nicht mehr nur um eine falsche KI-Antwort.
Eine falsche Entscheidung kann eine reale geschäftliche Konsequenz auslösen.
Was dürfen KI-Agenten im Unternehmen selbstständig entscheiden?
Darauf gibt es keine allgemeine Antwort wie:
„KI-Agenten dürfen maximal Stufe 3 erreichen.“
Die sinnvollere Frage lautet:
Wie groß wären die Auswirkungen, wenn der Agent eine falsche Entscheidung trifft?
Ein Agent, der einen internen Kalendereintrag erstellt, hat ein anderes Risikoprofil als ein Agent, der einen Vertragsschritt auslöst oder eine Personalentscheidung beeinflusst.
Unternehmen sollten Autonomie deshalb nicht allein anhand der technischen Möglichkeiten vergeben, sondern anhand des Risikos der jeweiligen Handlung.
Eine einfache Ampel für autonome KI-Agenten
🟢 Grün: geringe Auswirkungen
Hier kann eine weitgehende Automatisierung häufig sinnvoll sein.
Beispiele:
- Informationen zusammentragen
- Dokumente klassifizieren
- interne Zusammenfassungen erstellen
- Dateien organisieren
- interne Aufgaben anlegen
- Daten zwischen freigegebenen Systemen übertragen
- Kalenderinformationen aufbereiten
Fehler lassen sich normalerweise vergleichsweise leicht korrigieren.
🟡 Gelb: geschäftliche Auswirkungen
Hier ist eine menschliche Freigabe sinnvoll und erforderlich.
Beispiele:
- Kunden-E-Mails versenden
- Angebote vorbereiten
- geschäftsrelevante CRM-Daten verändern
- Rechnungsprozesse vorbereiten
- Bestellungen vorbereiten
- Social-Media-Inhalte veröffentlichen
- Kundensupport-Fälle abschließen
Hier bietet sich häufig das Prinzip Human in the Loop an.
Der Agent erledigt einen großen Teil des Prozesses.
Der Mensch kontrolliert den entscheidenden Schritt.
🔴 Rot: erhebliche rechtliche, finanzielle oder persönliche Auswirkungen
Hier sollten Unternehmen besonders vorsichtig sein.
Beispiele können sein:
- Bewerber auswählen oder ablehnen
- Kreditwürdigkeit bewerten
- bestimmte Versicherungsentscheidungen treffen
- verbindliche Vertragsentscheidungen auslösen
- größere Zahlungen autorisieren
- sicherheitskritische Systeme steuern
- Entscheidungen mit erheblichen Auswirkungen auf Personen treffen
Einige solcher Anwendungen können zusätzlich unter besondere Vorgaben des europäischen AI Act fallen.
Deshalb sollte hier vor einer Automatisierung eine individuelle rechtliche und organisatorische Prüfung erfolgen.
Gilt der EU AI Act für KI-Agenten?
Eine wichtige Klarstellung:
Der AI Act enthält keine eigene Risikokategorie namens „AI Agent“.
Entscheidend ist nicht, ob ein Anbieter sein Produkt als „Agent“, „Copilot“ oder „Assistant“ bezeichnet.
Entscheidend sind unter anderem Funktionsweise, vorgesehener Zweck und konkreter Einsatz des KI-Systems.
Der AI Act verfolgt grundsätzlich einen risikobasierten Ansatz. Bestimmte in Anhang III aufgeführte KI-Systeme können beispielsweise als Hochrisiko-KI-Systeme eingestuft werden.
Dazu gehören unter bestimmten Voraussetzungen Anwendungen aus Bereichen wie:
- Beschäftigung und Personalmanagement,
- Bildung,
- kritische Infrastruktur,
- bestimmte biometrische Anwendungen,
- bestimmte Bereiche grundlegender Dienstleistungen sowie
- Migration und Strafverfolgung.
Bei Beschäftigung nennt Anhang III beispielsweise KI-Systeme, die für die Rekrutierung oder Auswahl natürlicher Personen sowie die Analyse und Filterung von Bewerbungen oder Bewertung von Kandidaten bestimmt sind.
Deshalb wäre die Frage:
„Dürfen AI Agents Bewerbungen bearbeiten?“
zu pauschal.
Die bessere Frage lautet:
„Welche Funktion übernimmt dieser Agent im Bewerbungsprozess, beeinflusst er eine Entscheidung über Personen und welche Anforderungen des AI Act greifen dadurch?“
Offizielle Quelle: EU AI Act
Vollständiger Gesetzestext – Verordnung (EU) 2024/1689:
https://eur-lex.europa.eu/eli/reg/2024/1689/oj/deu
Besonders relevant sind unter anderem Artikel 6 zur Einstufung von Hochrisiko-KI-Systemen sowie Anhang III mit konkreten Anwendungsbereichen.
Übersicht der Europäischen Kommission:
https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai
Was gilt 2026 bereits?
Der AI Act wird schrittweise anwendbar.
Für Unternehmen ist unter anderem wichtig, dass die Vorschriften zur KI-Kompetenz (AI Literacy) bereits eine Rolle spielen. Unternehmen, die KI-Systeme bereitstellen oder einsetzen, müssen sich damit auseinandersetzen, welche KI-Kompetenzen die damit befassten Personen benötigen.
Das ist gerade bei KI-Agenten relevant.
Denn ein Mitarbeiter, der ChatGPT für eine Zusammenfassung verwendet, benötigt möglicherweise ein anderes Kompetenzniveau als ein Mitarbeiter, der einen autonomen Agenten mit Zugriff auf CRM, E-Mail, Unternehmensdaten und externe Systeme konfiguriert oder überwacht.
Offizielle Informationen zur AI Literacy
EU-Kommission – Fragen und Antworten zur KI-Kompetenz:
https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers
Dort erläutert die Kommission auch, dass kein bestimmtes Zertifikat vorgeschrieben ist und die erforderlichen Maßnahmen vom konkreten Kontext, den verwendeten Systemen sowie Kenntnissen und Aufgaben der betroffenen Personen abhängen.
Wer haftet, wenn ein KI-Agent einen Fehler macht?
Auch hier ist eine Differenzierung wichtig.
Ein KI-Agent wird nicht dadurch selbst zu einem verantwortlichen Rechtssubjekt, dass er autonom handelt.
Unternehmen sollten deshalb nicht davon ausgehen:
„Das hat der Agent entschieden, also sind wir dafür nicht verantwortlich.“
Wenn ein Agent beispielsweise:
- falsche Informationen an einen Kunden sendet,
- einen falschen Preis verwendet,
- vertrauliche Daten weitergibt,
- einen Prozess falsch ausführt oder
- eine unzulässige Entscheidung beeinflusst,
muss geprüft werden, welche Verantwortlichkeiten beim Betreiber, Anbieter oder anderen Beteiligten liegen.
Welche Haftungsregeln konkret greifen, hängt vom Einzelfall ab. Neben dem AI Act können beispielsweise Vertragsrecht, Produkthaftungsrecht, Datenschutzrecht, Arbeitsrecht oder andere Vorschriften relevant werden.
Deshalb sollte die Haftungsfrage bereits beim Design eines agentischen Prozesses berücksichtigt und bei kritischen Anwendungen rechtlich geprüft werden.
Human in the Loop wird zur Managemententscheidung
Eine der wichtigsten Fragen bei Agentic AI lautet deshalb:
Wann muss ein Mensch eingreifen?
Unternehmen können sogenannte Approval Gates definieren.
Der Agent darf beispielsweise:
recherchieren → analysieren → vorbereiten → empfehlen
aber vor einer bestimmten Aktion stoppt der Prozess.
Beispiel:
Agent erstellt Angebot → Mitarbeiter prüft → Mitarbeiter gibt frei → Agent versendet.
Oder:
Agent analysiert Rechnung → Agent erkennt Auffälligkeit → Mitarbeiter entscheidet über die weitere Bearbeitung.
Dass solche Freigabemechanismen technisch relevant sind, sieht man auch an aktuellen Agentenplattformen. Bei Workspace Agents können beispielsweise Schreibaktionen, die Inhalte versenden, verändern, veröffentlichen oder löschen, mit Freigaben versehen und Berechtigungen eingeschränkt werden.
Das technische Prinzip unterstützt damit eine wichtige organisatorische Regel:
Nicht jeder Agent benötigt für jede Aktion vollständige Autonomie.
Nicht nur Entscheidungen sind riskant – sondern auch Zugriffsrechte
Bei KI-Agenten entsteht zusätzlich ein Sicherheitsproblem, das bei einem einfachen Chatbot wesentlich kleiner sein kann.
Ein Agent braucht Werkzeuge.
Damit er arbeiten kann, bekommt er möglicherweise Zugriff auf:
- E-Mail,
- Kalender,
- CRM,
- ERP,
- Dokumente,
- Cloudspeicher,
- Datenbanken,
- interne Wissenssysteme,
- Kommunikationsplattformen oder
- externe Webseiten und APIs.
Je mehr Systeme verbunden werden, desto größer wird die mögliche Wirkung eines Fehlers oder eines kompromittierten Workflows.
Ein sinnvolles Prinzip lautet deshalb:
Ein KI-Agent sollte nur die Berechtigungen erhalten, die er für seine konkrete Aufgabe tatsächlich benötigt.
Ein Agent, der Kundentermine vorbereitet, braucht beispielsweise nicht automatisch die Berechtigung, Zahlungen auszulösen.
Das entspricht dem bekannten Sicherheitsprinzip Least Privilege.
Die 7 Fragen vor dem Einsatz eines KI-Agenten
Bevor Unternehmen einem Agenten echte Handlungsrechte geben, sollten mindestens sieben Fragen beantwortet werden:
- Was genau darf der Agent tun?
- Auf welche Daten und Systeme darf er zugreifen?
- Welche Entscheidungen darf er selbst treffen?
- Wann muss ein Mensch zustimmen?
- Was ist der Worst Case bei einer Fehlentscheidung?
- Können Aktionen protokolliert und nachvollzogen werden?
- Wie kann der Agent sofort gestoppt oder seine Berechtigung entzogen werden?
Damit wird aus einem spannenden KI-Experiment ein kontrollierbarer Unternehmensprozess.
Ein praktisches Modell für Unternehmen
Unternehmen müssen nicht zwischen zwei Extremen wählen:
„Keine Agenten verwenden“
oder
„Alles automatisieren.“
Ein sinnvollerer Weg besteht darin, Autonomie schrittweise zu erhöhen.
Phase 1: Beobachten
Der Agent analysiert einen Prozess, handelt aber nicht.
Phase 2: Empfehlen
Der Agent schlägt Aktionen vor.
Phase 3: Vorbereiten
Der Agent bereitet Aktionen vollständig vor, benötigt aber eine Freigabe.
Phase 4: Begrenzte Autonomie
Bestimmte risikoarme Aktionen darf der Agent selbstständig durchführen.
Phase 5: Kontrollierte Skalierung
Erst wenn Zuverlässigkeit, Governance, Sicherheit und Business Case ausreichend belegt sind, werden weitere Prozesse automatisiert.
Man beginnt also nicht mit maximaler Autonomie.
Man misst Zuverlässigkeit und erweitert die Handlungsmöglichkeiten kontrolliert.
Welche Kennzahlen sollte ein KI-Agent haben?
Bei einem klassischen KI-Chatbot wird häufig nur gefragt:
„Ist die Antwort gut?“
Bei einem Agenten reicht das nicht mehr.
Interessanter werden beispielsweise:
Task Success Rate: Wie viele Aufgaben werden korrekt abgeschlossen?
Human Intervention Rate: Wie häufig muss ein Mensch eingreifen?
Error Rate: Wie häufig führt der Agent eine falsche Aktion aus?
Escalation Rate: Wie häufig erkennt der Agent, dass menschliche Unterstützung notwendig ist?
Cost per Task: Was kostet ein vollständig bearbeiteter Prozess?
Time Saved: Wie viel Arbeitszeit spart der Agent tatsächlich?
Recovery Rate: Kann der Prozess nach einem Fehler wieder in einen definierten sicheren Zustand gebracht werden?
Damit lässt sich wesentlich besser beurteilen, ob ein KI-Agent tatsächlich produktiver arbeitet als der bisherige Prozess.
Die eigentliche Herausforderung ist nicht die Technologie
KI-Agenten werden leistungsfähiger.
Für Unternehmen entsteht dadurch aber eine neue Managementaufgabe.
Jemand muss entscheiden:
Welche Prozesse eignen sich überhaupt?
Wie viel Autonomie ist wirtschaftlich sinnvoll?
Welche Daten dürfen verwendet werden?
Welche Systeme dürfen verbunden werden?
Welche Risiken sind akzeptabel?
Wann muss ein Mensch eingreifen?
Wie messen wir den Erfolg?
Die entscheidende Kompetenz besteht deshalb nicht darin, möglichst schnell möglichst viele Agenten einzusetzen.
Sie besteht darin, die richtigen Prozesse auszuwählen und Autonomie kontrolliert zu gestalten.
Fazit: Nicht fragen, ob KI-Agenten autonom handeln können
Technisch lautet die Antwort zunehmend:
Ja.
Die wichtigere Managementfrage lautet:
Wo schafft autonome KI genug Nutzen, um das zusätzliche Risiko zu rechtfertigen?
Bei risikoarmen internen Prozessen kann weitgehende Autonomie erhebliche Effizienzpotenziale eröffnen.
Bei geschäftskritischen, finanziellen, rechtlichen oder personenbezogenen Entscheidungen sind dagegen klare Grenzen, Freigabeprozesse und menschliche Kontrolle entscheidend.
Unternehmen sollten deshalb eine Agentic-AI-Governance entwickeln, bevor aus einzelnen Experimenten zahlreiche autonome Workflows entstehen.
Vom KI-Agenten zur KI-Strategie: KI-Manager (IHK)
Genau hier verändert sich auch die Rolle eines KI-Managers.
Es reicht nicht mehr aus, einzelne KI-Tools zu kennen.
Unternehmen brauchen Personen, die beurteilen können:
- Wo bietet KI einen messbaren wirtschaftlichen Nutzen?
- Welche Prozesse eignen sich für Automatisierung oder KI-Agenten?
- Welche Risiken müssen berücksichtigt werden?
- Welche Governance brauchen wir?
- Welche Mitarbeiter müssen einbezogen werden?
- Wie entwickeln wir aus einem Pilotprojekt eine belastbare KI-Strategie?
Diese Managementperspektive ist Bestandteil meiner Arbeit als KI-Trainer und Dozent.
Wer sich strukturiert mit der Einführung von KI im Unternehmen beschäftigen möchte, findet in meinen KI-Manager (IHK) Zertifikatslehrgängen eine praxisorientierte Weiterbildung – von der Identifikation geeigneter Use Cases über KI-Strategie und Governance bis zur praktischen Umsetzung.
Aktuelle Termine für den KI-Manager (IHK) und meine weiteren KI-IHK-Zertifikatslehrgänge findest du hier:
Dort findest du neben dem KI-Manager (IHK) auch weitere aktuelle Weiterbildungen und Workshops rund um KI, Innovation, Content und Robotik.
Quellen und weiterführende Links
EU AI Act – Verordnung (EU) 2024/1689, vollständiger Gesetzestext:
https://eur-lex.europa.eu/eli/reg/2024/1689/oj/deu
Europäische Kommission – Überblick zum AI Act und den Risikokategorien:
https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai
Europäische Kommission – Guidelines zu High-Risk AI Systems:
https://digital-strategy.ec.europa.eu/en/policies/guidelines-ai-high-risk-systems
Europäische Kommission – AI Literacy: Fragen und Antworten zu Artikel 4:
https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers
OpenAI – Workspace Agents und agentische Workflows:
https://openai.com/index/introducing-workspace-agents-in-chatgpt/
OpenAI – Workspace Agents: Berechtigungen, Write Actions und Sicherheitskontrollen:
https://help.openai.com/en/articles/20001143
Aktuelle KI-Manager-(IHK)-Termine und weitere IHK-Zertifikatslehrgänge:
Stand: 14. September 2026. Dieser Beitrag dient der allgemeinen Information und Einordnung. Er stellt keine Rechtsberatung dar. Insbesondere bei KI-Systemen mit Auswirkungen auf Beschäftigte, Bewerber, Kunden, finanzielle Entscheidungen oder andere natürliche Personen sollte der konkrete Anwendungsfall rechtlich und organisatorisch geprüft werden.