KI-Agenten im Unternehmen: So entwickelst du leistungsfähige AI Agents mit ChatGPT und Microsoft Copilot
Wie entwickelt man einen KI-Agenten, der Unternehmen wirklich weiterbringt? Welche Rolle spielen ChatGPT, Microsoft Copilot und Prompt Engineering? Und warum scheitern viele KI-Projekte nicht an der Technologie, sondern an der Umsetzung?
Genau über diese Fragen habe ich in einem Experteninterview gesprochen. Das Interview entstand im Rahmen einer Bachelorarbeit der Hamburg Messe & Congress GmbH. Ziel der Arbeit ist die Konzeption eines KI-Agenten zur Erstellung von Newsletter-Texten. Im Mittelpunkt stehen dabei nicht nur technische Aspekte, sondern vor allem die Frage, wie Unternehmen KI sinnvoll in ihre Prozesse integrieren können.
Viele Unternehmen beschäftigen sich aktuell mit Begriffen wie KI-Agenten, AI Agents, Microsoft Copilot, ChatGPT, Prompt Engineering oder Agentic AI. Gleichzeitig herrscht viel Unsicherheit darüber, was diese Technologien tatsächlich leisten können – und wo ihre Grenzen liegen.
In diesem Artikel fasse ich die wichtigsten Erkenntnisse aus dem Interview zusammen und ergänze sie um praktische Empfehlungen für Unternehmen. Du erfährst, was einen echten KI-Agenten ausmacht, welche Fehler häufig passieren und wie du den Einstieg erfolgreich meisterst.
Das vollständige Interview ansehen
Wenn du dir das komplette Gespräch ansehen möchtest, findest du es hier:
🎥 YouTube: https://youtu.be/nKCD_zIwqVk
Was ist ein KI-Agent?
Der Begriff KI-Agent gehört derzeit zu den meistgenutzten Schlagwörtern im Bereich der Künstlichen Intelligenz. Gleichzeitig wird er häufig falsch verwendet.
Viele Lösungen werden heute als "KI-Agent" bezeichnet, obwohl sie in Wirklichkeit lediglich ein Chatbot oder ein individuell konfiguriertes Sprachmodell sind.
Aus meiner Sicht zeichnet sich ein echter KI-Agent durch drei Eigenschaften aus:
- Er arbeitet zielorientiert.
- Er kann Werkzeuge und externe Systeme nutzen, beispielsweise APIs oder Datenbanken.
- Er führt Aufgaben möglichst eigenständig aus und stößt Prozesse an, statt nur auf einzelne Prompts zu reagieren.
Im Interview beschreibe ich deshalb den Unterschied zwischen einem klassischen Large Language Model und einem echten Agenten. Ein KI-Agent verfügt über Werkzeuge und kann Prozesse automatisieren. Ein reiner Chat hingegen wartet in der Regel auf die nächste Eingabe des Nutzers.
Warum sprechen plötzlich alle über KI-Agenten?
Seit Ende 2024 und insbesondere im Jahr 2025 ist das Thema AI Agents regelrecht explodiert.
Nahezu jeder Softwareanbieter bewirbt inzwischen "Agenten".
Der Grund dafür ist einfach:
Große Sprachmodelle wie ChatGPT, Claude oder Microsoft Copilot können heute deutlich mehr als reine Texterstellung.
Sie können beispielsweise:
- Dokumente analysieren
- E-Mails vorbereiten
- Daten auswerten
- Prozesse unterstützen
- Wissensdatenbanken durchsuchen
- Informationen zusammenführen
- erste Automatisierungen übernehmen
Dadurch entsteht der Eindruck, dass jeder Assistent automatisch ein KI-Agent sei.
Ganz so einfach ist es jedoch nicht.
KI-Agent oder ChatGPT – wo liegt der Unterschied?
Diese Frage bekomme ich inzwischen in nahezu jeder Schulung gestellt.
Die kurze Antwort lautet:
ChatGPT ist zunächst ein Sprachmodell.
Ein KI-Agent ist dagegen ein System, das ein Sprachmodell mit weiteren Komponenten kombiniert.
Dazu gehören beispielsweise:
- Unternehmenswissen
- Datenbanken
- APIs
- Automatisierungen
- Geschäftsprozesse
- externe Software
- Entscheidungslogiken
Man könnte sagen:
ChatGPT beantwortet Fragen. Ein KI-Agent erledigt Aufgaben.
Natürlich verschwimmen diese Grenzen zunehmend. Moderne Systeme entwickeln sich rasant weiter. Trotzdem hilft diese Unterscheidung dabei, die unterschiedlichen Einsatzmöglichkeiten besser zu verstehen.
Welche Rolle spielt Microsoft Copilot?
Ein weiterer Schwerpunkt des Interviews war Microsoft Copilot.
Viele Unternehmen setzen inzwischen Microsoft 365 ein und fragen sich, ob Copilot die richtige Plattform für eigene KI-Agenten ist.
Meine Einschätzung:
Microsoft Copilot hat sich in den vergangenen Monaten deutlich weiterentwickelt. Besonders interessant wird die Plattform dort, wo Unternehmen bereits mit Microsoft 365, SharePoint oder Copilot Studio arbeiten.
Gerade im Unternehmenskontext bietet Microsoft den Vorteil, dass bestehende Dokumente, Dateien und Wissensquellen eingebunden werden können.
Für viele Marketing- und Wissensanwendungen ist das bereits heute ein sinnvoller Einstieg. Im Interview erläutere ich außerdem, warum ich zwischen klassischen Copilot-Funktionen und vollwertigen Agenten unterscheide und welche Möglichkeiten Copilot Studio zusätzlich eröffnet.
Warum Unternehmen nicht an KI scheitern – sondern an der Umsetzung
Eine Aussage begleitet mich bereits seit vielen Jahren.
Deutschland hat aus meiner Sicht kein Wissensproblem.
Deutschland hat vor allem ein Umsetzungsproblem.
Viele Unternehmen wissen inzwischen, dass Künstliche Intelligenz wichtig ist.
Doch zwischen Wissen und erfolgreicher Anwendung liegt häufig eine große Lücke.
Genau deshalb sehe ich meine Aufgabe als Dozent, Berater und Trainer nicht darin, einzelne Tools vorzustellen.
Mein Ziel ist es, Unternehmen dabei zu begleiten, KI sinnvoll in den Arbeitsalltag zu integrieren und aus ersten Ideen konkrete Projekte entstehen zu lassen. Bereits zu Beginn des Interviews beschreibe ich diese Haltung und erkläre, warum mich dieses Thema seit meinen ersten Erfahrungen mit KI im Journalismus begleitet.
Warum dieser Artikel für Unternehmen wichtig ist
Die Entwicklung von KI-Agenten ist keine Zukunftsmusik mehr.
Die entscheidende Frage lautet heute nicht mehr:
"Sollten wir KI einsetzen?"
Sondern vielmehr:
"Wie setzen wir KI so ein, dass sie unserem Unternehmen echten Mehrwert liefert?"
Genau diese Frage steht im Mittelpunkt dieses Artikels.
Im nächsten Abschnitt schauen wir uns an, warum der Human in the Loop auch in Zukunft unverzichtbar bleibt, welche Fehler Unternehmen beim Aufbau von KI-Agenten häufig machen und wie du Schritt für Schritt einen leistungsfähigen KI-Agenten entwickeln kannst.
KI erfolgreich im Unternehmen einsetzen
Wenn du Künstliche Intelligenz nicht nur verstehen, sondern direkt im Unternehmen einsetzen möchtest, findest du alle aktuellen Termine, Workshops und IHK-Zertifikatslehrgänge in meinem Linktree:
Dort findest du unter anderem:
- KI-Manager/in (IHK)
- KI-Innovationsmanager/in (IHK)
- KI-Berater/in (IHK)
- KI-Content-Manager/in (IHK)
- Robotik-Manager/in (IHK)
- Inhouse-KI-Schulungen
- Keynotes und Workshops
System Prompts richtig aufbauen: Das Fundament jedes erfolgreichen KI-Agenten
Wenn Unternehmen ihren ersten KI-Agenten entwickeln, konzentrieren sie sich häufig auf das falsche Thema.
Sie diskutieren über das beste Sprachmodell, vergleichen ChatGPT mit Microsoft Copilot oder testen verschiedene Tools.
Dabei entscheidet oft etwas ganz anderes über die Qualität der Ergebnisse:
Der System Prompt.
Der System Prompt ist das Fundament eines KI-Agenten. Er definiert, welche Rolle der Agent einnimmt, welche Ziele er verfolgt, welche Regeln gelten und welche Informationen berücksichtigt werden sollen.
Ist dieser Prompt unklar oder widersprüchlich, wird auch der KI-Agent keine konsistenten Ergebnisse liefern.
Was ist ein System Prompt?
Während viele Nutzer nur den eigentlichen Prompt sehen ("Schreibe mir einen Newsletter"), arbeitet im Hintergrund ein deutlich umfangreicherer System Prompt.
Er beantwortet Fragen wie:
- Wer bist du?
- Welche Aufgabe hast du?
- Welche Ziele verfolgst du?
- Welche Regeln gelten?
- Welche Tonalität soll verwendet werden?
- Welche Informationen sind wichtig?
- Was darf auf keinen Fall passieren?
Der eigentliche Nutzer-Prompt macht später häufig nur noch einen kleinen Teil der gesamten Kommunikation aus.
Warum viele System Prompts scheitern
In meinen Schulungen sehe ich immer wieder denselben Fehler.
Viele Unternehmen glauben:
Je länger der Prompt, desto besser der KI-Agent.
Das Gegenteil ist häufig der Fall.
Im Interview beschreibe ich, dass viele Teilnehmer ihre System Prompts immer weiter erweitern. Irgendwann enthalten sie widersprüchliche Vorgaben, doppelte Personas oder konkurrierende Zieldefinitionen. Dadurch wird der Agent eher verwirrt als verbessert.
Typische Fehler beim Aufbau
Zu viele Rollen
Beispielsweise:
Du bist Marketingexperte.
Weiter unten:
Du bist Vertriebsleiter.
Noch später:
Du bist technischer Produktmanager.
Am Ende weiß der Agent selbst nicht mehr, welche Perspektive eigentlich gelten soll.
Widersprüchliche Zielgruppen
Oben:
Schreibe für Geschäftsführer.
Weiter unten:
Schreibe für Auszubildende.
Beides gleichzeitig funktioniert selten gut.
Zu viele Regeln
Manche System Prompts bestehen aus mehreren tausend Wörtern.
Darin finden sich:
- Wiederholungen
- Ausnahmen
- Sonderfälle
- alte Regeln
- neue Regeln
Das macht die Pflege unnötig kompliziert.
Nutze KI zur Verbesserung deiner Prompts
Ein Tipp aus dem Interview ist bis heute einer meiner Favoriten.
Viele versuchen stundenlang, ihren System Prompt selbst zu optimieren.
Dabei können ChatGPT oder Microsoft Copilot genau dabei helfen.
Ich empfehle häufig folgenden Ansatz:
"Hier ist mein aktueller System Prompt. Analysiere ihn kritisch. Finde Widersprüche, Dopplungen und unnötige Inhalte. Erstelle anschließend eine klarere und kompaktere Version und erkläre deine Änderungen."
Im Interview beschreibe ich, dass genau dieser Ansatz häufig innerhalb weniger Minuten deutlich bessere Ergebnisse liefert als stundenlanges manuelles Überarbeiten.
Warum Markdown ein echter Geheimtipp ist
Ein weiterer Punkt, den ich im Interview anspreche, ist die Struktur.
Viele schreiben System Prompts wie einen Fließtext.
Ich bevorzuge stattdessen eine klare Markdown-Struktur.
Beispielsweise:
# Rolle
# Ziel
# Zielgruppe
# Tonalität
# Aufgaben
# Qualitätsregeln
# Beispiele
# Ausschlüsse
Diese Struktur bringt gleich mehrere Vorteile:
- bessere Übersicht
- weniger Wiederholungen
- einfachere Pflege
- leichtere Erweiterung
- klarere Priorisierung
Gerade wenn Systeme Zeichenbegrenzungen besitzen, hilft Markdown dabei, Informationen kompakt zu organisieren. Auch diesen Ansatz erläutere ich im Interview.
Welche Wissensquellen sollte ein KI-Agent erhalten?
Ein KI-Agent ist nur so gut wie die Informationen, auf die er zugreifen kann.
Viele Unternehmen unterschätzen diesen Punkt.
Sie investieren viel Zeit in Prompts, stellen dem Agenten aber kaum relevantes Wissen zur Verfügung.
Dabei sind hochwertige Wissensquellen häufig wichtiger als ein besonders ausgefeilter Prompt.
Besonders hilfreich sind:
Unternehmenswissen
- Leitbilder
- Produktinformationen
- Leistungsbeschreibungen
- Unternehmenssprache
Styleguides
Der Agent sollte wissen:
- wird geduzt oder gesiezt?
- eher locker oder seriös?
- kurze oder lange Sätze?
- Emojis erlaubt?
- Gendern oder nicht?
Im Interview empfehle ich ausdrücklich, vorhandene Schreibrichtlinien als Wissensquelle einzubinden.
Bestehende Inhalte
Sehr wertvoll sind außerdem:
- Blogartikel
- Newsletter
- Whitepaper
- Landingpages
- Produkttexte
- E-Mails
Sie zeigen der KI, wie gute Inhalte im Unternehmen aussehen.
Welche Dateiformate eignen sich?
Auch diese Frage kam im Interview auf.
Meine Empfehlung lautet:
Je strukturierter die Daten, desto besser.
Deshalb arbeite ich häufig mit:
- CSV
- Markdown
- Excel
Im Interview erkläre ich außerdem, warum ich strukturierte Daten – insbesondere CSV-Dateien – häufig HTML-Dateien vorziehe. KI-Systeme können solche Informationen meist einfacher verarbeiten und durchsuchen.
Microsoft Copilot Studio
Gerade für Unternehmen gewinnt Microsoft Copilot Studio zunehmend an Bedeutung.
Interessant wird es insbesondere dann, wenn bestehende Microsoft-Systeme integriert werden.
Dazu gehören beispielsweise:
- SharePoint
- OneDrive
- Microsoft Teams
- interne Dokumentationen
- Unternehmenswissen
Im Interview erläutere ich, dass Copilot Studio gegenüber der klassischen Chat-Oberfläche zusätzliche Möglichkeiten bietet, um Dokumente und Wissensquellen einzubinden und damit leistungsfähigere Unternehmensassistenten aufzubauen.
Fazit dieses Abschnitts
Ein guter KI-Agent entsteht nicht durch den längsten Prompt.
Er entsteht durch:
- klare Ziele
- eine eindeutige Rolle
- hochwertige Wissensquellen
- strukturierte Informationen
- einen übersichtlichen System Prompt
- kontinuierliche Optimierung
Aus meiner Erfahrung investieren Unternehmen häufig zu viel Zeit in das Tool und zu wenig Zeit in die Qualität ihrer Daten und Anweisungen.
Genau dort liegt jedoch häufig der größte Hebel für bessere Ergebnisse.
Im nächsten Teil geht es um die häufigsten Fehler bei KI-Agenten, Best Practices aus der Praxis, eine Checkliste für Unternehmen sowie einen Blick auf die Zukunft von Agentic AI und KI-Agenten im Unternehmensalltag.
ok
Die häufigsten Fehler beim Aufbau eines KI-Agenten – und wie du sie vermeidest
Nach mehreren Jahren Praxiserfahrung mit Unternehmen unterschiedlichster Branchen fällt mir immer wieder auf:
Die meisten KI-Projekte scheitern nicht an ChatGPT, Microsoft Copilot oder einem anderen KI-Modell.
Sie scheitern bereits vorher.
Nicht die Technologie ist das Problem – sondern fehlende Ziele, schlechte Daten oder unklare Prozesse.
Genau deshalb lohnt es sich, typische Fehler frühzeitig zu kennen.
Fehler 1: Kein konkretes Ziel
Der häufigste Fehler lautet:
"Wir wollen jetzt auch irgendwas mit KI machen."
Das klingt zunächst nachvollziehbar, ist aber kein Projektziel.
Ein erfolgreicher KI-Agent benötigt eine klar definierte Aufgabe.
Beispiele:
✅ Newsletter schneller erstellen
✅ Supportanfragen reduzieren
✅ Produktdaten strukturieren
✅ Angebote vorbereiten
✅ interne Wissenssuche verbessern
Je konkreter dein Ziel formuliert ist, desto einfacher wird später die Erfolgsmessung.
Fehler 2: Schlechte oder fehlende Daten
Viele Unternehmen investieren Stunden in Prompts.
Die eigentlichen Unternehmensdaten bleiben jedoch außen vor.
Dabei benötigt ein KI-Agent beispielsweise:
- Produktinformationen
- Styleguides
- Zielgruppen
- Prozesse
- FAQ
- bestehende Dokumente
- Beispiele
Je hochwertiger diese Informationen sind, desto hochwertiger werden auch die Antworten.
Fehler 3: Keine Beispiele
Menschen lernen über Beispiele.
KI ebenfalls.
Statt nur zu schreiben
"Schreibe gute Newsletter."
hilft deutlich mehr:
"Hier sind fünf Newsletter, die wir besonders gelungen finden."
Ebenso hilfreich sind Negativbeispiele.
Also Inhalte, die ausdrücklich nicht gewünscht sind.
Fehler 4: Zu viel Automatisierung
Gerade zu Beginn möchten viele Unternehmen möglichst alles automatisieren.
Meine Empfehlung lautet dagegen:
Automatisiere zunächst kleine Prozesse.
Zum Beispiel:
- Betreffzeilen
- Zusammenfassungen
- erste Entwürfe
- interne Recherche
- FAQ
Wenn diese zuverlässig funktionieren, kannst du den Automatisierungsgrad schrittweise erhöhen.
Fehler 5: Human in the Loop vergessen
Ein KI-Agent darf unterstützen.
Die Verantwortung bleibt jedoch beim Menschen.
Gerade bei
- Marketing
- Recht
- HR
- Unternehmenskommunikation
sollte immer eine Freigabe erfolgen.
Das reduziert Risiken erheblich.
Fehler 6: Erfolg wird nicht gemessen
Viele Projekte enden ungefähr so:
"Wir haben jetzt einen KI-Agent."
Auf die Frage
"Hat er euch wirklich geholfen?"
folgt häufig Schweigen.
Deshalb solltest du bereits vor Projektbeginn Kennzahlen festlegen.
Zum Beispiel:
- Zeitersparnis
- Kostenersparnis
- Klickrate
- Conversion Rate
- Bearbeitungszeit
- Fehlerquote
- Kundenzufriedenheit
Nur dann lässt sich der tatsächliche Nutzen bewerten.
Meine Checkliste für erfolgreiche KI-Agenten
Wenn ich heute einen KI-Agenten mit einem Unternehmen entwickle, gehe ich meist diese Fragen durch.
Strategie
☐ Welches Problem soll gelöst werden?
☐ Welche KPI sollen verbessert werden?
☐ Wer nutzt den Agenten?
Wissen
☐ Sind genügend Informationen vorhanden?
☐ Gibt es Styleguides?
☐ Gibt es gute Beispiele?
☐ Sind die Daten aktuell?
Qualität
☐ Gibt es Qualitätsregeln?
☐ Werden Fakten geprüft?
☐ Gibt es Human in the Loop?
Technik
☐ Sind APIs notwendig?
☐ Werden externe Systeme benötigt?
☐ Sind Berechtigungen geklärt?
Betrieb
☐ Wer pflegt den Agenten?
☐ Wer verbessert den Prompt?
☐ Wer aktualisiert die Wissensbasis?
Wie entwickeln sich KI-Agenten in den nächsten Jahren?
Ich glaube, dass wir erst am Anfang dieser Entwicklung stehen.
Während heute viele Unternehmen KI vor allem für Texte nutzen, werden Agenten künftig deutlich mehr Aufgaben übernehmen.
Dazu gehören beispielsweise:
- eigenständige Recherche
- Prozessautomatisierung
- Terminplanung
- Dokumentenerstellung
- Datenanalyse
- Wissensmanagement
- Unterstützung von Fachabteilungen
Gleichzeitig werden KI-Agenten immer stärker mit anderen Technologien zusammenwachsen.
Dazu gehören:
- Computer Vision
- Robotik
- Sprachsteuerung
- Digitale Zwillinge
- Business Intelligence
- ERP-Systeme
Gerade diese Kombination wird Unternehmen in den kommenden Jahren nachhaltig verändern.
Mein Fazit
KI-Agenten gehören aus meiner Sicht zu den wichtigsten Entwicklungen der nächsten Jahre.
Der größte Fehler besteht jedoch darin, sofort nach dem perfekten Tool zu suchen.
Der eigentliche Erfolgsfaktor liegt woanders.
Erfolgreiche Unternehmen starten mit einem klaren Ziel.
Sie definieren Prozesse.
Sie schaffen hochwertige Wissensquellen.
Sie messen Ergebnisse.
Und sie betrachten KI nicht als Ersatz für Mitarbeitende, sondern als intelligentes Werkzeug zur Unterstützung.
Genau darin liegt aus meiner Sicht der größte Hebel.
Nicht möglichst viel KI.
Sondern die richtige KI – an der richtigen Stelle.
Das komplette Experteninterview
Wenn du tiefer in das Thema KI-Agenten, Microsoft Copilot, Prompt Engineering und KI im Unternehmensalltag einsteigen möchtest, kannst du dir hier das vollständige Interview ansehen:
🎥 YouTube: https://youtu.be/nKCD_zIwqVk
Dort gehe ich unter anderem auf folgende Fragen ein:
- Was ist ein echter KI-Agent?
- Wo liegt der Unterschied zu ChatGPT?
- Welche Rolle spielt Microsoft Copilot?
- Wie entwickelt man gute System Prompts?
- Welche Wissensquellen sind sinnvoll?
- Warum bleibt Human in the Loop so wichtig?
KI erfolgreich im Unternehmen einsetzen
Wenn du Künstliche Intelligenz nicht nur verstehen, sondern direkt in deinem Unternehmen einsetzen möchtest, findest du alle aktuellen Termine, IHK-Zertifikatslehrgänge und Workshops in meinem Linktree:
Dort findest du unter anderem:
- KI-Manager/in (IHK)
- KI-Content-Manager/in (IHK)
- KI-Innovationsmanager/in (IHK)
- KI-Berater/in (IHK)
- Robotik-Manager/in (IHK)
- Inhouse-KI-Schulungen
- Keynotes und Workshops
Häufig gestellte Fragen (FAQ)
Was ist ein KI-Agent?
Ein KI-Agent ist ein KI-System, das Aufgaben weitgehend eigenständig ausführen, Informationen aus verschiedenen Quellen nutzen und Prozesse unterstützen oder automatisieren kann.
Was ist der Unterschied zwischen ChatGPT und einem KI-Agenten?
ChatGPT ist in erster Linie ein Sprachmodell. Ein KI-Agent kombiniert ein Sprachmodell zusätzlich mit Unternehmenswissen, Regeln, Werkzeugen, Automatisierungen und externen Systemen.
Brauche ich Programmierkenntnisse?
Nein. Viele moderne Plattformen wie ChatGPT, Microsoft Copilot oder Copilot Studio ermöglichen bereits ohne klassische Softwareentwicklung den Aufbau leistungsfähiger Assistenten.
Welche Unternehmen profitieren von KI-Agenten?
Grundsätzlich nahezu alle Branchen – vom Mittelstand über Industrieunternehmen bis hin zu Dienstleistern, Verwaltungen und Bildungseinrichtungen. Entscheidend ist nicht die Unternehmensgröße, sondern die Frage, welche wiederkehrenden Prozesse sinnvoll unterstützt oder automatisiert werden können.
Wie beginne ich mit einem KI-Agenten?
Starte mit einem klar definierten Anwendungsfall. Formuliere ein konkretes Ziel, sammle hochwertige Wissensquellen, entwickle einen ersten Prototyp und verbessere ihn Schritt für Schritt anhand von Feedback und messbaren Ergebnissen.