Wie man KI-Agenten für die geschäftliche Nutzung verwaltet

Sind KI-Agenten für Unternehmen der nächste Schritt zur Automatisierung?

KI-Agenten sind die „dritte Welle“ der künstlichen Intelligenz und entwickeln sich aus prädiktiver KI und generativer KI (GenAI). Diese KI-gestützten Programme sind mehr als nur Chatprogramme. Sie handeln. Konkret können KI-Agenten ihre Umgebung autonom erfassen, Entscheidungen treffen und Aufgaben ausführen.

Für Führungskräfte und das mittlere Management sind KI-Agenten wie neue Teammitglieder. Sie können Teams dabei unterstützen, mit weniger Ressourcen in kürzerer Zeit mehr Arbeit zu erledigen. Sie können beispielsweise bei administrativen Aufgaben unterstützen, die Teamarbeit verbessern sowie das Kundenerlebnis und die Personalisierung optimieren.

Der Bereich der KI-Entwicklung, der es ermöglicht, KI-Agenten zu erstellen, wird als Agentic AI bzw. agentenbasierte KI bezeichnet. Mithilfe von Standards wie dem Model Context Protocol (MCP) können KI-Agenten sich mit den externen Tools und Datenquellen verbinden, die sie benötigen, um ihre Aktionen auszuführen.

KI-Agenten können aber nicht in einem Vakuum existieren. Obwohl sie von Haus aus autonom sind, müssen sie wie jedes andere Teammitglied geführt, verwaltet und beaufsichtigt werden. Wie bei jedem anderen Teammitglied müssen KI-Agenten in bestehende Abläufe und Geschäftsprozesse eingebunden werden, um Unternehmensziele zu fördern – nicht zu behindern.

Wie können Führungskräfte autonome KI-Agenten steuern und überwachen?

Effektives Management von KI-Agenten mithilfe eines Human-in-the-Loop-Ansatzes ermöglicht verantwortungsvolle KI. Mit diesen Strategien stellen Sie sicher, dass Ihre Agenten fokussiert bleiben und zielgerichtet arbeiten:

Verwenden Sie hochwertige Daten

Die von KI-Agenten verwendeten Daten müssen von hoher Qualität sein. Wenn KI-Agenten mit veralteten oder ungenauen Daten arbeiten, übernehmen sie diese fälschlich als Norm. Eine Tabelle oder Liste mit Daten in verschiedenen Formaten – wie Datums- oder Finanzsätze – kann Agenten ebenfalls verwirren.

Dasselbe Prinzip gilt auch für die Weiterentwicklung (Iteration) von Agenten. Agenten berücksichtigen die ihnen zur Verfügung gestellten Quellen. Ohne Parameter durchsuchen sie möglicherweise das gesamte Internet, um die richtige Lösung zu finden, was potenziell zu Fehlinformationen führen kann. Unternehmen können dies verhindern, indem sie den Zugriff der Agenten beschränken.

Legen Sie klare Regeln, Ziele und Grenzen fest.

Ein KI-Agent ist wie ein neuer Mitarbeitender: Wenn er die Unternehmensregeln und -ziele nie lernt, könnte er diese leicht verletzen.

System-Prompts helfen dabei, Agenten zu steuern, indem Ausgaben an den gewünschten Ergebnissen ausgerichtet werden. Ein System-Prompt definiert das Verhalten eines Agenten durch Kontexte wie beispielsweise die Persona des Agenten, eine Aufgabe mit Anweisungen zur Erledigung und Richtlinien, die die KI befolgen muss. System-Prompts können auch Elemente wie Fokusbereiche, Ton und Beispielausgaben umfassen.

Gestalten Sie diese Anweisungen so klar und spezifisch wie möglich. Widersprüche – zum Beispiel die Bitte um einen „starken, maßgebender Ton mit einem freundlichen Ansatz“ – können einen Agenten verwirren. Wenn Sie einem Agenten mitteilen, dass er ein „Vordenker“ bzw. „Thought Leader“ in einem Thema ist, ist dies ebenfalls weit gefasst und lässt zu viel Spielraum für Interpretationen.

Beginnen Sie mit einfachen Aufgaben

KI-Agenten für Unternehmen eignen sich am besten für einfache Aufgaben. Komplexere Aufgaben erfordern in der Regel, dass mehrere Agenten sich gegenseitig kontrollieren und unterstützen. Ein Agent muss außerdem in der Lage sein, die ihm zugewiesene Aufgabe tatsächlich auszuführen. Eine Budgetprognose anzufordern ist sinnlos, wenn der Agent keinen Zugriff auf Finanzdaten hat.

Integrieren Sie Rate Limiting

Rate Limiting kann dazu beitragen, zu verhindern, dass KI-Agenten zu häufig eine fehlerhafte Aktion ausführen. Beispielsweise würde Rate Limiting verhindern, dass sich ein Agent wiederholt bei einem Dienst anmeldet oder auf sensible Benutzerdaten zugreift.

Strategische Authentifizierung und Autorisierung entwickeln

Da Agenten menschlichen Mitarbeitenden ähneln, müssen sie die korrekten Authentifizierungs- und Autorisierungsprozesse befolgen. Verifizieren Sie, dass Agenten diejenigen sind, die sie vorgeben zu sein, indem Sie Client-Anmeldeinformationen mit sicheren kryptografischen Schlüsseln verwenden.

Agenten benötigen in der Regel keinen Zugriff auf alle Daten oder Systeme. Halten Sie Agenten durch gezielten, eingeschränkten Zugriff auf ihren Aufgabenbereich fokussiert – mit passenden Berechtigungen für Ressourcen, sensible Daten und kürzlich durchgeführte Aktionen. Beispielsweise könnten Sie einem Agenten Leseberechtigungen, jedoch keine Schreibberechtigungen erteilen, sodass dieser keine Datei ändern kann.

Entwickler können Authentifizierung und Autorisierung für ihren MCP-Server konfigurieren, um Bereiche und Berechtigungen festzulegen und durchzusetzen, damit Agenten nur das aufrufen können, was zulässig ist. Ein MCP-Client kann zudem Agenten erstellen, die den Endnutzer auffordern, einem anderen Dienst Zugriff zu gewähren; erscheint die Anfrage verdächtig, kann der Nutzer sie einschränken.

Außerdem müssen Agenten selten ständig „online“ oder aktiv bleiben. Daher kann es sinnvoll sein, Agenten mit zeitlichen Begrenzungen zu programmieren. Wenn sie beispielsweise Social-Media-Texte für eine bevorstehende Ankündigung erstellen, benötigen sie nur wenig Zeit, um relevante Informationen zu analysieren, den Ton früherer Beiträge zu erkennen und den passenden Text zu verfassen. Die Begrenzung der Zugriffszeit reduziert potenzielle Cybersicherheitsrisiken.

Berücksichtigen Sie das OWASP-Risiko übermäßiger Autonomie

Das Open Web Application Security Project (OWASP) ist eine internationale Non-Profit-Organisation, die sich der Verbesserung der Sicherheit von Webanwendungen widmet. Eine Gefahr aus dem OWASP Top 10-Bericht für große Sprachmodelle (LLMs) ist übermäßige Autonomie.

LLM-basierte Agenten verfügen oft über eine gewisse Eigenständigkeit, indem sie auf Prompts reagieren und Maßnahmen ergreifen. Übermäßige Autonomie kann jedoch Probleme verursachen. Beispielsweise könnte der Agent Dateien löschen, sensible Informationen weitergeben oder versehentlich andere operative Prozesse stören.

Um übermäßige Eigenständigkeit zu vermeiden, können Entwickler die Funktionalität, Berechtigungen und Autonomie von Plugins und Tools einschränken. Ein Beispiel: Mithilfe von Rate Limiting lassen sich Aktionen wie Nachrichtenversand oder Chat-Antworten begrenzen. Autorisierung und Authentifizierung mit OAuth ist eine weitere solide Strategie gegen übermäßige Autonomie. Ebenso ist die Anforderung einer menschlichen Autorisierung für bestimmte Aktionen eine gute Strategie, um negative Auswirkungen zu minimieren.

Denken Sie aus UX-Perspektive

Nicht alle Angestellten verstehen die technischen Details von KI-Agenten gleich gut. Sie sehen möglicherweise nur das Endergebnis. Wenn ein Agent alle Teammitglieder unterstützen soll, muss er einfach zu verwenden sein.

Überlegen Sie, was KI-Agenten bereits leisten können, und entfernen Sie anschließend alle potenziellen Ablenkungen oder zusätzlichen Schritte, die vom Thema ablenken. Die regelmäßige Überprüfung von Regeln und Richtlinien kann helfen, überflüssige Bereiche im System eines Agenten aufzudecken.

Wie lassen sich KI-Agenten am besten in bestehende Arbeitsabläufe integrieren?

Die Verwaltung von KI-Agenten ist ein Teil des Puzzles, aber die erfolgreiche Implementierung von KI-Agenten für Unternehmen erfordert auch die natürliche und komfortable Einbettung in bestehende Arbeitsabläufe. Diese Taktiken können eine nahtlose Integration und einen reibungslosen Betrieb unterstützen:

• Führen Sie Workflow-Audits durch, um potenzielle Verbesserungen oder Engpässe aufzudecken. Heben Sie Aufgaben und Prozesse hervor, die durch KI optimiert oder automatisiert werden können.
• Wenden Sie sich an KI-Anbieter mit API-Schnittstellen,um gemeinsam zu prüfen, wo sich KI sinnvoll in bestehende Systeme integrieren lässt.
• Beginnen Sie im kleinen Rahmen, erweitern Sie den Einsatz schrittweise, schulen Sie Ihre Mitarbeitenden und fördern Sie den Austausch im Team.
• Setzen Sie auf einen Human-in-the-Loop-Workflow, der sowohl dauerhafte Zustände als auch menschliche Bewertung der Agentenentscheidungen ermöglicht.
• Denken Sie daran, dass KI-Agenten Teammitglieder und keine Ersatzkräfte sind.

Erfolgreiche Verwaltung von KI-Agenten: Woran lässt sich das messen?

Wenn Sie den Einsatz und die Wirkung von KI-Agenten in Ihrem Unternehmen ausbauen möchten, muss die Performance-Überwachung ein zentraler Bestandteil Ihrer Managementstrategie sein. Mögliche Metriken sind:

• Abschlussrate und die Anzahl der Schritte, die ein Agent benötigt, um eine bestimmte Aufgabe abzuschließen
• Genauigkeit, einschließlich der Frage, ob der Agent Anweisungen befolgt hat, ob er die erwarteten Ergebnisse erzielt hat und ob ein Mensch eingreifen musste, um Anpassungen vorzunehmen.
• Zeitersparnis durch die Nutzung des Agenten, insbesondere bei administrativen Aufgaben

Auch Mitarbeitende sind eine großartige Feedbackquelle. Da sie regelmäßig Agenten einsetzen und über Erfahrungen an vorderster Front verfügen, können sie Erfolge und potenzielle Herausforderungen aufzeigen, Benchmarks anbieten und Beispiele geben, um anderen den Einstieg in die Nutzung und Verwaltung von KI-Agenten zu erleichtern.

Führungskräfte sind es gewohnt, menschliche Mitarbeitende zu überwachen und ihnen regelmäßig Performance-Beurteilungen zu geben. Ebenso müssen sie die Agenten überwachen, indem sie konsequent Bewertungen, Nachverfolgungen und Fehleranalysen durchführen, um häufige Fehler aufzudecken und häufige Fehler zu beheben und ungenaue oder ineffiziente Agenten zu „debuggen“.

Wie kann Cloudflare bei KI-Agenten helfen?

Die Cloudflare-Entwicklerplattform verfügt über Tools, um KI-gestützte Agenten zu erstellen, bereitzustellen und ihren reibungslosen Betrieb zu gewährleisten. Besonders hilfreich sind:

• Workers AI: Workers AI bietet global verteilte Rechenleistung, um KI-Agenten in der Nähe des Entscheidungsorts auszuführen. Dies ermöglicht Reaktionsfähigkeit in Echtzeit und Edge-basierte Autonomie.
• Cloudflare Container/Sandboxes: Cloudflare Container und Sandboxes sind sichere Ausführungsumgebungen, in denen KI-Agenten isoliert und verwaltet werden können, wodurch Governance und die Durchsetzung von Richtlinien gewährleistet werden. Sie eignen sich ideal für die Verwaltung des Lebenszyklus von Agenten in der Produktion.
• Agents SDK: Cloudflare ermöglicht den skalierbaren, sicheren Einsatz von KI-Agenten mit der Plattform Agents SDK. Solche Agenten verfügen über eine integrierte Statusverwaltung, kommunizieren in Echtzeit mit Kunden und nutzen die gewünschten KI-Modelle und Daten, um Unternehmen beim zielführenden, verantwortungsbewussten und sicheren Einsatz von KI unterstützen.
• MCP-Server: Remote-MCP-Server können LLMs und Agenten einem größeren Nutzerkreis eröffnen, indem sie sich in gängige Anmelde- und Autorisierungsabläufe integrieren. Anstatt Passwörter weiterzugeben, erfordern Remote-MCP-Server eine Authentifizierung und Autorisierung in Form von OAuth.
• MCP-Serverportale: Anstatt Dutzende einzelner Server-Endpunkte zu verteilen, können Entwickler ihre Server bei Cloudflare registrieren und einen einzigen, einheitlichen Portal-Endpunkt bereitstellen, den Benutzer in ihrem MCP-Client konfigurieren können. Dies ist wie ein zentraler Zugangspunkt für MCP-Server.

Das Ausführen von KI-Agenten auf Cloudflare kann ebenfalls zur Kostenkontrolle beitragen: Cloudflare berechnet nur die Rechenzeit (wenn der Agent denkt) und nicht die Wall-Time (wenn der Agent wartet).

Sind Sie bereit zu entdecken, wie KI-Agenten Zeit sparen und die Produktivität steigern können? Erstellen Sie hier Ihren ersten Agenten.

FAQs

Wofür werden KI-Agenten in Unternehmen in erster Linie eingesetzt?

KI-Agenten sind darauf ausgelegt, autonom zu agieren und Unternehmensteams dabei zu unterstützen, mehr Arbeit mit weniger Ressourcen und in kürzerer Zeit zu erledigen. Sie können bei administrativen Aufgaben unterstützen, die Teamarbeit verbessern und das Kundenerlebnis optimieren.

Wie können Führungskräfte KI-Agenten effektiv verwalten?

Um KI-Agenten effektiv zu verwalten, sollten Führungskräfte hochwertige Daten nutzen und klare Regeln, Ziele und Grenzen mithilfe von System-Prompts festlegen. Beginnen Sie mit einfachen Aufgaben, nutzen Sie das Rate Limiting, und entwickeln Sie strategische Authentifizierungs- und Autorisierungsprozesse.

Welche zentralen Strategien gibt es, um KI-Agenten in bestehende Geschäftsabläufe zu integrieren?

Um KI-Agenten erfolgreich zu integrieren, führen Sie Workflow-Audits durch, beginnen Sie mit kleinen Implementierungen und steigern Sie deren Einsatz schrittweise. Stellen Sie Ihren Mitarbeitenden Schulungen und Ressourcen bereit, fördern Sie die Teamkommunikation und integrieren Sie einen „Human-in-the-Loop“-Workflow, bei dem eine Person die Entscheidungen des Agenten bewertet.

Woran lässt sich der Erfolg beim Einsatz und der Steuerung von KI-Agenten erkennen?

Messen Sie den Erfolg der Verwaltung von KI-Agenten, indem Sie mehrere Kennzahlen verfolgen: Abschlussrate, Anzahl der Schritte, die ein Agent zur Erledigung einer Aufgabe unternimmt, und Zeitersparnis. Genauigkeit ist eine wichtige Kennzahl. Dabei wird geprüft, ob der Agent die Anweisungen befolgt hat und ob ein Mensch Anpassungen vornehmen musste.

Welche Sicherheitsrisiken sind mit KI-Agenten verbunden?

Ein wesentliches Risiko ist übermäßige Autonomie, wenn ein Akteur zu autonom bzw. eigenständig agiert. Sie können Dateien löschen, sensible Informationen weitergeben oder betriebliche Abläufe stören. Sie können dieses Risiko mindern, indem Sie die Funktionalität, Berechtigungen und Autonomie des Agenten einschränken sowie Rate Limiting und Authentifizierung verwenden.

Wie unterstützt Cloudflare die Entwicklung und Bereitstellung von KI-Agenten?

Die Cloudflare-Entwicklerplattform bietet verschiedene Tools zum Erstellen und Bereitstellen von KI-Agenten, einschließlich: Cloudflare Workers AI für global verteilte Rechenleistung, Cloudflare-Container/Sandboxes für sichere Ausführungsumgebungen und Cloudflare Agents SDK für eine skalierbare und sichere Bereitstellung. Cloudflare stellt auch MCP-Server und -Portale bereit, die eine sichere Authentifizierung und ein zentrales Portal zur Konfiguration von Servern ermöglichen.