KI Automatisierung im Unternehmen: Maschine oder Mensch

Der häufigste Fehler bei der Einführung von KI ist die Frage, wo wir einen Chatbot einbauen. Dass die Reihenfolge umgekehrt ist, also erst der Prozess, dann die Technologie, haben wir im Beitrag KI rettet keinen schlechten Prozess beschrieben, inklusive der Abfolge Remove, Simplify, Automate, Augment.

Dieser Text setzt einen Schritt später an, an dem Punkt, an dem Sie den Prozess kennen und entscheiden müssen, wer darin was tut: welche Aufgaben zu einer Regel gehören, welche zum Modell und welche zum Menschen, wie Sie Zugriffe und Freigaben einrichten und was Sie an dem Tag tun, an dem das Modell einen Fehler macht. An diesen drei Punkten scheitern mehr Einführungen als an der Qualität des Modells.

Erst den Prozess verstehen, dann das Modell auswählen

Aufgaben lassen sich erst über einem aufgezeichneten Prozess verteilen: Wer erzeugt eine Information, wo wird sie erneut eingegeben, wer kontrolliert sie und was passiert bei einem Fehler. Ohne diese Klarheit wissen Sie nicht, ob eine Aufgabe zu einer Regel, zu einem Modell oder zu einem Menschen gehört.

Viele Aufgaben, die Unternehmen als KI-Projekt bezeichnen, brauchen in Wirklichkeit keine KI. Ein Formular ins CRM zu übertragen oder nach einem Statuswechsel einer Bestellung eine Aufgabe anzulegen, ist deterministische Automatisierung, also eine Folge von Regeln, die bei gleichem Input immer denselben Output liefert. Sie ist günstiger, vorhersehbarer und leichter auditierbar.

Die Unterscheidung ist nicht nur terminologisch. Die europäische KI-Verordnung führt in Erwägungsgrund 12 aus, dass die Definition eines KI-Systems keine Systeme erfassen soll, die auf ausschließlich von natürlichen Personen definierten Regeln beruhen. Das entscheidende Merkmal eines KI-Systems ist die Fähigkeit abzuleiten, also Prognosen, Inhalte oder Entscheidungen über die einfache Datenverarbeitung hinaus zu erzeugen. In der Praxis heißt das: Wenn sich eine Aufgabe als Regel schreiben lässt, schreiben Sie sie als Regel.

KI ist dort am sinnvollsten, wo der Input unstrukturiert ist: E-Mails, Dokumente, Telefonate, Notizen, Bilder oder Situationen, in denen Informationen zusammengefasst, klassifiziert oder als Entscheidungsvorlage aufbereitet werden müssen. Die Adoption bestätigt das: Laut Eurostat war Text Mining, also die Analyse geschriebener Sprache, im Jahr 2025 mit 11,75 % die am weitesten verbreitete KI-Technologie in Unternehmen der EU.

Welche Aufgaben zur Maschine gehören und welche zum Menschen

Statt einer Liste modischer Use Cases helfen drei Fragen.

Was kostet ein Fehler? Eine schlechte interne Notiz kostet eine Minute, ein falsch verschicktes Angebot kostet Marge oder einen Kunden. Je höher dieser Preis, desto näher muss der Mensch an der Entscheidung sitzen.
Lässt sich das Ergebnis schneller prüfen als erstellen? Wenn ja, ist es ein Kandidat für einen Vorschlag des Modells mit menschlicher Bestätigung. Dauert die Kontrolle länger als die Arbeit selbst, verschiebt das Modell den Aufwand nur an eine andere Stelle.
Ist die Aktion umkehrbar? Ein Entwurf, eine Klassifizierung oder eine Zusammenfassung lassen sich verwerfen. Eine versendete E-Mail, ein geänderter Preis, eine bezahlte Rechnung oder gelöschte Daten nicht.

Das Ergebnis ist eine Aufteilung, die Sie vor der Finanzleitung ebenso vertreten können wie vor der Rechtsabteilung. Dem Modell gehören Interpretation und Vorschlag, den Regeln alles Eindeutige und Wiederholte, dem Menschen die Entscheidung, die teuer oder unumkehrbar ist oder Verantwortung gegenüber Dritten trägt.

Wo die ersten Aufgaben zu finden sind, zeigt die Feldstudie der Ökonomen Brynjolfsson, Li und Raymond, veröffentlicht als Arbeitspapier der amerikanischen Forschungsorganisation NBER. Bei einer Stichprobe von 5.179 Mitarbeitenden im Kundenservice erhöhte ein generativer Assistent die Zahl der gelösten Anfragen pro Stunde im Durchschnitt um 14 %. Bei Neulingen und weniger erfahrenen Personen waren es 34 %, bei erfahrenen war der Effekt minimal, weil das Modell die Vorgehensweisen der besten Mitarbeitenden verbreitet.

Die Schlussfolgerung ist konkret: KI hebt den Boden, nicht die Decke. Suchen Sie die Stellen mit der größten Qualitätsstreuung zwischen Menschen, nicht jene, an denen Sie bereits Spitzenleistung haben.

Die wertvollste KI arbeitet häufig im Hintergrund

Effiziente KI braucht keinen Avatar auf der Startseite. Sie kann im Hintergrund den Vertrieb vor einem Telefonat mit Kontext versorgen, einen Angebotsentwurf erstellen, fehlende Daten in einer Bestellung erkennen oder ein Meeting in Aufgaben übersetzen. Der Mensch erledigt dadurch weniger Verwaltung und mehr von der Arbeit, für die ihn das Unternehmen tatsächlich braucht. Wie sich ein Unternehmen direkt so aufbauen lässt, beschreiben wir im Text über ein Unternehmen ohne Verwaltungsarmee.

Anthropic berichtet im Economic Index vom September 2025 auf Basis eigener Daten, dass im Unternehmens-API 77 % der Fälle Automatisierungsmuster zeigten, gegenüber rund 50 % in der Consumer-Anwendung. Unternehmen kaufen keine Konversation, sie kaufen Arbeit in einem Prozess, den der Kunde nie zu sehen bekommt.

Modellbeispiel. Ein Fertigungsunternehmen erhält Anfragen per E-Mail als Freitext mit PDF-Zeichnungen, und eine Assistenz überträgt sie ins CRM. Das Modell liest die E-Mail, extrahiert die Positionen, markiert fehlende Parameter und bereitet den Entwurf einer Rückfrage vor. Was es nicht tut: Es versendet keine E-Mail, legt keinen Preis fest und ändert den Status der Anfrage nicht. Das ist eine Illustration der Architektur, keine Kundenreferenz.

Robuste Systeme kombinieren KI mit festen Regeln

Die sicherste Architektur lautet nicht, die KI entscheidet alles. Das Modell interpretiert den Input oder bereitet einen Vorschlag vor, der Workflow steuert Berechtigungen und Grenzwerte. Der Grund dafür ist nicht ideologisch, er ist gemessen.

Der Benchmark TheAgentCompany simuliert die Umgebung eines kleinen Softwareunternehmens und verfolgt, wie Agenten mit einer realen Arbeitsagenda zurechtkommen. Der erfolgreichste getestete Agent erledigte 30 % der Aufgaben autonom. Der Benchmark tau-bench prüft Agenten im Gespräch mit einem simulierten Nutzer unter Einhaltung von Domänenregeln: Spitzenagenten bestanden weniger als 50 % der Aufgaben, und bei Wiederholung derselben Aufgabe fiel die Metrik pass^8, also der Erfolg in allen acht Versuchen, in der Retail-Domäne unter 25 %. Das Modell ist also nicht nur ungenau, es ist inkonsistent, und das ist für das Prozessdesign wichtiger als die durchschnittliche Erfolgsquote.

Bei sensiblen oder nach außen wirkenden Aktionen, also beim Versand eines Angebots, einer Preisänderung, einer Zahlung oder dem Löschen von Daten, muss klar sein, wann eine menschliche Freigabe nötig ist. Das bedeutet drei konstruktive Entscheidungen:

Getrennte Lese- und Schreibrechte. Das Modell hat breiten Lesezugriff auf den Kontext, geschrieben wird jedoch über eine enge Liste erlaubter Aktionen mit definierten Parametern.
Harte Limits im Code, nicht im Prompt. Maximaler Rabatt, Betragsgrenze oder die Liste erlaubter Empfänger gehören in den Workflow. Eine Regel im Prompt ist eine Empfehlung, eine Regel im Code ist eine Beschränkung.
Idempotenz und Vorschau. Eine schreibende Aktion sollte im Trockenlauf ausführbar oder sicher wiederholbar sein, damit keine zwei Rechnungen entstehen.

Zugriffsrechte und Daten, die das Modell nicht braucht

Bei klassischer Software klickt ein konkreter Mensch. Bei einem KI-Workflow hat ein Prozess Zugriff, der unbeaufsichtigt und schnell läuft. Deshalb lohnt sich eine strengere Disziplin.

Eine eigene Serviceidentität für jeden Workflow. Kein geteiltes Administratorkonto. Wenn etwas schiefgeht, wollen Sie wissen, welcher Prozess es war, und ihn abschalten können, ohne dass das halbe Unternehmen stillsteht.
Der kleinstmögliche Datenausschnitt. Für die Klassifizierung einer Reklamation genügen ihr Text und der Produkttyp, die gesamte Zahlungshistorie ist nicht nötig. Wo die Identität nicht gebraucht wird, ersetzen Sie personenbezogene Daten durch einen Platzhalter.
Eine klare Antwort, wohin die Daten gehen. Welcher Anbieter, in welcher Region, wie lange gespeichert wird und ob die Daten für Training genutzt werden. Das ist eine vertragliche Frage, keine technische.

Das ist keine akademische Sorge. Unter den Unternehmen, die laut Eurostat KI erwogen und nicht eingeführt haben, nannten 70,89 % fehlende Expertise, 52,52 % unklare rechtliche Folgen und 48,83 % Bedenken beim Datenschutz. Zwei dieser drei Hürden haben nichts mit dem Modell zu tun, sondern mit dem Prozessdesign und mit Verträgen.

Dazu gehört auch eine unpopuläre Anmerkung. Wenn sich eine Aufgabe mit einer Regel über der eigenen Datenbank lösen lässt, ist das fast immer günstiger, schneller und sicherer als der Aufruf eines Modells. Ein Anbieter, der Ihnen in einer solchen Situation ein KI-Projekt verkauft, löst sein Geschäft und nicht Ihren Prozess. Ähnlich schreiben wir darüber im Beitrag Ihr Unternehmen braucht nicht mehr Software, sondern weniger Chaos.

Menschliche Freigabe, die mehr ist als ein Klick

In den meisten Konzepten wird die Kontrolle mit einem Satz erledigt: Das gibt am Ende noch ein Mensch frei. Das ist die schwächste Stelle der Architektur, denn dieser Satz ist leicht geschrieben und funktioniert schwer.

Die KI-Verordnung beschreibt in Artikel 14, was ein Mensch bei der Aufsicht über ein Hochrisikosystem leisten muss: die Fähigkeiten und Grenzen des Systems verstehen, Anomalien bemerken, sich des Automation Bias bewusst sein, also der Neigung, dem Output einer Maschine übermäßig zu vertrauen, sich gegen die Nutzung des Systems entscheiden oder dessen Output überstimmen und das System sicher stoppen können. Die meisten Unternehmens-Workflows zählen nicht zu den Hochrisikosystemen, eine bessere Checkliste für das Design von Freigaben haben wir bislang jedoch nicht.

Wie leicht sich das verfehlen lässt, zeigt die Analyse von Ben Green in der Fachzeitschrift Computer Law and Security Review. Der Autor hat 41 Regelwerke durchgesehen, die eine menschliche Aufsicht über Algorithmen in der öffentlichen Verwaltung verlangen, und hält fest, dass Menschen die geforderten Aufsichtsfunktionen den Belegen nach nicht erfüllen können und dass solche Vorgaben ein falsches Gefühl von Sicherheit erzeugen. Das ist die Position des Autors und kein Konsens, aber ein gesundes Korrektiv.

Praktisch folgen daraus drei Dinge. Der Freigabebildschirm muss zeigen, worauf sich das Modell stützt, was sich ändert und was nach einer Ablehnung passiert. Die Ablehnungsquote ist eine Kennzahl: Bleibt sie über Monate bei null, findet die Kontrolle entweder nicht statt oder sie ist nicht nötig. Und Aufsicht braucht reservierte Zeit. Wer täglich Hunderte Vorschläge neben der laufenden Arbeit freigibt, vollzieht ein Ritual und keine Kontrolle.

Was tun, wenn das Modell einen Fehler macht

Nicht falls, sondern wenn. Auditierbarkeit ist deshalb kein Thema für die Rechtsabteilung, sondern für den Betrieb. Bei jedem Durchlauf sollte festgehalten werden, wie der Input aussah, welche Version der Anweisung und des Modells lief, aus welchen Quellen das System geschöpft hat, wer den Output freigegeben hat und welche Aktion ausgeführt wurde. Ohne diese Spur bleibt die Ursachensuche Raten.

Ein Ausschalter auf Ebene eines einzelnen Workflows. Ein konkreter Schritt muss sich anhalten lassen, ohne dass der gesamte Prozess ausfällt.
Ein Rückweg und ein Testset. Bei jeder schreibenden Aktion muss vorher klar sein, wie sie zurückgenommen wird. Einen Wechsel der Modellversion wollen Sie an einem Satz realer Fälle bemerken, nicht am Kunden.
Der Punkt, an dem Sie den Schritt abschalten. Das amerikanische NIST AI Risk Management Framework vom Januar 2023 sagt es direkt: Bei einem inakzeptablen Risikoniveau sollen Entwicklung und Einsatz sicher eingestellt werden, bis sich das Risiko ausreichend beherrschen lässt. Die Rückkehr zu einer Regel oder zu einem Menschen ist ein legitimes Ergebnis und keine Niederlage.

ROI auf Prozessebene messen, nicht an der Zahl der Prompts

Messen Sie vor der Implementierung den Ist-Zustand: Zeit pro Aufgabe, Anzahl der Übergaben, Fehlerquote, Reaktionszeit und die Zahl der nicht abgeschlossenen Follow-ups. Nach der Einführung vergleichen Sie dieselben Kennzahlen. Die Zahl generierter Texte ist kein KPI, eine Reaktionszeit von zwei Tagen auf zwei Stunden zu verkürzen kann einer sein.

Dass das schwieriger ist, als es aussieht, räumt auch NIST ein: Das Risikomanagement von Systemen, die menschliche Tätigkeit erweitern oder ersetzen, verlangt Ausgangswerte, und diese lassen sich schwer systematisieren, weil KI Aufgaben anders ausführt als ein Mensch. Messen Sie deshalb das Prozessergebnis und nicht die Qualität des Modelloutputs.

Zu den Kosten gehört mehr als der Preis pro Token: Integration, Zeit für die Kontrolle der Ergebnisse, Wartung beim Wechsel des Modells und die Einarbeitungszeit der Mitarbeitenden. Kostet die Kontrolle mehr als die ursprüngliche Handarbeit, gehört der Schritt gestrichen. Das ist ehrlicher, als sechs Wochen lang an einem Prompt zu feilen.

Rechnen Sie außerdem damit, dass die ersten Monate schlechter aussehen, als sie sollten. Die Ökonomen Brynjolfsson, Rock und Syverson haben das als J-Kurve der Produktivität beschrieben: Universaltechnologien verlangen umfangreiche immaterielle Investitionen, also den Redesign von Prozessen und Organisationskapital, die sich schlecht messen lassen. Das Produktivitätswachstum wird in der frühen Phase deshalb unterschätzt. Die Kosten fallen sofort an, der Ertrag kommt erst nach dem Umbau des Prozesses.

Ein Unternehmen, das auf KI vorbereitet ist, braucht keine zehn neuen Werkzeuge. Es braucht klare Prozesse, verlässliche Daten und eine Automatisierung, die dem Menschen die Routine abnimmt, ohne ihm die Kontrolle zu nehmen. Beginnen Sie mit den fünf teuersten wiederkehrenden Workflows und legen Sie bei jedem fest, was eine Regel lösen soll, was die KI und was beim Menschen bleiben muss. Wenn sich irgendwo zeigt, dass es am besten ist, die Hälfte der Schritte zu streichen und nichts einzuführen, ist das ein gutes Ergebnis. Der Wert entsteht in der Diagnose, nicht im Einkauf.

Was Sie mitnehmen

Wenn sich eine Aufgabe als Regel schreiben lässt, schreiben Sie sie als Regel. Auch die KI-Verordnung unterscheidet in Erwägungsgrund 12 zwischen Systemen auf Basis menschlich definierter Regeln und KI-Systemen.
Teilen Sie Aufgaben nach dem Preis eines Fehlers, der Prüfbarkeit des Ergebnisses und der Umkehrbarkeit der Aktion auf. Dem Modell gehört der Vorschlag, dem Workflow die Limits, dem Menschen die unumkehrbare Entscheidung.
Gestalten Sie die menschliche Freigabe als Prozess und nicht als Schaltfläche: Sie muss Quelle und Wirkung zeigen, reservierte Zeit haben und eine beobachtete Ablehnungsquote.
Jeder Workflow braucht eine eigene Serviceidentität, den kleinstmöglichen Datenausschnitt, einen Ausschalter und ein Protokoll darüber, was gelaufen ist und wie es zurückgenommen wird.
Messen Sie den ROI am Prozess: Zeit, Übergaben, Fehlerquote, Reaktionszeit. Rechnen Sie Kontrolle und Wartung in die Kosten ein und damit, dass der Ertrag später kommt.