Human-in-the-Loop: Warum KI im Mittelstand den Menschen im Prozess braucht

Wer heute KI in seine Geschäftsprozesse integriert, hört oft ein Versprechen: Die Maschine erledigt das schon. Rechnungen werden automatisch verbucht, Angebote automatisch geschrieben, Kundenanfragen automatisch beantwortet, ganz ohne menschliches Zutun.

Unsere Erfahrung aus Projekten im Mittelstand sagt etwas anderes: Die wertvollsten KI-Systeme sind nicht die autonomsten, sondern die, bei denen Mensch und Maschine sauber zusammenarbeiten. Dieses Prinzip heißt Human-in-the-Loop (HITL). Es ist kein Übergangskompromiss, bis die Technik „endlich so weit ist”, sondern ein Architekturprinzip, das sich direkt aus der Funktionsweise heutiger Sprachmodelle ableiten lässt.

Was Human-in-the-Loop konkret bedeutet

Human-in-the-Loop heißt: Die KI übernimmt die Fleißarbeit, also lesen, sortieren, extrahieren, vorformulieren. An definierten Stellen im Prozess prüft und entscheidet aber ein Mensch. Ein Beispiel aus der Praxis:

• Die KI liest eingehende Bestellungen aus E-Mails und PDFs aus und legt sie strukturiert im ERP-System an.
• Bei eindeutigen Fällen mit hoher Konfidenz wird der Vorgang direkt weitergereicht.
• Bei Unklarheiten wie ungewöhnlichen Mengen, neuen Artikelnummern oder widersprüchlichen Angaben landet der Fall mit allen Informationen zur Freigabe beim zuständigen Mitarbeiter.

Der Mensch verschwindet nicht aus dem Prozess. Er rückt an die Stelle, an der sein Urteilsvermögen den größten Wert stiftet: die Entscheidung, nicht die Datenerfassung.

Was der KI-Spitzenforschung zufolge heutigen Modellen fehlt

Warum ist dieser Kontrollpunkt so wichtig? Eine der klarsten Antworten liefert einer der renommiertesten KI-Forscher der Welt: Yann LeCun, Turing-Preisträger und langjähriger Chief AI Scientist bei Meta. In seinem Positionspapier „A Path Towards Autonomous Machine Intelligence” (2022) beschreibt er, was heutigen KI-Systemen fundamental fehlt, und skizziert, was nötig wäre, um wirklich autonome, verlässlich planende Maschinen zu bauen.

Drei seiner Kernpunkte sind für den betrieblichen Einsatz von LLMs direkt relevant:

1. Heutigen Sprachmodellen fehlt ein Weltmodell. LeCun argumentiert, dass Menschen und Tiere mit erstaunlich wenigen Beispielen lernen, weil sie ein internes Modell der Welt besitzen: ein Verständnis dafür, wie Dinge zusammenhängen und welche Folgen Handlungen haben. Große Sprachmodelle haben das nicht. Sie sagen das statistisch wahrscheinlichste nächste Wort vorher. Das Ergebnis klingt kompetent, beruht aber nicht auf einem Verständnis von Ursache und Wirkung. Für Ihr Unternehmen heißt das: Ein LLM „weiß” nicht, dass eine Bestellung über 10.000 Stück bei einem Kunden, der sonst 100 bestellt, geschäftlich auffällig ist. Diese Prüfung muss jemand explizit vorsehen.

2. Autoregressive Modelle können Fehler nicht zuverlässig erkennen. LeCun weist darauf hin, dass Modelle, die Wort für Wort generieren, keinen eingebauten Mechanismus haben, um die eigene Ausgabe gegen die Realität zu prüfen. Jedes generierte Token baut auf den vorherigen auf. Ein früher Fehler pflanzt sich fort und wird vom Modell selbst nicht bemerkt. In der Praxis kennen wir das als Halluzination: erfundene Artikelnummern, plausibel klingende, aber falsche Zahlen, selbstbewusst formulierte Fehlschlüsse.

3. Verlässliches Planen und Schlussfolgern erfordert eine andere Architektur. LeCuns eigentliche These ist konstruktiv: Er skizziert eine Architektur aus Weltmodell, Planungsmodul und Kostenfunktionen, die maschinelles Denken auf mehreren Abstraktionsebenen ermöglichen soll. Entscheidend für uns ist die Diagnose dahinter: Diese Fähigkeiten sind bei heutigen Systemen noch nicht vorhanden. Wer LLMs heute produktiv einsetzt, arbeitet mit Werkzeugen, die beeindruckend formulieren, aber nicht verlässlich planen und urteilen können.

Die Konsequenz liegt auf der Hand: Solange die Maschine kein belastbares Weltmodell hat, muss das Weltmodell des Menschen im Prozess bleiben. Genau das leistet Human-in-the-Loop. Der Mensch übernimmt die Rolle, die LeCun der Maschine erst in Zukunft zutraut: prüfen, einordnen, entscheiden.

Was das betriebswirtschaftlich bedeutet

Human-in-the-Loop ist dabei kein Bremsklotz, sondern ein Erfolgsfaktor:

• Vertrauen entsteht schrittweise. Ihre Mitarbeiter sehen, was die KI vorschlägt, und behalten die Kontrolle. Das nimmt die Angst vor der Blackbox und schafft Akzeptanz, ohne die kein KI-Projekt im Mittelstand funktioniert.
• Fehlerkosten bleiben begrenzt. Eine falsch extrahierte Rechnungsposition, die ein Mensch vor der Buchung sieht, kostet Sekunden. Dieselbe Position, automatisch verbucht, kostet im Zweifel eine Steuerprüfung.
• Compliance wird einfacher. Der EU AI Act fordert für viele Anwendungsfälle ausdrücklich menschliche Aufsicht („human oversight”). Wer HITL von Anfang an in die Architektur einbaut, erfüllt diese Anforderung by design statt durch Nachrüsten.
• Die Automatisierungsquote wächst mit. Gut gebaute HITL-Systeme protokollieren, wo Menschen korrigieren. Genau dort lässt sich das System gezielt verbessern und der Automatisierungsgrad Schritt für Schritt erhöhen, auf Basis von Daten statt Bauchgefühl.

Unser Fazit

Die Frage ist nicht „Mensch oder Maschine?”, sondern: An welcher Stelle im Prozess stiftet menschliches Urteilsvermögen den größten Wert, und wie nimmt die KI dem Menschen alles andere ab? Wer diese Frage sauber beantwortet, bekommt Systeme, die vom ersten Tag an produktiv sind, von den Mitarbeitern angenommen werden und über die Zeit immer besser werden.

Genau solche Systeme entwerfen und bauen wir bei AiMi. Im Paket KI-Klarheit identifizieren wir die Prozesse in Ihrem Unternehmen, in denen KI mit menschlicher Kontrolle den größten Hebel hat. Mit KI-Beweis zeigen wir die Machbarkeit mit Ihren echten Daten, und mit KI-Integration bringen wir das System inklusive durchdachter Freigabe-Workflows in Ihren Arbeitsalltag. Vereinbaren Sie ein kostenloses 30-Minuten-Gespräch: Wir zeigen Ihnen, wo Human-in-the-Loop in Ihren Prozessen den Unterschied macht.