Zum Inhalt springen
Tomas KadlecGespräch buchen

Artikel · 11. November 2026 · 5 Min. Lesezeit

Human in the Loop ist ein Alibi, keine Kontrolle

Menschen geben KI frei, wie sie einem Navi folgen. Studien zeigen: Prüfer hören auf zu prüfen. Was Sie statt eines Freigabe-Buttons bauen sollten.

Wann haben Sie Ihr Navi zuletzt infrage gestellt?

Sie fahren in eine Stadt, die Sie nicht kennen. Die Stimme sagt „in 300 Metern links abbiegen“. Sie biegen links ab. Sie schauen nicht auf die Karte, Sie fragen nicht, warum. Nach ein paar Monaten finden Sie ohne Handy nicht mehr hin. Das ist keine Faulheit. So spart das Gehirn Energie.

Schauen Sie sich jetzt an, wie die meisten Unternehmen KI „kontrollieren“. Die Antwort ist fast immer dieselbe: Ein Mensch gibt das Ergebnis frei. Human in the Loop. Das klingt sicher. In der Praxis ist es wieder das Navi.

Der Freigabe-Button trainiert Menschen aufs Freigeben

Ich betreibe meine eigene Marke mit KI-Agenten. An einem normalen Werktag bereiten sie rund 30 Dinge vor, die unter meinem Namen rausgehen: Posts, Artikel, Kontaktanfragen, Antworten. Ich bin der Human in the Loop. Und ich kann Ihnen ehrlich sagen, was nach der ersten Woche passiert. Wenn 29 von 30 Entwürfen in Ordnung sind, lesen Sie den 30. nicht mehr richtig. Sie überfliegen ihn, klicken und machen weiter.

Die Forschung sagt dasselbe, nur mit besseren Zahlen.

  • Ärzte folgen falschen KI-Ratschlägen. In einer Studie von 2023 in der Fachzeitschrift Radiology befundeten 27 Radiologen Mammografien mit einem KI-Assistenten. Wenn die KI absichtlich eine falsche Kategorie vorschlug, fiel die Genauigkeit der unerfahrensten Befunder von fast 80 % auf unter 20 %. Die erfahrensten, mit über 15 Jahren Erfahrung, fielen von 82 % auf 45,5 %.
  • Erklärungen machen es schlimmer, nicht besser. Ein Experiment der Harvard Business School von 2024 ergab, dass Prüfer den KI-Empfehlungen 19 Prozentpunkte häufiger folgten als eine Kontrollgruppe. Wenn die KI eine schriftliche Begründung dazuschrieb, stieg die Folgsamkeit um weitere 5 Punkte.
  • Die Fähigkeit geht verloren. Forscher der McGill University (Scientific Reports, 2020) fanden heraus, dass Menschen, die mehr GPS nutzten, ein schlechteres räumliches Gedächtnis hatten, wenn sie allein navigieren mussten. Der Rückgang wuchs mit der Nutzung über drei Jahre.

Der Prüfer ist also keine Mauer. Der Prüfer ist ein Mensch mit einer Quote, einem vollen Posteingang und einem Modell, das meistens recht hat.

Die Genauigkeit erfahrener Radiologen fällt von 82 % auf 45,5 %, wenn der KI-Vorschlag falsch ist

Die Menge macht jede Prüfung kaputt

Das zweite Problem ist einfache Mathematik. KI erzeugt Entscheidungen schneller, als irgendein Mensch sie lesen kann.

Wenn ein Agent 200 Kundenantworten am Tag entwirft und jede 40 Sekunden echtes Lesen braucht, sind das über zwei Stunden konzentrierte Prüfung. Niemand bekommt zwei Stunden. Also sinkt die Prüfzeit, die Freigabequote steigt, und auf dem Papier haben Sie immer noch „menschliche Aufsicht“.

Sogar der EU AI Act weiß das. Artikel 14 zur menschlichen Aufsicht verlangt, dass die Menschen, die ein Hochrisiko-System beaufsichtigen, sich der Neigung bewusst bleiben, sich zu sehr auf dessen Ergebnisse zu verlassen. Das Gesetz nennt den Automatisierungsbias wörtlich beim Namen.

Die tschechische Juristin Petra Stupková (Legitas) hat es am 22. Oktober 2026 auf der AI Restart in Prag sehr direkt gesagt: Human in the Loop ist oft ein bequemes Alibi. Menschen werden bequem wie beim Navi und klicken nach Stunden mechanischer Freigaben alles durch. Ihre Kurzfassung: „Use it or lose it.“

Was Sie stattdessen bauen sollten

Ich glaube nicht, dass die Antwort „keine KI“ lautet. Die Antwort ist, nicht mehr so zu tun, als wäre ein einziger Freigabe-Button eine Kontrolle. Das nutze ich selbst und das empfehle ich Kunden.

1. Legen Sie fest, was nie einen Menschen braucht. Arbeit mit geringem Risiko, die sich rückgängig machen lässt (eine interne Zusammenfassung, ein Tag für einen Entwurf, eine erste Sortierung von Leads), sollte ohne Freigabe laufen. Jede Freigabe, die Sie streichen, gibt dem Prüfer mehr Aufmerksamkeit für die, die zählen.

2. Setzen Sie Menschen nur dort ein, wo ein Fehler teuer ist oder sich nicht rückgängig machen lässt. Geld, Verträge, alles Öffentliche unter Ihrem Namen, personenbezogene Daten, Entscheidungen über Menschen. Schreiben Sie diese Liste auf. Sie ist meistens kurz.

3. Lassen Sie die KI zeigen, wo sie unsicher ist. Bitten Sie das Modell um eine Einschätzung, wie sicher es ist, und um die eine Sache, die es prüfen würde. Prüfen Sie die unsicheren Punkte zuerst. Ein Prüfer, der 10 riskante Punkte liest, ist besser als einer, der 200 überfliegt.

4. Bauen Sie absichtlich Fehler ein. Sicherheitsteams schicken Mitarbeitenden gefälschte Phishing-Mails. Machen Sie dasselbe bei der KI-Prüfung. Legen Sie jede Woche ein paar Ergebnisse, von denen Sie wissen, dass sie falsch sind, in die Warteschlange und messen Sie, wie viele Ihre Prüfer finden. Diese Trefferquote ist Ihre echte Kennzahl für die Aufsicht, nicht die Freigabequote.

5. Beobachten Sie zwei Zahlen. Freigabequote und Zeit pro Prüfung. Wenn die Freigaben Richtung 100 % klettern und die Prüfzeit auf ein paar Sekunden fällt, liest niemand mehr.

6. Wechseln Sie ab und machen Sie Pausen. Wer den ganzen Tag dieselbe Art von Ergebnis freigibt, wird nachlässig. Kurze Prüfblöcke, verschiedene Personen, ein zweiter Prüfer für die Hochrisiko-Liste.

Ein Prompt zum Kopieren

Fügen Sie das unter jedes KI-Ergebnis ein, das ein Mensch freigeben soll:

Bevor ich das freigebe, nenne mir: 1) die 3 Aussagen im Text, die falsch sein könnten, 2) wie sicher du dir bei jeder bist (hoch / mittel / niedrig), 3) was ich wo prüfen soll. Schreib den Text nicht um.

Das dauert 10 Sekunden und ändert die Aufgabe des Prüfers von „Passt das?“ zu „Prüfe diese drei Dinge“. Diese Frage kann auch ein müder Mensch noch beantworten.

Zusammenfassung

Human in the Loop funktioniert, wenn der Mensch Zeit, Aufmerksamkeit und einen Grund zum Zweifeln hat. Die meisten Setups geben ihm nichts davon. Weniger Freigaben an den richtigen Stellen, gemessen mit eingebauten Fehlern, sind sicherer als ein Button für alles.

Wie prüfen Sie, ob Ihre Prüfer wirklich lesen, was sie freigeben?

Wie die Freigaben bei meiner eigenen Marke in der Praxis laufen, mit den Fehlschlägen, steht im Playbook zum Social-Media-Agenten. Für Texte ist der kostenlose AI Trace Check eine Prüfung, die kein Mensch mehr mit bloßem Auge machen muss. Wenn Sie sich Ihre eigenen KI-Workflows gemeinsam mit mir ansehen wollen, buchen Sie ein kostenloses 20-Minuten-Gespräch.

Quellen: Dratsch et al., "Automation Bias in Mammography", Radiology, 2. Mai 2023 (Pressemitteilung der RSNA) · Studie der Harvard Business School mit 228 Bewertenden, 2024, zusammengefasst von Tian Pan, "The HITL Rubber Stamp Problem", 15. April 2026 · Dahmani und Bohbot, "Habitual use of GPS negatively impacts spatial memory during self-guided navigation", Scientific Reports, 14. April 2020 · EU AI Act, Verordnung (EU) 2024/1689, Artikel 14 · Bericht über AI Restart 2026, Digichef, 30. Oktober 2026.

Wollen Sie das in Ihrem Team?

Ich richte KI-Workflows für Marketing- und Vertriebsteams ein, mit eingebauten Prüfungen. Buchen Sie ein kostenloses 20-Minuten-Gespräch.

Kostenloses 20-Minuten-Gespräch