Ein Human Gate ist ein Haltepunkt im Prozess: Die KI arbeitet bis dorthin selbstständig, dann entscheidet ein benannter Mensch, ob es weitergeht. Kein Bauchgefühl, sondern eine Stelle im Ablauf.
Der Begriff kommt aus der Prozessgestaltung und ist der praktische Kern dessen, was Regulierung „menschliche Aufsicht" nennt. Er beantwortet die Frage, die bei jedem KI-Agenten als Erstes gestellt werden muss: Wo hört das Selbstständige auf?
Wichtig ist die Umkehrung des Reflexes. Ein Gate ist keine Bremse, die man einbaut, wenn man der KI misstraut. Es ist die Bedingung, unter der man ihr überhaupt etwas übergeben kann.
Wo Gates hingehören #
Die brauchbarste Linie verläuft entlang der Außenwirkung. Alles, was das Unternehmen verlässt oder schwer rückgängig zu machen ist, gehört hinter ein Gate:
- Senden — Mails, Nachrichten, Angebote
- Veröffentlichen — Website, Social, Presse
- Bezahlen und Bestellen — jede finanzielle Verpflichtung
- Löschen und Überschreiben — alles, was Daten vernichtet
- Personenbezogene Entscheidungen — Bewerbungen, Kündigungen, Bonität
Recherchieren, entwerfen, zusammenfassen, vorbereiten, vorschlagen — all das kann davor ohne Freigabe laufen. Genau diese Trennung macht den Unterschied zwischen einem nützlichen und einem gefährlichen Agenten.
Wie viele Gates sinnvoll sind #
Zu wenige Gates sind riskant. Zu viele machen die Automatisierung sinnlos — wenn ein Mensch jeden Zwischenschritt bestätigt, hat er die Arbeit selbst gemacht, nur langsamer.
Setz das Gate so spät wie möglich und so früh wie nötig: direkt vor der ersten unumkehrbaren Aktion. Alles davor läuft durch. Ein gut gesetztes Gate schlägt fünf schlecht gesetzte.
Ein Gate braucht außerdem drei Dinge, sonst ist es keines: einen benannten Verantwortlichen, genug Kontext zur Entscheidung und eine echte Ablehnungsmöglichkeit. Ein Freigabeknopf, den alle reflexhaft drücken, ist Theater.
Wie das bei mir aussieht #
Auf der Karte meiner Assistentin Ada steht als wichtigster Wert: Alleingänge: 0. Sie recherchiert, bereitet vor, formuliert und schlägt Termine vor — aber nichts verlässt das Haus ohne meine Freigabe.
Das kostet mich täglich ein paar Minuten und erspart mir die Sorte Fehler, die man nicht zurückholt. Für mich ist das kein Kompromiss, sondern die Voraussetzung dafür, dass ich einem Agenten überhaupt Zugriff auf Kalender und Postfach gebe.
Häufige Fragen #
Ist ein Human Gate gesetzlich vorgeschrieben?
Für Hochrisiko-Systeme verlangt Art. 14 der KI-Verordnung menschliche Aufsicht — das Human Gate ist die praktische Umsetzung davon. Für alle anderen Anwendungen ist es keine Pflicht, aber gute Praxis, sobald ein Prozess Außenwirkung hat.
Wo setze ich das Gate am besten?
Direkt vor der ersten unumkehrbaren Aktion. Alles davor — recherchieren, entwerfen, vorbereiten — kann ohne Freigabe laufen. So bleibt der Zeitgewinn erhalten und das Risiko trotzdem eingefangen.
Was macht ein Gate wirkungslos?
Fehlender Kontext und fehlende Verantwortung. Wer freigeben soll, ohne zu sehen, worum es geht, klickt durch. Ein Gate ohne benannten Verantwortlichen ist eine Formalie, keine Kontrolle.
Bremst das nicht die ganze Automatisierung aus?
Nur bei falscher Platzierung. Ein einziges Gate am richtigen Ort lässt neunzig Prozent der Arbeit automatisch laufen. Fünf Gates an den falschen Orten verwandeln Automatisierung in Formularverkehr.
Quellen #
- Verordnung (EU) 2024/1689 (KI-Verordnung) — Art. 14 menschliche Aufsicht bei Hochrisiko-Systemen; Art. 50 Abs. 4 UAbs. 2 zur redaktionellen Verantwortung
- Anthropic — Building effective agents (Abschnitte zu Stop Conditions und menschlicher Kontrolle)
- Eigene Praxis: Freigabepflicht für alle Außenaktionen im AMIA-Agenten-Setup
Wo müssten bei euch Gates stehen?
Frag mich — oder frag Ada. Sie arbeitet selbst hinter einem Gate: Sie darf vorbereiten, aber nichts ohne meine Freigabe senden. Kostenfrei, ohne Formular.