Die leere Box

Human Oversight, das leerste Kästchen der Regulatorik

Der EU AI Act sagt, was verboten ist. ISO 42001 zertifiziert, dass ein Managementsystem existiert. NIST AI RMF sortiert Risiken in ein Vokabular.

Keines davon beantwortet die einzige Frage, die am Dienstag zählt: Was entscheiden wir, wenn der Fall auf dem Tisch liegt?

Alle drei skalieren, weil sie an der entscheidenden Stelle leer sind. Sie zeichnen eine Box – Human Oversight, Management Review, Freigabe – und setzen voraus, dass darin jemand sitzt, der urteilen kann. Keines baut diese Fähigkeit auf.

Der Klassiker aus jedem Compliance-Meeting: Frag Legal. Legal fragt Compliance. Compliance verweist auf die Business-Entscheidung. Die Entscheidung landet wieder bei Legal. Vier Stationen, ein Kreis, keine Entscheidung.

Das ist kein Prozessfehler. Das ist die Box, wie sie gezeichnet wurde: leer, damit ein Mensch sie füllt. Nur hat niemand gebaut, was das Füllen erfordert.

Die Frameworks haben die Box gezeichnet. Wer drinsitzt, ist Ihr Problem.

Die komprimierte Fassung dieses Gedankens steht im Abschnitt „Warum es Sie betrifft" auf Cognitive Sovereignty.