EU AI Actmenschliche Aufsichtwiederkehrende Arbeit
Menschliche Aufsicht in der Praxis
„Ein Mensch prüft das“ ist kein Stopp. Benennen Sie, wer prüft, wer stoppen kann, und wen die Person ruft.
„Ein Mensch prüft das“ ist kein Stopp.
In vielen Betrieben ist dieser Satz der ganze Plan. Er steht in einer Richtlinie. Die Arbeit läuft weiter. Der Satz nennt nicht die Person, den Moment, was sie ändern darf, und wie ein schlechter Entwurf den Betrieb nicht verlässt.
Nehmen Sie eine Nutzung, die es schon gibt. Ein Assistent schreibt eine Kundenantwort, und jemand könnte sie senden. Das reicht für diese Übung. Fangen Sie nicht mit einer Einstufung des Tools an.
Prüfen, freigeben, eskalieren, stoppen
Prüfen heißt: eine benannte Person liest den Entwurf, bevor er hinausgeht. Sie sieht die Fakten, die der Assistent benutzt hat, und den Wortlaut. „Jemand im Team“ ist kein Name.
Freigeben heißt: diese Person darf den Entwurf senden, oder senden, nachdem sie ihn geändert hat. Ein Nicken in einer Besprechung ist keine Freigabe, wenn der Entwurf schon weg ist.
Eskalieren heißt: es gibt eine zweite benannte Person, und einen Grund, sie zu rufen. Ein Preis, eine Beschwerde, ein persönliches Detail, oder etwas, das die erste Person nicht entscheiden darf. „Mal fragen“ hat kein Ziel.
Stoppen heißt: die erste Person darf den Entwurf ablehnen und diese Nutzung abschalten, bis eine benannte verantwortliche Person den Fehler angesehen hat. Eine Prüfung, die den Ausgang nicht stoppen kann, ist ein Kommentar.
Schreiben Sie diese vier Zeilen für eine Nutzung. Ein Absatz reicht.
Der Absatz zum Schreiben
Ersetzen Sie die Klammern. Bleiben Sie bei einer Nutzung.
Bevor eine Kundenantwort, die [Tool] entworfen hat, gesendet wird, prüft [benannte Person] die Fakten und den Wortlaut. Sie darf senden, ändern oder ablehnen. Wenn der Entwurf [einen Preis, eine Beschwerde, personenbezogene Daten oder eine andere Grenze, die sie nicht entscheiden darf] enthält, gibt sie ihn an [zweite benannte Person] weiter und sendet ihn nicht. Wenn der Entwurf falsch ist und sie das nicht richten kann, stoppt sie diese Nutzung, bis [benannte verantwortliche Person] ihn angesehen hat.
Das ist die Prüfung und der Stopp. Der Satz in der Richtlinie ist es nicht.
Was der Absatz nicht leistet
Der Absatz ist eine Arbeitsgewohnheit für gewöhnliche, wiederkehrende Arbeit. Er erfüllt Artikel 14 nicht. Er erfüllt Artikel 26 Absatz 2 nicht. Er stuft kein System ein.
Artikel 14 der Verordnung (EU) 2024/1689 gilt für Hochrisiko-KI-Systeme auf beiden Wegen des Artikels 6. Er gilt nicht für jedes Tool im Betrieb. Das System muss so gebaut sein, dass eine natürliche Person es während der Nutzung wirksam beaufsichtigen kann. Dazu gehört, die Ausgabe außer Acht zu lassen oder den Betrieb zu unterbrechen.
Hochrisiko ist eine Einstufung mit zwei Wegen, nicht ein Etikett nur für Anhang III.
Artikel 6 Absatz 1 erfasst ein KI-System, das ein Produkt ist oder als Sicherheitsbauteil eines Produkts unter den Harmonisierungsrechtsvorschriften in Anhang I verwendet werden soll, wenn dieses Produkt einer Konformitätsbewertung durch Dritte unterzogen werden muss. Die Absätze 1a bis 1c, eingefügt durch die Verordnung (EU) 2026/1744, engen diesen Weg ein. Ein System, das ausschließlich für nicht sicherheitsrelevante Aspekte der Nutzerunterstützung, Leistungsoptimierung, Leistungseffizienz, Automatisierung oder Benutzerfreundlichkeit oder Qualitätskontrolle verwendet wird, ist kein Sicherheitsbauteil. Ein System, dessen Ausfall oder Fehlfunktion Gesundheit und Sicherheit gefährden würde, bleibt eines. Eine Konformitätsbewertung nur wegen anderer Risiken als Gesundheit und Sicherheit, insbesondere Funkfrequenzen oder elektromagnetische Interferenzen, erfüllt Artikel 6 Absatz 1 Buchstabe b nicht.
Artikel 6 Absatz 2 ist der andere Weg. Die in Anhang III genannten Systeme gelten als hochriskant, sofern Artikel 6 Absatz 3 nicht greift. Die Ausnahme betrifft eine eng gefasste Verfahrensaufgabe, die Verbesserung einer bereits abgeschlossenen menschlichen Tätigkeit, das Erkennen von Entscheidungsmustern ohne Ersatz der menschlichen Prüfung, oder eine vorbereitende Aufgabe, und nur wenn kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte besteht. Der Anbieter dokumentiert diese Bewertung. Ein Betrieb erzeugt sie nicht, indem er einen Satz unter einen Kundenantwort-Entwurf schreibt. Ein System in Anhang III, das natürliche Personen profiliert, bleibt hochriskant.
Ein gewöhnlicher Assistent, der eine Kundenantwort entwirft, liegt auf keinem der beiden Wege. Er ist kein Sicherheitsbauteil nach Anhang I, und das Entwerfen einer Antwort ist keine Nutzung nach Anhang III. Eine Nutzung in Einstellung, Kredit, Bildungszugang, Biometrie oder als Sicherheitsfunktion in einem regulierten Produkt kann hochriskant sein. Dieser Text entscheidet das nicht. Wenn die Nutzung in der Nähe dieser Bereiche liegt, brechen Sie die Übung ab und holen Sie eine qualifizierte Fachperson. Entscheiden Sie nicht nach dem Namen des Anbieters.
Der Zeitpunkt ist nicht die allgemeine Zeile „Sie gilt ab dem 2. August 2026.“ Im konsolidierten Text vom 27. Juli 2026 gelten Kapitel III, Abschnitte 1, 2 und 3 ab dem 2. Dezember 2027 für Systeme, die nach Artikel 6 Absatz 2 und Anhang III hochriskant sind, und ab dem 2. August 2028 für Systeme, die nach Artikel 6 Absatz 1 und Anhang I hochriskant sind. Artikel 14 steht in Abschnitt 2. Artikel 26 steht in Abschnitt 3. Artikel 26 Absatz 2 sagt: die Betreiber übertragen die menschliche Aufsicht natürlichen Personen mit der erforderlichen Kompetenz, Ausbildung und Befugnis, und lassen ihnen die erforderliche Unterstützung zukommen. Eine benannte Person ohne diese Kompetenz und Befugnis erfüllt das nicht. Ein Absatz vom 15. Oktober 2026 erfüllt es auch nicht. Diese Abschnitte gelten noch nicht.
„Human in the loop“ schließt die Lücke nicht. Eine Person, die die Ausgabe nicht außer Acht lassen oder den Betrieb nicht unterbrechen kann, beaufsichtigt das System nicht.
Das ist praktische Orientierung, keine Rechtsberatung. Der Text stuft kein System ein, erfüllt Artikel 14 nicht und erfüllt Artikel 26 Absatz 2 nicht. Bei einer Nutzung, die hochriskant sein kann, holen Sie qualifizierte rechtliche und technische Fachleute und lesen Sie den aktuellen amtlichen Text.
- Konsolidierte Verordnung (EU) 2024/1689, 27. Juli 2026, deutsch
- Verordnung (EU) 2026/1744, englische Amtsblattfassung
Frühere Stücke dieser Reihe:
Steckt dahinter wiederkehrende Arbeit?
Sagen Sie uns in der kostenlosen Prüfung, was immer wieder passiert. Wir prüfen, ob Groundlens der richtige nächste Schritt ist.