AI-Act-Aufsicht: Prüfungen und Beschwerden sicher bearbeiten

Kurzantwort: Was bedeutet AI-Act-Aufsicht für Unternehmen?

AI-Act-Aufsicht bedeutet, dass zuständige Behörden die Einhaltung der KI-Verordnung überwachen, Beschwerden bearbeiten, Unterlagen anfordern und bei Risiken oder Verstößen Korrekturmaßnahmen verlangen können. Für Unternehmen ist daher nicht nur entscheidend, ob ein KI-System ursprünglich freigegeben wurde. Sie müssen auch später erklären können, welches System in welcher Version, für welchen Zweck und mit welchen Schutzmaßnahmen betrieben wurde.

Ein belastbarer Prüfprozess beginnt mit der konkreten Anfrage und führt von der Zuständigkeits- und Rollenklärung über die Sicherung des betroffenen Systemstands bis zur nachvollziehbaren Antwort und möglichen Korrektur. Er verbindet Recht, Fachprozess und Technik. Dieser Leitfaden beschreibt diese organisatorische Umsetzung; die rechtliche Bewertung eines Einzelfalls gehört in fachkundige Hände.

Zuständigkeit nicht aus dem Absender allein ableiten

Das am 29. Juli 2026 in Kraft getretene KI-Marktüberwachungs- und Innovationsgesetz bestimmt die Bundesnetzagentur grundsätzlich als Marktüberwachungsbehörde für den AI Act. Zugleich bleiben Zuständigkeiten für bestimmte Produkte, Finanzdienstleistungen und weitere Sektoren erhalten. Die Bundesnetzagentur übernimmt außerdem eine koordinierende Funktion und betreibt die zentrale Beschwerdestelle. Sie kann eine Eingabe an die fachlich zuständige Behörde weiterleiten.

Unternehmen sollten deshalb nicht voreilig annehmen, jeder KI-Fall werde ausschließlich von einer einzigen Stelle bearbeitet. Neben der KI-Verordnung können Datenschutz, Produktsicherheit, Arbeitsrecht, Medienrecht oder sektorale Regeln berührt sein. Eine Beschwerde wegen personenbezogener Daten kann beispielsweise bei einer Datenschutzaufsichtsbehörde liegen, während eine AI-Act-Frage über die zentrale Beschwerdestelle geführt wird. Intern braucht es trotzdem nur einen Eingang und eine koordinierende Fallverantwortung.

• Absender, Rechtsgrundlage und angefragte Pflicht getrennt erfassen
• KI-System, Produktbezug, Branche und betroffene Personen bestimmen
• mögliche Parallelzuständigkeiten sichtbar machen, aber Antworten koordinieren
• fachliche oder rechtliche Zweifel früh klären, statt Zuständigkeiten selbst endgültig festzulegen

Beschwerde, Stichprobe und Behördenanfrage unterschiedlich behandeln

Nach Artikel 85 des AI Act können natürliche und juristische Personen bei der zuständigen Marktüberwachungsbehörde Beschwerde einlegen. Die Bundesnetzagentur nennt als mögliche Gegenstände unter anderem verbotene KI-Praktiken, Anforderungen an Hochrisiko-Systeme, Transparenzpflichten sowie fehlende Zusammenarbeit oder Auskunft. Sie kann außerdem von Amts wegen tätig werden. Marktüberwachung ist damit nicht auf gemeldete Vorfälle beschränkt; auch Stichproben und eigene Ermittlungen sind möglich.

Eine Beschwerde ist nicht automatisch der Nachweis eines Verstoßes. Sie ist aber ein Prüfimpuls, der unverändert, vertraulich und nachvollziehbar aufgenommen werden sollte. Eine behördliche Anforderung erhält einen eigenen Fallstatus, Verantwortliche und Fristen. Ein schwerwiegender Vorfall nach Artikel 73, eine Datenschutzverletzung oder ein Sicherheitsereignis kann daneben einen separaten Meldeprozess mit eigenen Voraussetzungen und Fristen auslösen. Diese Prozesse werden verknüpft, aber nicht vermischt.

Den betroffenen Systemstand sichern, ohne den Betrieb blind einzufrieren

Der erste operative Schritt ist eine kontrollierte Stabilisierung. Das Unternehmen erfasst Eingang, Frist, betroffene Funktion, Zeitraum, Nutzergruppe und behauptete Wirkung. Danach werden die relevante Modell- oder Softwareversion, Konfiguration, Prompts oder Regeln, angebundene Datenquellen, Berechtigungen und automatisierte Folgeaktionen gesichert. Laufende Änderungen am betroffenen Teil werden bis zur Triage nachvollziehbar begrenzt.

Ein pauschaler Stopp sämtlicher KI-Systeme ist selten hilfreich. Wenn jedoch eine verbotene Praxis, ein erhebliches Risiko oder eine fortdauernde nachteilige Wirkung plausibel ist, muss die betroffene Nutzung kontrolliert begrenzt oder gestoppt werden. Beweise dürfen dabei weder überschrieben noch nachträglich rekonstruiert werden. Änderungen zur Schadensbegrenzung erhalten einen Zeitstempel, eine Begründung und einen klaren Bezug zum gesicherten Ausgangsstand.

• Fallnummer, Eingangskanal, Frist und verantwortliche Person festlegen
• betroffene Systemkomponente, Version, Zweck und Zeitraum eingrenzen
• relevante Konfigurationen, Protokolle und Entscheidungen unverändert sichern
• nur die betroffene Wirkung oder Änderung kontrolliert begrenzen
• jede Sofortmaßnahme mit Zeitpunkt, Verantwortlichem und Grund dokumentieren

Eigene KI-Rolle und Lieferkette vor der Antwort klären

Die Pflichten hängen davon ab, ob ein Unternehmen Anbieter, Betreiber, Einführer, Händler oder in einer Kombination dieser Rollen handelt. Ein mittelständisches Unternehmen ist häufig Betreiber eines eingekauften Systems. Durch Änderungen an Zweck, Kennzeichnung oder System kann sich die Rolle jedoch verändern. Die Antwort an eine Behörde sollte diese Einordnung nicht voraussetzen, sondern anhand von Vertrag, Zweckbestimmung, technischer Veränderung und tatsächlichem Einsatz belegen.

Für eingekaufte oder eingebettete KI muss klar sein, welche Unterlagen beim Anbieter liegen und wie schnell sie bereitgestellt werden. Dazu gehören mindestens Zweckbestimmung, Gebrauchsanweisung, Versions- und Änderungsinformationen, relevante Konformitätsunterlagen sowie vereinbarte Unterstützung bei Behördenanfragen. Eigene Nachweise zu Prozess, Konfiguration, menschlicher Aufsicht und tatsächlicher Nutzung bleiben Verantwortung des Unternehmens; sie lassen sich nicht durch eine allgemeine Anbietererklärung ersetzen.

Ein prüffähiges Nachweispaket entlang der Anfrage aufbauen

Artikel 21 verpflichtet Anbieter von Hochrisiko-KI-Systemen, einer zuständigen Behörde auf begründetes Verlangen die erforderlichen Informationen und Unterlagen in verständlicher Form bereitzustellen und gegebenenfalls Zugang zu automatisch erzeugten Protokollen zu gewähren, soweit diese unter ihrer Kontrolle stehen. Marktüberwachungsbehörden verfügen darüber hinaus über Prüf- und Zugriffsrechte. Für Unternehmen folgt daraus kein Anlass zur ungefilterten Vollablage. Das Paket sollte jede konkrete Frage mit dem passenden, aktuellen Nachweis verbinden.

Ein übersichtliches Deckblatt nennt System, Rolle, Zweck, Version, Zeitraum, Eigentümer und Anlagen. Dahinter folgen nur einschlägige Belege mit Herkunft, Versionsstand und Verantwortlichem. Geschäftsgeheimnisse und personenbezogene Daten werden gekennzeichnet und über den vorgesehenen sicheren Kanal übermittelt. Schwärzungen oder Einschränkungen dürfen nicht improvisiert werden, sondern müssen mit der zuständigen fachlichen und rechtlichen Stelle abgestimmt sein.

• Freigabe, KI-Inventareintrag, Risikoeinstufung und geprüfte Nutzung
• Anbieterunterlagen, Vertrag, Zweckbestimmung und relevante Konformitätsnachweise
• Systemarchitektur, Datenflüsse, Schnittstellen, Rollen und Berechtigungen
• Versionen von Modell, Anwendung, Konfiguration und Schutzmechanismen
• Tests, Qualitätsgrenzen, Fehlerszenarien und Kriterien menschlicher Aufsicht
• Nutzerinformationen, Transparenzhinweise und betroffene Prozessanweisungen
• relevante Protokolle, Entscheidungen, Übersteuerungen, Beschwerden und Änderungen
• Sofortmaßnahmen, Korrekturplan, Verantwortliche und Wirksamkeitskontrolle

Die Behördenantwort als kontrollierten Arbeitsablauf führen

Eine belastbare Antwort trennt Tatsachen, fachliche Bewertung und offene Punkte. Zuerst wird jede Frage in einen Arbeitsauftrag übersetzt und einer Quelle zugeordnet. Fachbereich und Systemverantwortung bestätigen den tatsächlichen Ablauf; Datenschutz, Informationssicherheit und gegebenenfalls Rechtsberatung prüfen ihre Bereiche. Eine zentrale Fallverantwortung hält Version, Freigabe und Versand zusammen.

Nicht verfügbare Informationen werden nicht nachträglich als historische Fakten formuliert. Stattdessen wird transparent beschrieben, was vorliegt, welche Lücke besteht und wie sie geschlossen oder künftig verhindert wird. Rückfragen an Anbieter und interne Stellen erhalten nachvollziehbare Fristen. Vor Versand werden Antwort und Anlagen gegen das behördliche Schreiben geprüft, damit keine Frage unbeantwortet bleibt und keine widersprüchlichen Dokumentstände übermittelt werden.

• Anforderung in einzelne Fragen und Nachweise zerlegen
• jede Aussage mit Quelle, Version und Verantwortlichem verbinden
• Tatsachen, Bewertung, Annahmen und offene Punkte sichtbar trennen
• vertrauliche Inhalte markieren und sicheren Übermittlungsweg nutzen
• Vier-Augen-Freigabe für Vollständigkeit, Konsistenz und Fristeinhaltung
• versandte Fassung, Eingangsbestätigung und weitere Rückfragen versioniert ablegen

Korrekturmaßnahmen technisch umsetzen und wirksam nachweisen

Stellt die Behörde oder das Unternehmen ein Risiko oder eine Abweichung fest, reicht eine schriftliche Zusage nicht. Die Korrektur muss auf die betroffene Wirkung zielen: Funktionen deaktivieren, Rollen begrenzen, Hinweise ergänzen, Datenzugriffe ändern, menschliche Kontrolle verstärken, Modell oder Regeln aktualisieren oder den Einsatz beenden. Abhängig von Fall und Zuständigkeit können Behörden Einschränkung, Rücknahme, Rückruf oder andere Abhilfemaßnahmen verlangen.

Vor einer Wiederfreigabe werden dieselben Prozessschritte und Schnittstellen erneut getestet, die den Fall ausgelöst haben. Das Unternehmen dokumentiert Ausgangsbefund, Änderung, Test, Restrisiko, Freigabe und Überwachung. Bei Anbieterabhängigkeit bleibt ein eigener technischer Nachweis erforderlich: Versionsnummer und Release-Mitteilung allein belegen nicht, dass die Abweichung im konkreten Unternehmensprozess beseitigt ist.

Prüfbereitschaft in Betrieb und Verträgen verankern

Der beste Aufsichtsprozess beginnt vor der ersten Beschwerde. Im KI-Inventar werden System, Rolle, Zweck, Risikoeinstufung, Eigentümer, Anbieter, Schnittstellen und Nachweisorte gepflegt. Beschaffung und Verträge regeln die Unterstützung bei Anfragen, die Bereitstellung aktueller Unterlagen, Zugriff auf erforderliche Protokolle, Änderungsinformationen und Korrekturfristen. Das Berechtigungskonzept stellt sicher, dass Nachweise erreichbar bleiben, ohne allen Beteiligten uneingeschränkten Zugriff zu geben.

In Übungen kann ein realistischer Fall vom Eingang bis zur freigegebenen Antwort durchlaufen werden. Dabei zeigen sich typische Brüche: unklare Eigentümer, fehlende Versionsstände, Logs ohne Kontext, Anbieterunterlagen in persönlichen Postfächern oder widersprüchliche Freigaben. Ziel ist keine maximale Papiermenge, sondern eine kurze Kette vom konkreten Systemereignis zur belastbaren Entscheidung und zurück zur technischen Maßnahme.

Prüfung und Beschwerde in neun Schritten bearbeiten

Der Ablauf kann als gemeinsames Verfahren für Compliance, Fachbereich, IT und Management geführt werden. Spezielle Melde- oder Rechtsfristen bleiben daneben bestehen und müssen im Einzelfall geprüft werden.

• 1. Eingang, Frist, Absender, Rechtsgrundlage und behaupteten Sachverhalt erfassen.
• 2. Betroffenes System, Version, Zeitraum, Personen und Prozesswirkung eingrenzen.
• 3. Eigene Rolle, Anbieterbeziehung und mögliche Zuständigkeiten klären.
• 4. Relevanten Systemstand, Konfigurationen, Protokolle und Entscheidungen sichern.
• 5. Fortdauernde Risiken mit begrenzten, dokumentierten Sofortmaßnahmen kontrollieren.
• 6. Jede Frage einem aktuellen Nachweis und einem verantwortlichen Prüfer zuordnen.
• 7. Konsistente Antwort samt Anlagen fachlich und rechtlich freigeben.
• 8. Geforderte oder selbst festgelegte Korrekturen technisch umsetzen und testen.
• 9. Abschluss, Restrisiko, Wiederfreigabe und Verbesserungen im KI-Inventar dokumentieren.