KI-Verstoß melden: So funktioniert Deutschlands neue Beschwerdestelle bei der Bundesnetzagentur

Ein Chatbot gibt sich als Mensch aus, ein täuschend echtes KI-Video bleibt ungekennzeichnet oder eine automatisierte Entscheidung wirkt nicht nachvollziehbar. Seit dem 2. August 2026 greifen weitere Regeln der europäischen KI-Verordnung. Deutschland hat die Bundesnetzagentur als zentrale Anlaufstelle für viele Fragen und Beschwerden rund um KI vorgesehen.

Eine Beschwerde ist kein Bewertungsportal für schlechte Bot-Antworten. Sie soll einen konkreten, belegbaren möglichen Verstoß prüfbar machen. Dieser Leitfaden erklärt den Weg von der ersten Beobachtung bis zur sachlichen Meldung. Er ersetzt keine Rechtsberatung.

Was seit dem 2. August 2026 gilt

Die KI-Verordnung der Europäischen Union wird stufenweise angewandt. Seit dem 2. August 2026 gelten weitere Anforderungen, darunter Transparenzpflichten für bestimmte interaktive KI-Systeme und synthetische Inhalte. Die Europäische Kommission nennt insbesondere Systeme, die mit Menschen kommunizieren, sowie künstlich erzeugte oder manipulierte Inhalte.

Nutzer sollen erkennen können, dass sie mit einem KI-System interagieren, wenn dies nicht ohnehin offensichtlich ist. Für bestimmte künstlich erzeugte Bild-, Ton-, Video- und Textinhalte gelten Kennzeichnungs- oder Herkunftspflichten. Die konkrete Pflicht hängt jedoch von Rolle, Verwendungszweck und Kontext ab. Ein privates Spaßbild ist nicht automatisch wie ein professionell verbreiteter Deepfake zu behandeln.

Das deutsche Durchführungsgesetz ordnet nationale Zuständigkeiten. Nach Angaben des Bundesministeriums für Digitales und Staatsmodernisierung übernimmt die Bundesnetzagentur eine zentrale Rolle bei Marktüberwachung, Anlaufstelle und Beschwerdeverfahren. Fachbehörden für Datenschutz, Medizinprodukte, Finanzaufsicht oder Strafverfolgung bleiben dennoch wichtig.

Welche Fälle sich für eine Beschwerde eignen

Sinnvoll ist eine Meldung, wenn ein konkreter KI-Einsatz erkennbar ist und eine gesetzliche Pflicht möglicherweise verletzt wird. Denkbar sind ein Kundenservice-Chat, der seine maschinelle Identität verschleiert, ein kommerziell verbreiteter Deepfake ohne angemessenen Hinweis oder ein Anbieter, der eine nachvollziehbare Nachfrage nach menschlicher Überprüfung unbeantwortet lässt.

Auch automatisierte Entscheidungen mit spürbaren Folgen verdienen Aufmerksamkeit. Beispiele sind Vorauswahlen bei Bewerbungen, Bewertungen beim Zugang zu Leistungen oder Systeme in Bildung und Verwaltung. Von außen lässt sich oft nicht sicher entscheiden, ob KI-Verordnung, Datenschutzrecht, Antidiskriminierungsrecht oder sektorale Regeln maßgeblich sind. Deshalb sollte eine Beschwerde beobachtbare Tatsachen schildern und keine ungesicherten Rechtsbehauptungen vorwegnehmen.

Eine falsche Übersetzung, erfundene Antwort oder unhöfliche Formulierung ist nicht automatisch ein Aufsichtsfall. Solche Qualitätsprobleme können aber relevant werden, wenn ein Unternehmen über die eingesetzte Technik täuscht, Risiken ignoriert oder eine geschützte Position wie Zugang zu Arbeit, Bildung, Kredit oder Gesundheitsversorgung betroffen ist.

Erst klären: KI-System oder gewöhnliche Automatisierung?

Nicht jede automatische Funktion ist ein KI-System im Sinn der Verordnung. Webseiten nutzen oft feste Formulare, Suchfilter, Wenn-dann-Regeln oder Punktesysteme. Prüfen Sie Produktbeschreibung, Hilfe, Datenschutzerklärung und Nutzungsbedingungen. Hinweise können Begriffe wie „KI“, „maschinelles Lernen“, „generative Antwort“, „Modell“ oder „automatisierte Bewertung“ sein.

Fragen Sie den Anbieter schriftlich und konkret. Ein sachlicher Satz schafft zugleich einen Nachweis: „Bitte teilen Sie mir mit, ob die Entscheidung vom 18. August 2026 vollständig oder teilweise durch ein KI-System vorbereitet wurde und welche Stelle eine menschliche Überprüfung vornehmen kann.“ Je enger die Frage, desto schwerer lässt sie sich mit einer allgemeinen Textbausteinantwort umgehen.

Bei einem Chatbot prüfen Sie, ob am Beginn des Gesprächs, im Eingabefeld oder in leicht erreichbaren Informationen auf KI hingewiesen wird. Ein Hinweis muss nicht in jeder Nachricht stehen. Entscheidend ist, ob eine durchschnittliche Person rechtzeitig verstehen kann, dass sie nicht mit einem menschlichen Mitarbeiter kommuniziert.

Beweise sichern, ohne selbst Regeln zu verletzen

Eine Behörde kann nur prüfen, was nachvollziehbar dokumentiert ist. Speichern Sie die vollständige URL, Datum, Uhrzeit, Anbietername, App-Version, Betriebssystem und eine knappe Beschreibung. Screenshots sollten nicht nur den beanstandeten Satz, sondern auch den Zusammenhang zeigen. Bei einem Chat gehören Beginn, eigene Eingabe, Antwort und sichtbare Kennzeichnungen dazu.

Exportieren Sie den Verlauf, wenn die Anwendung das anbietet. Bewahren Sie E-Mails des Unternehmens auf. Bei Videos oder Audiodateien ist der direkte Link oft ebenso wichtig wie eine Kopie, weil Metadaten oder maschinenlesbare Herkunftshinweise beim erneuten Hochladen verloren gehen können. Sichern Sie deshalb Link, Screenshot und Datei, soweit dies zulässig ist.

Veröffentlichen Sie sensible Unterlagen nicht vorschnell in sozialen Netzwerken. Bewerbungsunterlagen, Gesundheitsdaten, Bankdaten und Namen unbeteiligter Personen gehören nicht in öffentliche Posts. Schwärzen Sie irrelevante Angaben in der übermittelten Kopie und behalten Sie das unveränderte Original sicher für mögliche Rückfragen.

Die Beschwerde in fünf klaren Bausteinen

Eine wirksame Meldung muss nicht wie ein Schriftsatz klingen. Sie sollte fünf Fragen beantworten:

1. Wer? Nennen Sie Unternehmen, Dienst, App, Plattform und, soweit vorhanden, Impressumsangaben.
2. Was? Beschreiben Sie den beobachteten KI-Einsatz und die vermutete Pflichtverletzung.
3. Wann und wo? Geben Sie Zeitpunkt, URL, Version und betroffenen Prozess an.
4. Welche Folge? Erklären Sie, ob Transparenz fehlte oder ein konkreter Nachteil entstand.
5. Welche Nachweise? Listen Sie Screenshots, Verlauf, E-Mails und Ihre Anfrage auf.

Ein mögliches Muster lautet: „Am 19. August 2026 nutzte ich den Supportchat des Anbieters X. Weder vor noch während des Dialogs war erkennbar, dass Antworten automatisch erzeugt wurden. Erst der Support bestätigte dies per E-Mail. Anbei übersende ich den vollständigen Verlauf, Screenshots der Startseite und die Antwort des Unternehmens.“ Diese Form trennt Beobachtung und Bewertung.

Der richtige Meldeweg

Die KI-Seite der Bundesnetzagentur ist der erste Orientierungspunkt für die deutsche Aufsicht. Nutzen Sie nur die dort aktuell ausgewiesenen Kontakt- und Beschwerdewege. Alte Blogbeiträge oder weitergeleitetes Material können überholt sein.

Daneben gibt es europäische Instrumente und geschützte Kanäle für Whistleblower. Eine Verbraucherbeschwerde ist nicht automatisch eine Whistleblower-Meldung. Letztere richtet sich vor allem an Personen, die aus einem beruflichen oder internen Zusammenhang belastbare Informationen besitzen und besonderen Schutz benötigen. Die Übersicht der Europäischen Kommission führt zu aktuellen Informationen über den europäischen Rechtsrahmen.

Geht es hauptsächlich um personenbezogene Daten, kann parallel eine Datenschutzbeschwerde nötig sein. Das betrifft etwa fehlende Auskunft, unklare Verarbeitung sensibler Daten oder ausschließlich automatisierte Entscheidungen mit erheblicher Wirkung. Die BfDI erläutert Zuständigkeiten und das Beschwerderecht bei Datenschutzbehörden. Bei Betrug, Erpressung oder Identitätsmissbrauch sollten Betroffene außerdem Polizei oder Zahlungsdienstleister einschalten.

Was nach dem Absenden passieren kann

Eine Eingangsbestätigung ist keine Feststellung eines Verstoßes. Die zuständige Stelle kann Unterlagen nachfordern, Fragen stellen, einen Vorgang an eine Fachbehörde weiterleiten oder ähnliche Beschwerden bündeln. Bewahren Sie daher Aktenzeichen, Originaldateien und Versandnachweis auf.

Antworten Sie auf Rückfragen knapp, geordnet und mit Bezug auf die jeweilige Frage. Hat der Anbieter den Inhalt inzwischen geändert, dokumentieren Sie sowohl den ursprünglichen als auch den neuen Zustand. Eine nachträgliche Kennzeichnung kann Risiken reduzieren, macht die frühere Beobachtung aber nicht wertlos.

Aufsichtsbehörden entscheiden über regulatorische Maßnahmen, nicht automatisch über individuellen Schadenersatz. Wer Geld verloren hat, Diskriminierung vermutet oder eine Vertragsfrage klären muss, sollte zusätzlich Fristen prüfen und gegebenenfalls Verbraucherberatung oder rechtliche Hilfe nutzen.

Typische Fehler vermeiden

Vermeiden Sie Sammelbeschwerden gegen „KI im Allgemeinen“. Gesellschaftliche Sorgen können wichtig sein, ersetzen aber keinen konkret prüfbaren Vorgang. Ebenso wenig helfen zugeschnittene Screenshots ohne URL und Datum, Behauptungen über angebliche Trainingsdaten ohne Beleg oder die Forderung, einen ganzen Dienst sofort abzuschalten.

Trennen Sie mehrere Rollen. Ein soziales Netzwerk kann einen Inhalt hosten, ein anderes Unternehmen ein Modell bereitstellen und ein Werbekonto den Inhalt verbreiten. Notieren Sie, wer was getan hat. So lässt sich eher klären, ob es um Anbieter, Betreiber, Nutzer oder Plattform geht.

Laden Sie keine Schadsoftware hoch und nutzen Sie keine automatisierten Masseneingaben. Falls technisches Material sicherheitskritisch ist, fragen Sie nach einem geschützten Übermittlungsweg. Eine nüchterne, vollständige Meldung ist für die Prüfung wertvoller als eine lange, aber ungeordnete Empörung.

Praktische Checkliste vor dem Versand

• Ist der betroffene Dienst eindeutig benannt?
• Sind Datum, Uhrzeit, URL und Version dokumentiert?
• Zeigen Screenshots den vollständigen Kontext?
• Sind Beobachtung und rechtliche Vermutung getrennt?
• Ist die konkrete Auswirkung beschrieben?
• Wurde der Anbieter, soweit sinnvoll, um Erklärung gebeten?
• Sind sensible Daten auf das Erforderliche beschränkt?
• Wird ein aktueller offizieller Meldeweg genutzt?
• Muss zusätzlich Datenschutzaufsicht, Polizei oder Verbraucherberatung eingeschaltet werden?
• Sind Originale und Versandnachweis gesichert?

Wer diese Punkte erfüllt, schafft eine brauchbare Grundlage für die Aufsicht. Die Beschwerdestelle ersetzt weder Strafanzeige noch Datenschutzbeschwerde oder zivilrechtliche Beratung. Sie ist aber ein wichtiger Weg, um konkrete mögliche Verstöße gegen KI-Regeln nachvollziehbar an die zuständige Stelle zu geben.

Den Sachverhalt für eine Prüfung lesbar machen

Eine gute KI-Beschwerde beginnt nicht mit einer langen rechtlichen Einordnung, sondern mit einer klaren Rekonstruktion des tatsächlichen Ablaufs. Die prüfende Stelle muss verstehen können, was eine Person gesehen, eingegeben, erhalten oder entschieden bekommen hat. Besonders hilfreich ist deshalb eine kurze Chronologie in normaler Sprache. Beschreiben Sie zuerst den Ausgangspunkt: Welchen Dienst wollten Sie nutzen, welche Funktion haben Sie aufgerufen und welche Erwartung war aus Ihrer Sicht naheliegend? Danach folgt der konkrete Moment, der Zweifel ausgelöst hat. So wird erkennbar, ob es um einen einzelnen unverständlichen Hinweis, eine fehlende Kennzeichnung, eine automatisierte Auswahl oder um einen Inhalt mit möglicher Täuschungswirkung geht.

Bei interaktiven Systemen sollte der Verlauf nicht auf die auffällige Antwort reduziert werden. Notieren Sie auch, wie der Chat, das Formular oder die Sprachfunktion bezeichnet war. Relevant können ein sichtbarer Name, der Einstiegstext, Schaltflächen, Hilfeseiten und die Gestaltung des Eingabefelds sein. Ein System kann seinen KI-Charakter offen nennen, ihn nur versteckt erläutern oder durch eine menschlich wirkende Ansprache einen anderen Eindruck erzeugen. Diese Unterschiede lassen sich besser bewerten, wenn der Zusammenhang erhalten bleibt. Ergänzen Sie, ob Sie den Dienst am Computer, in einer App oder über einen anderen Zugang genutzt haben und ob Sie angemeldet waren.

Bei automatisierten Entscheidungen ist eine präzise Beschreibung des Ergebnisses wichtiger als eine Vermutung über den verwendeten Algorithmus. Schreiben Sie beispielsweise, welche Entscheidung mitgeteilt wurde, welche Begründung der Anbieter nannte und welche Möglichkeit zur Nachfrage vorhanden war. Falls eine Entscheidung Folgen für Ihre Bewerbung, einen Vertrag, eine Leistung oder den Zugang zu einem Angebot hatte, erläutern Sie diese Folge konkret. Formulierungen wie „das war unfair“ können die persönliche Belastung ausdrücken, helfen einer fachlichen Prüfung allein aber wenig. Besser ist es, den beobachtbaren Nachteil zu benennen und anschließend zu erklären, warum Sie einen automatisierten Einfluss für möglich halten.

Auch bei synthetischen Bildern, Audios oder Videos sollte zwischen Inhalt und Verbreitung unterschieden werden. Halten Sie fest, wo der Beitrag erschien, unter welchem Konto er veröffentlicht wurde und ob ein Hinweis auf Bearbeitung oder künstliche Erzeugung vorhanden war. Wenn der Inhalt eine reale Person darstellt, beschreiben Sie möglichst neutral, wodurch ein falscher Eindruck entstehen konnte. Es ist nicht erforderlich, selbst technisch nachzuweisen, mit welchem Modell ein Medium erzeugt wurde. Es genügt, nachvollziehbar darzustellen, welche Merkmale Sie festgestellt haben, welche Angaben der veröffentlichenden Stelle fehlten und weshalb der Kontext bedeutsam ist.

Eine Beschwerde wird glaubwürdiger, wenn sie Beobachtung, Schlussfolgerung und offene Frage sichtbar trennt. Eine praktische Formulierung kann so aussehen: „Festgestellt habe ich …“, „Daraus entstand bei mir der Eindruck …“ und „Ich bitte um Prüfung, ob …“. Diese Struktur schützt davor, ungeprüfte Annahmen als Tatsachen zu formulieren. Sie lässt der Behörde zugleich Raum, den richtigen Rechtsrahmen und die zuständige Stelle zu bestimmen. Wenn Sie etwas nur aus einer Aussage Dritter wissen, kennzeichnen Sie dies deutlich. Eine ehrliche Unsicherheit ist kein Nachteil, sondern erleichtert die Einordnung.

Unterlagen gezielt auswählen und personenbezogene Daten schützen

Mehr Material ist nicht immer bessere Dokumentation. Wählen Sie die Unterlagen so aus, dass sie den Kern des Vorgangs belegen, ohne unnötig sensible Informationen weiterzugeben. Ein vollständiger Screenshot kann etwa Namen, E-Mail-Adressen, Kontodaten, private Nachrichten oder Daten weiterer Personen enthalten. Prüfen Sie vor dem Versand, ob diese Angaben für das Verständnis wirklich erforderlich sind. Nicht benötigte Bereiche können geschwärzt werden. Die ungekürzte Originaldatei sollten Sie jedoch sicher aufbewahren, falls später eine Rückfrage entsteht.

Bewahren Sie Belege in einer nachvollziehbaren Ordnung auf. Eine sinnvolle Mappe enthält die eigene Sachverhaltsbeschreibung, Screenshots, exportierte Verläufe, E-Mails, Links und gegebenenfalls eine Liste der Anlagen. Vergeben Sie verständliche Dateinamen, damit ein Screenshot nicht nur „Bild“ heißt, sondern den Bezug zum Vorgang erkennen lässt. Änderungen an einer Datei sollten nicht unbemerkt das Original ersetzen. Wenn Sie für die Beschwerde eine gekürzte oder geschwärzte Version erstellen, ist es sinnvoll, diese als Kopie zu kennzeichnen. Dadurch bleibt klar, welche Fassung übermittelt wurde.

Links sind bei digitalen Inhalten oft ebenso aussagekräftig wie Dateien. Ein verlinktes Video kann gelöscht, bearbeitet oder durch eine neue Version ersetzt werden. Dokumentieren Sie deshalb den Link zusammen mit dem Zeitpunkt Ihres Abrufs und einem Screenshot der sichtbaren Seite. Bei einem Chatdienst kann sich die Darstellung nach einem Update verändern. Halten Sie dann fest, welche Version oder welche Oberfläche Sie verwendet haben, soweit diese Information sichtbar war. Ein späterer Hinweis des Anbieters kann bedeuten, dass das Problem inzwischen behoben wurde. Er widerlegt nicht automatisch, dass die frühere Darstellung anders war.

Besondere Vorsicht gilt bei Gesundheitsinformationen, Bewerbungsunterlagen, Identitätsdokumenten, Zahlungsinformationen und internen Geschäftsdaten. Eine Behörde benötigt nicht automatisch alle Hintergrunddokumente. Beschreiben Sie zunächst, welche Art von Nachweis vorhanden ist, und reichen Sie vertrauliche Unterlagen nur über einen geeigneten Weg ein. Wenn eine Datei Schadcode, Zugangsdaten oder technische Exploit-Informationen enthalten könnte, senden Sie sie nicht unaufgefordert als gewöhnlichen Anhang. Bitten Sie stattdessen um Hinweise zum sicheren Übermittlungsweg. Das gilt auch für Daten, die andere Personen identifizieren oder gefährden könnten.

Veröffentlichen Sie eine laufende Beschwerde nicht vorschnell mit vollständigen Belegen in sozialen Netzwerken. Öffentliche Aufmerksamkeit kann verständlich sein, erschwert aber unter Umständen die spätere Prüfung und kann Rechte Dritter berühren. Wenn Sie andere warnen möchten, beschränken Sie sich auf überprüfbare Angaben und vermeiden Sie die Veröffentlichung privater Kommunikation. Eine sachliche Meldung an die zuständige Stelle und ein öffentlicher Vorwurf erfüllen unterschiedliche Zwecke. Die Beschwerde sollte sich auf die Prüfung des konkreten Vorgangs konzentrieren.

Nach der Meldung sinnvoll reagieren

Nach dem Absenden sollte der Vorgang nicht aus dem Blick geraten. Speichern Sie die übermittelte Fassung, eine Versandbestätigung und ein mögliches Aktenzeichen. Falls Sie später zusätzliche Informationen erhalten, etwa eine Antwort des Anbieters oder eine Änderung der betroffenen Funktion, reichen Sie diese geordnet nach. Schreiben Sie dazu kurz, was neu ist und warum es zum bereits gemeldeten Sachverhalt gehört. Vermeiden Sie es, bei jeder kleinen Beobachtung eine vollständig neue Beschwerde zu senden. Mehrere Meldungen zum selben Ereignis können die Zuordnung unnötig erschweren.

Eine Rückfrage der Behörde ist keine Bewertung zu Ihren Gunsten oder Ungunsten. Sie bedeutet meist, dass bestimmte Tatsachen präzisiert werden müssen. Antworten Sie möglichst direkt auf die gestellten Fragen. Wenn Sie eine Information nicht haben, sagen Sie das offen. Falls der Anbieter auf Ihre Anfrage mit einer allgemeinen Textbausteinantwort reagiert, fügen Sie diese bei und erläutern Sie knapp, welche Frage weiterhin unbeantwortet blieb. Spekulieren Sie nicht darüber, warum ein Unternehmen schweigt oder ausweicht. Entscheidend ist, was tatsächlich mitgeteilt wurde.

Eine behördliche Beschwerde kann neben anderen Schritten sinnvoll sein, ersetzt diese aber nicht automatisch. Bei einem Vertragsstreit, einem finanziellen Schaden, möglicher Diskriminierung oder einem Datenschutzproblem können zusätzliche Ansprechpartner zuständig sein. Halten Sie mögliche Fristen im Blick und verlassen Sie sich nicht darauf, dass eine Meldung bei einer Stelle alle anderen Verfahren anstößt. Bei akuter Gefahr, Betrug oder einem möglichen Missbrauch persönlicher Daten kann ein schnellerer Schutzschritt wichtiger sein als eine ausführliche regulatorische Einordnung.

Bleiben Sie auch dann bei den Tatsachen, wenn der Anbieter den beanstandeten Inhalt entfernt oder den Dienst verändert. Notieren Sie, was sich geändert hat und wann Sie die Änderung bemerkt haben. Eine Korrektur kann für die Risikobewertung relevant sein. Sie kann aber auch zeigen, dass der Sachverhalt ernst genommen wurde. Ziel der Beschwerde ist nicht, eine bestimmte Sanktion zu erzwingen, sondern eine belastbare Grundlage für die zuständige Prüfung zu schaffen. Wer den Vorgang geordnet dokumentiert, Daten verantwortungsvoll behandelt und auf Rückfragen klar antwortet, erhöht die Chance, dass aus einer individuellen Erfahrung verwertbare Aufsichtsinformation wird.

Quellen und weiterführende Informationen

• Europäische Kommission: Transparenzpflichten ab 2. August 2026
• BMDS: Deutsches Durchführungsgesetz
• Bundesnetzagentur: KI-Verordnung und Anlaufstelle
• EUR-Lex: Verordnung (EU) 2024/1689
• BfDI: Beschwerden bei Datenschutzbehörden