Eine Datenanfrage nach DSGVO bei der für mich zuständigen Medienanstalt Hessen ergab, wie berichtet, dass mit dem KI-Tool KIVI der Landesmedienanstalten in einem Dreimonatszeitraum Dutzende Beiträge von mir und über mich aus dem Netz gefischt und gespeichert wurden, bei denen keinerlei Indizien für Rechtswidrigkeit erkennbar sind. Auf meinen Antwortbrief, in dem ich an dieser Auskunft allerlei monierte, Nachfragen stellte und umfassendere Datenauskunft verlangte, bekam ich einen Brief von der Medienanstalt mit sehr fragwürdigen Behauptungen und zum Teil sinnwidrigen Erläuterungen der Nutzung von KIVI.
Meine Korrespondenz mit der Medienanstalt ist hier dokumentiert: https://norberthaering.de/korrespondenz-medienanstalt-hessen/
Zu erklären hatte die Medienanstalt, warum vor allem Beiträge von mir aus dem Komplex Meinungskontrolle und Zensur im Filter von KIVI hängengeblieben sind und gespeichert wurden. Ich verlangte Auskunft unter anderem darüber, welche Metadaten, Kategorien, Tags, Scors oder sonstigen Bewertungen zusammen mit den Beiträgen gespeichert wurden. Außerdem monierte ich, dass die Auskunft nicht als Verwaltungsakt mit Rechtsbehelfsbelehrung und Namen des Verantwortlichen ergangen war.
Die Medienanstalt Hessen behauptet in ihrer Antwort:
„… dass das KIVI-System ausschließlich der Verfolgung von Verstößen gegen den Jugendmedienschutz-Staatsvertrag /JMStV), insbesondere den in §4 Abs. 1 JMStV genannten absolut unzulässigen Inhalten (z.B. verfassungswidrige Kennzeichen, Volksverhetzung, Holocaustleugnung) dient. Die medienrechtlichen Tatbestände aus §4 Abs. 1 JMStV überschneiden sich teilweise mit strefrechtlichen Tatbeständen (z.B. §86a StGB, §130 StGB), weshalb die Landesmedienanstalten bei Anhaltspunkten, dass es sich gleichzeitig um eine Straftat handelt, entsprechende Fälle gemäß §41 Abs. 1 Ordungswidrigkeitengesetz (OWIG) zunächst an die Strafverfolgungsbehörden abgeben müssen.“
Die angebliche Beschränkung auf den Jugendmedienschutz widerspricht der Aussage der Medienanstalt zum Verarbeitungszweck in ihrer Auskunft vom 28. August auf meine Datenanfrage. Darin hatte sie als Grund für die Datenverarbeitung nicht nur die Wahrnehmung der Aufsichtsaufgaben nach dem Jugendmedienschutz-Staatsvertrag angegeben, sondern auch die Wahrnehmung der Aufsichtsaufgaben nach dem Medienstaatsvertrag. Letztere beinhalten unter anderem die umstrittene Prüfung, ob Blogger und alternative Nachrichtenmedien „anerkannte Grundsätze des Journalismus“ befolgen.
Die aktuelle Auskunft widerspricht auch dem, was die Landesmedienanstalten öffentlich über das KIVI-Programm sagen und gesagt haben. Die Landesanstalt für Medien NRW, auf deren Initiative das gemeinsam genutzte Programm zurückgeht, gebrauchte in einer langen Pressemitteilung 2025 zur Ausweitung von KIVI auf englische und arabische Sprache das Wort Jugend kein einziges Mal. Vielmehr geht es laut Überschrift und Text allgemein um „die Suche und Verfolgung rechtswidriger Inhalte“ im Netz. Zur Begründung herangezogen wird eine Studie zur Mediennutzung von „Menschen in NRW“, nicht von Jugendlichen. Schon 2022 schrieb die Medienanstalt NRW über das damals noch recht neue KIVI, es gehe darum (ganz allgemein) potenzielle Rechtsverstöße aufzufinden, und noch verräterischer:
„2020 haben wir mit der Entwicklung des Tools begonnen. Innerhalb eines halben Jahres konnten wir einen Prototyp präsentieren. Unser Fokus lag dabei zunächst auf dem Schutz der Menschenwürde und dem Jugendschutz.“
„Rechtswidrig“ ist eine sehr viel weitere Kategorie als „strafbar“ und geht weit über §4 Abs 1 JMStV hinaus. Dazu gehören auch Ordnungswidrigkeiten, etwa in Form von Verstößen gegen den Medienstaatsvertrag. Wenn die hauptverantwortliche Medienanstalt NRW schon 2022 schreibt, der Fokus habe nur anfangs (2020) auf dem Jugendschutz gelegen, und seither in öffentlichen Verlautbarungen immer nur oder vorrangig ganz allgemein vom Auffinden von Rechtsverstößen die Rede ist, wie kann dann die Medienanstalt Hessen im Oktober 2026 behaupten, KIVI diene ausschließlich der Verfolgung von Verstößen gegen den Jugendmedienschutz-Staatsvertrag? Das ist nicht glaubwürdig.
Eine Art Rasterfahndung für die Polizei
Mit dem oben zitierten Verweis auf das Ordnungswidrigkeitsgesetz (OWIG) versucht die Medienanstalt zu rechtfertigen, dass die Anstalten de facto und nach eigener Darstellung als Zuarbeiter der Strafverfolger gezielt per KI das Internet nach Rechtswidrigem und Strafbarem durchsuchen, das sie den Strafverfolgern melden können. Dabei handelt es sich um eine Art Rasterfahndung, bei der zunächst einmal jede Äußerung im Internet anlasslos als verdächtig behandelt und untersucht wird. Es gibt ein Raster an Begriffen und Kontexten, das darauf angewendet wird, und in dem man mit seinen Äußerungen hängen bleiben kann. Bei der Rasterfahndung im engeren Sinne geht es darum, gesuchte Straftäter oder Gefährder anhand bestimmter Kombinationen von Merkmalen, die im Einzelnen auf sehr viele unbescholtene Menschen zutreffen, ausfindig zu machen. Bei dem, was die Landesmedienanstalten betreiben, geht es darum, Rechtsverstöße aus Merkmalen zu erkennen, die auf viele Inhalte von unbescholtenen Erstellern zutreffen.
Der massenhafte Zugriff auf Daten unbeteiligter Personen gilt als erheblicher Eingriff in das Grundrecht auf informationelle Selbstbestimmung und unterliegt strengen rechtlichen Voraussetzungen. Für die Rasterfahndung im engeren Sinne hat sie das Bundesverfassungsgericht 2006 an strenge Bedingungen geknüpft. Eine präventive polizeiliche Rasterfahndung ist nur bei einer konkreten Gefahr für hochrangige Rechtsgüter wie den Bestand oder die Sicherheit des Bundes oder eines Landes sowie für Leib, Leben oder Freiheit einer Person zulässig. Das hat sich unter anderem in §98a Strafprozessordnung niedergeschlagen. Ähnlich strenge Maßstäbe sollten für den massenhaften Zugriff der Medienanstalten auf Inhalte im Internet von ex-ante unverdächtigen Personen gelten. Bei der Suche nach strafbaren Aussagen im Internet stehen konkrete Gefahren für besonders wichtige Rechtsgüter jedoch in aller Regel nicht im Raum. Die Polizei dürfte daher mutmaßlich ein Programmen wie KIVI nicht in der Form nutzen, wie die Landesmedienanstalten dies tun. Stattdessen tun es die Landesmedienanstalten unter dem Vorwand des Jugendmedienschutzes und melden ihre Fundsachen der Polizei. Das ist rechtlich ausgesprochen fragwürdig.
Für die Interpretation, dass der Jugendmedienschutz nur ein Vorwand für eine in Wahrheit viel weitergehende Internet-Ausforschung ist, spricht die Formulierung des Entwurfs des Medienänderungsstaatsvertrags, mit dem sich die Medienanstalten ihre derzeitige Praxis gesetzlich legitimieren lassen wollen. Dieser soll den Anstalten explizit erlauben, per KI nach jedweden Rechtsverstößen zu fahnden, also nicht nur nach den Straftaten in §4 JMStV. Dazu gehören ausdrücklich die in §109 Medienstaatsvertrag aufgeführten Ordnungswidrigkeiten, darunter die Nichtbeachtung der Verpflichtung auf journalistische Grundsätze für „Telemedien mit journalistisch-redaktionell gestalteten Angeboten“ aus §19. Die Rasterfahndung soll sich also sogar auf Ordnungswidrigkeiten von kritischen Journalisten beziehen dürfen. Man darf ohne weiteres annehmen, dass sie das auch jetzt schon tut. Die Auswahl an Beiträgen, die per KIVI von mir herausgesucht wurden, lässt kaum andere Schlüsse zu.
Für sehr strenge Voraussetzungen für anlasslose, massenhafte Überprüfungen nach Art einer Rasterfahndung gibt es allgemein und speziell in Sachen Meinungsäußerungen sehr gute Gründe. Wenn jeder damit rechnen muss, dass alle seine noch so obskuren öffentlichen Äußerungen im Internet gefunden, gespeichert und nach geheim gehaltenen Kriterien auf Strafbarkeit hin untersucht werden, entfaltet das einen starken Einschüchterungseffekt. Die Menschen werden abschreckt, ihre Gedanken und Gefühle zu umstrittenen und sensiblen Fragen zu äußern.
Ein Rechtfertigung dafür, dass die Medienanstalten Ihre Erkenntnisse aus der Rasterfahndung auch mit den Verfassungsschutzbehörden teilen, versucht die Medienanstalt gar nicht erst. Es ist auch schwer, sich eine auszudenken.
Selbst wenn der neue Medienstaatsvertrag mit der nachträglichen gesetzlichen Rechtfertigung der KIVI-Rasterfahndung nach rechtswidrigen Inhalten von allen Landtagen angenommen würde, was zum Glück nicht zu erwarten ist, würde er mutmaßlich einer verfassungsrechtlichen Prüfung nicht standhalten.
Keine tragfähige Erklärung für Auswahl der Inhalte
Auf meinen Einwand, dass die Liste der von mir gespeicherten Beiträge nicht zum vorgeblichen Grund für deren Speicherung und Verarbeitung passt, nämlich der Prüfung auf mögliche Rechtsverstöße, bekam ich eine ebenso wortreiche wie inkohärente und wirre Antwort (Fettungen im Original):
„Bei KIVI handelt es sich um eine Software, die mithilfe künstlicher Intelligenz öffentlich zugängliche Bereiche des Internets automatisiert nach Inhalten durchsucht, die Indizien für einen Verstoß gegen die Bestimmungen des Jugendmedienschutz-Staatsvertrags (JMStV) aufweisen und daher potentiell rechtswidrig sind.“
Man beachte: Auch hier wird der Medienstaatsvertrag, der im ersten Antwortschreiben noch als Rechtfertigung für die Verarbeitung durch KIVI diente, weggelassen. Weiter:
„Hierzu werden vorgelagert öffentlich zugängliche Bereiche des Internets durch unsere Dienstleisterin, die Condat AG, automatisiert erfasst und nach entsprechenden Inhalten durchsucht. Nur bei hinreichenden Indizien für einen Rechtsverstoß wird der betreffende Inhalt den Landesmedienanstalten zur weiteren Prüfung über das KIVI-Tool https://norberthaering.de/medienanstalt-hessen/ übermittelt. Das ist in Bezug auf Ihre personenbezogenen Daten nicht geschehen. Ihre personenbezogenen Daten wurden lediglich im Rahmen des beschriebenen vorgelagerten Prozesses miterfasst, zum Beispiel weil Dritte Sie in Beiträgen verlinkt oder Sie namentlich erwähnt haben. Damit das KIVI-Tool öffentlich zugängliche Bereiche automatisiert nach Inhalten durchsuchen kann, müssen diese Inhalte zumindest kurzfristig im System hinterlegt werden. Die darüberhinausgehende Speicherung von 3 Monaten dient der Evaluierung des eingesetzten Verfahrens, also zur Feststellung von möglichen „False-Negatives“.“
Die Beiträge von mir und über mich wurden demnach nur von Condat kurzfristig auf eigene Server heruntergeladen, um durchsucht und analysiert zu werden. Weil das System keine Indizien für Rechtswidrigkeit gefunden hat, hat es die Beiträge nicht zur menschlichen Prüfung weitergegeben. Normalerweise müssten die Beiträge daraufhin umgehend wieder von den Condat-Servern gelöscht werden. Doch nun kommt der Trick: Angeblich werden sie danach für drei Monate gespeichert, um das Programm daraufhin überprüfen zu können, ob es vielleicht manche rechtswidrige Inhalte nicht zuverlässig erkennt. Diese Erklärung ist aus mehreren Gründen unzureichend und unglaubwürdig.
Ein plausibles, datensparsames Prüfverfahren würde darin bestehen, eine kleine Auswahl an nicht als potentiell rechtswidrig markierten Inhalten an menschliche Prüfer weiterzuleiten, damit diese prüfen, ob das System Rechtswidriges zuverlässig findet. Bei einem negativen Befund wäre der Beitrag danach sofort zu löschen. Wenn es ein deartiges, datensparsames Verfahren gibt, ist es datenschutzrechtlich indiskutabel massenhaft persönliche Daten mit negativen Befunden drei Monate zu speichern, um vielleicht in dieser Zeit eine menschliche Prüfung des Systems mit einer notwendig nur kleinen Auswahl dieser gespeicherten Daten durchzuführen.
Doch damit hören die Ungereimtheiten nicht auf. Die Erklärung der Medienanstalt erweckt den Eindruck, als würden alle Inhalte gespeichert. Das kann jedoch nicht sein, denn die rund 50 Inhalte von mir und über mich sind nur ein Bruchteil dessen, was ich in drei Monaten auf meinem Blog und auf X.com publiziert habe und was über mich publiziert wurde. Es muss also vom System eine Auswahl getroffen worden sein. Die Medienanstalt gibt keine Erklärung, nach welchen Kriterien diese Auswahl stattfand. Das müsste sie aber nach Datenschutzgrundverordnung.
Falsch ist auch der von der Medienanstalt erweckte Eindruck, meine Daten seien ausschließlich oder ganz überwiegend nur als Beifang „miterfasst“ worden, weil andere mich in ihren Inhalten erwähnt hätten. Die Liste der gespeicherten persönlichen Daten von mir enthält eine ganze Reihe von originären Beiträgen von mir, die ich auf X.com veröffentlicht habe.
Auskunftsverweigerung durch Ignorieren
In meinem Antwortbrief auf die Datenauskunft der Medienanstalt Hessen hatte ich eine Vervollständigung der Datenübermittlung angemahnt. Ich verlangte Auskunft unter anderem darüber, welche Metadaten, Kategorien, Tags, Scors oder sonstigen Bewertungen zusammen mit den Beiträgen gespeichert wurden. Hätte ich diese bekommen, ließe sich direkt überprüfen, ob die Behauptung stimmt, die persönlichen Daten von mir seien nur zur Prüfung des KIVI-Systems auf mögliche falsch-negative Befunde gespeichert worden. Alternativ könnte man sehen, in welche Kategorie möglicher Rechtswidrigkeit KIVI meine Inhalte oder die Inhalte über mich eingeordnet hat. Meine Vermutung ist „Politischer Extremismus“, weil die Landesmedienanstalten Äußerungen über Zensur und Meinungsmanipulation möglicherweise als extremistisch betrachten.
Die Medienanstalt ignorierte in ihrer Antwort jedoch diese Forderung nach Vervollständigung der Datenauskunft einfach. Stattdessen erklärte sie, dass sie, meinem angeblichen Wunsch entsprechend, die Condat AG angewiesen habe, „Sämtliche derzeit noch gespeicherten Beiträge“, die meine personenbezogenen Daten enthalten, zu löschen. In Wahrheit hatte ich jedoch verlangt, man solle „alle nach dem 27. September erfassten Daten unverzüglich löschen“. Für misstrauischere Menschen als mich würde das Vorgehen der Medienanstalt so aussehen, als wollte sie Spuren illegalen Tuns durch Löschung der Daten verwischen. Ich widersprach der Löschung umgehend in einer als EILIG markierten E-Mail an die Medienanstalt und brieflich. Wir werden sehen, ob das etwas genützt hat.
Schwerer Formfehler in der Datenauskunft
In meinem Antwortbrief vom 18. September hatte ich die Medienanstalt darauf hingewiesen, dass laut Rechtsprechung die Datenauskunft einer Behörde ein Verwaltungsakt sei, der mit Rechtsbehelfsbelehrung (u.a. Verpflichtungsklage) und Namen des Behördenleiters zu ergehen hat. Die Medienanstalt antwortete mir, nur die Entscheidung über die Erteilung oder Verweigerung der Auskunft sei ein Verwaltungsakt. Die Auskunftserteilung selbst, die erfolgt sei, sei einfaches Verwaltungshandeln.
Selbst nach dieser — aus meiner Sicht fragwürdigen — Rechtsauffassung hätte jedoch der Nachfolgebrief, in dem die Behörde meiner Forderung auf Erweiterung der Datenauskunft nicht nachkam, als Verwaltungsakt mit Rechtsbehelfsbelehrung ergehen müssen. Indem die Medienanstalt meine Auskunftsforderung einfach ignorierte, anstatt ihr explizit zu widersprechen, versuchte sie sich mutmaßlich um diese Konsequenz herumzudrücken. Ich wiederholte meine Forderung nach Vervollständigung der Datenauskunft und verlangte für den Fall der Verweigerung einen förmlichen Bescheid als Verwaltungsakt.
Fazit
Meine Korrespondenz mit der Medienanstalt Hessen hat folgende Widersprüche und Argumentationslücken seitens der Anstalt zutagegefördert:
- Es gibt offenbar keine tragfähige Rechtfertigung für die massenhafte Speicherung unverfänglicher Inhalte mit persönlichen Daten.
- Die Medienanstalt hat oder gibt keine plausible Erklärung dafür, welche Inhalte vom KIVI-System gespeichert werden.
- Die Medienanstalt Hessen verweigert die Auskunft über zusammen mit den Inhalten gespeicherte Meta-Daten, Tags, Kategorien etc., die Informationen über den Speichergrund enthalten könnten.
- Die Medienanstalt Hessen weigert sich, die ursprüngliche Datenauskunft und die Verweigerung der geforderten Ergänzung dieser Auskunft als förmlichen Verwaltungsakt zu behandeln, wie die Rechtsprechung das verlangt.
- Die Medienanstalt kündigt an, alle gespeicherten persönlichen Daten von mir, über deren Herausgabe und Rechtfertigung noch gestritten wird, löschen zu lassen. (Ob mein Einspruch hiergegen Erfolg hatte, muss sich noch zeigen.)
- Die Medienanstalt Hessen widerspricht in einem späteren Brief dem Verarbeitungsgrund, den sie in ihrer ersten Datenauskunft genannt hat. Gleichzeitig widerspricht sie öffentlichen Verlautbarungen der Medienanstalt NRW über den Zweck von KIVI.
- Die Landesmedienanstalten scheinen mit KIVI eine Art Rasterfahndung nach rechtswidrigen Inhalten im Internet zu betreiben, als Dienstleister für die Polizei, die das selbst mutmaßlich nicht dürfte, und für den Verfassungsschutz. Eine tragfähige Rechtsgrundlage hierfür ist nicht erkennbar.
.
Hinweis: Wenn Sie keine Beiträge auf diesem Blog verpassen möchten, empfehle ich den kostenlosen E-Mail-Newsletter. Er ist jederzeit mit einem Klick wieder kündbar. Das ist sicherer als über die sozialen Medien, wo ich zwar auch Hinweise auf die Artikel poste, wo aber nicht gewährleistet ist, dass diese Ihnen auch tatsächlich angezeigt werden. Schicken Sie gern einfach formlos eine E-Mail an newsletter|at|norberthaering.de mit dem Betreff Newsletter. |at| dabei bitte durch das @-Zeichen ersetzen.
Mehr
