KIVI ist — wie berichtet — eine 2021 im Auftrag der Landesmedienanstalt NRW von der Condat AG entwickelte künstliche Intelligenz. Sie durchsucht anlasslos das Internet nach mutmaßlich rechtswidrigen Äußerungen von Privatpersonen, Publizisten und Journalisten. Für relevant erachtete Fundsachen werden an die Verfassungsschutz- und Polizeibehörden gemeldet. Alle Landesmedienanstalten (LMA) nutzen das Programm, mit sehr zweifelhafter Rechtsgrundlage. Eine hinreichend konkrete Rechtsgrundlage für die anlasslose automatisierte Durchforschung des Internet sollen die Anstalten erst mit §109a des geplanten Medienänderungsstaatsvertrags bekommen.
Die Landesmedienanstalt NRW setzte nach eigenen Angaben KIVI ab Februar 2021 auf der ersten Medienplattform im Normalbetrieb ein, ab April 2021 auf weiteren Plattformen. Im November 2021 übernahmen weitere Medienanstalten das Programm für die eigene Arbeit. Die LMA NRW gab in ihren Mitteilungen zu dem Programm an, es sei in ihrem Auftrag von der Condat AG entwickelt worden. Auf einer Pressekonferenz im Mai 2022 bezifferte sie die einmaligen Kosten für Entwicklung und Weiterentwicklung auf 164.640 Euro. Die laufenden, monatlichen Gebühren für Hosting, Support und Lizenzen betrügen 2.300 Euro netto. Das wäre fast unglaublich günstig für ein spezialisiertes Programm, das befähigt werden musste, verschiedene Social-Media-Kanäle zu durchsuchen und darauf trainiert werden musste, rechtswidrige Video- und Tonsequenzen ebenso zu erkennen wie rechtswidrige Inhalte in Texten.
Die Budgets der Landesmedienanstalten speisen sich aus einem Anteil von 2% am Aufkommen des Rundfunkbeitrags. Es sind demnach die Rundfunkbeitragszahler, die die Ausforschung ihrer öffentlichen Kommunikation durch die LMA bezahlen.
Auf den Hinweis, dass die angegebenen Kosten für KIVI ungewöhnlich niedrig erscheinen, und die Frage, ob die Entwicklung und die Anpassung des Programms für die Nutzung durch mehrere Anstalten zusätzlich von Dritten gefördert worden sei, antwortete die LMA NRW:
„Die Entwicklung wurde nicht durch Dritte (öffentlich oder privat) gefördert. Die Kosten für die Anpassung von KIVI für eine föderal organisierte Nutzung betrugen 29.988 Euro brutto und wurden in Gänze von den Landesmedienanstalten bezahlt.“
Die Antwort scheint eindeutig, aber sie tut nichts, um die Verwunderung über die geringen Kosten zu verrringern. Deshalb fragt sich, ob die geringen Kosten damit zusammenhängen könnten, dass die Condat AG aus anderen Quellen sehr viel mehr öffentliches Geld zur Förderung der KI-Entwicklung bekam. Eine Datenbankrecherche ergab, dass die Condat AG im Juni 2021 einen Zuschuss von gut einer Million Euro aus dem Förderprogramm „Entwicklung digitaler Technologien“ erhielt. Das Programm wurde von der Deutschen Gesellschaft für Luft- und Raumfahrt (DLR) verwaltet. Im November 2024 bekam Condat von der DLR eine weitere knappe Million Euro für die Entwicklung digitaler Technologien bewilligt. Dabei war Condat Konsortialmitglied. Es macht deutlich, dass die Entwicklung digitaler Technologien in der Regel nicht für einen unteren sechsstelligen Betrag zu haben ist. Bei den beiden geförderten Programmen ResKriVer und Gen KI 4 Media, die nach Auskunft des Bundesforschungsministeriums mit diesen Zuschüssen an Condat gefördert wurden, gibt es — abgesehen davon, dass es um KI-Entwicklung geht — keinen direkten Zusammenhang mit KIVI.
Etwas anders stellt sich das bei einem weiteren Zuschuss im Oktober 2021 von gut einer halben Million Euro vom Bundesforschungsministerium aus dem Programm „Erforschung, Entwicklung und Nutzung von Methoden der Künstlichen Intelligenz in KMU“ dar. Der Zuschuss an Condat machte mehr als die Hälfte des im ersten Jahr des Programms ausgeschütteten Fördervolumens von 936.000 Euro aus. Das Bundesministerium für Forschung, Technologie und Raumfahrt antwortete auf meine Anfrage, ob diese Förderung von Condat in direktem oder indirektem Zusammenhang mit der Entwicklung von KIVI stand:
„Das damalige BMBF (Bundesministerium für Bildung und Forschung; N.H.) hat von 2021 bis 2024 im Rahmen der Richtlinie zur Förderung von Projekten zum Thema „Erforschung, Entwicklung und Nutzung von Methoden der Künstlichen Intelligenz in KMU“ (KI4KMU) das Verbundvorhaben FedXtract „Föderierte KI-Lösung zur Verarbeitung komplexer Dokumente“ der Firma Condat AG gefördert. In dem Projekt ging es um die Entwicklung eines Open-Source-Systems zum föderierten Lernen von KI-Modellen, insbesondere für die Dokumentenanalyse. Einen Zusammenhang der Projektarbeiten mit dem Projekt KIVI der Condat für die Landesanstalt für Medien NRW gibt es laut den vorliegenden Unterlagen nicht.“
Der Zusammenhang der Mittelvergabe (Oktober 2021) mit der Ausweitung der Nutzung von KIVI auf andere Landesmedienanstalten (November 2021) scheint nicht nur zeitlich eng. Condat weist in der Beschreibung des geförderten FedXtract-Projekts ausdrücklich als relevantes Know-how darauf hin, dass es „KI-Technologien zur Analyse und Verarbeitung von Text, Bild und Video sowie den dazugehörigen Metadaten bei Kunden wie rbb, ZDF, ARD digital, mdr, GVL und LFM (Landesanstalt für Medien NRW) im realen Betrieb“ einsetzt. Der Schwerpunkt von FedXtract auf „föderiertem Lernen“ und Dokumentenanalyse passt sehr gut auf die Beschreibung der gemeinsamen Nutzung von KIVI durch die Landesmedienanstalten. Ein relativ enger Zusammenhang mit KIVI dergestalt, dass sich die geförderte Entwicklungsarbeit für die Ausweitung von KIVI auf alle Landesmedienanstalten nutzen ließ, scheint daher gegeben zu sein.
Eine KIVI-Finanzierung mit Steuergeld erwähnte die Landesmedienanstalt NRW in Zusammenhang mit einer Ausweitung der Analyse auf Englisch und Arabisch Anfang 2025. Diese sei von der Staatskanzlei NRW finanziert worden.
Schlussfolgerung
Die Landesmedienanstalten haben einen allgemein gehaltenen Auftrag, auf die Einhaltung der Gesetze in den Internet-Medien zu achten. Sie haben keine konkrete Befugnis, dafür anlasslos und automatisiert die öffentliche Kommunikation aller Bürger und von Journalisten zu überwachen und sich dabei als Hilfspolizisten und Zuarbeiter der Strafverfolgungsbehörden zu betätigen. Sie tun es trotzdem. Eine wirklich staatsferne Anstalt betätigt sich nicht durch Überwachung der gesamten Bürgerkommunikation als Hilfspolizei, die mögliche Gesetzesverstöße sucht, vorprüft und an die Kriminalpolizei meldet. Tut sie es doch, auch noch mit Geld vom Staat — mindestens von der Staatskanzlei NRW, mutmaßlich indirekt auch von Bundesministerien — so ist das nicht mit der behaupteten Staatsferne vereinbar. Fehlende Staatsferne macht die Eingriffe in die Pressefreiheit von Publizisten und Journalisten durch die inhaltliche Aufsicht der Landesmedienanstalten über Internetmedien nach §19 Medienstaatsvertrag rechtlich noch fragwürdiger als sie ohnehin schon sind.
Wenn die Landesregierungen sich tatsächlich auf den Medienänderungsstaatsvertrag in derzeitiger Form einigen, der die bisher mutmaßlich rechtswidrige Praxis der Landesmedienanstalten legalisieren soll, so macht das den Skandal nicht kleiner. Denn verfassungsgemäß ist dieser Übergang zu einem Schnüffelstaat, der die gesamte öffentliche Kommunikation von pseudo-staatsfernen Behörden komplett überwachen lässt, auf keinen Fall.
Mehr
