Zum Hauptinhalt springen
Pressemitteilung

Medien-Staatsvertrag: GI und CGF sehen Nachbesserungsbedarf bei geplanter KI-Regulierung

Mit einem neuen Digitalen Medien-Staatsvertrag (DMStV) wollen die Bundesländer die Medienregulierung an aktuelle technologische und gesellschaftliche Entwicklungen anpassen. Die Gesellschaft für Informatik e.V. (GI) und das Common Grounds Forum (CGF) begrüßen das Vorhaben. In einer gemeinsamen Stellungnahme weisen sie jedoch auf technische Herausforderungen und Nachbesserungsbedarf bei der geplanten Regulierung von KI-Systemen hin.

Die zunehmende Verbreitung und Leistungsfähigkeit von KI-Systemen stellt die Medienregulierung vor neue Herausforderungen. Damit gesetzliche Vorgaben wirksam sind, müssen sie nicht nur rechtlich sinnvoll, sondern auch technisch umsetzbar und überprüfbar sein.

KI-Systeme können gezielt durch Desinformation beeinflusst werden

Ein Schwerpunkt der Stellungnahme ist das sogenannte LLM Grooming. Dabei werden große Mengen manipulierter Informationen im Internet verbreitet, um die Antworten von KI-Systemen gezielt zu beeinflussen. GI und CGF sprechen sich dafür aus, Anbieter stärker in die Pflicht zu nehmen, solche Manipulationsversuche zu erkennen und ihnen entgegenzuwirken. Dabei müssen auch die technischen Grenzen möglicher Gegenmaßnahmen berücksichtigt werden.

Prozentwerte schaffen keine verlässliche Sicherheit

Kritisch sehen GI und CGF auch die geplante Angabe von Wahrscheinlichkeitswerten für die Richtigkeit KI-generierter Nachrichten und politischer Informationen. Dafür fehlen bislang verlässliche technische Verfahren. Jonas Klein, Informatiker und Mitglied des Common Grounds Forums, betont: „Die Richtigkeit politischer Informationen lässt sich nicht einfach auf einen Prozentwert reduzieren.“ Stattdessen braucht es Transparenz über Quellen und bestehende Unsicherheiten.

Die Stellungnahme behandelt darüber hinaus Transparenzpflichten für KI-Anbieter, die Berücksichtigung journalistischer Inhalte in algorithmischen Empfehlungssystemen sowie Anforderungen an Betriebssysteme und Open-Source-Software.

Die gemeinsame Stellungnahme von GI und Common Grounds Forum zum Digitalen Medien-Staatsvertrag hier. 

GI und CGF fordern, dass sich aktuelle technologische und gesellschaftliche Entwicklungen auch in einem Digitalen Medien-Staatsvertrag wiederspiegeln müssen. © Mike Auerbach