Messenger mit Pflicht zur KI-Analyse: EU will Gesetz verabschieden (AKTUALISIERUNG: abgelehnt)
Knapp drei Jahre sind vergangen, seitdem Apple mit der Ankündigung, Bildmaterial in iOS vor dem Upload in iCloud oder iMessage auf CSAM-Material zu überprüfen, einen Sturm der Entrüstung auslöste. Nach umfangreicher Kritik von Anwendern, Forschern und Interessenvertretern ruderte Apple zurück. Die EU-Kommission setzt auf dasselbe Prinzip, geht aber noch einen Schritt weiter: Anstatt eines Abgleichs mit bekannten Medien aus einer Datenbank setzt das Chatkontrolle-Gesetz auf KI, um kinderpornografisches Material automatisch zu erkennen. Diese Woche noch will der EU-Innenausschuss über eine novellierte Fassung der Verordnung abstimmen.
Aktualisierung 20.06.2024: Nachdem die belgische Ratspräsidentschaft in einer Probeabstimmung keine ausreichende Unterstützung für ihren Vorschlag bekam, wurde das Thema auf unbestimmte Zeit vertagt. Die Bundesregierung hatte gestern Abend signalisiert, dass sie gegen den Vorschlag stimmen werde.
Aktuell dreht sich die Diskussion um den Kompromissvorschlag der belgischen Ratspräsidentschaft, den Netzpolitik.org
veröffentlicht und zusammengefasst hat. Die Kernaspekte der Überarbeitung: Dienste, die besonders viel Wert auf Anonymität und Verschlüsselung legen, müssen zukünftig Bilder, Videos und URLs vor dem Versenden automatisiert analysieren. Die Ende-zu-Ende-Verschlüsselung bleibe intakt, das „Client Side Scanning“ wird in „Upload Moderation“ umbenannt. Transparenz entstehe dadurch, dass Anwender dem Scan zustimmen müssen, ansonsten bleibe ihnen der Medien-Upload verwehrt. Außerdem neu in der überarbeiteten Fassung: Audiomaterial und Texte sollen keiner KI-gestützten Analyse unterzogen werden.
Kritik von mehreren SeitenEin
offener Brief von 36 Politikerinnen und Politikern (größtenteils aus den Fraktionen der Grüne) sehen in dem Gesetzesentwurf eine „Architektur, die in der Lage ist, jegliche Möglichkeit der privaten digitalen Kommunikation zu unterminieren“. Der Branchenverband der Internetwirtschaft (
eco) bewertet die vorgeschaltete Zustimmungsabfrage als faktisch erzwungen und hält es für technisch unmöglich, hochgeladene Medien „zu scannen, ohne die Verschlüsselung generell zu schwächen.“ Dienste wie Signal und Threema, die maßgeblich von dem Gesetz betroffen wären, drohen mit einem Rückzug aus der EU. Ein Kommentar auf Netzpolitik.org verurteilt die Chatkontrolle als „
Überwachungsstaat pur“.
Unrühmliche VorgeschichteDie „Verordnung zur Festlegung von Vorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern“, wie das Chatkontrolle-Gesetz offiziell heißt, wird von der Kommissionspräsidentin Ursula von der Leyen und der Innenkommissarin Ylva Johansson vorangetrieben. Im September 2023 veröffentlichte ein internationales Rechercheteam, wie intensiv die beiden mit Lobbyvertretern amerikanischer IT-Überwachungsunternehmen
zusammengearbeitet haben. Johansson lancierte zudem zielgruppenorientierte Werbekampagnen, die mit dem EU-eigenen Digitale-Dienste-Gesetz unvereinbar waren.