AI Grok: sexualisierte KI-Darstellungen von Frauen und Kindern verbieten!
"Das ist keine Technologie. Das ist digitale sexualisierte Gewalt."
Nadine Primo und Nala Wahle
PRESSESTATEMENT
Dass auf der Plattform X mithilfe des KI-Systems Grok Bilder erzeugt werden können, die Frauen sexualisieren und Kinder in sexualisierter Weise darstellen oder sogar „entkleiden“, ist ein schwerwiegender Skandal. Diese Inhalte entstehen nicht zufällig, sondern auf gezielte Aufforderung von Nutzer:innen – ermöglicht durch offenkundig unzureichende Schutzmechanismen des Systems und der Plattform. Eine Bezahlschranke ist kein Schutz, sondern Teil eines Geschäftsmodells, das digitale sexualisierte Gewalt billigend in Kauf nimmt. Mehr noch: das Deepfake Future wird unter anderem auf YouTube beworben!
Es handelt sich hierbei nicht um harmlose Technikspielereien, sondern um eine neue Dimension digitaler Gewalt. KI-generierte sexualisierte Darstellungen verletzen die Menschenwürde, normalisieren Übergriffe und schaffen einen Raum, in dem insbesondere Kinder und Frauen erneut zu Objekten gemacht werden. Dass solche Inhalte trotz klarer europäischer Rechtslage möglich sind, ist ein beispielhaftes Versagen von Regulierung; ein Vollzugsdefizit.
Die Bundesregierung ist nicht nur befugt, sondern verpflichtet zu handeln. Wir fordern ein ausdrückliches Verbot sexualisierter KI-Darstellungen von realen oder realistisch wirkenden Frauen und insbesondere Kindern, die konsequente Haftung von Plattformen und KI-Anbietern, wirksame Sanktionen bis hin zur Abschaltung entsprechender Funktionen sowie klare rechtliche Konsequenzen für Nutzer:innen, die solche Inhalte erzeugen oder verbreiten.
Digitale Gewalt ist reale Gewalt. Der Schutz von Kindern, Frauen und der Menschenwürde darf nicht am Profitinteresse eines Tech-Konzerns scheitern. Jetzt ist der Staat in der Pflicht, geltendes Recht durchzusetzen und Menschen vor technologischer Ausbeutung zu schützen.
Über uns
Wir sind Frauen, die sich entschieden haben zu handeln, weil die Regierung es nicht tut.
Nala Wahle arbeitet als Beraterin einer Bundestagsabgeordneten im Deutschen Bundestag und ist Aktivistin. Als Betroffene von Menschenhandel, sexualisierter Gewalt sowie digitaler Gewalt in Form von Bedrohungen und der Verbreitung von Nacktbildern weiß sie aus eigener Erfahrung, welche realen Gefahren von digitalen Plattformen ausgehen können. Plattformen wie X (ehemals Twitter) bieten durch fehlende Regulierung, mangelhafte Moderation und den Einsatz von Künstlicher Intelligenz neue Werkzeuge für Täter, um Gewalt auszuüben, zu normalisieren und zu verbreiten. Für Nala ist klar: Frauen, Kinder und alle Menschen müssen wirksam vor digitaler Gewalt, KI-Missbrauch und deren Instrumentalisierung geschützt werden. Wegsehen ist keine Option, politisches Handeln ist Pflicht.
Als selbstständige Autorin und Speaker habe ich, Nadine Primo, die letzten Jahre viel über weibliche Selbstbestimmtheit, anhaltende diskriminierende Strukturen im Patriarchat und Gewaltschutz von Frauen geschrieben/gesprochen. Dass das offline und online mit vielen Anfeindungen, Drohungen und Hass verbunden ist, weiß jede Frau, die sich öffentlich äußert und Missstände anprangert. Als Betroffene von Partnerschaftsgewalt und sexuellen Übergriffen ist es mir ein besonders wichtiges Anliegen, gegen Frauenhass im Netz vorzugehen. Die Plattform X ist mittlerweile ein Netzwerk, dass von rechts sowie rechtsextremen Narrativen dominiert wird. Zensur? Fehlanzeige! Sexistische, antisemitische und rassistische Kommentare werden bestens ausgespielt, befeuert durch rechte Trolle. Die AI Grok geht noch einen Schritt weiter und erleichtert Nutzer:innen Deepfakes von Frauen und sogar Kindern (!) herzustellen. Das ist eine reale Bedrohung, der fortan potenziell alle Frauen und Kinder ausgesetzt sind. Ich fordere die Verantwortlichen in der Bundesregierung auf, es Indonesien und Malaysia gleichzutun und GROK in Deutschland zu verbieten. Moralisch-ethische, aber vor allem rechtliche Standards sollten auch für Elon Musk und seine Plattform gelten!
ZUM UNTERSCHREIBEN UND TEILEN DER PETITION GEHT ES HIER.