Um den Jahreswechsel startete auf X ein besorgniserregender Trend. Immer mehr User forderten die plattformeigene KI Grok dazu auf, auf Fotos abgebildete Frauen in Bikinis zu generieren. Und der Bot von Elon Musks Gnade tat das äussert fleissig.
Völlig zu recht war der Aufschrei gross, als in mehreren Fällen Bilder von Minderjährigen bearbeitet wurden. Gewohnt impulsiv verteidigte Musk den Vorgang mit der in diesem Kontext überstrapazierten Meinungsfreiheit. Gleichzeitig nahm der Druck zu. Selbst der amerikanische Vizepräsident J.D. Vance äusserte sich kritisch.
Mittlerweile soll Grok keine sexualisierten Bilder mehr produzieren. Zumindest auf x.com scheint das der Fall zu sein. Doch in der App funktioniert das noch immer. Der Druck steigt indes weiter. Neben scharfen Worten aus verschiedenen Regierungen fordern zahlreiche Organisationen, dass die App aus dem Apple- und dem Google Play Store entfernt werden.
Die Herausforderung ist nicht auf X beschränkt
Ein Kurztest des Autors macht klar: in der Grok App greifen die Filter nicht. Und auch auf anderen Plattformen gibt es problematische Entwicklungen. Nano Banana von Google verändert keine echten Fotos. Über das Tool lassen sich aber relativ einfach etwa Strandbilder generieren, die durchaus kritisch betrachten werden können.
Neben den beschriebenen Punkten sollte auch das eigene Bild nicht verhandelbar sein. Zeit zu (re)agieren:
- Selbstregulierung funktioniert bei den grossen Plattformen nicht. Höchste Zeit, dass die Regulierung von aussen kommt.
- Als Unternehmen sind wir angehalten verantwortungsvoll mit KI-Tools umzugehen.
- Was eine Plattform macht, kann auch auf Unternehmen abfärben. Gerade im Fall von X ist eine generelle Abkehr – sofern noch nicht geschehen – zu prüfen.
Titelfoto von Vadim Bogulov auf Unsplash