Die Klage der Stadt San Francisco richtet sich gegen 16 der meistbesuchten Plattformen, die Nackt-Deepfakes oder Deepfake-Pornos anbieten und einem Bericht von The Verge zufolge allein in der ersten Hälfte des Jahres 2024 über 200 Millionen Besucher verzeichneten.

Der Staatsanwalt von San Francisco, David Chiu, kündigte die Klage an, die darauf abzielt, die Erstellung von Nackt-Deepfakes zu bekämpfen. Die betreffenden Webseiten ermöglichen es Nutzern, Fotos von vollständig bekleideten Personen hochzuladen und dann mithilfe von KI-Algorithmen Nacktbilder oder Pornoszenen zu erstellen.

In der Klage werden Verstöße gegen staatliche und bundesstaatliche Gesetze geltend gemacht, die Rachepornografie, Deepfake-Pornografie und Kinderpornografie verbieten.

Besorgnis über KI-generierte explizite Inhalte

Die Klage wurde vor dem Hintergrund zunehmender Besorgnis über die Verbreitung von Fake-Nacktbildern eingereicht, die durch die Fortschritte in der generativen KI-Technologie erheblich erleichtert wird.

Vorfälle, die auch Prominente wie Taylor Swift betrafen, die mit sexuell eindeutigen Deepfakes ins Visier genommen wurden, rückten dieses Thema ins Rampenlicht. Das Problem geht allerdings über Personen des öffentlichen Lebens hinaus. Dem Bericht nach gibt es Schulkinder, die mit einem Schulverweis rechnen müssen, weil sie KI-generierte Nacktfotos ihrer Klassenkameraden in Umlauf gebracht haben.

Die Klage zielt nicht nur auf zivilrechtliche Strafen ab, sondern auch darauf, die Webseiten dauerhaft zu schließen und ihre Betreiber daran zu hindern, in Zukunft Angebote dieser Art bereitzustellen.

Staatsanwalt Chiu äußerte sich besorgt über die Ergebnisse der Untersuchung und bezeichnete den ausbeuterischen Charakter dieser Webseiten als "schrecklich" für die betroffenen Frauen und Mädchen. Er betonte, dass dieses vielschichtige Problem dringend auf gesellschaftlicher Ebene angegangen werden müsse.