Pornografie per Deepfake: So sind Google und Bing daran beteiligt
Deepfake-Pornos befinden sich laut dem Sender NBC problematisch oft und weit oben in den Suchmaschinen von Google und Bing. Doch es ginge anders.
Deepfakes lassen sich dank künstlicher Intelligenz relativ einfach erstellen. Als sei das nicht schon problematisch genug, können auch Google und Bing damit offensichtlich noch nicht besonders gut umgehen.
Sowohl Google als auch Microsofts Bing präsentieren Deepfake-Pornografie prominent in ihren Suchergebnissen. Das hat der US-amerikanische Fernsehsender NBC herausgefunden.
Dabei handelt es sich um künstlich generierte pornografische Bilder und Videos, bei denen das Gesicht einer Person ohne deren Einverständnis in explizite Szenen eingefügt wird.
Prominente Frauen im Fokus von Cyber-Missbrauch
NBC News entdeckte vor allem solche Deepfakes, die mit bekannten weiblichen Prominenten erzeugt und verbreitet wurden. Die Suche nach bestimmten Namen zusammen mit dem Wort «Deepfakes» lieferte sofort einschlägige Resultate.
Auch von Minderjährigen werden Deepfakes in der Trefferliste bei beiden Suchmaschinen angezeigt. Dabei versucht Google schon seit Jahren, das Problem unter Kontrolle zu bekommen.
Suchmaschinen unterstützen Verbreitung von Deepfakes
Eine Untersuchung von NBC News zeigt erschreckend deutlich: Bei 34 von 36 gesuchten weiblichen Prominenten tauchen auf Google ungewollt erstellte Porno-Deepfakes in den Top-Ergebnissen auf. Auf Bing sind es gar 35.
Die Suche nach «Fake Nudes» liefert bei Google sogar Links zu Apps und Programmen, die das Erstellen solcher Inhalte ermöglichen. Bing hingegen präsentiert bei der Suche nach «gefälschten Akten» Dutzende von Tools und Webseiten nicht einvernehmlicher Deepfakes noch vor auch nur einem Artikel, der über die Schäden dieses Phänomens aufklären würde.
Technologiegiganten müssen handeln
Trotz der zunehmenden Verbreitung dieser Form des Cyber-Missbrauchs scheinen Technologieunternehmen nur zögerlich Massnahmen zu dessen Eindämmung zu ergreifen. Experten kritisieren insbesondere Googles mangelndes proaktives Vorgehen gegen Missbrauchsfälle.
Zwar bietet Google Betroffenen an, die Entfernung solcher Inhalte aus den Suchergebnissen anzufordern. Doch eine aktive Suche und Löschen von Deepfakes findet nicht statt.
Der Schaden liegt somit weiterhin bei den Opfern selbst.
Alternativen sind keine Lösung
Aber auch alternative Suchmaschinen wie Microsofts Bing oder DuckDuckGo liefern Fake-Nude-Bilder prominenter Frauen in ihren Suchergebnissen. Selbst Fotos ehemaliger Disney-Teeniestars werden hier missbräuchlich verwendet.
Teilweise mit Bildmaterial, das vor deren Volljährigkeit aufgenommen wurde. Microsoft verweist ebenfalls auf ein Meldeformular für Opfer nicht einvernehmlicher intimer Bilder (NCII).
Im August 2023 stellte das Unternehmen dann klar, dass sexuell explizite Deepfakes unter seine NCII-Richtlinie fallen.
Die Verantwortung liegt bei den Unternehmen
Experten sind sich einig: Google und andere Suchmaschinen könnten Webseiten, die ungewollte Pornografie und Deepfakes verbreiten, aus ihren Suchergebnissen verbannen. Sie haben bereits in der Vergangenheit gezeigt, dass das in ihren Möglichkeiten liegt.
Die Frage ist also nicht, ob sie können – sondern ob die Unternehmen hinter den Suchmaschinen das auch wollen.
