In seinem*ihrem neuen Text schreibt sabylonica über digitale Selbstbestimmung, Sexualität, Rassismus und die Frage, wem unser Gesicht und unser Körper eigentlich gehören.
Manchmal denke ich darüber nach, wie wenig es eigentlich braucht, damit ein Bild von mir plötzlich nicht mehr mir gehört. Ein Foto, das irgendwo öffentlich ist. Ein Bild von meinem Gesicht. Vielleicht ein Video. Und dann eine künstliche Intelligenz, die daraus etwas macht, dem ich niemals zugestimmt habe. Ich selbst bin bisher nicht Opfer eines sexualisierten Deepfakes geworden. Trotzdem macht mir der Gedanke daran Angst. Nicht nur, weil mein Körper oder mein Gesicht plötzlich für etwas Sexualisiertes benutzt werden könnte, sondern weil ich als queere, nicht-binäre und rassifizierte Person noch eine andere Ebene von Kontrollverlust kenne: die Angst davor, dass etwas über mich sichtbar wird, das ich selbst vielleicht noch gar nicht mit allen Menschen teilen wollte.
Die Technologie ist neu, die Gewalt nicht
Deepfakes wirken auf den ersten Blick wie ein technologisches Problem. KI kann mittlerweile Gesichter verändern, Stimmen imitieren und Menschen in Situationen darstellen, in denen sie nie waren. Aber eigentlich geht es um etwas sehr Altes. Um Macht über andere Menschen und um die Frage, wer über den Körper eines Menschen bestimmen darf. Die Technologie ist neu, die Gewalt dahinter nicht.
Besonders häufig werden Frauen sexualisiert dargestellt. Sexualisierte Deepfakes treffen aber auch queere Menschen und andere Personen, deren Körper oder Sexualität gesellschaftlich ohnehin stärker bewertet, kontrolliert oder exotisiert werden. Dabei ist auffällig, dass die Betroffenen nicht gefragt werden. Ihr Gesicht wird genommen, ihr Körper wird digital verändert und anschließend wird eine Sexualität konstruiert, die vielleicht überhaupt nicht mit ihnen zu tun hat. Aus einem Menschen wird eine Projektionsfläche.
Dabei frage ich mich auch, warum gerade Sexualität so häufig zum Mittel dieser Form digitaler Gewalt wird. Vielleicht liegt ein Teil der Antwort darin, dass Sexualität noch immer mit Scham verbunden ist. Ein sexualisiertes Bild kann nicht nur verletzen, sondern jemanden gesellschaftlich bloßstellen. Es kann Beziehungen zerstören, Arbeitsplätze gefährden oder Menschen in Situationen bringen, in denen sie sich plötzlich rechtfertigen müssen für etwas, das sie nie getan haben.
Wenn Sichtbarkeit nicht selbstbestimmt ist
Für mich bekommt diese Frage noch eine weitere Dimension. Als queere Person bedeutet Sichtbarkeit nicht automatisch Freiheit. Sichtbar zu sein kann befreiend sein, wenn ich selbst entscheide, wem ich etwas über mich erzähle. Es kann aber auch gefährlich oder zumindest schmerzhaft sein, wenn andere diese Entscheidung für mich treffen. Ich habe beispielsweise keine Erfahrung damit, dass ein sexualisierter Deepfake von mir verbreitet wurde. Trotzdem kenne ich die Vorstellung, dass meine Familie etwas über meine Sexualität oder mein Queersein erfahren könnte, bevor ich selbst bereit dazu bin.
Genau deshalb finde ich den Gedanken an Deepfakes so beunruhigend. Wenn jemand mein Gesicht auf einem sexualisierten Körper setzen würde und dieses Bild anschließend irgendwo verbreitet würde, könnte ich nicht kontrollieren, wer es sieht. Vielleicht würde jemand aus meinem Umfeld es bekommen. Vielleicht würde es bei meiner Familie landen. Und selbst wenn sie irgendwann verstehen würden, dass es sich um ein KI-generiertes Bild handelt, könnte der Schaden längst entstanden sein. Denn das Bild würde trotzdem existieren. Und plötzlich müsste ich erklären, dass es nicht echt ist, obwohl ich eigentlich gar nichts erklären müsste.
KI ist nicht frei von Vorurteilen
Als PoC kommt für mich noch hinzu, dass Körper und Sexualität nicht unabhängig von rassistischen Vorstellungen betrachtet werden können. Bestimmte Körper werden sexualisiert, exotisiert oder stereotyp dargestellt. KI entsteht schließlich nicht im luftleeren Raum. Sie lernt aus vorhandenen Bildern und gesellschaftlichen Vorstellungen. Wenn diese Vorstellungen rassistisch, sexistisch, queerfeindlich oder ableistisch geprägt sind, können sie sich auch in den Bildern widerspiegeln, die KI produziert. Technologie kann gesellschaftliche Machtverhältnisse deshalb nicht einfach wegzaubern. Manchmal reproduziert sie sie sogar in einer neuen Form.
Nicht nur fragen, was KI kann
Deshalb ist die Frage, wer wird sexualisiert und warum, für mich wichtiger als die Frage, ob Deepfakes technisch beeindruckend sind. Wir sollten nicht nur darüber sprechen, was KI inzwischen kann. Wir müssen darüber sprechen, was Menschen anderen Menschen damit antun können und warum manche Körper besonders häufig zum Ziel werden.
Für mich bedeutet digitale Selbstbestimmung deshalb auch, dass ich selbst entscheiden möchte, wie ich sichtbar bin, wann ich sichtbar bin und wem gegenüber. Mein Gesicht, mein Körper und meine Sexualität sind keine frei verfügbaren Rohdaten. Und nur weil eine Technologie etwas möglich macht, bedeutet das nicht, dass wir das Recht haben, es mit anderen Menschen zu tun.
Zustimmung, Macht und Gewalt
Vielleicht ist genau das der Punkt, an dem wir über Deepfakes nicht mehr nur als technologische Entwicklung sprechen sollten. Sondern als eine Frage von Zustimmung, Macht und Gewalt. Denn hinter jedem vermeintlich „künstlichen“ Bild steht am Ende ein echter Mensch, der mit den Folgen leben muss.
Wenn du online Gewalt erlebst, musst du da nicht allein durch. Hateaid.org unterstützt Betroffene unter anderem mit Beratung und rechtlicher Hilfe.
