„Rund um die Uhr“: Mobbing in Schulen erreicht durch KI-Nacktbilder neues Level
Mit Hilfe von künstlicher Intelligenz erzeugen Schüler die sogenannten „Deepnudes“. Ein Verein mahnt, dass dies „schlimme Folgen“ für die Opfer nach sich ziehen kann.
Hinweis: Dieser Artikel thematisiert sexualisierte Gewalt an Kindern, Mobbing, psychische Krankheiten und Suizid.
Einfach das Foto einer Person hochladen und zack, sieht es aus, als hätte sie keine Kleider an. Online tummeln sich eine Menge Programme, mit denen es möglich ist, Nacktbilder zu erstellen. Das funktioniert mit Künstlicher Intelligenz (KI). Besonders für Kinder und Jugendliche werden die sogenannten „Deepnudes“ zu einer Gefahr.
An Schulen verbreiten sich immer mehr KI-Nacktbilder
Zum Problem wird es nicht nur, wenn erwachsene Straftäter die Deepnudes erstellen: 2023 ging ein Fall aus Spanien durch die Medien, bei dem an einer Schule KI-generierte Nacktbilder von 20 Mädchen kursierten, teilweise jünger als 14 Jahre. Die Täter sollen sich dafür Fotos von den Instagram-Accounts der Betroffenen heruntergeladen haben. Später sollen die erstellten Nacktbilder in WhatsApp-Gruppen verteilt worden sein.
Auch an deutschen Schulen stellen KI-generierte Nacktbilder nach Angaben von Zeichen gegen Mobbing ein „wachsendes Risiko“ dar. Dem Verein, der von Mobbing betroffenen Kindern und Eltern hilft, sind mehrere Fälle bekannt. Betroffen seien neben weiblichen auch männliche Schüler (bei ihnen geht es um Bilder von Geschlechtsteilen). „Auf TikTok oder WhatsApp finden Angriffe ein großes Publikum, sie können anonym und rund um die Uhr erfolgen“, teilt Sprecherin Dana Hansel BuzzFeed News Deutschland von IPPEN.MEDIA mit.
Jugendschutz.net bearbeitete 2023 7.645 Fälle von Gewalt gegen Kinder und Jugendliche im Netz. Davon sind zwei Drittel sexualisierter Gewalt zuzuordnen. Bei zwölf Prozent handelt es sich um die Verbreitung von Sex oder Pornografie, also auch Nacktbilder. Das zeigt der Jahresbericht 2023, den das Kompetenzzentrum von Bund und Ländern, das sich gegen Gewalt an Jugendlichen im Netz einsetzt, am 28. August vorgestellt hat.
Deepnudes zeigen einen unnatürlichen Körper
Auch schon vor der Möglichkeit mit Künstlicher Intelligenz kam es vor, dass Nacktbilder an Schulen verbreitet wurden. Nur, war es schwieriger, an solche Fotos zu kommen. Und: Die Fotos zeigten den realen Körper der Betroffenen.
BuzzFeed News Deutschland hat mehrere KI-Programme mit neutralen Gemälden von Erwachsenen ausprobiert, zum Beispiel DaVincis Mona Lisa. In allen Fällen erstellt die KI einen unnatürlichen Körper: Übertrieben große Brüste, eine extrem dünne Taille. Ähnlich, wie ein Beauty-Filter auf Instagram. Vermutlich sind es unter anderem solche Bilder, die Schüler in der Klasse herumzeigen.
Mobbing mit KI-Nacktbildern kann Folgen für die Gesundheit haben
KI-generierte Nacktbilder können Mobbing „rapide beschleunigen“, sagt Hansel. „Der Alltag vieler Betroffenen ist eine endlose Folge von Herabwürdigung, Kränkung und Ausgrenzung“. Für die Kinder und Jugendliche kann das „schlimme Folgen“ haben, wie Erfahrungen des Vereins zeigen.
Typisch sei, dass Betroffene Selbstzweifel entwickeln, heißt es vom Verein. „Wenn Bilder verbreitet werden, geht die Unwissenheit einher, welche Mitschülerinnen und Mitschüler sie gesehen haben. Schnell wird es leichter, sich zu isolieren, statt sich den Angriffen der anderen auszusetzen“, sagt die Sprecherin. Die Kinder und Jugendlichen ziehen sich zurück.
Die Folgen können laut dem Verein Fehlzeiten in der Schule sein. Schulische Leistungen können nachlassen und die Gesundheit der Betroffenen leiden. Zum Beispiel könne es zu Schlafstörungen, psychosomatische Beschwerden, sowie Depressionen kommen. Auch Suizidgedanken können auftreten.
Meine news
Lisa Paus nimmt Plattform-Anbieter in die Pflicht
Zeichen gegen Mobbing fordert verpflichtende Fortbildungen für Lehrkräfte über die Gefahren von Künstlicher Intelligenz. Auch soll es mehr Informationsveranstaltungen dazu für Schüler und Eltern geben. „Zur Durchführung fehlen vielen Schulen sowohl Gelder zur Zusammenarbeit mit externen Hilfesystemen als auch Schulpsychologen und Schulsozialarbeiterinnen“, teilt der Verein BuzzFeed News Deutschland mit.
Die Bundesjugendministerin Lisa Paus sieht die Plattform-Anbieter in der Pflicht. Im Hinblick auf den Bericht von Jugendschutz.net weist sie darauf hin, dass es seit 2022 den Digital Services Act in Europa gibt. Demnach sind Anbieter von Online-Plattformen dazu verpflichtet, Minderjährigen den Zugang zu problematischen Inhalten zu verweigern. „Diese Regeln müssen jetzt konsequent umgesetzt werden“, so Paus.