Safer Internet Day 2026: KI & Me
Am diesjährigen Safer Internet Day, der unter dem Motto „KI & Me“ steht, nimmt das webhelm-Team ein Phänomen in den Blick, das zuletzt vermehrt in den Fokus der Öffentlichkeit gerückt ist. Die Generierung sexualisierter Inhalte ist mithilfe sogenannter, KI-basierter Deepfake-Technologien leicht zugänglich und ohne größere Vorkenntnisse möglich. Gesichter realer Personen lassen sich so in Fotos und Videos einfügen. Da dies in den aller meisten Fällen ohne die Zustimmung der abgebildeten Personen erfolgt, bezeichnet man die Erstellung und Verbreitung dieser Inhalte als Image-Based Sexual Abuse. Besonders häufig sind hiervon (prominente) Frauen betroffen. Existierende Bilder werden entweder bearbeitet, um sie freizügiger zu gestalten oder die Gesichter der Frauen werden in sexualisierte bzw. pornographische Kontexte eingebaut. Da der Bildgenerator des Chatbots Grok AI die Erstellung solcher Inhalte und sogar deren einfache Veröffentlichung auf der Plattform X ermöglichte, stand das KI-Modell zuletzt vermehrt in den Schlagzeilen. Grok AI wurde von dem Unternehmen xAI entwickelt und ist mit der Plattform X verknüpft, lässt sich aber auch als eigenständige App nutzen. Während viele generative KI-Modelle Anfragen zur Darstellung prominenter Personen oder zur Erstellung sexualisierter Inhalte blockieren, war dies bis vor kurzem mit Grok AI möglich. So missbrauchten manche Nutzende den Bildgenerator zur Sexualisierung von geposteten Bildern. Auch Minderjährige waren davon betroffen. Nach einer Welle öffentlicher Kritik unter anderem von Seiten der EU, wurden bei Grok AI mittlerweile Sperren eingerichtet, welche die Sexualisierung von realen Personen blockieren. Der Chatbot war bereits zuvor immer wieder durch die Ausgabe politisch extremer oder antisemitischer Textantworten aufgefallen.
Das Beispiel von Grok AI zeigt, dass mangelnde Regulierung von KI-basierten Technologien, schwerwiegende Konsequenzen haben kann und eine Vielzahl von Herausforderungen – gerade auch für Jugendliche – birgt. Jugendliche sollten deshalb für einen verantwortungsvollen Umgang mit Künstlicher Intelligenz und die Wahrung ethischer Grenzen sensibilisiert werden. Ein offener Austausch mit Fachkräften und Eltern ist notwendig, um ein kritisches Bewusstsein zu entwickeln – nicht zuletzt für den Schutz der eigenen Bilder, Privatsphäre und Persönlichkeitsrechte. Auch bei solch herausfordernden Themen gilt: Begleiten statt verbieten! Echtes Interesse an den Erfahrungen der Jugendlichen, stärkt ihre Medienkompetenz und die Fähigkeit zum Selbstschutz.
