Grok AI

Grok AI ist seit einigen Wochen vermehrt in den Schlagzeilen. Die künstliche Intelligenz, welche vor allem auf der Plattform X eingesetzt wird, bot Funktionen an, die von einigen Nutzenden zur Sexualisierung von Bildern missbraucht wurden. Wie sich die Lage zuletzt entwickelt hat und was der Einsatz dieser KI für Fachkräfte und Eltern bedeutet, soll in diesem Artikel beleuchtet werden. 

Was ist Grok?  

Grok wurde von xAI entwickelt und ist eng mit der Plattform X verknüpft, denn beide gehören dem Unternehmer Elon Musk. Der Name „Grok“ stammt aus dem amerikanischen Slang und bedeutet so viel wie „verstehen“ oder „begreifen“. Ursprünglich startete Grok als textbasierter KI-Chatbot auf X. Ende 2024 wurde das System um den Bildgenerator „Aurora“ erweitert. Zusätzlich ist der “Grok – KI Assistent” als eigenständige App im Play Store oder App Store erhältlich und kann unabhängig von X genutzt werden. Die KI kann unter anderem in Echtzeit auf öffentliche Beiträge auf X zurückgreifen. Ziel soll dabei sein, aktuelle „Informationen“ miteinzubeziehen, wenn Fragen der Nutzenden beantwortet werden. Auch die Option, lebende, prominente Personen zu erstellen, wie sie in den meisten der gängigen KI-Tools eingeschränkt ist, ist mit Grok AI möglich. 

Das ist passiert 

Bereits in der Vergangenheit ist der Chatbot durch problematische Aussagen und verzerrte Fakten aufgefallen. So wurden Grok AI unter anderem antisemitische Aussagen, verzerrte Fakten sowie eine Relativierung des Holocaust vorgeworfen. Auch eine auffällig kritische Haltung gegenüber etablierten Medien sorgte für Aufmerksamkeit.

Besonders Schlagzeilen machte in den letzten Wochen allerdings der Bildgenerator von Grok AI. Dieser ermöglichte es, auf X gepostete Bilder von realen Personen nachträglich zu bearbeiten. Folglich fingen zahlreiche Nutzende an, vor allem Bilder von Frauen zu bearbeiten. Hierbei wurden Prompts verwendet, um die Nutzerinnen freizügiger oder in sexuellen Posen darzustellen. Auch Bilder von Kindern wurden auf diese Weise manipuliert und sexualisiert.  

Reaktionen 

Die Vorfälle lösten international scharfe Kritik aus. Vielen galt insbesondere das Fehlen technischer Schutzmechanismen sowie die zögerliche Reaktion von Elon Musk und xAI als problematisch. In Malaysia und Indonesien wurde der Chatbot gesperrt, Großbritannien drohte mit einer Sperrung. Auch die EU forderte xAI zu umgehendem Handeln auf. Daraufhin schränkte der Kurznachrichtendienst X die Funktion der KI ein, sodass lediglich zahlende Nutzende Zugriff erhielten. Durch die separate Grok AI App war das Erstellen solcher Inhalte und anschließende Posten auf X weiterhin möglich.  

Nach erneuter Kritik hat das Unternehmen nun vor einigen Tagen reagiert und „technologische Maßnahmen“ eingeführt, welche die Bearbeitung von Bildern realer Personen mit leichter Bekleidung wie Bikinis unterbinden. Diese Beschränkungen gelten, laut X, sowohl für kostenlose als auch kostenpflichtige Accounts. Die grundsätzliche Funktion, KI-Bilder über Grok zu bearbeiten oder zu erstellen, sei künftig allein zahlenden X-Nutzenden vorbehalten.