Roblox: KI-basierte Altersverifizierung?

Das Online-Spiel Roblox, das besonders bei jüngeren Nutzer*innen sehr beliebt ist, hat kürzlich eine automatisierte Altersverifizierung eingeführt. Ziel der Maßnahme ist es, die Plattform für Kinder und Jugendliche sicherer zu gestalten. Im Fokus steht dabei vor allem die Chat-Funktion, die durch die Altersüberprüfung besser geschützt werden soll. 

Die Altersverifizierung wird verpflichtend, sobald Spieler*innen Chat-Funktionen nutzen möchten. Wer die Verifizierung ablehnt, kann Roblox weiterhin spielen, ist jedoch vom Chat ausgeschlossen. Zusätzlich sollen Nutzer*innen regelmäßigen Alters-Checks unterzogen werden. Das automatisierte Verfahren wurde zuvor bereits in den USA getestet und inzwischen auch in Europa eingeführt. 

So funktioniert die Verifikation 

Für die Altersverifizierung stehen zwei Optionen zur Verfügung. Nutzer*innen ab 13 Jahren können ihr Alter über ein Ausweisdokument bestätigen, das hochgeladen werden muss. Alternativ bietet Roblox eine KI-gestützte Alterseinschätzung über die Innenkamera an. Dabei wird ein kurzes Video aufgenommen, in dem Nutzer*innen den Kopf nach links und rechts drehen. Auf dieser Grundlage ordnet das System die Person einem Alters-Cluster zu. Die Alterscluster sind folgende: 

• Jünger als 9 Jahre 

• 9-12 Jahre 

• 13-15 Jahre 

• 16-17 Jahre 

• 18-20 Jahre 

• Ab 21 Jahre 

Chatfunktion 

Durch die Zuordnung in eine Altersgruppe wird festgelegt, wer Kontakt via Chat miteinander aufnehmen kann. Gechattet werden kann nur mit Personen aus benachbarten Altersgruppen. So dürfen etwa 16-Jährige mit 13-Jährigen chatten, nicht aber mit 11-Jährigen. Es sind jedoch Erweiterungen geplant, die es Kindern ermöglichen soll, mit Eltern oder Geschwistern aus anderen Altersgruppen zu kommunizieren. Für Nutzer*innen unter neun Jahren ist die Chatfunktion standardmäßig vollständig deaktiviert.  

Trusted Connection 

Eine besondere Rolle spielen die sogenannten „Trusted Connections“. Diese Funktion steht Nutzer*innen ab 13 Jahren offen, die eine Altersverifizierung abgeschlossen haben. Besteht eine Trusted Connection, ist auch der Chat mit Personen aus anderen Altersgruppen möglich. Zudem können Funktionen wie Party Voice, also Live-Sprachanrufe, genutzt werden. Für Trusted Connections greifen außerdem keine automatischen Wortfilter mehr, wodurch Schimpfwörter nicht zensiert werden. Nutzer*innen können darüber hinaus Informationen wie Alter und Land einsehen, die auf der Aktivität des Accounts basieren. 

Eine Trusted Connection kann auf zwei Wegen eingerichtet werden: Entweder bestätigen sich beide Kontakte gegenseitig oder sie scannen einen QR-Code, wenn sie sich persönlich begegnen. Altersverifizierte Kontakte aus der eigenen Freundesliste können entsprechende Anfragen senden. Ist eine Elternaufsicht eingerichtet, können Eltern einsehen, mit welchen Personen ihr Kind Trusted Connections eingegangen ist. 

Herausforderungen 

Besonders beim Thema Datenschutz wirft die KI-basierte Altersverifizierung Bedenken auf. Roblox gibt an, keinen Zugriff auf biometrische Daten zu erhalten. Das Unternehmen Persona, das die Altersverifizierung durchführt, speichert diese Daten laut eigenen Angaben für 30 Tage, bevor sie gelöscht werden. Gleichzeitig entsteht aber durch die Einschränkung zentraler Funktionen ohne Verifizierung ein gewisser Druck, sensible Daten weiterzugeben. 

Auch die Zuverlässigkeit der Alterseinschätzung wird kritisch diskutiert. In der Roblox-Community finden sich Berichte, wonach Jugendliche deutlich jünger oder älter eingestuft wurden, als sie tatsächlich sind. Da sich Kinder und Jugendliche individuell entwickeln, kann es zu Fehleinschätzungen kommen. Eine australische Studie zur KI-basierten Alterserkennung zeigt, dass 38 % der 13-Jährigen auf über 16 Jahre geschätzt wurden; bei den 14-Jährigen war es sogar mehr als die Hälfte. Zudem kursieren online Anleitungen, wie sich Nutzer*innen angeblich älter einstufen lassen können. Umgekehrt besteht zusätzlich die Gefahr, dass Erwachsene versuchen, sich als Kinder auszugeben, was Cybergrooming weiter vereinfacht.