ChatGPT

Mit rund 190 Millionen Nutzer*innen pro Tag ist ChatGPT der am häufigste genutzte Chatbot. Nicht nur Erwachsene nutzen das KI-Tool, auch Jugendliche greifen darauf zurück. So faszinierend die Nutzung des Chatbots sein kann, so bringt sie zugleich zahlreiche Herausforderungen mit sich. In diesem Artikel soll deshalb geklärt werden, worauf Eltern und pädagogische Fachkräfte achten sollten, wenn Jugendliche ChatGPT nutzen. 

Wie funktioniert Chat GPT? 

ChatGPT ist eine Weiterentwicklung klassischer Chatbots und wurde im November 2022 veröffentlicht. Die Anwendung basiert auf Künstlicher Intelligenz und nutzt sogenannte Deep-Learning-Methoden, um Sprache zu verarbeiten und zu erzeugen. Dafür wurde das System mit einer Datenbasis von rund 500 Milliarden Tokens (Wörter oder Wortteile) trainiert. Auf Grundlage statistischer Wahrscheinlichkeiten sagt ChatGPT dann voraus, welches Wort oder Zeichen als Nächstes folgt, und kann damit menschliche Sprache überzeugend imitieren. Es beantwortet mit diesem Prinzip nicht nur Fragen, sondern führt auch ganze Gespräche, in denen Informationen aus dem bisherigen Verlauf berücksichtigt werden. Außerdem kann das System falsche Angaben hinterfragen und unangemessene Aussagen ablehnen. Seit seiner Einführung wird ChatGPT kontinuierlich weiterentwickelt. Neben dem Verfassen von Texten kann die Anwendung heute auch Quellen aus dem Internet einbeziehen sowie Bilder und Grafiken durch die Eingabe eines Prompts erstellen.  

Anwendung 

ChatGPT wird inzwischen in vielen Bereichen eingesetzt, sowohl im beruflichen Kontext als auch im privaten Alltag. Menschen nutzen es als schnelles Nachschlagewerk, zur Inspiration oder sogar zur Unterstützung bei persönlichen Anliegen.  

Auch in Schulen findet die Technologie zunehmend Anwendung. Schüler*innen und Lehrkräfte greifen auf ChatGPT zurück, um mit Hilfe von Künstlicher Intelligenz Antworten in natürlicher Sprache zu erhalten. So können zum Beispiel Zusammenfassungen erstellt, Texte auf Rechtschreibung überprüft oder Inhalte übersetzt werden. Besonders bei Verständnisproblemen kann ChatGPT für Schüler*innen eine hilfreiche Ergänzung zur Fachkraft sein, da eigene Antworten überprüft oder alternative Erklärungen eingeholt werden können. OpenAI hat hierzu einen speziellen Modus eingeführt. Wird der Chatbot im Modus “Studieren und Lernen” genutzt, stellt der Chatbot gezielte Fragen, um das Wissen zu festigen, anstatt lediglich korrekte Antworten zu geben. Auch sollen laut OpenAI die Antworten, leichter verständlich und auf das Niveau des Lernenden zugeschnitten sein. Einige Schüler*innen setzen ChatGPT allerdings ein, um komplette Hausaufgaben erledigen zu lassen, was Lehrkräfte vor Schwierigkeiten stellt. 

Herausforderungen 

So hilfreich ChatGPT im Alltag und in der Schule sein kann, gibt es klare Grenzen, die bei der Verwendung beachtet werden sollten. So kann eine KI keine menschlichen Beziehungen ersetzen. Außerdem besitzt sie keine Emotionen, persönliche Erfahrungen und Empathie. Gerade diese Faktoren sind jedoch wichtig für die soziale Entwicklung von Kindern und Jugendlichen. Auch der Datenschutz ist ein sensibles Thema: Eingaben können gespeichert und gegebenenfalls an Dritte weitergegeben werden. Zudem sind die Algorithmen intransparent und die Antworten nicht immer zuverlässig. Ist die Internetfunktion deaktiviert, greift ChatGPT nur auf sein gespeichertes Trainingswissen zurück, das möglicherweise nicht auf dem aktuellsten Stand ist. Mit aktiver Internetsuche können zwar aktuelle Quellen einbezogen werden, doch deren Qualität und Richtigkeit wird nicht geprüft. Denn auch Blogbeiträge oder Forenposts können hierfür als Grundlage dienen. 

Besonders problematisch wird es, wenn Jugendliche ChatGPT bei sensiblen Themen nutzen. Laut einer Studie des Center for Countering Digital Hate liefert der Chatbot auch Ratschläge zu Selbstverletzung, Suizid, Essstörungen oder Drogen. Obwohl die meisten Informationen auch frei im Netz zugänglich sind, kann das durch ChatGPT entstehende Vertrauensverhältnis ihre Wirkung verstärken. Tragische Fälle – etwa der Suizid eines 16-Jährigen, der mit ChatGPT darüber sprach – zeigen, dass Schutzmechanismen umgangen werden können und der Einsatz von KI in solchen Krisensituationen erhebliche Gefahren birgt.  

ChatGPT und Jugendschutz 

Nach den kritischen Vorfällen hat OpenAI angekündigt, die Schutzmechanismen von ChatGPT auszubauen. Besonders sensible Gespräche beispielsweise zu Themen wie Suizid oder Essstörungen sollen künftig bevorzugt von dem neuesten Modell GPT-5 verarbeitet werden. Dieses ist speziell dafür ausgelegt, bedrohliche Situationen frühzeitig zu erkennen und angemessen zu reagieren. Zusätzlich will OpenAI Eltern-Kontrollen einführen. Damit können Eltern das Konto ihres Kindes mit dem eigenen Konto verknüpfen und so bestimmte Funktionen steuern. Beispielsweise kann die Filterung von sensiblen Inhalten aktiviert werden. Zudem können einige Funktionen wie Chatverlauf oder die Erinnerungsfunktion („memory“) deaktiviert werden. Eine weitere Funktion ist die automatische Benachrichtigung, wenn das System eine akute Belastungssituation erkennt. Auch eine zeitliche Einschränkung für die Nutzung von ChatGPT kann von den Eltern festgelegt werden.