Der EU AI Act: Gesetzliche Regeln für den Einsatz von KI

Zur Bildgenerierung, als Übersetzer, als Telefonassistent beim Anruf bei Behörden oder in Form eines Kund*innenservice-Chatbots, ob privat oder im beruflichen Kontext: KI-Tools sind für viele Menschen heutzutage Teil des Alltags.

Mit dem AI Act hat die Europäische Union erstmals ein umfassendes Gesetz verabschiedet, das den Einsatz Künstlicher Intelligenz regeln soll. Zum 02. August 2026 treten weitere Regelungen in Kraft.

Was ist der EU AI Act?

Der AI Act (dt. KI-Verordnung, kurz: KI-VO) wurde am 21. Mai 2024 vom europäischen Rat verabschiedet, ist am 01.08.2024 in Kraft getreten und wird seitdem schrittweise umgesetzt. Er schafft einen einheitlichen Rechtsrahmen für den Einsatz von KI innerhalb der Europäischen Union. Ziel dessen ist der Schutz der Grundrechte europäischer Bürger*innen und gleichzeitig soll die Entwicklung und Nutzung vertrauenswürdiger KI gefördert werden.

Die gesetzlich festgelegten Regelungen richten sich dabei vor allem an Entwickler*innen und Anbieter*innen, beispielsweise Organisationen, die KI-Systeme bereitstellen oder beruflich nutzen. Für private Endnutzer*innen ergeben sich dagegen keine unmittelbaren gesetzlichen Vorgaben.

Risikobasierter Ansatz

Der AI Act unterscheidet KI-Systeme entsprechend ihrem potenziellen Risiko. Dabei gilt: je größer die potenziellen Auswirkungen, desto strenger die Vorgaben.

Zur Einordnung wurden vier Risikoklassen festgelegt: 1. Verbotene Anwendungen, 2. Anwendungen mit hohem Risiko, 3. Anwendungen mit begrenztem Risiko und 4. Anwendungen mit geringem Risiko.

KI-Systeme mit geringem Risiko, beispielsweise Spamfilter, unterliegen kaum Regulierung. Chatbots oder KI-generierte Inhalte, zu denen beispielsweise Deepfakes gehören, und die als Anwendungen mit begrenztem Risiko eingeschätzt werden, unterliegen Transparenzpflichten. Das bedeutet, dass für Nutzende kenntlich gemacht werden muss, wenn sie mit einer KI interagieren oder Inhalte konsumieren, die künstlich erstellt wurden. Besonders strenge Auflagen gelten für sogenannte Hochrisiko-KI. Dazu gehören beispielsweise Anwendungen, die im Bildungs- oder Gesundheitsbereich eingesetzt werden. Dies umfasst KI-Systeme, die über die Zulassung zu Bildungseinrichtungen entscheiden oder Prüfungsleistungen bewerten. Dementgegen fällt der Einsatz von KI als Unterstützung im pädagogischen Alltag jedoch nicht grundsätzlich in diese Kategorie.

Das Risiko von KI-Anwendungen, die zu manipulativen oder diskriminierenden Zwecken genutzt werden können, werden als inakzeptables Risiko eingestuft und sind daher verboten.

Schrittweise Umsetzung

Die KI-Verordnung wird seit ihrem Inkrafttreten im August 2024 schrittweise umgesetzt. Bereits seit Februar 2025 gelten Verbote für Anwendungen der höchsten Risikostufe (1). Darüber hinaus wurden letztes Jahr Fristen für die Organisation des weiteren Vorgehens bestimmt, beispielsweise die nationale Ernennung zuständiger Behörden für die Durchsetzung der Regularien und Sanktionierung von Verstößen. Am 2. August 2026 sollen nun Vorschriften für KI-Anwendungen der Risikostufen 2-4 (hoch, begrenzt, gering) Inkrafttreten.

Bedeutung für den Alltag

Für Privatpersonen wird sich durch die KI-VO zunächst wenig ändern, da die Regelungen sich hauptsächlich an Unternehmen und Organisationen richten, die KI-Tools entwickeln oder beruflich einsetzen. Langfristig soll der AI Act jedoch dazu beitragen, dass KI-Entwicklungen transparenter gestalten werden und besonders risikoreiche Systeme strengeren Auflagen unterliegen.

Die Transparenzpflichten gelten jedoch nicht automatisch für alle KI-generierten Inhalte. Das Gesetz verpflichtet lediglich Akteure, die KI-Systeme bereitstellen und verbreiten, oder zu professionellen Zwecken einsetzen. Wer KI-Systeme privat nutzt und Inhalte für persönliche Zwecke erstellt, fällt grundsätzlich nicht unter diese Kennzeichnungspflichten. Dadurch können beispielsweise KI-generierte Bilder oder Videos verbreitet werden, ohne dass diese eindeutig als künstlich erstellt gekennzeichnet sind.