Regeln für Künstliche Intelligenz: Neue EU-Verordnung in Kraft

Als weltweit erste umfassende Regelung auf diesem Gebiet soll sie sicherstellen, dass KI-Anwendungen in der EU verlässlich sind und die Grundrechte der Menschen schützen. Die Verordnung zielt darauf ab, einen einheitlichen Binnenmarkt für KI zu schaffen und dadurch Innovationen und Investitionen zu fördern.

Im Mittelpunkt der Verordnung steht eine Definition von KI, die sich an Produktsicherheit und einem risikobasierten Ansatz orientiert. Dabei werden unterschiedliche Risikostufen für KI-Systeme festgelegt, die mit entsprechenden Vorschriften einhergehen. Systeme mit geringem Risiko, wie beispielsweise Empfehlungssysteme oder Spamfilter, werden als unbedenklich eingestuft und müssen keine speziellen Anforderungen erfüllen.

Transparenzpflichten gelten für Systeme wie Chatbots, die Nutzer darüber informieren müssen, dass sie mit einer Maschine kommunizieren. KI-generierte Inhalte, wie etwa Deepfakes, müssen eindeutig als solche gekennzeichnet sein, um Täuschung zu verhindern. Auch sollen synthetische Inhalte maschinenlesbar als künstlich erzeugt erkennbar sein.

Für hochriskante KI-Anwendungen, die beispielsweise zur Personalauswahl oder Kreditprüfung eingesetzt werden, gelten strenge Vorschriften. Diese beinhalten Maßnahmen zur Risikominderung, die Nutzung hochwertiger Datensätze, umfassende Dokumentation, menschliche Aufsicht sowie hohe Anforderungen an Robustheit, Genauigkeit und Cybersicherheit. Diese Vorgaben sollen gewährleisten, dass die Risiken für Rechte und Sicherheit der Bürger minimiert werden.

Besonders bedenkliche KI-Systeme, die ein unannehmbares Risiko darstellen, sind durch die Verordnung gänzlich verboten. Dazu gehören Anwendungen, die das Verhalten von Menschen manipulieren oder deren freien Willen untergraben könnten, wie etwa Spielzeug mit Sprachassistenten, das Kinder zu gefährlichem Verhalten ermutigt. Auch bestimmte biometrische Systeme zur Emotionserkennung am Arbeitsplatz oder zur Echtzeitüberwachung im öffentlichen Raum fallen unter dieses Verbot.

Zusätzlich regelt die Verordnung den Einsatz von KI-Modellen mit allgemeinem Verwendungszweck, die vielseitig einsetzbar sind. Da diese Modelle immer häufiger in verschiedenen Anwendungen genutzt werden, zielt die Verordnung darauf ab, Transparenz in der gesamten Wertschöpfungskette zu fördern und potenzielle systemische Risiken zu minimieren.

Die Mitgliedstaaten der EU müssen bis August 2025 nationale Behörden benennen, die die Einhaltung der Vorschriften überwachen. Auf EU-Ebene wird ein neues KI-Amt für die Durchsetzung der Regelungen zuständig sein. Es soll insbesondere die Einhaltung der Vorschriften bei KI-Modellen mit allgemeinem Verwendungszweck überwachen. Drei Beratungsgremien sollen dabei die Umsetzung der Verordnung unterstützen. Verstöße gegen die Verordnung können mit hohen Geldstrafen geahndet werden.

Während die meisten Regelungen ab dem 2. August 2026 greifen, treten Verbote für besonders riskante KI-Systeme bereits nach sechs Monaten in Kraft. Um die Übergangszeit zu überbrücken, hat die Kommission den KI-Pakt eingeführt, der Unternehmen ermutigt, die Vorschriften schon vorzeitig umzusetzen. Parallel dazu arbeitet die Kommission an Leitlinien, die die Anwendung der Verordnung erleichtern sollen.

Diese Maßnahmen sind Teil eines umfassenden Rahmens, der durch kontinuierliche Forschung unterstützt wird, um eine wirksame Umsetzung der EU-KI-Politik sicherzustellen.