AI Act in Kraft – was Unternehmen jetzt wissen müssen

Darum gibt es den AI Act

KI entwickelt sich rasant, bringt Unternehmen und Industrien viele Verbesserungen und eröffnet ihnen neue Chancen – von smarter Datenanalyse bis hin zur Prozessautomatisierung. Dennoch birgt der Einsatz von KI viele Risiken, die es zu minimieren gilt. Mit der zunehmenden Verbreitung wächst die Verantwortung, KI sicher, transparent und ethisch vertretbar einzusetzen. Die Europäische Union hat mit dem EU AI Act , der am 2. August 2024 in Kraft getreten ist, nun erstmals einen umfassenden Rechtsrahmen geschaffen, um Innovation und Verbraucherschutz in Einklang zu bringen.

Das sind die Kerninhalte des AI Acts

Der EU AI Act ist weltweit die erste umfassende Gesetzgebung zur Regulierung von künstlicher Intelligenz (KI) und legt klare Regeln für Unternehmen und Behörden fest. Die KI-Verordnung soll dazu beitragen, mehr Vertrauen in KI-Technologien zu schaffen, gleichzeitig sollen Innovationen gefördert werden.

Risikobasierte Klassifizierung: Vier Risikostufen für KI-Systeme

Die KI-Verordnung verfolgt einen risikobasierten Ansatz zur Regulierung von KI-Systemen und teilt dazu KI-Anwendungen in vier verschiedene Kategorien ein:

1. Unannehmbares Risiko (KI-Anwendungen verboten)

Hierzu zählen besonders schädliche KI-Anwendungen mit hohem Missbrauchspotenzial, z. B.:

• Social Scoring (wie in China praktiziert),

• manipulative KI, die menschliches Verhalten unbewusst steuert,

• bis auf wenige Ausnahmen Echtzeit-Gesichtserkennung im öffentlichen Raum, z. B., um Rückschlüsse auf die Emotionen von Menschen am Arbeitsplatz zu ziehen.

2. Hohes Risiko (KI-Anwendungen erhalten strenge Auflagen)

Hierzu zählen KI-Systeme, die gemäß KI-Verordnung potenziell nachteilig auf die Sicherheit der Menschen oder ihre Grundrechte auswirken. Wer diese herstellt oder verwendet, muss unter anderem eine adäquate Risikobewertung der Systeme gewährleisten, eine transparente Dokumentation und Nachverfolgung sicherstellen, menschliche Aufsicht gewährleisten und Sicherheitsmaßnahmen sowie den Datenschutz einhalten. Zu diesen KI-Anwendungen zählen z. B.:

• KI in Kreditvergabe- oder Scoring-Systemen,

• KI im Personalwesen (Bewerberauswahl, automatisierte Bewertungen),

• medizinische Diagnosesysteme, die mithilfe von KI bewerten, ob jemand eine bestimmte medizinische Behandlung erhalten kann.

3. Begrenztes Risiko (KI-Anwendungen erhalten Transparenzanforderungen)

Diese Kategorie umfasst weniger risikoreiche KI-Anwendungen für die im Gegensatz zur Hochrisikokategorie weniger strenge Verpflichtungen gelten, z. B.:

• Chatbots (müssen als KI erkennbar sein und dürfen menschliches Verhalten nicht manipulieren)

• KI-generierte Inhalte wie Bilder, Audio, Texte (z. B. ChatGPT, Midjourney) oder Videos (müssen als solche gekennzeichnet werden)

4. Minimales Risiko (KI-Anwendungen benötigen keine oder nur wenige Vorschriften)

Hierzu zählen KI-Systeme, die keinerlei gesonderter gesetzlicher Verpflichtungen unterliegen, wie z. B.:

• KI-gestützte Übersetzungsprogramme

• KI-gestützte Spam-Filter

Hohe Strafen bei Verstößen

Wer den AI Act nicht einhält, muss mit hohen Geldbußen rechnen – ähnlich wie bei der DSGVO:

• bei schweren Verstößen, z.B. verbotenen KI-Systemen: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes,

• bei Verstößen gegen andere Pflichten: bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes,

• bei falschen Angaben: Geldstrafe von bis zu 7,5 Millionen Euro oder 1,5 Prozent des Jahresumsatzes.

Förderung von Innovation und vertrauenswürdiger KI

Neben den Regulierungen sieht der AI Act auch die Notwendigkeit von Fördermaßnahmen für innovative und ethische KI-Lösungen an. Besonders kleine und mittlere Unternehmen (KMUs) sowie Start-ups sollen unterstützt werden.

Für wen die KI-Verordnung gilt

Der EU AI Act gilt für alle, die künstliche Intelligenz innerhalb der Europäischen Union entwickeln, anbieten oder nutzen – unabhängig davon, ob sie in der EU ansässig sind oder nicht.

Dazu gehören vor allem Unternehmen, Start-ups, öffentliche Institutionen und Organisationen. Besonders betroffen sind Branchen mit Hochrisiko-KI, wie:

• Personalwesen (z. B. automatisierte Bewerbungsbewertung)

• Finanzdienstleister (z. B. Kreditvergabe, Betrugserkennung)

• Gesundheitswesen (z. B. KI-gestützte Diagnosen)

• Öffentliche Verwaltung (z. B. KI im Justiz- oder Polizeiwesen)

Unternehmen sollten sich vorbereiten

Der gestaffelte Zeitplan gibt Unternehmen und Behörden die Möglichkeit, sich schrittweise auf die neuen Anforderungen einzustellen und rechtzeitig die notwendigen Maßnahmen zur Einhaltung des AI Act zu ergreifen.