Risikoklassen der KI-Verordnung (AI Act)

Die KI-Verordnung (AI Act) der Europäischen Union ordnet KI-Systeme je nach potenziellem Risiko für Grundrechte, Sicherheit und zentrale Lebensbereiche von Menschen in verschiedene Risikoklassen ein.

Dabei wird bewertet, wie stark ein KI-System diese Bereiche beeinflussen kann.

Grundsätzlich unterscheidet die Verordnung folgende Risikoklassen:

• Verbotene KI-Systeme
• Hochrisiko-KI-Systeme
• KI-Systeme mit begrenztem Risiko
• KI-Systeme mit minimalem Risiko

---

Verbotene KI-Systeme

KI-Systeme dieser Kategorie sind in der Europäischen Union grundsätzlich verboten und dürfen weder von Unternehmen noch von öffentlichen Stellen eingesetzt werden.

Verboten sind insbesondere Systeme, die Menschen manipulieren oder in unzulässiger Weise überwachen.

Beispiele für verbotene KI-Systeme

• Social Scoring Systeme
• stark manipulative KI-Systeme

Merke: Social Scoring bewertet Menschen systematisch, während manipulative Systeme ihr Verhalten gezielt beeinflussen.

Social Scoring

Social Scoring bezeichnet Systeme, die das Verhalten oder persönliche Merkmale von Menschen bewerten, um daraus eine Einstufung oder Benachteiligung abzuleiten.

Solche Systeme sind in der EU grundsätzlich verboten, da sie Grundrechte und Gleichbehandlung gefährden können.

Beispiele für Social Scoring

• Ein Staat oder Unternehmen bewertet Bürger oder Kunden anhand ihres Online-Verhaltens, z. B. ob sie bestimmte Inhalte liken oder teilen, und vergibt daraus einen „Score“, der Vorteile oder Nachteile beeinflusst.

• Ein Unternehmen stuft Menschen anhand von Daten wie Zahlungsmoral, Einkaufsverhalten oder sozialen Kontakten ein und entscheidet dadurch automatisch über Rabatte, Verträge oder Dienstleistungen.

• Eine Plattform bewertet Nutzer anhand ihres Verhaltens (z. B. Bewertungen, Beiträge, Interaktionen) und schränkt Funktionen ein oder bevorzugt bestimmte Nutzer systematisch.

Manipulative Systeme

Ebenfalls verboten sind KI-Systeme, die Menschen gezielt so beeinflussen, dass sie Entscheidungen treffen, die ihnen schaden oder ihre freie Willensbildung einschränken.

Beispiele für manipulative Systeme

• Eine KI zeigt gezielt Inhalte oder Werbung, die eine Person emotional stark beeinflussen soll, um sie zu einem Kauf zu drängen, den sie sonst nicht getätigt hätte.

• Ein System erkennt Unsicherheiten oder Schwächen einer Person (z. B. Angst, Stress oder finanzielle Probleme) und nutzt diese gezielt aus, um Entscheidungen zu beeinflussen.

• Eine KI gestaltet Benutzeroberflächen so, dass Nutzer bewusst in bestimmte Handlungen „gedrängt“ werden (z. B. schwer auffindbare Ablehnungsoptionen oder irreführende Buttons).

---

Hochrisiko-KI-Systeme

KI-Systeme dieser Kategorie können erhebliche Auswirkungen auf Grundrechte, Sicherheit oder zentrale Lebensbereiche von Menschen haben.

Sie sind nicht grundsätzlich verboten, unterliegen jedoch besonders strengen gesetzlichen Anforderungen.

Beispiele für Hochrisiko-KI-Systeme

• Bewerberauswahl-Systeme

  • KI-gestützte Vorauswahl von Bewerbungen
  • Risiko von Diskriminierung, z. B. aufgrund von Geschlecht, Herkunft oder Alter
  • Anforderungen: transparente Datenbasis und nachvollziehbare Entscheidungslogik

• Justiz- und Polizeisysteme

  • Unterstützung bei Ermittlungen oder gerichtlichen Entscheidungen
  • Hohe Anforderungen an Nachvollziehbarkeit und Grundrechtsschutz

• Kreditwürdigkeitsprüfungen

  • Bewertung der Zahlungsfähigkeit von Personen
  • Direkter Einfluss auf wirtschaftliche Teilhabe (z. B. Kredite, Verträge)

• Zugang zu Bildung, Arbeit oder sozialen Leistungen

  • Automatisierte Entscheidungssysteme über Zugangschancen
  • Einfluss auf gesellschaftliche Teilhabe

• Sicherheitsrelevante Systeme

  • z. B. in kritischer Infrastruktur oder sicherheitskritischen Prozessen

Einordnung in der Praxis

In der Praxis befinden sich Unternehmen häufig im Hochrisikobereich, wenn KI-Systeme zur Unterstützung oder Automatisierung von Entscheidungen über Menschen eingesetzt werden, etwa bei:

• Bewerbungsprozessen
• Mitarbeiterbewertungen
• Personalentscheidungen

Wichtiger Hinweis

KI-Systeme im Hochrisikobereich können sehr effizient eingesetzt werden, erfordern jedoch strenge Kontrolle.

Fehlerhafte oder unkontrollierte Nutzung kann schwerwiegende rechtliche und gesellschaftliche Folgen haben.

---

KI-Systeme mit begrenztem Risiko

Viele KI-Systeme fallen in diese Kategorie. Sie stellen in der Regel kein hohes Risiko für Grundrechte oder Sicherheit dar, können aber dennoch Einfluss auf Menschen haben.

Für diese Systeme gilt insbesondere eine Transparenzpflicht.

Beispiele für KI-Systeme mit begrenztem Risiko

• Chatbots, die Nutzeranfragen beantworten
• generative KI zur Erstellung von Bildern, Videos oder Texten
• interaktive Systeme wie KI-gestützte Hotlines oder virtuelle Assistenten

Transparenzpflicht

Bei KI-Systemen mit begrenztem Risiko müssen Unternehmen sicherstellen, dass Nutzer erkennen können, dass sie mit einer KI interagieren oder KI-generierte Inhalte nutzen.

Das bedeutet konkret:

• Nutzer müssen erkennen können, dass sie mit einer KI kommunizieren (z. B. Chatbot)
• KI-generierte Inhalte wie Bilder, Videos oder Texte müssen als solche kenntlich gemacht werden
• insbesondere bei der Weitergabe oder Veröffentlichung von KI-Inhalten muss Transparenz gewährleistet sein

---

KI-Systeme mit minimalem Risiko

KI-Systeme dieser Kategorie haben nur ein sehr geringes Risiko für Grundrechte und Sicherheit von Menschen.

Auch wenn diese Systeme kein hohes Risiko darstellen, müssen grundlegende gesetzliche Anforderungen wie Datenschutz oder Produktsicherheit weiterhin eingehalten werden.

Beispiele für KI-Systeme mit minimalem Risiko

• Spamfilter in E-Mail-Systemen
• KI-gestützte Chatmoderation in Online-Spielen
• KI-Funktionen in E-Mail-Programmen (z. B. Sortierung oder Textvorschläge)
• einfache Empfehlungssysteme ohne direkte Auswirkungen auf Entscheidungen von Menschen