KI-Verordnung (AI Act)
Die KI-Verordnung der Europäischen Union (AI Act) schafft erstmals einen einheitlichen Rechtsrahmen für den Einsatz von Künstlicher Intelligenz in der EU.
Die Verordnung soll sicherstellen, dass KI sicher, vertrauenswürdig und menschenzentriert eingesetzt wird.
Dabei stehen vor allem folgende Ziele im Mittelpunkt:
- Schutz der Grundrechte
- Gewährleistung von Sicherheit
- Transparenz und Nachvollziehbarkeit
Transparenzpflichten
Section titled “Transparenzpflichten”Die KI-Verordnung legt fest, dass der Einsatz von KI in bestimmten Fällen für Nutzer transparent sein muss. Ziel ist es, Täuschung zu vermeiden und nachvollziehbar zu machen, wann und wie KI eingesetzt wird.
Dabei geht es nicht darum, jede KI-Nutzung zu kennzeichnen, sondern um Situationen, in denen Menschen sonst nicht erkennen würden, dass sie mit KI interagieren oder KI-generierte Inhalte sehen.
Wann ist eine Kennzeichnung erforderlich?
Section titled “Wann ist eine Kennzeichnung erforderlich?”Eine Kennzeichnung ist insbesondere in folgenden Fällen notwendig:
-
Interaktion mit KI-Systemen
Wenn Menschen mit einem KI-System kommunizieren (z. B. Chatbots), muss erkennbar sein, dass es sich nicht um einen Menschen handelt. -
Täuschend echte KI-Inhalte
Wenn Inhalte realistisch wirken und mit echten Inhalten verwechselt werden könnten (z. B. Bilder, Videos oder Stimmen). -
Synthetische oder manipulierte Inhalte (Deepfakes)
Wenn KI Inhalte erzeugt, die reale Personen, Ereignisse oder Aussagen imitieren oder verändern.
Ziel der Transparenzpflichten
Section titled “Ziel der Transparenzpflichten”Die Transparenzpflichten sollen sicherstellen, dass:
- keine Täuschung der Nutzer entsteht
- KI-Inhalte klar von echten Inhalten unterscheidbar sind
- erkennbar bleibt, wann KI eingesetzt wird
- Vertrauen in KI-Systeme gestärkt wird
Beispiel
Section titled “Beispiel”Ein Unternehmen veröffentlicht ein KI-generiertes Video, in dem eine reale Person scheinbar Aussagen trifft, die sie nie gemacht hat. In diesem Fall muss klar gekennzeichnet werden, dass der Inhalt künstlich erzeugt wurde.
Für wen gilt die KI-Verordnung?
Section titled “Für wen gilt die KI-Verordnung?”Die KI-Verordnung gilt grundsätzlich für viele Akteure, unter anderem für:
- Unternehmen
- Verwaltungen
- Dienstleister
Sobald Unternehmen KI-Systeme einsetzen, gelten je nach Nutzung und Rolle bestimmte Vorgaben der KI-Verordnung.
Dabei unterscheidet die Verordnung insbesondere zwischen Anbietern und Betreibern.
Anbieter
Section titled “Anbieter”Wann gilt man als Anbieter?
Section titled “Wann gilt man als Anbieter?”Als Anbieter gilt eine natürliche oder juristische Person, die ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke bereitstellt oder vertreibt.
Entscheidend ist dabei, unter welchem Namen oder welcher Marke das KI-System angeboten wird.
Auch wenn ein anderes Unternehmen die KI entwickelt hat, kann eine Firma rechtlich als Anbieter gelten, sobald sie das System unter eigener Marke vertreibt.
Beispiel
Section titled “Beispiel”Ein Unternehmen entwickelt einen KI-Chatbot und vertreibt ihn unter eigener Marke. In diesem Fall gilt das Unternehmen rechtlich als Anbieter.
Pflichten von Anbietern
Section titled “Pflichten von Anbietern”Anbieter von KI-Systemen haben je nach Art und Einsatzbereich verschiedene Pflichten.
Dazu gehören unter anderem:
- technische Dokumentation des KI-Systems
- Risikomanagement zur Vermeidung von Schäden
- CE-Kennzeichnung für bestimmte KI-Systeme (je nach Risikoklasse)
- Konformitätsbewertung zur Prüfung gesetzlicher Anforderungen
- Registrierung bestimmter KI-Systeme
Wer als Anbieter auftritt, trägt damit auch die rechtliche Gesamtverantwortung für das KI-System.
Betreiber
Section titled “Betreiber”Wann gilt man als Betreiber?
Section titled “Wann gilt man als Betreiber?”Als Betreiber gilt eine natürliche oder juristische Person, die ein KI-System im eigenen Unternehmen oder in der eigenen Organisation einsetzt.
Privatanwender gelten in der Regel nicht als Betreiber.
Beispiele für Betreiber
Section titled “Beispiele für Betreiber”Typische Beispiele für den Einsatz von KI-Systemen im Unternehmen:
- KI-Analyse-Tools
- Software wie Figma, Notion oder Canva mit integrierten KI-Funktionen
- Chatbots wie ChatGPT, Claude oder Gemini
- Personalsoftware mit KI-gestützten Funktionen
Beispiel
Section titled “Beispiel”Ein Unternehmen nutzt ChatGPT zur Erstellung von Marketingtexten. In diesem Fall gilt das Unternehmen als Betreiber des KI-Systems.
Wann bleibt man Betreiber?
Section titled “Wann bleibt man Betreiber?”Ein Unternehmen gilt in der Regel als Betreiber, wenn:
- KI-Systeme lediglich genutzt werden
- keine grundlegenden Veränderungen am System vorgenommen werden
- die KI nicht unter eigener Marke vertrieben wird
Wenn diese Bedingungen nicht erfüllt sind, kann ein Unternehmen rechtlich als Anbieter eingestuft werden.
Pflichten von Betreibern
Section titled “Pflichten von Betreibern”Je nach Art und Risiko des eingesetzten KI-Systems können Betreiber verschiedene Pflichten haben.
Dazu gehören beispielsweise:
- Schulung der Mitarbeitenden im Umgang mit KI-Systemen (Artikel 4)
- Protokollierung bestimmter Prozesse oder Ergebnisse (Logging)
- Durchführung von Grundrechts-Folgenabschätzungen in bestimmten Fällen
- transparente Information betroffener Personen
Offizielle Quelle
Section titled “Offizielle Quelle”Die vollständige KI-Verordnung der Europäischen Union kann im offiziellen EUR-Lex-System eingesehen werden.
Hinweis: Rechtliche Vorgaben und Auslegungen können sich durch neue Gesetzgebungen oder gerichtliche Entscheidungen verändern.