Ab 2. Februar 2025 gelten weitere Regelungen des EU AI Act. Die KI-Verordnung der Europäischen Union, ist am 1. August in Kraft getreten und soll die Verwendung von KI in der EU regeln. Ihre Inhalte müssen nach und nach umgesetzt werden.

Der Einsatz von KI-Systemen bringt einige Vorteile. Dennoch müssen Grundrechte, Sicherheit und Gesundheit bewahrt werden. Das regelt die KI-Verordnung der Europäischen Union, die am 1. August 2024 in Kraft getreten ist. Sie verbietet bestimmte Arten von Anwendungen, die Grundrechte verletzen. Das schließt KI-Systeme ein, die eingesetzt werden können, um das Verhalten von Personen gezielt zu beeinflussen. Auch KI-basierte Emotionserkennung am Arbeitsplatz, ungezielte Auswertung von Gesichtsbildern oder Bewertung des sozialen Verhaltens gehören zu den verbotenen Praktiken. Das Verbot solcher besonders schädlicher KI-Anwendungen tritt am 2. Februar 2025 in Kraft.

Für Unternehmen schreibt der EU AI Act seit dem 2. Februar 2025 vor, ihren Mitarbeitenden KI-Schulungen anzubieten. Wie genau diese Fortbildungspflichten aussehen, ist jedoch nicht ganz klar. Aber: Jeder, der KI nutzt, muss damit umgehen können. D. h. Unternehmen, die KI-Systeme nutzen, sollen nachweislich des Gesetzes Maßnahmen ergreifen, um „nach besten Kräften" sicherzustellen, dass ihr Personal, welches mit dem Betrieb und der Nutzung von KI-Systemen befasst ist, über ein ausreichendes Maß an Kenntnissen für diese Nutzung verfügt. Um die Erfüllung der gesetzlichen Anforderungen nachweisen zu können, sollen die durchgeführten Schulungsmaßnahmen dokumentiert werden. In der KI-Verordnung sind jedoch keine direkten Bußgelder für Verstöße gegen die Schulungspflicht nach Art. 4 vorgesehen, d. h. die Vorschrift hat einen eher appellativen Charakter. Unternehmen können aber bei mangelnder Schulung ihrer Mitarbeitenden rechtliche Konsequenzen drohen, zum Beispiel wenn durch unzureichend geschulte Mitarbeitende Schäden entstehen. Dann kann dies als Verletzung der allgemeinen Sorgfaltspflicht gewertet werden und zu Haftungsansprüchen führen.

Lesen Sie mehr in den Fragen und Antworten zu KI auf der Website der Europäischen Union.