Der AI Act ist im August 2024 in Kraft getreten und wird schrittweise wirksam. Die erste Stufe gilt seit Anfang Februar: Bestimmte KI-Praktiken sind seitdem verboten, etwa Systeme, die Menschen manipulieren oder Emotionen am Arbeitsplatz auswerten. Für die meisten Unternehmen wichtiger ist aber Artikel 4, die sogenannte KI-Kompetenz.

Was Artikel 4 verlangt

Anbieter und Betreiber von KI-Systemen müssen Maßnahmen ergreifen, damit ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt. Betreiber ist dabei schon, wer KI im Unternehmen beruflich nutzt. Wer also Mitarbeitenden erlaubt, mit ChatGPT, Copilot oder einem KI-gestützten Übersetzungswerkzeug zu arbeiten, fällt darunter.

Was „ausreichend“ bedeutet, schreibt das Gesetz nicht im Detail vor. Maßgeblich sind die technischen Kenntnisse, die Erfahrung und Ausbildung der Mitarbeitenden sowie der Zusammenhang, in dem die KI eingesetzt wird. Eine Assistenz, die Texte formuliert, braucht anderes Wissen als ein Team, das KI für Personalentscheidungen vorbereitet. Ein Zertifikat ist nicht vorgeschrieben, eine Schulung von der Stange reicht aber auch nicht automatisch.

Was Sie jetzt tun sollten

Verschaffen Sie sich zuerst einen Überblick, wo im Unternehmen KI tatsächlich genutzt wird, offiziell und inoffiziell. Die inoffizielle Nutzung ist in vielen Firmen größer als gedacht. Legen Sie dann fest, welche Gruppen welches Wissen brauchen: Grundlagen und Grenzen für alle, vertiefte Kenntnisse für die, die KI in sensiblen Bereichen einsetzen. Dazu gehören immer auch Datenschutz, der Umgang mit vertraulichen Informationen und das Wissen, dass KI plausibel klingende Fehler macht.

Halten Sie fest, was Sie tun. Eine kurze Dokumentation, wer wann zu welchem Thema geschult wurde und welche Regeln im Unternehmen für KI gelten, ist die beste Grundlage, falls später jemand nachfragt. Eine schriftliche KI-Richtlinie, die sagt, welche Werkzeuge erlaubt sind und welche Daten nicht hineingehören, schafft zusätzlich Sicherheit für alle Beteiligten.

Wie das konkret aussieht, hängt von Ihrem Unternehmen ab. In einer Steuerkanzlei, in der Mitarbeitende KI für Mandantenschreiben nutzen, stehen Vertraulichkeit und die Prüfung von Fachaussagen im Vordergrund. In einem Produktionsbetrieb, der KI zur Qualitätskontrolle einsetzt, geht es eher darum, Fehlermeldungen richtig zu deuten und zu wissen, wann ein Mensch eingreifen muss. Die Verantwortung dafür liegt bei der Geschäftsführung, auch wenn die Umsetzung an HR oder IT delegiert wird.

Ein eigenes Bußgeld sieht der AI Act für Artikel 4 nicht ausdrücklich vor. Relevant wird die Pflicht trotzdem, etwa wenn durch den Einsatz von KI ein Schaden entsteht und sich die Frage stellt, ob das Unternehmen seine Mitarbeitenden ausreichend vorbereitet hat.

Die weiteren Pflichten des AI Act folgen in den nächsten Jahren, vor allem für Hochrisiko-Anwendungen. Wer jetzt die Grundlagen legt, ist für diese Stufen deutlich besser vorbereitet.