„KI-Kompetenz“ – Unternehmen müssen Mitarbeiter im Umgang mit Künstlicher Intelligenz schulen

Ab dem 2. Februar 2025: Neue Pflichten für Unternehmen und Arbeitgeber durch die KI-Verordnung

KI-Technologien haben längst Einzug in den beruflichen Alltag gefunden und werden immer mehr zu einem wesentlichen Bestandteil betrieblicher Abläufe. Viele Unternehmen setzen auf KI-gestützte Anwendungen, um Geschäftsprozesse zu automatisieren, den Kundenservice zu verbessern oder umfangreiche Datenanalysen durchzuführen. Ein Beispiel für den praktischen Einsatz sind KI-gestützte Chatbots, mit denen Unternehmen beispielsweise Kundenanfragen effizienter bearbeiten können. 

Seit dem 1. August 2024 ist die KI-Verordnung (VO EU 2024/1689) in Kraft. Als Verordnung gilt sie verbindlich und unmittelbar in jedem EU-Mitgliedstaat, jedoch vollständig erst ab dem 2. August 2026. Einige Regelungen, wie in Art. 113 KI-VO bestimmt, finden jedoch bereits früher Anwendung.

Ab dem 2. Februar 2025 gelten die Kapitel I und II der KI-Verordnung, sodass Anbieter und Betreiber von KI-Systemen verpflichtet sind sicherzustellen, dass ihre Mitarbeiter über ein ausreichendes Maß an KI-Kompetenz verfügen. Rechtsgrundlage dafür ist Art. 4 KI-VO, der diese Anforderungen ausdrücklich festlegt. KI-Kompetenz bedeutet in diesem Zusammenhang, dass Mitarbeiterinnen und Mitarbeiter die rechtlichen, technischen und ethischen Aspekte von KI-Systemen einschätzen können und in der Lage sind, sowohl Chancen als auch mögliche Risiken fundiert zu beurteilen.

Was ist ein KI-System?

Der Begriff des KI-Systems ist in Art. 3 Nr. 1 KI-VO sehr weit gefasst und bezieht sich auf jede maschinengestützte Anwendung, die autonom oder zumindest teilautonom agiert und anpassungsfähig sein kann. Das System verarbeitet erhaltene Eingaben und erstellt daraus bestimmte Ergebnisse, wie z.B. Vorhersagen, Inhalte, Entscheidungen oder Empfehlungen.

Danach sind KI-Systeme z.B.

• Chatbots (z.B. ChatGPT oder andere Large Language Models),
• Suchmaschinen (z.B. Google oder Bing),
• Empfehlungssysteme (z.B. im Online-Handel oder bei Spotify),
• Bonitäts-Checks (z.B. SCHUFA),
• Medizinische Bilddiagnostik und
• Ggfs. auch Excel Sheets.

Wer ist für KI-Kompetenz verantwortlich?

Von Art 4 KI-VO betroffen sind sowohl Anbieter als auch Betreiber von KI-Systemen, die in der Europäischen Union angeboten oder eingesetzt werden.

Anbieter (Art. 3 Nr. 3 KI-VO) ist eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich.

Betreiber (Art. 3 Nr. 4 KI-VO) ist eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird in einer persönlichen und nicht beruflichen Tätigkeit verwendet.

Alle Unternehmen, die KI-Systeme zur Förderung ihrer arbeitstechnischen oder betriebliche Zwecke nutzen, gelten damit als Betreiber, unabhängig davon, wie groß das jeweilige Unternehmen ist.

Welche Pflichten gelten ab dem 2. Februar 2025?

Anbieter und Betreiber von KI-Systemen müssen sicherstellen, dass Personen mit dem Betrieb oder der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Das bedeutet, dass Unternehmen ein Konzept entwickeln sollten, das ihren Mitarbeitern ermöglicht, fundierte Entscheidungen im Umgang mit KI-Systemen zu treffen. Dafür sollten technische, rechtliche und ethische Aspekte in entsprechenden Schulungs- und Weiterbildungskonzepten vermittelt werden. Anbieter und Betreiber müssen einen sicheren und verantwortungsvollen Umgang mit KI-Systemen gewährleisten.

Die konkrete Ausgestaltung der Konzepte hängt vom Einzelfall ab und orientiert sich insbesondere an branchenspezifischen Risiken und dem jeweiligen Einsatzbereich der KI-Systeme. Eine Pflicht zur Dokumentation der durchgeführten Maßnahmen besteht zwar nicht ausdrücklich, es ist jedoch dringend anzuraten, die Umsetzung sorgfältig festzuhalten. Auf diese Weise können Unternehmen ihre Erfüllung der Vorgaben aus Art. 4 KI-VO nachweisen und eventuelle Haftungsrisiken minimieren.

Warum ist KI-Kompetenz entscheidend?

Auch wenn die KI-VO bei Verstößen gegen Art. 4 keine unmittelbaren Geldbußen vorsieht, kann mangelnde KI-Kompetenz einen Verstoß gegen die allgemeine Sorgfaltspflicht des Arbeitgebers darstellen. Wenn es durch unzureichende Qualifikation zu Fehlern im Umgang mit KI-Systemen kommt, haftet der Arbeitgeber, sofern er keine angemessenen Maßnahmen zur Schulung seiner Mitarbeiter ergriffen hat und der Schaden auf der unzureichenden Qualifikation beruht.

Gleichzeitig bieten gut ausgebildete Mitarbeiter einen erheblichen Vorteil. Indem sie im Umgang mit Künstlicher Intelligenz geschult werden, reduzieren sie Fehlbedienungen, arbeiten effizienter und können die Innovationskraft des Unternehmens stärken. KI-Kompetenz wird dadurch zu einem wesentlichen Wettbewerbsvorteil, weil sie Kosten senkt, Ausfallrisiken verringert und das Verständnis für neue Technologien um Unternehmen fördert.

Fazit: Warum Unternehmen und Arbeitgeber jetzt handeln sollten

Mit Inkrafttreten der Kapitel I und II der KI-Verordnung am 2. Februar 2025 müssen Unternehmen und Arbeitgeber sicherstellen, dass ihre Mitarbeiter über die notwendige KI-Kompetenz verfügen. Wer rechtzeitig Schulungs- und Weiterbildungsmöglichkeiten schafft, minimiert nicht nur potenzielle Haftungsrisiken, sondern legt auch den Grundstein für eine effiziente und zukunftsorientierte Nutzung von KI-Systemen. Fachkundige Mitarbeiter können Chancen und Risiken besser abwägen, Innovationen gezielt vorantreiben und damit langfristig einen entscheidenden Wettbewerbsvorteil sichern.

---

Autor: Nicolas Fischer