Rechtkonformer Einsatz von KI im Unternehmen

Der Einsatz von Systemen Künstlicher Intelligenz (KI) eröffnet Unternehmen vielfältige Entwicklungschancen. Ein zukunftsgerichtetes wirtschaftliches Handeln erscheint ohne den Einsatz von KI kaum noch denkbar.

Dieser Beitrag richtet sich vor allem an Arbeitgeberinnen und Arbeitgeber und zeigt auf, welche Maßnahmen erforderlich sind, um den Einsatz von KI-Systemen im Unternehmen rechtskonform zu gestalten.

Was ist Künstliche Intelligenz (KI)?

Künstliche Intelligenz wird vom Europäischen Parlament als die Fähigkeit von Maschinen beschrieben, menschliche Kompetenzen wie logisches Denken, Lernen, Planen und Kreativität nachzuahmen. Sie kann dabei sowohl überwachend als auch unterstützend eingesetzt werden – etwa zur aktiven Assistenz oder im sozialen Austausch mit Nutzern.

Worauf ist im unternehmerischen Umgang mit KI zu achten?

Der Einsatz von Künstlicher Intelligenz (KI) hat im Einklang mit den geltenden rechtlichen Vorschriften zu erfolgen. Insbesondere sind die Vorgaben der Datenschutz-Grundverordnung (DSGVO), des Betriebsverfassungsgesetzes (BetrVG), sowie der EU-Verordnung über Künstliche Intelligenz (EU AI Act / KI-VO) zu beachten.

KI-VO

Die KI-Verordnung der EU ist die weltweit erste umfassende Vorschrift zur Regulierung von KI-Systemen und bietet damit auch einen rechtlichen Rahmen bei deren Verwendung im Unternehmen. KI nutzende Unternehmen werden hierin zumeist als Betreiber von KI-Systemen verpflichtet.

Die KI-VO unterscheidet grundsätzlich zwischen verschiedenen Risikostufen von KI-Systemen, denen jeweils spezifische regulatorische Anforderungen zugeordnet sind.

Systeme mit minimalem Risiko, wie etwa Spam-Filter, unterliegen grundsätzlich keinen zusätzlichen Verpflichtungen im Sinne der KI-VO.

KI-Systeme mit begrenztem Risiko, wie beispielsweise Chatbots wie ChatGPT oder Zeiterfassung, müssen bestimmten Transparenzpflichten genügen. Zudem muss sichergestellt werden, dass KI nutzende Arbeitnehmer eine sogenannten KI-Kompetenz besitzen.

Im Bereich der Hochrisiko-KI gelten deutlich strengere Anforderungen. Diese Systeme kommen insbesondere in sensiblen Anwendungsfeldern zum Einsatz – etwa im Personalwesen, wo sie zur Bewerberauswahl, Leistungsbewertung oder Personalentwicklung eingesetzt werden. Für Hochrisiko-KI sind neben Transparenzpflichten und der Sicherstellung von KI-Kompetenz noch die Einrichtung von Schutzmaßnahmen, Risikobewertungen, Dokumentationspflichten, Qualitätsmanagement, Recht auf Erläuterung und menschliche Aufsicht vorgeschrieben.

Unvertretbare Risiken gehen von KI-Systemen aus, die Menschen aufgrund ihres Verhaltens, persönlicher Merkmale oder ihres sozioökonomischen Status bewerten oder klassifizieren – etwa im Rahmen eines sogenannten Social Scoring. Solche Anwendungen sind verboten.

DSGVO

Beim Einsatz von KI-Systemen zur Verarbeitung sensibler personenbezogener Daten ist die Durchführung einer Datenschutz-Folgenabschätzung zu beachten. Dies gilt insbesondere dann, wenn neue Technologien oder Verarbeitungsverfahren verwendet werden oder wenn von einem hohen Risiko für die Rechte und Freiheiten betroffener Personen auszugehen ist – etwa bei der umfangreichen Verarbeitung von Gesundheitsdaten oder beim Profiling. Zudem müssen automatisiert durch KI getroffene Entscheidungen aus Gründen der Transparenz klar als solche gekennzeichnet werden.

Betriebliche Mitbestimmung

Darüber hinaus können sich aus dem BetrVG bei Unternehmen mit bestehendem Betriebsrat – Informations- und Mitbestimmungspflichten ergeben. Ob der Betriebsrat lediglich informiert oder sogar mitbestimmen darf, hängt entscheidend von der Art des KI-Einsatzes ab. Sollte beispielsweise durch den Einsatz von KI-Systemen Personal abgebaut werden, stellt dies eine Maßnahme dar, bei der das Mitbestimmungsrecht des Betriebsrats zu beachten ist.  

Welche Maßnahmen sollten als Arbeitgeber getroffen werden?

Die Anforderungen an Arbeitgeber im Umgang mit KI richten sich maßgeblich nach der Art der eingesetzten Systeme und deren Einstufung in die genannten Risikokategorien. In der betrieblichen Praxis kommen die meisten Arbeitnehmer in irgendeiner Form mit KI-Systemen in Berührung oder nutzen diese aktiv im Rahmen ihrer Tätigkeit.

Zwar steht es Arbeitgebern grundsätzlich frei, den Einsatz von KI-Systemen zu untersagen. Ein solches Verbot birgt jedoch das Risiko, dass Mitarbeitende dennoch auf frei zugängliche KI-Anwendungen zurückgreifen – möglicherweise ohne eine notwendige Schulung oder ein allgemeines Verständnis für damit einhergehenden Chancen und Risiken. Um dem vorzubeugen und einen sicheren sowie verantwortungsvollen Umgang mit KI zu fördern, empfiehlt es sich, gezielte Schulungsmaßnahmen anzubieten. So kann nicht nur die KI Kompetenz der Arbeitnehmer aufgebaut, sondern auch ein Bewusstsein für den Schutz von Betriebsgeheimnissen und personenbezogenen Daten geschaffen werden.

Analog zur DSGVO sollte auch im Bereich KI ein verantwortlicher Ansprechpartner im Unternehmen benannt werden – ein sogenannter KI-Beauftragter. Dieser kann als zentrale Anlaufstelle fungieren, um Fragen zu klären, Risiken zu bewerten und den Einsatz von KI-Systemen im Unternehmen zu begleiten.

Zur Sicherstellung eines einheitlichen, regelkonformen und transparenten Umgangs mit KI empfiehlt sich darüber hinaus die Ausarbeitung unternehmensinterner Richtlinien – etwa in Form von Betriebsvereinbarungen oder einem KI-Playbook. Diese schaffen klare Strukturen und fördern eine verantwortungsbewusste sowie innovationsfreundliche Unternehmenskultur.

Fazit

Mit dem Einzug von KI-Systemen in den Arbeitsalltag stehen Unternehmen vor neuen Herausforderungen. Insbesondere für Arbeitgeber, deren Mitarbeitende KI-Systeme nutzen, ist es ratsam, klare Richtlinien zum Umgang mit KI-Systemen zu etablieren, den Betriebsrat transparent miteinzubeziehen und umfassende Mitarbeiterschulungen durchzuführen. Dabei sollte der Fokus darauf liegen, KI als Chance auf höhere Effizienz und Ergebnisqualität wahrzunehmen.

Kristin Rinkel                    Christian Schlemmer

Rechtsreferendarin          Rechtsanwalt

                                         Fachanwalt für Arbeitsrecht