Generative KI im Unternehmen

Generative KI im Unternehmen: Rechtliche und Ethische Wegweiser

Der Bitkom-Leitfaden "Generative KI im Unternehmen – rechtliche Fragen zum Einsatz generativer Künstlicher Intelligenz im Unternehmen" bietet eine umfassende Orientierungshilfe für die verantwortungsvolle Einführung und Nutzung von KI-Technologien. Er beleuchtet kritische Aspekte aus Arbeitsrecht, Vertragsrecht und ethischer Perspektive und unterstreicht die Notwendigkeit, Mitarbeitende auf diese Transformation vorzubereiten.

Arbeitsrechtliche Aspekte: Klare Regeln für den KI-Einsatz

Die arbeitsrechtlichen Rahmenbedingungen sind essenziell für einen rechtskonformen KI-Einsatz:

• Risikobasierte Klassifizierung: Ab dem 2. August 2025 sind Unternehmen verpflichtet, KI-Systeme risikobasiert zu klassifizieren und entsprechend zu behandeln. Systeme mit unannehmbarem Risiko sind dabei verboten.

• Mitarbeiterüberwachung: Die Speicherung und Analyse von Daten, die zur Überwachung von Mitarbeitenden dienen könnten, ist grundsätzlich unzulässig. Erkenntnisse aus einer solchen unzulässigen Überwachung unterliegen einem Verwertungsverbot in arbeitsgerichtlichen Verfahren.

• Weisungsrecht des Arbeitgebers: Arbeitgeber können den Einsatz von KI-Tools als Arbeitsmittel anordnen oder deren Nutzung einseitig untersagen. Dies dient unter anderem dem Schutz vor AGG-Verstößen, Geschäftsgeheimnissen oder Urheberrechtsverletzungen. Eine solche Weisung unterliegt nicht dem Mitbestimmungsrecht des Betriebsrats.

• Diskriminierungsverbot (AGG): Arbeitgeber müssen sicherstellen, dass der Einsatz von KI im Personalmanagement und Bewerbungsprozess nicht gegen das Allgemeine Gleichbehandlungsgesetz (AGG) verstößt. Unzureichend programmierte oder fehlerhafte KI-Systeme können mittelbare oder unmittelbare Diskriminierungen verursachen.

• Mitbestimmungsrechte des Betriebsrats: Der Betriebsrat verfügt über Mitbestimmungsrechte bei der Einführung und Anwendung von KI-Systemen, insbesondere nach § 87 Abs. 1 Nr. 6 BetrVG, wenn diese zur Verhaltens- oder Leistungsüberwachung geeignet sind. Er muss frühzeitig in die Planungsprozesse eingebunden werden (§ 90 Abs. 1 Nr. 3 BetrVG) und kann Sachverständige hinzuziehen.

• KI-Kompetenzen (Artikel 4 AI Act): Eine besonders relevante Neuerung ist die Verpflichtung aus Artikel 4 des AI Act, die bereits seit dem 2. Februar 2025 in Kraft ist. Demnach müssen Unternehmen sicherstellen, dass Mitarbeitende, die mit KI-Systemen arbeiten, über die notwendigen KI-Kompetenzen verfügen. Dies umfasst Wissen über Funktionsweise, rechtliche und ethische Rahmenbedingungen sowie ein Bewusstsein für Chancen und Risiken. Schulungen sind hierbei ein wichtiges Compliance-Instrument.

Vertragsrechtliche Aspekte: KI als Werkzeug, nicht als Partner

Im Vertragsrecht sind klare Verhältnisse zu schaffen, da KI keine eigene Rechtsfähigkeit besitzt:

• Keine eigene Rechtsfähigkeit: Nach geltendem Recht besitzt KI keine eigene Rechts- und Geschäftsfähigkeit. Verträge können daher nicht von der KI selbst abgeschlossen werden, sondern müssen durch natürliche oder juristische Personen erfolgen. Die KI fungiert in diesem Kontext als Werkzeug, Vertreter, Bote oder Erfüllungsgehilfe.

• Klare Vertragsklauseln: Es ist entscheidend, Haftungsrisiken durch vertragliche Regelungen zu begegnen. Vertragsklauseln müssen die Nutzung, Verantwortlichkeiten und Haftungsfragen klar regeln, beispielsweise in Bezug auf die Fehlerfreiheit des KI-Outputs und die Überprüfungspflichten der Endnutzer. Eine exakte Beschreibung des Vertragsgegenstandes und des Leistungsumfangs ist dabei von besonderer Bedeutung.

Ethische Aspekte: Vertrauen, Fairness und Autonomie

Die ethische Dimension des KI-Einsatzes ist fundamental für die Akzeptanz und den langfristigen Erfolg:

• Ethische Kernprinzipien: KI-Ethik erfordert die Einhaltung von Prinzipien wie Transparenz & Erklärbarkeit, Fairness & Nichtdiskriminierung, Schutz der menschlichen Autonomie und Datenschutz & Privatsphäre. Ziel ist es, technologische Innovationen mit sozialen Wertvorstellungen in Einklang zu bringen.

• Risiken psychologischer Beeinflussung: Besonders zu beachten sind Phänomene wie Nudging und algorithmischer Bias. Algorithmischer Bias kann durch unausgewogene Daten oder voreingenommene Modelle zu systematischen Verzerrungen und Diskriminierung führen. Nudging durch generative KI birgt Risiken psychologischer Manipulation, da es das Verhalten oder die Entscheidungen von Kunden und Mitarbeitenden subtil beeinflussen und deren Autonomie einschränken kann.

• Konkrete Umsetzung in Unternehmen: Um diesen Herausforderungen zu begegnen, sollten Unternehmen interne Richtlinien zur Nutzung generativer KI etablieren, die Anwender über Möglichkeiten, Risiken und Verhaltensvorgaben informieren. Die Implementierung einer KI-Governance oder eines "AI Ethics Board" wird empfohlen, um ethische und rechtliche Anforderungen zu bündeln und zu überwachen. Regelmäßige

Schulungen und Weiterbildungen sind unerlässlich, um Mitarbeitende zu sensibilisieren und ihre KI-Kompetenzen zu stärken, wie es auch Artikel 4 des AI Act vorschreibt.

Fazit für Bildung- und Weiterbildungseinrichtungen

Die Einführung generativer KI in Unternehmen ist ein vielschichtiger Prozess, der weit über die bloße Implementierung von Technologie hinausgeht. Er erfordert ein tiefes Verständnis der rechtlichen Implikationen, eine proaktive Gestaltung ethischer Leitplanken und insbesondere die kontinuierliche Weiterbildung und Kompetenzentwicklung der Mitarbeitenden.

Für Bildungs- und Weiterbildungseinrichtungen sowie Unternehmen, die in diesen Bereichen tätig sind, ergeben sich hieraus entscheidende Impulse: Es gilt, Lehrpläne anzupassen, Schulungsangebote zu entwickeln, die nicht nur technische KI-Fähigkeiten vermitteln, sondern auch ein Bewusstsein für die rechtlichen und ethischen Dimensionen schaffen. Nur so können wir sicherstellen, dass KI zu einem Fortschrittsmotor wird, der Vertrauen schafft und menschliche Werte respektiert.

Der Bitkom-Leitfaden ist ein wichtiger Schritt in diese Richtung und bietet eine solide Grundlage für alle Unternehmen, die generative KI verantwortungsvoll und zukunftsorientiert in ihre Prozesse integrieren möchten.