Deutscher Gewerkschaftsbund

Selbstlernende Software wird viele Bereiche der Arbeitswelt verändern. Wenn Beschäftigte und künstliche Intelligenz in Betrieben eingesetzt werden, braucht es klare Regeln – und zwar bevor die Systeme eingeführt werden. Der DGB hat dazu zentrale Leitfragen für den betrieblichen Einsatz und einen 10 Punkte-Plan für die Politik veröffentlicht.

DGB/Simone M. Neumann

Der internationale Konkurrenzdruck für Unternehmen, auf künstliche Intelligenz zu setzen, nimmt zu. Das gilt in der Industrie, aber auch im Handel oder der Logistik. Viele Betriebe stehen aber noch am Anfang, KI-basierte Möglichkeiten zu nutzen – auch in Deutschland. Ein Grund ist eine hohe Unsicherheit im Umgang mit selbstlernender Software. Gleichzeitig machen sich viele ArbeitnehmenInnen Sorgen, den Arbeitsplatz zu verlieren. Viele treibt auch die Angst vor einem Kontrollverlust um: „Was ist, wenn die Maschine mich entmündigt und ich ihr ausgeliefert bin?“

Mehr Transparenz für KI-Systeme

Damit selbstlernende Software im Betrieb akzeptiert wird, geht es vor allem um Transparenz, betont der Vorsitzende des Deutschen Gewerkschaftsbundes, Reiner Hoffmann: „Um KI für Gute Arbeit nutzen zu können, müssen KI-Anbieter transparent darlegen, was die Systeme können und im Zweifel auch anrichten können. Dies ist eine Grundvoraussetzung für die nötige Akzeptanz von KI im Betrieb genauso wie eine KI-gerechte Anpassung der Regeln für betriebliche Aushandlungsprozesse.“ Es brauche deshalb eine Transparenzpflicht für KI-Anbieter und entsprechende Regulierungs- und Prüfverfahren, damit Vertrauen im Betrieb entstehen kann, so Hoffmann.

Künstliche Intelligenz: Gesetzlicher Ordnungsrahmen

Das Ziel lautet: „Künstliche Intelligenz für Gute Arbeit“. Damit dies auch rechtlich gesichert ist, schlägt der DGB einen Zehn-Punkte-Plan für einen gesetzlichen Ordnungsrahmen vor. Unter anderem soll ein Zertifizierungsverfahren für KI-Systeme geschaffen werden.

Zentral ist auch der Schutz der Beschäftigten vor Datenschnüffelei durch die Software. Um dies zu gewährleisten, braucht es ein eigenständiges Beschäftigtendatenschutzgesetz. Hoffmann sagt dazu: „Die Sorge der Beschäftigten, dass sie für ihren Arbeitgeber praktisch gläsern werden, ist berechtigt. Schließlich schafft KI neue Möglichkeiten, auch aus scheinbar harmlosen und hilfreichen Tools Zukunftsprofile zu erstellen.“ Es gehe also um weit mehr als in Zeiten der Video-Überwachung, nämlich um die analytische Vermessung und Steuerung von Beschäftigten zur betriebswirtschaftlichen Optimierung. „Hier müssen wir klare Grenzen setzen“, so der DGB-Vorsitzende.

News zur Digitalisierung: Jetzt Newsletter SmartUnion abonnieren

DGB

10 Punkte-Plan für einen gesetzlichen Ordnungsrahmen für einen verlässlichen KI-Einsatz

1. Schaffung eines gesetzlich verankerten Zertifizierungsverfahrens und Aufbau von unabhängigen Prüf- und Beschwerdestellen zur demokratisch legitimierten Aufsicht und Kontrolle

2. Förderung betrieblicher Aushandlungsprozesse durch eine Stärkung der Mitbestimmungsrechte

3. Förderung der Kompetenzentwicklung von Betriebs- und Personalräten für den betrieblichen KI-Einsatz (Komplexität von KI-Systemen sowie datafizierungspolitische Sensibilisierung und Qualifizierung), bspw. durch staatlich geförderte Qualifizierungs- und Beratungsangebote

4. Einführung eines eigenständigen Beschäftigtendatenschutzgesetzes, um den besonderen Anforderungen bei der Verarbeitung personenbezogener Daten im Betrieb gerecht zu werden.

5. Sachvortragsverwertungsverbot und Beweisverwertungsverbot für rechtswidrig erlangte Beschäftigtendaten und deren Nutzung

6. Konkretisierung und Verbesserung der bestehenden Regelungen des Allgemeinen Gleichbehandlungsgesetzes (z. B. § 3, 12 und 15 AGG), um Beschäftigte vor Algorithmen-basierter Diskriminierung zu schützen

7. Verbindlichkeit bei der Umsetzung von Prozessen für Folgenabschätzung und Evaluation von KI-Anwendungen (analog zur Datenfolgenabschätzung nach DSGVO) hinsichtlich der Veränderung der Belastungssituation im Betrieb

8. Verbindlichkeit für die gesetzlich vorgeschriebene Gefährdungsbeurteilung psychische Gesundheit und deren Anpassung an KI-Systeme (insb. Anti-Stress-Verordnung, Stärkung der Aufsicht)

9. Ausbau der Arbeitsforschung und kritischen Datafizierungsforschung zur Förderung der sozialpartnerschaftlichen Umsetzung von KI-Projekten (Entwicklung von verbindlichen Standards/Rahmenbedingungen)

10. Sozialpartnerschaftlich abgestimmte Entwicklung und Einführung ethischer Leitlinien in der Ausbildung und eines hippokratischen Eids für KI-Entwicklung hinsichtlich der arbeits- und gesellschaftspolitischen Implikationen von KI-Systemen sowie Unterstützungsmaßnahmen zur betrieblichen Orientierung an ethischen Leitlinien

DGB: Mitbestimmung konkretisieren

Darüber hinaus muss die betriebliche Mitbestimmung an den digitalen Fortschritt angepasst und konkretisiert werden. Bisher gilt: Die betriebliche Einführung und Anwendung von „technischen Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen“ ist nach dem Betriebsverfassungsgesetz (87 Abs. 1 Nr. 6 BetrVG) mitbestimmungspflichtig. Deshalb gelte es die Mitbestimmung auf die Nutzungsformen von Daten und Techniken zu erweitern, um Risiken auszuschließen und die Daten- und Analyse-Potenziale für Gute Arbeit zu nutzen.

Dieser Punkt sollte nicht zuletzt bei Planungen für extern zu entwickelnde Lösungen beachtet werden. Erforderlich ist ein hohes Maß an Transparenz und verbindliche Vereinbarungen über die analytischen Möglichkeiten und Grenzen. Die Mitbestimmung sollte dafür prozess- und beteiligungsorientierter ausgestaltet werden. Vorteilhaft sind auch hier Pilot- und Experimentierphasen, um die Schnittstellen der KI-Anwendung hinsichtlich der Zielsetzungen zu überprüfen und unerwünschte Effekte auszuschließen. Betriebsräte sollen auch weiteren Verlauf der Software-Einführung Interventionsmöglichkeiten erhalten. Hoffman betont: „Der Einsatz von KI erfordert, dass wir zu einer prozessorientierten Ausrichtung der Mitbestimmung kommen, um die Schnittstellen von Mensch und Maschine vorausschauend und ganzheitlich zu gestalten. Das ist anspruchsvoll, aber zwingend notwendig.“

Leitfragen für den betrieblichen KI-Einsatz

In einem aktuellen Papier hat der DGB konkrete Leitfragen für die Einführung von Künstlicher Intelligenz im Betrieb veröffentlicht. Diese lauten:

Schritt 1: Klärung von Zielen und Zielkonflikten

Schritt 2: Anforderungen an KI-Anbieter bzw. Entwickler

Schritt 3: Prozesstransparenz zur Datennutzung

Schritt 4: Abschätzung der Folgen und humane Arbeitsgestaltung im Betrieb

Schritt 5: Autonomie und Verantwortung beim betrieblichen Einsatz von KI

Schritt 6: Tests und Kontrollen

Das DGB-Konzeptpapier zum Download: