Künstliche Intelligenz am Arbeitsplatz überwacht Angestellte, diskriminiert marginalisierte Gruppen und kann Beschäftigte sogar krank machen. Doch das müsste nicht so sein.
Sich um eine neue Arbeitsstelle zu bewerben, kann ein nervenaufreibender Prozess sein. Unzählige Bewerbungen gehen raus, erfolgreich sind nur die wenigsten und über die Gründe werden die Bewerber:innen häufig im Unklaren gelassen. Zum Ärger über die verpasste Chance auf eine neue Stelle gesellt sich so oft noch die Klage über mangelnde Transparenz. Trotz allem gehen die meisten Menschen davon aus, dass die Entscheider:innen in den Personalabteilungen schon ihre Gründe haben werden. Doch was, wenn am anderen Ende der Bewerbung gar kein Mensch mehr die Entscheidungen trifft, sondern ein Algorithmus?
Vor einigen Jahren geriet der Handelskonzern Amazon mit einem derartigen System in die Schlagzeilen. Eine Künstliche Intelligenz sollte eingehende Bewerbungen prüfen und die geeignetsten Kandidierenden für eine offene Stelle auswählen. Wer geeignet ist, bewertete der Algorithmus anhand von Lebensläufen der Beschäftigten, die bislang im Konzern als besonders erfolgreich angesehen wurden.
KI hielt im Bewerbungsprozess nur Männer für geeignetDoch bald zeigte sich in den Tests der Software ein gravierendes Problem: Die Software hielt nur männliche Bewerber für geeignet und sortierte Frauen von Anfang an aus, ganz gleich, welche Qualifikationen sie mitbrachten. Denn vermeintlich erfolgreiche Mitarbeitende waren in der techniklastigen Branche bislang überwiegend Männer. Der Algorithmus, der seine Ziele ausschließlich aus den Mustern ableitet, die er in den Daten entdeckt, konnte sich schlicht nicht vorstellen, dass auch eine Frau diese Berufe ausüben kann - weil er in seinem Trainingsdatensatz nie auf einen derartigen Fall gestoßen war.
Zur Anwendung gekommen ist das Amazon-Tool in der Praxis nie. Es war den Entwickler:innen nicht gelungen, dem Algorithmus die systematische Benachteiligung von Frauen wieder abzutrainieren. Selbst das Entfernen des Geschlechtseintrags aus der Bewerbung half nicht weiter: Nun war es ein Ausschlusskriterium für den Job, auf einer Mädchenschule gewesen zu sein oder sich in einem Frauen-Schach-Team engagiert zu haben.
Künstliche Intelligenz: Datenschutz hat essenzielle Bedeutung am ArbeitsplatzAuch abseits des Bewerbungsprozesses begleitet Künstliche Intelligenz Arbeitnehmer:innen, die unter Umständen gar nicht direkt mit der Technologie arbeiten. KI-Systeme, die vom Arbeitgeber im Hintergrund eingesetzt werden, sind eine Gefahr für den Datenschutz der Beschäftigten. Datenschutz klingt dabei erstmal abstrakt; viele Menschen sind der Meinung, sie hätten nichts zu verbergen.
„Man kann aber gar nicht abschätzen, wofür die Daten genutzt werden", warnt Anne Mollen, die für die Organisation Algorithm Watch und an der Universität Münster unter anderem zur Digitalisierung der Arbeitswelt und Künstlicher Intelligenz forscht. „Wenn die Algorithmen Beschäftigte überwachen, Daten über die Arbeitsleistung erheben und man auf dieser Grundlage dann über Kündigungen, Beförderungen, Gehälter entscheidet, wird jedem klar, dass der Datenschutz essenzielle Bedeutung hat."
KI soll im Management Prozesse optimieren und Vorhersagen treffenDas Ziel von algorithmischem Management sei es in der Regel, Prozesse zu optimieren und damit die Effizienz im Unternehmen zu steigern, erklärt Mollen. Das könne zunächst einmal rein beschreibend sein. „Um beispielsweise zu erkennen, wie die Altersverteilung im Betrieb ist, braucht man noch keine KI. Doch um Personalengpässe abteilungsbezogen frühzeitig vorhersagen zu können, wenn viele Beschäftigte in den Ruhestand oder wegen Kinderwunsch in Elternzeit gehen oder aufgrund von Krankheiten ausfallen könnten, sieht das gerade in großen Unternehmen schon ganz anders aus", so Mollen.
Darüber hinaus könne man mithilfe der Technologie auch Vorhersagen treffen, welche Teams für welches Projekt besonders gut zusammenarbeiten könnten oder wie ein optimaler Schichtplan aussehen muss. Auch, welche Arbeitnehmer:innen vielleicht demnächst kündigen und wer dem Arbeitgeber wie loyal gegenübersteht, könnte mithilfe von Algorithmen aus gesammelten Daten vorhergesagt werden.
------------------------------------------------------------------------------------
Künstliche Intelligenz wird das Arbeiten radikal automatisieren. Die FR-Serie „Künstliche Intelligenz in der Arbeitswelt" von Jana Ballweber untersucht Risiken dieser Technik - und wie man sie begrenzt.
Editorial zur Serie von FR-Chefredakteur Thomas Kaspar.
Einführung: KI von A bis Z - die wichtigsten Fakten.
Teil 1: KI und Kapitalismus. Künstliche Intelligenz verspricht, Arbeitsprozesse zu erleichtern, nutzt aber zuerst dem Kapitalismus. Es könnte auch anders sein.
Teil 2: KI im Einsatz: betroffene Branchen und Tätigkeiten, Folgen für die Löhne.
Teil 3: Bedeutung der Künstlichen Intelligenz für Gewerkschaften, Betriebsräte und Plattformwirtschaft.
Teil 4: Auswirkungen von KI auf Datenschutz und Gesundheit, Diskriminierung durch KI (etwa bei Bewerbungen).
Teil 5: Wie Digitalisierung gestaltet und die Mitbestimmung der Beschäftigten festgeschrieben werden kann.
----------------------------------------------------------------------------------
Im Endstadium würden algorithmische Entscheidungssysteme die Probleme nicht mehr nur erkennen, sondern gleich automatisch die geeigneten Gegenmaßnahmen umsetzen - die endgültige Auslagerung von unternehmerischen Entscheidungen an eine Software. Insbesondere in der Logistikbranche ist diese Technologie schon verbreitet. Wege, Fahrtzeiten, Pausen, Verkehrslage: All diese Faktoren können in Echtzeit analysiert und optimiert werden.
Obwohl viele dieser Anwendungen sinnvoll erscheinen, wirken sie sich in der Realität oft nachteilig auf die Beschäftigten aus. Das bestätigt Nico Dragano, Professor für medizinische Soziologie an der Uniklinik Düsseldorf. Er forscht dazu, welche Effekte zunehmende Digitalisierung in der Arbeitswelt auf die Gesundheit von Beschäftigten hat. „Digitale Arbeit geht oft mit einer Verdichtung der Arbeit und so mit steigender Arbeitsbelastung einher. Das haben viele Beschäftigte gerade in Zeiten von Corona festgestellt", berichtet Dragano. Diese Belastung könne zu Stress führen.
Und der sei eine Gesundheitsgefahr, so Dragano: „Stress hat eine ganze Reihe von körperlichen und psychischen Folgen. Depressionen, Burnout, Angststörungen, Herz-Kreislauf-Erkrankungen bis zum Infarkt, Muskel-Skelett-Erkrankungen: All das kann aus übermäßigem Stress resultieren." Dass schlechte Arbeit krank mache, wisse man schon lange. „Bei der KI kommt aktuell dann noch die Angst vor dem Ersetztwerden, die Angst vor Arbeitsplatzverlust hinzu", warnt Dragano.
Außerdem belaste die Undurchschaubarkeit der Anwendungen viele Beschäftigte, weil sie nicht abschätzen können, welche Folgen die Technologie für sie habe. Auch Autonomieverlust durch verstärkte Überwachung mache vielen am Arbeitsplatz zu schaffen.
Arbeitgeber müssen sich auch bei KI an den Arbeitsschutz haltenDabei sei es nicht zwangsläufig so, dass sich KI und Digitalisierung allgemein immer nur negativ auf Beschäftigte auswirken, sagt Dragano: „Es gibt seit den Achtziger Jahren Prinzipien gesunder Arbeitsgestaltung. Die lassen sich problemlos auch auf KI anwenden." Wichtig sei es zum Beispiel, dass Software und digitale Systeme gut und zuverlässig funktionieren, um den Stress, den sie erzeugen können, zu reduzieren.
Arbeitgeber müssten dazu gebracht werden, sich zuverlässig an die Vorgaben des Arbeitsschutzes zu halten und beispielsweise Folgenabschätzungen für die Gesundheit durchzuführen, bevor sie ein neues System einführen. Auch dass Beschäftigten Mitbestimmungsrechte bei der Einführung neuer Software eingeräumt werden, sei essenziell.
Künstliche Intelligenz: Die Komplexität der Anwendungsmöglichkeiten lässt Mitbestimmung erodierenDafür plädiert auch Anne Mollen: „Einer von drei Arbeitnehmer:innen in Deutschland weiß nicht, ob in seinem Betrieb automatisierte Entscheidungen auf ihn angewandt werden." Die europäischen Datenschutzgesetze schreiben eigentlich vor, dass Beschäftigte einwilligen müssen, bevor ihre Daten verarbeitet werden. „In der Realität ist es aber rechtlich bislang oft ein Graubereich", so Mollen. Das werde sich auch nicht ändern, bevor die Bundesregierung sich, wie im Koalitionsvertrag angekündigt, auf ein Gesetz zum Beschäftigtendatenschutz einigt.
Bis dahin und auch im Anschluss sei es wichtig, Betriebsräte und Gewerkschaften für das Thema zu sensibilisieren, fordert Mollen: „Wir sehen eine Erosion der betrieblichen Mitsprache durch die Komplexität technischer Systeme. Entscheidungsprozesse werden unsichtbar und an die Technik ausgelagert. Die Mitsprache kann auf der Strecke bleiben." Man müsse bei den Anwendungen selbst und bei ihrer Einführung im Unternehmen auf Transparenz bestehen. Denn nur so können Arbeitnehmervertreter:innen die Folgen einer Technik für die Beschäftigten abschätzen, die Einhaltung von Regeln und Gesetzen kontrollieren und KI-Anwendungen verhindern, die Gesundheit und Privatsphäre gefährden, diskriminieren oder nur den Kapitalinteressen der Arbeitgeber dienen.