Künstliche Intelligenz: Der Mensch muss entscheiden

In neuen digitalen Systemen sind immer öfter sogenannte KI-Anwendungen integriert. Von KI spricht man, wenn Computer nicht nur Daten auswerten (nach von Menschen vordefinierten Rahmenbedingungen und Annahmen), sondern auch selbst lernen, welche Informationen für eine Entscheidung relevant sind.

Videoüberwachung der Amazon-FahrerInnen

Ein negatives Beispiel für ein digitales System mit KI, das aktuell für Aufsehen in der Öffentlichkeit sorgt, stammt von Amazon in den USA:  Vier Kameras in den Amazon-Autos filmen sowohl die FahrerInnen als auch die Straße. Die Beschäftigten werden bei bestimmten Ereignissen (z. B. Abstand halten, Telefonieren am Steuer) zu Verhaltensänderungen aufgefordert. Die Videos werden zu 100 Prozent gespeichert. Zusätzlich werden in 16 vordefinierten Fällen (z. B. bei Fahrfehlern, bei hartem Bremsen, bei erkennbarer Müdigkeit) automatische Uploads durchgeführt, die für Auswertungen im Hintergrund verwendet werden.
Diese Kontrollmaßnahmen verletzen die Menschenwürde und sind nicht mit unserem Datenschutz- und Arbeitsrecht kompatibel. Mit dem Argument der Sicherheit wird eine Lösung gewählt, bei der der gesamte Arbeitsablauf und das gesamte Verhalten der Beschäftigten automatisch überwacht und gesteuert werden.

Eine Systemgestaltung, die sich am Menschen orientiert, sollte die Selbstbestimmung der ArbeitnehmerInnen unterstützen und etwa FahrerInnen in Gefahrensituationen warnen.

Extensive Verhaltensanalyse bei Microsoft

KI findet sich auch in handelsüblicher Bürosoftware, die wir (fast) alle nutzen. So werden etwa im Office-Paket Microsoft 365 sämtliche NutzerInnendaten gesammelt, verknüpft und ausgewertet.

Aus diesen Verhaltensprofilen leitet Microsoft Empfehlungen für „produktiveres Arbeiten“ ab:

• „Low Quality Meeting“, wenn TeilnehmerInnen während des Meetings E-Mails verschicken,
• „abgelenkte TeilnehmerInnen“, wenn Terminkollisionen im Kalender eingetragen sind,
• „ineffizientes E-Mail-Verfassen“, wenn von der Standardzeit abgewichen wird.

Welche Kriterien und Annahmen dafür im Hintergrund verwendet werden, wird nicht offengelegt. Die von Microsoft verwendeten Kennzahlen sind umstritten und gelten vielfach als fragwürdig. Der Einsatz der Analytics-Funktionen sollte daher mittels Betriebsvereinbarung ausgeschlossen werden. Mehr dazu findet sich in der neuen GPA-Broschüre „Die wunderbare Welt von Microsoft und wie der Betriebsrat sie mitgestalten kann“, die auf der Website der GPA downloadbar ist.

Es braucht klare Regeln auf kollektiver Ebene, um den Grundsatz, dass der Mensch entscheidet, durchsetzen zu können. KI im Betrieb erfordert im Vergleich zu den bereits bekannten „Digitalisierungsprozessen“ die Einbindung der Beschäftigten und der Betriebsratskörperschaften in weit größerem Ausmaß.