Riesenecker-Caba ist studierter Betriebsinformatiker und Geschäftsführer bei der Forschungs- und Beratungsstelle Arbeitswelt (FORBA) in Wien. Bei FORBA ist er für den Bereich "Technikgestaltung und Datenschutz" verantwortlich und berät seit 35 Jahren Betriebsräte bei der datenschutzrechtlichen Gestaltung von IT-Systemen.
Wir haben ihn zum Interview getroffen.
Kann man sagen, was diese neue EU-Verordnung konkret für Arbeitnehmer:innen bedeutet? Ist das eine neue Herausforderung?
Grundsätzlich ist das Thema KI nicht neu. Der Beginn der Diskussion reicht über 70 Jahre zurück, als beispielsweise Alan Turing mit seinem Turing-Test ein Verfahren vorstellte, das prüfte, ob Maschinen menschliche Intelligenz erreichen können. Auch die erste Definition zum Thema KI stammt vom Ende der 1950er Jahre des letzten Jahrhunderts. Warum das Thema jetzt plötzlich wieder auf die Tagesordnung gekommen ist, hat vor allem mit den Sprachmodellen wie ChatGPT zu tun. Durch die schnelle Datenverarbeitung und die vielen Informationen, die heutzutage für das Training dieser Modelle zur Verfügung stehen, ist es Algorithmen oder Sprachmodellen leichter möglich, menschliche Sprache zu imitieren und neue Texte oder Bilder zu generieren. Und das führt natürlich in vielen Bereichen zu unterschiedlichen rechtspolitischen Fragen. Beginnend mit Bilddateien, deren mögliche Echtheit nicht geprüft werden kann, bis hin zu KI-generierten Informationen, die unter Umständen falsche Angaben beinhalten. Diese verschiedenen Entwicklungen im Bereich der KI hat die EU dazu veranlasst, auf einen menschengerechten Ansatz der digitalen Transformation hinzuweisen. Die technische Weiterentwicklung kann man nicht aufhalten, sie hat jedoch in einem Rahmen stattzufinden, in dem die Rechte der betroffenen Bürger:innen oder Arbeitnehmer:innen geschützt sind. Das ist einer der Hauptgründe für die KI-Verordnung als ein neuen Regelwerk der EU. Sie ist dabei eine Verordnung unter vielen, es gibt im Bereich der digitalen Agenda der EU seit mehr als einem Jahrzehnt unterschiedliche Initiativen. Die Datenschutzgrundverordnung ist hier die bekannteste, weitere Regelungen sind im Bereich Netz- und Informationssystemsicherheit, also Cyber-Security zu finden und nun Artificial Intelligence bzw. künstliche Intelligenz. In der KI-Verordnung ist im Beschäftigungskontext unter anderem geregelt, dass gewisse Praktiken der Verarbeitung verboten sind. So ist zum Beispiel die Emotionserkennung am Arbeitsplatz verboten. Und ähnlich wie in der Datenschutzgrundverordnung, gibt es auch in der KI-Verordnung Bestimmungen zum Thema Profiling, sodass Menschen nicht ausschließlich einem technischen Bewertungsprozess unterzogen werden dürfen. Denn die Ergebnisse aus den KI-Anwendungen sind oft statistische Berechnungen, was bedeutet, dass mit Wahrscheinlichkeiten gerechnet wird, die auf einer Vielzahl an Trainingsdaten beruhen. Das heißt, je schlechter die Trainingsdaten sind, mit denen ein Algorithmus trainiert wird, desto schlechter sind auch die Ergebnisse, wie zum Beispiel mögliche Interpretationen in Bezug auf die Qualifikationen von Arbeitnehmer:innen. Und hier setzt auch ein weiterer Regelungsbereich an, der sich Hochrisiko-KI nennt. In diesem Bereich werden auch Praktiken angesprochen, die das Personalmanagement betreffen. In einer eigenen Anlage zur KI-Verordnung werden Themen des Personalmanagements angesprochen, die besonderen Auflagen unterliegen.
Gibt es ein konkretes Beispiel, für die Hochrisiko-KI, die verboten ist?
Verboten ist Hochrisiko-KI nicht, aber sie unterliegt besonderen Prüf- und Dokumentationspflichten. Eine Hochrisiko-KI könnte auf Basis einer Analyse von Aktivitäten, die ein Mitarbeiter oder eine Mitarbeiterin in den verschiedenen technischen Systemen setzt, zum Ergebnis kommen, dass diese Person kein großes Engagement im Unternehmen zeigt. Die Interpretation der Daten käme somit zum Schluss, dass diese Person passiv agiert und das könnte eine Führungskraft dazu veranlassen, sich von dieser Person zu trennen. Dieses Beispiel stammt von einem US-Standort von Amazon, wo sehr genau und sehr invasiv Tätigkeiten der Mitarbeitenden aufgezeichnet und kontrolliert werden. Hier muss man natürlich anmerken, das passiert in den USA, mit einem anderen Rechtsrahmen und mit einer anderen Arbeitskultur als hier in Europa bzw in Österreich. Es gibt in den USA keine Betriebsräte bzw. nicht diese Mitwirkungsrechte, die Betriebsräte in Österreich besitzen.
Die KI-Verordnung ist in ihrem Gesamtkontext zu sehen, sie definiert Pflichten für die Betreiber und Anwender von KI-Lösungen definiert. Die Betroffenen sollen geschützt werden, wie dies auch über Bestimmungen der Datenschutzgrundverordnung und des Arbeitsrechts bereits erfolgt. In Betrieben mit Betriebsrat hat dieser dabei eine Vielzahl an Möglichkeiten, Regelungen im Hinblick auf ein menschengerechtes Arbeiten zu vereinbaren.
Wie könnte sich die Arbeitswelt mittel- und langfristig durch den Einsatz der künstlichen Intelligenz verändern?
Die Arbeitswelt hat sich in den letzten Jahrzehnten und den technischen Entwicklungen schon massiv verändert. Und die Pandemie war noch einmal ein Digitalisierungsschub, bei dem viele Unternehmen Telearbeit und technische Systeme für Videokonferenzen einführten. Was in Zukunft dazu kommen wird, ist, dass wir mit immer leistungsstärkeren Systeme arbeiten, die sehr rasch große Datenmengen verarbeiten und analysieren können. Das war in der Vergangenheit nicht so, da gab es Grenzen im Bereich der Hardware und der Bandbreiten in der Übermittlung von Information und natürlich auch bei den zugrunde liegenden Trainingsdaten für KI-Anwendungen. Die Digitalisierung schreitet weiter voran, die Nutzung von technischen Werkzeugen wird steigen. KI-Systeme werden Beschäftigte in ihren Arbeitsfeldern unterstützen. Der derzeit geführte Diskurs geht in die Richtung, wie viele Arbeitsplätze durch Anwendungen der KI ersetzt werden. Da gibt es sowohl Horrorzahlen, als auch realistischere Einschätzungen, dass die KI in ihrer Assistenzfunktion Arbeiten ersetzen und Tätigkeiten unterstützen, aber nicht den Menschen ersetzen wird.
KI-Systeme beruhen auf statistischen, mathematischen Modellen, die auf Basis von betrieblichen Aufzeichnungen und Trainingsdaten versuchen, eine Wirklichkeit zu simulieren. Aber ob das Ergebnis dann wirklich so passend ist, zeigt sich immer erst nach menschlicher Prüfung.
Und besteht auch die Möglichkeit, dass Arbeitsplätze dadurch geschaffen werden?
Es werden jedenfalls neue Arbeitsplätze geschaffen werden. Das hat man auch in den bisherigen Stufen der industriellen Revolution gesehen. Die Diskussion, dass die Informationstechnologie, früher als elektronische Datenverarbeitung bezeichnet, zu menschenleeren Fabrik führen wird, hat es schon vor Jahrzehnten gegeben. Und es zeigte sich, es gibt Tätigkeiten, die wegfallen, weil sie hoch standardisiert sind und automatisiert werden können. Es sind aber auch neue Tätigkeiten und neue Arbeitsplätze entstanden, die vor 40 Jahren noch unvorstellbar gewesen wären. Es ist ein Transformationsprozess.
Wir finden uns gerade neu, oder?
Es wird Anwendungsbereiche geben, die für uns neu sind, aber es wird auch Bereiche geben, wo es Enttäuschungen geben wird, und wir feststellen müssen, dass die Hoffnung zu groß war, dass die KI unsere Probleme lösen wird.
Zum umgekehrten Fall. Gibt es Branchen oder Berufsgruppen, die sich jetzt vielleicht denken, mit KI habe ich gar nichts am Hut, die das noch unterschätzen und wo das aber dann sehr relevant werden könnte?
Die wird es jedenfalls geben. Ich denke gerade an den handwerklichen Bereich und die Baubranche, hier kann es durchaus Tätigkeiten geben, die in 15 Jahren anders aussehen, weil sie durch digitale Werkzeuge unterstützt werden und wo die KI zum Beispiel Vorschläge zur Optimierung von Abläufen geben wird. Eine Frage, die sich bei vielen Tätigkeiten stellt, ist, wie schon besprochen, das mögliche Rationalisierungspotenzial. Wie kennen das bereits aus Erfahrungen des Produktions- und Dienstleistungsbereiches, zum Beispiel beim Kunden:innen-Kontakt im Call Center, wo Tätigkeiten sehr genau digital aufgezeichnet werden. Dadurch entsteht ein Rationalisierungspotenzial, diese Prozesse zu beschleunigen, zu optimieren und mit Technik zu unterstützen. Das könnte künftig auch in Bereichen der Fall sein, die derzeit mit sehr wenigen technischen Werkzeugen ausgestattet sind. Ich denke an Bereiche wie die Reinigung, wo noch sehr viel manuelle Tätigkeit vorgenommen wird, aber diese manuelle Tätigkeit wird mit Maschinen unterstützt, die digital aufgerüstet werden, die über Sensorik und andere externe Einflussfaktoren Informationen über die Tätigkeiten der Bediener:innen sammeln werden und somit natürlich Optimierungspotenziale offenlegen werden.
Oder der Saugroboter beziehungsweise der automatische Rasenmäher, den es jetzt schon gibt.
Im Konsumentenbereich gibt es schon viele Angebote, da wird es sicher auch weitere Entwicklung geben, aber der Kühlschrank, der automatisiert Milch, Eier oder Butter bestellt, der schon vor zehn Jahren diskutiert wurde, hat sich nicht durchgesetzt. Hier ist in der Zwischenzeit ein realistischerer Zugang entstanden, Smart-Home-Technologien zu nutzen.
Gerade die Einführung des Smartphones hat gezeigt, wie nachhaltig unsere Lebens- und Arbeitswelten verändert worden sind. Wie sich plötzlich unser Kommunikationsverhalten verändert hat, wie Jugendliche anders als ältere Generationen mit diesen Werkzeugen umgehen. Es wäre vor 20 Jahre schwer vorstellbar gewesen, dass der Medienkonsum mit diesen Geräten bei fünf Stunden pro Tag liegt.
»Wenn der Faktencheck weg fällt bei den großen SocialMedia-Portalen, dann stellt man sich natürlich die Frage, was ist da der Hintergrund?«
Thomas Riesenecker-Caba
Geschäftsführer FORBA
Wie können Unternehmen und Arbeitnehmer sicherstellen, dass der Mensch trotz dieser Automatisierung weiterhin eine zentrale Rolle im Arbeitsleben spielt?
Hier fällt Betriebsräten eine wichtige Rolle zu, die aufgrund der Bestimmungen der Arbeitsverfassung Partizipationsmöglichkeiten besitzen und diese unbedingt nutzen müssten. Und es wird auch für die betriebliche Verantwortlichen notwendig sein, abseits der Verkäufer aus der IT-Industrie, die das Blaue vom Himmel versprechen, ein wenig realistischer an das Thema heranzugehen und kritisch abzuwägen, wo Digitalisierung und die Nutzung von KI-Systemen Vorteile bringen und wo nicht.
Welche Arten von Schulungen sind nach der KI-Verordnung vorstellbar oder was muss jetzt an konkreten Schritten passieren, damit wir die Arbeitnehmerschaft KI-ready machen?
Digitalen Fähigkeiten werden immer wichtiger, dies ist nicht erst durch den KI-Diskurs offensichtlich geworden. Diese Diskussion wird schon seit 20 Jahren geführt und es wird wichtiger werden, technische Kompetenzen zu entwickeln, wie man diese Werkzeuge als Hilfsmittel nützen kann.
Gleichzeitig muss der private Umgang betrachtet werden, wo haben diese Werkzeuge das Potenzial süchtig oder abhängig zu machen. Das heißt, die Gefahr ist groß, dass man sich immer mehr auf diese digitalen Werkzeuge verlässt und damit Fähigkeiten verliert, die früher selbstverständlich waren, beispielsweise wie komme ich von A nach B? Bei Social-Media-Anwendungen sehe ich Herausforderungen auf uns zukommen, weil viele Nutzer:innen sich schon heute über personalisierte Meldungen triggern lassen, die man aus der eigenen Blase der sozialen Netzwerke erhält. Hier sehe ich eine große Gefahr, wie wir dies anhand von Beispielen aus der populistische Politik bereits erkennen. Die Frage, wo sind Medieninhalte noch prüfbar, wie vergewissere ich mich, was real oder echt ist, also wenn jetzt der Faktencheck bei den großen Social-Media-Portalen wegfällt, dann stellt man sich natürlich die Frage, was ist da der Gedanke im Hintergrund?
Gibt es Unternehmen, die von der Verpflichtung der KI-Kompetenzentwicklung ausgenommen sind?
Die KI-Verordnung definiert, in Bezug auf die Mitarbeitenden, die mit diesen Werkzeugen arbeiten, Pflichten für Anbieter und Betreiber, diese Nutzer:innen zu schulen. Wie das konkret in den unterschiedlichen Branchen und Betrieben umgesetzt wird, da stehen wir noch ziemlich am Anfang. Ich erinnere an die Datenschutzgrundverordnung, die zwar seit 2018 wirksam ist, aber auch nach sieben Jahren werden einzelne Themen noch rechtspolitisch diskutiert. Eine Interpretation der einzelnen Bestimmungen dieser EU-Richtlinien und Verordnungen, findet schlussendlich auch über Gerichte statt und deren veröffentlichte Entscheidungen, wo dann anhand eines Einzelfalls versucht wird, allgemeine Regeln abzuleiten. Firmen sind jedenfalls gut beraten, sich darüber Gedanken zu machen, wo KI-Werkzeuge sinnvoll eingesetzt werden können. Sie sind gut beraten, allen interessierten Beschäftigten die Möglichkeit zur Nutzung und Weiterbildung zu geben. Weil Betriebe andernfalls Gefahr laufen, dass eine Schatten-KI ins Unternehmen Einzug hält. Mitarbeitende suchen, wenn es keine betrieblichen Angebote gibt, nach Unterstützung im Internet und nutzen die Werkzeuge von den großen Anbietern, die Informationen und Daten, die wir in diese Werkzeuge einpflegen, auch zu eigenen Zwecken weiterverarbeiten. Die Gefahr ist dann dabei groß, dass neben personenbezogenen Daten auch Betriebs- und Geschäftsgeheimnisse abfließen. Da gibt es einige Beispiele aus der jüngsten Vergangenheit: Die Firma Samsung war mit dem Problem konfrontiert, wobei in drei bekannt gewordenen Fällen sehr kritische betriebliche Informationen abgeflossen sind. Beschäftigte nutzten in Unwissenheit der Geschäftsführung KI-Lösungen über private Lizenzen, bei denen wir mit unseren Daten „bezahlen“, und nicht über eine Firmenlizenz, wo die Daten vertraglich besser geschützt sind. Hier würde ich einen der wichtigsten Punkt sehen, dass Firmen sich des Themas KI und Kompetenzentwicklung annehmen und anerkennen, dass es wichtig ist, allen Mitarbeitenden diese Chance zur Nutzung zu geben und nicht nur auf Basis von Hierarchie oder Funktion im Unternehmen. Weil sie sonst Gefahr laufen, dass die Schatten-KI mehr wird, als sie es heute schon ist.
Können Arbeitnehmer:innen für Fehler oder falsche Entscheidungen, die auf Grundlage von KI getroffen werden, haftbar gemacht werden?
Dazu muss man etwas ausholen. Zum einen ist immer zuerst die Frage zu stellen, ob sich eine Organisation schon mit der Problematik des Einsatzes von KI auseinandergesetzt hat. Gibt es dazu bereits eine IT-Policy oder eine Ordnungsvorschrift? Das heißt, gibt es schon klare Spielregeln in einer Organisation, wie diese Werkzeuge zu nutzen sind. Das wäre ein erster Ansatzpunkt. Wenn es diese Ordnungsvorschrift und Schulungsmaßnahmen gibt, wenn geregelt ist, dass keine Ergebnisse ohne menschliche Prüfung nach außen getragen werden dürfen, und jemand bewusst oder mit Vorsatz dagegen verstößt, dann kann das durchaus Konsequenzen haben. Hier kommt das Dienstnehmerhaftpflichtgesetz ins Spiel, das regelt, in welchen Fällen ein Dienstnehmer oder eine Dienstnehmerin für eine Verfehlung belangt werden kann. Dies wird vor allem in Fällen von grober Fahrlässigkeit oder Vorsatz zu diskutieren sein und ist natürlich im Einzelfall zu prüfen.
Also im Prinzip verändert sich nichts dadurch, dass es nun vermehrt KI gibt, sondern es ist wie auch schon in der Vergangenheit zu behandeln.
In den Grundzüge, ja. Es kann einem Unternehmen jedoch schon zum Vorwurf gemacht werden, wenn sie ihren Verpflichtungen zur Kompetenzentwicklung nicht nachkommen, und aufgrund fehlender Schulung der Nutzer:innen und Prüfung der verwendeten Anwendungen, zum Beispiel Kundendaten in ein öffentliches KI-System eingespielt werden.
Also im Prinzip verändert sich nichts dadurch, dass es KI gibt, sondern es ist wie auch schon in der Vergangenheit.
Es könnte den Unternehmen schon zum Vorwurf gemacht werden, wenn sie ihren Verpflichtungen nicht nachkommen, nämlich der Schulung und der Prüfung der verwendeten Infrastruktur und auf Basis dessen zum Beispiel Kundendaten in ein öffentliches KI-System eingespielt werden.
Welche Rolle können Gewerkschaften und Betriebsräte in dieser Gestaltung der KI-Weiterbildungspflicht einnehmen?
Meine Empfehlung ist es allen Beschäftigten, die es wünschen, die Möglichkeit zu bieten in einer gesicherten, betrieblichen Infrastruktur Erfahrungen mit KI zu sammeln. Das ist, wie bereits mehrfach betont, ein zentraler Punkt auch für die Weiterentwicklung jeder Organisation. Betriebsräte nehmen in diesem Zusammenhang eine wichtige Rolle ein, indem sie auch darauf zu drängen, das zu tun. Wenn eine Organisation nur im Bereich der IT-Abteilung mit KI-Lösungen experimentiert, aber die ganzen anderen Bereiche außen vorlässt, dann ist das aus meiner Sicht fahrlässig.
Bildung
Im Interview warnt Professorin Phoebe V. Moore vor der Verwechslung von künstlicher mit menschlicher Intelligenz und betont die Risiken der übermäßigen Datensammlung am Arbeitsplatz. Sie plädiert für mehr Skepsis gegenüber KI und fordert, den Menschen statt der Technologie in den Mittelpunkt zu stellen.
Deine Rechte
Wichtige Infos auf Mausklick:
© 2025 AK Vorarlberg | Widnau 4, 6800 Feldkirch | +43 (0) 50 258
