Riesenecker-Caba ist studierter Betriebsinformatiker und Geschäftsführer bei der Forschungs- und Beratungsstelle Arbeitswelt (FORBA) in Wien. Er ist neben seiner Tätigkeit als Verantwortlicher für "Technikgestaltung und Datenschutz" bei FORBA auch als Lektor an der Fachhochschule St. Pölten und in vielen Fachgremien tätig. Wir haben ihn zum Interview getroffen.
Kann man sagen, was diese neue EU-Verordnung konkret für Arbeitnehmer:innen bedeutet? Ist das eher eine Herausforderung, oder?
Na ja, ganz grundsätzlich ist das Thema KI ja nicht neu. Also der Beginn der Diskussion rund um KI reicht über 70 Jahre zurück, also Ellen Touring mit seinem Touring-Test oder die erste Definition zum Thema KI, die stammt vom Ende der 1950er Jahre des letzten Jahrhunderts. Warum das Thema jetzt so plötzlich auf die Tagesordnung gekommen ist, hat vor allem mit den Sprachmodellen zu tun. Das, was man neudeutsch jetzt so unter ChatGPD versteht, dass durch die schnelle Datenverarbeitung und die vielen Informationen, die heutzutage für Informationssysteme zur Verfügung stehen, ist diesen Algorithmen, diesen Sprachmodellen irgendwie leicht möglich ist, menschliche Sprache zu simulieren. Und das führt natürlich in vielen Bereichen zu unterschiedlichen rechtspolitischen Fragen. Beginnend mit irgendwelchen Bilddateien, die gefaked sind bis hin zu Informationen, die keinen reinen Wahrheitsgehalt mehr haben. Und das hat die EU dazu veranlasst zu sagen, zum einen diese digitale Transformation ist wichtig, also diesen digitalen Prozess den darf man nicht aufhalten. Er muss aber in einem Rahmen stattfinden, wo die Bürgerinnen einfach geschützt sind vor Ausprägungen, die man nicht unbedingt haben möchte. Und das war so der Rechtsrahmen, warum es diese KI-Verordnung jetzt in diesem ganzen Regelwerk der EU gibt. Es ist ja eine Verordnung unter vielen, es gibt ja im Bereich der digitalen Agenda in der EU seit 10 oder 15 Jahren ganz unterschiedliche Initiativen, die Datenschutzgrundforderung im Bereich Netz- und Informationssicherheit, also Cyber Security und da ist Artificial Intelligence oder künstliche Intelligenz ein weiterer Baustein. Und was es für Arbeitnehmer, Arbeitnehmerinnen bedeutet, ist, dass gewisse Praktiken verboten sind. Zum Beispiel die Emotionserkennung am Arbeitsplatz ist verboten. Und ähnlich wie es die Datenschutzgrundverordnung macht, gibt es auch Bestimmungen in der KI-Verordnung zum Thema Profiling, dass also Menschen nicht ausschließlich einem technischen Bewertungsprozess unterzogen sind. Weil die Ergebnisse aus diesen KI-Anwendungen sind ja statistische Hochrechnungen, da wird damit Wahrscheinlichkeiten gerechnet und die Berechnungssystematik baut auf den Trainingsdaten auf. Das heißt, je schlechter die Trainingsdaten sind, mit denen ein Algorithmus trainiert wird Muster zu erkennen, desto schlechter sind auch mögliche Interpretationen in Bezug auf Qualifikationen von Arbeitnehmerinnen, um Potenziale im Entwicklungsbereich und da gibt es halt neben der Emotionserkennung auch das Verbot des Profilings. Und dann gibt es einen Bereich, der sich Hochrisiko-KI nennt und hier sind auch gewisse Maßnahmen drin, die das Personalmanagement betreffen. Da gibt es eine eigene Anlage zur KI-Verordnung, wo genau auf diese Bereiche Personalmanagement Bezug genommen wird, wo eben auch Themen aus der Arbeitswelt angesprochen werden, die besonderen Auflagen unterliegen.
Gibt es da ein konkretes Beispiel vielleicht, für diese Hochrisiko, die verboten sind?
Die KI könnte auf Basis einer Analyse von Datenpunkten, die ein Mitarbeiter oder eine Mitarbeiterin setzt, zur Erkenntnis kommen, es ist offensichtlich, dass diese Person kein großes Engagement mehr im Unternehmen hat. Also sie reagiert eher resignativ und das könnte eine Führungskraft dazu veranlassen, dass man sich von dieser Person trennt. Das Beispiel gibt es ja wirklich bei Amazon, wo sehr sehr sehr detailgetreu, sehr invasiv Tätigkeiten aufgezeichnet werden. Jetzt muss man bei dem Amazon-Beispiel natürlich dazu sagen, das kommt aus den USA, die haben einen ganz anderen Rechtsrahmen als hier in der EU, einen ganz anderen Zugang, eine ganz andere Arbeitskultur als das hier in unserer Mitteleuropäischen oder in der österreichischen Tradition zu sehen ist. Es gibt auch keine Betriebsräte bzw. nicht diese Mitwirkungsrechte, die Betriebsräte hier haben. Aber ich glaube man muss die KI-Verordnung im Gesamtkontext sehen, weil sie ja Pflichten für die Betreiber und Anwender von KI-Lösungen definiert und eigentlich nicht für die Betroffenen. Die Betroffenen werden geschützt, aber das werden sie auch über Bestimmungen der Datenschutzgrundverordnung und in Betrieben mit Betriebsrat hat natürlich der Betriebsrat aus dem Arbeitsrecht eine Vielzahl an Möglichkeiten hier Regelungen im Hinblick auf ein menschengerechtes Arbeiten zu vereinbaren.
Wie könnte sich die Arbeitswelt mittel und langfristig durch die künstliche Intelligenz oder durch den Einsatz der künstlichen Intelligenz verändern?
Die Arbeitswelt hat sich in den letzten Jahrzehnten schon massiv verändert. Also gerade die Pandemie war noch einmal so ein Digitalisierungsschub, wo viele Unternehmen auf Basis der räumlichen Abgrenzung in dem Bereich Teleararbeit, Videokonferenzen gegangen sind und in dem Bereich hat die Digitalisierung einfach schon viel Potenzial ausgeschöpft. Was in Zukunft dazu kommen wird, ist, dass wir immer leistungsstärkere Systeme bekommen, die natürlich sehr schnell große Datenmengen verarbeiten. Das war in der Vergangenheit, gab es da einfach Grenzen aus dem Bereich der Hardware, der Bandbreiten und natürlich auch der zugrunde liegenden Trainingsdaten, die in Beziehung gebracht werden konnten. Die Digitalisierung, die Nutzung von technischen Werkzeugen wird sicher mehr werden. Sie werden mehr in Arbeitssystemen Beschäftigte unterstützen. Der Diskurs geht ja in die Richtung, wie viele Arbeitsplätze werden durch Anwendungen der KI ersetzt. Da gibt es Horrorzahlen bis hin zu eher realistischen Einschätzungen, dass KI als Assistenzfunktion gewisse Arbeiten, Tätigkeiten unterstützen wird, aber nicht Menschen ersetzen wird. Weil KI, das sind statistische, mathematische Modelle, die auf Trainingsdaten versuchen, eine Wirklichkeit zu simulieren. Aber ob diese Wirklichkeit dann wirklich so real ist, das zeigt sich natürlich immer erst nach menschlicher Prüfung.
Und es besteht auch die Möglichkeit, dass Arbeitsplätze dadurch geschaffen werden.
Es werden jedenfalls Arbeitsplätze geschaffen werden. Das hat man in den bisherigen Stufen der Industrie in Revolution gesehen. Also der Diskurs, wie es früher geheißen hat, die elektronische Datenverarbeitung zu einer menschenleeren Fabrik führen wird, den hat es schon vor Jahrzehnten gegeben. Und was sich zeigt, es gibt Tätigkeiten, die fallen weg, weil sie hoch standardisiert sind und automatisiert werden können. Es gibt neue Tätigkeiten, also neue Arbeitsplätze, neue Beschäftigungen, wo sich vor 40 Jahren noch keiner Gedanken darüber gemacht hat, dass es die überhaupt gibt. Das heißt, es ist ein Transformationsprozess.
Wir finden uns gerade neu, oder?
Es wird Bereiche geben, wo wir uns neu finden und es wird da viele Bereiche geben, wo es eine gewisse Enttäuschung geben wird, also dass die Hoffnung groß war, da kann KI unsere Probleme lösen und wir werden am Ende des Tages darauf kommen. Es ist nicht der Fall.
Zum umgekehrten Fall. Gibt es Branchen oder Berufsgruppen, die sich jetzt vielleicht denken, mit KI habe ich gar nichts am Hut, die das noch unterschätzen und wo das aber dann sehr relevant werden könnte?
Das wird es jedenfalls geben. Ich denke gerade, im handwerklichen Bereich kann es durchaus Tätigkeiten geben, die in 15 Jahren anders ausschauen, weil sie durch digitale Werkzeuge begleitet werden. Wo es vielleicht dann Vorschläge im Bereich auf Abläufe und Optimierung gibt. Die Frage, die sie natürlich auch bei vielen Tätigkeiten stellt, was wir im Produktions- und Dienstleistungsbereich, vor allem im Kommunikationsbereich bei Call Center sehen, wenn Tätigkeiten sehr genau digital aufgezeichnet werden, dann gibt es natürlich Rationalisierungspotenziale, diese Prozesse zu beschleunigen, zu optimieren, mit Technik zu unterstützen und das könnte dann durchaus auch in Bereichen der Fall sein, die derzeit noch mit sehr wenigen technischen Werkzeugen ausgestattet sind. Also ich denke gerade an Bereiche wie die Reinigung, wo noch sehr viel manuelle Tätigkeit vorgenommen wird, aber diese manuelle Tätigkeit wird mit Maschinen durchgeführt, die digital aufgerüstet werden. Die über Sensorik, über andere externe Einflussfaktoren Informationen sammeln werden über Tätigkeiten und dann natürlich Optimierungspotenziale offenlegen werden.
Oder der Saugroboter beziehungsweise der automatische Rasenmäher, den es jetzt schon gibt.
Ja, im Consumerbereich gibt es schon sehr viel, da wird es sicher auch weitere Entwicklung geben aber der Kühlschrank, der automatisiert Milch, Eier oder Butter bestellt, wurde schon vor zehn Jahren propagiert, hat sich jedoch nicht etabliert. Da ist in der Zwischenzeit ein realistischer Zugang eingetreten, wo es wirklich sinnvoll ist, diese Technologien zu nützen. Ich denke man muss es austesten. Gerade die Einführung des Smartphones hat auch gezeigt, wie nachhaltig unsere Lebens- und Arbeitswelten verändert worden sind. Wie sich plötzlich unser Kommunikationsverhalten verändert hat, wie auch Jugendliche mit diesen Werkzeugen umgehen. Es wäre vor 20 oder 25 Jahre völlig unvorstellbar gewesen, dass es sich in diese Richtung entwickelt, der Medienkonsum über diese Geräte bei drei bis fünf Stunden pro Tag liegt. Man bemerkt jetzt auch wieder Rückschritte, gerade wird ein Diskurs darüber geführt, ob das Smartphone in Schulen noch verwendet werden darf oder sollte. Es ist sicher notwendig wieder ein bisschen zu reduzieren und nicht weiter in die Richtung zu gehen ,wir machen das alles über e-Learning‘.
»Wenn der Faktencheck weg fällt bei den großen SocialMedia-Portalen, dann stellt man sich natürlich die Frage, was ist da der Hintergrund?«
Thomas Riesenecker-Caba
Geschäftsführer FORBA
Wie können Unternehmen und Arbeitnehmer zugleich gleichsam sicherstellen, dass der Mensch trotz dieser Automatisierung weiterhin eine zentrale Rolle spielt im Arbeitsleben?
Ich glaube hier kommt Betriebsräten auch eine wichtige Rolle zu, die einfach aus der Arbeitsverfassung heraus eine Menge an Partizipationsmöglichkeiten haben und diese unbedingt nutzen müssen. Und es wird notwendig sein, auch für die betriebliche verantwortlichen Abseits dieser Marktschreier aus der IT-Industrie ein bisschen realistisch an das Thema heranzutreten, zu überlegen wo kann es wirklich Vorteile bringen und wo ist es vielleicht eine Sackgasse.
Welche Arten von Schulungen sind dann mit dieser Verordnung vorstellbar oder was muss jetzt an konkreten Schritten passieren, damit wir die Arbeitnehmerschaft KI-ready machen?
Die digitalen Fähigkeiten werden immer wichtiger, es ist nicht erst durch den KI-Diskurs offensichtlich geworden Fragen zu stellen, nach dem digitalen Lernen und dem richtigen Umgang mit diesen Werkzeugen. Diese Diskussion ist schon vor 10, 15, 20 Jahren geführt worden und es wird wichtiger werden, Kompetenzen zu entwickeln, wie man diese Werkzeuge als Hilfe nützen kann. Gleichzeitig zu erkennen, wo haben sie das Potenzial süchtig zu oder abhängig zu machen, das betrifft zwar weniger den beruflichen, sondern primär den privaten Kontext. Das heißt, die Gefahr ist relativ groß, dass man sich immer mehr auf diese digitalen Werkzeuge verlässt und damit Fähigkeiten verliert, die früher selbstverständlich waren, beispielsweise wie komme ich von A nach B? Auch bei vielen Online-Diensten sehe ich Probleme auf uns zukommen, weil viele sich Triggern lassen von Meldungen, die man aus den sozialen Netzwerken bekommt. Da sehe ich auch eine große Gefahr, bei der populistische Politik, die ja heute schon gemacht wird. Die Frage, wo ist Medienkonsum noch prüfbar, wie vergewissere ich mich, was echt ist, also wenn der Faktencheck weg fällt bei den großen Portalen, dann stellt man sich natürlich die Frage, was ist da der Hintergrund?
Gibt es Unternehmen, die von dieser Verpflichtung ausgenommen sind?
Grundsätzlich ist es so, dass die KI-Verordnung für Anbieter und Betreiber gewisse Pflichten definiert, in Bezug auf Mitarbeitende, die mit diesen Werkzeugen arbeiten, dass die geschult sein müssen. Wie das konkret umgesetzt wird in den unterschiedlichen Branchen, in den unterschiedlichen Betriebsgrößen, muss man sagen, da stehen wir noch ziemlich am Anfang. Ich erinnere nur an die Datenschutzgrundforderung, die seit 2018 wirksam ist und nach sieben Jahren viele Themen noch rechtspolitisch zu diskutieren sind. Die Interpretation dieser EU-Richtlinien, findet primär über Gerichte statt und über Urteile, wo dann anhand eines Einzelfalls versucht wird, das abzuleiten. Aber ich denke, die Firmen sind gut beraten, sich darüber Gedanken zu machen, wo diese Werkzeuge eingesetzt werden. Sie sind gut beraten, allen interessierten Beschäftigten die Möglichkeit zur Weiterbildung zu geben. Weil sie andernfalls große Gefahr laufen, dass eine Schatten-KI ins Unternehmer-Einzug hält, dass diese Werkzeuge dann genutzt werden von den großen Anbietern, die mit den Daten, die wir in diese Werkzeuge einpflegen arbeiten und die Gefahr, dass hier Betriebs- und Geschäftsgeheimnisse abfließen. Da gibt es einige Beispiele. Die Firma Samsung hat das sehr anschaulich dokumentiert, wo in drei bekannt gewordenen Fällen sehr kritische betriebliche Informationen abgeflossen sind. Weil Beschäftigte im Unwissen KI-Lösungen genutzt haben von privaten Anbietern und nicht über eine Firmenlizenz. Also das würde ich als den wichtigsten Punkt sehen, dass Firmen es annehmen und anerkennen, dass es wichtig ist allen Mitarbeitenden diese Chance zu geben und nicht auf Basis von Hierarchie oder Stellung oder Bedeutung im Unternehmen. Weil sie sonst Gefahr laufen, dass die Schatten-KI mehr wird als sie eh schon ist.
Können Arbeitnehmer:innen für Fehler oder falsche Entscheidungen, die auf Grundlage von KI getroffen werden, können die haftbar gemacht werden?
Dazu muss man glaube ich ein bisschen weiter ausführen. Zum einen ist immer die Frage, hat sich eine Organisation schon mit der Problematik des Einsatzes von KI auseinandergesetzt? Die österreichische Arbeitsverfassung sieht hier ein Rechtsinstrument vor, das nennt sich IT-Policy oder eine Ordnungsvorschrift. Das heißt, gibt es schon klare Spielregeln in einer Organisation, wie denn diese Werkzeuge zu nutzen sind. Das wäre so ein Ankerpunkt, anhand dem man das irgendwie festmachen könnte. Wenn es diese Ordnungsvorschrift gibt, wenn es Schulungsmaßnahmen gibt, wenn in diesen Ordnungsvorschriften steht, es dürfen keine Ergebnisse ohne menschliche Prüfung nach außen getragen werden, und jemand bewusst oder mit Vorsatz dagegen verstößt, dann kann das Konsequenzen haben. Da kommt das Dienstnehmerhaftpflichtgesetzes ins Spiel, das regelt, wann ein Dienstnehmer oder eine Dienstnehmerin für eine Verfehlung belangt werden kann. Und da geht man in der Rechtsinterpretation von Fahrlässigkeit, grober Fahrlässigkeit oder Vorsatz aus. Und das wäre natürlich dann immer im Einzelfall zu prüfen.
Also im Prinzip verändert sich nichts dadurch, dass es KI gibt, sondern es ist wie auch schon in der Vergangenheit.
Es könnte den Unternehmen schon zum Vorwurf gemacht werden, wenn sie ihren Verpflichtungen nicht nachkommen, nämlich der Schulung und der Prüfung der verwendeten Infrastruktur und auf Basis dessen zum Beispiel Kundendaten in ein öffentliches KI-System eingespielt werden.
Welche Rolle können Gewerkschaften und Betriebsräte in dieser Gestaltung der KI-Weiterbildungspflicht einnehmen?
Meine Empfehlung ist es, allen Beschäftigten, die es wünschen, zu ermöglichen in einer gesicherten, betrieblichen Infrastruktur Erfahrungen zu sammeln. Dass ist, glaube ich, ein zentraler Punkt auch für die Weiterentwicklung jeder Organisation. Dass hier Betriebsräte die Rolle einnehmen können, darauf zu drängen, das zu tun und in diesem Kontext einfach Prozesse definieren. Wie zum Beispiel Rückmeldungen aus den unterschiedlichen Bereichen kommen können. Also wenn eine Organisation nur im Bereich der IT-Abteilung mit KI-Lösungen experimentiert, aber die ganzen anderen Bereiche außen vorlässt, dann ist das aus meiner Sicht grob fahrlässig.
Bildung
Im Interview warnt Professorin Phoebe V. Moore vor der Verwechslung von künstlicher mit menschlicher Intelligenz und betont die Risiken der übermäßigen Datensammlung am Arbeitsplatz. Sie plädiert für mehr Skepsis gegenüber KI und fordert, den Menschen statt der Technologie in den Mittelpunkt zu stellen.
Deine Rechte
Wichtige Infos auf Mausklick:
© 2025 AK Vorarlberg | Widnau 4, 6800 Feldkirch | +43 (0) 50 258
