Wir haben die Warnungen von Yuval Noah Harari gehört, dass, wenn wir nicht herausfinden, wie wir künstliche Intelligenz (KI) regulieren können, menschliche Gehirne werden bald gehackt”, eine Aussage, die wohl die schlimmsten Befürchtungen der Menschheit in Bezug auf KI anspricht. Dies gilt möglicherweise insbesondere, wenn man von Schwabs Berater Harari hört, dass „einen Menschen zu hacken bedeutet, diese Person besser kennenzulernen, als sie sich selbst kennt“, was es den Besitzern der Technologie ermöglichen kann, uns zunehmend zu manipulieren.

Wir glauben vielleicht, dass diese extreme Bedrohung unserer Privatsphäre irgendwann in der Zukunft eintreten wird, aber das Hacking, das Harari beschreibt, ist eher sprichwörtlich als wörtlich und findet bereits in Umgebungen wie Facebook und Youtube Hier werden wir dazu gebracht, Inhalte anzuzeigen, die die Algorithmen als für uns interessant erachten. Mittlerweile scheint es, als seien viele Menschen gegenüber Hacking und Manipulation allmählich desensibilisiert, sodass diese ohne allzu große Proteste zunehmen.

Aber wie würden Sie sich fühlen, wenn Ihr Arbeitsplatz Ihre Gefühle verfolgen würde? fragt Nazanin Andalibi Er ist Assistenzprofessor für Informationswissenschaften an der University of Michigan und diskutiert im folgenden Artikel die Emotions-KI, die bereits am Arbeitsplatz eingesetzt wird.

Emotions-Tracking – KI am Arbeitsplatz: Arbeitnehmer haben Angst, beobachtet – und missverstanden zu werden.

By Nazanin Andalibi

Künstliche Intelligenz für Emotionen verwendet biologische Signale Wie Stimmlage, Gesichtsausdruck und Daten von tragbaren Geräten sowie Text und die Art und Weise, wie Menschen ihre Computer benutzen, verspricht die Technologie, Gefühle einer Person zu erkennen und vorherzusagen. Sie wird sowohl in alltäglichen Kontexten wie der Unterhaltung als auch in wichtigen Bereichen wie am Arbeitsplatz, bei der Personalbeschaffung und im Gesundheitswesen eingesetzt.

Ein breites Branchenspektrum verwenden bereits Emotions-KI, darunter Callcenter, Finanzen, Bankwesen, Krankenpflege und Betreuung. Über 50 % der großen Arbeitgeber in den USA nutzen Emotions-KI Ziel ist es, Rückschlüsse auf den inneren Zustand der Mitarbeiter zu ziehen, eine Praxis, die wuchs während der COVID-19-PandemieBeispielsweise überwachen Callcenter die Äußerungen und den Tonfall ihrer Mitarbeiter.

Wissenschaftler haben Bedenken geäußert über Die wissenschaftliche Validität von Emotions-KI und sein Vertrauen auf umstrittene Theorien über EmotionenSie haben auch das Potenzial der Emotions-KI hervorgehoben für Verletzung der Privatsphäre und ausstellen rassisch, Geschlecht und Behinderung vorspannen.

Einige Arbeitgeber nutzen die Technologie als wäre es makellos, während einige Wissenschaftler versuchen, Reduzieren Sie die Verzerrung und verbessern Sie die Gültigkeit, diskreditieren es insgesamt oder vorschlagen Verbot von Emotions-KI, zumindest bis mehr über die Auswirkungen bekannt ist.

Ich studiere die soziale Auswirkungen der Technologie. Ich glaube, es ist entscheidend, die Auswirkungen der emotionalen KI auf die Menschen zu untersuchen, die ihr ausgesetzt sind, wie etwa Arbeitnehmer – insbesondere auf diejenigen, die aufgrund ihrer Rasse, ihres Geschlechts oder einer Behinderung ausgegrenzt werden. Kann KI tatsächlich Ihre Emotionen lesen? Nicht ganz.

Bedenken der Arbeitnehmer

Um zu verstehen, wohin der Einsatz von Emotions-KI am Arbeitsplatz führt, Karen Boyd und ich machte mich daran, zu untersuchen Vorstellungen der Erfinder von Emotions-KI am Arbeitsplatz. Wir analysierten Patentanmeldungen, die Emotions-KI-Technologien für den Arbeitsplatz vorschlugen. Zu den angeblichen Vorteilen, die die Patentanmelder geltend machten, gehörten die Beurteilung und Unterstützung des Wohlbefindens der Mitarbeiter, die Gewährleistung der Sicherheit am Arbeitsplatz, die Steigerung der Produktivität und die Unterstützung bei der Entscheidungsfindung, beispielsweise bei Beförderungen, Entlassungen und der Aufgabenzuweisung.

Wir haben uns gefragt, was Arbeitnehmer über diese Technologien denken. Würden sie die Vorteile auch wahrnehmen? Würden Arbeitnehmer es beispielsweise als vorteilhaft empfinden, wenn Arbeitgeber sie bei ihrem Wohlbefinden unterstützen würden?

Meine Mitarbeiter Shanley Corvite, Kat Roemmich, Tillie Ilana Rosenberg Ich habe eine Umfrage durchgeführt, die teilweise repräsentativ für die US-Bevölkerung war und teilweise eine Überstichprobe für People of Color, Trans- und nichtbinäre Menschen sowie Menschen mit psychischen Erkrankungen enthielt. Diese Gruppen könnten durch emotionale KI eher Schaden erleiden. Unsere Studie umfasste 289 Teilnehmer aus der repräsentativen Stichprobe und 106 Teilnehmer aus der Überstichprobe. Wir fanden heraus, dass 32 % der Befragten gaben an, keinen Nutzen für sie zu erfahren oder zu erwarten von der aktuellen oder erwarteten Nutzung von KI an ihrem Arbeitsplatz.

Während einige Arbeitnehmer potenzielle Vorteile des Einsatzes emotionaler KI am Arbeitsplatz wie eine verbesserte Unterstützung des Wohlbefindens und der Arbeitssicherheit anerkennen, die den in Patentanmeldungen behaupteten Vorteilen entsprechen, äußerten alle auch Bedenken. Sie befürchteten eine Beeinträchtigung ihres Wohlbefindens und ihrer Privatsphäre, eine Beeinträchtigung ihrer Arbeitsleistung und ihres Beschäftigungsstatus sowie Vorurteile und die Stigmatisierung psychischer Erkrankungen.

So äußerten beispielsweise 51 % der Teilnehmer Bedenken hinsichtlich des Datenschutzes, 36 % wiesen auf die Möglichkeit falscher Schlussfolgerungen hin, die Arbeitgeber für bare Münze nehmen würden, und 33 % äußerten die Sorge, dass die durch KI generierten Schlussfolgerungen auf der Grundlage von Emotionen dazu verwendet werden könnten, ungerechte Einstellungsentscheidungen zu treffen.

Stimmen der Teilnehmer

Ein Teilnehmer mit mehreren gesundheitlichen Problemen sagte: „Das Bewusstsein, analysiert zu werden, hätte ironischerweise negative Auswirkungen auf meine psychische Gesundheit.“ Das bedeutet, dass der Einsatz von Emotions-KI trotz der angeblichen Ziele, das Wohlbefinden der Mitarbeiter am Arbeitsplatz zu ermitteln und zu verbessern, zum gegenteiligen Effekt führen kann: Das Wohlbefinden sinkt aufgrund des Verlusts der Privatsphäre. Tatsächlich zeigen andere Arbeiten meiner Kollegen Roemmich, Florian Schaub und ich schlage vor, dass der durch KI verursachte Verlust der Privatsphäre eine Reihe von Datenschutzverletzungeneinschließlich psychologisch, Autonomie, wirtschaftlich, Beziehung, physisch und Diskriminierung.

Zu der Befürchtung, dass die emotionale Überwachung ihren Arbeitsplatz gefährden könnte, sagte ein Teilnehmer mit diagnostizierter psychischer Erkrankung: „Sie könnten entscheiden, dass ich nicht mehr zur Arbeit passe und mich entlassen. Sie könnten entscheiden, dass ich nicht fähig genug bin und mir keine Gehaltserhöhung geben oder denken, dass ich nicht genug arbeite.“

Die Studienteilnehmer erwähnten auch das Potenzial für eine Verschärfung des Machtungleichgewichts und äußerten ihre Angst vor der Dynamik, die sich mit den Arbeitgebern ergeben würde, wenn Emotions-KI in ihren Arbeitsalltag integriert würde. Sie wiesen darauf hin, dass der Einsatz von Emotions-KI bereits bestehende Spannungen im Verhältnis zwischen Arbeitgeber und Arbeitnehmer möglicherweise noch verschärfen könnte. So sagte ein Befragter: „Das Ausmaß der Kontrolle, die Arbeitgeber bereits über ihre Mitarbeiter haben, lässt darauf schließen, dass es kaum Kontrollen darüber gibt, wie diese Informationen verwendet werden. Jede ‚Zustimmung‘ [der] Mitarbeiter ist in diesem Zusammenhang weitgehend illusorisch.“ Emotions-KI ist nur eine Möglichkeit, wie Unternehmen ihre Mitarbeiter überwachen.

Abschließend wiesen die Teilnehmer auf mögliche Gefahren hin, wie etwa technische Ungenauigkeiten der Emotions-KI, die möglicherweise falsche Eindrücke von Arbeitnehmern vermitteln, sowie die Möglichkeit, dass Emotions-KI Vorurteile und Stigmatisierung gegenüber Arbeitnehmern schürt und aufrechterhält. Bei der Beschreibung dieser Bedenken betonten die Teilnehmer ihre Angst davor, dass Arbeitgeber sich auf ungenaue und voreingenommene Emotions-KI-Systeme verlassen, insbesondere gegenüber People of Color, Frauen und Transgender-Personen.

Ein Teilnehmer sagte beispielsweise: „Wer entscheidet, welche Ausdrücke ‚gewalttätig‘ aussehen, und wie kann man Menschen nur anhand ihres Gesichtsausdrucks als Bedrohung einstufen? Ein System kann zwar Gesichter lesen, aber keine Gedanken. Ich kann mir einfach nicht vorstellen, dass dies für Minderheiten am Arbeitsplatz nicht schädlich sein könnte.“

Die Teilnehmer gaben an, dass sie entweder die Arbeit an einem Ort mit Emotions-KI ablehnen würden – eine Option, die vielen nicht zur Verfügung steht – oder sich so verhalten würden, dass die Emotions-KI sie positiv interpretiert und so ihre Privatsphäre schützt. Ein Teilnehmer sagte: „Selbst wenn ich allein im Büro bin, würde ich enorm viel Energie darauf verwenden, mich zu maskieren. Das würde mich sehr ablenken und unproduktiv machen“, und verwies darauf, dass der Einsatz von Emotions-KI den Mitarbeitern zusätzliche emotionale Arbeit aufbürde.

Ist es den Schaden wert?

Diese Ergebnisse deuten darauf hin, dass Emotions-KI die bestehenden Herausforderungen, mit denen Arbeitnehmer am Arbeitsplatz konfrontiert sind, verschärft, obwohl Befürworter behaupten, dass Emotions-KI zur Lösung dieser Probleme beiträgt.

Wenn die Emotions-KI wie behauptet funktioniert und das misst, was sie zu messen vorgibt, und selbst wenn die Probleme mit der Voreingenommenheit in Zukunft angegangen werden, entstehen den Arbeitnehmern dennoch Nachteile, wie etwa zusätzliche emotionale Belastung und Verlust der Privatsphäre.

Wenn diese Technologien nicht das messen, was sie behaupten, oder voreingenommen sind, sind die Menschen Algorithmen ausgeliefert, die als gültig und zuverlässig gelten, obwohl sie es nicht sind. Arbeitnehmer müssten sich weiterhin bemühen, das Risiko einer Fehlinterpretation durch den Algorithmus zu verringern oder emotionale Äußerungen zu zeigen, die dem Algorithmus positiv erscheinen.

So oder so funktionieren diese Systeme als Panoptikum-ähnliche Technologien, die zu Verletzungen der Privatsphäre und dem Gefühl der Beobachtung führen.

Quelle: Nazanin Andalibi für Das Gespräch