Ob es sich um die Einstellung und Auswahl von Bewerbern oder die Umschulung für eine mögliche Beförderung handelt, KI ist jetzt im gesamten Lebenszyklus eines Mitarbeiters präsent. Der Beweis liegt wie immer in den Zahlen. Laut einer Umfrage von PwC sagen 86 % der US-Unternehmen, dass KI im Jahr 2021 eine "Mainstream-Technologie" in ihrem Unternehmen sein wird. Nach der COVID-19-Krise gaben 52 % der Umfrageteilnehmer an, dass sie ihre Pläne zur Einführung von KI beschleunigt haben.
71 % der europäischen Unternehmen halten KI für ein "wichtiges Thema auf der Ebene der Unternehmensleitung".
Ähnliche Töne kommen inzwischen auch aus Europa. Laut einer Umfrage von EY und MicrosoftSo gaben 71 % der europäischen Unternehmen an, dass KI als ein "wichtiges Thema auf der Führungsebene" angesehen wird. Während 57 % der europäischen Unternehmen erwarten, dass KI eine hohe oder sehr hohe Auswirkung auf Geschäftsbereiche haben wird, die "dem Unternehmen heute noch völlig unbekannt sind".
KI ist auf dem Vormarsch, aber die Vorschriften bleiben auf dem Boden
Während die Einführung von KI in die Höhe geschnellt ist, ist die Zahl der Gesetze und Vorschriften auf dem Boden geblieben. Im Jahr 2020 war Illinois der erste Bundesstaat, der den zunehmenden Einsatz von künstlicher Intelligenz in der Einstellungspraxis regulierte. Der Illinois Artificial Intelligence Video Interview Act (AIVI) ging gegen die Verwendung von KI in Videointerviews vor, um festzustellen, ob der Bewerber die Merkmale "erfolgreicher" Kandidaten aufweist, und kann Einstellungsempfehlungen geben.
Das AIVI-Gesetz selbst war etwas vage. Mehrere Begriffe, darunter insbesondere "künstliche Intelligenz", blieben unbestimmt.
Das Gesetz sieht vor, dass der Arbeitgeber das Video offenlegen, erklären und um Zustimmung bitten muss, während das Video vertraulich bleiben und innerhalb von 30 Tagen vernichtet werden muss. Während Illinois in den USA neue Maßstäbe setzte, war das Gesetz selbst etwas vage. Mehrere Begriffe, darunter insbesondere "künstliche Intelligenz", blieben unbestimmt.
Europa setzt KI bei der Personalbeschaffung auf die "Hochrisikoliste
In Europa könnte die Gesetzgebung bald auf dem Weg sein. Im April 2021 schlug die Europäische Union eine Kombination aus dem allerersten Rechtsrahmen für KI und einem koordinierten Plan vor , der die Sicherheit und die Grundrechte von Menschen und Unternehmen garantiert. "Indem wir Standards setzen, können wir den Weg zu einer ethischen Technologie weltweit ebnen und sicherstellen, dass die EU auf diesem Weg wettbewerbsfähig bleibt", sagte Margrethe Vestager, Vizepräsidentin der Kommission für ein Europa, das fit für das digitale Zeitalter ist.
Jede Software, die in einem europäischen Einstellungsverfahren verwendet wird, unterliegt strengen Auflagen , bevor sie auf den Markt gebracht werden darf.
Vestager bezeichnete den Plan als "zukunftssicher und innovationsfreundlich", warnte aber, dass die Vorschriften dort eingreifen werden, "wo es unbedingt notwendig ist". KI-Systeme, die bei der Beschäftigung, der Verwaltung von Arbeitnehmern und dem Zugang zur Selbstständigkeit eingesetzt werden, wurden auf die Liste gesetzt. der EU-Liste der hohen Risiken. Diese Kategorie bedeutet, dass jede Software, die in einem Einstellungsverfahren verwendet wird, strengen Auflagen unterworfen wird , bevor sie auf den Markt gebracht werden darf.
Es passiert und muss jetzt angegangen werden".
Ein Mann, der die KI-Regulierungslandschaft verändern möchte, ist Keith Sonderling, Kommissar der U.S. Equal Employment Opportunity Commission (EEOC). "Ob es um Lohngleichheit, Alters- oder Schwangerschaftsdiskriminierung oder die #MeToo-Bewegung geht - die EEOC geht all diesen Dingen auf den Grund." Sonderling erzählte Chad Sowash und Joel Cheesman im Chad & Cheese Podcast.
"Es gibt so viele Vorteile, die der Einsatz von Technologie am Arbeitsplatz mit sich bringt, dass ich mir wünsche, dass sie sich gut entwickelt.
"Es ist nicht ungewöhnlich, dass Kommissare ein bestimmtes Thema auswählen und sich dafür stark machen", sagte er. "Und für mich ist das die künstliche Intelligenz am Arbeitsplatz. Der Einsatz von Technologie am Arbeitsplatz bringt so viele Vorteile mit sich, dass ich möchte, dass sie floriert. Und dass sie nicht bestimmten staatlichen Vorschriften unterworfen wird, die nicht dazu führen, dass sie funktioniert, weil wir schon zu spät dran sind. Es passiert, und wir müssen uns jetzt darum kümmern."
Die Technologie ist der Regierung im Allgemeinen sehr weit voraus.
KI war schon oft Gegenstand von Zwischenfällen und Untersuchungen. Amazons gut dokumentiertes Missgeschick im Jahr 2018 führte dazu, dass die von Amazon intern entwickelten Einstellungs-Tools verworfen wurden, weil sie tatsächlich Frauen diskriminierten. Die Entwickler verwendeten die 10-jährige Geschichte der Lebensläufe des Unternehmens (die überwiegend männlich waren). Das führte dazu, dass die Software sich selbst beibrachte, dass diese (männlichen) Kandidaten vorzuziehen seien. Das Tool wurde nie eingesetzt, zeigte aber , welche klaren und offensichtlichen Fehler einem KI-System unterlaufen können.
"Dazu gehört auch, dass wir keine belastenden Vorschriften erlassen, die das Unternehmen zu Fall bringen oder es massiven staatlichen Untersuchungen oder Sammelklagen aussetzen."
Die größte Gefahr besteht laut Sonderling darin, dass die Entwicklung von KI-Technologien so schnell voranschreitet, dass sie ihnen in den Hintern beißen kann. "Die Technologie ist der Regierung im Allgemeinen sehr weit voraus", so Sonderling. "Es ist eine Zeit, in der wir alle wirklich zusammenarbeiten können. Alle, von den Arbeitnehmergruppen über die Arbeitgeber, die die Software kaufen und nutzen, bis hin zu den Entwicklern. Wir müssen einen Standard schaffen, der es ermöglicht, dass diese Produkte in der KI zur Diversifizierung der Arbeitskräfte beitragen. Um die besten Bewerber zu finden. Aber auch keine lästigen Vorschriften auferlegen, die sie zu Fall bringen. Oder sie massiven staatlichen Untersuchungen oder Sammelklagen unterwerfen."
Wer ist eigentlich schuld?
Obwohl Amazon sein Modell nicht mit frauenfeindlicher Absicht entwickelt hat, war dies das Endergebnis. Laut Chad Sowash ist dies Teil eines größeren Problems: eine weit verbreitete Fehleinschätzung dessen, was KI eigentlich ist. "Die meisten Leute missverstehen, dass die Entscheidung, die KI trifft, nicht von der KI selbst stammt", sagte er. "Vielmehr sind sie das Ergebnis menschlicher Entscheidungen. Menschen sind voreingenommen, waren es schon immer und werden es immer sein."
"Der Algorithmus spuckt aus: 'Ihr idealer Bewerber heißt Jared und hat in der High School Lacrosse gespielt.' Wessen Schuld ist das?"
Dieser Meinung war auch Sonderling, der ein weiteres Beispiel dafür anführte, wie KI-Bestrebungen schief gehen können. Ein Unternehmen sagte: "Findet mir den idealen Bewerber. Ich möchte meine Belegschaft diversifizieren, hier ist mein Top-Performer. Und der Algorithmus spuckt aus: 'Ihr idealer Bewerber heißt Jared und hat in der High School Lacrosse gespielt'. Ich danke Ihnen. Ich meine, was sagt das aus? Was bewirkt das? Aber wessen Schuld ist das? Dass die Eingaben, die zu den Verzerrungen geführt haben, die verzerrten Eingaben zu den verzerrten Ergebnissen führen."
"Egal, ob sie die KI gekauft haben, um ihre Belegschaft wirklich zu diversifizieren und Vorurteile zu beseitigen, oder ob sie den Mitarbeitern helfen, sich weiterzubilden und umzuschulen - wenn sie eine diskriminierende Wirkung hat, ist der Arbeitgeber am Haken.
Trotz der einheitlichen Leitlinien, die noch aus dem Jahr 1960 stammen, werden Sonderling und die EEOC diese Fälle weiter beobachten. Eines ist jedoch sicher, so Sonderling: Die Arbeitgeber, die diese Tools einsetzen, sind haftbar. "Egal, ob sie die KI gekauft haben, um ihre Belegschaft wirklich zu diversifizieren und Vorurteile zu beseitigen, oder ob sie ihren Mitarbeitern helfen, sich weiterzubilden und umzuschulen - wenn die KI eine diskriminierende Wirkung hat, ist der Arbeitgeber in der Haftung.
