Warum KI in der Personalbeschaffung als "hohes Risiko" angesehen wird (und was die Folgen sind)

Die jüngste Entscheidung der Europäischen Union, alle bei der Rekrutierung eingesetzten künstlichen Intelligenzen als 'hohes Risiko' wirft wichtige Fragen auf. Sollten Fachleute diese Entwicklung mit Optimismus begrüßen, oder sollte sie Anlass zur Sorge geben? Diese Einstufung macht eine sorgfältige Abwägung der positiven und negativen Folgen für diejenigen erforderlich, die KI in Einstellungsverfahren einsetzen.

Nonso Onowu am 15. Dezember 2023 Durchschnittliche Lesezeit: 4 min
Teilen Sie diesen Artikel:
Warum KI in der Personalbeschaffung als "hohes Risiko" angesehen wird (und was die Folgen sind)

Die Einigung über Regeln für künstliche Intelligenz in Europadie vom Europäischen Parlament und dem Europäischen Rat erzielt wurde, hat viel Aufmerksamkeit erregt. Diese Einigung war das Ergebnis von 36 Stunden kontinuierlicher Verhandlungen. Es war ein bemerkenswertes Ereignisda sich die Regierungen aktiv für eine zu regeln. rechtlichen Aspekte im Zusammenhang mit dem raschen Fortschritt der KI zu regeln. Ein wichtiges Thema dieser Diskussionen war der Einsatz von KI bei Einstellungsverfahren.

Für die KI, die zur Auswahl der Personen eingesetzt wird, gelten strenge Anforderungen.

Das Ergebnis der Vereinbarung ist, dass der Einsatz von KI bei der Personalbeschaffung nun als "hohes Risiko" eingestuft wird. 'hohes Risiko' KI-System. Was dies im Einzelnen bedeutet, wird in den kommenden Monaten weiter diskutiert werden. Es ist jedoch bereits bekannt, dass es strenge Regeln geben wird, darunter: Systeme zur Risikominderung, hochwertige Datensätze, Aufzeichnung von Aktivitäten, ausführliche Dokumentation, klare Informationen für Nutzer, menschliche Aufsicht und ein starker Fokus auf Robustheit, Genauigkeit und Cybersicherheit.

Hohe Geldstrafen
Im Rahmen der neuen europäischen Vorschriften wurden hohe Geldstrafen festgesetzt wie es der Fall ist der EU-Verordnungen. Diese Geldbußen können je nach Schwere des Verstoßes und Größe des Unternehmens bis zu 35 Millionen Euro oder 7 % des weltweiten Umsatzes bzw. 7,5 Millionen Euro oder 1,5 % des Umsatzes betragen.

Für die Personalverantwortlichen erwähnen die Vorschriften ausdrücklich KI-Systeme, die zum Abgleich von Bewerbern eingesetzt werden, sowie KI zur biometrischen Identifizierung und Emotionserkennung. Das bedeutet, dass die Bewerber darüber informiert werden müssen, wenn solche Technologien eingesetzt werden. Wenn ein Bewerber mit einem Chatbot anstelle einer realen Person interagiert, muss er außerdem klar darüber informiert werden.

Rundfunkveranstalter und Arbeitgeber sollten bedenken, dass sie sich im Fadenkreuz dieser neuen Vorschriften befinden.

John Nurthenist der Executive Director für globale Forschung bei Staffing Industry Analystsunterstreicht die Bedeutung dieses neuen Schrittes. Er rät, dass Personalvermittler und Arbeitgeber sehr vorsichtig sein sollten, da diese neuen Vorschriften sie besonders betreffen. Sie müssen besonders vorsichtig sein, wenn sie KI-Technologie in irgendeinem Teil des Einstellungsverfahrens einsetzen.

Es ist wichtig, dass sie sicherstellen, dass ihre Lieferanten die Gesetze korrekt befolgen, um die Risiken zu minimieren. Dazu gehören Kontrollmaßnahmen und die Gewährleistung, dass die Schulungsdatensätze relevant, repräsentativ und fehlerfrei sind und Verzerrungen erkennen lassen. Die verwendete Software sollte transparent sein und Ereignisprotokolle und technische Unterlagen sollten leicht zugänglich sein. Außerdem müssen KI-Prozesse immer von Menschen überwacht werden.

KI-Pakt

Die politische Einigung muss nun vom Europäischen Parlament und vom Rat förmlich gebilligt werden und tritt 20 Tage nach ihrer Veröffentlichung im Amtsblatt in Kraft. Amtsblatt in Kraft. Das Gesetz über künstliche Intelligenz gilt dann zwei Jahre nach seinem Inkrafttreten, mit Ausnahme einiger spezifischer Bestimmungen: Verbote gelten nach sechs Monaten, während die Regeln für künstliche Intelligenz für allgemeine Zwecke erst nach zwölf Monaten gelten.

Um die Übergangszeit zu überbrücken, bevor die Verordnung allgemein anwendbar wird, hat die Europäische Kommission einen "KI-Pakt" mit KI-Entwicklern aus Europa und dem Rest der Welt ins Leben gerufen, um die wichtigsten Verpflichtungen des KI-Gesetzes vor den gesetzlichen Umsetzungsfristen freiwillig zu erfüllen.

Die Unternehmen sind sich dessen noch überhaupt nicht bewusst.

Die Gesetzgebung wird erhebliche Konsequenzen haben. "Arbeitgeber, die KI-Tools im Beschäftigungskontext einsetzen, müssen ein ganzes Verfahren einrichten, um zu prüfen, ob diese Technologie die Anforderungen erfüllt", so die Arbeitsrechtsanwältin Johanne Boelhouwer und Partner bei Dentons gegenüber MT/Sprout Anfang des Jahres. Die Unternehmen sind sich dessen absolut noch nicht bewusst.

Protokolle speichern

Für Entwickler von KI-Systemen beinhalten die neuen Vorschriften Anforderungen für die Registrierung, Transparenz, eine Konformitätsbewertung und die Erlangung der Zertifizierung für das bekannte CE-Zeichen. Für Arbeitgeber geht es darum, sicherzustellen, dass ihre Software-Lieferanten diese gesetzlichen Standards erfüllen.

Wie Boelhouwer erklärte, sollten Arbeitgeber keine Systeme verwenden, die diese Bewertung nicht bestanden haben. Das bedeutet, dass sie auch ein Auge auf das System haben müssen. Darüber hinaus sind die Arbeitgeber nun verpflichtet, die von diesen Systemen erstellten Protokolle aufzubewahren. Das bedeutet, dass sie zusätzliche Verwaltungsaufgaben haben werden.

Bald werden die Arbeitgeber sogar verpflichtet sein, die erstellten Protokolle aufzubewahren.

Wenn sich herausstellt, dass ein solches System Vorurteile bestätigt oder verstärkt, muss es angepasst werden. Die Unternehmen müssen das ständig im Auge behalten, weiß Boelhouwer. KI-Systeme sind selbstlernend. Wenn Sie eine Stelle für einen Taxifahrer ausgeschrieben haben und sich zunächst nur Männer mittleren Alters melden, werden die Algorithmen von nun an diese Art von Lebensläufen hervorheben. Dies muss dem Systemanbieter gemeldet und korrigiert werden.

Einschneidende Veränderung
Die neue Verordnung ist mehr als nur eine Reihe von Regeln, so Hubert.aiein schwedisches Unternehmen, das anbietet. Software für Vorstellungsgespräche anbietet. Das Unternehmen beschreibt sie als einen Wendepunkt, der Personalverantwortlichen den Weg in eine Zukunft weist, in der KI und Verantwortung Hand in Hand gehen.

Sie sehen es auch als eine Gelegenheit die Auswahlmethoden zu verbessern und von Bauchentscheidungen zu einem datengesteuerten, verantwortungsvollen, unvoreingenommenen und transparenten Abgleich überzugehen. Aus dieser Sicht hat die KI das Potenzial, den Einstellungsprozess besser, gerechter und effizienter zu machen. Und wie sie vorschlagen, verstärkt das KI-Gesetz dieses Potenzial.

Die Einstellungslandschaft erfährt durch das kommende EU-KI-Gesetz einen grundlegenden Wandel.

Die Rekrutierungslandschaft erfährt durch das kommende EU-KI-Gesetz einen grundlegenden Wandel. Diese Verordnung betont Transparenz, Verantwortlichkeit und Fairness bei der Nutzung von KI und beeinflusst die HR-Praktiken in Richtung einer unvoreingenommenen Bewerberauswahl in der Zukunft und einer besseren Erfahrung für alle." Dies steht auch im Einklang mit SHRM-Forschung die zuvor gezeigt hat, dass fast 3 von 5 Unternehmen, die KI bei der Personalbeschaffung einsetzen, angeben, dass sie seitdem bessere Mitarbeiter.

$365.000 Vergleich

Ein aktueller Fall in den Vereinigten Staaten hat die Risiken des Einsatzes von KI-Systemen bei der Personalbeschaffung aufgezeigt. Ein Nachhilfeunternehmen verwendete einen Algorithmus, der Berichten zufolge weibliche Bewerber über 55 Jahre und männliche Bewerber über 60 Jahre automatisch ablehnte. Die Equal Employment Opportunity Commission (EEOC) verklagte das Unternehmen im Namen von fast 200 abgelehnten Bewerbern. Das Unternehmen erklärte sich bereit, den Rechtsstreit für $365,000zu vergleichen, was fast 2.000 $ pro Bewerber entspricht. Diese Situation wirft die Frage auf, wie anders der Auswahlprozess hätte verlaufen können, wenn ein menschlicher Personalverantwortlicher anstelle eines Algorithmus eingesetzt worden wäre.

Kredit Foto oben

Lesen Sie mehr:

Wenn Ihnen dieser Artikel gefallen hat und Sie mehr über die Gewinnung und Bindung der besten Talente in Europa erfahren möchten, abonnieren Sie den wöchentlichen Newsletter von ToTalent. Sie erhalten dann exklusive Inhalte, Veranstaltungen und Expertenwissen.

 

 

 

Teilen Sie diesen Artikel:

Premium-PartnerAlle Partner anzeigen

Gruppe Intelligenz
Ravecruitment
RecruitAgent
Rekrutierung Tech
Timetohire
Werf&

Lesen Sie den Newsletter zum Thema "Total Talent Acquisition".