Die Integration von Künstlicher Intelligenz (KI) in den Rekrutierungsprozess verspricht Effizienzsteigerung und Objektivität. Gerade aus der Perspektive der Unternehmensverteidigung scheint jedoch wichtig, sich auch mit Risiken und Nachteilen auseinanderzusetzen. Nachdem in Teil 1 der Fall "COMPAS" vorgestellt wurde, folgt nun im zweiten Teil der Blogserie der Fall des Amazon Rekrutierungs-Tools. Er zeigt eindrucksvoll, wie der Einsatz von KI-Systeme durch unbeabsichtigte Voreingenommenheiten schief gehen kann.
Worum gings es beim Recruting-Tool?
Amazon entwickelte ein KI-basiertes Tool, um die Sichtung und Bewertung von Lebensläufen zu automatisieren. Das Ziel war, den Rekrutierungsprozess effizienter und objektiver zu gestalten.
Was ging schief?
Es stellte sich heraus, dass das Tool eine signifikante Voreingenommenheit gegenüber Frauen aufwies. Lebensläufe von Frauen wurden systematisch niedriger bewertet als die von Männern. Der Grund dafür lag in den Trainingsdaten: Das System wurde mit historischen Bewerbungsdaten trainiert, die aus einer von Männern dominierten Arbeitswelt stammten.
Das Tool lernte, Lebensläufe mit männlich konnotierten Wörtern und Aktivitäten zu bevorzugen. Diese unerwartete Verzerrung führte zu einer Benachteiligung von Bewerberinnen, was den Grundprinzipien der Fairness und Chancengleichheit widerspricht.
Amazon stellte die Verwendung des Tools ein, als die Voreingenommenheit offensichtlich wurde.
Was sind die Lehren aus diesem Amazon-Fall?
Die Herausforderung besteht darin, KI-Systeme zu entwickeln, die frei von historischen und gesellschaftlichen Vorurteilen sind. Dies erfordert eine sorgfältige Auswahl und Aufbereitung von Trainingsdaten sowie ständige Überwachung und Anpassung der Algorithmen.
Letztlich unterstreicht der Amazon-Rekrutierungsfall die Notwendigkeit, ethische Überlegungen bereits bei der Entwicklung von KI-Systemen mitzubedenken (ethics by design).