Britischer Datenschutzbeauftragter nimmt Einstellungssoftware unter die Lupe

Britischer Datenschutzbeauftragter nimmt Einstellungssoftware unter die Lupe

London, 14.7.2022

Der britische Datenschutzbeauftragte will KI-Systeme untersuchen, die Stellenbewerbungen prüfen, um mögliche Vorurteile gegenüber Minderheiten aufzudecken.

Experten haben darauf hingewiesen, dass solche Einstellungssoftware Menschen, die bestimmte Schreib- oder Sprachmuster verwenden, ungerechtfertigterweise ablehnen könnte, z. B. solche, die Englisch nicht als Muttersprache haben.

Die Untersuchung wird sich auf mögliche rassistische Diskriminierung konzentrieren, die in einigen Einstellungsprogrammen enthalten ist. Bei der ICO sind Beschwerden eingegangen, dass solche Systeme in unfairer Weise Bewerber mit unterschiedlichem Hintergrund ausschließen.

Die Untersuchung unter der Leitung des britischen Information Commissioner’s Office (ICO) wurde im Rahmen des neuen Dreijahresplans der Behörde unter dem neuen Informationsbeauftragten John Edwards eingeleitet.

Am Donnerstag sagte Edwards, dass die Untersuchung die Auswirkungen von KI auf Menschen untersuchen wird, deren Daten nicht immer in die anfängliche Softwareentwicklung und -tests einbezogen werden.

Im Mai erklärte die U.S. Equal Employment Opportunity Commission, dass KI-Tools, die von Arbeitgebern zur Einstellung und Überwachung von Arbeitnehmern eingesetzt werden, Menschen mit Behinderungen diskriminieren können und damit möglicherweise gegen das Gesetz für Menschen mit Behinderungen verstoßen.

Letztes Jahr hat die EEOC eine Initiative gestartet, um sicherzustellen, dass KI-basierte Einstellungsprogramme den Bürgerrechtsgesetzen entsprechen.