Forbud på vej mod AI-rekrutering der ikke klarer bias-kontrol

I New York City kan det snart være et minde blot med AI-bias på jobmarkedet. Associated Press skriver, at byrådet har godkendt et lovforslag, der forbyder ansættelsessystemer baseret på AI, der ikke består et årligt check af diskrimination af race eller køn. Udviklerne vil også være nødt til at være mere transparente, herunder oplysningspligt og automatiske systemer, og give alternativer som menneskelige gennemgange. Bøderne kan komme op i 1500 dollars per tilfælde.

Forslaget blev godkendt 10. november, og borgmester Bill de Blasio har nu en måned til at føre lovforslaget ud i virkeligheden. Han har dog ikke meddelt, om det kommer til at ske eller ej. Hvis lovforslaget går igennem, skal det træde i kraft i 2023.

Kan forbyde AI til jobansøgninger

En underskrevet lov kan reducere risikoen for, at AI-ansættelsesteknologi skævvrider kandidatpuljer og demografier af det endelige ansatte. Pro-business organisationer som Greater New York Chamber of Commerce er allerede for forslaget med argumentet, at oplysningspligten er vital for både ansatte og deres kundskab.

Der er dog allerede bekymring for at en reel lov ikke kommer til at fungere efter hensigten. Center for Democracy & Technologys Alexandra Givens fortalte AP, at lovforslaget ikke tager højde for andre bias såsom evner eller aldersdiskrimination.

Det går også ud fra, at revisionerne er effektive, mens New York Universitys Julia Stoyanovich mener, at kravene var ”very easy to meet”. Der er bekymringer for, at en lovgivning utilsigtet beskytter ansatte, hvis AI-platforme har anderledes bias eller bias, der er sværere at opdage.