Selv robotterne er biased

Der er ingen tvivl om, at fremtiden er over os, og at den kunstige intelligens stille og roligt rykker ind. Både i vores bevidsthed men også som et regulært instrument, som kan bruges praktisk - f.eks. i sundhedssystemet. Det er jo på alle måder interessant, for tænk hvis det kan være med til at effektivisere vores system, så det bliver hurtigere, mere præcist og generelt bedre. En gevinst for samfundet.

Men inden man når så langt, skal man måske lige gå indstillingerne igennem. For et nyt studie i England viser, at AI faktisk er forudindtaget i sine vurderinger. Det engelske medie The Guardian fortæller i en artikel om, at de AI-systemer, man benytter i store dele af England nedtoner kvinders symptomer langt mere end mænds. Ud fra over 29.000 sammenligner af resuméer kunne man se, at mænds helbredsproblemer bliver beskrevet langt mere alvorligt end kvinders.

Der gives i studiet også konkrete eksempler, hvor sprogbrugen er helt forskellig afhængig af hvilket et køn, der er tale om. Så når en mand er ude af stand til at tage del i fællesskaber på grund af sine symptomer, så vil den samme situation hos en kvinde blive beskrevet som, at hun er fint i stand til at klare sine daglige aktiviteter. 

Det er jo i sig selv ikke så godt, men når man så samtidig bruger AI som et værktøj til at aflaste socialarbejdere, så giver det sig selv, at det kan ende med, at kvinder bliver tilbudt end dårlig og måske slet ikke fyldestgørende behandling for deres fysiske og psykiske udfordringer.

Studiet understreger derfor, at kønsbias kan lede til ulige plejeydelser, og at man er nødt til at sikre sig, at sprogmodellerne bliver målt og vurderet, så de fungerer retfærdigt. Det tænker jeg også vil være helt på sin plads, og så må vi bare konstatere, at når uligheden kan snige sig ind i robotterne, så er vi stadig et godt stykke fra mål.