Kan noget så sterilt og kedsommeligt som en matematisk algoritme være sexistisk eller ligefrem racistisk? Ja, siger den amerikanske forsker Safiya Umoja Noble, der netop har udgivet en bog om ’undertrykkende algoritmer’.

Forsker: Google giver undertrykkende søgeresultater

Da en amerikansk kvinde i april 2016 googlede efter fotos af 'utjekkede frisurer til arbejde' dukkede billederne i venstre side af sorte kvinder op. Da kvinden for sjov skiftede 'utjekkede frisurer' ud med 'tjekkede frisurer', kom Google i stedet med billederne i højre side af hvide kvinder. Algoritmen er siden ændret, så det i dette tilfælde der anderledes udi dag, men ifølge forfatteren Safiya Noble findes problemet mange andre steder. Foto Safiya Noble
Da en amerikansk kvinde i april 2016 googlede efter fotos af 'utjekkede frisurer til arbejde' dukkede billederne i venstre side af sorte kvinder op. Da kvinden for sjov skiftede 'utjekkede frisurer' ud med 'tjekkede frisurer', kom Google i stedet med billederne i højre side af hvide kvinder. Algoritmen er siden ændret, så det i dette tilfælde der anderledes udi dag, men ifølge forfatteren Safiya Noble findes problemet mange andre steder. Foto Safiya Noble
Lyt til artiklen

Safiya Umoja Noble havde aldrig tænkt på algoritmer som hverken sexistiske eller racistiske, før en kollega for år tilbage spurgte hende, om hun nogensinde havde lavet en Google-søgning på ordene ’sorte piger’ – eller black girls’, som det retteligen hedder, når man nu er engelsksproget amerikaner.

»Jeg troede jo dårligt mine egne øjne«, siger den amerikanske forsker, da Politiken møder hende på en café i udkanten af Los Angeles i anledning af hendes nye bog om ’undertrykkende algoritmer,’ Algorithms of Oppression.

Læs videre for 1 kr.

Du er godt i gang – få adgang til hele artiklen, alt på politiken.dk og dagens e-avis i en måned for kun 1 kr. Ingen binding.

Bliv abonnent nu
Allerede abonnent? Log ind
Group 2

Mest læste

    1

  1. Store problemer på TV 2-station: Medarbejdere er i »choktilstand«

    2. 2

  2. Nu er Kinas leder kommet med sin første offentlige kommentar om USA's angreb på Iran

    3. 3

  3. Samme dag, som Trump truede med at udslette Iran, kom en techkæmpe med en advarsel, der kan være endnu mere alvorlig

    4. 4

  4. Han gav den gas på dansegulvet, han samlede prostituerede op, og han drak som en svamp. Lå han også i med tsarinaen?

    5. 5

  5. Forsker om tendens: Det har taget fuldstændig overhånd i institutionerne

    6. 6

  6. Eksperter og tidligere ministre: Hvorfor er Danmark det eneste nordiske land, der endnu ikke har taget skridtet?

© Alt materiale på denne side er omfattet af gældende lov om ophavsret. Læs om reglerne her