0
Læs nu

Du har ingen artikler på din læseliste

Hvis du ser en artikel, du gerne vil læse lidt senere, kan du klikke på dette ikon
Så bliver artiklen føjet til din læseliste, som du altid kan finde her, så du kan læse videre hvor du vil og når du vil.

Næste:
Næste:
David Guttenfelder/AP
Foto: David Guttenfelder/AP
AUTOMATISK ANSIGTSGENKENDELSE. En Microsoft-forsker har kaldt teknologien for den kunstige intelligens' svar på plutoniummet.
Nyhedsbrev - Tech og Viden

Det er kæmpestort: Store firmaer indrømmer, at de står med en sprængfarlig teknologi

Når kæmpe teknologifirmaer som Microsoft, IBM og Amazon lægger dele af deres automatiske ansigtsgenkendelse på køl, så sker det i erkendelse af, at teknologien rummer enorme risici for vores samfund og hverdag.

Nyhedsbrev - Tech og Viden

Kære læser,

Først var det IBM. Så fulgte Amazon. Og sidenhen Microsoft.

Det er automatisk ansigtsgenkendelse, vi taler om. Og vi taler om tre amerikanske tech-giganter, der på hver sin måde har enten stoppet udviklingen af teknologien eller lagt deres samarbejde med politiet om teknologien på køl (læs IBM-topchefens brev til den amerikanske kongres her).

Årsag: Dels har techindustrien omsider – og under indtryk af amerikansk politis voksende række af drab og andre overgreb mod især sorte – indset, at de mange eksemplerne på race- og kønsdiskriminering af henholdsvis sorte og kvinder i teknologien er et reelt og regulært samfundsproblem.

Dels har de – måske belært af en enfant terrible som Facebooks Mark Zuckerberg – erkendt, at anstændighed og moral er ved at blive en forretningsmodel, og at de derfor har en egeninteresse i at blive genstand for en eller anden for for demokratisk vedtaget regulering.

Det er KÆMPESTORT!

For hvad techindustrien hermed indrømmer er, at de står med en potent teknologi, der kan gøre stor skade på vores samfund (ellers var der ingen grund til at slå bremsen i).

Samtidig er det værd at bemærke, at det altså er techindustrien selv, der nu slår bremserne i, mens politikere, myndigheder og - ikke mindst – politiet i primært USA omvendt har sat turbo på brugen af den stadig mere omdiskuterede og omstridte teknologi, uden nogen form for demokratisk samtale om konsekvenserne. Om risikoen for, at vi umærkeligt glider mod et overvågningssamfund.


Dansk politi

Også herhjemme øjner politiet nye muligheder og har allerede – og igen uden nogen dybere demokratisk samtale om det – taget den dybt kontroversielle teknologi i brug i bl.a. dele af paskontrollen i Kastrup Lufthavn (læs passagerne om politiets ønsker og eksisterende aktiviteter i dette svar af 24. marts i år til folketingets retsudvalg).

Man har også forsøgt sig i forhold til sporing af pædofile netværk, hvilket de færreste vil have det store imod, men den slags har det med at brede sig. Småkridt for småskridt. Til stadig nye områder og vupti: Vi står med et samfund, hvor end ikke dit ansigt er dit eget, og vi fangede for sent, hvad der var sket. Edward Snowden lærte os ikke at være naive.

Automatisk ansigtsgenkendelse er ganske enkelt den kunstige intelligens’ udgave af plutoniummet, skrev Microsoft-forskeren Luke Stark sidste år i et essay, hvor han argumenterede for, teknologien behøver regulering og kontrol på samme niveau som atomaffald.

Det er den britiske professor og techforfatter John Naughton, der i en kommentar i avisen The Guardian minder om Luke Starks advarsel. Problemet er bare, at advarslerne mod automatisk ansigtsgenkendelse ofte er blevet overhørt, fordi man har valgt at overhøre dem. For, som John Naughton skriver:

»Der er for mange penge på spil til, at man vil underholdes med bekymringer om de samfundsmæssige skader. Erhvervsliv og regeringer har savlet over potentialet i den automatiske ansigtsgenkendelsesteknologi. Butikker vil være i stand til at identificere deres kunder i realtid, så snart de træder ind ad døren. Firmaer vil være sikre på, at kun autoriseret personale kommer ind i kontorerne. Universiteter og skoler ønsker at kunne spore elevernes deltagelse i undervisningen. Politiet ønsker at øge effektiviteten af deres ransagninger. Og på toppen af alting er der den geopolitiske vinkel: Kina bruger teknologien overalt, så hvis USA skal bevare sit teknologiske overherredømme, så skal amerikanerne frem i førerfeltet, inden kineserne sætter sig på hele verdensmarkedet. Det er med andre ord Huawei på steroider«.


Hvad siger de danske politikere?

Men nu råber dele af den amerikanske techindustri altså selv vagt i gevær: Kan danske og andre politikere sidde det overhørigt?

Eller er det nu, at de begynder at indse, at der er behov for en regulering, hvor nye og potente teknologier skal testes, undersøges og godkendes, før de må tages i brug. Lige som vi gør ved nye typer af vacciner og medicin.

Forsigtighedsprincippet gælder på så mange andre områder, hvor vitale dele af mennesket selv og vores samfund står på spil.

Det var ironisk nok også en techgigant, nemlig Twitter, der omsider sagde fra over for en amerikansk præsident, der såede tvivl ved noget så grundlæggende som det amerikanske demokrati: Twitter forsynede således et opslag fra Donald Trump med en advarselsetiket om, at han savnede hold i al dokumentation, da han i et tweet hævdede, at brevstemmer var lettere at manipulere.

Hvad Twitter og stadig flere forskere nemlig frygter er, at Trump allerede er begyndt at forberede sig til en situation, hvor det kommende præsidentvalg i november bliver så tæt, at det afgøres af brevstemmer til hans ugunst, og han derfor vil sætte spørgsmålstegn ved dets validitet (du bør altså vores USA-korrespondent Jens Lenlers skræmmende interview med juraprofessoren og forfatteren Lawrence Douglas).


Hvem ringer vi til?

Igen: Det var en techgigant – hverken myndigheder eller politikere – der satte foden i. Og helt symptomatisk var det naturligvis Facebookstifteren Mark Zuckerberg, der afviste enhver form for den slags indholdsansvar. Facebooks såkaldte fællesskabsregler er drevet af profithensyn, ikke samfundshensyn. Og så er vi tilbage ved den britiske professor John Naughton, der jo altså i forhold til den automatiske ansigtsgenkendelse frygter det samme: at vi som samfund tillader at profithensyn sættes over samfundshensyn.

Hvem ringer vi til, hvis det går galt? Politiet? Nå nej...de vil jo genre selv bruge teknologien. Politikerne? Tjah...de taler sjældent rigtig dybt om den slags? Myndighederne så? Nja...mens den amerikanske techhovedstad San Francisco og flere andre amerikanske byer har forbudt deres politi at bruge automatisk ansigtsgenkendelse, så har det danske Datatilsyn givet tilladelse til, at selv Brøndby Stadion må bruge teknologien til at sortere i publikum. Heller ikke her var der en forudgående folkelig samtale om, hvorvidt det er sådan et samfund, vi vil.

Så hvem ringer vi til? Altså inden vi har gjort noget, vi ender med ikke at kunne fortryde. At overlade det til techindustrien at stå for reguleringen af sig selv virker ikke som en langsigtet holdbar løsning. Hvad synes du?


Sommer, tak og feriepenge

Tak for du læste med så længe.

Du er velkommen til at skrive ris, ros og tip til mig på mailen: michael.jarlner@pol.dk

Nedenfor anbefalinger til en række spændende artikler fra vores særlige tech- og vidensektion.

Rigtig god uge i et stadig mere genåbnet sommerland – og snart med ekstra feriepenge på lommen (også selv om vores politiske kommentator Kristian Madsen kalder det et optisk bedrag).



Techanalyser fra Politiken: Lidt mere om ansigtsgenkendelse


Fra vores arkiv: Fik du læst interviewet med MIT-forskeren Joy Buomlamwini om racistiske robotter (2019)


Mere fra Arkivet: Fik du læst interviewet med Safiya Noble om algoritmer, der fører til undertrykkelse? (2018)


Viden og Tech i eet: Fake news om corona på Facebook


Viden: Satellitbilleder tyder på vikingebopladser i Canada.


Viden: Livsfarlig mission kan blive superkedelig


Annonce

For abonnenter

Annonce

Podcasts

Forsiden