Elon Musk: Kampen om kunstig intelligens kan starte Tredje Verdenskrig

Kunstig intelligens kan blive roden til Tredje Verdenskrig, og supermagternes kamp om at være først med den ny teknologi kan sætte det hele i gang. Så dyster en forvarsel leverede tech-iværksætteren Elon Musk mandag på Twitter.

»Kina, Rusland, snart alle lande med stærk computerteknologi. Efter min mening er konkurrencen om overlegenhed inden for kunstig intelligens på nationalt niveau den mest sandsynlige udløser af Tredje Verdenskrig«, skrev han.

Meldingen kom, efter Ruslands præsident Vladimir Putin har lagt fremtiden i hænderne på kunstig intelligens.

»Den, der bliver førende på det område, bliver verdens hersker«, sagde præsidenten i en tale til en gruppe studerende ifølge The Verge.

Præsidentens retorik lægger op til et regulært våbenkapløb om magten over den kunstige intelligens, men teknologien kan ifølge Elon Musk ende med at tage magten fra os.

Det lyder måske som en morale fra en science fiction-film, men han mener, at udviklingen af robotter med egne rationaler og lynhurtig reaktionsevne betyder, at selv velmenende stormagtsledere kan komme til at sætte et skib i søen, de ikke har kontrol over.

»Måske bliver det ikke initieret af statsledere, men af et AI-produkt (kunstig intelligens), der beslutter, at et forebyggende angreb er den mest sandsynlige vej til sejr«, skriver Musk i et svar til en Twitter-bruger.

Med kunstig intelligens bliver vores teknologi efterhånden så reflekterende, at robotterne selv kan beslutte sig for den handling, der forekommer dem at være den hurtigste vej til sejr. Og når de tænker langt hurtigere end mennesker, frygter manden bag Tesla-koncernen altså, at deres handlinger kan spinne ud af kontrol og forårsage krig på stor skala.

Eksperter ønsker forbud mod dræberrobotter

Den seneste konflikt omkring Nordkorea har kun gjort risikoen ved teknologikapløb mere åbenlys. De ukontrollerede kræfter har fået flere eksperter inden for feltet op af stolene. I slutningen af august sendte Elon Musk sammen med 115 andre robotspecialister fra 26 lande et åbent brev til FN.

Her opfordres De Forenede Nationer til at forbyde udviklingen af dræberrobotter. Det være sig automatiske maskinpistoler og tanks såvel som droner.

»Dødbringende automatiske våben vil gøre det muligt at udkæmpe væbnede konflikter på en større skala end nogensinde før og på tidsskalaer hurtigere, end mennesker kan begribe«, skriver specialisterne i brevet ifølge The Guardian.

Tanken om at kunne holde sine soldater i sikkerhed og sende robotter på slagmarken i stedet er besnærende, men specialisterne frygter, at konsekvensen kan blive tab af langt flere menneskeliv foran robotterne, fordi der er kortere til en beslutning om at gå i krig.

Finansverdenen kender konsekvenserne af automatisering

I finansmarkedets verden af køb og salg kender man til både potentialet og risikoen ved at lade computere tage over. Her har det længe været kendt, at automatiseret handel, hvor computere handler selv på millisekunder, kan spinne markedet ud af kontrol og få en aktie til pludselig at styrte i værdi.

Sådan gik det til, at frygt for konsekvenserne af den græske gældskrise en majdag i 2010 fik markedet til at crashe, fordi automatiske computerhandler lynhurtigt reagerede på et salg med en sneboldeffekt, der sendte kursen ud over kanten.

Af den grund arbejder man i finansmarkedet konstant med muligheder for også automatisk at lukke ned for alle salg, indtil mennesker kan tage stilling til de informationer, der har sat aktiviteterne igang.

Sådanne sikkerhedsmekanismer har man ikke for våben, der bruger kunstig intelligens. Fordi nationalstater ikke er bundet af normale juridiske regler, kan de helt uigennemsigtigt udvikle våben med kunstig intelligens, de ikke selv kan håndtere, eller ved magt overtage teknologi, private virksomheder har udviklet til andre formål.

»Regeringer behøver ikke at følge normale love. De kan få fat i kunstig intelligens udviklet af virksomheder ved at holde dem pistolen for panden, hvis det er nødvendigt«, skriver Musk på Twitter.

Elon Musk har selv været med til at finansiere organisationerne OpenAI og Neuralink, der skal forsøge at skabe transparens om udviklingen af kunstig intelligens og kontrollere teknologien. Det skriver TechCrunch.