Kunstig intelligens kan blive roden til Tredje Verdenskrig, og supermagternes kamp om at være først med den ny teknologi kan sætte det hele i gang. Så dyster en forvarsel leverede tech-iværksætteren Elon Musk mandag på Twitter.
China, Russia, soon all countries w strong computer science. Competition for AI superiority at national level most likely cause of WW3 imo.
— Elon Musk (@elonmusk) September 4, 2017
»Kina, Rusland, snart alle lande med stærk computerteknologi. Efter min mening er konkurrencen om overlegenhed inden for kunstig intelligens på nationalt niveau den mest sandsynlige udløser af Tredje Verdenskrig«, skrev han.
Meldingen kom, efter Ruslands præsident Vladimir Putin har lagt fremtiden i hænderne på kunstig intelligens.
»Den, der bliver førende på det område, bliver verdens hersker«, sagde præsidenten i en tale til en gruppe studerende ifølge The Verge.
Præsidentens retorik lægger op til et regulært våbenkapløb om magten over den kunstige intelligens, men teknologien kan ifølge Elon Musk ende med at tage magten fra os.
Dødbringende automatiske våben vil gøre det muligt at udkæmpe væbnede konflikter på en større skala end nogensinde før
116 tech-specialister i åbent brev til FN
Det lyder måske som en morale fra en science fiction-film, men han mener, at udviklingen af robotter med egne rationaler og lynhurtig reaktionsevne betyder, at selv velmenende stormagtsledere kan komme til at sætte et skib i søen, de ikke har kontrol over.
May be initiated not by the country leaders, but one of the AI's, if it decides that a prepemptive strike is most probable path to victory
— Elon Musk (@elonmusk) September 4, 2017
»Måske bliver det ikke initieret af statsledere, men af et AI-produkt (kunstig intelligens), der beslutter, at et forebyggende angreb er den mest sandsynlige vej til sejr«, skriver Musk i et svar til en Twitter-bruger.
Med kunstig intelligens bliver vores teknologi efterhånden så reflekterende, at robotterne selv kan beslutte sig for den handling, der forekommer dem at være den hurtigste vej til sejr. Og når de tænker langt hurtigere end mennesker, frygter manden bag Tesla-koncernen altså, at deres handlinger kan spinne ud af kontrol og forårsage krig på stor skala.
Eksperter ønsker forbud mod dræberrobotter
Den seneste konflikt omkring Nordkorea har kun gjort risikoen ved teknologikapløb mere åbenlys. De ukontrollerede kræfter har fået flere eksperter inden for feltet op af stolene. I slutningen af august sendte Elon Musk sammen med 115 andre robotspecialister fra 26 lande et åbent brev til FN.
Her opfordres De Forenede Nationer til at forbyde udviklingen af dræberrobotter. Det være sig automatiske maskinpistoler og tanks såvel som droner.
»Dødbringende automatiske våben vil gøre det muligt at udkæmpe væbnede konflikter på en større skala end nogensinde før og på tidsskalaer hurtigere, end mennesker kan begribe«, skriver specialisterne i brevet ifølge The Guardian.
Tanken om at kunne holde sine soldater i sikkerhed og sende robotter på slagmarken i stedet er besnærende, men specialisterne frygter, at konsekvensen kan blive tab af langt flere menneskeliv foran robotterne, fordi der er kortere til en beslutning om at gå i krig.
Finansverdenen kender konsekvenserne af automatisering
I finansmarkedets verden af køb og salg kender man til både potentialet og risikoen ved at lade computere tage over. Her har det længe været kendt, at automatiseret handel, hvor computere handler selv på millisekunder, kan spinne markedet ud af kontrol og få en aktie til pludselig at styrte i værdi.
Sådan gik det til, at frygt for konsekvenserne af den græske gældskrise en majdag i 2010 fik markedet til at crashe, fordi automatiske computerhandler lynhurtigt reagerede på et salg med en sneboldeffekt, der sendte kursen ud over kanten.
