Den aktuelle udvikling af kunstig intelligens (AI) kræver »ekstrem omhyggelighed«, siger AI-virksomheden OpenAIs direktør, Sam Altman, onsdag til FN’s Sikkerhedsråd.

Det skriver nyhedsbureauet AFP.

»Industrien skal ikke acceptere for stor en teknologisk risiko, bare fordi fordelene er for store og vigtige til at sætte farten ned«, siger han.

Sikkerhedsrådet får onsdag en orientering fra topcheferne i nogle af verdens førende AI-virksomheder.

Også Anthropics direktør, Dario Amodei, advarer om risikoen ved kunstig intelligens.

»Hvis det håndteres dårligt, tror jeg endda, at kunstig intelligens (AI) kan udgøre en risiko for menneskeheden som helhed«.

Tidligere på måneden opsagde en udvikler fra virksomheden Anthropic sit job og begrundede det med, at han er bekymret over sikkerheden omkring kunstig intelligens.

Desuden har politiske stemmer som senator Bernie Sanders og tidligere præsident Barack Obama opfordret til regulering af teknologien.

»Hvis AI skal være demokratisk, skal de vigtigste beslutninger ikke laves på laboratorier i San Francisco alene. De skal formes gennem demokratiske processer og af regeringer, der står til regnskab over for de mennesker, de tjener«, siger Sam Altman på orienteringen.

»Det kræver samarbejde på det internationale niveau«.