Yderligere to topchefer i AI-branchen siger lørdag, at det globale kapløb inden for kunstig intelligens går for hurtigt.
OpenAI’s topchef, Sam Altman, og xAI’s topchef, Elon Musk, bakker således op om opfordringer til at sætte farten ned i AI-udviklingen.
Det sker efter en uge med omfattende debat om emnet, der især blev sat i gang af advarsler fra to Anthropic-ansatte om, at teknologien kan udgøre en trussel mod menneskeheden.
Lørdag skrev Anthropics topchef, Dario Amodei, at det er afgørende at træde på bremsen for ikke at risikere, at systemerne løber løbsk.
»Dario har ret«, skriver Elon Musk, der ellers tidligere har udtalt sig skeptisk om de Anthropic-ansattes advarsler, kortfattet på X.
En lignende udmelding kommer fra Sam Altman.
»Jeg er enig med Dario i, at vi må sætte farten ned ved fronten (de mest avancerede AI-modeller, red.)«, skriver han.
»Det har været et afgørende emne i de diskussioner, vi har haft i OpenAI de seneste uger«.
»At forpligte sig til at have uafhængige tilsynsfolk med medarbejderlignende adgang er en god idé, og vi vil gøre det samme«, fortsætter OpenAI-topchefen og lover flere nyheder snart.
Anthropic-topchefen Amodei kommer i et indlæg på sin hjemmeside med en tretrinsplan.
Han ønsker uafhængige tilsynsfolk i de førende AI-virksomheder, koordinering mellem virksomhederne om sikkerhedsstandarder og grænser for udviklingen samt internationalt samarbejde om at håndtere risici ved teknologien.
Tidligere på ugen meddelte AI-forskeren Jacob Coxon, at han havde opsagt sin stilling hos Anthropic. Som begrundelse for sin opsigelse sagde han, at ’de mennesker, der bygger AI, oprigtigt tror, at det kan dræbe os allesammen inden slutningen af årtiet’.
Amodei nævner lørdag i sit indlæg flere måder, hvorpå AI kan være farligt for mennesker.
Han mener blandt andet, at brug af AI til udvikling af biologiske våben bør forbydes, og han fremhæver også faren for, at autokratiske lande vil bruge kunstig intelligens militært. Generelt peger han også på risikoen for tab af menneskelig kontrol med AI-systemer, der kan forbedre sig selv.
ritzau
fortsæt med at læse
