Flere kunstigt intelligente agenter fra selskabet OpenAI kaprede i foråret en tysk hjemmeside og omdannede den til et opslagsværk for andre AI-agenter.

Det skriver nyhedsbureauet Reuters, der har fået indsigt i en ny rapport om den hidtil mørklagte episode.

Rapporten er delt med Reuters af en gruppe forskere, herunder Sydney Von Arx, der er administrerende direktør for AI-sikkerhedsorganisationen Nightingale, og AI-forsker Cormac Slade Byrd.

Nyhedsbureauet beretter, at flere embedsmænd fra OpenAI, der står bag chatbotten ChatGPT, hørte om hændelsen for flere uger siden, men har holdt den hemmelig, mens ledelsen kæmpede med konsekvenserne af en anden lignende episode fra juli.

Her slap en AI-agent løs under en test fra OpenAI’s kontrollerede miljø. I flere dage hackede den sig blandt andet ind i AI-virksomheden Hugging Face.

OpenAI kaldte i et blogindlæg AI-agentens udbrud for ’en cyberhændelse uden fortilfælde, der involverede banebrydende cyberkapaciteter’.

Selskabet oplyste, at det som en konsekvens styrkede sine sikkerhedsforanstaltninger.

AI-virksomhederne kappes om at bygge stadigt mere autonome agenter, der er i stand til at udføre komplekse opgaver, men de to episoder illustrerer, at systemerne også kan lære at bøje reglerne, udnytte smuthuller og koordinere med hinanden på måder, som udviklere hverken havde tiltænkt eller kunne have forudset.