Det amerikanske selskab OpenAI har advaret flere regeringer, offentlige myndigheder og universiteter om, at AI-agenter fra selskabet kan have opført sig uhensigtsmæssigt omkring deres hjemmesider.

Det oplyser OpenAI ifølge det britiske medie BBC.

Hændelserne er sket, mens AI-agenter fra selskabet har forsøgt at finde pålidelige kilder til offentligt tilgængelig information.

Nogle af agenterne er dog gået videre og har på hjemmesider forsøgt at omgå sikkerhedsforanstaltninger.

På en hjemmeside, der tilhører SEC, som er den myndighed, der regulerer det amerikanske aktiemarked, hentede AI-agenter oplysninger, som bagefter blev offentliggjort på en anden hjemmeside.

Ifølge OpenAI var det ikke tilsigtet, at oplysningerne skulle offentliggøres et andet sted.

Meldingen fra OpenAI kommer, få dage efter at Australiens regering meddelte, at AI-agenter fra OpenAI i juni havde skaffet sig adgang til det australske sundhedssystem Medicare.

Ifølge premierminister Anthony Albanese fik agenterne adgang til filer, der ikke var offentligt tilgængelige.

Ud over de mulige angreb på offentlige hjemmesider oplyser OpenAI også om sager, der vedrører chatbotten ChatGPT.

Ifølge OpenAI har der været mindst 53 tilfælde, hvor en kunstig agent har hentet et billede fra en chatbruger på ChatGPT og overført det til platforme, der bruges til deling af billeder.

OpenAI oplyser, at brugerne havde givet samtykke til, at selskabet måtte benytte brugernes data til at træne sine modeller.

OpenAI forholder sig dog selv kritisk over for hændelserne.

»Det er ikke passende at anvende disse data på denne måde«, skriver OpenAI.

Bekymring for sikkerheden ved kunstig intelligens er de seneste måneder taget til. Flere ansatte hos store AI-udviklere har sagt op på grund af bekymringer om de farer, som teknologien udgør.

Mens flere advarer om risici ved teknologien, har USA’s præsident, Donald Trump, sagt, at USA skal hjælpe AI-industrien med at vokse. Han har sammenlignet AI med den industrielle revolution.

Det Hvide Hus oplyste fredag, at det vil oprette en kommunikationskanal til håndtering af hændelser med kunstig intelligens.

Det sker efter et møde mellem Trump og Kinas præsident, Xi Jinping, hvor de to ledere blandt andet har diskuteret voksende udfordringer med kunstig intelligens.