OpenAI mistænker, at regeringsagenter prøver at bruge ChatGPT til udvikling af overvågningsværktøjer.

OpenAI mistænker kinesiske agenter for at bruge ChatGPT

(FILES) A photo taken on September 1, 2025 shows the letters AI for Artificial Intelligence on a laptop screen (R) next to the logo of the ChatGPT application on a smartphone screen in Frankfurt am Main, western Germany. The staggering investments in artificial intelligence keep coming: In September 2025, AI chip giant Nvidia announced it would invest $100 billion to help OpenAI, the frontrunner in generative AI, build data centers. AI-related spending is soaring worldwide, expected to reach approximately $1.5 trillion by 2025, according to US research firm Gartner, and over $2 trillion in 2026 -- nearly 2 percent of global GDP. Feeding AI's computing appetite will cost up to $500 billion annually in global data center investments through 2030, requiring $2 trillion in annual revenues to make the expenses viable, according to consulting firm Bain & Company. Even under optimistic assumptions, Bain estimates the AI industry faces an $800 billion deficit. (Photo by Kirill KUDRYAVTSEV / AFP) Foto: Kirill Kudryavtsev/Ritzau Scanpix
(FILES) A photo taken on September 1, 2025 shows the letters AI for Artificial Intelligence on a laptop screen (R) next to the logo of the ChatGPT application on a smartphone screen in Frankfurt am Main, western Germany. The staggering investments in artificial intelligence keep coming: In September 2025, AI chip giant Nvidia announced it would invest $100 billion to help OpenAI, the frontrunner in generative AI, build data centers. AI-related spending is soaring worldwide, expected to reach approximately $1.5 trillion by 2025, according to US research firm Gartner, and over $2 trillion in 2026 -- nearly 2 percent of global GDP. Feeding AI's computing appetite will cost up to $500 billion annually in global data center investments through 2030, requiring $2 trillion in annual revenues to make the expenses viable, according to consulting firm Bain & Company. Even under optimistic assumptions, Bain estimates the AI industry faces an $800 billion deficit. (Photo by Kirill KUDRYAVTSEV / AFP) Foto: Kirill Kudryavtsev/Ritzau Scanpix
Lyt til artiklen

Firmaet OpenAI mistænker, at folk med tilknytning til kinesiske regeringsinstanser har brugt ChatGPT som hjælp til masseovervågning.

Det skriver CNN baseret på en rapport fra firmaet, som blev offentliggjort tirsdag.

Her beskriver OpenAI, hvordan nogle af de konti, som firmaet har fundet og efterfølgende har lukket, så ud til at forsøge at bruge ChatGPT til at udvikle overvågningsværktøjer.

I et af tilfældene bad en ChatGPT-bruger om hjælp til at udforme promoveringsmateriale og projektplaner for et social media-lytteværktøj, angiveligt til det, som OpenAI formoder, er en bruger fra Kinas regering.

Værktøjet kunne angiveligt scanne sociale medier for det, brugeren beskrev som ’ekstremistisk tale’.

OpenAI understreger i rapporten, at brugeren ikke brugte selve ChatGPT til overvågningen, og at det heller ikke kan bekræftes, om et sådant værktøj er blevet brugt af en kinesisk regeringsinstans.

ritzau

Mest læste

    1

  1. »Forkert og fjollet«: Stjerne­forsker revser dansk milliard­satsning på ny klima­teknologi

    2. 2

  2. Lotte Folke Kaarsholm: George W. Bush gav den fineste påmindelse om, hvad den amerikanske civilisation er

    3. 3

  3. Nu smager flere af de involverede deres egen medicin

    4. 4

  4. En af landets rigeste kvinder spiller en rolle i strid om ulve

    5. 5

  5. Hun forsker i østrogens betydning for kvinde­hjernen – her er hendes råd til overgangs­alderen

    6. 6

  6. Elisabet Svane: Løkke skriver næsten sig selv ud af ligningen – men kun næsten

© Alt materiale på denne side er omfattet af gældende lov om ophavsret. Læs om reglerne her