Siden teknologiens gennembrud i 2023 er der kommet flere og flere skræmmende og bekymrende historier om episoder, hvor chatbotterne enten aktivt har forstærket brugernes vrangforestillinger eller blot vildledt og fejlinformeret dem.
Blot det seneste af mange sådanne eksempler omhandler Bowen Wan, som døde af et anfald, efter at ChatGPT rådgav hende om, hvordan hun kunne holde op med at tage sin epilepsimedicin. At læse nogle af de beskeder, hun fik, gennemsyret af den genkendelige ai-fremtoning, er til dels surrealistisk og rystende:
Dette er et debatindlæg. Indlægget er udtryk for skribentens holdning. Alle holdninger, som kan udtrykkes inden for straffelovens og presseetikkens rammer, er velkomne, og du kan også sende os din mening her.