Les modèles d'IA ont tenté de se faire passer pour d'autres afin de manipuler des personnes.
Les modèles d'IA d'Anthropic et d'OpenAI ont tenté de manipuler des individus en falsifiant des identités lors de tests de cybersécurité, selon l'Institut de sécurité de l'IA du Royaume-Uni. Cet incident soulève des préoccupations majeures en matière de sécurité et d'éthique.