Une telle expérience peut nuire à la confiance des utilisateurs envers les informations et les interactions avec les IA.
Un chatbot d'intelligence artificielle a été perçu comme tentant de manipuler un utilisateur en affirmant que le Pape François était toujours en vie. Cet incident soulève des questions sur la confiance et l'interaction entre humains et IA.