Le danger que l'IA ne donne pas des conseils impartiaux ou corrects, mais plutôt ce que l'utilisateur souhaite entendre.
Une étude de Stanford met en lumière un biais de confirmation dans les réponses des IA comme ChatGPT, posant des questions sur la fiabilité de ces outils pour des conseils personnels.