Le CIANum et les dangers émotionnels de l'IA générative
Le Conseil d'orientation de l'intelligence artificielle numérique (CIANum) a récemment publié un rapport alarmant sur les dangers émotionnels associés à l'intelligence artificielle générative. Sollicité par la ministre Anne Le Henanf, le CIANum met en lumière des risques significatifs pour les utilisateurs, notamment une dépendance affective croissante envers les chatbots.
Dépendance affective et risques cognitifs
Le rapport souligne que l'interaction fréquente avec des chatbots pourrait mener à une dépendance émotionnelle. Cette dépendance pourrait avoir des conséquences sur la cognition des utilisateurs, un aspect que le CIANum considère comme un risque majeur.
"Le Conseil alerte sur notre dépendance affective aux chatbots."
Réglementations européennes en perspective
Pour contrer ces menaces, le CIANum recommande l'instauration de contrôles rigoureux avant la commercialisation de ces technologies. Ces mesures anticipent les futures réglementations européennes, telles que l'AI Act et l'EU Kids Act, qui visent à encadrer l'utilisation de l'IA, en particulier pour les jeunes utilisateurs.
"Pour endiguer ces risques cognitifs, le rapport réclame des contrôles stricts avant la mise sur le marché, en écho aux futurs règlements européens AI Act et EU Kids Act."
L'importance des contrôles préalables
Le rapport du CIANum insiste sur la nécessité de mettre en place des contrôles stricts avant la mise sur le marché des technologies d'IA générative. Ces contrôles sont vus comme essentiels pour protéger les utilisateurs et garantir une utilisation éthique de l'IA.