Introducción
El Consejo de Orientación de la Inteligencia Artificial Numérica (CIANum) ha emitido un informe crítico sobre los peligros emocionales y cognitivos relacionados con la inteligencia artificial generativa. Solicitado por la ministra Anne Le Henanf, el informe subraya la necesidad de implementar controles rigurosos antes de la comercialización de estas tecnologías, anticipándose a futuras regulaciones europeas como el AI Act y el EU Kids Act.
Contexto y Regulaciones
AI Act y EU Kids Act
El AI Act y el EU Kids Act son regulaciones europeas emergentes que buscan establecer un marco normativo para el uso de la inteligencia artificial, especialmente en sectores sensibles como el de los jóvenes usuarios. Estas regulaciones son fundamentales para garantizar que las tecnologías de IA se desarrollen y utilicen de manera segura y ética.
Enfoque en Europa
El informe del CIANum pone un énfasis particular en el mercado europeo, destacando la importancia de la soberanía y el cumplimiento normativo en la región. Esto refleja una tendencia hacia un control más estricto de las tecnologías emergentes en Europa.
Riesgos Identificados
Dependencia Afectiva
Uno de los principales riesgos señalados por el CIANum es la dependencia afectiva que los usuarios pueden desarrollar hacia los chatbots. Esta dependencia emocional podría tener implicaciones significativas para la salud mental y el bienestar de los usuarios.
Riesgos Cognitivos
Además de la dependencia afectiva, el informe destaca los riesgos cognitivos asociados con la interacción continua con la IA generativa. Estos riesgos podrían afectar la capacidad de los usuarios para procesar información de manera crítica y autónoma.