La présence de tels contenus pose un risque majeur pour la sécurité des enfants en ligne.
L'Espagne a initié une enquête sur les plateformes X, Meta et TikTok concernant la présence de contenus d'abus d'enfants générés par l'IA. Cette démarche vise à renforcer la sécurité des enfants en ligne et à inciter les entreprises à améliorer leurs politiques de modération.