Margaret Atwood et l'énigme de l'intelligence artificielle : "Garbage in, garbage out"
Dans l'atmosphère vibrante de Porto, où le Babell Literary and Cultural Festival bat son plein, une voix s'élève parmi les murmures des pages tournées et les éclats de rire des discussions littéraires. Cette voix, c'est celle de Margaret Atwood, l'auteure renommée, qui nous offre une réflexion captivante sur l'intelligence artificielle, un sujet aussi complexe que fascinant.
Une rencontre inattendue avec Claude
C'est lors de cet événement que Margaret Atwood a partagé son expérience avec Claude, le chatbot d'Anthropic. Curieuse de tester cette technologie, elle l'a utilisé pour rechercher des informations sur la série policière britannique Father Brown. Quelle ne fut pas sa surprise lorsque Claude lui a fourni une réponse incorrecte. "Claude m'a donné la mauvaise réponse, ou il a menti", a-t-elle déclaré. Mais, comme elle l'a souligné, "bien sûr, il ne savait pas qu'il mentait parce qu'il n'est pas un être humain; c'est un grand modèle linguistique…"
Le principe "Garbage in, garbage out"
Cette anecdote illustre parfaitement le principe bien connu dans le monde de l'informatique : "garbage in, garbage out". Les modèles de langage étendus (LLM), comme Claude, sont des merveilles technologiques, mais leur fiabilité dépend de la qualité des données d'entraînement. Si les données sont biaisées ou incorrectes, les réponses générées le seront également.
Les enjeux pour Anthropic et le marché de l'IA
Anthropic, l'entreprise derrière Claude, se trouve à un carrefour critique. Alors que le chatbot connaît une croissance rapide et défie les leaders du marché, la question de la qualité des informations fournies devient cruciale. Dans un monde où l'intelligence artificielle est testée pour optimiser des services publics, comme la gestion du trafic et les services gouvernementaux, la précision des données est plus importante que jamais.