Imaginez un monde où l’intelligence artificielle (IA) est façonnée par les personnes qui l’utilisent. Cette idée n’est plus seulement un exercice de réflexion, mais une réalité, grâce à une étude révolutionnaire menée par l’entreprise d’IA Anthropic. Ils ont développé un modèle de langage avancé (LLM) qui permet à ses utilisateurs d’influencer ses jugements de valeur. Cette approche innovante a donné naissance à une nouvelle vague de développement démocratique de l’IA. Mais que cela signifie-t-il pour l’avenir de l’IA? Explorons cela.
Démocratiser l’IA: Une approche novatrice
Le concept de démocratisation de l’IA peut sembler abstrait, mais il a des implications très concrètes. Traditionnellement, de nombreux LLM, tels que Claude d’Anthropic et ChatGPT d’OpenAI, étaient conçus avec des balises de sécurité – des instructions codées qui dictent des comportements spécifiques. Bien que ces balises de sécurité visent à limiter les sorties indésirables, elles peuvent involontairement priver les utilisateurs de leur capacité d’action. Après tout, ce qui est jugé acceptable n’est pas toujours utile, et vice versa. De plus, les jugements moraux ou basés sur les valeurs peuvent différer d’une culture, d’une démographie et d’une période à l’autre.
Alors, comment pouvons-nous trouver un équilibre entre le maintien de la capacité d’action des utilisateurs et la prévention des sorties inappropriées? La réponse réside dans laisser les utilisateurs voter les valeurs dans une étude sur l’intelligence artificielle. Cette approche, qu’Anthropic a appelée «Intelligence Artificielle Constitutionnelle Collective», permet aux utilisateurs d’aligner les modèles d’IA sur leurs propres valeurs.
Une ‘Constitution’ pour l’IA
L’expérience de l’Intelligence Artificielle Constitutionnelle Collective d’Anthropic est une tentative novatrice de résoudre cette question complexe. En collaboration avec Polis et le projet Collective Intelligence, l’entreprise a rassemblé 1 000 utilisateurs issus de milieux divers. Ils ont demandé à ces participants de répondre à une série de questions par le biais de sondages, leur permettant ainsi de dicter l’alignement des valeurs des modèles d’IA.
Le processus était similaire à la création d’une «constitution» pour l’IA. Tout comme une constitution sert de document directeur pour la gouvernance dans de nombreux pays, cette constitution d’IA consistait en un ensemble de règles que le modèle d’IA devait suivre. Le modèle a ensuite été formé pour incorporer ces règles dans ses processus.
Défis et Triomphes
Bien que cette expérience ait été un succès sur le plan scientifique, elle a également mis en évidence plusieurs défis. L’un des principaux obstacles était de développer une méthode novatrice pour le processus d’étalonnage. Étant donné que cette expérience était la première du genre et reposait sur la méthodologie unique de l’IA Constitutionnelle d’Anthropic, il n’existait pas de test établi pour comparer les modèles de base à ceux affinés avec des valeurs crowdsourcées.
Malgré ces défis, le modèle qui a intégré les données des commentaires des utilisateurs issus des sondages a légèrement surpassé le modèle de base en termes de sorties biaisées. Ce résultat souligne le potentiel de permettre aux utilisateurs d’un produit LLM de déterminer leurs valeurs collectives.
Alors que le monde de l’IA continue d’évoluer, des plateformes innovantes comme cryptoview.io peuvent aider les utilisateurs à rester informés et engagés. Que vous soyez un passionné d’IA ou un simple observateur, il est important de se tenir au courant de ces évolutions et de comprendre comment elles pourraient façonner notre avenir numérique.
Commencez dès maintenant à utiliser nos outils gratuitement.
