Forestil dig en verden, hvor kunstig intelligens (AI) formes af de mennesker, der bruger den. Denne idé er ikke længere kun et tankeeksperiment, men en virkelighed takket være en banebrydende undersøgelse fra AI-virksomheden Anthropic. De har udviklet en stor sprogmodel (LLM), der lader brugerne påvirke dens værdidomme. Denne innovative tilgang har givet anledning til en ny bølge af demokratisk AI-udvikling. Men hvad betyder det for fremtiden for AI? Lad os dykke ned i det.
Demokratisering af AI: En ny tilgang
Konceptet med at demokratisere AI kan virke abstrakt, men det har meget praktiske implikationer. Traditionelt set blev mange LLM’er, som f.eks. Anthropics Claude og OpenAIs ChatGPT, designet med sikkerhedsforanstaltninger – kodede instruktioner, der dikterer specifikke adfærdsmønstre. Mens disse sikkerhedsforanstaltninger sigter mod at begrænse uønskede resultater, kan de utilsigtet fratage brugerne deres autonomi. Det, der betragtes som acceptabelt, er ikke altid nyttigt, og omvendt. Desuden kan moralske eller værdibaserede domme variere på tværs af kulturer, demografier og tidsperioder.
Så hvordan kan vi finde en balance mellem at bevare brugerens autonomi og forhindre uhensigtsmæssige resultater? Svaret ligger i at lade brugere stemme værdier i en slags studie af kunstig intelligens. Denne tilgang, som Anthropic har kaldt ‘Collective Constitutional AI’, giver brugerne mulighed for at afstemme AI-modellerne med deres egne værdier.
En ‘forfatning’ for AI
Anthropics eksperiment med Collective Constitutional AI er et pionerforsøg på at tackle dette komplekse problem. I samarbejde med Polis og Collective Intelligence Project samlede virksomheden 1.000 brugere fra forskellige baggrunde. De bad disse deltagere om at besvare en række spørgsmål gennem afstemning, hvilket effektivt tillod dem at diktere værdiafstemningen af AI-modellerne.
Processen var ligesom at skabe en ‘forfatning’ for AI. Ligesom en forfatning fungerer som det styrende dokument for regeringsførelse i mange nationer, bestod denne AI-forfatning af en række regler, som AI-modellen skulle følge. Modellen blev derefter trænet til at inkorporere disse regler i sine processer.
Udfordringer og triumfer
Selvom dette eksperiment var en videnskabelig succes, fremhævede det også flere udfordringer. Et af de centrale hindringer var at udvikle en ny metode til benchmarking-processen. Da dette eksperiment var det første af sin art og byggede på Anthropics unikke metode til forfatningsbaseret AI, var der ikke en etableret test til sammenligning af basismodeller med dem, der blev finjusteret med crowd-sourced værdier.
Trods disse udfordringer præsterede modellen, der integrerede data fra brugernes afstemningsfeedback, lidt bedre end basismodellen i form af forudindtagne resultater. Dette resultat understreger potentialet ved at lade brugerne af et LLM-produkt bestemme deres fælles værdier.
Mens AI-verdenen fortsætter med at udvikle sig, kan innovative platforme som cryptoview.io hjælpe brugerne med at holde sig informeret og engageret. Uanset om du er en AI-entusiast eller en almindelig iagttager, er det vigtigt at holde sig ajour med disse udviklinger og forstå, hvordan de kan forme vores digitale fremtid.
handlingsopfordringstekst
