Föreställ dig en värld där artificiell intelligens (AI) formas av de människor som använder den. Denna idé är inte längre bara ett tankeexperiment utan verklighet, tack vare en banbrytande studie av AI-företaget Anthropic. De har utvecklat en stor språkmodell (LLM) som låter användarna påverka dess värdebedömningar. Detta innovativa tillvägagångssätt har gett upphov till en ny våg av demokratisk AI-utveckling. Men vad innebär detta för framtiden för AI? Låt oss undersöka det.
Demokratisering av AI: Ett nytt tillvägagångssätt
Konceptet med att demokratisera AI kan verka abstrakt, men det har mycket praktiska konsekvenser. Traditionellt sett har många LLM:er, som Anthropics Claude och OpenAI:s ChatGPT, designats med säkerhetsåtgärder – kodade instruktioner som dikterar specifika beteenden. Medan dessa säkerhetsåtgärder syftar till att begränsa oönskade utdata kan de oavsiktligt beröva användarna deras handlingsutrymme. Det som anses acceptabelt är inte alltid användbart, och vice versa. Dessutom kan moraliska eller värderingsbaserade bedömningar skilja sig åt mellan kulturer, demografier och tidsperioder.
Så hur kan vi hitta en balans mellan att behålla användarnas handlingsutrymme och förhindra olämplig utdata? Svaret ligger i att låta användarna rösta om värden i en studie om artificiell intelligens. Detta tillvägagångssätt, som Anthropic har kallat ’Collective Constitutional AI’, gör det möjligt för användarna att anpassa AI-modellerna efter sina egna värden.
Ett ’konstitution’ för AI
Anthropics experiment med Collective Constitutional AI är ett banbrytande försök att tackla denna komplexa fråga. Tillsammans med Polis och Collective Intelligence Project samlade företaget 1 000 användare från olika bakgrunder. De bad dessa deltagare att svara på en serie frågor via omröstningar, vilket i praktiken gjorde det möjligt för dem att bestämma värdeinriktningen för AI-modellerna.
Processen liknade skapandet av en ’konstitution’ för AI. Precis som en konstitution fungerar som det styrande dokumentet för regeringen i många länder bestod denna AI-konstitution av en uppsättning regler som AI-modellen var tvungen att följa. Modellen tränades sedan för att införliva dessa regler i sina processer.
Utmaningar och framgångar
Även om detta experiment var en vetenskaplig framgång lyfte det också fram flera utmaningar. En av de stora hindren var att utveckla en ny metod för benchmarking-processen. Eftersom detta experiment var det första i sitt slag och byggde på Anthropics unika metodik för konstitutionell AI fanns det ingen etablerad test för att jämföra basmodeller med de som finjusterats med värden från allmänheten.
Trots dessa utmaningar överträffade modellen som integrerade data från användarnas omröstningsfeedback något basmodellen när det gällde snedvriden utdata. Detta resultat understryker möjligheterna med att låta användarna av en LLM-produkt bestämma sina gemensamma värden.
När AI-världen fortsätter att utvecklas kan innovativa plattformar som cryptoview.io hjälpa användare att hålla sig informerade och engagerade. Oavsett om du är en AI-entusiast eller en vanlig iakttagare är det viktigt att följa med i dessa framsteg och förstå hur de kan forma vår digitala framtid.
Börja använda våra verktyg gratis nu.
