Forestill deg en verden der kunstig intelligens (AI) formes av menneskene som bruker den. Denne ideen er ikke lenger bare et tankeeksperiment, men en virkelighet, takket være en banebrytende studie av AI-selskapet Anthropic. De har utviklet en stor språkmodell (LLM) som lar brukerne påvirke dens verdivurderinger. Denne innovative tilnærmingen har ført til en ny bølge av demokratisk AI-utvikling. Men hva betyr dette for fremtiden for AI? La oss dykke ned i det.
Demokratisering av AI: En ny tilnærming
Konseptet med å demokratisere AI kan virke abstrakt, men det har svært praktiske implikasjoner. Tradisjonelt sett har mange LLM-er, som Anthropics Claude og OpenAI’s ChatGPT, blitt designet med sikkerhetsbarrierer – kodede instruksjoner som dikterer spesifikke atferder. Mens disse sikkerhetsbarrierene har som mål å begrense uønskede resultater, kan de utilsiktet frata brukerne deres handlekraft. Tross alt er det som anses som akseptabelt ikke alltid nyttig, og omvendt. Dessuten kan moralske eller verdibaserte vurderinger variere mellom kulturer, demografier og tidsperioder.
Så hvordan kan vi finne en balanse mellom å opprettholde brukernes handlekraft og forhindre upassende resultater? Svaret ligger i å la brukerne stemme for verdier i en studie om kunstig intelligens. Denne tilnærmingen, som Anthropic har kalt ‘Collective Constitutional AI’, lar brukerne tilpasse AI-modellene til sine egne verdier.
En ‘grunnlov’ for AI
Anthropic’s Collective Constitutional AI-eksperiment er et banebrytende forsøk på å takle denne komplekse problemstillingen. I samarbeid med Polis og Collective Intelligence Project samlet selskapet 1000 brukere fra ulike bakgrunner. De ba disse deltakerne svare på en rekke spørsmål gjennom meningsmålinger, og ga dem dermed muligheten til å diktere verdien av AI-modellene.
Prosessen lignet på å lage en ‘grunnlov’ for AI. På samme måte som en grunnlov fungerer som det styrende dokumentet for styring i mange nasjoner, besto denne AI-grunnloven av en rekke regler som AI-modellen måtte følge. Modellen ble deretter trent opp til å inkorporere disse reglene i sine prosesser.
Utfordringer og triumfer
Mens dette eksperimentet var en vitenskapelig suksess, viste det også flere utfordringer. En av de viktigste hindringene var å utvikle en ny metode for benchmarking-prosessen. Siden dette eksperimentet var det første av sitt slag og baserte seg på Anthropics unike Constitutional AI-metodikk, fantes det ingen etablert test for å sammenligne grunnmodeller med de som var finjustert med verdier fra brukerne.
Tross disse utfordringene, presterte modellen som integrerte data fra meningsmålinger fra brukerne litt bedre enn grunnmodellen når det gjaldt fordomsfulle resultater. Dette resultatet understreker potensialet ved å la brukerne av et LLM-produkt bestemme sine kollektive verdier.
I takt med at AI-verdenen fortsetter å utvikle seg, kan innovative plattformer som cryptoview.io hjelpe brukerne med å holde seg informert og engasjert. Enten du er en AI-entusiast eller en tilfeldig observatør, er det viktig å holde seg oppdatert om disse utviklingene og forstå hvordan de kan forme vår digitale fremtid.
Begynn å bruke våre verktøy gratis nå.
