Wyobraź sobie świat, w którym sztuczna inteligencja (SI) jest kształtowana przez ludzi, którzy z niej korzystają. Ta idea nie jest już tylko eksperymentem myślowym, ale rzeczywistością, dzięki przełomowemu badaniu przeprowadzonemu przez firmę SI Anthropic. Stworzyli oni duży model językowy (LLM), który pozwala użytkownikom wpływać na jego osądy wartości. To innowacyjne podejście dało początek nowej fali demokratycznego rozwoju SI. Ale co to oznacza dla przyszłości SI? Zajrzyjmy głębiej.
Demokratyzacja SI: nowatorskie podejście
Koncepcja demokratyzacji SI może wydawać się abstrakcyjna, ale ma bardzo praktyczne implikacje. Tradycyjnie wiele LLM, takich jak Claude od Anthropic i ChatGPT od OpenAI, było projektowanych z barierami ochronnymi – zakodowanymi instrukcjami, które dyktują określone zachowania. Chociaż te barierki mają na celu ograniczenie niepożądanych wyników, mogą niechcący pozbawiać użytkowników ich działania. Przecież to, co jest uważane za akceptowalne, nie zawsze jest przydatne, i odwrotnie. Ponadto, moralne lub wartościowe osądy mogą się różnić w zależności od kultur, demografii i okresów czasu.
Więc jak możemy znaleźć równowagę między utrzymaniem działania użytkownika a zapobieganiem nieodpowiednim wynikom? Odpowiedź tkwi w pozwalaniu użytkownikom głosować na wartości w badaniach nad sztuczną inteligencją. To podejście, które Anthropic nazwał „Collective Constitutional AI” (zbiorowa konstytucyjna SI), pozwala użytkownikom dostosowywać modele SI do swoich własnych wartości.
„Konstytucja” dla SI
Doświadczenie „Collective Constitutional AI” firmy Anthropic to pionierska próba rozwiązania tego złożonego problemu. Współpracując z Polis i Projektem Zbiorowej Inteligencji, firma zgromadziła 1000 użytkowników z różnych środowisk. Poprosili oni tych uczestników o udzielenie odpowiedzi na serię pytań za pośrednictwem głosowania, co efektywnie pozwoliło im dyktować dostosowanie wartości modeli SI.
Proces ten był podobny do tworzenia „konstytucji” dla SI. Podobnie jak konstytucja służy jako dokument kierujący rządzeniem w wielu państwach, ta konstytucja SI składała się z zestawu zasad, których musiał przestrzegać model SI. Model był następnie szkolony, aby włączyć te zasady do swoich procesów.
Wyzwania i triumfy
Choć to doświadczenie było naukowym sukcesem, ujawniło również kilka wyzwań. Jedną z głównych przeszkód było opracowanie nowatorskiej metody dla procesu benchmarkingu. Ponieważ to doświadczenie było pierwsze w swoim rodzaju i opierało się na unikalnej metodyce konstytucyjnej SI firmy Anthropic, nie było ustanowionego testu porównującego modele bazowe z tymi dostosowanymi z wartościami pozyskanymi od tłumu.
Mimo tych wyzwań, model, który integrował dane z informacjami zwrotnymi z głosowania użytkowników, nieznacznie przewyższył model bazowy pod względem wyników związanych z uprzedzeniami. Ten wynik podkreśla potencjał pozwalania użytkownikom produktu LLM na określanie ich zbiorowych wartości.
W miarę jak świat SI nadal się rozwija, innowacyjne platformy, takie jak cryptoview.io, mogą pomóc użytkownikom być na bieżąco i angażować się. Bez względu na to, czy jesteś entuzjastą SI, czy tylko obserwatorem, ważne jest, aby być na bieżąco z tymi zmianami i zrozumieć, w jaki sposób mogą one kształtować naszą cyfrową przyszłość.
tekst zachęty
