Представьте себе мир, в котором искусственный интеллект (ИИ) формируется самими людьми, которые его используют. Эта идея больше не является просто мысленным экспериментом, а реальностью, благодаря революционному исследованию компании Anthropic. Они разработали большую языковую модель (LLM), которая позволяет пользователям влиять на его ценностные суждения. Этот инновационный подход породил новую волну развития демократического ИИ. Но что это означает для будущего ИИ? Давайте разберемся.
Демократизация ИИ: Новаторский Подход
Концепция демократизации ИИ может показаться абстрактной, но она имеет очень практические последствия. Традиционно многие LLM, такие как Claude от Anthropic и ChatGPT от OpenAI, были разработаны с ограничениями — закодированными инструкциями, которые определяют конкретное поведение. Хотя эти ограничения направлены на ограничение нежелательных результатов, они могут непреднамеренно ограничить возможности пользователей. В конце концов, то, что считается приемлемым, не всегда полезно, и наоборот. Кроме того, моральные или ценностные суждения могут отличаться в разных культурах, демографических группах и временных периодах.
Так как можно найти баланс между сохранением возможности действия пользователей и предотвращением неприемлемых результатов? Ответ кроется в позволении пользователям голосовать за значения в исследовании искусственного интеллекта. Этот подход, который Anthropic назвал ‘Коллективный Конституционный ИИ’, позволяет пользователям согласовывать модели ИИ с собственными ценностями.
‘Конституция’ для ИИ
Эксперимент Коллективного Конституционного ИИ от Anthropic — это новаторская попытка решить эту сложную проблему. Работая совместно с Polis и проектом Коллективного Интеллекта, компания собрала 1 000 пользователей из разных сред. Они попросили этих участников ответить на ряд вопросов через опрос, позволяя им диктовать выравнивание ценностей моделей ИИ.
Процесс был похож на создание ‘конституции’ для ИИ. Как конституция служит руководящим документом для управления во многих странах, эта ИИ-конституция состояла из набора правил, которым должна следовать модель ИИ. Затем модель была обучена включать эти правила в свои процессы.
Проблемы и Успехи
Хотя этот эксперимент был научным успехом, он также подчеркнул несколько проблем. Одной из ключевых трудностей было разработка нового метода для процесса сравнения. Поскольку этот эксперимент был первым своего рода и основывался на уникальной методологии Anthropic по Конституционному ИИ, не существовало установленного теста для сравнения базовых моделей с теми, которые были настроены с учетом значений, полученных от массового голосования.
Несмотря на эти трудности, модель, интегрировавшая данные от пользователей, чьи голоса были учтены, немного превосходила базовую модель по уровню предвзятости результатов. Этот результат подчеркивает потенциал позволения пользователям продукта LLM определять их совместные ценности.
Поскольку мир ИИ продолжает развиваться, инновационные платформы, такие как cryptoview.io, могут помочь пользователям быть информированными и вовлеченными. Будьте вы энтузиастом ИИ или простым наблюдателем, важно быть в курсе этих событий и понимать, как они могут формировать наше цифровое будущее.
текст призыва к действию
