想象一下，人工智能（AI）是由使用它的人塑造的世界。这个想法不再只是一种思想实验，而是现实，多亏了AI公司Anthropic的一项开创性研究。他们开发了一个大型语言模型（LLM），让用户影响其价值判断。这种创新的方法催生了新一波的民主化AI发展。但是这对人工智能的未来意味着什么？让我们深入探讨一下。
民主化人工智能：一种新颖的方法
民主化人工智能的概念可能看起来抽象，但它有非常实际的影响。传统上，许多LLM，例如Anthropic的Claude和OpenAI的ChatGPT，都设计有保护措施 – 编码指令来规定特定行为。尽管这些保护措施旨在限制不良输出，但它们可能无意中剥夺用户的权力。毕竟，被认为是可接受的并不总是有用的，反之亦然。此外，道德或基于价值的判断可能因文化、人口统计和时间段的不同而有所不同。
那么，我们如何在保持用户权力的同时防止不适当的输出？答案在于”让用户投票价值的研究人工智能”。这种方法被Anthropic称为”集体宪法AI”，允许用户将AI模型与自己的价值观对齐。
AI的”宪法”
Anthropic的集体宪法AI实验是解决这一复杂问题的一次开创性尝试。该公司与Polis和Collective Intelligence Project合作，邀请了来自不同背景的1000名用户。他们要求这些参与者通过投票回答一系列问题，从而有效地决定AI模型的价值对齐。
这个过程类似于为AI创建一个”宪法”。就像宪法是许多国家的治理指导文件一样，这个AI宪法由一套规则组成，AI模型必须遵循这些规则。然后，模型经过训练，将这些规则纳入其过程中。
挑战与胜利
虽然这个实验是科学上的成功，但它也凸显了一些挑战。其中一个主要障碍是开发一种新颖的基准测试方法。由于这个实验是其类别中的首次，并且依赖于Anthropic独特的宪法AI方法论，因此没有一个既定的测试来比较基础模型和那些通过众包价值调整的模型。
尽管面临这些挑战，从用户投票反馈中整合数据的模型在偏见输出方面略优于基础模型。这个结果凸显了允许LLM产品的用户决定他们的集体价值的潜力。
随着人工智能世界的不断发展，像cryptoview.io这样的创新平台可以帮助用户保持信息和参与度。无论您是人工智能爱好者还是普通观察者，了解这些发展并了解它们可能如何塑造我们的数字未来是很重要的。
行动呼吁文本
