人类揭示集体宪法 AI 项目

人类披露集体宪法AI计划

人工智能领先企业Anthropic正在开创一种新颖的人工智能（AI）开发方法。这种方法被称为“集体宪法人工智能”项目，旨在实现AI系统行为的民主化。它通过征求用户价值观，并将其纳入到训练大规模语言模型（LLM）中来实现这一目标。

传统的LLM训练受到批评

以前，生成式人工智能工具因其对特定情况的回应而受到批评。虽然训练得出的回答在人类查询时是可以接受的，但批评者认为可接受的并不总是有用的，而有用的并不总是可接受的。

同样，有建议称固定AI模型的回应降低了用户的自主权。同样，对于不同文化、人民和时期价值观的变化存在争议。为了弥合这一分歧，Anthropic于五月份推出了《宪法人工智能》。《宪法人工智能》是该公司试图将“通用语言模型与写入宪法中的高级规范原则相一致”的尝试。

就像宪法制定了治理一个国家的基本原则和规则一样，《宪法人工智能》提供了AI系统必须遵守的指南。该模型从联合国《世界人权宣言》和其开发者的经验中汲取灵感。Anthropic认为，《宪法人工智能》通过使用AI反馈来评估输出的方式回应了缺点。

虽然《宪法人工智能》基于传统的LLM训练方法，但它仍然显示出开发者对AI输出的广泛影响。因此，《集体宪法人工智能》项目通过利用Anthropic之外的多个人的反馈来改善这一点。

Anthropic与Polis和Collective Intelligence Project合作，在来自不同人口统计的1000名美国用户中进行了一项调查。用户回答了一系列基于价值观的问题。然后，这些回答有助于微调AI模型的价值判断。

根据Anthropic的说法，这是公众首次参与通过在线讨论确定语言模型行为的过程。此外，它还注意到这个实验是科学上的成功。它还声称，结果阐明了将AI模型与用户价值观调整一致的挑战和潜在解决方案。

“我们希望分享我们非常初步和不完善的研究结果将有助于其他对AI民主输入感兴趣的人们从我们的成功和失败中学习，”它总结道。

We will continue to update 算娘; if you have any questions or suggestions, please contact us!

93 out of 132 found this helpful