人类揭示集体宪法 AI 项目

人类披露集体宪法AI计划

人工智能领先企业Anthropic正在开创一种新颖的人工智能(AI)开发方法。这种方法被称为“集体宪法人工智能”项目,旨在实现AI系统行为的民主化。它通过征求用户价值观,并将其纳入到训练大规模语言模型(LLM)中来实现这一目标。

传统的LLM训练受到批评

以前,生成式人工智能工具因其对特定情况的回应而受到批评。虽然训练得出的回答在人类查询时是可以接受的,但批评者认为可接受的并不总是有用的,而有用的并不总是可接受的。

同样,有建议称固定AI模型的回应降低了用户的自主权。同样,对于不同文化、人民和时期价值观的变化存在争议。为了弥合这一分歧,Anthropic于五月份推出了《宪法人工智能》。《宪法人工智能》是该公司试图将“通用语言模型与写入宪法中的高级规范原则相一致”的尝试。

就像宪法制定了治理一个国家的基本原则和规则一样,《宪法人工智能》提供了AI系统必须遵守的指南。该模型从联合国《世界人权宣言》和其开发者的经验中汲取灵感。Anthropic认为,《宪法人工智能》通过使用AI反馈来评估输出的方式回应了缺点。

集体宪法人工智能项目

虽然《宪法人工智能》基于传统的LLM训练方法,但它仍然显示出开发者对AI输出的广泛影响。因此,《集体宪法人工智能》项目通过利用Anthropic之外的多个人的反馈来改善这一点。

Anthropic与Polis和Collective Intelligence Project合作,在来自不同人口统计的1000名美国用户中进行了一项调查。用户回答了一系列基于价值观的问题。然后,这些回答有助于微调AI模型的价值判断。

根据Anthropic的说法,这是公众首次参与通过在线讨论确定语言模型行为的过程。此外,它还注意到这个实验是科学上的成功。它还声称,结果阐明了将AI模型与用户价值观调整一致的挑战和潜在解决方案。

“我们希望分享我们非常初步和不完善的研究结果将有助于其他对AI民主输入感兴趣的人们从我们的成功和失败中学习,”它总结道。

We will continue to update 算娘; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

政策

韩国加密货币行业在国家选举前夺得中心舞台

兴奋的消息!请标记你的日历,因为韩国即将迎来今年备受期待的全国选举不要错过这次机会,参与塑造我们国家的未来

财务

🌟 韩国坚决禁止比特币ETF:这对加密货币投资者意味着什么? 🌟

韩国金融服务委员会宣布目前暂时无法推出虚拟货币交易所交易基金 (ETF)然而,委员会也表示这一决定不会对市场产生重大影响,...

政策

韩国高级公务员宣布拥有加密货币

韩国京畿道地区的所有高级公职人员中,有10%已经申报自己的加密资产

市场行情

南韓交易者推動了最近的加密貨幣激增,導致交易所的市場份額增至13%

亚洲的交易商,尤其是在韩国,成为过去两个月来加密市场最近涨势的关键推动力

资讯

韩国检察官未能关闭泡菜溢价加密交易商

韩国检察官在试图监禁涉嫌交易高溢价加密货币的嫌疑人时遭遇挫折,14名个人被判无罪,这是一项积极的结果

资讯

“韩国警方关闭“国际虚拟货币欺诈”团伙,冻结120万美元”

韩国警方突袭了一群涉嫌“国际”加密货币诈骗犯,冻结了超过1200万美元,并逮捕了49人