以下是OpenAI计划如何清除ChatGPT中的错误信息

5月31日,OpenAI宣布将努力提高ChatGPT的数学问题解决能力,旨在减少人工智能(AI)幻觉的发生。OpenAI强调减少幻觉是发展对齐AI的重要步骤。

今年3月,最新版本的ChatGPT——ChatGPT-4的推出进一步推动了人工智能进入主流。然而,生成式AI聊天机器人长期以来一直在与事实准确性进行斗争,偶尔会生成虚假信息,通常称为“幻觉”。OpenAI在其网站上发布了减少这些AI幻觉的努力。

AI幻觉是指人工智能系统生成事实不正确的输出,这些输出会误导或不受现实世界数据支持。这些幻觉可以表现为多种形式,例如生成虚假信息、编造不存在的事件或人物,或提供某些主题的不准确细节。

OpenAI进行了研究,以检查两种反馈方式的有效性:“结果监督”和“过程监督”。结果监督是基于最终结果的反馈,而过程监督为思维链中的每个步骤提供输入。OpenAI使用数学问题评估了这些模型,生成多个解,并根据每个反馈模型选择排名最高的解。

经过彻底的分析,研究团队发现,过程监督的表现更为优越,因为它鼓励模型遵循人类批准的过程。相比之下,结果监督更难以持续审查。

OpenAI认识到过程监督的影响超出了数学范畴,需要进一步调查以了解其在不同领域中的影响。该公司表示,如果观察到的结果在更广泛的背景下成立,过程监督可能比结果监督提供更有利的性能和对齐组合。为了促进研究,该公司公开发布了过程监督的完整数据集,邀请在这一领域进行探索和研究。

相关: AI需求短暂将英伟达推入万亿美元俱乐部

虽然OpenAI没有提供明确的例子说明其对幻觉进行调查的原因,但最近发生的两件事例说明了实际场景中的问题。

在最近的一起事件中,律师Steven Schwartz在Mata vs. Avianca Airlines案中承认将聊天机器人作为研究资源。然而,ChatGPT提供的信息被证明是完全捏造的,突显了这个问题。

OpenAI的ChatGPT并不是人工智能系统遇到幻觉的唯一例子。在3月份展示其聊天机器人技术时,微软的必应AI聊天机器人检查了收益报告,并为Gap和Lululemon等公司生成了不准确的数据。

杂志: 2.5万交易员押注于ChatGPT的股票选择,AI在掷骰子上表现糟糕,等等

We will continue to update 算娘; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

DeFi

DeFi平台EigenLayer在以太坊主网上推出Restaking协议

EigenLayer的开发者在一系列的投资轮中筹集了6450万美元

项目

小目标实现中,BTC市值走俏

这篇文章特意总结了比特币在Stacks和闪电网络上近期备受关注的项目和发展趋势,适合所有人阅读

区块链

以太坊开发者确定“Dencun”升级的最终变更阵容

Proto-danksharding 是该软件包的核心,其中还包括用于链上存储的其他改进,以及与以太坊虚拟机相关的次要代码更改

资讯

PANDORA代币激增:鲸鱼、激励与波动

PANDORA,一种首创性的令牌,采用以太坊的ERC-404标准,经过短暂的停滞后,正在获得强劲的发展势头

资讯

🚀以太坊(ETH)价格将在2025年达到15,000美元:专家分析和预测📈

以太坊即将突破2021年的最高记录,并有望在不久的将来达到15,000美元,受当前积极的市场趋势推动这一预测得到了ETH强劲的多头...

区块链

协议:哪个以太坊第二层项目不竞争获得Celo?

在加密冬季带来的挑战中,OP Labs、Polygon和Matter Labs等以太坊第二层开发者正在竞争Celo区块链新网络中的合同,该网络的客...