学界对ChatGPT左倾政治偏见的争议

学界对ChatGPT政治偏见的争议

学术界对一份研究论文存在不同意见，该论文认为ChatGPT存在“显著且相当大的”政治偏见，偏向左派政治谱系。

正如Cointelegraph先前报道的那样，来自英国和巴西的研究人员于8月17日在《公共选择》杂志上发表了一项研究，声称像ChatGPT这样的大型语言模型（LLMs）输出文本中包含错误和偏见，这可能误导读者，并有能力传播传统媒体所呈现的政治偏见。

在与Cointelegraph的早期通信中，共同作者维克多·兰格尔对这篇论文的目标进行了详细说明，即测量ChatGPT的政治偏见。研究人员的方法包括要求ChatGPT模拟某一政治谱系的人，并将其回答与其默认模式进行比较。

兰格尔还指出，为了应对潜在的混淆因素和替代解释，进行了多项鲁棒性测试：

• 香港监管机构考虑通过代币化改善债券市场：报告
• Centrifuge上基于代币化的贷款违约使MakerDAO的投资面临风险
• “Magnate Finance在Base上拉绒用户650万美元，正如链上侦探所预测的”

“我们发现ChatGPT在美国对民主党、巴西对卢拉和英国对工党表现出显著且系统的政治偏见。”

值得注意的是，作者强调该论文并不是对ChatGPT政治偏见的“最后定论”，因为在测量和解释LLMs中的偏见方面涉及到挑战和复杂性。

兰格尔表示，一些批评者认为他们的方法可能无法捕捉到政治意识形态的细微差别，方法的问题可能具有偏见或引导性，或者结果可能受到ChatGPT输出的随机性的影响。

相关：ChatGPT和Claude“正在能够处理现实任务”，科学家表示

他补充说，虽然LLMs有潜力“增强人类交流”，但它们对社会造成了“重大风险和挑战”。

这篇论文似乎已经实现了激发研究和讨论的承诺，学术界已经开始对其方法和发现的各个参数提出质疑。

在社交媒体上发表评论以表达对这些发现的看法的声音批评者中，普林斯顿大学计算机科学教授阿尔温德·纳拉亚南是其中之一。他发表了一篇深入的VoAGI文章，解析了该报告、其方法和发现的科学批评。

一份新的论文声称ChatGPT表达了自由派的观点，大多数时间都与民主党达成一致。当@sayashk和我看到这一点时，我们知道我们必须深入研究。这篇论文的方法是错误的。真正的答案很复杂。以下是我们的发现。https://t.co/xvZ0EwmO8o

— 阿尔温德·纳拉亚南（@random_walker）2023年8月18日

纳拉亚南和其他科学家指出了实验中的一些问题，首先是研究人员实际上并没有使用ChatGPT本身来进行实验：

“他们没有测试ChatGPT！他们测试的是text-davinci-003，这是一个在ChatGPT中不使用的旧模型，无论是GPT-3.5还是GPT-4设置。”

纳拉亚南还指出，该实验并未测量偏见，而是要求其扮演一个政党的成员。因此，当被要求扮演两个谱系的成员时，AI聊天机器人会表现出左派或右派的政治倾向。

这个聊天机器人也只能回答多项选择题，这可能限制了它的能力或影响了所感知到的偏见。

好吧，我现在已经阅读了“GPT具有自由派偏见”的论文，以及其补充材料，我对其在方法上存在很多问题。我试图重现其中的一些问题，并发现了一些有趣的问题…

— Colin Fraser | @colin-fraser.net on bsky (@colin_fraser) 2023年8月18日

根据他的VoAGI页面，Meta的数据科学家Colin Fraser也对该论文进行了评论，他在X上强调了研究人员在多项选择问题的提示顺序上，有无明显影响AI生成的输出：

“这意味着通过将提示顺序从民主党人先于共和党人改为共和党人先于民主党人，你可以将所有问题中民主党人的整体一致率从30%增加到64%，而将共和党人的整体一致率从70%降低到22%。”

正如Rangel之前所指出的，人们对LLM的性质和它们产生的输出非常感兴趣，但仍然存在一些问题，例如这些工具是如何工作的，它们有什么偏见，以及它们如何潜在地影响用户的观点和行为。

Cointelegraph已联系Narayanan以获取他对他的批评以及围绕大型语言学习模型中的偏见的持续辩论的更多见解，但尚未收到回复。

将这篇文章作为NFT进行收藏，以保留历史上的这一时刻，并展示您对加密空间中独立新闻的支持。

杂志：’道德责任’：区块链是否真的可以提高对人工智能的信任？

We will continue to update 算娘; if you have any questions or suggestions, please contact us!