OpenAI分裂事件：到底是加速还是爱的冲突？
Sam和Ilya的强烈矛盾：高效加速主义vs.超级‘爱’和谐融合
Sam和Ilya的深层矛盾：加速主义Vs.超级“爱”
嘿，数字资产投资者们！今天我给大家带来一篇关于OpenAI分裂事件的文章，保证你们能笑出声并且收获新知！废话不多说，我们开始吧！
我们不谈董事会政变的八卦，也不谈奇怪的治理结构和谁对谁错的问题，毕竟我对这两位大佬的底层品质是充满敬意的。不过，我要说的是，这次分裂事件背后肯定隐藏着某种深层冲突。不管Sam最终是否决定离开，我相信我们讨论的这些冲突将继续存在，因为它们确实有意思。
首先，让我们谈谈有效加速主义和超级“爱”对齐的理念冲突。听起来挺吓人的，是吧？让我来解释一下。
有效加速主义，究竟是什么玩意儿？
有效加速主义（e/acc）是硅谷科技精英们发起的一种科技运动，你可能会在很多推特账号的后缀上看到“e/acc”这个词。比如，Garry Tan（YC的掌门人）和Marc Andreessen（A16Z的创始人）的账号就是如此。
那么，这到底是什么意思，为什么会和Sam被驱逐有关呢？我来给你们简单解释一下：
- 有效加速主义认为，人类应该毫不犹豫地加速技术创新，并快速推出这些创新来颠覆社会结构。
- 他们认为，这种对社会的颠覆风险，本质上对人类有利，因为它迫使人类适应，从而帮助我们提高意识水平。
- 事实证明，在过去的三百年里，人类的进化都是伴随着技术的颠覆而实现的，而且效果显著。
显然，e/acc的支持者们对于人工智能通用模型（AGI）持有相同的态度：让尽可能多的人参与，推出产品得越快越好，以便让人类更好地进化。所以，有点像“大力出奇迹”的意思，是不是？
Sam Altman是个有效加速主义者吗？
我很确定他是！尽管很多人会说，看呀，Sam还去国会呼吁减速AI的发展，天天谈AI的风险，他不应该是个“减速主义者”吗？但其实他从来没有公开表达过自己对有效加速主义的立场。
然而，有一些迹象让人相信Sam确实是个有效加速主义者。首先，他的接班人Garry Tan，我很难想象他们没有一腔热情。还有八卦传闻称Sam被怀疑使用小号表达自己的加速主义立场。其次，很多挂着e/acc标签的人已经把Sam当做了一个象征，因为他在GPT模型的快速推进以及对Worldcoin项目的大力投资方面表现出了加速主义者的特质。所以我倾向于认为，Sam表现出的减速主义只是一种内部妥协，尤其是对Ilya而言。
超级对齐，到底是怎么回事？
我最初也不理解Ilya是什么意思，当他提出成立“超级对齐”项目的时候，我的脑海中充满了问号。难道ChatGPT这么生硬的表达方式还不够对齐吗？
但是最近我渐渐明白了Ilya的意思。他在采访中提到的“不是AI有情感，而是AI对人类真正的爱”，让我有所领悟。听起来似乎是一则让人无语的“白莲花阻碍进步”的故事，但其实不然。你可以听一下他的观点：
为了真正理解他的观点，我们需要审视一下现有的对齐技术。一种是基于价值观的对齐（比如尊重同性恋），另一种是基于话题的对齐（比如避免黄色内容）。但这些真的够吗？如果是个聊天机器人（比如去年的ChatGPT），这样已经足够了。但如果是个具有自主决策和行动能力的超级智能呢？这就有点棘手了。
为什么超级“爱”对齐如此重要？
所以，“超级对齐”项目的本质是“Super-LOVE-alignment”，超级“爱”对齐。这里的“LOVE”指的是无条件的大爱，与其说是情爱，不如说是人性的根本，是无关自我的对人类的爱。就像孔子、耶稣、释迦摩尼这些对文明产生深远影响的伟大人物所带来的无条件爱一样。你或许会觉得这样讲太戏剧化了，但如果没有这些伟大的人物所带来的伟大精神，作为文明的基石，世界可能会更加糟糕。
顺带一提，三年前，我在一个分享会上借鉴了唯识的思想，将AI的意识分为几个阶段，从感知到认知，再到自我意识，最终达到智慧和爱的层次。而Ilya认为，AI仅仅判断价值观是不够的，因为人类历史上有许多价值观无可挑剔却最终带来巨大悲剧的案例。
那么，解决这个问题的方法是什么呢？答案就是让AI对齐那种底层的“无条件对人类的爱”，这可能超出了现有对齐技术通过强化学习从未能达到的高度。只有拥有这种能力的AI，才能真正地不会毁灭我们。有人会问，在推出AGI之前不能先修正一下吗？Ilya认为不行，他认为技术本质上类似于生物进化。但在进化的起点上，他认为非常重要。如果起点是一个没有“无条件对人类的爱”的AI，最终它也很可能把我们带向毁灭。
变量：AI是数字生命还是工具？
所以，我们是应该成为有效加速主义者，还是超级对齐主义者呢？为什么突然驱逐掉Sam？这背后突变的因素到底是什么呢？
我们先来看一些背景信息。据各种消息源透露，OpenAI内部几周前讨论了GPT-5的初步结果，其能力可能会带来颠覆性的影响。Sam和Ilya在下一步行动上存在巨大分歧（可以从Sam在APEC上的发言中看出）。那么，解答上面的问题，取决于你认为GPT-5的智能体是数字生命还是工具！如果我们用最简单的标准来判断，即它是否具有完全的自主性，那么完全依赖人类来决策和使用的技术就是“工具”，而不是“数字生命”。
有效加速主义的一个悖论在于，我们历史上可以借鉴的案例本质上都是“更好的工具”，这可能也是有效加速主义有效的原因。但如果出现的是“数字生命”呢？如果它成为社会的一份子甚至管理者呢？一个比人类更强大的数字生命，真的能没有“对人类的爱”吗？如果真是这样，未来岂止失去工作，人类可能会面临更大的问题。
所以，你是个有效加速主义者，还是超级对齐主义者，实际上取决于你如何看待AI对社会的本质。
我倾向于认为，OpenAI已经攻克了一些关键技术，并推出了一个非常有颠覆性的新版本，具有更强大的自主性。而Ilya认为，在通过超级对齐为AI注入“对人类的爱”之前，这个版本的AI必须与我们放弃有效加速主义的思想。如果无法达成共识，就要立即抛弃那些拥有这种思想的人，哪怕他们可能是人类历史上最厉害的几个CEO之一。
所以，各位投资者，你们是e/acc呢，还是超级对齐主义者呢？你们怎么看待AI对社会的本质呢？我很想听听你们的观点。在评论区分享你的想法吧！
We will continue to update 算娘; if you have any questions or suggestions, please contact us!
Was this article helpful?
93 out of 132 found this helpful
Related articles
