以太坊联合创始人Vitalik Buterin：人工智能对人类主导地位构成严重威胁

以太坊联合创始人Vitalik Buterin：人工智能对人类主导地位构成严重挑战

以太坊联合创始人Vitalik Buterin对超级先进人工智能（AI）超越人类智能并成为地球上的主导物种的潜在危险发出了警告。

在最近在X（前Twitter）上发布的一篇文章中，以太坊（ETH）的策划者强调人类在AI发展中的控制和干预将决定这种情景的结果。

Buterin认为AI与以往的发明（如社交媒体、飞机和印刷机） fundamentally 不同，因为它具有创造一种可能对人类利益有害的新型“思维”的能力。

他担心，如果不加以控制，超级智能AI可能将人类视为自身生存的威胁，潜在导致人类的灭绝。

• TRM Labs选择Swyftx帮助解决澳大利亚的加密货币诈骗问题
• “Kronos Research与黑客谈判后，2500万美元加密货币被盗，提供10%悬赏”
• FTX用户将梅赛德斯F1车队和美国职棒大联盟列入新的促销诉讼案件

“人工智能是一种迅速增长智力的新型思维，它有着极大的机会超过人类的智力，并成为地球上新的顶级物种。”

虽然承认这种极端结果的可能性较低，Buterin强调了人类采取预防措施的必要性。

AI risk 2: would a world with superintelligent AIs even be a world we would feel satisfied living in? On the instability of outcomes other than us being pets, and the failures of scifi to present realistic alternatives. pic.twitter.com/o9z8s6QAej

— vitalik.eth (@VitalikButerin) November 27, 2023

他提出将脑机接口（BCI）整合作为一种手段，以使人类对基于AI的计算和认知拥有更大的控制力。

BCI建立了大脑和外部设备之间的直接通信路径，使人类能够积极参与决策过程。

通过将人类与机器之间的通信循环缩短到毫秒级别，BCI将确保人类对世界保持一定程度的有意义的权力。

Buterin强调人类保持高级规划的责任的重要性，从而将AI行为与人类价值观不一致的风险降至最低。

“我们减少将高级规划责任移交给AI本身的动机，从而减少AI自行采取与人类价值观完全不一致的行为的机会。”

Buterin强调AI监管的重要性

Buterin还强调人类意愿在引导AI走向有益人类结果方面的重要性。

他警告不要将利润最大化放在首位，强调需要与人类价值观和期望保持一致的有意识的决策。

在结束语中，Buterin赞扬了人类的才思和创造潜力。

他强调人类在整个历史中不断发展技术以增强能力，并希望人类的成就（如太空旅行和地理工程）将有助于保护和美化地球以及更远的地方的生命。

“20亿年后，如果地球或宇宙中的任何地方仍然保留着地球生命的美丽，那将是像太空旅行和地理工程这样的人类创造，使之成为可能。”

We are the brightest star. There is a lot of good that can come from ongoing human progress, into the stars and beyond. But there are big forks in the road and we need to choose carefully. Accelerate, but accelerate carefully and well. pic.twitter.com/vxPlJWFVGq

— vitalik.eth (@VitalikButerin) November 27, 2023

We will continue to update 算娘; if you have any questions or suggestions, please contact us!