人工智能治理可以从加密货币的去中心化理念中学到什么
美国科技巨头们以前被他们的批评者称为自私的技术乌托邦主义者，但现在成为了最有声音的技术反乌托邦叙述的传播者。
本周，由超过350人签署的一封信，其中包括微软创始人比尔盖茨、OpenAI CEO Sam Altman以及前Google科学家Geoffrey Hinton（有时被称为“人工智能教父”），传递了一句简单、明确的话：“减轻人工智能所带来的灭绝风险，应作为全球范围内其他社会规模风险如大流行和核战争之外的一个全球优先事项。”
您正在阅读 Money Reimagined ，每周一次的技术、经济和社会事件和趋势的全面观察，这些事件和趋势正在重新定义我们与货币的关系，改变全球金融体系。订阅获取完整的新闻简报 在这里 。
就在两个月前，由特斯拉和 Twitter CEO 马斯克以及其他31,800人签署的一封早期的公开信，呼吁暂停六个月的人工智能开发，以便社会决定其对人类的风险。在那个同样的星期，被认为是人工智能领域的创始人之一的Eliezer Yudkowsky在《时代》的一篇专栏文章中说，他拒绝签署那封信，因为那封信没有做到足够。相反，他呼吁军事强制关闭人工智能开发实验室，以免出现杀死我们所有人的感性数字生物。
世界领袖将很难忽视这些备受认可的专家的担忧。现在广泛认识到对人类生存的威胁确实存在。问题是：我们应该如何减轻这个威胁呢？
正如我之前写过的，我认为加密行业在与其他技术解决方案合作，并与鼓励以人为本的创新思考的监管协调一起，可以在社会努力将人工智能限制在其领域的工作中发挥作用。区块链可以帮助确保数据输入的真实性，通过证明防止深度伪造和其他形式的虚假信息，以及实现集体所有权而非公司所有权。但即使不考虑这些因素，我认为加密社区的最有价值的贡献在于其“去中心化思维方式”，它提供了一种独特的视角来看待由于如此强大的技术被集中拥有而带来的危险。
拜占庭对于人工智能风险的看法
首先，我是什么意思，“去中心化思维方式”是什么？
嗯，在其核心，加密是沉浸在“不信任，验证”的精神中的。铁杆加密开发者——而不是那些将行业置于声誉危机的集中式代币赌场的赚钱者——不断进行“爱丽丝和鲍勃”的思维实验，考虑到通过哪些威胁向量和故障点，一个流氓行为者可能会有意或无意地造成伤害。比特币本身就是源于Satoshi试图解决最著名的这些博弈论情景之一——拜占庭将军问题，这是关于如何相信来自一个你不认识的人的信息的问题。
这种思维方式将去中心化视为解决这些风险的方式。这个想法是，如果没有一个单一的、中央化的实体具有调解权力来确定两个行为者之间交换的结果，而且两个行为者都可以信任有关该交换的信息，那么恶意干预的威胁就会被中和。
现在，让我们将这种世界观应用于本周的人工智能“灭绝”信中的要求。
阅读更多：Allison Duettmann – How Crypto Can Help Secure AI
签署者希望各国政府联合起来制定国际级别的政策来应对人工智能的威胁。这是一个高贵的目标，但去中心化思维方式会认为这是天真的。我们如何能够假设所有的政府，包括现在和未来的政府，都会认识到合作而不是单打独斗对他们的利益有好处，或者更糟的是，他们不会说一套做一套？（如果你认为监测韩国的核武器计划很难，那就试着穿过由克里姆林宫资助的加密墙，看看它的机器学习实验。）
当每个国家都需要疫苗时，期望全球协调围绕COVID大流行展开行动，或者期望相互保证毁灭（MAD）的逻辑会导致即使是冷战中最憎恨的敌人也同意不使用核武器，其中最坏的情况对每个人都是如此明显。而对于像人工智能这样不可预测的方向来说，情况则完全不同——同样重要的是，非政府行为者可以轻松地独立于政府使用这项技术。
加密货币社区中一些人对这些大型人工智能公司急于进行监管的担忧是，它们将创建一种护城河以保护他们的先发优势，使竞争对手更难进入。为什么这很重要？因为支持垄断会创造出这些几十年前的加密货币思想实验告诉我们要避免的中央风险。
我从未认真考虑过谷歌的“不做恶”的座右铭，但即使Alphabet、Microsoft、OpenAI等公司是出于好意，我怎么知道他们的技术不会在未来被不同动机的执行董事会、政府或黑客利用？或者，更加无辜的是，如果那项技术存在于一个不可渗透的公司黑匣子中，外部人员如何检查算法的代码以确保良好意图的开发不会无意中偏离轨道？
这里还有另一个思想实验来检验中心化对人工智能的风险：
如果像Yudkowsky这样的人认为，人工智能在其当前的轨迹下注定会成为人工通用智能（AGI）状态，其智能可以导致它得出结论，认为它应该杀死我们所有人，那么什么结构情况将导致它得出这个结论？如果保持人工智能“生命”所需的数据和处理能力集中在一个可以由政府或担心的CEO关闭的实体中，可以有逻辑地认为，人工智能将杀死我们以防止这种可能性。但是，如果人工智能本身“生活”在一个分散的、不受审查的节点网络中，这个数字的感性就不会感到足够的威胁来消灭我们。
当然，大多数政府都会很困难地购买这一点。他们自然会更喜欢OpenAI的Altman和其他人现在积极传达的“请监管我们”的信息。政府想要控制，他们想要能够传唤首席执行官并下令关闭。这是他们的本质。
当然，我们需要现实一些。我们生活在一个以国家为中心的世界中。不管喜欢与否，这是我们卡在这个管辖系统中的。我们别无选择，只能在人工智能灭绝缓解战略中涉及某些级别的监管。
挑战在于找出国家政府监管、国际条约和分散的跨国治理模式的正确、互补的混合。
或许可以从政府、学术机构、私营公司和非营利组织监管互联网的方法中吸取一些教训。通过像互联网分配名称的互联网公司（ICANN）和互联网工程任务组（IETF）这样的机构，我们安装了多利益相关者框架，以实现共同标准的开发，并通过仲裁而不是法院进行争端解决。
毫无疑问，某种程度的人工智能监管是必要的，但这种无国界、开放、快速变化的技术无法完全受到政府的控制。让我们希望他们能够抛开当前对加密货币行业的敌意，寻求其在解决这些挑战时采用分散的方法的建议。
本文由Ben Schiller编辑。
We will continue to update 算娘; if you have any questions or suggestions, please contact us!
Was this article helpful?
93 out of 132 found this helpful
Related articles
