美国，英国和其他国家签署了“安全设计”人工智能指南

美国、英国及其他国家同意《安全设计人工智能指南》共同签署

美国、英国、澳大利亚和其他15个国家已经发布了全球指导方针，以帮助保护人工智能模型免受篡改，并敦促公司使其模型“从设计上具备安全性”。

11月26日，这18个国家发布了一份20页的文件，概述了人工智能公司在开发或使用人工智能模型时应如何处理其网络安全，因为他们声称“在快节奏的行业中，安全往往会成为次要的考虑因素”。

指导方针主要包括一些一般性的建议，如对人工智能模型基础设施的严格控制，发布前后监测模型是否遭到篡改，并对员工进行网络安全风险培训等。

未提到的是人工智能领域中的一些有争议的问题，包括对生成图像模型和深度伪造技术使用的可能控制措施，以及数据收集方法和在训练模型中的使用——这个问题曾导致多家人工智能公司被起诉侵犯版权。

“我们正处于人工智能发展的拐点，这可能是我们这个时代最重要的技术，”美国国土安全部部长Alejandro Mayorkas在一份声明中表示。“网络安全对于构建安全、可靠的人工智能系统至关重要。”

这些指导方针是其他政府对人工智能进行干预的举措之一，包括政府和人工智能公司在本月早些时候在伦敦举行的一次人工智能安全峰会中讨论协调人工智能发展的协议。

与此同时，欧盟正在对其人工智能法案进行详细磋商，以监督这一领域的发展，美国总统乔·拜登在10月发布了一项具体规定人工智能安全和网络安全标准的行政命令——尽管这两项举措引起了人工智能行业的反对声音，声称可能会扼杀创新。

新的“从设计上具备安全性”的指导方针的其他签署者包括加拿大、法国、德国、以色列、意大利、日本、新西兰、尼日利亚、挪威、韩国和新加坡。OpenAI、Microsoft、Google、Anthropic和Scale AI等人工智能公司也参与了制定这些指导方针。

We will continue to update 算娘; if you have any questions or suggestions, please contact us!

93 out of 132 found this helpful