澳大利亚在意外磋商中询问是否应禁止“高风险”人工智能

澳大利亚政府宣布突然进行了为期八周的咨询,旨在了解是否应禁止任何“高风险”的人工智能工具。

其他地区,包括美国、欧盟和中国,在最近几个月也推出了措施,以了解和潜在减轻与快速AI发展相关的风险。

6月1日,工业和科学部长埃德·休西克宣布发布两份文件——《澳大利亚安全和负责任的人工智能讨论文件》和《国家科技委员会的生成式人工智能报告》。

这些文件随附了一份咨询,将持续到7月26日。

政府希望得到关于如何支持“安全和负责任使用AI”的反馈,并讨论是否应采取自愿方法,例如道德框架,是否需要特定的监管,或者采取两种方法的组合。

潜在AI治理的选项地图,从“自愿”到“监管”的光谱。来源:工业、科学和资源部

咨询中的一个问题直接问道,“是否应完全禁止任何高风险的AI应用或技术?”以及应该使用什么标准来识别应该被禁止的这些AI工具。

全面的讨论文件中包括了AI模型的草稿风险矩阵以供反馈。虽然只提供了例子,但将自动驾驶汽车中的AI分类为“高风险”,而用于创建医疗病历等目的的生成式AI工具则被认为是“中等风险”。

#AI已经成为我们生活的一部分。随着这项技术的发展,我们需要确保它符合澳大利亚人对负责任使用的期望。参加下面的@IndustryGovAu讨论。 https://t.co/Gz11JCXlsG

—澳大利亚首席科学家(@ScienceChiefAu) 2023年6月1日

文件中强调了医疗、工程和法律行业中“积极”的AI使用,但也提到了其“有害”的用途,如深度伪造工具、用于制造假新闻的用途,以及AI机器人鼓励自残的案例。

AI模型的偏见和“幻觉”——AI生成的无意义或错误信息——也被提出为问题。

相关:微软首席安全官表示,AI将帮助人类蓬勃发展,但还是签署了末日信

讨论文件声称,由于公众信任水平低,澳大利亚的AI采用率“相对较低”。它还指出了其他管辖区的AI监管和意大利对ChatGPT的临时禁令。

与此同时,国家科技委员会的报告称,澳大利亚在机器人和计算机视觉方面具有一些优势的AI能力,但其“大型语言模型和相关领域的核心基础能力相对较弱”,并补充道:

“大量生成式AI资源集中在少数几个大型跨国主要以美国为基础的技术公司中,这可能对澳大利亚构成潜在风险。”

报告进一步讨论了全球AI监管,给出了生成式AI模型的示例,并认为它们“可能影响从银行和金融到公共服务、教育和创意产业的一切。”

AI Eye:2.5万名交易员押注于ChatGPT的股票选择,AI在掷骰子方面表现不佳,等等

We will continue to update 算娘; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

NFT

比特币排名在第二季度达到2.1亿美元的交易量 — DappRadar

根据DappRadar的数据,2023年上半年,Bitcoin Ordinals在交易量上达到了2.1亿美元

比特币

比特币ETF的崛起:加密货币投资者的新时代 🚀

从1月11日起,投资者现在可以在纳斯达克、纽约证券交易所及Cboe BZX交易所获得来自各资产管理公司的比特币现货ETF这为投资者...

区块链

ETF申请在一夜之间改变了比特币的叙事 —— Ledger首席执行官

如果拜登继续掌权,这届政府可能会对加密货币持续采取激进行动,Gauthier说还有其他人吗?“我们拭目以待”

市场行情

CME在比特币期货持仓量方面名列前茅,因为'真实事实'推动了机构参与

比特币交易基金的批准将释放出“洪流般的”机构资金,同时RSI下跌也发出了比特币价格的警告

市场行情

比特币更新:看涨信号持续存在,GBTC外流速度放缓

经过高度期待的4月比特币减半后,预计将吸引热情的买家,并为潜在的价格飙升创造可能性,为投资者带来令人兴奋的时刻,将可能...

政策

FTX和Alameda Research出售了大部分Grayscale比特币信托股份

Alameda Research对Grayscale提起诉讼,称该公司实施了自我强制的兑现禁令这项法律行动凸显了行业透明和公平做法的重要性,促...