18个国家发布人工智能模型网络安全指导方针,敦促企业设计安全

新知榜官方账号

2023-12-02 02:25:12

近日,美国、英国、澳大利亚和其他15个国家发布了一份长达20页的文件,敦促企业在开发或使用人工智能模型时应如何处理其网络安全问题。指导方针主要包括一般性建议,如严格控制人工智能模型的基础设施,在模型发布前后对其进行监控,以及对员工进行网络安全风险培训。

然而,指导方针未涉及到人工智能领域的一些争议问题,包括对图像生成模型的使用、深度伪造或数据收集方法以及在训练模型中的使用应采取哪些可能的控制措施。这些问题曾经让多家人工智能公司遭到版权侵权起诉。

美国国土安全部部长亚历杭德罗-马约卡斯(AlejandroMayorkas)表示:“我们正处于人工智能发展的拐点,网络安全是建立安全、可靠和值得信赖的人工智能系统的关键。”在这些指导方针出台之前,政府间还采取了其他举措对人工智能进行权衡,包括政府和人工智能公司在伦敦举行的人工智能安全峰会,以协调人工智能发展协议。欧盟正在制定其人工智能法案的细节,该法案将对该领域进行监督。美国总统乔-拜登(JoeBiden)也于10月发布了一项行政命令,制定了人工智能安全和安保标准,尽管这两项行政命令都遭到了人工智能行业的反对,声称它们可能会扼杀创新。

新的“设计安全”指导方针的其他共同签署国包括加拿大、法国、德国、以色列、意大利、日本、新西兰、尼日利亚、挪威、韩国和新加坡。包括OpenAI、微软、Google、Anthropic和ScaleAI在内的人工智能公司也为制定该指导方针做出了贡献。

本页网址:https://www.xinzhibang.net/article_detail-21712.html

寻求报道,请 点击这里 微信扫码咨询

关键词

人工智能 网络安全 指导方针

分享至微信: 微信扫码阅读

相关工具

相关文章