AI安全：谁来管？怎么管？

新知榜官方账号

2023-11-10 16:04:19

人工智能的安全问题

随着人工智能技术的飞速发展，关于人工智能可能会脱离人类的管控，从而危害人类本身安全的呼声也逐渐高涨。ChatGPT全球宕机超12小时！OpenAI的ChatGPT率先掀起AI狂潮，随后国内科技企业一瞅纷纷跟进。比如百度文心一言、阿里通义千问、华为盘古大模型、移动九天大模型……越来越多企业下场参加“AI大战”，但AI的火热，也给网络安全带来全新挑战。11月8日，ChatGPT和其API接口出现“严重停机”（MajorOutage）事件，整个故障时间陆陆续续长达超过12小时。早前，OpenAICEO山姆·奥特曼在X（原推特）上发表公开致歉，称用户对于公司前一天发布的新功能的使用量远超预期。而稍晚时候，ChatGPT和API再次出现了有时无法打开的问题，OpenAI则表示是受到了DDoS（分布式拒绝服务）攻击。

据了解，目前人工智能技术主要造成三类问题。一是信息安全问题，在使用人工智能技术时，很可能导致个人隐私数据泄露。二是虚假信息问题。人为投放不实消息或片面事实可能导致人工智能模型产出虚假信息。三是数字鸿沟问题。人工智能目前产出的真实性和准确性并不牢靠。因此，信息甄别、自主决策能力强的使用者将更善于使用这项工具，数字鸿沟也就此加深。

人工智能安全的治理措施和倡议

随着人工智能的应用场景愈加广泛，其风险也不再局限于某一特定领域。人工智能的许多风险本质上是国际性的，因此最好通过国际合作来解决。在11月9日举行的世界互联网大会乌镇峰会“人工智能赋能产业发展论坛”上，中外专家共同发布了《发展负责任的生成式人工智能研究报告及共识文件》。这份报告旨在推动全球生成式人工智能的可持续发展，是世界互联网大会对于生成式人工智能发展的一份重要贡献。它不仅提出了具体的发展建议和措施，还展示了全球对于生成式人工智能发展的关注和支持。此外，本月初，中国、美国、英国等28个与会国在布莱切利举办的首届全球人工智能（AI）安全峰会上签署了《布莱切利宣言》。这是罕见的全球团结表现，这份宣言也是全球第一份针对人工智能这一快速新兴技术的国际性声明，旨在管理与新兴人工智能（AI）工具相关的风险，特别是该技术的网络安全。据悉，为应对人工智能安全领域的风险，我国积极参与全球人工智能治理。早在2021年12月，中国就向联合国《特定常规武器公约》第六次审议大会提交《中国关于规范人工智能军事应用的立场文件》。日前，中方在第三届“一带一路”国际合作高峰论坛期间提出《全球人工智能治理倡议》，为人工智能相关国际讨论和规则制定提供了蓝本。目前，人工智能技术和产业尚处于发展初期，很多风险还难以评估，但如果国际社会能够随时根据实际情况校准政策，相信未来将有效且前瞻性地解决相关问题。

本页网址：https://www.xinzhibang.net/article_detail-19557.html

寻求报道，请

关键词

分享至微信：

相关工具

AI驱动的文字生产力工具

Bearly

AI阅读总结、写作和内容生成助手

Rytr

AI内容生成和写作助手

Magic Write

Canva旗下AI文案生成器

Typeface AI

AI创意内容创作助手

彩云小梦

彩云科技推出的智能AI故事写作工具

为什么AI陪伴产品都想抄星野？

为什么AI陪伴产品都想抄星野？在现代科技时代，人工智能（AI）的应用正在越来越广泛地渗透到各种产品中。然而，我们也发现了一个奇怪的现象：越来越多的产品都在抄袭同一个人——星野。这是为什么呢？从市场的角度来看，抄袭星野是因为她的作品非常受欢迎。她的艺术风格和品牌形象都非常独特，可以吸引大量的粉丝和顾客

分类标签 AI产品抄袭星野市场SEO

12-09 08:01

AI+公开课：职场人必看如何使用AI高效运营&撰写爆款文案？

AI+公开课：职场人必看如何使用AI高效运营&撰写爆款文案？AI技术正在迅速改变职场的方方面面，如何合理运用AI技术提升工作效率，成为职场人必须掌握的技能。在本次AI+公开课中，张佳为大家分享了使用AI高效运营和撰写爆款文案的经验。AI在运营中的应用AI技术在运营中的应用非常广泛，例如通过AI算法优

分类标签 AI运营文案

12-09 08:00

超级AI不会主宰人类，但人工智能必须开源！

超级AI不会主宰人类，但人工智能必须开源！最近，LeCun接受采访引发了全网300万人围观，讨论超级AI是否会主宰人类。我认为，AI不会主宰人类，但人工智能必须开源。首先，AI不可能取代人类，因为AI只是一种工具，它只能执行程序中预设的指令，没有自我意识和主观能动性。尽管AI可以通过学习和优化算法得

分类标签超级AI人工智能开源

11-29 08:00

AI生成短视频：省时高效的创作方式

AI生成短视频：省时高效的创作方式当代科技的飞速发展为我们带来了许多前所未有的创作机会。而随着人工智能技术的突破，越来越多的人开始利用AI生成短视频来展现自己的创意和想象力。首先，AI生成短视频可以大大提升创作效率。以往需要耗费大量的时间和精力在剪辑和编辑上，但现在只需几分钟就能完成一个精美的视频。

分类标签 AI生成短视频创作效率创意能力

11-22 22:07

视频AI将如何革新我们的创作方式？

视频AI将如何革新我们的创作方式？创意无限，创作如梦，颠覆你对视频创作的认知。本视频由万彩微影一键制作。视频AI的好处何其多，猝不及防的捕捉你的双眼。视频AI正悄悄改变着我们对创作的理解，它注入了科技与艺术的完美结合，为我们带来了无限的创意和惊喜。跻身于数字时代的我们，借助视频AI能完成更为精彩的作

分类标签视频AI创作方式万彩AI

11-22 22:06

创未来，AI伴旅途一一引领文字创作新风潮

创未来，AI伴旅途一一引领文字创作新风潮随着人工智能技术的飞速发展，人工智能已经逐渐渗透到了各个领域。在文学创作领域中，AI人工智能的出现为创作者们带来了无尽的可能性和便利。万彩AI平台是一个在线AI创作平台，凭借强大的算法和海量的数据成功的通过机器学习技术模拟了人类的创作思维和风格，实现了更加真实

分类标签 AI人工智能万彩AI平台文字创作

11-22 22:05

万彩AI：解决写作难题，释放你的创作潜能

万彩AI：解决写作难题，释放你的创作潜能懈怠写作困境，创意枯竭，这些曾是许多写作者常面临的挑战。然而随着万彩AI的问世，这些问题将一一迎刃而解。万彩AI作为一款在线AI创作平台，可以帮助你克服写作难题，释放你的创作潜能。轻松获得令人惊艳的标题作为文章的门面，一个吸引眼球的标题至关重要。万彩AI将根据

分类标签万彩微影万彩AI创作平台

11-22 22:04

免费AI写作软件助力企业营销

免费AI写作软件助力企业营销文案创作是一项充满挑战且耗费时间的工作，然而有了免费的AI写作软件将带来无数好处。首先它能够大大提高写作效率，不再需要花费大量时间进行头脑风暴和构思。AI系统能迅速生成创意和独特的文案内容，为企业营销提供了更多选择。其次这种AI写作软件能够消除困扰业务人员和营销人员的才华

分类标签 AI写作软件文案创作营销推广

11-22 22:03

OpenAI340万美金投资，Apple前设计师联合创建的私人助手，将记忆连点成线、成诗深思SenseAI关注2023-11-15

OpenAI340万美金投资，Apple前设计师联合创建的私人助手，将记忆连点成线、成诗深思SenseAI关注2023-11-15近日，来自OpenAI和前Apple设计师的合作引起了关注。他们创建了一款私人助手——SenseAI，它通过将记忆连点成线、成诗深思的技术，提供更智能的服务。据悉，Ope

分类标签 OpenAI私人助手SenseAI

11-16 08:00

AI+时代，ChatGPT受热捧，人工智能将重塑各行各业

近期人工智能领域火爆，ChatGPT、AI人工智能成为券商研究热门方向。东财Choice数据显示，近一周最热门的前二十份研报中，涉及人工智能类研报多达14份，占比达70％。卖方研究绝大多数认为人工智能奇点已到，生成式AI将重塑几乎所有行业。GPT类技术未来在通用与垂直场景的应用广泛，如“AI+搜索引

分类标签 ChatGPTAI人工智能生成式AI人机交互大模型硬件升级

11-08 16:04

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway