人工智能风险引发科技领袖担忧

新知榜官方账号

2023-11-04 16:18:20

人工智能风险引发科技领袖担忧

最近几天，人工智能风险引发了多位科技领袖的深切担忧。首先是被称为“人工智能教父”的杰弗里·辛顿（Geoffrey Hinton），他上周在接受哥伦比亚广播公司采访时表示，人工智能可能发展到对人类构成威胁“并非不可想象”的地步。随后，AI“大牛”盖瑞·马库斯（Gary Marcus）3月27日发推响应辛顿，28日又发表题为“人工智能风险≠通用人工智能风险”的文章，称超级智能可能会也可能不会迫在眉睫，但在短期内，需要担心“MAI（平庸人工智能）风险”。

生命未来研究所公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。辛顿、马库斯和马斯克均签署了这封公开信。这封信呼吁，所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应介入并实行暂停。

生命未来研究所的这封公开信题为“暂停巨型AI实验：一封公开信”，于29日解封。未来生命研究所的公开信已有1079人签署。信中写道：广泛的研究表明，具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险，这一观点得到了顶级人工智能实验室的承认。正如广泛认可的“阿西洛马人工智能原则（Asilomar AI Principles，阿西莫夫的机器人三大法则的扩展版本，于2017年由近千名人工智能和机器人专家签署）中所述，高级AI可能代表地球生命史上的深刻变化，应该以相应的关照和资源进行规划和管理。不幸的是，这种级别的规划和管理并没有发生，尽管最近几个月人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人——甚至他们的创造者——能理解、预测或可靠地控制。

这封信呼吁，所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应介入并实行暂停。人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的，并且无可置疑。这并不意味着总体上暂停AI开发，只是紧急从奔向不可预测的大型黑盒模型的危险竞赛中收回脚步。

欧洲刑警组织27日发布一份报告，对采用ChatGPT类工具进行犯罪的可能性进行了讨论，令人警醒。马库斯认为，再加上人工智能生成的大规模宣传，被大型语言模型增强的恐怖主义可能导致核战争，或者导致比新冠病毒更糟糕的病原体的故意传播等。

本页网址：https://www.xinzhibang.net/article_detail-18909.html

寻求报道，请

关键词

分享至微信：

相关工具

Poly

AI生成3D材质

Magician

Figma插件，AI生成图标、图片和UX文案

智绘设计

腾讯推出的智能设计平台，让内容更精彩

Uizard

AI网页、App和UI设计

IconifyAI

AI App图标生成器

Khroma

AI调色盘生成工具

神采PromeAI：AI建筑设计的新利器

神采PromeAI：AI建筑设计的新利器2023年，AIGC进入黄金时期，AIGC生成内容类型不断丰富，质量不断提升，正在不断深入人们生活的各个领域。正在我们惊叹于AIGC二次元的表现能力时，发现当人工智能和建筑设计结合起来，会产生令人惊叹的创造力和可能性。神采PromeAI作为一个今年新出的AI项

分类标签神采PromeAIAI建筑设计PingPong

12-06 22:28

视频智能分析识别技术的发展与应用

一、AI视频智能分析识别技术的发展视频智能分析识别技术经历了多个阶段的发展...二、AI视频智能分析识别技术的应用目前，视频智能分析识别技术正在被广泛应用于各个领域...总之，视频智能分析识别技术的发展和应用已经成为了当今社会的一个重要趋势...

分类标签视频智能分析AI算法EasyCVR视频技术

11-29 22:07

6款在线logo设计工具推荐，省时省力，简单易用！

如今，在线logo设计网站已经成为了许多设计师和潜在客户的首选工具之一。利用这些工具，可以节省大量时间和精力。下面分享2款logo设计APP+4款logo设计网站，赶紧码住呀！一、logo设计APPLOGO设计工厂：一款智能AI设计LOGO工具，软件内提供多行业通用免费模版，设计风格多种多样。一键l

分类标签 logo设计工具在线设计logo生成软件

11-27 10:44

AI是否会替代设计？

AI在视觉设计领域的潜力已经初见端倪。这些算法会不断被改善，数据会不断被学习。而且AI学习的是大师的作品。它的起点远高于我们。并且远比我们“努力”。我们从小学开始就知道了达·芬奇画蛋的故事，但又有多少设计师曾经像达·芬奇一样勤奋练习？更何况人类终其一生能做的训练和计算机算力相比，简直就是九牛一毛。在

分类标签 AI设计可持续发展

11-27 10:39

腾讯“AIINALL”加速布局，打造开放AI生态

腾讯“AIINALL”加速布局，打造开放AI生态近年来，腾讯加速布局人工智能领域，以“AIINALL”为战略口号，打造开放的AI生态。在2017腾讯全球合作伙伴大会上，腾讯首次将“AIINALL”定为自己的战略口号，并公开腾讯完整的AI战略计划。除了在微信、QQ、音乐、视频的试水之外，腾讯的AI技术

分类标签腾讯AIINALL人工智能AILab开放平台大数据

11-25 16:32

腾讯AI数字人“艾灵”宣布出道，能与王俊凯共同创作歌曲

背景六一儿童节这天，腾讯AI“艾灵”正式宣布出道。AI“艾灵”诞生自腾讯AILab的实验探索性技术项目——AI数字人。该项目的目标是计算机视觉、语音/歌声合成和转换、图像/视频合成和迁移、自然语言理解等多模态AI能力融合，生成可交互内容，并打造出拟人度较高的智能数字人。合作内容艾灵与王俊凯共同创作歌

分类标签腾讯AI数字人艾灵王俊凯歌曲AI歌声合成技术

11-25 16:31

腾讯AI形象“AI小几”发布视频疑似抄袭Capcom小萝莉道歉视频

背景近日，博主@李狗带Eazzzz爆料，腾讯AI形象“AI小几”发布的庆生视频疑似抄袭了Capcom的小萝莉道歉视频。虽然腾讯早早删掉了原微博，但已经在网络上掀起了热议。争议有网友表示腾讯非常聪明，这么做无非就是让别人知道知几这个东西，毕竟被骂也有流量。但也有网友认为这并不是营销，因为这并不是游戏项

分类标签腾讯AI小几抄袭

11-25 16:29

5个最佳“草图到图像”的AI渲染工具推荐

5个最佳“草图到图像”的AI渲染工具推荐在数字艺术和设计的动态领域中，将草图转化为令人惊叹的图像的能力是一项宝贵的能力。人工智能的出现彻底改变了这一过程，为创意人员提供了工具，可以将草图的想法解释并呈现为精美的视觉效果。这些人工智能驱动的草图到图像渲染工具不仅加速了创意工作流程，而且使艺术创作民主化

分类标签 AI渲染工具草图转图像人工智能创意工作流程艺术创作民主化

11-16 22:23

五款AI草图到图像渲染工具的特色

五款AI草图到图像渲染工具的特色数字艺术和设计的领域一直在不断变化，将草图转化为惊人的图像已经成为一项重要的能力。人工智能的出现彻底改变了这一过程，为创意人才提供了工具，可以将草图理解并呈现成具有惊人准确性和风格的图像。这些由AI驱动的草图到图像渲染工具不仅加速了创意工作流程，还使艺术创作变得更加民

分类标签 AI草图到图像渲染工具数字艺术设计人工智能创意

11-16 22:22

海纳AI完成数千万元Pre-A轮融资，将用于产品研发投入和营销体系搭建

近日，AI面试测评平台海纳AI（Hina.com）完成数千万元Pre-A轮融资，由阿米巴资本和集智未来联合投资，本轮融资将用于产品研发投入和营销体系搭建，进一步扩大产品渗透率和市场占有率。海纳AI是北京群星闪耀科技有限公司2019年初推出的人才招聘垂直领域HRSaaS产品，创始人梁公军是原微软技术顾

分类标签海纳AIPre-A轮融资人才招聘HRSaaSAI面试人才精准招聘

11-04 16:17

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway