GPT-4引发AI安全担忧，大佬们呼吁暂停研发6个月

新知榜官方账号

2023-06-30 01:37:05

GPT-4引发AI安全担忧，大佬们呼吁暂停研发6个月

短短6个月的时间，GPT-3.5迭代到GPT-4，两个月就获得1亿活跃用户，成为有史以来最快获得1亿用户的应用。当大家畅想一个更强大的GPT5的时候，马斯克等科技圈大佬带头泼下冷水。他们公布了一封联名公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。一众大佬叫停理由是：“希望暂停研发比GPT-4更强大的AI至少6个月，AI可能对社会和人类构成潜在风险；近期各人工智能实验室陷入了失控的研发竞争，如果不能立即暂停，呼吁政府可以介入。”

这封公开信表达了两个观点：①大高级GPT研发需谨慎，目前大家已陷入研发竞赛②没有人能理解、预测和完全控制GPT，它们的创造者也不行显然，马斯克等人担心，不加控制的研究AI，可能就像高速行驶的失控汽车，给人类产生深重灾难。马斯克们的担心有道理吗？

我们已经经历了多次数字革命，包括图形界面的出现、互联网的诞生以及移动互联网的普及。但没有一次科技变革像GPT模型引发的AI浪潮那样引起如此广泛的担心。就在近期我们突然发现：ChatGPT3.5开始出现了推理能力。一次采访中，GPT创造者阿尔特曼甚至语出惊人：“AI确实可能杀死人类。”这一切都给AI高速发展蒙上了一层阴影，那么AI再次进化之后真的会对人类产生威胁吗？

目前对我们来说，GPT-4这个工具是好消息，能大幅度提升工作效率。特别是普通人也能借助GPT解锁专业技能，创造100倍生产力。但GPT作为生产工具，提升了工作效率的同时，短期也带来了一些问题。高盛在最新的报告中预测，全球将会有至少三亿人因AI失业。报告指出律师和行政人员将是最有可能被裁员的岗位。此外，AI被滥用还会带来社会伦理方面的法律风险。前段时间，广东广州，某女子在小红书上分享的乘地铁的照片被AI一键脱衣，造谣图随后在网上广泛传播。无论是正常使用AI提升办公能力，还是滥用AI引发的社会问题，都代表着GPT这一类人工智能在技术上的成功，让AI科技浪潮深切影响到我们普通个人。

看到这种趋势，商业巨头们AI研发动作频频。首先是百度，作为国内第一家发布AI模型的巨头，文心一言一经公布就赚足了眼球。其次是腾讯，作为人狠话不多的代表，腾讯的混元AI大模型非常低调，却在WSDM中一鸣惊人，在无偏排序学习和互联网搜索预训练模型赛道上的两项任务中获得2023年度世界冠军。腾讯近日正式发布全新的AI智能创作助手“腾讯智影”，推出了智影数字人、文本配音、文章转视频等AI创作工具。再就是是阿里，刚刚宣布它们AI研究的阶段性结果——通义千问AI大模型。阿里的CEO张勇表示阿里旗下的产品将全面接入通义大模型，升级后的产品会提升工作效率。华为也没有落后，华为的AI模型把目标瞄准了B端，为企业用户提供AI落地应用。除了这些公司，其他诸如京东、360、字节跳动等巨头也纷纷加快了研发高级AI的步伐。国内如此，国外也如此，都在搞AI军备竞赛。

GPT4.0距离真正的“AI”还有距离，马斯克等科技大佬联名公开信并没办法阻止AI研究，甚至我个人认为马斯克不过是想给自己团队的AI系统争取一段追赶时间而已。正如周鸿祎对于马斯克公开信的回应：“不发展才是最大的不安全，不管你愿不愿意，GPT都将引领一场新的工业革命，意义超越互联网和iPhone的发明。它将带来生产力的大幅提升，进而提升国家竞争力。”人类历史经验证明：任何阻碍生产力进步的方式都是无效的。面对一个可能改变未来的新技术，我们无法选择抵制，只能主动拥抱，打不赢，就加入。AI现在不会取代人类，但一定会淘汰不拥抱AI的人。我们公司已经全员都在用AI工作了，大家只有一个反应，AI真香。事实上，我发现我们的图书编辑学会了给新书《抖音电商实战》写SEO文案，让我很吃惊，她说我是被GPT启发到的。大家看看，文案还不错吧？——全是核心关键词。你看，普通人跟上AI脚步，把AI工具变成生产力。就好像跟着AI学围棋，那些优秀棋手的棋力都快速增长。

本页网址：https://www.xinzhibang.net/article_detail-3015.html

寻求报道，请

关键词

分享至微信：

相关工具

万兴播爆

万兴科技推出的AI数字人口播视频营销工具

Movio

AI真人出镜视频讲解

Elai.io

AI文本到视频生成工具

Wonder Studio

AI自动为CG角色制作动画、打光并将其合成到真人场景中

Fliki

AI文字转视频并配音

Hour One

人工智能文字到视频生成

微软智能语音实现对汉语方言和古典诗歌的支持

多年来，微软持续探索AI语音合成与识别技术，并在Azure Neural TTS和STT技术上支持了超过140个语言区域和400多个音色。近两年来，微软在汉语方言智能语音上加大了研究力度，并实现了对吴方言、粤方言和多种官话次方言的支持。这是对中国传统文化的积极保护和传承。除了方言之外，微软还通过学习

分类标签微软智能语音汉语方言

12-08 08:32

串口通信基本概念与STM32F429的USART应用

串口通信基本概念并行通信和串行通信处理器与外部设备通信的两种方式：串行通信和并行通信。并行通信：传输原理：数据各个位同时传输。优点：速度快。缺点：占用引脚资源多。串行通信：传输原理：数据按位顺序传输。优点：占用引脚资源少。缺点：速度相对较慢。不过这两种通信方式是可以转换的。单工通信、半双工通信、全双

分类标签串口通信并行通信串行通信单工通信半双工通信全双工通信

12-05 02:24

关于usart.c和main.c的代码实现

关于usart.c和main.c的代码实现本文介绍了usart.c和main.c的代码实现，并给出了摘要。usart.c代码实现该代码实现了串口通信的功能，包括初始化、发送和接收数据等。main.c代码实现该代码实现了LED灯的控制和串口通信的功能，可以根据收到的指令来切换LED的模式。主要逻辑为不

分类标签 usart.cmain.c代码实现

12-05 02:16

上海1933老场坊艺术季展会开幕

上海1933老场坊艺术季展会开幕上海1933老场坊艺术季展会于11月7日17:00开幕，展期为2023.11.6-11.12。该艺术季将创造一个将空间场域与艺术设计结合的系统，通过展览将艺术爱好者、收藏家和艺术家紧密联结，更全面地感知与探索本土化和在地性的艺术实践，以提供具有多元化的展示和交流平台。

分类标签上海1933老场坊艺术季艺术展览艺术家

12-05 02:15

YC夏季班DemoDay上的一些有意思的项目

Neptune.io：自动诊断并修复服务器故障的SaaS平台Neptune.io是一家提供自动诊断并修复服务器故障的SaaS平台，由KiranGollu和SatishTalluri创立。他们的目标是实现服务器的“自我治愈”，对一些服务器常见的问题进行自动诊断和修复，比如存储已满或者CPU利用率下降。

分类标签 YCDemoDay创业项目NeptuneNaytevRigettiComputingProductHuntImmunityProjectHelionHauteDayTiempouBiome

12-05 02:14

内流艺术机构innerflow携手国内外艺术家登陆上海ART021

内流艺术机构innerflow携手国内外艺术家登陆上海ART021内流艺术机构innerflow是一个聚焦于年轻人的艺术品的潮流艺术机构。该机构旨在与全球画廊、艺术家联合打造高端艺术衍生品，目前主要开发的品类有版画、雕塑、潮流玩具、生活家居等收藏类艺术衍生品。内流艺术机构innerflow携手国内外

分类标签 innerflow艺术衍生品潮流文化

12-05 02:11

如何选择一款适合自己的AI绘图工具平台

如何选择一款适合自己的AI绘图工具平台近两年AI绘画技术突飞猛进，国内外涌现出大量的产品，有些收费，有些免费，有些赠送一定数量的免费绘图，对于普通人来说，如何选择是一个问题。针对这个问题，我们总结了以下几个关键点：OpenFlow｜AI赋能行业工作流提效AI超级个体变现工具深度链接粉丝社区图片质量高

分类标签 AI绘画技术OpenFlow提示词库

12-05 02:10

用万彩微影免费制作属于自己的数字人

自从数字人技术问世以来，越来越多的人开始尝试制作自己的数字化形象。这项创新技术不仅让我们能够在虚拟世界中展示独特个性，还能为我们创造出无限的可能性。数字人制作不仅可以展现与众不同的形象，还可以用个人品牌的推广，让我们在竞争激烈的社交媒体环境中脱颖而出。数字人还可以为我们提供交流和表达的新方式，通过照

分类标签万彩微影数字人在线制作

11-23 22:19

Gas Leaks and Structural Weaknesses: AI's Rapid Response to Fires

Gas Leaks and Structural Weaknesses: AI's Rapid Response to FiresArtificial intelligence (AI) has become a game-changer in the firefighting industry,

分类标签 AIfirefightinggasleaks

11-23 22:18

AI的应用领域

AI的应用领域人工智能（AI）是一个不断发展的领域，在各个行业都已经产生了革命性的影响。随着技术的不断发展，AI已经承担起了许多角色，从语言翻译到医疗诊断，应用范围越来越广泛。在本文中，我们将探讨AI在AI生成的艺术和绘画之外的一些其他应用。客户服务AI技术的一个突出应用是客户服务领域。借助AI驱动

分类标签 AI人工智能应用

11-23 22:17