开源人工智能模型的陷阱：Meta的Llama2是否真正开源？

新知榜官方账号

2023-08-29 01:33:05

ChatGPT的问世，让更多人开始有机会使用强大的人工智能（AI），但这个聊天机器人的内部运作机制仍是一个未公开的秘密。因而，近几个月来，让人工智能更加“开放”的相关工作似乎获得了人们的更多关注。今年5月，有人泄露了Meta公司的“Llama”模型，让外界可以访问其底层代码以及决定其行为的模型权重等。今年7月，Meta又推出了功能更强大的模型Llama2，声称供任何人下载、修改和重复使用。自此，Meta的Llama系列模型成为了许多公司、研究人员和人工智能业余爱好者构建具有类似ChatGPT功能的工具和应用程序的基础。

“我们在世界各地拥有广泛的支持者，他们相信我们对当今人工智能的开放方法......研究人员致力于使用该模型进行研究，而科技界、学术界和政策部门的人们也和我们一样，看到了Llama和开放平台的好处，”Meta在发布Llama2时说。日前，Meta也发布了另一个模型——Llama2Code，该模型针对编码进行了微调。

数十年来，开源方法使软件的获取变得更加民主、确保了透明度并提高了安全性，现在似乎也被认为可以对人工智能产生类似的影响。但这或许还远远不够。来自卡内基梅隆大学（CarnegieMellonUniversity）、AINow研究所（AINowInstitute）和Signal基金会（SignalFoundation）的研究团队，在一篇题为“Open(ForBusiness):BigTech,ConcentratedPower,andthePoliticalEconomyofOpenAI”的论文中，探讨了“Llama2”和其他以某种方式“开源”的人工智能模型的现实情况。他们表示，打着“开源”旗号的模型可能会有一些“陷阱”。

据论文描述，尽管Llama2可以免费下载、修改和部署，但它不在传统的开源许可范围内。Meta的许可证禁止使用Llama2训练其他语言模型，如果开发者将Llama2部署到每日用户超过7亿的应用程序或服务中，则需要特殊许可证。这种程度的控制意味着Llama2可以为Meta带来重大的技术和战略利益——例如，当外部公司在自己的应用程序中使用Llama2模型时，Meta可以从有益的调整中获益。研究人员说，在普通开源许可下发布的模型，如非营利组织EleutherAI的GPTNeo，开放程度更高。但这些项目很难与大型公司推出的模型竞争。

因此，研究团队认为，从目前的趋势来看，这项数十年来最重要的技术之一最终可能只会丰富和增强少数几家公司的能力，其中包括OpenAI、微软、Meta和谷歌。

进一步说，即使是最开放的“开放”人工智能系统，其本身也不能确保人工智能的民主获取或有意义的竞争，开放本身也不能解决监督和审查的问题。Whittaker补充说，开源应该成为亟需制定的人工智能法规的一个重要考虑因素，“我们确实亟需有意义的替代技术，来取代由大型垄断企业定义和主导的技术——尤其是当人工智能系统被整合到医疗保健、金融、教育等具有特殊公共影响的高度敏感领域时。创造条件让这种替代成为可能，是一个可以与反垄断改革等监管运动共存甚至得到其支持的项目。”

研究团队也表示，除了制衡大公司的权力之外，让人工智能更加开放对于释放该技术的最佳潜力——同时避免其最坏的倾向——可能至关重要。如果我们想了解最先进的人工智能模型有多大能力，并降低部署和进一步发展可能带来的风险，那么最好向全世界的科学家开放这些模型。正如“隐晦式安全”（securitythroughobscurity）永远无法真正保证代码的安全运行一样，对强大的人工智能模型的工作原理加以保护，也未必是一个最明智的做法。

本页网址：https://www.xinzhibang.net/article_detail-10503.html

寻求报道，请

关键词

分享至微信：

相关工具

Freepik AI Image Generator

Freepik最新推出的AI图片生成工具

Photosonic

Writesonic推出的AI艺术插画生成工具

DreamUp

DeviantArt推出的AI插画生成工具

MagicStudio

高颜值AI图像处理工具

Imagine by Magic Studio

AI文字到图片生成

Facet

AI图片修图和优化工具

聊天机器人与多模态语言模型：ChatGPT和GPT-4.0

聊天机器人与多模态语言模型：ChatGPT和GPT-4.0人工智能（AI）是指能够模拟人类智能的计算机系统或软件。AI的发展已经影响了我们的生活的方方面面，从教育、娱乐、医疗、商业到社交等等。在这篇文章中，我们将介绍两个最新最热门的AI项目：ChatGPT和GPT-4.0，它们分别是OpenAI开发

分类标签人工智能聊天机器人多模态语言模型

12-08 22:03

抖音AI扩图逆天，一对恩爱情侣的照片被神操作后画风大反转

抖音AI扩图真的是太逆天了，让人看完之后会意想不到、一肚子气。例如一对恩爱情侣的照片在AI扩图前是非常有信仰感的：但在AI扩图一通神操作之下，画风简直是180度大反转：网友们在看过之后哭笑不得，打趣称“更虔诚”、“太励志”了。作为一个专业产品经理，我认为AI扩图技术的发展虽然有很多潜力，但也需要注意

分类标签抖音AI扩图恩爱情侣

12-06 06:04

大模型商业化：困境与尝试

背景虽然大模型商业化的路径较为清晰，目前国内厂商也都在积极探索，但大模型的商业化之路，不能仅限于商业模式的探索尝试，更在于解决大模型发展的底层问题。困境大模型商业化面临着一系列的困境，如资金投入、伦理道德、安全性、市场接受度等问题。资金投入：庞大的模型训练需要巨额的资金来支持，投入了巨额资金之后，企

分类标签大模型商业化困境尝试MaaS开源Agent

12-06 06:02

欧洲金融独角兽Klarna冻结招聘，CEO称未来大部分工作可由人工智能完成

自人工智能去年末大火以来，“AI会不会抢走人类的工作”就成为全世界讨论的热门话题，不少机构还为此给出了预测报告，分析哪些工作最有可能被AI“抢”走。而如今，这个打工人们的担忧已经开始变成现实：AI已经开始抢工作了。据外媒报道，“欧洲版花呗”Klarna最近已经冻结招聘，并计划缩减员工规模。其CEO认

分类标签 Klarna人工智能减少人力需求

12-06 06:01

2024年，AI行业将会进化成什么样？HuggingFace CEO的6条预测

2024年，AI行业将会进化成什么样？HuggingFace CEO的6条预测2024年，AI行业将会迎来更大的突破和进化。HuggingFace CEO Clement Delangue对未来的发展做出了6条具体的预测，包括AI公司倒闭、开源LLM能力达到闭源水平、AI在生物、化学、时间序列等领域

分类标签 AI行业预测HuggingFace开源生物领域时间序列

11-29 06:09

AI绘画：冲击还是机遇？

AI绘画：冲击还是机遇？随着AI绘画技术的发展，AI绘画已经成为了一种新生的艺术门类。AI作画可以在几秒钟内生成画面优美的高清图片，其画面之精细，想象力之超绝令人惊叹。然而，AI绘画是否能取代艺术家，以及它带来的冲击和机遇，仍然是一个备受争议的话题。AI绘画工具易于上手，效率高，也具备匠气，但灵气不

分类标签 AI绘画艺术家创作人工智能技术算法

11-29 02:13

每日必看的AI前沿

每日必看的AI前沿近日，百度文心一言推出了会员模式，提供文心大模型4.0等升级能力，而工信部则发布了《人形机器人创新发展指导意见》，提出以大模型等AI技术突破为引领，在人形机器人“大脑”和“小脑”、“肢体”关键技术、技术创新体系等领域取得突破。此外，高德云图发布了自主研发的产业大模型“云睿”，该模型

分类标签百度文心一言大模型工信部人形机器人高德云图时空信息

11-29 02:12

百度文心一言推出会员模式，开通可解锁文心大模型4.0

百度文心一言推出会员模式，开通可解锁文心大模型4.0据IT之家网友反馈，百度大模型文心一言现已推出会员模式，开通后可解锁文心大模型4.0。据介绍，文心一言会员单月购买价格为59.9元，连续包月价格为49.9元（次月以49.9元/月自动续费，可随时取消）。此外，百度还推出了文心一言+文心一格（白银）的

分类标签百度文心一言文心大模型4.0会员模式

11-29 02:11

文心一言正式上线会员服务，连续包月费用为49.9元，单月购买为59.9元

文心一言正式上线会员服务，连续包月费用为49.9元，单月购买为59.9元11月1日，文心一言官网显示，会员连续包月费用为49.9元，而单月购买为59.9元。此次会员服务对应的是文心大模型4.0，而文心大模型3.5仍可免费使用。除此之外，文心一言还上线了99元/月的联合会员，包括文心一言会员和文心一格

分类标签文心一言会员服务大模型

11-29 02:06

AI画图工具推荐

AI画图工具推荐AI画图网站虽然在功能和易用性方面也表现的相当出色了，但与绘画软件相比，兼容性上仍存在明显不足，通常需要特定的浏览器和设备才能访问，某种程度上会限制用户的使用灵活性和自由度。为了实现更好的AI画图体验，各类工具软件都需要熟练运用，软件和网站可以说是缺一不可，取长补短才能帮助更好地进行

分类标签 AI抠图AI绘画AI创作改图鸭

11-29 02:04