斯坦福研究：顶尖AI大模型未达欧盟AI法案标准

新知榜官方账号

2023-07-03 22:26:36

以ChatGPT为代表的AI大模型技术席卷全球的同时，也引起了广泛争议。如今，监管脚步正在快速迫近。6月中旬，斯坦福大学AI研究实验室发布了一项对AI大模型的研究的结果。研究以十个AI大模型为研究对象，评估他们是否达到欧盟AI法案的标准。结果显示，这些顶尖的AI模型均没有达标。斯坦福研究团队在报告中表示：“主要基础模型提供商目前基本上没有遵守这些草案要求。他们很少披露有关其模型的数据、计算和部署以及模型本身的关键特征的足够信息。尤其是，他们不遵守草案要求来描述受版权保护的训练数据的使用、训练中使用的硬件和产生的排放，也不披露如何评估和测试模型的方式。”欧盟AI法案是世界上第一个AI监管相关法案，从被提出开始即引起全球广泛关注，也会影响大多数AI大模型在欧洲的发展前景。

6月14日，欧洲议会以299票赞成、28票反对、93票弃权的表决结果通过了关于人工智能法案的草案。人工智能草案的内容中，包括明确了关于OpenAI和谷歌等模型的义务。法规旨在确保人工智能技术对用户能够保持透明、公平和安全，计划将于2024年生效。来源：斯坦福

在斯坦福大学的研究中，研究团队先从监管草案选取出22项要求，再以是否有意义地使用公众信息作为标准，最终选择出12项评估要求，为每个评估要求配备了5点评分标准。在此基础上，研究人员将这12项要求进行维度划分为四个层次，分别是数据来源、数据处理、模型本身和实践应用。各大AI模型的得分与满分仍有很大差距。主要的问题集中在：版权责任不明确；能源使用报告不均衡；风险缓解方面披露不充分；缺乏评估标准或审计生态系统等等。各家大模型提供商的合规性差异也很大。一些AI大模型公司的得分低于25%（AI21Labs、AlephAlpha、Anthropic）。目前综合得分最高的，是AI大模型开源社区HuggingFace。

最近几个月，大公司的AI发布会同样是证明。在OpenAI的GPT-4和谷歌的PaLM2的发布会上，他们也都没有披露关于数据、评估方式等相关内容。斯坦福团队表示，欧盟所出台的法规具备可行性，目前的AI模型遵守法规要求并非难题。他们在报告中也对欧盟政策制定者、全球政策制定者、模型提供商数方提供建议。比如，AI模型的政策制定者需要在欧盟AI法规的要求下，优先考虑模型的透明度，对于基础模型的开发、使用和性能有关的披露等，这都会提高整个人工智能生态系统的透明度。而对于模型提供商而言，行业标准是比较大的挑战。在AI大模型领域尚没有成型标准前，斯坦福团队也提出了一些实用的建议——比如改善为大模型开发人员提供的文档。“提供商可以而且应该通过模仿最合规的大模型提供商，来提高自身的合规性。”

本页网址：https://www.xinzhibang.net/article_detail-5068.html

寻求报道，请

关键词

分享至微信：

相关工具

HuggingChat

HuggingFace推出的在线聊天机器人，基于Open Assistant模型

文心一言

百度推出的基于文心大模型的AI对话互动工具

通义千问

阿里巴巴最新推出的类ChatGPT响应人类指令的大模型

ChatSonic

WriteSonic出品的ChatGPT竞品

百度AI伙伴

百度最新上线的AI搜索对话工具

ChatGLM

开源的、支持中英双语的1300亿参数的对话语言模型

产品周报276期

产品周报276期本期产品周报主要报道了Google发布AI大模型Gemini和腾讯NOW直播宣布停止运营的消息。这些消息对于产品经理和市场人员来说都具有重要意义，需要关注和深入了解。Google发布AI大模型Gemini近日，Google发布了一款名为Gemini的AI大模型，该模型在自然语言处理、

分类标签 GoogleAIGemini

12-09 08:07

回顾GPT大模型2023

回顾GPT大模型2023在2023年，GPT大模型成为了人工智能领域的明星。五大顶级公司都对2024年的AI产品发展进行了预测，其中连诗路AI产品备受关注。在市场上，AI产品的需求也越来越大。作为一名专业产品经理，我们需要关注市场需求并不断更新自己的产品。未来的AI产品将会越来越普及，我们需要不断地

分类标签 GPT大模型AI产品连诗路顶级公司市场

12-09 08:06

竞速AI大模型，飞书打得过钉钉吗？

竞速AI大模型，飞书打得过钉钉吗？2023年11月29日，DoNews发布评论《竞速AI大模型，飞书打得过钉钉吗？》。该文章探讨了飞书与钉钉在竞速AI大模型领域的竞争关系。作为国内两大主流企业通讯工具，飞书和钉钉一直以来都在追求更好的用户体验和更强大的功能。随着人工智能技术的不断发展，AI大模型已经

分类标签竞速AI大模型飞书钉钉

12-01 08:05

AI伴侣：当孤独遇到算法

AI伴侣：当孤独遇到算法在电影《她》中，主人公Theodore沉浸在与妻子离异后的郁闷期，后来在一次偶然机会中其认识了“Samantha”（人工智能系统）。很快，他们坠入爱河。随着甜蜜期的褪去，Samantha开始问自己：“这份爱是按照算法程序写好的吗?”而实际上，作为AI操作系统的Samantha

分类标签 AI伴侣虚拟伴侣聊天机器人

11-27 02:24

AI原生时代，大模型创业有“捷径”深渡Cross关注

AI原生时代，大模型创业有“捷径”深渡Cross关注近年来，随着人工智能技术的飞速发展，大模型成为了人们关注的热点。在AI原生时代，大模型创业成为了许多创业者的选择。然而，大模型创业面临着巨大的挑战，如何实现商业化应用成为了创业者们需要解决的重要问题。深渡Cross作为一家专注于大模型创业的公司，成

分类标签 AI原生时代大模型创业深渡Cross

11-16 08:03

谷歌人工智能聊天机器人LaMDA被指具有灵魂引争议

据《华尔街日报》6月13日消息，谷歌一位软件工程师表示，有“开放式对话黑科技”之称的谷歌人工智能聊天机器人LaMDA已经有了人一样的感知力，甚至具有了人的“灵魂”。随后，谷歌暂停了他的职务，并否认了他的说法。当事人称，因为违反公司的保密协议，现在他快被解雇了。LaMDA，为啥被叫做“黑科技”？LaM

分类标签谷歌人工智能聊天机器人LaMDA灵魂伦理问题

11-04 02:30

10款最佳聊天机器人工具

10款最佳聊天机器人工具本文介绍了10款最佳聊天机器人工具，它们能够帮助您跨社交媒体平台、不同站点和应用程序与客户互动和沟通。1. FlowXOFlowXO是一款自动化软件，用于构建聊天机器人，帮助您虚拟欢迎电子商务网站的新访问者、收集用户详细信息、回答简单的问题或链接到任何文章，并且允许您在实时聊

分类标签聊天机器人人工智能自动化软件

11-04 02:29

AI辅助编程初创公司Kite宣布停止开发

AI辅助编程初创公司Kite宣布停止开发当地时间11月16日，AI辅助编程初创公司Kite宣布将停止开发Kite，且不再支持Kite软件。从2014年至2021年，Kite创始人AdamSmith对公司这七年的失败原因进行了总结。失败原因第一，企业未能实现AI辅助编程的愿景。Smith认为进入市场早

分类标签 KiteAI辅助编程失败原因

10-20 10:14

头部企业AI大模型应用收集分析

头部企业AI大模型应用收集分析随着人工智能的不断发展和应用，越来越多的企业开始关注AI大模型的应用。本文将从产品经理和市场的角度，全面重写这篇文章，对头部企业AI大模型应用的收集和分析进行详细介绍。一、背景随着信息时代的到来，企业面临着海量数据的挑战。如何从这些数据中提取有用信息，已经成为企业发展的

分类标签企业AI大模型应用收集分析

10-20 06:02

AI引领RFM模型革命性突破

AI引领RFM模型革命性突破近年来，随着人工智能技术的快速发展，越来越多的企业开始将其应用于客户管理中。其中，AI在RFM模型中的应用，带来了革命性的突破，提高了客户管理的效率。什么是RFM模型？RFM模型是一种客户价值分析模型，通过对客户消费行为的分析，将客户分为不同的等级，以便企业更好地了解客户

分类标签 AIRFM模型客户管理策略

10-18 05:02

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway