AI监管迫在眉睫,通用人工智能工具应用难以监管

新知榜官方账号

2023-11-04 22:32:19

研究表明,通用人工智能工具的广泛应用为监管机构带来新的挑战,他们可能难以应对。实际上,如何监管OpenAI的聊天机器人ChatGPT这样的生成式AI工具,已经成为一个困扰世界各国政策制定者的问题。

ChatGPT可以通过关键字生成任何类型的内容,并接受输入大量知识的训练。其解决方案将涉及评估风险,尤其是其中的某些内容,应该受到严密的监控。在ChatGPT推出后的两个月,这款AI聊天机器人就成为了历史上用户增长最快的消费产品,仅在今年1月的活跃用户就超过1亿人。这促使全球大型科技公司关注或加快AI系统的推出,并为对话式AI领域带来了新的生机。

生成式AI加速监管需求广泛的错误信息和难以发现的网络钓鱼电子邮件为AI的应用带来真正风险,如果将其用于医疗信息,则会导致误诊和医疗事故。如果用于填充模型的不是多样化的数据,也有很高的偏差风险。虽然微软已经有了一个更准确的重新训练的模型,而且AI21公司等提供商正在努力验证生成的内容与实时数据的对比,但生成AI“看起来真实但完全不准确”的响应的风险仍然很高。

欧盟内部市场专员ThierryBreton近日表示,即将出台的欧盟AI法案将包括针对ChatGPT和Bard等生成型AI系统的条款。“正如ChatGPT所展示的那样,AI解决方案可以为企业和公民提供巨大的机会,但也可能带来风险。这就是为什么我们需要一个坚实的监管框架,以确保基于高质量数据的值得信赖的AI。”他说。

AI开发需要合乎道德分析软件提供商SAS在一份名为《AI与负责任创新》报告中概述了AI带来的一些风险。报告的作者KirkBorne博士说:“AI已经变得如此强大、如此普遍,以至于越来越难以分辨其生成内容的真假和好坏。采用这项技术的速度明显快于监管的步伐。”SAS英国和爱尔兰地区数据科学主管IainBrown博士表示,政府和行业都有责任确保AI被用于有益而非有害的方面。

在艾伦·图灵研究所从事AI监管工作的纽卡斯尔大学法律、创新和社会专业的教授LilianEdwards表示,其中一些模型将受到GDPR法规的监管,这可能会导致发布删除训练数据甚至算法本身的命令。如果网站所有者失去了AI搜索的流量,这也可能意味着从互联网大规模抓取数据的终结,目前这种抓取是谷歌等搜索引擎的发展动力。

最终,AI提供商将开始列出“不得使用”该技术的目的,包括在用户登录之前发布法律免责声明,将其置于基于风险的监管行动范围之外。随着监管机构越来越关注这一问题,大型科技公司将开始游说监管机构,希望加强算法透明度。我们正处在困难时刻,需要获得激励措施朝着开放和透明的方向发展,以便更好地理解AI如何做出决策和生成内容。

本页网址:https://www.xinzhibang.net/article_detail-18928.html

寻求报道,请 点击这里 微信扫码咨询

关键词

AI监管 通用人工智能 ChatGPT

分享至微信: 微信扫码阅读

相关工具

相关文章