新知榜官方账号
2023-11-04 22:32:19
研究表明,通用人工智能工具的广泛应用为监管机构带来新的挑战,他们可能难以应对。实际上,如何监管OpenAI的聊天机器人ChatGPT这样的生成式AI工具,已经成为一个困扰世界各国政策制定者的问题。
ChatGPT可以通过关键字生成任何类型的内容,并接受输入大量知识的训练。其解决方案将涉及评估风险,尤其是其中的某些内容,应该受到严密的监控。在ChatGPT推出后的两个月,这款AI聊天机器人就成为了历史上用户增长最快的消费产品,仅在今年1月的活跃用户就超过1亿人。这促使全球大型科技公司关注或加快AI系统的推出,并为对话式AI领域带来了新的生机。
生成式AI加速监管需求广泛的错误信息和难以发现的网络钓鱼电子邮件为AI的应用带来真正风险,如果将其用于医疗信息,则会导致误诊和医疗事故。如果用于填充模型的不是多样化的数据,也有很高的偏差风险。虽然微软已经有了一个更准确的重新训练的模型,而且AI21公司等提供商正在努力验证生成的内容与实时数据的对比,但生成AI“看起来真实但完全不准确”的响应的风险仍然很高。
欧盟内部市场专员ThierryBreton近日表示,即将出台的欧盟AI法案将包括针对ChatGPT和Bard等生成型AI系统的条款。“正如ChatGPT所展示的那样,AI解决方案可以为企业和公民提供巨大的机会,但也可能带来风险。这就是为什么我们需要一个坚实的监管框架,以确保基于高质量数据的值得信赖的AI。”他说。
AI开发需要合乎道德分析软件提供商SAS在一份名为《AI与负责任创新》报告中概述了AI带来的一些风险。报告的作者KirkBorne博士说:“AI已经变得如此强大、如此普遍,以至于越来越难以分辨其生成内容的真假和好坏。采用这项技术的速度明显快于监管的步伐。”SAS英国和爱尔兰地区数据科学主管IainBrown博士表示,政府和行业都有责任确保AI被用于有益而非有害的方面。
在艾伦·图灵研究所从事AI监管工作的纽卡斯尔大学法律、创新和社会专业的教授LilianEdwards表示,其中一些模型将受到GDPR法规的监管,这可能会导致发布删除训练数据甚至算法本身的命令。如果网站所有者失去了AI搜索的流量,这也可能意味着从互联网大规模抓取数据的终结,目前这种抓取是谷歌等搜索引擎的发展动力。
最终,AI提供商将开始列出“不得使用”该技术的目的,包括在用户登录之前发布法律免责声明,将其置于基于风险的监管行动范围之外。随着监管机构越来越关注这一问题,大型科技公司将开始游说监管机构,希望加强算法透明度。我们正处在困难时刻,需要获得激励措施朝着开放和透明的方向发展,以便更好地理解AI如何做出决策和生成内容。
相关工具
相关文章
推荐
中国首款3A游戏上线,《黑神话:悟空》出圈!
2024-08-21 13:46
盘点15款AI配音工具,短视频配音有救了!
2024-08-12 17:11
短视频文案没创意?10大AI写作工具来帮你!
2024-08-05 16:23
Midjourney发布V6.1版本,我已分不清AI和现实了!
2024-08-01 15:03
我发现了一款国产AI绘画神器,免费易上手!
2024-07-25 16:40
7位AI考生做今年高考题,能过一本线吗?
2024-07-19 17:17
世界上第一所AI学校来了,80亿人只需要1位老师?
2024-07-18 17:12
Sora首部AI广告片上线,广告从业者危险了!
2024-06-27 13:44
OpenAI与中国说拜拜,国产AI如何接棒?
2024-06-26 15:18
人与AI会产生爱情吗,专家发话了!
2024-06-17 17:28