OpenAI放弃尝试检测ChatGPT抄袭

新知榜官方账号

2023-09-14 02:36:36

OpenAI是广受欢迎的人工智能(AI)聊天机器人ChatGPT的创建者,它已经关闭了它开发的用于检测由AI而不是人类创建的内容的工具。OpenAI表示,该工具被称为AI分类器,由于其“低准确率”而在推出仅六个月后就被关闭了。

由于ChatGPT和竞争对手的服务人气飙升,各种关注不受限制的AI使用后果的团体一直在一致反对。首先,教育工作者特别担心学生有可能使用ChatGPT来撰写他们的论文和作业,然后将它们当作自己的论文和作业。OpenAI的AI分类器试图减轻这些群体和其他群体的恐惧。这个想法是它可以确定一段文本是由人类还是人工智能聊天机器人编写的,为人们提供了一个公平评估学生和打击虚假信息的工具。

然而,即使从一开始,OpenAI似乎对其工具也没有太大的信心。在宣布该工具的博客文章中,OpenAI宣称“我们的分类器并不完全可靠”,并指出它只有26%的时间正确识别了来自“挑战集”的AI编写的文本。放弃该工具的决定并没有大张旗鼓,OpenAI也没有在其网站上发布专门的帖子。相反,该公司更新了揭示AI分类器的帖子,指出“AI分类器由于其低准确率而不再可用。更新继续说:“我们正在努力整合反馈,目前正在研究更有效的文本来源技术,并承诺开发和部署机制,使用户能够了解音频或视频内容是否是人工智能生成的。

AI分类器并不是唯一用于检测AI制作内容的工具,因为尽管OpenAI做出了决定,但像GPTZero这样的竞争对手已经存在并将继续运营。过去识别人工智能写作的尝试适得其反。例如,一位教授在招募ChatGPT来检测学生论文中的抄袭后,错误地不及格。不用说,ChatGPT犯了严重的错误,教授也是如此。当即使是OpenAI也承认它无法正确感知自己的聊天机器人造成的抄袭时,这引起了人们的关注。它发生在人们对人工智能聊天机器人的破坏潜力越来越焦虑的时候,并呼吁暂时暂停该领域的发展。如果人工智能的影响像一些人预测的那样大,那么世界将需要比OpenAI失败的AI分类器更强大的工具。

本页网址:https://www.xinzhibang.net/article_detail-11343.html

寻求报道,请 点击这里 微信扫码咨询

关键词

OpenAI ChatGPT 人工智能

分享至微信: 微信扫码阅读

相关工具

相关文章