新知榜官方账号
2023-09-14 02:36:36
OpenAI是广受欢迎的人工智能(AI)聊天机器人ChatGPT的创建者,它已经关闭了它开发的用于检测由AI而不是人类创建的内容的工具。OpenAI表示,该工具被称为AI分类器,由于其“低准确率”而在推出仅六个月后就被关闭了。
由于ChatGPT和竞争对手的服务人气飙升,各种关注不受限制的AI使用后果的团体一直在一致反对。首先,教育工作者特别担心学生有可能使用ChatGPT来撰写他们的论文和作业,然后将它们当作自己的论文和作业。OpenAI的AI分类器试图减轻这些群体和其他群体的恐惧。这个想法是它可以确定一段文本是由人类还是人工智能聊天机器人编写的,为人们提供了一个公平评估学生和打击虚假信息的工具。
然而,即使从一开始,OpenAI似乎对其工具也没有太大的信心。在宣布该工具的博客文章中,OpenAI宣称“我们的分类器并不完全可靠”,并指出它只有26%的时间正确识别了来自“挑战集”的AI编写的文本。放弃该工具的决定并没有大张旗鼓,OpenAI也没有在其网站上发布专门的帖子。相反,该公司更新了揭示AI分类器的帖子,指出“AI分类器由于其低准确率而不再可用。更新继续说:“我们正在努力整合反馈,目前正在研究更有效的文本来源技术,并承诺开发和部署机制,使用户能够了解音频或视频内容是否是人工智能生成的。
AI分类器并不是唯一用于检测AI制作内容的工具,因为尽管OpenAI做出了决定,但像GPTZero这样的竞争对手已经存在并将继续运营。过去识别人工智能写作的尝试适得其反。例如,一位教授在招募ChatGPT来检测学生论文中的抄袭后,错误地不及格。不用说,ChatGPT犯了严重的错误,教授也是如此。当即使是OpenAI也承认它无法正确感知自己的聊天机器人造成的抄袭时,这引起了人们的关注。它发生在人们对人工智能聊天机器人的破坏潜力越来越焦虑的时候,并呼吁暂时暂停该领域的发展。如果人工智能的影响像一些人预测的那样大,那么世界将需要比OpenAI失败的AI分类器更强大的工具。
相关工具
相关文章
推荐
用Deepseek写AI绘图提示词,像呼吸一样简单!
2025-02-19 16:12
你以为AI绘画是黑科技?其实早成了“路边摊生意”!
2025-02-19 10:15
Flux爆火,全网最全面最详细的Flux使用教程!
2025-02-18 14:19
用AI如何创作音乐,实战教学来啦!
2025-02-17 17:23
MidJourney让你秒变绘画大神,从零开始画哪吒!
2025-02-17 14:56
AI应用新境界:让人工智能成为你的得力助手
2025-02-14 15:45
AI短片革命:当创作遇上智能,人人都能成为导演
2025-02-14 14:53
AI狂潮下的人类职场:是失业危机还是进化契机?
2025-02-13 16:53
开启影视创作新纪元,效率提升 10 倍的神器来了!
2025-02-13 15:11
深度解析DeepSeek:当AI技术照进创作产业的未来
2025-02-12 17:16