OpenAI推出新工具可判断文本是人类撰写还是计算机生成

新知榜官方账号

2023-08-30 22:48:41

OpenAI推出新工具可判断文本是人类撰写还是计算机生成

人工智能研究初创公司OpenAI推出了一款工具,可以弄清文本是由人类撰写的还是由计算机生成的。这项技术可以用于检测最新人工智能系统生成的文本。

该公司最近发布的聊天机器人ChatGPT吸引了公众的注意,可以根据人的提示生成看起来似乎是由人撰写的文本。微软上周宣布,对OpenAI进行数十亿美元的投资,并表示将把这家初创公司的人工智能模型整合到其面向消费者和企业的产品中。

学校很快就限制使用ChatGPT,担心这一软件会影响学生学习。OpenAI的CEOSamAltman表示,公司可能有办法帮助教师识别人工智能撰写的文本。该公司员工JanHendrikKirchner、LamaAhmad、ScottAaronson和JanLeike在一篇博文中写道,“OpenAI的新工具可能会出错,这是一项正在进行中的工作,公司希望家长和老师对分类器提出反馈”。

这些OpenAI员工写道,“在我们对英语文本的‘挑战集’评估中,我们的分类器正确地将26%的人工智能撰写的文本(真阳性)识别为‘可能是人工智能撰写的’,而将人类撰写的文本错误地标记为人工智能撰写的文本的比例为9%(假阳性)”。这并非是人们首次尝试确定文本是否是由机器生成的。

本月早些时候,普林斯顿大学学生EdwardTian发布了一个名为GPTZero的工具,并在发布工具的网站上指出,这是为教育工作者而制作的。OpenAI自己也在2019年发布过一个检测器,但它没有ChatGPT的核心内容那么复杂。员工们写道,新版本更适合处理来自最新人工智能系统生成的文本。

新工具不擅长分析少于1000个字符的文本,而且OpenAI不建议将其用于英语以外的其他语言。即使早在2019年,OpenAI就明确表示,识别合成文本并非易事。员工们写道,“我们将继续进行检测人工智能生成的文本方面的工作,我们希望在未来分享改进的方法”。

本页网址:https://www.xinzhibang.net/article_detail-10625.html

寻求报道,请 点击这里 微信扫码咨询

关键词

OpenAI 人工智能 文本生成

分享至微信: 微信扫码阅读

相关工具

相关文章