ChatGPT的应用与争议

ChatGPT的应用与争议

近日，ChatGPT的代码解释器版本正式向Plus用户公开，这意味着无需专业编程技术，只需用自然语言指令即可操作ChatGPT，实现复杂任务。然而，ChatGPT自诞生以来一直饱受争议，尤其是其引发的学术伦理问题，使得其在学术界的应用并非易事。

人工智能生成的内容引发了一系列学术伦理问题，同时也催生了AI检测软件。由于ChatGPT强大的算力，它逐渐成为学生们撰写论文的利器，这也引发了学术界的关注。因此，美国纽约、西雅图、洛杉矶等地的一些公立学校已禁止学生使用ChatGPT。

许多科学家并不同意将AI作为作者名署名在文章中，Science期刊的主编曾明确表示：“我们不接受AI作为我们发布论文的作者，如果没有适当的引用，使用AI生成的文本可能被视为剽窃”。Nature期刊的主编也强调：“任何大型语言模型（LLM）都不能被接受为论文的署名作者。这是因为作者的名字代表了对研究工作的责任，而AI工具无法承担这种责任”。因此，包括Turnitin、GPTZero和Compilatio在内的一系列AI检测软件应运而生，许多高校教师已将其应用于日常教学中，其中GPTZero的名气最大。

GPTZero,一款被誉为最强大的AI反制工具，由普林斯顿大学四年级学生EdwardTian于今年3月发布。该工具旨在协助教育者检测由ChatGPT生成的作品，并已成功获得投资。因此，EdwardTian也被赞誉为“全美学生公敌”。然而，只需稍作调整，AI生成的文章就能通过检测，这让人质疑AI检测工具的真实有效性。据GPTZero表示，其AI文本检测工具使用深度分析技术来确定文本的来源，检测准确率高达98%。他们也承诺将不断改进，将错误率降至2%以下。但是，这个准确率真的可信吗？

德国柏林技术与经济应用科学大学的媒体和计算教授黛博拉·韦伯·伍尔夫联合多所大学的研究团队，对包括GPTZero在内的14种检测工具进行了评估。该研究团队使用ChatGPT生成了两份文本，每份文本都进行了轻微的修改，以掩盖其由AI生成的事实。其中一份是由研究人员手动编辑，他们重新排列了句子并替换了单词，另一份则使用名为Quillbot的AI转述工具进行重写。他们发现，虽然这些工具在识别ChatGPT文本时的准确率为74%，但在文本经过轻微调整后，准确率降至42%。这意味着，学生只需要稍微修改AI生成的文章，就可以骗过检测工具。

谷歌的自然语言生成高级研究科学家达芙妮·伊波利托提出了另一种担忧。她表示：“如果在教育环境中使用自动检测系统，了解其误报率是至关重要的，因为错误地指控学生作弊可能对他们的学术生涯造成严重影响。”而对于ChatGPT，如果能够培养出高级的AI用户，或许它能与教育界实现和谐共存。ChatGPT，一种人工智能技术，正在迅速发展并向所有用户开放，尤其在学生群体中受到热烈欢迎。然而，一方面，学术造假的争议仍在持续，一方面，AI检测工具的完善程度仍有待提高。在这样的背景下，ChatGPT将如何影响人类教育？我们应该将其视为朋友并欢迎其存在，还是将其视为敌人并试图通过检测工具将其排除？南京师范大学道德教育研究所的教授冯建军认为，在过去的一百年教育发展历程中，每当有新技术出现，都会引发社会的担忧和学术的争论。由于ChatGPT的智能性，人们更加担忧它是否可能取代教师，甚至取代教育。他认为，这种担忧就好比问：当我们有了汽车并学会了驾驶，我们是否还需要学习行走？当我们有了计算机，我们是否还需要学习数学？然而，这些都只是人类利用的工具，它们并没有改变人类本身。面对ChatGPT的出现，我们不能采取盲目排斥的态度。技术的进步是社会发展的必然趋势，是无法阻挡的。未来的教育既不完全由人类主导，也不完全由ChatGPT主导，而是人类与ChatGPT的共同参与。因此，我们必须寻求人类与ChatGPT的共生共存。

KristenDiCerbo，可汗学院的首席学习官，曾经说过：“GPT-4正在开创教育的新领域。很多人对这种技术已经抱有期待很久了。这是一种具有变革性的技术，我们计划负责任地进行测试，以探索它是否可以有效地用于学习和教学。”在一方面积极探索AI在教育领域的应用潜力的同时，我们也必须谨慎对待可能触及的伦理道德问题。为此，我们需要引入监管技术，建立并完善ChatGPT应用的伦理规范、风险评估以及治理体系。在此过程中，我们需要在某些关键领域达成共识，包括是否应赋予ChatGPT署名权，以及如何评估其工作量等问题。