AI生成的新闻和内容农场现象

新知榜官方账号

2023-09-03 22:38:54

AI生成的新闻和内容农场现象

最近，家里老人给我转了一篇文章，向我求证：打开一看，就知道显然是假新闻，因为最近以来根本有没有这样的涨价。但是网上搜一下，这样标题的文章很多，都是来自于一些形形色色的自媒体，无非是把标题中的日期，不断地修改，从7月改到8月，反复发。估计今天又要改一篇“2023年9月3日水、电、天然气全面涨价,涨幅空前高涨”。

百度搜索结果：重灾区是百度百家号、今日头条等，相比之下，微信公众号上也有，但是少得多：文章又都很有特点：标题很惊人、吸引流量，点击量和评论数都很高；内容非常格式化：先说新闻，然后几百上千字谈影响，煞有其事，义正言辞。有意思的是，每一篇都不尽相同，但是又非常类似。最后的评论里面，老百姓不管真假，都大发议论，活不下去啦、民生艰难等等。

没有多少人去求证，大家用它来发泄情绪。平台、自媒体赚了流量，读者消费了情绪，大家各取所需。这就是最近所谓的：“事实摆在一边”。

但是我在看这种文章的时候，总是有种似曾相识的感觉，为什么呢？我用GPT调试了一下，发现：这种文章，很大概率是用ChatGPT这种工具生成的。讨论的风格，非常一致。不能说是“完全一样”，基本可以说：就是一个模子里做出来的。这就是所谓的“内容农场”：内容农场，英文名称为“contentfarm”，通常是指专门使用软件进行制作大量的垃圾内容获取用户点击。于是，网友搜索引擎就容易找得到。

内容农场的核心是“发布各种写作话题”，这个环节不是拍脑袋的。根据自行发明的一套算法，来评估两样东西：其一，什么是当前网络话题热点；其二，什么样的关键字更容易带来高广告收入。这两样东西，说白了，就是这个“按需媒体”的两个需。百度百科这种模式由来已久，只是现在更简单了，这些媒体只需要想出一个耸人听闻、吸引流量的标题，然后输入到ChatGPT这样的AI工具里面，利用大语言模型的“幻觉”效应（就是可以围绕用户输入的信息生成事实上不真实的内容），快速地生成大量的文章、内容、帖子。。在包括百家号、公众号、小红书、抖音在内的各种平台上发放。

怎么去避免这样的问题？事实上没有太好的办法，之前虽然有各种所谓的AI内容识别工具，但是不久就纷纷下线，因为实践证明识别准确率很低，尤其是对于文字内容。著名的例子是，检测工具GPTZero把美国宪法和圣经，也识别为AI生成的内容。对于图片、视频、音频的话，最近有一些数字水印的技术开始出现，可以起到一定的作用，也已经出现相关的安全要求。

对于我们个人来说，如何防止被这种批量生成的、粗制滥造的新闻所误导，我想可以注意以下这几点：

对于没有注明权威信息来源的新闻，默认均为假新闻。参见我之前的文章：《如何高效地找到自己需要的信息》
不要轻易点击、转发自己不确信的新闻，白白为这些内容农场增添流量收入和扩大影响力。是的，点都不要点。
逐步提升鉴别假新闻的能力。以AI生成的新闻为例，一般具有以下特点：语言表达准确，没有个人情感，缺乏人类的情感表达能力，缺少主观性。文章语言流畅，语法结构正确，没有语病和错别字，但可能会显得过于机械和呆板。可能会存在一些逻辑错误或不连贯的地方。

长期而言，我们可能会发现：越来越多的优质内容都会被隐藏在特定平台或者“付费墙”（即需要付费才能查看），而免费、公开可以看到的媒体平台，则会充斥各种内容农场或者AI大模型所生成的垃圾内容。“有用的互联网”（usefulInternet）时代，正在终结。互联网重新回到了各种信息孤岛互相隔离、收费访问的时代。

当然这还会带来另外一个问题：我们都知道，AI大语言模型是用数据样本训练的，其中大部分是互联网的网页。一旦各种网页都是AI自己生成的垃圾内容，那么就会出现所谓的“垃圾进、垃圾出”（garbagein,garbageout），大语言模型的输出质量也会螺旋式下降。

总体而言，科技进步，总是会带来各种各样的“附带伤害”。如何识别、克服这些问题，将考验我们的智慧。

本页网址：https://www.xinzhibang.net/article_detail-10821.html

寻求报道，请

关键词

分享至微信：

相关工具

Writecream AI Content Detector

Writecream推出的AI内容检测工具

CopyLeaks

AI内容检测和分级

GPTZero

超过百万人都在用的免费AI内容检测工具

Originality.AI

原创度和AI内容检测

AI Content Detector

Writer推出的AI内容检测工具

Smodin AI Content Detector

多语种AI内容检测工具

微软宣布PowerPointLive全面上线，观众可自主浏览幻灯片

微软宣布PowerPointLive全面上线，观众可自主浏览幻灯片今年早些时候，微软宣布了PowerPoint、Word和Excel的全新AI体验。现在，据Microsoft365博客上发表的新帖，PowerPoint的“动态演示”（LivePresentation）功能已全面上线。通过PowerP

分类标签 PowerPointLive观众浏览人工智能

11-21 10:09

科大讯飞发布K12适龄同步学标准，推出AI翻译笔P20系列

科大讯飞发布K12适龄同步学标准，推出AI翻译笔P20系列2022年6月23日，科大讯飞新款AI翻译笔P20系列发布会召开，科大讯飞副总裁章继东先生、上海外国语大学高级翻译学院孙海琴老师、华东师范大学心理与认知科学学院庞维国老师等出席发布会，从生理、心理、思维等多方面，探讨了当下儿童英语学习现状及未

分类标签科大讯飞K12AI翻译笔P20

11-08 00:08

5款人工智能工具推荐

多米智多米智是一款智能写作小程序，通过输入关键词或标题，自动生成内容丰富、条理清晰的文章。对于写作困难的人来说，这是一个非常有用的工具。用户可以根据自己的需求和喜好进行选择，并及时调整内容，最终形成一篇完整且高质量的文章。BeautifulAIBeautifulAI是一款PPT制作工具，用户只需要选

分类标签多米智BeautifulAIARC实验室智影歌曲生成器

11-06 10:13

我所了解的机器视觉检测产品应用

我所了解的机器视觉检测产品应用随着科技的发展，机器视觉产品也有了新的变化，下面是笔者整理分享的关于机器视觉检测产品的相关内容，想要了解机器视觉产品应用的同学，一起接着往下看看吧！一、机器视觉检测产品在新能源汽车和电池制造应用 1. 机器视觉在新能源汽车和电池生产制造过程中的应用越来越广泛，主要包

分类标签机器视觉产品应用新能源汽车

11-01 08:05

AI2.0时代，内容型产品的增长之道

AI2.0时代，内容型产品的增长之道2023年9月9—10日，人人都是产品经理联合腾讯大讲堂举办的【2023产品经理大会（北京站）】完美落幕。字节跳动前业务增长负责人朱凯老师为我们带来《AI2.0时代，内容型产品的增长和变现之道》为题的分享，本文为演讲内容实录。目前大会回放已上架，戳此购买，即可收看

分类标签 AI内容型产品增长变现内容生产模式人工智能

11-01 08:04

Saladict（沙拉查词）——聚合多种翻译工具的页面划词翻译工具

Saladict（沙拉查词）——聚合多种翻译工具的页面划词翻译工具你喜欢用什么翻译工具？谷歌翻译？谷歌词典？必应词典？有道词典？还是剑桥词典？不要选了，全都要。使用Saladict。Saladict是一款聚合了几乎所有主流的翻译工具的页面划词翻译工具，通过划词，并行翻译，供你选择最合适的那个。它支持

分类标签 Saladict翻译工具页面划词

10-08 01:06

10款非常有用的Chrome插件推荐

Chrome插件推荐Chrome插件像一个个小帮手，帮我们提升效率，完成一些有价值的事情。其实有很多这样的优质实用插件，很多人并不知道它们的存在，下面就特意为大家整理10款非常有用的插件。哔哩哔哩助手B站扩展程序拥有视频区和直播区的人性化功能。它可以提供：视频下载和弹幕下载、视频画面截取、推送管理和

分类标签 Chrome插件实用工具网页截图音乐识别网页翻译Markdown编辑器流量统计屏幕录制壁纸更换视频下载

10-08 01:04

商汤科技展示以大装置赋能大模型的最新实践成果

6月2日，商汤科技展示了多项以大装置赋能大模型的最新实践成果，包括气象预测、自动驾驶、遥感、游戏以及大语言模型等众多领域，并与中国信息通信研究院联合预发布《新型AI智算基础设施白皮书》，将从多个层面解析新型AI基础设施的发展特征和建设需求，以适应生产范式的重大转变，支撑AI发展进入2.0阶段。商汤大

分类标签商汤科技大装置大模型AI智算基础设施SenseCore

09-24 10:18

商汤发布2023年中期财报，生成式AI相关收入同比增长670.4%

商汤发布了2023年中期财报，生成式AI相关收入同比增长670.4%，智慧商业板块表现突出，实现收入8.54亿元，同比增长50.2%，占集团总收入比重从40.2%上升至59.5%。这表明商汤已经成为了大模型行业的领先者之一。商汤自2018年起便致力于AI大模型的研发，有着超过5年的技术积淀和实践经验

分类标签商汤大模型生成式AI智慧商业智慧生活闭源模型

09-24 10:16

AI测试的迷思及其现状

AI测试的迷思及其现状近年来，我一直关注AI相关的测试，并积极参与多个全国性测试社区和社群。在这些社区中，我与不同公司和领域的测试专家交流探讨AI测试相关话题，包括业界顶尖公司的专家和国内知名测试学者。我也参加了多个大会，聆听了许多关于AI测试的主题分享，并尝试了多款AI相关的测试工具，从中获得了许

分类标签 AI测试自动化测试测试工具

09-18 19:38

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway