Clarifai宣布推出端到端的AI审核解决方案

新知榜官方账号

2023-11-11 16:35:16

背景

将互联网上的色情、毒品、暴力和其它不适当的内容过滤并不是一件容易的事。Facebook在全球的内容审核员从2017年的4500名增长至现在的7500名。而且在今年4月份，谷歌YouTube表示，在去年的10月份到12月份之间，他们已经下架了超过800万个与其政策相违背的视频，其中20%的视频是由上千名员工组成的团队标记的。

Clarifai认为，AI能够帮助减轻工作负担。该公司今天宣布了一个端到端的审核解决方案，即使用了计算机视觉来分析用户生成的图片和视频，并且当检测到有攻击性或者不适当的内容时，会立刻对其进行标记。该解决方案将于本周发布公开测试版本。

解决方案

Clarifai的审核解决方案利用了公司现有的机器学习模型，通过一些预先配置的过滤器标签，如“明确性”、“建议性”、“暴力”、“毒品”、“NSFW”、“SFW”和自定义的标签来对比用户生成的内容。用户先将图片发送给Clarifai，然后该系统会将分析数据的方式进行可视化。经过分析的每条内容都会生成指示匹配可能性的概率分数。将AI应用到内容审核并不是一个新的概念。Microsoft Azure的Content Moderator（内容审核器）是一个自动的审核服务，结合了AI和人工审核来检测具有潜在攻击性的图片、文本和视频。Alibaba Cloud也有和Content Moderation相类似的产品，即使用了深度学习来寻找用户生成的图片和视频中的暴力、恐怖和钓鱼内容，Amazon也在其AI驱动的内容检测服务Rekognition中使用了深度学习技术。

不足之处及解决办法

在投入使用阶段，这些系统并不能保证万无一失。例如，Facebook算法就标记了包含性裸露的历史雕像图片，并自动删除了讽刺越南战争的图片。YouTube也在无意中将合法的广告标记为钓鱼信息。但是Clarifai表示他们正在采取措施来缓解潜在的问题。Web仪表盘提供的控制权限允许用户将内容认定和否定过程自动化，并且当内容无法达到具体的置信度阈值时，会为人工审核员提供完整的支持。

总结

Clarifai的审核解决方案利用了机器学习模型和计算机视觉来分析用户生成的图片和视频，当检测到有攻击性或者不适当的内容时，会立刻对其进行标记。该公司表示在图片和视频识别方面的准确率将高达99%。与审核解决方案一同发布的还有增强版的General Model，并且Moderation、Celebrity、Face Detection、Textures&Patterns、General Embedding和Faceb Embedding系统也将开放使用。

本页网址：https://www.xinzhibang.net/article_detail-19708.html

寻求报道，请

关键词

分享至微信：

相关工具

Writecream AI Content Detector

Writecream推出的AI内容检测工具

Winston AI

强大的AI内容检测解决方案

AI Content Detector

Writer推出的AI内容检测工具

Smodin AI Content Detector

多语种AI内容检测工具

GPTZero

超过百万人都在用的免费AI内容检测工具

Originality.AI

原创度和AI内容检测

未来速度完成数百万美元天使轮融资，旗下产品Xorbits将加速Python生态下大规模数据的处理

未来速度完成数百万美元天使轮融资，旗下产品Xorbits加速Python生态下大规模数据的处理未来速度成立于2022年，旗下产品Xorbits为分布式数据科学计算框架，旨在加速Python生态下大规模数据的处理。Python作为一门容易上手的编程语言，具有较高的开发效率，同时有Pandas、Nump

分类标签未来速度XorbitsPython分布式数据科学计算框架大规模数据处理并行计算

12-06 00:15

数字贸易与AI的碰撞：2023第二届全球数字贸易博览会在杭州开幕

数字贸易与AI的碰撞：2023第二届全球数字贸易博览会在杭州开幕数字经济发展让新时代的贸易不再单一。吃的水果，喝的乳品，“看得见”的商品通过跨境电商漂洋过海，出现在异国的餐桌；玩的游戏，听的音乐，“摸不着”的商品也能借助互联网翻山越岭，影响另一个国度的人。这也是AI的时代。今年以来，ChatGPT横

分类标签数字贸易AI全球数字贸易博览会

11-25 10:22

初识CRM

初识CRMCRM（Customer Relationship Management），即客户关系管理。是指企业通过对客户信息的收集、分析和运用，以提高客户满意度、保持客户忠诚度、增加销售和利润等目的的一种管理方式。CRM的主要功能包括客户信息管理、销售管理、市场营销管理和客户服务管理等。其中客户信息

分类标签 CRM客户关系管理市场

11-24 08:02

阿里版的ChatGPT语言大模型来了

阿里巴巴所有产品未来将接入“通义千问”大模型，进行全面改造。他认为，面向AI时代，所有产品都值得用大模型重新升级。现在，钉钉、天猫精灵等产品已接入通义千问测试，将在评估认证后正式发布新功能。生成式AI又可称为AIGC（ArtificialIntelligenceGeneratedContext，即可

分类标签阿里巴巴通义千问AI功能

11-13 18:10

互联网强国的意义及AI在互联网中的应用

互联网强国是指在互联网领域具有强大实力和影响力的国家。互联网强国可以从多个方面来理解：经济发展：互联网强国意味着该国在数字经济领域具有竞争力和创新能力，能够推动经济的快速发展。互联网技术的广泛应用和数字化转型可以促进各行各业的创新和提升效率，推动产业升级和经济结构优化。科技创新：互联网强国需要具备自

分类标签互联网强国经济发展科技创新

11-10 22:29

AI技术的五种新应用

AI技术的五种新应用人工智能作为一项迅速兴起的技术，在各个领域都引起了不小的轰动。不知从何时起，我们的生活、娱乐、生活的方方面面都有了AI的身影。在今年，这5个人工智能全新应用，或许应该被给予更多关注。AI检测COVID-19新冠病毒快速席卷全球，给世界带来了难以估量的损失。有研究人员根据现有的数据

分类标签人工智能COVID-19交通领域电话客服餐饮业

11-04 22:42

智能制造中的AOI瑕疵检测智能化发展

智能制造中的AOI瑕疵检测智能化发展从设备联网、可视化管理等的基础应用，进展到以AI达到生产设备预知维护保养等，智能制造应用现今可说是百花齐放，而产业端的实际需求，更是促进智慧应用成熟发展的动力。但同时，质量与良率仍然是目前国内制造业者最重视的议题。在此需求下，近期智能制造相关应用中最受广大讨论的则

分类标签智能制造AOI瑕疵检测AI技术

11-04 22:39

智能制造市场中最受讨论的瑕疵检测智能化发展

智能制造市场中最受讨论的瑕疵检测智能化发展从设备联网、可视化管理等的基础应用，进展到以AI达到生产设备预知维护保养等，智能制造应用现今可说是百花齐放，而产业端的实际需求，更是促进智慧应用成熟发展的动力。但同时，质量与良率仍然是目前国内制造业者最重视的议题。在此需求下，近期智能制造相关应用中最受广大讨

分类标签智能制造瑕疵检测AOI

11-04 22:39

Buzzfeed引入AI技术的测试栏目quizzes，旨在用新技术赚取更多利润

Buzzfeed引入AI技术的测试栏目quizzes，旨在用新技术赚取更多利润据报道，Buzzfeed发布了引入AI技术的测试栏目quizzes，旨在用新技术赚取更多利润。quizzes栏目有一系列测试问题，比如性格测试、兴趣爱好测试等等。现在quizzes多出一些问题，它引入了AI，比如其中一个与

分类标签 BuzzfeedAI技术quizzes

11-04 22:36

AzureAIContentSafety：一款基于人工智能的内容审核平台

AzureAIContentSafety：一款基于人工智能的内容审核平台在互联网时代，我们每天都在泛滥的信息海洋中航行。有些信息是有价值的，可以帮助我们获取知识和娱乐，但也有些信息是有害的，可能会对我们的心理健康和安全造成威胁。那么，如何有效地过滤和审核这些内容呢？传统的审核方法无疑存在一些问题，例

分类标签 AzureAIContentSafety内容审核平台人工智能

10-21 16:34

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway