微软推出全新服务AzureAIContentSafety内容安全,可跨应用程序和服务检测和过滤有害的AI和用户生成的内容

新知榜官方账号

2023-10-20 03:02:15

微软推出全新服务AzureAIContentSafety内容安全,可跨应用程序和服务检测和过滤有害的AI和用户生成的内容

10月19日消息,微软宣布全面推出AzureAIContentSafety内容安全,这是一项新服务,可帮助用户跨应用程序和服务检测和过滤有害的AI和用户生成的内容。

该服务包括文本和图像检测功能,可以识别微软所称的「冒犯、风险或不受欢迎」的内容,包括亵渎、成人内容、血腥暴力和某些类型的言论。

「通过关注内容安全,我们可以创建一个更安全的数字环境,促进AI的负责任使用,并保护个人和整个社会的福祉,」AzureAnomalyDetector产品经理LouiseHan在一篇博文中宣布了该服务的推出。

AzureAIContentSafety具备处理各种内容类别、语言和威胁的能力,可以对文本和视觉内容进行审查和调节。它还提供了使用AI算法扫描、分析和调节视觉内容的图像功能,确保了微软所称的360度全面的安全措施。

该服务还可以在多种语言中进行内容审查,并使用严重性指标来评估特定内容的严重程度,该指标的范围从0到7。0-1级的内容被认为是安全且适合所有受众的,而表达偏见、带有评判性或有意见的内容被评为2-3级,即低级别。中等严重性的内容被评为4-5级,其中包含冒犯、侮辱、嘲笑、恐吓语言或针对身份群体的明确攻击,而高严重性的内容被评为6-7级,其中包含有害行为的宣传、支持或美化对身份群体的极端有害活动。

AzureAIContentSafety还使用多类别过滤器来识别和分类多个关键领域的有害内容,包括仇恨、暴力、自残和性内容。

「[在网络安全方面],不仅需要考虑人类生成的内容,尤其是随着AI生成的内容变得普遍,确保AI生成的输出材料的准确性、可靠性和无害或不适当的材料至关重要。内容安全不仅保护用户免受错误信息和潜在危害,还维护了伦理标准,并建立了对AI技术的信任,」Han写道。

AzureAIContentSafety的定价基于按需付费。有兴趣的用户可以在AzureAIContentSafety定价页面(https://azure.microsoft.com/en-us/pricing/details/cognitive-services/content-safety/)上查看定价选项。

本页网址:https://www.xinzhibang.net/article_detail-17349.html

寻求报道,请 点击这里 微信扫码咨询

关键词

微软 AzureAIContentSafety 内容安全

分享至微信: 微信扫码阅读

相关工具

相关文章