新知榜官方账号
2023-10-20 03:02:15
10月19日消息,微软宣布全面推出AzureAIContentSafety内容安全,这是一项新服务,可帮助用户跨应用程序和服务检测和过滤有害的AI和用户生成的内容。
该服务包括文本和图像检测功能,可以识别微软所称的「冒犯、风险或不受欢迎」的内容,包括亵渎、成人内容、血腥暴力和某些类型的言论。
「通过关注内容安全,我们可以创建一个更安全的数字环境,促进AI的负责任使用,并保护个人和整个社会的福祉,」AzureAnomalyDetector产品经理LouiseHan在一篇博文中宣布了该服务的推出。
AzureAIContentSafety具备处理各种内容类别、语言和威胁的能力,可以对文本和视觉内容进行审查和调节。它还提供了使用AI算法扫描、分析和调节视觉内容的图像功能,确保了微软所称的360度全面的安全措施。
该服务还可以在多种语言中进行内容审查,并使用严重性指标来评估特定内容的严重程度,该指标的范围从0到7。0-1级的内容被认为是安全且适合所有受众的,而表达偏见、带有评判性或有意见的内容被评为2-3级,即低级别。中等严重性的内容被评为4-5级,其中包含冒犯、侮辱、嘲笑、恐吓语言或针对身份群体的明确攻击,而高严重性的内容被评为6-7级,其中包含有害行为的宣传、支持或美化对身份群体的极端有害活动。
AzureAIContentSafety还使用多类别过滤器来识别和分类多个关键领域的有害内容,包括仇恨、暴力、自残和性内容。
「[在网络安全方面],不仅需要考虑人类生成的内容,尤其是随着AI生成的内容变得普遍,确保AI生成的输出材料的准确性、可靠性和无害或不适当的材料至关重要。内容安全不仅保护用户免受错误信息和潜在危害,还维护了伦理标准,并建立了对AI技术的信任,」Han写道。
AzureAIContentSafety的定价基于按需付费。有兴趣的用户可以在AzureAIContentSafety定价页面(https://azure.microsoft.com/en-us/pricing/details/cognitive-services/content-safety/)上查看定价选项。
相关工具
相关文章
推荐
幻舟 AI:动画创作领域的革新力量
2024-12-27 16:06
幻舟 AI:开启纪录片创作新征程
2024-12-27 16:03
幻舟 AI:教育短视频创作的得力助手
2024-12-27 15:59
幻舟 AI:影视创作多领域的创新利器
2024-12-27 15:55
幻舟 AI:影视创作多领域的创新利器
2024-12-27 15:51
幻舟 AI:影视创作的变革引擎
2024-12-27 15:45
中国首款3A游戏上线,《黑神话:悟空》出圈!
2024-08-21 13:46
盘点15款AI配音工具,短视频配音有救了!
2024-08-12 17:11
短视频文案没创意?10大AI写作工具来帮你!
2024-08-05 16:23
Midjourney发布V6.1版本,我已分不清AI和现实了!
2024-08-01 15:03