新知榜官方账号
2023-10-20 03:02:15
10月19日消息,微软宣布全面推出AzureAIContentSafety内容安全,这是一项新服务,可帮助用户跨应用程序和服务检测和过滤有害的AI和用户生成的内容。
该服务包括文本和图像检测功能,可以识别微软所称的「冒犯、风险或不受欢迎」的内容,包括亵渎、成人内容、血腥暴力和某些类型的言论。
「通过关注内容安全,我们可以创建一个更安全的数字环境,促进AI的负责任使用,并保护个人和整个社会的福祉,」AzureAnomalyDetector产品经理LouiseHan在一篇博文中宣布了该服务的推出。
AzureAIContentSafety具备处理各种内容类别、语言和威胁的能力,可以对文本和视觉内容进行审查和调节。它还提供了使用AI算法扫描、分析和调节视觉内容的图像功能,确保了微软所称的360度全面的安全措施。
该服务还可以在多种语言中进行内容审查,并使用严重性指标来评估特定内容的严重程度,该指标的范围从0到7。0-1级的内容被认为是安全且适合所有受众的,而表达偏见、带有评判性或有意见的内容被评为2-3级,即低级别。中等严重性的内容被评为4-5级,其中包含冒犯、侮辱、嘲笑、恐吓语言或针对身份群体的明确攻击,而高严重性的内容被评为6-7级,其中包含有害行为的宣传、支持或美化对身份群体的极端有害活动。
AzureAIContentSafety还使用多类别过滤器来识别和分类多个关键领域的有害内容,包括仇恨、暴力、自残和性内容。
「[在网络安全方面],不仅需要考虑人类生成的内容,尤其是随着AI生成的内容变得普遍,确保AI生成的输出材料的准确性、可靠性和无害或不适当的材料至关重要。内容安全不仅保护用户免受错误信息和潜在危害,还维护了伦理标准,并建立了对AI技术的信任,」Han写道。
AzureAIContentSafety的定价基于按需付费。有兴趣的用户可以在AzureAIContentSafety定价页面(https://azure.microsoft.com/en-us/pricing/details/cognitive-services/content-safety/)上查看定价选项。
相关工具
相关文章
推荐
用Deepseek写AI绘图提示词,像呼吸一样简单!
2025-02-19 16:12
你以为AI绘画是黑科技?其实早成了“路边摊生意”!
2025-02-19 10:15
Flux爆火,全网最全面最详细的Flux使用教程!
2025-02-18 14:19
用AI如何创作音乐,实战教学来啦!
2025-02-17 17:23
MidJourney让你秒变绘画大神,从零开始画哪吒!
2025-02-17 14:56
AI应用新境界:让人工智能成为你的得力助手
2025-02-14 15:45
AI短片革命:当创作遇上智能,人人都能成为导演
2025-02-14 14:53
AI狂潮下的人类职场:是失业危机还是进化契机?
2025-02-13 16:53
开启影视创作新纪元,效率提升 10 倍的神器来了!
2025-02-13 15:11
深度解析DeepSeek:当AI技术照进创作产业的未来
2025-02-12 17:16