10月20日消息，据外媒报道，微软宣布正式推出Azure AI Content Safety，这是一项新服务，可以帮助用户在应用程序和服务中检测和过滤有害的人工智能和用户生成的内容。
该服务包括文本和图像检测，并识别微软所说的“冒犯、危险或不受欢迎”的内容，包括亵渎、血腥、暴力和某些类型的言论。
Azure Anomaly Detector产品经理Louise Han表示：“通过关注内容安全，我们可以创造一个更安全的数字环境，促进负责任地使用人工智能，保障个人和整个社会的福祉。”
Azure AI Content Safety能够处理各种内容类别、语言和威胁，以调节文本和视觉内容。它还提供了使用人工智能算法扫描、分析和调节视觉内容的图像功能，确保微软所说的360度全面安全措施。
该服务还配备了跨多种语言的内容调节功能，并使用严重性度量标准，在0到7的范围内提供特定内容的严重性指示。
0-1级的内容被认为是安全的，适合所有观众观看，而表达偏见、判断或固执己见的内容被评为2-3级或较低。
中等严重程度的内容被分级为4-5，包含攻击性，侮辱性，嘲弄，恐吓语言或对身份群体的明确攻击，而高严重程度的内容，包含有害和明确的促进有害行为，或支持或美化对身份群体的极端形式的有害活动，被分级为6-7。
此外，Azure AI Content Safety还使用多类别过滤来识别和分类一些关键领域的有害内容。
