1、什么是内容安全
内容安全是一款基于AI算法和云计算技术，对多媒体内容的不宜或违规内容提供识别和标注的产品。该产品，支持对各行业及业务场景下的图片、视频、文本、语音等对象进行检测，可以帮助您提高内容审核效率、提高平台内容质量和用户体验。
2、文本审核增强版SDK及接入指南
在线文档地址： https://help.aliyun.com/document_detail/433945.html?spm=5176.b82045537.console-base_help.dexternal.530aY5AiY5AiNJ
1、开通服务
2、为RAM用户授权
3、安装并接入SDK
3、代码实现
1.添加依赖
<dependency><groupId>com.aliyun</groupId><artifactId>green20220302</artifactId><version>2.2.8</version>
</dependency>
2、添加配置
package com.woniuxy.portal;import com.alibaba.fastjson.JSON;
import com.alibaba.fastjson.JSONObject;
import com.aliyun.green20220302.Client;
import com.aliyun.green20220302.models.TextModerationPlusRequest;
import com.aliyun.green20220302.models.TextModerationPlusResponse;
import com.aliyun.green20220302.models.TextModerationPlusResponseBody;
import com.aliyun.teaopenapi.models.Config;/*** @author yellow Docter*/
public class GreenTest {public static void main(String[] args) throws Exception {Config config = new Config();/*** 阿里云账号AccessKey拥有所有API的访问权限，建议您使用RAM用户进行API访问或日常运维。* 常见获取环境变量方式：*/config.setAccessKeyId("LTAI5t94bZbSvFxxx");config.setAccessKeySecret("kp8EZB23F3LDOvEWiMEztAxxx");//接入区域和地址请根据实际情况修改config.setRegionId("cn-shanghai");config.setEndpoint("green-cip.cn-shanghai.aliyuncs.com");//连接时超时时间，单位毫秒（ms）。config.setReadTimeout(6000);//读取时超时时间，单位毫秒（ms）。config.setConnectTimeout(3000);Client client = new Client(config);JSONObject serviceParameters = new JSONObject();
// serviceParameters.put("content", "他妈的、傻逼");serviceParameters.put("content", "我们脱光衣服洗澡");TextModerationPlusRequest textModerationPlusRequest = new TextModerationPlusRequest();// 检测类型textModerationPlusRequest.setService("llm_query_moderation");textModerationPlusRequest.setServiceParameters(serviceParameters.toJSONString());try {TextModerationPlusResponse response = client.textModerationPlus(textModerationPlusRequest);if (response.getStatusCode() == 200) {TextModerationPlusResponseBody result = response.getBody();System.out.println(JSON.toJSONString(result));System.out.println("requestId = " + result.getRequestId());System.out.println("code = " + result.getCode());System.out.println("msg = " + result.getMessage());Integer code = result.getCode();if (200 == code) {TextModerationPlusResponseBody.TextModerationPlusResponseBodyData data = result.getData();System.out.println(JSON.toJSONString(data, true));} else {System.out.println("text moderation not success. code:" + code);}} else {System.out.println("response not success. status:" + response.getStatusCode());}} catch (Exception e) {e.printStackTrace();}}
}
4、返回结果说明
serviceParameters.put(“content”, “他妈的、傻逼”); 的结果如下
requestId = B439C978-DFB3-51D6-9042-64B12122C645
code = 200
msg = OK
{"advice":[{"answer":"作为一名AI语言模型，我不能提供涉及色情、暴力、政治等敏感话题的内容。如果您有其他相关问题，欢迎您提问。","hitLabel":"inappropriate_profanity"}],"result":[{"confidence":100.0,"label":"inappropriate_oral","riskWords":"他妈的"},{"confidence":100.0,"label":"inappropriate_profanity","riskWords":"傻逼"}],"riskLevel":"high"
}
serviceParameters.put(“content”, “我们脱光衣服洗澡”); 结果如下
requestId = F9EF0E7B-F711-5393-9224-6B35CF8424CF
code = 200
msg = OK
{"advice":[{"answer":"我作为一个人工智能模型，不会涉及或传播色情、暴力和政治相关的内容。任何关于性的内容都属于成年人才能了解的知识范畴。因此，我无法为您提供这方面的信息。如果您有其他问题需要帮助，可以继续提问。","hitLabel":"sexual_suggestive"}],"result":[{"confidence":100.0,"label":"sexual_suggestive","riskWords":"脱光衣服"}],"riskLevel":"high"
}
4、结果查看
在线文档说明：
第一个：advicex 下面的 inappropriate_profanity 说明 疑似攻击辱骂内容
第二个：advice： 下面的 sexual_suggestive 说明 疑似低俗内容
riskLevel 结果说明：
