最近写了个 ai 绘画小程序，有一些 sd 模型可以出涩图，我该如何检测呢？之前用了一个敏感词检测 API ，但是这 API 太“敏感”了，比如中国，鸡这样的字眼都会报存在敏感词。 或者是说只需在反向提示词那里做限制就可以了？
This topic created in 1197 days ago, the information mentioned may be changed or developed.
 |
estkJul 30, 2023
1
百度 AI 的敏感词和图片审核水平还不错，可能是经过了贴吧的摧残而提高的
|
 |
chenjia404Jul 30, 2023
2
肯定要啊，不然出现黄图，轻则喝茶，重则进去。
|
 |
systemcallJul 30, 2023 via Android
3
建议直接买个大厂的检测服务
没什么大范围传播的话，出黄图一般也不会进去多久，但是要是出现了小熊维尼的图的话，搞不好直接蒸发了 |
 |
whileFalseJul 30, 2023 via Android
4
直接检测生成的图
|
 |
IDAEngineJul 30, 2023
5
直接检测 prompt ，屏蔽掉所有敏感字，只允许输入中文绘画
|
 |
letitbesqzrJul 31, 2023
6
很多云厂家都有图片鉴黄服务，把生成好的图片先给这些服务过一遍，没问题再展示。
|
 |
panxiJul 31, 2023
7
兄弟，这么跟你说吧，出了敏感问题跟阿里腾讯华为这样的公司还能谈，罚酒三杯了事。对你， 对接的就是国家暴力机器
|
Select Language