对插件生成/提供的所有图像进行涩图过滤？

zacmerkl · 2023 年2 月 28 日 13:41

某些图片搜索/图片生成插件自己并没有涩图审查过滤功能，或是功能不完善，后端也没有相应的过滤机制（例如stable diffusion webui），导致无意或刻意被用于不恰当的方面。

我看到rr有一个过滤插件，但是只有rr画图能用，无法过滤其他插件生成的图像，我想知道有没有一个方法（或是不局限于Koishi平台的一个思路）来对所有或是指定插件生成/提供的所有图像进行内容过滤？

谢谢！

wochenlong · 2023 年2 月 28 日 15:24

顶一下

MirrorCY · 2023 年2 月 28 日 22:09

人人图像审核是一个通用的审核服务，完全允许其他插件像人人有图画插件一样调用审核，但是由于其他插件并未适配审核服务，所以他们暂时还无法使用此功能。

同时，Koishi 作为一个自由度很高的框架，你可以尝试创建一个新的插件实现你的需求，大概思路是在任何消息发送前，将图片分离出来过一遍人人审核，你可以通过监听以下事件实现。

随后使用以下方法分离图像

调用审核功能非常简单

github.com

MirrorCY/rryth/blob/01cd620d4699ca96f6f987cea79d1c7bdec268bf/src/index.ts#L97


      
              'EULA': 'This interface is intended ONLY for use with the Koishi-plugin-rryth.' +
                'The maintainer refuses any use other than the above methods.'
            },
            data: JSON.stringify(parameters),
          }
          const request = await ctx.http.axios('https://rryth.elchapo.cn:11000/v2', requestOptions)
          const result: Result = request.data
          
          
async function getContent() {
            const safeImg = config.censor
              ? h('censor', h('image', { url: result.images[0] }))
              : h('image', { url: result.images[0] })
            const attrs: Dict<any, string> = {
              userId: session.userId,
              nickname: session.author?.nickname || session.username,
            }
            if (config.output === 'minimal') {
              return safeImg
            }
            const output = h('figure')
            const lines = [`种子 = ${parameters.seed}`]

接下来根据返回的类型即可添加你需要的处理方式。

题外话：在这里你可以向 censor 服务提出一个功能请求，使其多返回一段服务自定义字段，用于根据审核分数（也就是图片有多涩）进行不同的处理，目前的 censor 服务受限还挺大的。