Skip to content

自动识别敏感话题的机制 #109

@KYLN24

Description

@KYLN24

Is your feature request related to a problem? Please describe.
树洞内容审查完全依靠人工,难免出现极度敏感的内容处理不及时的问题。因此,需要引入自动化处理机制。

Describe the solution you'd like
在新内容被添加到数据库后,提交至审核器进行审核。审核器为命中的内容添加敏感效果。

敏感效果

处于敏感效果下的内容将直接隐藏,在前端提示“内容审核中”,并交由管理员审核。管理员审核通过后恢复显示,如不通过,则将前端提示修改为管理员的删除理由。

审核器

审核器可以是独立的进程。审核器对于敏感问题的识别灵敏度应当可以调节。

文字和图片均应进行审核,可以采用自然语言处理和图像识别相关算法,亦可调用第三方接口。如调用第三方接口,应当在隐私政策中注明。

考虑到服务器性能问题,待审核的内容应当排列在任务队列中依次审核,无需立即取得结果。暂未审核的内容可以在前端正常显示。

在审核完成前已被管理员处理的内容不应当继续进行自动审核流程。

Metadata

Metadata

Assignees

No one assigned

    Labels

    enhancementNew feature or requesthelp wantedExtra attention is needed

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions