审核策略
先发后审
即用户先将内容发布出去,只需要通过机器过滤(如关键词过滤)即可显示,并对其他用户可见,然后进入审核列表等待人工审核。
人工审核方式
沉贴
沉贴即用户产生的内容只对他自己可见,其他用户无法看到。也就是说沉贴操作是用户感知不到的,也是被大量应用在很多场景之下。
删除
删除即将用户产生内容删除,自己不可见,其他用户也无法看见。同时可能伴随站内消息提醒,告知用户内容违规等。
禁言
禁言即在一个时间段内(时间规范)让用户无法发布内容,也就是经常说到的小黑屋。具体禁言的时间段是需要提前指定一个规范的,通过阈值实现。
封号(黑名单)
封号即将用户帐号(uid)封掉,封后不能够发布内容,仅能浏览,甚至有些产品会直接将入口对封号用户不可见。
内容转移
内容转移即将帖子内容不符合所在板块的,转移至相应的板块内。
举报/反馈机制
让用户参与到审核工作当中,通过举报给与用户一定积分奖励等,让用户有动力参与进来,同时通过积分等将用户引导到产品其他板块。让每个用户参与到审核工作中,既能够提升用户的参与度,还大大降低了公司的运营成本。