内容安全闭环
2022-07-11 22:54:06 0 举报
描述内容安全运营闭环
作者其他创作
大纲/内容
无违规内容
内容安全平台接入申请
未识别到风险词
离线昵称聚合分析
内容安全平台流程图
配置检测策略
确信为广告(聚合值>10)
包含风险词
风控埋点
高频发言行为统计
自动处置
有违规内容
核心敏感词
链接/表情
易顿/阿里云(第三方)
其他审核...可扩展
校准后无违规内容
有存疑内容
用户
举报审核
包含链接/表情
结果校准
其他风控手段...可扩展
后台产品功能
内容&用户处置
否
符合高频规则
开始
白名单
高频发言用户内容审核
... ...
收到实时检测结果
是
高频发言用户
机器学习
创建app服务
是否高频
业务映射处理
存疑内容审核
收到异步审核结果
可疑微信号审核
不包含链接/表情
安全业务逻辑
风险词库
上线内容举报入口
不在白名单中
包含核心敏感词及其拼音变形
0 条评论
下一页