反垃圾分析
2016-12-17 22:00:00 0 举报AI智能生成
反垃圾分析是一种通过识别和过滤垃圾邮件、恶意软件和其他有害内容的技术，以保护用户免受网络攻击和信息泄露的侵害。这种技术通常使用多种方法，如黑名单、白名单、关键词过滤和机器学习算法等，来自动识别和处理垃圾邮件和恶意内容。反垃圾分析可以帮助企业和个人提高网络安全意识，减少因误点击或泄露个人信息而导致的损失。同时，它还可以降低电子邮件服务器的负担，提高整体性能和可靠性。总之，反垃圾分析是一种有效的网络安全防护手段，对于维护网络空间的安全和稳定具有重要意义。
作者其他创作
大纲/内容
信息治理
业务场景
投诉相关
投诉类型
广告骚扰、色情低俗、政治敏感、欺诈骗钱、违法（暴力恐怖、违禁品等）
投诉业务
朋友--群聊投诉、朋友投诉等IM类投诉
圈子--评论投诉、内容举报、图片投诉等
到位--服务投诉、求助投诉、评论投诉等
蚂蚁森林等游戏类相关投诉
发布相关
发布渠道：圈子&生活圈（文字发布、图片/视频发布、评论发布等）、IM信息发布、
到位（服务&求助的发布、评论发布、IM发布）、游戏场景中的信息发布
到位（服务&求助的发布、评论发布、IM发布）、游戏场景中的信息发布
信息分类：黄反信息、外链信息、违禁限售品、不文明用语、负面言论、新广告法相关
账号相关
登录&注册
登录&注册名、账号、图像、签名等
账号运营
账户历史行为记录、IP解析、相似行为等
账号名单管理
禁言、雪藏等处罚措施的黑白名单管理
信息治理策略体系
信息处理策略
账户功能限制策略
禁言黑名单机制
白名单机制
垃圾信息处理策略
账户处理机制
did/IP处理机制
动态评论处理机制
人工审核策略
初审机制
对后命中策略的文本处理结果进行人工校验
复审机制
从账户信息/行为维度上升到账户维度的操作
信息命中策略
前置命中策略
前置文本过滤拦截
前置词库拦截策略
提炼准确率较高且危险系数较高的敏感词组成前置词库进行拦截
前置行为
历史行为前置作用策略
根据账户在此业务历史行为评分，对账户业务权限进行限制
行为频率策略
频率维度强规则，准确区分人机
后置命中策略
文本命中
贝叶斯算法策略
根据贝叶斯公式训练机器人对文本进行匹配命中
后置词库策略
根据事实现状以及各业务自身属性设置专属词库组匹配命中
行为命中
历史行为策略
userid、did、IP各维度联合判定
根据用户信用等级评分体系判定
禁言黑名单判定
文本相似度策略
行为频率策略
图像命中
图像算法策略
综合命中
综合评定策略
对于文本策略和图像策略评分都较低，但都未达到阈值的垃圾数据进行命中
举报命中
用户举报策略
spam分析策略
人工审核数据分析策略
业务人工审核数据分析机制
外包人工审核数据分析机制
复审人工审核数据分析机制
业务审核数据分析策略
各业务审核数据分析机制
业务方/客服反馈策略
规则策略在线上实际生效情况的用户反馈
整站架构
实时监测系统
行为反垃圾
频率监测、文本相似性监测
文本反垃圾
黑名单词库、
图像反垃圾
头像监测、内容图片监测、图片相似性监测
离线训练系统
分业务训练
定期更新训练结果集
管理配置系统
业务管理、服务管理、离线训练管理、权限管理、审核管理、配置管理、配置分发
人工审核系统
对系统已判定的可疑信息进行人工审核（普通、文本垃圾、图像垃圾、行为垃圾）
审计系统
以表格和图线形式展示统检测数据和人工审核数据，如命中率、误判率、漏判率等
监管管理
监管业务的系统化管理
实时监测系统
爬取政府网站相关的网站、公众号、微博等信息发布平台最新咨询，提升业务灵敏度
法规词库管理系统
政策法规录入
筛选出与平台相关的政策法规或通知公告
风险报告录入
根据政策法规的相关规定对平台业务进行风险评估形成的评估报告
风险词条录入
平台信息发布的敏感词库，及其法律依据、审核项、适用场景等
信息展示系统
对风险词条、政策法规、风险报告进行信息展示和查询
权限系统
查阅权限管理
监管业务的沟通管理
信息同步
响应和解读监管策略、规划并部署安全方案
协助监管机构对于内部政策的评审
向监管机构同步内部政策的风险评估报告
会议参与
参与相关会议，提升社交品牌在监管领域影响力
关系维护
提升对监管政策的响应速度，加强监管部门信任度
配合监管部门的政策落实和调研要求，并积极寻求合作机会
提升与监管和政府部门的人际关系和人情往来
资金风险
业务场景及规则
订单业务（到位服务）
反套现：社交类支付均禁止信用卡支付
反欺诈：单笔金额超过XX、累计金额超过XX、X天内累计支付次数、芝麻信用分X分
反钓鱼：发布者用户信息评分、芝麻信用分X分、历史含X次投诉举报等
打赏业务（圈子、生活圈）
反作弊：打赏频率、打赏金额、芝麻信用分X分等
IM资金业务（转账、红包卡券、活动收款、求赞助、江湖救急等）
整站架构&策略体系
风险数据服务（内网数据、第三方数据、算法模型服务）
支付风控技术后台
风险监测服务
规则服务
规则管理&配置中心
规则因子管理
时间维度
注册时间、绑卡时间、出资或融资时间等
订单维度
订单信息更改频率、订单金额、订单频率等
地理纬度
IP、手机号、身份证、银行卡等信息归属地分析
账户维度
账户信息风险评估、芝麻信用分等
金额维度
单笔金额、累计金额等
支付方式
支付宝&余额、储蓄卡、信用卡等
频率维度
出资频率、融资频率、登录频率、信息发布频率、人机识别等
设备维度
登录设备数量、关联设备数量等
风险策略管理
套现
与资金相关的套现业务场景所需的规则配置
盗卡
盗卡欺诈类业务场景所需的规则配置
作弊
到位服务的订单刷单、刷赞等作弊行为的规则配置
钓鱼
社交类信息或订单中含钓鱼欺诈的规则配置
盗账户
账户行为异常的规则配置
报表管理
规则触发统计
策略触发统计
权限管理
审理服务
资金风险管理平台
核查单管理体系
核查单列表管理
核查单信息详情
初审&复审
核查的案件管理（查询&创建）
名单管理体系
资金相关的黑名单（套现、盗卡、作弊、钓鱼等）
资金相关的白名单（套现、盗卡、作弊、钓鱼等）
处罚中心体系
用户处罚中心（登录限制、支付限制、下单限制、提现限制等）
赔付管理&账号管理等
其他
以下所述内容均为个人根据支付宝现有业务体系及个人风控从业经验臆想得出，小生拙见，姑妄言之，如有不符合实际之处，还望多多包涵。
0 条评论
下一页
