Your SlideShare is downloading. ×
0
腾 讯 大 讲 堂 第五十六期 研发管理部 大讲堂主页: http://km.oa.com/class 与讲师互动: http://km.oa.com/group/class
 
<ul><ul><li>QQ 空间产品中心 </li></ul></ul><ul><ul><li>PM : alanzhou </li></ul></ul><ul><ul><li>互联网运营部 </li></ul></ul><ul><ul><l...
<ul><ul><li>回顾历史 </li></ul></ul><ul><ul><li>安全系统大揭密 </li></ul></ul>分享
Qzone 的 安全工作 <ul><li>保证发表的日志内容健康 </li></ul><ul><li>日志评论及留言的内容不涉及色情、政治,也不是垃圾留言 </li></ul><ul><li>其它模块的内容保证(小纸条、用户昵称……) </li...
审核系统 <ul><ul><li>怎么都变成了 *** </li></ul></ul><ul><ul><li>老要审三天…… </li></ul></ul><ul><ul><li>发表日志真方便! </li></ul></ul>国际 ** 势力
日志差异化系统 <ul><ul><li>竞争对手恶意炒作…… </li></ul></ul><ul><ul><li>不用逛论坛我也能知道! </li></ul></ul>
垃圾留言打击系统 <ul><ul><li>中奖了?? </li></ul></ul><ul><ul><li>…… </li></ul></ul><ul><ul><li>清静许多了…… </li></ul></ul>
三大系统保驾护航 <ul><ul><li>欢迎主角 ~~~~ </li></ul></ul>
<ul><ul><li>回顾历史 </li></ul></ul><ul><ul><li>安全系统大揭密 </li></ul></ul><ul><ul><ul><li>日志差异化系统 </li></ul></ul></ul><ul><ul><ul...
QQ 空间信息安全整体方案  用户 数据 : 日志 + 留言板 旁路过滤 系统 过滤后的数据 安全中心 审核系统 经过审核后的数据 差异化访问系统 外网 举报平台 根据用户行为实施安全措施 阻止发帖 +   批量删除   根据访问量决定: 差异...
日志差异化访问系统——需求 ... 黑 / 白名单 用户的来源 / 身份不同,提供的服务不同 不同时期对于非法文章的判断标准不同 避免敏感文章被大量恶意传播 访问阀值 审核过期
日志差异化访问系统——系统结构 差异化 server 黑 / 白名单 访问量 审核过期时间 访问量阀值 用户访问 差异返回 日志存储 审核平台
日志差异化访问系统——策略 对于每篇日志设置一个 审核过期时间 ,避免超过阀值后重复发送审核平台 。 访问阀值 ,根据安全形势的严峻程度来调整。 白名单 :   qq.com,  paipai.com,  taotao.com, .tencen...
日志差异化访问系统——流程
日志差异化访问系统——效果 <ul><li>以 12 月 7 日数据为例,当天差异化入库 586 篇日志,有问题并被删除的日志为 34 篇,删除率达 5.8% ; </li></ul>
<ul><ul><li>回顾历史 </li></ul></ul><ul><ul><li>安全系统大揭密 </li></ul></ul><ul><ul><ul><li>日志差异化系统 </li></ul></ul></ul><ul><ul><ul...
验证码的烦恼—前世
验证码的烦恼—今生
Why ? <ul><li>挑战: </li></ul><ul><ul><li>为什么要使用验证码? </li></ul></ul><ul><ul><li>不用可以吗? </li></ul></ul><ul><ul><li>如何保护安全用户,打...
前因 例如 : 打击 Qzone 中的恶意诈骗消息
后果
应用场景 空间小纸条 留言板 日志 / 评论 个人资料
Qzone 上旁路系统的需求 自学习 对于新增的恶意信息能初步自我学习,避免过多的人工干预  全面保护 覆盖 Qzone 各个模块  高性能 / 低耦合  支持 Qzone 平台下高并发,同时不能影响用户使用的性能 高准确性  精确打击恶意用户...
系统架构 用户数据: 日志 留言板 相册 旁路分析模块 离线分析中心 外网 人工审核系统 全量转发 过滤后内容
Process 接入消息 <ul><li>留言板 </li></ul><ul><li>日志回复 </li></ul><ul><li>转载空间 </li></ul><ul><li>小纸条 </li></ul><ul><li>滔滔心情 </li><...
用户影响 <ul><li>普通用户 </li></ul><ul><li>踩踩族 </li></ul><ul><li>敌人 </li></ul>
问答时间
谢谢!
Upcoming SlideShare
Loading in...5
×

腾讯大讲堂:56 qzone安全之路

1,681

Published on

0 Comments
1 Like
Statistics
Notes
  • Be the first to comment

No Downloads
Views
Total Views
1,681
On Slideshare
0
From Embeds
0
Number of Embeds
0
Actions
Shares
0
Downloads
43
Comments
0
Likes
1
Embeds 0
No embeds

No notes for slide

Transcript of "腾讯大讲堂:56 qzone安全之路"

  1. 1. 腾 讯 大 讲 堂 第五十六期 研发管理部 大讲堂主页: http://km.oa.com/class 与讲师互动: http://km.oa.com/group/class
  2. 3. <ul><ul><li>QQ 空间产品中心 </li></ul></ul><ul><ul><li>PM : alanzhou </li></ul></ul><ul><ul><li>互联网运营部 </li></ul></ul><ul><ul><li>PM : bluezhou </li></ul></ul><ul><ul><li>QQ 空间产品中心 </li></ul></ul><ul><ul><li>PDM : cicichen </li></ul></ul><ul><ul><li>(以上以 abc 为顺序排名) </li></ul></ul>
  3. 4. <ul><ul><li>回顾历史 </li></ul></ul><ul><ul><li>安全系统大揭密 </li></ul></ul>分享
  4. 5. Qzone 的 安全工作 <ul><li>保证发表的日志内容健康 </li></ul><ul><li>日志评论及留言的内容不涉及色情、政治,也不是垃圾留言 </li></ul><ul><li>其它模块的内容保证(小纸条、用户昵称……) </li></ul>
  5. 6. 审核系统 <ul><ul><li>怎么都变成了 *** </li></ul></ul><ul><ul><li>老要审三天…… </li></ul></ul><ul><ul><li>发表日志真方便! </li></ul></ul>国际 ** 势力
  6. 7. 日志差异化系统 <ul><ul><li>竞争对手恶意炒作…… </li></ul></ul><ul><ul><li>不用逛论坛我也能知道! </li></ul></ul>
  7. 8. 垃圾留言打击系统 <ul><ul><li>中奖了?? </li></ul></ul><ul><ul><li>…… </li></ul></ul><ul><ul><li>清静许多了…… </li></ul></ul>
  8. 9. 三大系统保驾护航 <ul><ul><li>欢迎主角 ~~~~ </li></ul></ul>
  9. 10. <ul><ul><li>回顾历史 </li></ul></ul><ul><ul><li>安全系统大揭密 </li></ul></ul><ul><ul><ul><li>日志差异化系统 </li></ul></ul></ul><ul><ul><ul><li>垃圾留言打击旁路系统 </li></ul></ul></ul>分享
  10. 11. QQ 空间信息安全整体方案 用户 数据 : 日志 + 留言板 旁路过滤 系统 过滤后的数据 安全中心 审核系统 经过审核后的数据 差异化访问系统 外网 举报平台 根据用户行为实施安全措施 阻止发帖 + 批量删除 根据访问量决定: 差异化显示 + 重新入库审核 根据命中关键字分级审核 人工 + 机器
  11. 12. 日志差异化访问系统——需求 ... 黑 / 白名单 用户的来源 / 身份不同,提供的服务不同 不同时期对于非法文章的判断标准不同 避免敏感文章被大量恶意传播 访问阀值 审核过期
  12. 13. 日志差异化访问系统——系统结构 差异化 server 黑 / 白名单 访问量 审核过期时间 访问量阀值 用户访问 差异返回 日志存储 审核平台
  13. 14. 日志差异化访问系统——策略 对于每篇日志设置一个 审核过期时间 ,避免超过阀值后重复发送审核平台 。 访问阀值 ,根据安全形势的严峻程度来调整。 白名单 : qq.com, paipai.com, taotao.com, .tencent.com 黑名单 : sina.com.cn, .baidu.com, .google.com, .donews.com … 白名单来源权重为 1 ,黑名单权重为 100 ,其他来源为 10 1 2 3 4 5 分级可见( 后续实现 ): 主人可见 好友可见 特定白名单网站可见
  14. 15. 日志差异化访问系统——流程
  15. 16. 日志差异化访问系统——效果 <ul><li>以 12 月 7 日数据为例,当天差异化入库 586 篇日志,有问题并被删除的日志为 34 篇,删除率达 5.8% ; </li></ul>
  16. 17. <ul><ul><li>回顾历史 </li></ul></ul><ul><ul><li>安全系统大揭密 </li></ul></ul><ul><ul><ul><li>日志差异化系统 </li></ul></ul></ul><ul><ul><ul><li>垃圾留言打击旁路系统 </li></ul></ul></ul>分享
  17. 18. 验证码的烦恼—前世
  18. 19. 验证码的烦恼—今生
  19. 20. Why ? <ul><li>挑战: </li></ul><ul><ul><li>为什么要使用验证码? </li></ul></ul><ul><ul><li>不用可以吗? </li></ul></ul><ul><ul><li>如何保护安全用户,打击恶意行为? </li></ul></ul>
  20. 21. 前因 例如 : 打击 Qzone 中的恶意诈骗消息
  21. 22. 后果
  22. 23. 应用场景 空间小纸条 留言板 日志 / 评论 个人资料
  23. 24. Qzone 上旁路系统的需求 自学习 对于新增的恶意信息能初步自我学习,避免过多的人工干预 全面保护 覆盖 Qzone 各个模块 高性能 / 低耦合 支持 Qzone 平台下高并发,同时不能影响用户使用的性能 高准确性 精确打击恶意用户,对正常用户尽量影响最小    
  24. 25. 系统架构 用户数据: 日志 留言板 相册 旁路分析模块 离线分析中心 外网 人工审核系统 全量转发 过滤后内容
  25. 26. Process 接入消息 <ul><li>留言板 </li></ul><ul><li>日志回复 </li></ul><ul><li>转载空间 </li></ul><ul><li>小纸条 </li></ul><ul><li>滔滔心情 </li></ul><ul><li>相册评论 </li></ul><ul><li>Q 吧 </li></ul><ul><li>Qzone 投票 </li></ul><ul><li>校友 </li></ul><ul><li>QQ 交友 </li></ul>安全旁路引擎 预处理 关键字分析 消息样本 频率分析 行为模式分析 实时删除 命中删除 特殊地区 可疑信息识别 分析模块 用户信用度 行为分析
  26. 27. 用户影响 <ul><li>普通用户 </li></ul><ul><li>踩踩族 </li></ul><ul><li>敌人 </li></ul>
  27. 28. 问答时间
  28. 29. 谢谢!
  1. A particular slide catching your eye?

    Clipping is a handy way to collect important slides you want to go back to later.

×