找回密码
 立即注册

抖音又有大动作:保护超过3000万人……

#视频直播# 2023-12-14 09:07 59人围观 视频直播

你可能很难想象,一个网络诈骗团伙要比一家科技公司还专业。
有部门负责拉新、新媒体账号运营;有人负责技术、产品开发;有团队负责研究人性弱点,针对性地设局;还有人负责资金转移......
他们分工明确,业务之专业,掌握的“骚操作”之多,丝毫不逊色于一家成熟的科技公司。
正因为这群犯罪团伙的“专业”,每年数以亿计的网民陷入诈骗风险,让互联网巨头们不得不花费巨量时间、精力与其“斗智斗勇”。

01 每年1.8亿网友遭遇诈骗风险
我们先来看一个诈骗案例:
留下一封遗书后,陈川(化名)准备跳江自杀。
陈川家境贫穷,父母皆务农,工作一年存了 3 万块钱,本来准备将家里装修一番。
结果意外被骗,不仅存款全军覆没,他还摊上 6 万多的贷款。
几天前,陈川接到一个外地电话,对方自称某金融平台客服。“客服”说,陈川曾在该平台注册账户,有一定贷款额度。现响应国家政策,需要注销所有学生的贷款账户,否则将严重影响征信。 
接着,对方还准确地报出了他的姓名、身份证号和家庭住址,这让陈川相信了对方的身份,并一步步陷入诈骗团伙设下的圈套。 
在对方的误导和诱骗下,陈川共在四个不同的金融平台借款 62600 元,同时将 32259 元存款一并转给了对方。
当意识到被骗时,陈川感到绝望,冲动下写下遗书准备自杀,好在民警及时赶到,挽救了一条生命。
这不是网络故事,而是澎湃新闻曾报道过的一起真实案件。
这样的案件并非个例。根据公安部数据,仅 2022 年 1 月-11 月期间,全国破获电信网络诈骗案件 39.1 万起。 
即便网络反诈力度在不断升级,互联网世界依然存在着大量诈骗现象。
第 50 次《中国互联网络发展状况统计报告》显示,2022 年 6月,17.8% 的网民表示在上网过程中遭遇过网络诈骗。以全国 10.51 亿网民计算,超过 1.86 亿网民都曾遇到过网络诈骗。

图源:第50次《中国互联网络发展状况统计报告》

很多普通人的正常生活深受网络诈骗影响,甚至被摧毁。
2022 年初,一名曾宣称不相信网恋的女性在网友“真名天子”的甜言蜜语下失去了防备。
诈骗分子使用假照片、假身份与其交流,声称自己有一个高利润的项目,引诱用户以未婚妻的名义投资了 500 万元。在聊天提及汇款之时,刚刚上线的抖音反诈产品抖音小安 7 天内 116 次提醒用户确认对方身份,谨慎投资。然而这位女性用户并未理睬警示。
后来,抖音安全团队报了警,在汇款前当地民警又打电话提示她谨防诈骗,可用户深陷其中,没有理睬平台和民警的提醒,直到汇款后再也联系不上骗子,她才幡然醒悟。 
她的原话是:“诈骗者的文字是有灵魂的,他是用灵魂在和我交流。”
事后,在抖音人工外呼的安慰下,她才慢慢从诈骗案件中走出来,表示以后会更加注意抖音和警方的安全提示。
时代的一粒灰,落在个人头上就是一座山。庞大的被骗数据背后是一个个受害者的悲惨遭遇,每一个诈骗事故的出现都可能伴随着一个家庭的悲剧。 

02 一个短视频平台的反诈使命 
有人形容网络诈骗团伙,就像“互联网鬣狗”,哪里有流量,哪里就有他们的身影。
他们每天不停地搜寻着各互联网平台的漏洞,看到一个漏洞,就盯着咬个不停。 
短视频作为近年高速崛起的流量平台,正是这群鬣狗眼中可口的“肥肉”。他们在这里建联、取得信任,然后再把用户引流到第三方社交平台实施诈骗(根据抖音公开的数据,90% 诈骗分子会将诈骗转移至第三方平台)。上文提到的女网友,就是最初在短视频平台被骗。
换个角度,短视频已经成为主流网络应用场景,头部平台们应该如何承担起反诈的责任和使命?如果他们能在源头截住犯罪分子,相关的诈骗案件是否就会大幅减少?
以抖音为例,作为头部短视频平台,他们其实很早就意识到反诈工作的必要性。他们有一支“人工+ AI ”的团队,专门治理诈骗。
抖音的反诈逻辑之一是根据已知诈骗形式和内容,主动治理有诈骗嫌疑的账号、行为、内容和团伙。
具体包括依据诈骗案例建立大数据库,构建反诈模型、重点用户画像、重点治理板块,通过提前识别,加强治理,线下联合打击在诈骗的前中后期实施反诈措施。 更直白地说,抖音构建了一个个持续更新的反诈模型,将诈骗账号的常见行为、语言、特点组建成模型,但凡有账号与模型高度重合,系统就会重点关注,若发现异常行为就会立即报警,随后研判处置。 
举个简单的例子,情感诈骗嫌疑犯常常会把自己塑造为“寂寞的高富帅”人设,并且会频繁且大量地主动“勾搭”成年女性用户,聊天内容也多涉及炒股、创业、资金等话题。如果一个新账号出现以上特点且多个关键词重合,就可能命中反诈模型,被系统重点关注。
数据显示,运用数据库和 AI 模型后,抖音反诈骗成果显著。
2022 年,抖音日均拦截风险登录次数 3.15 亿次,对诈骗行为的提前拦截率为 96.72% ,防欺诈策略拦截日均保护人数 90 万+,全年处置了涉诈广告主 3000+,打击诈骗团伙 135 个,协助警方抓获嫌疑人 803 人。即便拦截率高达 96.72%,但诈骗依然难以根治。抖音反诈项目组成员李双(化名)向运营社分享过反诈工作的无奈:
通过上述技术,抖音已经能识别并拦截大部分诈骗信息和行为,但治理做得再好也避免不了仍有用户被骗。
2022 年 6 月,浙江绍兴发生了一起“杀猪盘”诈骗,涉案金额 1700 万元。事前,抖音以文字、视频、人工电话等形式提醒了对方 13 次,也没有起到劝诫作用。 “有时候你甚至会眼睁睁地看着对方被骗,即便你苦口婆心地劝解、警告对方不要转账,也还是会有悲剧发生。”
为什么短视频平台反诈这么困难?受害者为什么宁愿听骗子的假话也不愿相信忠告?
1)诈骗团伙高度专业化,诈骗分子受过专业训练

诈骗团队的专业程度超过普通人的想象。李双曾联合警方抓捕过一个数十人的诈骗团伙,其分工十分明确,成员受过一系列训练,专业程度极高。
这个团伙,有专人建号养号,从事运营工作,业务细致到引流、建群、收集物料;有团队从事技术工作,研发软件、建网站,还有人专门与各平台安全人员对抗,研究平台的漏洞。
具体到实施诈骗又是另一波人,他们专门与受害者聊天,研究受害者的弱点,有针对性地设计剧本、编排诈骗环节;还有些人则专门从事收款、资金转移和业务培训,俨然一家架构齐全的科技公司。
除此之外,诈骗团伙在诈骗技术、内容、形式上也几乎做到“与时俱进”。
据中国信通院公布的数据,仅 2022 年 1 月-10 月期间,全网就出现了 260 余种新诈骗手法。且开始呈现接触周期长、诈骗环节多,多手法叠加、跨平台实施等特点,这也进一步加大了平台的反诈难度。
 2)短视频平台处于诈骗链条早期,反诈局限性强

抖音上每天都会更新数以亿计的内容,从中寻找、发现、确认诈骗行为与风险属于海量工作,需要平台投入大量的时间与精力。
此外,短视频中的诈骗行为通常发生在私信、群聊等私密场景,平台一方面需要治理诈骗,另一方面需要保护用户的隐私,反诈工作变得更加复杂。
更为关键的是,短视频平台在整个诈骗链路中处于早期阶段,诈骗团伙往往不会直接在抖音行骗,超 90% 的诈骗团伙会将受害者引流到第三方平台后再行骗,这些诈骗团伙通常会在抖音伪装成普通用户,想要揭穿他们的假面目并不容易。
以上几点让抖音反诈团队异常苦恼,他们也越发意识到诈骗团伙的“专业性”和对用户的危害。
“越了解就越明白反诈工作的必要性,破坏一场诈骗就有可能拯救一个受害者。”目前,抖音已有一支人数众多的团队专攻反诈业务,他们每天的工作就是与犯罪分子斗智斗勇。 

03  抖音小安的诞生:治理之外的另一个选择
再来看一个案例:
某个午后,小学生小李独自在家,突然收到父母将被起诉的消息,只有帮父母缴纳 1 万元保证金才可以撤销起诉,否则父母有被抓捕的风险。小李担心父母安危,偷偷完成转账,父母回家后才发现是骗局。
这是 2021 年年初发生的一个诈骗案件,类似的案件还有很多,但这个案件触动了抖音反诈团队。
在小李被骗的过程中,如果有更多即时的提醒和提示,是否就能及时阻止转账?
如果重点提醒、关注未成年儿童,是否可以防止小李被骗?这两个问题萦绕在团队心中,他们也渐渐意识到想要更全面地反诈,只做平台治理还远远不够。
2022 年 1 月抖音试运营了一款反诈产品——抖音小安。抖音提出了一个反诈的新方向:用户提醒。
具体而言,用户提醒强调与用户的交互,补全了过去一些难以触及的反诈场景,让反诈链条实现了更完整的闭环。
上文提到平台治理的核心是通过技术手段发现、监测、封禁诈骗账号。用户提醒则是在此基础上,构建了重点保护用户画像(老年人、宝妈、大学生等),通过一些强感知的智能交互手段去提醒用户进行自我保护,引导用户规避风险,提升用户安全感知,与平台共治。
更直白一点,就是当用户遇到或者疑似遇到诈骗分子时,抖音希望能够以文字、图片、视频等形式即时发出提醒。
比如有用户在群聊中频繁地加好友,并对其中一个好友实施了诈骗,抖音小安就会提醒其他用户该账号涉及诈骗风险,需要谨慎结交,规避转账行为。

事实上,这类提醒不只是简单的弹窗,而是根据用户可能面临的风险等级,通过底层识别、机器干预、人机互动、人工阻断四个步骤去防止用户上当受骗。
举个简单的案例,小王通过抖音认识了老张。老张因为涉及诈骗被举报,抖音小安监测到小王和老张有过频繁的联系。这时候抖音小安就会主动提醒,告诉小王“老张有诈骗嫌疑,请谨慎交友”。同时也会通过问卷,调查小王和老张是否是现实生活中的熟人、两人是否有财务上的往来等
如果抖音小安发现其中存在异常,则会进一步提高预警程度,通过外呼、人工客服,甚至联系当地民警,一同向小王发出劝诫。
抖音反诈团队成员李双解释:
“过去,我们最重视的是如何去打压诈骗分子,困住他们”。抖音小安的出现,则让我们重视起与用户的交互,从提示、教育上避免诈骗行为发生。如今,抖音小安已经试运行一年,并取得了不错的成绩。
2022 年,抖音小安劝阻诈骗被害人数超 5 万,有效保护用户 3316 万,人工服务时长超过 8000 小时。
抖音小安也渐渐把反诈的经验带入其他网络安全领域,向预防治理网暴、不实信息,心理关怀、防拐等方向延展,他们最终的目标是“抖音安全找小安”。

04 结语
2 月 21 日,试运营一年的抖音小安宣布正式上线并投入运营,代表着短视频平台反诈开始“两手抓”、“两条腿走路”。
但随着反诈技术、手段的升级,诈骗方式其实也在同步“更新”。运营社认为,要想全面治理诈骗,单靠一个平台的努力还不够。在互联网日益多元化的今天,一定要多平台联动,实现共同治理,共建一个更安全的互联网环境。