警企合作 腾讯上线救助自杀人群绿色生命通道

李华清2019-01-21 22:49

(图片来源:全景图片)

经济观察网 记者 李华清 1月21日,腾讯微光行动联合团队和深圳市公安局在深圳召开合作构建绿色生命通道发布会,该绿色生命通道主要为了及时发现和救助有自杀、自残倾向的人群。

腾讯微光行动团队成立的时间只有半年多,腾讯公司安全策略专家、微光行动团队协调人何欣介绍,该团队成立的初衷源于2018年6月的一个悲剧:3名年轻人在QQ群上相约到武汉自杀身亡,其中一名年轻人的父亲悲痛万分,责问为何在Q群上聊了那么久,腾讯也不知道?

“腾讯真的不知道,腾讯也不能知道。”何欣表示,保护用户隐私是腾讯的底线,腾讯不能通过聊天记录而察觉用户有自杀或自残的计划,但此事在腾讯内部引起反响,腾讯内网上有员工提出,腾讯作为一家有影响力的互联网企业,是否可以做得更多?微光行动团队应运而生。

早在2017年,腾讯就组建了专门的团队加强对有害信息及群组的处理打击。2017年4月,QQ上线了“诱导自杀自残”专属举报标签,提升举报的响应效率,境外传入的蓝鲸自杀游戏、MOMO自杀游戏的信息在QQ上被大力打击。但腾讯团队同时发现,即使阻断了诱导自杀自残的信息在线上的传播,依然无法阻止自杀自残行为的发生,及时防控和疏导自杀自残行为,需要政府、专业心理咨询机构等多方的力量。

2018年7月起,腾讯联合深圳网警、北京心理危机研究与干预中心,开始线上线下救助有自杀自残倾向的用户。若QQ用户发现Q群成员有自杀自残行为,可以直接点击举报,选择举报理由为发布色情/违法等不良信息中的“自杀自残”选项,并上传相关描述,腾讯接报后将线索提供给警方,警方线下找到该用户进行劝阻。

腾讯公司高级工程师刘孙云介绍,腾讯每天接到大量的举报,有些用户通过“自杀自残”举报提供上来的线索与自杀自残无关,而通过其他选项提交上来的举报却有可能与自杀自残有关。如何在海量的信息中快速找到需要救助的对象?腾讯启用了AI技术,AI模型标记高危举报数据,人工核实,若为诱导自杀自残,进行封号等打击处理,若为有自杀自残行为倾向,则上报警方,腾讯已建立7*24小时的人工审核机制。

目前,QQ平台也上线了疏导帮助页面,用户在QQ上搜索“自杀”“自残”等词语,会出现包括心理咨询热线、自我调节心情以及如何帮助有自杀自残倾向的人群等信息。

据腾讯方面统计,自微光行动启动以来,腾讯封停QQ群组帐号2000多个,和警方一起救助了35名有自杀自残倾向的用户。

据腾讯控股(0700.HK)第三季度报告,QQ的月活跃用户超过8亿,而微信及WeChat的月活跃用户超过10亿。目前,微光行动尚未覆盖到微信群。腾讯方面向经济观察网记者表示:“微光行动选择在QQ上首推是因为之前蓝鲸自杀游戏在QQ上流传,微信上此类信息相对较少,QQ用户的年龄更小,青少年心理更为脆弱且容易受不良信息的诱导。” 

版权声明:以上内容为《经济观察报》社原创作品,版权归《经济观察报》社所有。未经《经济观察报》社授权,严禁转载或镜像,否则将依法追究相关行为主体的法律责任。版权合作请致电:【010-60910566-1260】。
广州采访部记者
关注华南地区龙头企业,重点关注制造、教育、科技、文娱行业。