您好,欢迎来到中国产经网!
当前位置: 首页 > 公司动态

与变异风险词赛跑,阿里探索AI治理网络风险 |

时间:2021-12-28 13:52|来源:|编辑: 网友评论

【北京】12月27日报道

最近,阿里安全一线风控小二可粒发现,在禁售的风险防控库里,有人试图“上新”新品种,不法份子借助在社交媒体上走红的“魔法改运”等说辞,引人入玄学骗局。

尽量提前发现风险问题,提早布防是阿里安全风控部门的日常工作。“但是,风险对抗是不断升级的,各类风险词不断变异试图躲避各家平台管控,如果单靠人力防控,只会是杯水车薪。”可粒说。

针对类似具有行业共性的风险治理难题,业界和学界推动以技术创新探索网络风险治理。今年中国中文信息学会语言与知识计算专业委员会主办了“CCKS 2021通用百科知识图谱实体类型推断”比赛,邀请国内283支队伍参赛。12月25日,比赛结果出炉,阿里安全升级包含封建迷信、软色情、野生动植物保护、血腥暴力等重难点风险治理域在内的AI技术获得第一名。

“CCKS 2021通用百科知识图谱实体类型推断”竞赛公布获奖情况

阿里安全高级风控专家杜衡介绍,阿里安全在平台部署了上述新升级的新一代安全架构核心AI能力,让AI对风险商品进行“联想”,以此对抗突发新增、变异的风险商品。此前阿里风控平台对多类风险商品出台了明确的管理规则,进行了禁售规范,今年绿网计划则针对相关风险词,上线了科普宣导。

虽然该AI技术在竞赛的公开数据集上获得了突出的成果,但据阿里安全反馈,技术应用在真实环境中遇到了更多难题。

阿里安全算法工程师科蓝解释,第一个难点是商家发现相关风险词被平台管控后,立马试图用新词代替,为了让AI的能力跟上变异的节奏,甚至提前布防,AI会基于风险防控经验以及公共新闻事件等,自动挖掘一些新词,并对这些词进行扩充解释,让AI系统理解这些词的真正含义和匹配的风险场景,最后候选风险词还要经过运营的人工校验。

“相当于你在跟一个不断易容、换衣服的人赛跑,他跑着跑着就换一层皮,你得找准对手,不停地往前跑。”科蓝说,目前依靠AI自动搜寻生产的非正常风险词汇,最终被人工运营审核后的采纳率为60%,逐步降低了人工寻找新风险词的成本,同时尽量提升覆盖更多风险区域的效率。

第二个难点是,除了风险词变异速度快,平台发现有些商家会以正常商品介绍的“外套”引导消费者到其他社交工具上进行沟通和成交。

“这种情况比较难以通过某种技术防控,一方面我们通过各种渠道向商家进行合规知识的宣导,一方面也希望互联网平台联合起来,针对此类风险共同探索合作治理机制。”杜衡说。

该AI目前升级覆盖到17个风险场景。阿里安全资深算法专家薛晖介绍,阿里安全在加大技术治理风险场景的投入,比如建立人工智能治理与可持续发展的新型实验室,与顶尖高校联合发起“安全AI挑战者计划”等项目,培养实战型AI人才。

“要强调的是,AI技术不是万能的,平台遇到各种风险变异与挑战也正说明,治理多类风险场景将是持续的博弈,但使用技术进行风险治理是其中一个发展方向,我们还在继续提升AI联想的准确率,希望依靠科技创新构建更清朗的平台环境,探索如何更好地解决大众遇到的网络安全风险问题。”薛晖说。

TAG
780*90 广告位
370宽 广告位
滚动播报
370宽 广告位
370宽 广告位
370宽 广告位

网站简介 - 网站声明 - 广告服务 - 合作伙伴 - 联系我们

商务合作 QQ:2713090406

未经本站书面特别授权,请勿转载或建立镜像

不良信息举报中心 网络110报警服务 中国互联网协会 经营性网站备案信息 中国文明网传播文明

Copyright © 2021 中国产经网 Twsp.net 版权所有,并保留所有权利 | Powered by twsp.net