近年来,网络空间治理成为全球关注的焦点。中央网信办也一直致力于通过“清朗”系列专项行动,全面整治网络生态中的突出问题。在此背景下,Soul APP创始人张璐团队积极响应国家号召,深入开展网络生态治理,而其近期发布的《2024年第二季度Soul生态安全报告》显示,Soul在诈骗治理、未成年保护、完善社交礼仪体系、网络暴力治理等方面取得了不错成绩。
在反诈方面,Soul通过引入多种风险提醒方式,如锁定对话框、对话框横栏强提醒以及客服电话强提醒等,进行“易感人群潜在风险”“嫌疑用户高危风险”和“已发生风险”梯度提醒。同时,Soul通过建设黑产声纹黑库和ASR服务,将黑产用户的识别工作前置至犯罪行为发生前,不仅可以帮助遏制黑灰产的扩散,还能通过向地方司法机关提供线索,反向打击黑灰产业。此外,Soul还推出了网乞文本识别模型和假人像图片识别功能,针对不良炫富风气等恶意行为的日均有效管控量高达2万帖。
在未成年人保护方面,Soul构建了全面的未成年人保护体系,包括身份认证、年龄识别、防沉迷系统等多个方面。第二季度,Soul进一步迭代未成年识别模型,当前策略识别假成年人贡献率高达98.0%,平台还对低龄未成年用户进行了强制注销,优化青少年模式的功能设置,尽自身最大努力保障未成年人在网络空间中的健康成长。
在社交礼仪体系的建设上,Soul致力于打造文明友善的社交环境。平台引入了多模态模型识别技术,针对图文帖内容进行深入学习,加强违规内容识别能力,还通过设备加黑处理、优化广场内容等手段,打击了劣质内容的传播,促使整体社交生态向健康方向发展。此外,Soul还鼓励用户参与社区共建,通过设立“风纪委”的方式来营造良好的社群氛围。据统计,“风纪委”在任用户9808人,用户参与案例投票日均超五万例。
针对网络暴力问题,Soul则通过OCR(图片文字识别能力)与异常流量甄别技术,分辨并打击网暴行为,切实保护用户的合法权益。在此过程中,Soul 还通过友善评论提醒等措施,积极引导用户文明发言。
本次报告不仅展示了Soul在网络安全领域取得的诸多成果,也体现了Soul APP创始人张璐团队对平台安全与生态建设的深切关注。通过技术创新、策略优化以及用户共建等多元化手段,Soul建立起严密的风控机制,有效打击了网络不良行为,切实履行了企业的社会责任。
