Soul App 创始人团队披露生态治理成果，AI治理拦截违规内容477万条

近年来，随着人工智能技术不断融入互联网平台治理体系，平台内容识别、风险研判与用户保护能力持续提升。与此同时，社交场景的复杂化，也让网络安全问题呈现出更强隐蔽性。近日，SoulApp创始人团队对外发布《2026年第一季度生态安全报告》（以下简称“报告”），系统披露了平台在反诈治理、社交生态建设、网络暴力整治以及社交礼仪规范等方面的治理措施与阶段性成果，进一步展现了平台在安全治理体系建设上的持续投入。

今年一季度恰逢春节社交高峰期，用户互动需求增长的同时，诈骗风险也有所上升。基于此，SoulApp创始人团队持续升级AI治理能力，强化风险识别与生态治理体系建设。在反诈治理方面，Soul对AI识别模型进行持续迭代。通过升级多模态语义理解能力，平台进一步提升对变体话术、隐蔽表达以及视觉干扰内容的识别效率，实现风险内容的前置发现与精准拦截。同时，平台还不断优化场景化风险提醒机制，加强用户风险感知与防范意识。

针对虚假人设问题，平台构建了覆盖图片路径检测、设备与账号关联分析、站内人像识别以及评论语义分析等多维识别体系，实现违规内容快速定位与同步处置。数据显示，一季度，平台日均识别并处置假人设相关内容7万余条，并同步对违规账号进行管控，有效降低虚假信息传播风险。与此同时，Soul持续深化与公安机关等部门的协同治理机制，累计报送有效线索50余次，进一步提升平台与执法机构之间的联动效率。

围绕“清朗”专项行动要求，SoulApp创始人团队通过AI模型与人工审核协同机制，重点针对低俗擦边、恶意辱骂、有偿交友及违规引流等行为开展专项整治。报告数据显示，一季度平台机审直接拦截违规内容477万条，处理违规账号16.2万个，累计拉黑违规设备3870台。在低质内容治理方面，平台日均处理低质帖子12万条以上，日均处置低质评论18万条。通过加强内容治理与推荐机制优化，平台内容生态质量得到进一步提升。此外，平台持续推动社区规范建设与用户引导机制优化，日均触达近2500名用户进行文明发言提醒，引导用户形成更加理性的互动方式。

除了技术治理外，SoulApp创始人团队持续加强用户教育与社区倡导，通过典型案例公示、防网暴指南推送及文明发言倡议等方式，引导用户形成更加健康的互动意识。平台还通过官方账号发布安全生态相关内容38篇，内容涵盖违规处罚公示、谣言辟除以及社区规范宣传等多个方面，累计触达用户22.81万人次。通过持续强化规则透明化与安全知识传播，平台不断提升用户对社区规范的理解与认知。通过“技术治理+用户教育+专项行动”的组合模式，平台进一步推动社区形成友善互动氛围。

针对群聊与私聊等高频社交场景，Soul也持续完善治理机制，强化用户社交安全体验。在群聊治理方面，平台通过自动化治理策略与实时监测机制，日均中断语音违规消息3万余条，拦截违规文字消息4万余条，群聊自动化中断5800余次，有效降低违规内容扩散风险。在私聊场景中，平台围绕骚扰治理与用户自主防护能力建设，推出骚扰消息自见、消息盒子分类管理以及风险提示弹窗等功能机制。数据显示，一季度平台日均保护用户免受骚扰6.4万余人次，日均触发保护弹窗7万余次。多维度治理策略的推进，也进一步降低了用户在社交过程中的骚扰感知。

平台治理不仅是技术能力的持续升级，更是对社区生态责任的长期投入。通过不断提升风险防控与内容治理能力，Soul App 创始人团队在维护用户社交安全、推动真实互动与优化社区氛围方面取得了阶段性成果，也切实履行了平台在网络生态建设中的责任。