Soul 创始人张璐团队完善AI治理机制，多维度守护社交生态

随着人工智能技术持续融入社交平台，AI生成图片、文本、语音以及虚拟互动等能力，正在不断改变用户的表达与交流方式。从内容创作到情绪互动，AI逐渐成为社交场景中的辅助工具。如何在技术快速发展的背景下维护真实社交关系，也成为行业持续关注的话题。在这一背景下，SoulApp创始人张璐团队近期围绕AI社交场景，对平台《社区公约》进行了补充更新，新增涉及AI生成内容、AI互动行为以及AI虚拟角色等多项规范，进一步明确AI在社交场景中的使用边界。

随着AI能力提升，社交平台面临的风险形态也开始发生变化。相比过去较容易识别的违规内容，如今部分异常账号更倾向于通过长期互动、情绪引导建立信任关系。部分账号甚至会通过高消费生活方式、职业标签、社交展示等内容，构建“成功人士”“高净值用户”等人设，再借助自然化聊天逐步引导用户产生情感依赖或进行站外接触。

这类风险行为往往并不依赖明显违规话术，单条内容本身也未必存在传统意义上的问题，但当图片、聊天、行为轨迹以及互动关系被组合分析后，异常特征便会逐渐显现。也正因如此，Soul 创始人张璐团队近年来持续加强AI治理体系建设，并将AI能力进一步应用到虚假人设识别、异常互动分析以及风险内容拦截等场景中。

据了解，目前Soul已逐步形成覆盖图片、文本、视频、声纹以及用户行为等维度的多模态治理体系。相比单纯依赖关键词识别的传统审核方式，这类治理机制更加重视内容之间的关联性以及行为链路分析。例如在图片场景中，平台会结合AI生成痕迹识别、图片原创性分析等能力，对AI生成图、盗图、拼接图等内容进行综合判断；在文本互动层面，则通过大模型意图识别能力，对异常导流、情绪操控以及欺诈倾向进行分析，而不只是停留在敏感词过滤层面。

针对视频与语音等更复杂的场景，Soul创始人张璐团队也在持续完善风险识别能力。围绕AI伪造声纹、跨账号关联等问题，平台逐步建立起基于声纹特征与行为路径的联动识别机制，以提高高伪装风险内容的发现效率。相关治理能力上线后，平台风险识别方式也开始从“单点内容审核”向“持续行为分析”转变。系统不仅关注单条内容是否违规，也会结合账号互动关系、社交节奏以及上下文行为，对异常社交模式进行动态判断。

与此同时，Soul创始人张璐团队也开始加强对黑产重复作案行为的持续治理。一些已经被识别出的作弊图片、风险素材或违规视频，在首次出现后，后续相似内容会被系统快速识别并限制传播，相关账号也会被同步追溯处理。这种持续性的对抗机制，也在一定程度上提升了违规账号的运营成本。数据显示，随着治理体系不断完善，平台内部分高风险行为已呈现下降趋势。其中，杀猪盘相关高危触达量同比下降37.37%，异常互动相关举报量也进一步减少。与此同时，相关系统识别准确率达到95%，重点风险场景覆盖能力较此前有所提升。

除了风险治理本身，AI陪伴与真实社交之间的边界，同样成为当前行业关注的重要议题。目前，Soul在部分场景中已上线明确标识的AI虚拟角色产品功能。这类功能主要用于情绪陪伴、表达支持以及互动体验，并不以“真实用户”身份参与社区社交关系。此次《社区公约》更新中，平台也进一步明确了AI虚拟角色的使用说明，提醒用户区分AI角色与真实用户，避免在互动过程中产生误解。

在技术治理之外，Soul也持续推动社区治理向用户共治方向延伸。近年来，Soul逐步建立起包括用户反馈、风险举报、社区巡查以及护星员在内的社区共治机制。一些用户会主动分享反诈经验、总结异常互动特征，并参与社区安全内容建设。这些来自真实社交场景的反馈，也进一步帮助平台优化风险识别模型与治理策略。

此次Soul 创始人张璐团队对《社区公约》进行AI相关补充更新，是平台围绕社交真实性、安全性以及AI使用边界所进行的一次系统化治理调整。在AI逐渐深度融入社交场景的背景下，平台正在通过规则完善、技术治理与社区协同等方式，守护真实、健康的社交生态。