AI治理进入“实操阶段”，Soul App探索科技向善的新路径

近期，工信部正式印发通知，在北京、上海、广东等10个省市启动“人工智能科技伦理审查与服务先导计划”，并于6月1日起正式实施。这是我国首次围绕人工智能科技伦理审查开展大规模试点探索，也意味着AI产业的发展正在进入一个新的阶段。

过去几年，人工智能行业的发展重点更多集中于模型能力、算力规模和技术突破。而随着AI逐渐进入内容创作、社交互动、数字身份表达等更复杂、更贴近用户日常生活的场景，行业关注点也开始发生变化。

AI治理正在从原则讨论走向具体落地；科技伦理正在从行业倡议走向制度建设；企业之间的竞争，也正在从单纯的技术能力竞争，延伸至治理能力竞争。在这样的背景下，如何实现创新与责任的平衡，成为整个行业共同面对的重要课题。

作为较早布局AI社交领域的平台，SoulApp长期关注AI治理体系建设，在持续推进技术创新的同时，也不断探索安全、可信、负责任的AI发展路径，今年6月成立的人工智能伦理与治理委员会，也是Soul联合多领域专家，共同推动技术创新与治理机制协同发展的重要举措。

回顾人工智能的发展历程，行业曾长期围绕“能力提升”展开竞争。

从文本生成到图像生成，从多模态理解到实时交互，AI能力在短短几年间实现跨越式发展。越来越多的技术开始进入内容创作、社交互动、情绪表达等复杂场景，人们与AI的接触频率和使用深度不断增加。

但能力快速提升的同时，也带来了新的治理挑战。

一方面，AI生成内容正在快速普及。图片、文字、视频等内容的生产门槛被大幅降低，普通用户也能够借助AI工具完成创作和表达。

另一方面，一些新的风险也开始出现。

例如利用AI伪造身份信息、批量生成内容、制造虚假互动关系，或者通过AI塑造高度逼真的“人设”，以更隐蔽的方式获取用户信任。这些变化正在重新影响人们对于真实社交和真实内容的判断。

相比过去依赖关键词识别和简单规则治理的互联网时代，AI时代的风险呈现出更强的伪装性和场景化特征。

许多异常账号不再发送明显违规内容，而是模拟正常用户的表达方式和社交节奏，通过长期互动逐步建立信任关系，再引导投资、站外导流甚至实施诈骗行为。正因如此，内容安全、用户权益保护以及平台责任机制，开始受到越来越多的关注。

Soul App平台官方账号@Soul风纪球长 违规案例公示

放眼全球，无论是欧盟《人工智能法案》的推进，还是各大科技企业陆续成立AI安全委员会、发布负责任AI原则，都在释放同一个信号：未来AI产业的竞争，不仅是模型能力竞争，更是治理能力竞争。

随着AI逐渐进入社交、内容创作和互动交流等复杂场景，用户对于平台安全性、透明度和责任机制的要求也在不断提高。

技术创新之外，治理能力正在成为新的核心竞争力。

面对AI治理时代的新趋势，Soul App始终坚持技术能力建设与治理机制建设同步推进。

在技术层面，Soul App持续围绕实时交互、多模态理解与智能互动方向进行研发投入，不断夯实AI基础设施能力。

近年来，Soul App持续加强语音交互领域的技术探索，通过语音对话控制等技术能力建设，进一步提升实时交流场景中的交互体验和稳定性。

与此同时，围绕实时数字内容生成、多模态理解以及智能表达方向，Soul App也持续推进相关技术创新，探索更自然、更高效的人机交互方式。

在实时多模态交互和数字内容生成领域，Soul App不断推动相关技术能力升级，并积极参与开发者生态建设，将部分技术成果面向行业开源，与开发者社区共同推动智能交互技术的发展和产业化落地。

从语音交互到多模态理解，从实时表达到智能连接，Soul App正在持续构建覆盖多场景、多能力维度的AI技术基础设施。

如今，Soul已成为一家专注于情绪感知与交互、模型与应用一体化的AI生态公司。不同于以通用大模型为核心的发展路径，Soul以基于情绪感知、语音为先、面向多模态的交互大模型为技术内容，形成了"自有应用+产业生态"双层应用体系：一方面依托SoulApp真实社交场景持续迭代交互能力，另一方面将相关AI能力赋能至具身智能、内容演绎等产业场景，并进一步延伸至AI治理领域，不断推动技术创新与治理协同发展。

依托扎实的技术基建，Soul持续完善实时交互、多模态理解、数字身份表达等核心能力，为实时语音交流、多模态互动理解、智能社交连接等场景提供底层支撑，也为平台构建安全、可信、负责任的AI伦理治理体系提供了坚实基础。

但对于Soul App而言，仅有技术创新并不足够。伴随AI技术进入社交场景，平台更加关注如何确保技术始终服务于真实连接，而非削弱真实连接。

近期，围绕AI在社交场景中的应用，Soul App对《社区公约》进行了AI相关补充更新，新增了关于AI生成内容、AI互动行为以及AI虚拟角色等场景的使用规范。

这些规则的核心目标，是进一步明确AI在社交场景中的使用边界。

Soul App一直坚持，AI可以成为表达工具，可以帮助用户更高效地分享观点、展示兴趣和建立联系，但不应被用于伪造身份、制造虚假关系，或替代真实互动本身。

这背后体现的，正是Soul App长期坚持的治理理念：以人为主，科技向善。平台始终强调，AI的价值在于帮助用户之间建立真实连接。

为进一步推动AI治理体系建设，今年6月，SoulApp正式成立人工智能伦理与治理委员会，邀请来自互联网治理、伦理学、社会学、青少年研究、法律等多个领域的专家担任外部委员，并联合公司内部AI、产品、技术、安全、法务等相关负责人，共同构建更加系统化、专业化的AI伦理治理机制。

在SoulApp的治理过程中，AI治理并不是技术部门单独承担的工作，而是一项贯穿产品设计、技术研发、内容治理、用户保护以及风险管理全过程的系统工程。通过建立前置伦理评估、专项治理机制以及跨领域专家参与机制，平台希望让AI能力的发展与伦理治理同步推进，在持续创新的同时，更好回应用户对于真实、安全、可信社交体验的期待。

与此同时，面对越来越复杂的风险场景，Soul App也持续加强AI治理能力建设。

针对虚假人设包装、异常互动行为、风险内容传播以及涉诈场景，平台逐步建立起覆盖图片、文本、视频、声纹以及用户行为等维度的多模态AI治理体系。

例如在上文提到的场景中，平台结合AI生成痕迹识别、图片原创性判断等能力，对AI生成图片、盗图和拼接图片进行综合分析；在文本和互动场景中，则通过智能识别能力判断异常导流、人设包装以及潜在欺诈行为，而不再仅依赖关键词审核。

针对视频、语音等复杂场景，平台也持续加强风险识别能力建设，通过声纹识别与行为链路分析等方式，提高对高伪装风险内容的发现能力。

相比传统“内容违规后处理”的治理模式，如今的AI治理更接近一种持续运行的风险识别系统。它不仅关注单条内容本身是否违规，更会结合账号行为、互动关系以及上下文场景，对潜在风险进行动态分析与前置识别。

除了技术治理之外，SoulApp也在持续强化透明与可控原则。平台通过明确标识、使用提醒以及用户反馈机制，帮助用户理解AI参与过程，增强技术使用透明度。例如，平台对AI相关功能进行显著标识，明确提示用户当前交互对象及内容的AI属性，保障用户知情权；同时不断完善用户反馈、社区巡查和社区共治机制，推动社区治理从平台单向管理逐步走向平台与用户共同参与。同时设立未成年人保护专项，推出未成年人模式等等。

AI时代的治理并非一次性工程，而是一项需要持续迭代、不断演进的长期工作。SoulApp人工智能伦理与治理委员会也会坚持围绕AI伦理治理战略制定、前置伦理评估、风险治理优化以及伦理能力建设等方向开展工作，推动技术治理与伦理审查协同推进。只有当技术创新与责任建设同步发展，平台才能真正建立起安全、可信、可持续的发展基础。

随着国家AI伦理审查试点正式启动，中国AI产业正在从“发展优先”迈向“发展与治理并重”的新阶段。

对于整个行业而言，未来竞争的不只是技术领先，更是谁能够构建更安全、更可信、更可持续的AI生态。

当AI不断进入内容创作、社交互动和数字表达等场景时，平台不仅需要思考“技术能做到什么”，更需要思考“技术应该做到什么”。

在这一过程中，Soul App持续推进的AI治理实践，为AI社交领域提供了一种兼顾创新与责任的发展思路：既保持技术探索的活力，也坚持真实连接的价值；既推动智能能力升级，也守护用户权益与社区生态。

从技术创新到责任创新，从能力建设到治理建设，Soul App正在探索一条科技向善的发展路径。而这或许也是AI时代所有平台共同面对的重要命题——让技术不断进步，同时让人与人之间的真实连接始终被看见、被尊重、被守护。