腾讯云智算全新升级,相关技术能力刚获DeepSeek公开点赞
2025-05-22 14:51:11AI云资讯1230
5月21日,在腾讯云AI产业应用峰会上,腾讯云副总裁李力宣布了腾讯云智算的全新升级。新升级瞄准AI应用和模型爆发对基础设施带的来全新挑战,在效能、可靠性、易用性三大方向上全面提升,将为AI大模型训练、智能体部署等场景提供更全面的基础设施能力支持。
李力表示,从云计算时代到AI时代,云基础设施的技术进化始终以场景作为牵引。随着大模型的爆发以及智能体、智驾等应用场景加速落地,腾讯云智算会以AI原生为出发点,打造安全灵活的高性能底座,与开发者和企业共同探索智能化转型的创新路径。
在效能维度,腾讯云智算针对数据处理效率低、资源利用率低等痛点问题,升级了多个技术能力。基于国内首个支持跨卡型GPU调度的Serverless平台,腾讯云智算最高可支持10万级并发数据任务处理,最高请求数能达到行业领先的百万量级;通过腾讯云存储数据万象中预置的100多个数据处理任务模板,帮助企业数据打标效率提升50%。
在大模型训练和推理场景中,腾讯云智算基于星脉自研通讯库,双端口网卡带宽利用率达到峰值相比DeepEP性能可以再提升30%;同时,腾讯云智算打造了更高性价比的多机互联网络vRDMA,并将损耗比降低至不到2%,模型训练效率接近无损扩展。
某头部车企在智驾模型的训练中,数据标注效率提升了50%,数据处理整体成本降低70%,训练性能提升30%,模型迭代周期降低了40%。
在可靠性维度,针对AI基础设施容易出现的服务不稳定、扩容速度慢、 访问速度慢等技术难点,腾讯云智算通过自研AI服务器与智能巡检系统,将千卡集群的日均故障率控制在0.16%以下;依托腾讯云存储GooseFS,模型分发时间从1小时缩短到了20分钟;同时,腾讯云全球50多个可用区,则可使AI应用服务就近接入,服务稳定性提升57%,扩容速度提升2倍。
某头部手机厂商的AI助手项目应用该方案后,服务网络丢包和抖动均下降99%,服务稳定性提升57%,同时实现200%的扩容速度提升。
在易用性维度,为加速智能体规模化落地,腾讯云智算升级了AI原生工具链。其中,向量数据库全面支持向量+关键字混合检索,最高支持千亿级数据处理与500万QPS高并发检索;腾讯云智能日志服务可支持统一日志上报与可观测大盘,支持完整链路追踪与异常3分钟定位;腾讯云智算还升级了覆盖大模型全生命周期的安全解决方案,实现安全事件两小时内快速响应。
某头部房产中介平台搜索业务,借助腾讯云向量数据库,数据召回率增加30%,检索时间降低50%,同时依靠日志和安全能力,异常定位效率提升30%,安全响应时间缩短90%。
目前,腾讯云智算已深度服务于智能体及AI应用、具身智能、自动驾驶、互联网应用等多个领域。在Gartner最新发布的生成式AI基础设施象限中,其产品性能与未来潜力均位列亚太厂商首位。
值得一提的是,腾讯云针对DeepSeek开源的DeepEP通信框架进行深度优化,使其在多种网络环境下均实现显著性能提升。相关技术方案也获得了DeepSeek公开致谢,称这是一次“huge speedup”代码贡献。
相关文章
- 共谈架构师 AI 进化论,腾讯云架构师技术沙龙圆满落幕
- 腾讯云与华东师范大学达成战略合作:攻坚国产数据库核心技术,加速AI落地
- 普拉斯与腾讯云深化战略合作,联合打造“AI+智慧包装”行业新标杆
- 悦商科技与腾讯云达成战略合作,面向泛商业和经营领域打造Agent产品体系
- 腾讯云助力Joyme出海:大数据与AI让成本减半、效率翻倍
- 腾讯云马文霜:Cloud Mate:助力企业高效管云、用云,让云上业务坚如磐石
- 腾讯云智算全面升级,AI原生云基础设施迈向主动服务新时代
- 捷顺科技与腾讯云强强联合,共创智慧园区智慧社区新生态
- 云筑网与腾讯云达成战略合作,助力建筑行业降本增效和管理提升
- 谦合益邦与腾讯云达成战略合作,助力半导体行业智能化升级
- 企鹅网络(Q学友)与腾讯云达成战略合作,携手共创“AI+职业教培”新范式
- 腾讯云吴永坚:「CB联动」,打造智能体时代“能力基座”
- 腾讯云吴运声:构建实用好用的企业级智能体,让AI人人可用
- 跨维智能与腾讯云达成战略合作,以生成式世界模型驱动具身智能高效落地
- TVU Networks与腾讯云联合发布集成式云制播解决方案
- 腾讯云黄世飞:全面升级Data+AI能力,构建企业智能化数据基座