云智算全新升级——智算演进,应用共生

3.0 2025-06-21 158 17 4833 KB 10 页 PDF
侵权投诉
云智算全新升级——智算演进,应用共生
云智算全新升级——智算演进,应用共生
云智算全新升级——智算演进,应用共生
摘要:

腾讯云智算全新升级李力丨腾讯云副总裁智算演进,应用共生应用和模型的爆发,对基础设施带来全新挑战智能体应用效果客户关注面临问题检索效率低安全合规要求智能体加速落地市场趋势模型迭代速度数据处理效率低集群利用率低模型能力快速升级服务体验可靠性服务不稳定扩容速度慢应用交互体验提升从云原生到AI原生,场景正在引领全新的技术突破趋势云原生技术的发展过程,是一个“效率+ 成本”不断优化的过程Web/APP为代表LLM等大模型为代表智能体/智驾/机器人 为代表第一阶段第二阶段第三阶段AI原生云原生腾讯及客户的AI应用增长,驱动腾讯云智算全新升级提升训推效能高效可靠保障稳定/延展性易用提供完备工具链数据处理提效训练推理提效服务稳定性业务扩展性数据管理能力安全合规保障可靠保障:沉浸式体验推动服务稳定性和延展性的重构自研AI服务器针对AI场景定制优化+智能巡检千卡单日故障率仅0.16模型分发引擎分布式读写+多级缓存机制模型加载时间缩短66%全球应用加速依托全球超50+加速节点随时随地就近接入服务更稳定扩容更快速访问更顺畅案例:某头部手机厂商AI助手+200%服务扩容速度-99%服务网络丢包-99%服务网络抖动+57%服务稳定性客户收益AI助手混元DeepSeek-R1AZ-1TKE容器集群管理高速文件存储GPU云服务器高性能计算集群HCCAZ-2TKE容器集群管理高速文件存储GPU云服务器高性能计算集群HCC内网训推效能:模型能力跃升驱动效能革命智能任务调度国内首个Serverless混合GPU调度最高支持10万并发,100万QPS智能数据打标智能识别图像/视频,自动标注预置100+数据处理任务模板数据处理提效训练推理提效案例:某头部车企智驾模型训练客户收益星脉自研通讯库双端口网卡带宽利用率达到峰值助力DeepEP性能再提升30%全新vRDMA更高性价比的多机互联网络集群拓展比98%,接近无损拓展+50%数据打标效率+30%训练性能提升-40%模型迭代周期-70%最高成本节省本地数据中心数据标注本地数据存储本地训练集群路测车采集数据路采数据腾讯云容器集群管理专线接入高性能集群通过远程在线升级系统(OTA)将新算法投放至智能汽车OTA模型训练平台通过自研训练平台统一调度分配任务多云环境接入腾讯云环境200GbpsvRDMA100GbpsVPC模型训练数据缓存服务模型评测高性能存储客户收益丰

展开>> 收起<<
云智算全新升级——智算演进,应用共生

共 10 页,预览3页

还剩7页未读, 继续阅读

云智算全新升级——智算演进,应用共生
云智算全新升级——智算演进,应用共生
云智算全新升级——智算演进,应用共生
声明:企商查报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
作者: 分类: 属性:10 页 大小:4833 KB 格式:PDF 时间:2025-06-21

开通VIP享超值会员特权

  • 多端同步记录
  • 高速下载文档
  • 免费文档工具
  • 分享文档赚钱
  • 每日登录抽奖
  • 优质衍生服务
/ 3
客服
关注