云智算全新升级——智算演进,应用共生




腾讯云智算全新升级李力丨腾讯云副总裁智算演进,应用共生应用和模型的爆发,对基础设施带来全新挑战智能体应用效果客户关注面临问题检索效率低安全合规要求智能体加速落地市场趋势模型迭代速度数据处理效率低集群利用率低模型能力快速升级服务体验可靠性服务不稳定扩容速度慢应用交互体验提升从云原生到AI原生,场景正在引领全新的技术突破趋势云原生技术的发展过程,是一个“效率+ 成本”不断优化的过程Web/APP为代表LLM等大模型为代表智能体/智驾/机器人 为代表第一阶段第二阶段第三阶段AI原生云原生腾讯及客户的AI应用增长,驱动腾讯云智算全新升级提升训推效能高效可靠保障稳定/延展性易用提供完备工具链数据处理提效训练推理提效服务稳定性业务扩展性数据管理能力安全合规保障可靠保障:沉浸式体验推动服务稳定性和延展性的重构自研AI服务器针对AI场景定制优化+智能巡检千卡单日故障率仅0.16模型分发引擎分布式读写+多级缓存机制模型加载时间缩短66%全球应用加速依托全球超50+加速节点随时随地就近接入服务更稳定扩容更快速访问更顺畅案例:某头部手机厂商AI助手+200%服务扩容速度-99%服务网络丢包-99%服务网络抖动+57%服务稳定性客户收益AI助手混元DeepSeek-R1AZ-1TKE容器集群管理高速文件存储GPU云服务器高性能计算集群HCCAZ-2TKE容器集群管理高速文件存储GPU云服务器高性能计算集群HCC内网训推效能:模型能力跃升驱动效能革命智能任务调度国内首个Serverless混合GPU调度最高支持10万并发,100万QPS智能数据打标智能识别图像/视频,自动标注预置100+数据处理任务模板数据处理提效训练推理提效案例:某头部车企智驾模型训练客户收益星脉自研通讯库双端口网卡带宽利用率达到峰值助力DeepEP性能再提升30%全新vRDMA更高性价比的多机互联网络集群拓展比98%,接近无损拓展+50%数据打标效率+30%训练性能提升-40%模型迭代周期-70%最高成本节省本地数据中心数据标注本地数据存储本地训练集群路测车采集数据路采数据腾讯云容器集群管理专线接入高性能集群通过远程在线升级系统(OTA)将新算法投放至智能汽车OTA模型训练平台通过自研训练平台统一调度分配任务多云环境接入腾讯云环境200GbpsvRDMA100GbpsVPC模型训练数据缓存服务模型评测高性能存储客户收益丰
相关推荐
-
2025-05-13 19936
-
2025-05-15 19943
-
2025-05-13 19950
-
2025-05-15 17939
-
2025-05-13 19833
-
2025-05-14 19537
-
2025-05-14 18531
-
2025-05-15 18933
-
2025-06-05 465
-
2025-06-05 301
相关内容
-
甲子光年2025年DeepSeeK开启AI算法变革元年报告16页
分类:机构报告
时间:2025-05-13
标签:
格式:PDF
-
新战略咨询2024移动机器人AGV_AMR专用激光雷达产品发展蓝皮书31页
分类:机构报告
时间:2025-05-15
标签:
格式:PDF
-
鼎帷咨询2025年DeepSeek战略创新分析报告-围绕DeepSeek尖刀点加速打造AI产业刀锋链39页
分类:机构报告
时间:2025-05-13
标签:
格式:PDF
-
少年商学院2025年DeepSeek中小学生使用手册81页
分类:机构报告
时间:2025-05-13
标签:
格式:PDF
-
英普利集团2025企业出海白皮书中东篇精编版39页
分类:机构报告
时间:2025-05-14
标签:
格式:PDF
-
火山引擎2024火山引擎视频云实践精选集224页
分类:机构报告
时间:2025-05-15
标签:
格式:PDF
-
曼昆律所2024年Web3.0区块链项目出海法律白皮书71页
分类:机构报告
时间:2025-05-14
标签:
格式:PDF
-
CyberRobo2024全球人形机器人产品数据库报告-人形机器人洞察研究BTIResearch99页
分类:机构报告
时间:2025-05-15
标签:
格式:PDF
-
2025泡泡玛特POP MART品牌手册
分类:
时间:2025-06-21
标签:
格式:PDF
-
利用人工智能技术全面应对电子邮件威胁
分类:
时间:2025-06-21
标签:
格式:PDF