跳到主要内容

Volcano v1.15发布:Gang粒度抢占、DRA队列配额等多项调度能力增强

· 阅读需 13 分钟

随着批量训练、推理、AI Agent、HPC、大数据等多种负载在同一 Kubernetes 集群中混合部署,调度器需要在资源竞争更加激烈的环境下做出更高质量的决策,同时保持作业级语义、队列公平性、拓扑亲和性与运行稳定性。Volcano v1.15.0 现已正式发布,围绕这些方向,在调度核心、异构资源管理、多调度器协同与性能可观测等方面进行了增强。

本次最值得关注的新增能力是 Gang-Aware Preemption and Resource Reclamation:抢占决策在抢占方与被抢占方两侧均以 Gang 为整体进行评估——抢占方按 Gang 整体进行放置,被抢占候选者同样按 Gang 粒度进行排序和评估,优先驱逐冗余副本,避免逐 Pod 随机驱逐打断多个训练任务而抢占方自身仍无法启动的情况。此外,v1.15.0 在 capacity 插件中引入了 DRA 队列配额,新增了可插拔的多分片策略框架以及 Benchmark 与性能可观测工具,支持 Kubernetes 1.35,并在 NodeGroup 调度优先级、Agent Scheduler 稳定性、GPU/vGPU 及队列准入控制等方面做了补充增强。

Volcano v1.14 重磅发布!迈向 AI 统一调度新纪元

· 阅读需 14 分钟

Volcano 社区 v1.14 现已正式发布。随着 AI 业务形态从单一的离线训练向在线推理、Agent 智能体等多元化场景延伸,调度系统面临着前所未有的挑战。v1.14 通过架构级的创新,在保持大规模批量计算优势的同时,补齐了对延迟敏感型业务的调度短板,向着"AI 训推、RL、Agent 全场景统一调度平台"的目标迈出了坚实一步。

Volcano社区发布Kthena子项目: 重新定义大模型智能推理

· 阅读需 12 分钟

今天,我们激动地向全球开发者和 MLOps 工程师宣布,Volcano 社区迎来了一个新的子项目 Kthena!Kthena 是一个专为 Kubernetes 设计的、云原生、高性能的 LLM 推理路由和编排、调度系统。它旨在解决在生产环境中大规模编排、部署和服务 LLM 所面临的核心挑战,通过其独特的超节点拓扑感知的亲和性调度,KV Cache 感知的流量调度、Prefill/Decode 分离路由等高级功能,显著提升 GPU/NPU 资源利用率和吞吐,降低推理延迟,并赋予企业前所未有的灵活性和控制力。作为 Volcano 的子项目,Kthena将致力于帮助 Volcano 扩展除 AI 训练之外的边界,打造训推一体的完整解决方案。

科大讯飞凭借Volcano实现AI基础设施突破,赢得CNCF最终用户案例研究竞赛

· 阅读需 3 分钟

[ 中国,香港,2025年6月10日 ] 云原生计算基金会(CNCF)宣布,科大讯飞赢得 CNCF 最终用户案例研究竞赛。CNCF致力于构建可持续的云原生软件生态,科大讯飞凭借其在 Volcano 上的创新应用脱颖而出,获得本次殊荣,于6月10日至11日在香港举行的KubeCon + CloudNativeCon China 大会上,分享其大规模 AI 模型训练的成功经验。

Volcano v1.12.0正式发布

· 阅读需 20 分钟

Volcano v1.12 正式发布!驱动云原生AI与批量计算向智能高效新阶段演进

随着AI大模型技术的快速发展,企业对计算资源利用效率和应用性能的要求日益提高。在AI、大数据及高性能计算(HPC)等复杂应用场景下,如何高效利用GPU等异构加速器、保障系统高可用性并精细化管理资源,是Volcano社区持续探索和创新的核心方向。

Volcano 完成 2025 年度安全审计

· 阅读需 6 分钟
Adam Korczynski
Xavier Chang
Huawei and Volcano maintainer

Volcano 很高兴地宣布,我们已完成了由 CNCF 资助的安全审计工作。此次审计由 Ada Logics 负责执行,OSTIF 负责协调,并得到了 Volcano 维护者团队的通力协作。此次审计的范围涵盖了 Volcano 的源代码、供应链风险以及模糊测试(fuzzing)环节。审计团队共识别出 10 个安全问题,Volcano 安全团队已在审计工作结束的同时完成了对这些问题的修复。

Volcano 如何提升分布式训练和推理性能

· 阅读需 3 分钟

The Growing Demand for LLM Workloads and Associated Challenges

The increasing adoption of large language models (LLMs) has led to heightened demand for efficient AI training and inference workloads. As model size and complexity grow, distributed training and inference have become essential. However, this expansion introduces challenges in network communication, resource allocation, and fault recovery within large-scale distributed environments. These issues often create performance bottlenecks that hinder scalability.

Volcano v1.11.0正式发布

· 阅读需 24 分钟

作为云原生批量计算领域的事实标准,Volcano已经在AI、Big Data及高性能计算 (HPC) 等多种场景中获得广泛应用,吸引了来自30多个国家的800多名贡献者,累计代码提交数万次。Volcano已在国内外60+企业进行了生产落地,经受住了实际生产环境的考验,赢得了用户的广泛赞誉,为业界提供了云原生批量计算的卓越实践标准与解决方案。