The posting
关于职位: 致力于构建高性能、高可靠的分布式训练基础设施,通过优化底层框架与计算效率,支撑大规模视觉及语言模型的稳定训练。本岗位聚焦于生产级工程实践,旨在与模型及算法团队嵌入式协作,实现可量化的训练性能提升与集群效能保障。
核心职责: — 维护并持续演进分布式训练框架的版本迭代、功能增强与系统稳定性。 — 执行分布式训练性能剖析与瓶颈定位,优化通信开销与训练吞吐,保障大规模集群的稳定运行与容错处理。 — 优化数据 IO 管线性能,涵盖数据拉取和到 GPU 的数据传输等。 — 应用编译优化技术进行计算图捕获、算子融合及执行调度优化,提升整体执行效率。 — 跟踪前沿技术并实现新的优化器与训练算法,负责已有论文或开源实现的复现与框架集成。
- 计算机科学或相关领域学士及以上学历。
- 深入理解分布式训练原理,包括数据并行、张量并行、流水线并行、序列并行及集体通信语义。
- 具备训练性能剖析与瓶颈定位能力,能够熟练使用 profiling 工具进行系统分析。
- 扎实的 Python 与系统级编程能力,熟悉 Linux 环境及并行/分布式计算基础。
优先条件: — 有主流分布式训练框架内核级开发或源码贡献经验者优先。 — 有大规模多节点集群训练实战与故障排查经验者优先。 — 有 CUDA/Triton 内核开发或编译优化相关经验者优先。 — 有视觉模型大规模分布式训练实践经验者优先。



