The posting
负责火山引擎-IaaS异构云产品的性能优化,聚焦AI场景、大模型训练和推理的性能提升,构建通用的软件加速方案,协助客户挖掘硬件性能潜力,提升应用表现。
主要工作包括: 1、负责AI Infra的性能分析,构建性能标尺和竞争力模型; 2、负责基于云上AIGC等业务场景的性能分析以及训练、推理场景的底层优化工作; 3、负责云上IaaS 国产加速器在AI场景的引入、落地和优化工作。
1、熟练掌握Linux环境下的C/C++、Python、Go语言,有分布式系统软件开发和调试经验; 2、熟悉LLM/CV/NLP/推荐系统等业务场景的系统和原理; 3、有主流深度学习框架(如TensorFlow、PyTorch等)相关开发经验,掌握框架任一组件的代码实现; 4、掌握异构计算、网络、存储的性能分析工具和相关原理,有软硬协同优化经验。
具备以下条件之一者优先: 1、熟悉主要云厂商的AI Infra解决方案; 2、在LLM训练或推理性能优化方面有实操经验; 3、有模型量化和业务模型精度调优经验; 4、有TensorRT/CUTLASS/Trition等开发经验和性能优化经验; 5、熟悉国产AI加速卡生态,有实际场景的应用经验。



