The posting
我们做什么 在这里,你将参与自研大模型推理引擎从0到1的建设,亲手优化千亿/万亿级参数的模型推理性能,让每一次回答更快、更准、更省算力。你将接触真实业务场景,挑战AI Infra行业前沿问题。
岗位职责 · 参与大模型推理引擎核心模块的设计与开发,增强功能和提升系统吞吐; · 探索并落地先进的大模型推理加速方案,跟进业界最新技术; ·· 跟踪开源社区(如vLLM、TensorRT-LLM、SGLang等)前沿动态,完成技术调研与验证。
- 硕士及以上学历,计算机、AI、数学、信息、电子等相关专业;
- 熟悉Python,了解大模型Transformer基本工作原理;
- 具备良好的工程习惯(Linux、Git),学习能力强,能阅读英文技术资料。
加分项(非必需) · 有vLLM、SGLang等推理框架使用或二次开发经验; · 有CUDA/Triton算子编写经历; · 有LLM相关论文、开源项目或竞赛经历。
我们提供 · 资深大佬1v1带教,拒绝放养,; · 真实业务场景 + 充足GPU/NPU资源,真实项目经验; · 一群热爱技术的同龄人,一起卷技术。



