The posting
1、负责视觉、多模态及机器人相关模型的推理性能分析与深度优化。 2、推进模型在云端 GPU、端侧设备及国产芯片平台上的部署、迁移与适配。 3、运用量化、模型压缩、算子融合与 Kernel 优化等手段,降低推理延迟、显存占用及算力成本。 4、建设推理 Benchmark 与成本评估体系,持续保障模型推理的性能、精度与稳定性。 5、协同算法与硬件团队,推动推理技术栈与异构计算平台的深度适配。
1、本科及以上学历,计算机、电子工程、自动化等相关专业。 2、熟练掌握 Python 与 C/C++ 语言,具备扎实的工程开发与代码性能分析能力。 3、熟悉至少一种主流推理框架(如 TensorRT、ONNX Runtime、vLLM 等)。 4、了解模型量化、压缩及推理加速原理,具备良好的底层计算思维。 加分项: 熟悉 GPU/NPU 架构及推理瓶颈分析,有云端推理成本优化或机器人/边缘端模型部署经验者优先。



