The posting
1. 负责公司核心AI平台的架构设计、研发与持续演进,支撑多业务线稳定高效运行。 2. 参与平台化、服务化、组件化建设,沉淀通用平台能力 3. 负责高并发、高可用系统的设计与实现,持续优化性能、稳定性与成本。 4. 参与 大模型平台 / 模型网关(LLM Gateway) 建设,包括但不限于: - 多模型接入与统一抽象 - 请求路由、模型调度、版本与能力管理 - 配额、限流、计费、审计等平台能力 5. 参与GPU / 推理资源调度与管理相关后端逻辑: - 资源分配与隔离 - 并发控制、队列、优先级、回退策略 - 成本、利用率与稳定性优化 6. 参与数据库与存储方案设计(关系型 / NoSQL / 缓存 / OLAP),解决数据一致性与扩展性问题。 7. 对线上问题进行定位和根因分析,建立系统化的稳定性治理机制。
1. 本科及以上学历,计算机相关专业,3 年及以上后端开发经验。 2. 扎实的计算机基础: - 数据结构与算法 - 操作系统、计算机网络 - 常见设计模式 3. 精通至少一门后端语言: - Go / Java / Rust / Python 4. 熟悉常见后端架构: - REST / RPC(gRPC、Thrift 等) - 微服务架构 5. 熟悉常用中间件: - 数据库:MySQL / PostgreSQL - 缓存:Redis - 消息队列:Kafka / Pulsar / RabbitMQ 6. 具备良好的系统设计能力,能够独立完成模块或子系统设计。
加分项 1. 有大模型平台 / 模型调度 / 推理服务相关经验者优先,包括但不限于: - 类似 OpenRouter / LLM Gateway / Model Proxy 的系统 - 多模型路由、Fallback、灰度、限流 2. 有大数据基础设施建设经验者优先,包括但不限于: - 数据平台 / 数据湖 / 数据仓库 - Flink / Spark / Kafka 等生态 - 数据服务化、元数据、权限治理 4. 熟悉云原生技术: - Docker、Kubernetes - Helm / Operator 5. 熟悉可观测性体系: - Prometheus / Grafana - OpenTelemetry 6. 有高并发、大流量、复杂系统的设计与优化经验。



