The posting
我们致力于在 Midtrain(中训练)阶段系统地打好大模型的 Agentic 能力基础。目标是让模型在真实场景中更可靠地理解用户意图、规划执行、调用工具,完成长程复杂任务,同时让后训练学得更快、上限更高。你将参与 Midtrain 方向的数据研发:从真实用户信号出发,发现并修复模型的行为缺陷;探索用户数据驱动的轨迹 scaling;建立通用 Agentic 数据的分布配比与质量体系,持续拓展模型的能力边界。你将负责:
1. 基于用户信号发现并修复 bad pattern:从追问、纠正、重试、中断、点踩等真实交互信号中,挖掘模型的典型失败模式(如语言混杂、重复循环、过早宣称完成、工具调用幻觉等)。建立"检测—归因—修复"的完整链路,修复手段包括过滤、loss mask、改写和合成纠正轨迹,并通过训练实验验证修复效果。 2. 用户数据驱动的轨迹 scaling:在符合隐私与合规要求的前提下,以真实用户需求分布为锚点,研究用户数据的清洗、筛选、改写与扩增方法(如基于真实 query 构造任务与环境,规模化合成轨迹),并研究数据规模、多样性与质量如何影响模型能力的 scaling。 3. 通用 Agentic 数据的分布与配比:分析代码、工具调用、搜索、长程任务等数据在任务类型、领域、难度、长度和交互轮次上的分布。基于小模型代理实验、data mixing law 等方法优化配比与课程设计,在提升 Agentic 能力的同时保住通用能力。 4. 建设 Agentic 数据质量体系:制定质量标准,覆盖结果正确性、过程合理性、多样性和安全合规。结合规则、模型评分与执行验证实现自动化质检,完善去重、去污染、溯源与版本管理,让数据质量可度量、可追溯、可迭代。 5. 以后训练效果和真实场景表现为目标,反推 Midtrain 数据设计。建立 Agentic 能力评测与错误分析体系,定位能力瓶颈,推动数据、训练与评测的闭环迭代。
1. 有强烈的技术追求和热情,真的想要用技术给现实世界带来改变; 2. 具备优秀的研究素养和创新能力,在国际顶会或期刊发表过高质量论文,在大模型数据(预训练 / Midtrain / 后训练)、LLM Agent、数据配比与质量评估或相关方向有研究或实践经验; 3. 有良好的工程和动手能力,熟练使用 Python 及 Spark、Ray 等大规模数据处理框架,能够广泛利用各种工具解决问题,主导或者参与过有影响力的大模型机器学习项目; 4. 对数据有敏锐的洞察力,习惯亲自看数据、从 case 中提炼规律,有良好的研究判断力和探索精神,能够用严谨的实验设计得出可靠结论,推动模型能力提升。
【加分项】
1. 有用线上用户数据或用户反馈驱动模型迭代(数据飞轮)的经验,或分析、修复过模型行为缺陷(如 reward hacking、重复退化、幻觉等); 2. 有 Agent 轨迹数据与环境构建经验(如 Coding Agent、工具调用、深度搜索、Computer Use 等),熟悉 SWE-bench、Terminal-Bench、τ²-bench、BrowseComp 等 Agentic 评测; 3. 有大规模预训练 / Midtrain 数据实践(如数据配比、课程学习、长上下文数据构建)或大规模分布式训练经验,在理解算法原理的同时,也掌握实现细节; 4. 有 ACM/NOI/超算等各类竞赛获奖经历者; 5. 在相关领域有高质量研究成果或开源贡献(如数据集、数据处理工具、评测基准)。 6. 有pretraining经验,熟悉megatron开发以及相关数据管线



