The posting
1.负责网页预训练数据的质量研究、数据方案实现和版本化交付; 2.基于现有网页处理 pipeline,研究不同数据筛选、分类、评分、修复和采样策略对模型能力的影响; 3.建设和优化网页质量评价体系,包括内容质量/知识密度评分,广告/导航/SEO/模板化/低信息内容识别,领域/主题/语言/难度分类,LLM scorer 和轻量分类器的组合使用等; 4.分析被过滤网页数据中的 false rejection,研究通过正文修复、重新切分、去模板、重写、重新评分或降低采样权重等方式恢复训练价值; 5.负责网页数据中的通用知识、STEM、推理及多语言数据覆盖分析,并提出相应的数据采样和配比方案; 6.设计并执行数据消融及 proxy training 实验,评估不同网页数据方案对 General、Knowledge、Reasoning 和 Multilingual benchmark 的影响。
1.计算机科学、人工智能、自然语言处理、数据科学等相关专业硕士及以上学历; 2.熟悉网页文本中的正文抽取、模板内容、重复内容、垃圾内容和语言识别等问题; 3.能够独立设计数据质量指标、训练实验和对照实验,并根据模型结果迭代数据策略; 4.熟练使用 Python,具备良好的数据分析和工程实现能力; 5.熟悉至少一种分布式数据处理或大规模推理框架; 加分项:具有 LLM 预训练数据建设经验;做过网页质量排序、内容理解或搜索索引;有多语言或低资源语言数据经验;熟悉数据去污染、数据溯源和训练数据合规问题。



