The posting
1. 参与大模型内生安全算法研究,探索面向大模型及智能体系统的内生安全训练方法; 2. 研究大模型与智能体的潜在安全边界,包括 Jailbreak、Prompt Injection、工具滥用、权限绕过、长程任务风险等问题,并探索相应的红队与防御增强方法; 3. 面向AI4Science等典型高风险场景,构建长链任务环境和实验任务,探索红队方法,验证模型在多步骤规划、环境交互、工具调用和持续决策过程中的安全能力; 4. 参与大模型训练、推理、分布式 Rollout 及实验基础设施建设,支持大规模安全算法实验与模型迭代; 5. 跟进大模型安全、Cyber Agent、AI4Science Agent 等前沿研究,并推动相关技术在真实复杂任务中的验证与落地。
1. 计算机、人工智能、软件工程、自动化、电子信息等相关专业硕士及以上学历; 2. 了解大语言模型基本原理,以及预训练、SFT、强化学习等训练与后训练流程; 3. 熟悉 Python,具备 PyTorch 等深度学习框架使用经验,有大模型训练或算法实验经验者优先; 4. 接触过 SFT、RLHF / RLAIF、PPO / GRPO、Reward Model、Verifier、数据生成等一种或多种技术; 5. 具备基本的 Linux、Git、Docker 等开发环境使用能力,能够完成模型训练、推理及实验分析; 6. 具备良好的问题分析、任务拆解和快速学习能力,对大模型安全、安全对齐或强化学习方向有长期兴趣。



