The posting
参与大模型智能体的安全研究,测试智能体在不同任务和环境下可能出现的安全问题。 协助构建智能体安全测试集和评测流程,覆盖提示词注入、工具滥用、敏感信息泄露、越权操作、恶意代码执行等风险。 参与智能体防护方案开发,包括安全规则、权限控制、风险识别、行为监控、沙箱隔离和异常阻断等。 分析智能体的多轮对话、工具调用和任务执行轨迹,定位高风险步骤,协助完善安全评测指标。 跟进智能体安全、LLM安全、AI红队、自动化漏洞挖掘等前沿研究,完成论文复现和实验验证。 与算法及工程团队合作,将有效的攻击、检测和防御方法接入实际智能体系统。
2028届及以后毕业的本科、硕士或博士在校生,计算机、人工智能、网络安全、软件工程等相关专业优先。 熟悉Python,能够完成基本的实验代码开发、调试和数据处理。 对大模型或智能体有基本了解,知道Prompt、Tool Calling、RAG、Agent任务规划等基本概念。 对网络安全或AI安全感兴趣,了解提示词注入、越权访问、漏洞分析、恶意代码、数据泄露等概念中的一种或多种。 具备较好的学习能力和问题分析能力,愿意主动尝试不同方案,并能够根据实验结果持续调整。 能够阅读英文论文和技术资料,在指导下完成论文复现和实验验证。 加分项 以下经历满足任意一项即可,不要求全部具备: 完成过大模型、机器学习、网络安全或软件开发相关的课程项目。 使用过ChatGPT、DeepSeek、Qwen等大模型API,搭建过简单的对话机器人、RAG应用或智能体Demo。 使用过LangChain、LangGraph、AutoGen等智能体开发工具,对Tool Calling或工作流编排有基本了解。 有GitHub个人项目、开源贡献、课程作业或实验室项目,能够说明自己负责的具体工作。 对智能体安全有持续兴趣,平时主动关注过提示词注入、越狱攻击、隐私泄露或AI红队等问题。



