AI隐私安全攻防蓝军 - 隐私和数据保护办公室

关于这个机会

团队介绍：我们是字节跳动隐私与数据保护核心团队，联动法律、安全、研发等多方力量，为全球数亿用户构建第一道数据安全防线。聚焦隐私合规落地、数据风险防控，在超150个国家/地区的复杂隐私、数据合规场景中，构建全生命周期数据安全方案，以“隐私+数据”双通道驱动保护创新。 为什么加入我们？ 1、全球化核心战场：加入支撑字节跳动国际化生态的关键团队，主导服务数亿用户的隐私安全体系，同字节跳动系产品一起定义行业标准； 2、硬核能力历练：攻克数亿级数据防护，横跨美洲、欧盟、东南亚等法律差异等难题，沉淀覆盖多区域的合规技术视野； 3、多元成长生态：融入跨多国家多城市的协作团队，参与行业隐私标杆项目，在文化碰撞中解锁国际化合规实战经验。 1、负责对国际化短视频等产品的大模型（Model）能力进行隐私安全评测：覆盖模型训练数据、模型输出、推理服务及交互链路，评估模型记忆、训练数据泄露、成员推断等隐私风险，构建可持续迭代的Model隐私安全评测体系； 2、负责LLM Agent系统的隐私安全攻防：构建Agent隐私安全威胁模型，针对提示注入（Prompt Injection）、越权调用工具/插件、上下文与记忆数据泄露、跨会话数据污染等攻击面开展红队测试，持续推进隐私数据合规与安全问题的挖掘，辅助业务提升Agent隐私安全能力； 3、负责自动化Red Team Agent的研发建设：设计并实现自动化红队攻击智能体与评测框架，规模化、可持续地发现Model与Agent的隐私安全风险，提升隐私安全评测的自动化水平与问题覆盖率； 4、负责前沿AI隐私安全问题的研究（如模型记忆与遗忘、训练数据提取、成员推断攻击、隐私保护微调等），提升团队在大模型隐私安全方向的技术能力与认知。

任职要求

1、具备大模型与Agent相关的基础背景知识，熟悉LLM训练与推理基本流程、Prompt Engineering、RAG、Function Calling/Tool Use，以及LangChain、AutoGen等常见Agent编排框架的基本原理； 2、熟悉常见LLM/Agent安全风险与攻防手段，如提示注入（Prompt Injection）、越狱（Jailbreak）、训练数据提取、成员推断攻击等，熟练使用相关评测工具、框架与红队测试方法； 3、有过实际的Model或Agent隐私安全问题发现经历，能独立完成从威胁建模、攻击构造到隐私数据影响评估的完整过程，对AI系统攻击面有完整系统的理解； 4、熟悉常见Web应用框架、云服务架构和数据库存储系统的原理，具备实际生产环境的渗透经验或防御体系建设经验者优先； 5、具备良好的逻辑思维、团队协作、沟通能力与执行力。 加分项 1、有过HW或CTF比赛经验并取得较好成绩者优先； 2、在隐私安全领域发表过相关论文或会议演讲者优先； 3、有过实际SRC高危严重隐私安全漏洞发现和提交者优先。

内推申请说明

本站为独立内推协助平台。申请会交由管理员核实岗位与内推渠道，不等于已在公司官网投递；薪资、岗位状态和实际招聘流程以官方信息为准。