AI推理平台-AI 推理系统工程师（RSI 方向）-杭州

关于这个机会

从推理系统出发，探索 RSI的实现方式。参与构建运行数据采集、问题分析、策略优化和效果验证的闭环，让系统能够基于实际运行反馈持续改进。结合模型与 Agent 的执行特点，优化推理效率、任务效果和计算成本，推动实验方案在真实场景中落地。

任职要求

1. 计算机或相关专业本科及以上学历，具备扎实的编程能力，熟练使用 Python，掌握 C++、Go 等语言之一。 2. 具备大模型推理系统开发或优化经验，熟悉 vLLM、SGLang 等推理框架，理解请求调度、Batching、KV Cache 等基本机制。 3. 理解大模型与 Agent 的基本工作流程，能够结合运行数据和任务结果，定位效果或性能问题，并提出可验证的优化方案。 4. 具备实验设计和评测能力，能够搭建自动化实验与反馈流程，评估优化对任务成功率、时延、吞吐和成本的影响。 5. 能够独立推进模块开发与问题排查，与算法、基础设施团队协作完成方案落地。 6. 有自动调优、Agent 反馈闭环、推理策略优化或强化学习相关经验者优先。

内推申请说明

本站为独立内推协助平台。申请会交由管理员核实岗位与内推渠道，不等于已在公司官网投递；薪资、岗位状态和实际招聘流程以官方信息为准。