推理流量调度研发工程师-Data AML

关于这个机会

1、参与AML火山方舟推理千亿级TPM流量调度核心架构的开发、优化与迭代，共同打造国内领先的AI MaaS平台； 2、在公有云&云原生（Kubernetes）环境下，深入设计和实现大模型推理服务的关键子系统； 3、探索并实现智能流量路由、精细化服务治理策略，保障平台在超大规模负载下的超高可用性（99.99%+）与极致性能； 4、持续优化平台在资源调度效率、服务稳定性、成本效益等方面的表现； 5、与团队一起攻克大规模分布式系统带来的复杂挑战，确保平台能够弹性扩展，支撑业务的飞速增长。

任职要求

1、计算机科学、软件工程或相关专业本科及以上学历； 2、熟悉Golang/C/C++/Python/Java（至少一种），熟悉Linux开发环境； 3、对计算机基础（数据结构、算法、网络、操作系统）有良好理解； 4、强烈的求知欲和解决复杂技术问题的热情，渴望在大型分布式系统领域深耕。 加分项 1、有大规模分布式系统相关项目经验； 2、熟悉Service Mesh，有服务治理、流量管理相关实践经验； 3、熟悉云原生技术栈（Kubernetes，Docker，服务网格），有编排调度、流量管理相关实践经验； 4、对公有云技术（AWS/Aliyun/火山引擎等）的存储、网络、安全、产品化有了解或实践经验； 5、接触过大模型推理服务部署、优化或相关框架（如vLLM，Triton Inference Server）。

内推申请说明

本站为独立内推协助平台。申请会交由管理员核实岗位与内推渠道，不等于已在公司官网投递；薪资、岗位状态和实际招聘流程以官方信息为准。