高德地图
社会招聘

高德-AI Infra 训练与推理引擎优化专家-北京

面议
北京 · 3年以上
本科社会招聘

关于这个机会

高德 AI Infra 团队主要负责高德下一代 AI 研发基础设施建设,致力于为 AI 研发提供稳定、高效、可扩展的工程底座。我们围绕 数据处理、算力调度、训练和推理引擎优化、训推平台等方向,建设服务于高德整体业务的 AI Infra 基础设施。团队聚焦于 AI Infra 方向,欢迎对 AI 基础设施有热情的同学加入,一起打造支撑未来高德业务快速发展的下一代 AI 基础设施。 工作内容包括并不限于: 1、负责大模型训练框架的架构设计与性能优化,覆盖数据并行、张量并行、流水线并行与专家并行等分布式策略,支撑千亿参数级模型的稳定高效训练。 2、主导推理引擎的研发与迭代,围绕 KV Cache 管理、Continuous Batching、投机解码、量化与算子融合等方向持续优化,显著降低首 Token 延迟与单位推理成本。 3、深入 GPU/NPU 异构算力底层,结合 CUDA、Triton、FlashAttention 等技术自研高性能算子,打通编译器与运行时链路,充分释放硬件算力上限。 4、建设训练与推理一体化的可观测与故障自愈能力,覆盖慢节点检测、通信抖动定位、断点续训与自动容错,保障大规模集群长周期任务的高可用。 5、与 数据、算法、平台、业务团队协同,将训练加速与推理降本能力沉淀为标准化平台服务,推动优化成果在多条业务线规模化复用。

任职要求

1、本科及以上学历,计算机科学、软件工程或相关专业,具备系统软件、高性能计算或 AI 基础设施方向的研发经验。 2、精通 C++/Python,具备扎实的多线程、内存管理与性能剖析能力,熟悉 CUDA 编程模型与 GPU 体系结构,能独立完成算子级性能调优。 3、深入理解主流训练框架(Megatron-LM、DeepSpeed、PyTorch FSDP)或推理引擎(vLLM、SGLang、TensorRT-LLM)的实现原理,具备二次开发或自研落地经验。 4、具备千卡及以上规模分布式训练集群的实战经验,熟悉 NCCL、RDMA 等高性能通信机制,能定位并解决通信瓶颈、显存溢出与训练不稳定问题。 5、熟悉模型量化、稀疏化与编译优化(TVM、MLIR、Triton)等推理加速技术,有将优化方案落地到线上高并发服务并量化收益者优先。 6、具备较强的技术攻坚与跨团队协作能力,能在模糊问题中拆解目标、推动方案落地,并对性能与成本指标结果负责。

官方来源与核验

阿里巴巴官方招聘 · 职位编号 100049080001

最近核验:2026-11-07T08:32:40.918845+00:00

查看官方职位详情 ↗

内推申请说明

本站为独立内推协助平台。申请会交由管理员核实岗位与内推渠道,不等于已在公司官网投递;薪资、岗位状态和实际招聘流程以官方信息为准。

高德地图的其他公开职位

查看公司全部职位 ↗

申请前核对

本站为独立内推协助平台。先查看官方职位,再了解申请流程与个人资料的使用方式。