广告大模型训练/推理优化研发工程师-Data

关于这个机会

1、深度学习引擎优化，参与训练和推理引擎的深度优化，包括编译优化、图融合技术、并行计算策略、低精度计算等； 2、高性能算子与框架研发，负责自研高性能算子库建设，进行异构硬件适配，利用SIMD、CUDA等技术实现算子的并行加速； 3、长序列的大规模分布式训练（DDP/FSDP/TP/SP/PP）和推理支持(RPC框架/vLLM/SGLang/TRT)； 4、前沿技术调研与落地，探索下一代硬件架构、异构计算方案，将前沿技术转化为生产力。

任职要求

1、至少精通一门编程语言（如C、C++、Python），具备优秀的编码习惯并注重代码质量； 2、扎实的计算机科学基础，深入理解数据结构与算法、操作系统、计算机体系结构、高性能编程等核心知识； 3、了解PyTorch等深度学习框架，有FSDP，DeepSpeed等分布式训练经验； 4、熟悉vLLM、SGLasng等推理框架； 5、具备高性能编程经验，熟悉Triton、CUDA、AscendC、BangC、DCU等编程。

内推申请说明

本站为独立内推协助平台。申请会交由管理员核实岗位与内推渠道，不等于已在公司官网投递；薪资、岗位状态和实际招聘流程以官方信息为准。