上海-AI Infra工程师(J100732)

关于这个机会

-负责大模型训练/推理基础设施的设计与优化，包括分布式训练框架、推理引擎、模型压缩部署等 -深入优化计算效率，探索混合精度、量化（INT8/FP16）、KV Cache等技术的工程实践 -与算法团队协作，推动大模型在异构硬件（GPU/NPU）上的高效运行 -参与AI系统架构设计，提升训练和推理的吞吐量与稳定性 -关注AI Infra前沿进展，将CUDA/XLA优化、算子融合等技术应用于实际系统

任职要求

-本科及以上学历，计算机、软件工程等相关专业优先 -熟悉分布式系统与并行计算，有CUDA编程或高性能计算经验者优先 -掌握C++/Python，有深度学习框架（PyTorch/PaddlePaddle）使用经验 -理解模型量化、推理优化、显存管理等技术原理 -有大模型训练/推理系统相关项目或实习经历者优先

内推申请说明

本站为独立内推协助平台。申请会交由管理员核实岗位与内推渠道，不等于已在公司官网投递；薪资、岗位状态和实际招聘流程以官方信息为准。