火山引擎机器学习异构硬件开发工程师-Data AML
关于这个机会
1、主要负责异构计算芯片在机器学习平台的落地,会涉及异构计算芯片的评估、调研,及相关模型的推理、训练的适配、优化等工作; 2、[评估]:负责评估符合业务要求的异构计算芯片,建立/完善评估体系、负载模型,预估业务收益; 3、[推理]:负责异构计算芯片落地实际推理业务,适配异构计算芯片特性,降低推理时延,提高推理吞吐; 4、[训练]:负责异构计算芯片落地实际训练业务,根据芯片计算、通信特性,优化显存占用,提高训练吞吐; 5、[算子]:负责开发异构计算芯片的高性能算子,根据芯片特性,优化算力、带宽利用率; 6、[编译]:负责通过编译技术实现异构计算芯片在不同业务场景中落地,负责实现更加高效的异构硬件编程范式。
任职要求
1、熟练掌握Linux环境下的C/C++、Python语言;能够熟练使用PyTorch,熟悉底层原理及相关实现; 2、有国产芯片开发经验,寒武纪、昇腾,了解其推理/训练/通信相关优化,具备扎实的计算机科学功底和编程能力,熟悉常见算法和数据结构,具有良好的编程风格; 3、熟悉至少一种经典深度学习模型及其应用场景,如LLM、DiT、Bevformer等;熟悉至少一种并行计算架构,熟悉其编程模型,并知晓其优劣所在; 4、有良好的工作文档习惯,及时按要求撰写更新工作流程及技术文档。 加分项 1、有高性能算子、大规模训练、通算融合领域经验者优先; 2、了解SIMD/SIMT外其他并行计算模型及算法,了解其并行编程模型及其优、缺点者优先; 3、了解GPU硬件架构,了解GPU软件栈(CUDA,cuBLAS、cuTLASS),具备GPU性能分析的能力者优先; 4、了解AI Compiler技术栈(MLIR等),熟悉Torch2.0+编译栈、Triton优先者优先。
内推申请说明
本站为独立内推协助平台。申请会交由管理员核实岗位与内推渠道,不等于已在公司官网投递;薪资、岗位状态和实际招聘流程以官方信息为准。