混元推理算子开发工程师​

关于这个机会

1.负责核心推理算子的设计、开发与优化，涵盖 Transformer 系列（Attention、FeedForward 等）、卷积、池化等关键算子，支撑模型端到端推理性能提升；​ 2.针对 CPU（x86/ARM）、GPU（CUDA/TensorRT）、NPU 等异构硬件平台，进行算子适配与深度优化，解决计算效率、内存占用、 latency 等核心问题；​ 3.参与推理引擎架构设计，优化算子调度策略、内存管理机制，提升模型推理的并发度与资源利用率；​ 4.调研业界前沿推理优化技术（如算子融合、量化压缩、稀疏化、动态批处理等），并落地到实际产品中，持续迭代优化推理性能；​ 5.与模型算法团队、工程架构团队紧密协作，理解模型特性与业务场景需求，提供高效、稳定的推理算子解决方案；​ 6.负责算子性能测试、问题定位与调优，输出性能报告，保障推理系统的稳定性与可靠性。​

任职要求

1.本科及以上学历，计算机科学、电子工程、软件工程等相关专业； 2.精通 C/C++/CUDA 编程，深入理解计算机体系结构（CPU/GPU 缓存、指令集、并行计算原理），具备扎实的算法与数据结构基础；​ 3.熟悉至少一种主流深度学习框架（PyTorch/TensorFlow/MXNet）的底层算子实现机制，有大模型（LLaMA、GPT、BERT 等）推理优化经验者优先；​ 4.掌握至少一种异构硬件平台的算子开发与优化技巧：​ GPU 方向：精通 CUDA 编程、TensorRT 优化、cuDNN/cuBLAS 使用，具备 kernel 调优经验；​ CPU 方向：熟悉 SIMD 指令集（AVX2/AVX512）、OpenMP 并行编程，有 BLAS/LAPACK 优化经验；​ NPU 方向：有昇腾 / 寒武纪等芯片算子开发经验者优先；​ 5.熟悉大模型推理关键技术，如量化（INT8/INT4）、稀疏化、算子融合、动态批处理、推理加速框架（vLLM、TensorRT-LLM、Triton）等，有相关项目落地经验者优先；​ 6.具备良好的问题分析与解决能力，较强的沟通协作与技术攻坚能力，对新技术有强烈的探索欲。

内推申请说明

本站为独立内推协助平台。申请会交由管理员核实岗位与内推渠道，不等于已在公司官网投递；薪资、岗位状态和实际招聘流程以官方信息为准。