腾讯
社会招聘

TIONE-高级推理研发工程师-上海/杭州/深圳/北京

面议
上海 · 五年以上工作经验
技术CSIG腾讯云中国

关于这个机会

1.超大规模LLM性能工程: 主导并规划千亿参数级大模型的极致性能优化技术路线。负责 vLLM/TensorRT-LLM 等主流推理框架的内核级优化与落地; 2.低比特与稀疏模型优化: 牵头 INT4/FP8/AWQ 等前沿低比特量化技术的工业级系统化落地,平衡精度与计算效率。并设计面向 MoE 模型的分布式调度、路由、显存管理及跨卡通信的优化方案; 3.统一与多模态架构: 定义并设计一套具备长期扩展性的统一 AI 推理引擎架构,以支撑自回归生成任务,并前瞻性地解决多模态大模型(如视觉-语言模型)的协同推理部署挑战; 4.异构算力与适配: 主导推理引擎在AI芯片(如昇腾、海光、天数等)平台上的战略级移植、生态适配与性能优化。对 HCCL/NCCL 等通信原语进行深度优化和定制,实现跨异构架构的算力自主可控; 5.核心算子优化与指令架构创新 (Enhanced Focus):深度介入 GPU/NPU 硬件底层,主导设计和实现LLM特有高性能算子; 6.负责海外机房建设进展跟综及GPU、网络等相关验收。

任职要求

1.计算机、人工智能、软件工程等相关专业硕士及以上学历; 2.具备5年以上 AI 系统、高性能计算或底层系统开发经验; 3.具备大规模、生产级大语言模型(LLM)在线推理系统从零到一的架构设计与优化实战经验; 4.深入理解 Transformer 架构,具备 vLLM, TensorRT-LLM, LightLLM 等主流推理框架的内核级/源码级深度优化经验;对 KV Cache、低比特量化、连续批处理等核心技术有架构决策能力; 5.:熟悉 x86 服务器硬件体系与 GPU 服务器(HGX 系列 / A100、H800、L20 等)架构:拓扑、供电、PCIe / NVLink 互联、BMC / BIOS; 6.:熟悉数据中心网络:VLAN / BGP、Bonding、RDMA / RoCE 无损网络原理与调优,有专线开通或验收经验。

官方来源与核验

腾讯官方招聘 · 职位编号 2105251554616586240

最近核验:2026-11-07T11:00:15.665523+00:00

查看官方职位详情 ↗

内推申请说明

本站为独立内推协助平台。申请会交由管理员核实岗位与内推渠道,不等于已在公司官网投递;薪资、岗位状态和实际招聘流程以官方信息为准。

腾讯的其他公开职位

查看公司全部职位 ↗

申请前核对

本站为独立内推协助平台。先查看官方职位,再了解申请流程与个人资料的使用方式。