微信搜索-AI Infra 工程师-大模型推理方向 (深圳）（广州)

关于这个机会

1.工作职责：； 2.负责开发和优化LLM，VLM等大模型的推理引擎，构建适合AI Search,智能 Agent相关领域大规落地应用中的推理基础架构； 3.紧跟 LLM Infra 领域的前沿技术演进突破，将合适成果落地于实际应用； 4.与搜索算法同学深度合作，联合优化，设计实现能够给大型搜索系统带来代际更迭的大模型。

任职要求

1.岗位要求：； 2.熟悉AI基础硬件设置，有真实的大规模推理系统的设计开发部署经验； 3.熟悉各种主流LLM/VLM的模型结构，具有 vllm/sglang/TRT-llm等推理引擎优化实践经验； 4.熟悉LLM 推理常用加速方法（算子融合、量化策略、动态批处理、分布式KV 缓存优化等）； 5.有针对真实场景问题的LLM 模型结构和的设计优化经验。

内推申请说明

本站为独立内推协助平台。申请会交由管理员核实岗位与内推渠道，不等于已在公司官网投递；薪资、岗位状态和实际招聘流程以官方信息为准。