腾讯
社会招聘微信搜索-LLM大模型推理研发高级工程师-研发优化
面议
关于这个机会
1.结合搜索业务场景,研发SLM,LLM等各类型尺寸适合的线上推理模型,保障推理引擎的性能与稳定性,降低部署成本,有效承载C端大流量访问要求,模型类型包括但不限于生成式,判别式等; 2.熟悉搜广推场景的分布式系统的基本原理(检索引擎,KV服务等),能够将通用的系统工程思想注入到大模型推理领域,系统化解决线上的工程难题; 3.紧跟 LLM Infra 领域的前沿技术演进突破,将合适成果落地于实际应用; 4.与搜索算法同学深度合作,联合优化,设计实现能够给大型搜索系统带来代际更迭的大模型。
任职要求
1.本科及以上学历,计算机/电子/自动化/软件等相关专业,有搜广推场景下推理工程优化经验的优先; 2.熟悉Linux 开发环境、熟悉C/C++编程语言,熟练掌握常用算法和数据结构; 3.熟悉业界常用的大模型推理框架VLLM,SGLang等,熟练掌握大模型算法结构原理。
内推申请说明
本站为独立内推协助平台。申请会交由管理员核实岗位与内推渠道,不等于已在公司官网投递;薪资、岗位状态和实际招聘流程以官方信息为准。