AI大模型优化工程师 - 音视频技术

关于这个机会

团队介绍：视频与边缘部门承载了字节跳动的媒体内容分发基建及技术中台，支持了字节跳动全系产品，如抖音、今日头条、番茄小说、西瓜视频等APP的点播、直播、实时通信、图片等多媒体业务发展，同时将业务发展过程中沉淀下来的技术能力和工具，通过火山引擎对外输出，面向各行各业用户提供视频云产品和服务，愿景是为内外部业务伙伴提供最低成本、最优画质、最低延时、最安全可靠的富媒体内容分发解决方案，助力业务伙伴降本提效实现持续增长。 1、深度参与对字节跳动VnE自研模型及开源LLM/VLM多模态模型在多种异构芯片上的推理优化，充分发挥出数十万卡的超大规模算力，支撑集团在点播、直播、图片及其它离线大规模数据处理场景中的大模型相关推理业务； 2、负责完善不同芯片的推理适配和优化技术体系，提升大模型芯片矩阵的适配与优化效率； 3、负责新型异构芯片在多种大模型上的分析评估工作，引入业界更先进或更高性价比的芯片算力； 4、负责前沿技术的调研评估和引进落地，例如前沿论文中的推理加速技术、软硬协同优化、新异构硬件特性等。

任职要求

1、计算机科学、软件工程或相关专业本科及以上学历； 2、熟练掌握Linux环境下的C/C++、Python编程语言； 3、具备扎实的计算机体系结构技术基础和并行计算优化能力，熟悉常见算法和数据结构，具有良好的编程习惯； 4、熟悉GPU或NPU的硬件架构，熟练掌握推理优化软件栈（CUDA、CUTLASS、AscendC、BangC等）中的一种或多种，擅长至少一种异构芯片上的AI模型性能分析和算子优化； 5、了解主流LLM、多模态模型结构特点，了解主流推理框架如vLLM、SGLang，了解常见大模型并行策略；了解常见大模型量化算法及算子优化方案可加分； 6、具备优秀的问题分析与解决能力，能够自主探索并设计创新性解决方案；具备良好的沟通与协作能力，能够与团队成员共同探索新技术，推动研究进展与项目落地。

内推申请说明

本站为独立内推协助平台。申请会交由管理员核实岗位与内推渠道，不等于已在公司官网投递；薪资、岗位状态和实际招聘流程以官方信息为准。