小

【27届校招】端侧大模型推理与量化工程师(北京)

小鹏汽车| 北京
校招研发本科
发布于 2026-10-21

职位描述

1. 参与大模型与语音算法的量化、剪枝、蒸馏等模型精简与加速技术,完成在高通等移动端的转换、部署,保障端侧低延迟与高精度; 2. 参与设计并实现端侧推理引擎,负责关键推理优化策略(如 Prompt Cache、投机解码、Flash Attention 等)的工程落地,结合图优化与算子适配,最大化 NPU/CPU/DSP硬件利用率; 3. 开发并迭代模型转换、精度与性能自动化测试工具链,提升算法到端侧部署的交付效率; 4. 负责推理链路延迟、精度与功耗问题的定位,并给出优化方案,推动端侧推理性能指标达成。

任职要求

1. 人工智能、计算机、电子信息、数学等相关专业。 2. 掌握大模型训练、压缩、部署全流程,对其中模型压缩、部署相关Infra工作有相关学术研究以及实习项目经历; 3. 对模型压缩、部署相关Infra工作有足够的热情,乐于跟踪行业开源方法; 4. 良好的C++/Rust编程基础。

相关职位推荐