职位描述
高性能优化工程师(LLM/CV/语音)
工作地:上海/重庆/深圳
岗位职责:
负责大语言模型(LLM)、计算机视觉(CV)、语音(ASR/TTS/Audio)等 AI 模型在端侧及云端的推理性能优化与工程落地。
负责模型部署、推理加速与资源优化,包括但不限于:推理时延(Latency)优化、吞吐量(Throughput)提升、显存/内存占用优化、功耗优化等
负责 GPU、NPU、CPU 等异构计算平台上的性能分析与优化,推动模型在移动终端和边缘设备上的高效运行,包括:算子优化(Operator Optimization)、多线程与任务调度优化、内存与通信优化等
负责 AI 模型在 Android 手机及 IoT 设备上的部署与性能调优,推动端侧 AI 能力规模化落地。
与算法、平台、系统及产品团队协作,建立模型性能评测体系、优化工具链和最佳实践,持续提升 AI 产品体验。
跟踪 AI 推理框架、芯片平台及行业前沿技术发展,探索大模型、多模态模型、Agent 等新型 AI 能力的高性能部署方案。