岗位职责:
1. 负责AI模型全流程工程化链路开发与搭建,打通模型训练导出、转换优化、部署落地、运维监控整套闭环,搭建标准化、自动化部署流程,提升算法落地效率。
2. 深耕C++底层代码优化,针对推理引擎、算法模块、算子逻辑进行深度性能调优,涵盖代码结构重构、指令集优化、冗余逻辑删减、编译优化等工作,降低代码运行开销。
3. 主导算法部署Pipeline全维度优化,针对推理流程中的通讯调度、内存管理、数据读写、任务并发等模块专项优化,解决内存泄漏、数据拷贝冗余、进程通讯阻塞、推理时延过高等工程痛点。
4. 负责异构平台推理框架开发与适配,针对Intel、ARM、AMD、RK瑞芯微、此芯等各类硬件平台,完成框架移植、底层对接、硬件加速适配,保障推理引擎跨平台稳定高效运行。
5. 负责模型前后处理算子开发、优化与移植,贴合业务场景定制高效前后处理逻辑,完成算子融合、内存复用、并行化优化,贴合异构硬件特性实现算子性能*大化。
6. 负责AI算法与推理框架、业务系统、底层硬件的一体化集成与联调,解决模块兼容、功能联动、性能瓶颈等问题,实现端到端算法部署链路稳定运行。
7. 梳理工程化落地过程中的技术难点,输出优化方案、开发规范与技术文档,保障算法规模化部署的可复用性与可维护性。
任职要求:
1. 计算机、软件工程、自动化、电子信息等相关专业,本科及以上学历,2年及以上AI算法工程化、模型部署、C++底层开发相关工作经验。
2. 精通C/C++编程,熟练掌握多线程编程、进程通讯、内存管理、指针操作等底层开发技能,熟悉CMake、Makefile等编译构建工具,具备扎实的代码调试与优化能力。
3. 熟悉AI模型部署全流程,掌握模型导出、格式转换、量化压缩、推理调度等核心流程,熟悉ONNX、GGUF、TorchScript等主流模型格式。
4. 具备工程化链路开发实战经验,能够独立搭建算法部署流水线,精通通讯优化、内存优化、任务调度优化等部署调优手段。
5. 熟悉至少一种开源AI推理框架(llamacpp、ONNXRuntime、NCNN、MNN、TensorRT等),具备框架二次开发、模块改造、异构适配经验者优先。
6. 熟悉异构硬件计算架构,具备Intel、ARM、AMD、RK等至少一类平台的底层开发、框架适配、算子优化经验。
7. 掌握前后处理算子开发与优化方法,了解算子融合、向量化优化、内存复用等优化手段,有异构平台算子移植经验者优先。
8. 具备算法集成与系统联调能力,能够独立完成算法模块封装、接口对接、问题排查,保障部署工程稳定性与性能指标。
9. 具备较强的问题排查与工程攻坚能力,能够快速定位内存、通讯、性能、兼容类底层问题,给出落地解决方案。