岗位职责:
1.负责深度学习 / 大模型核心算子优化、适配与开发,针对 Transformer 类大模型算子(Attention、FFN、MatMul、Norm 等)进行深度性能调优。
2.负责智能化算子搜索体系搭建与落地,实现自动算子生成、性能*优匹配、精度与速度平衡优化。
3.基于 llamacpp 等开源推理框架,进行Vulkan、SYCL、CUDA等异构后端的深度开发、适配与性能优化,提升多平台推理效率。
4.负责 AI 算子在Nvidia/Intel/ARM/AMD/RK(瑞芯微) 等多硬件平台的移植、适配、指令集优化与底层加速,解决不同架构下的算子性能瓶颈。
5.负责大模型推理算子与推理框架的联合优化,支撑 KV 压缩、并行解码等关键特性的算子级落地。
6.构建算子性能评测、自动化测试与优化工具链,输出平台化算子优化方案。
任职要求:
1.计算机、微电子、自动化等相关专业,本科及以上学历,2 年及以上 AI 算子开发、推理优化、后端适配工作经验。
2.精通模型算子优化原理,熟悉算子融合、内存复用、向量化优化、稀疏优化等技术,有大模型算子优化落地经验优先。
3.熟悉智能化算子搜索(Auto-Tuner/Op Search) 技术,有自动算子生成、性能搜索、调度优化经验者优先。
4.精通 llamacpp 框架,熟悉其底层架构、后端扩展机制,具备Vulkan / SYCL 后端开发与优化经验,能独立完成后端算子开发与移植。
5.扎实的 C/C++开发能力,熟悉汇编优化、多线程并行、GPU / 异构计算编程;熟悉 Python、CMake 编译体系。
6.熟悉深度学习推理流程,理解 ONNX、TorchScript 等模型格式,了解大模型推理特性与优化方向。
7.具备较强的性能 profiling、问题定位与工程化落地能力,能独立完成跨平台算子适配与优化。