1、 面向边缘场景的算子开发与优化
- 围绕GPU等主流边缘硬件架构,依托SIMD/SIMT等并行计算技术,完成面向大模型核心计算算子研发和优化。
- 立足芯片存储层级、计算单元、指令集特性,开展针对性性能调优,确保算子性能精准匹配硬件能力,为业务提供高效算力支持。
2、 面向端侧丰富算力硬件适配
- 针对高通、MTK等多种常见的端侧芯片,高效发挥芯片算力,加速星火模型计算;
- 面向瑞芯微、聆思等丰富的国产端侧芯片,协同芯片特性,适配优化星火大模型。
3、协同设计与引擎框架研发
- 紧跟模型结构与算法迭代趋势,协同框架、算法团队,设计适配边缘硬件特性的模型方案,挖掘硬件与算法的协同潜力。
- 围绕自有或开源推理框架,研发星火大模型端侧推理的框架,设计并实现高性能、低延迟的推理解决方案,为模型落地提供性能优化支撑,保障业务高效运行。
1、基础门槛
- 研究生及以上学历,热爱开源;
- 编程功底扎实,精通C++/C语言,具备良好的代码规范意识与数据结构、算法基础,熟悉操作系统核心原理;
- 熟练使用Git等代码管理工具,养成规范的开发习惯;熟练掌握linux下开发能力;
- 热爱性能优化,兼具技术视野与代码品质追求,具备良好的中文沟通能力、团队协作意识、责任心与自驱力,学习能力突出。
2、技术必备
- 熟练掌握NEON指令、AVX指令、CUDAC、OpenCL等至少一种编程原理,能够基于编程语言开展研发和优化工作;
- 掌握模型表示协议ONNX,熟悉编译优化技术,清晰理解GPU/NPU架构的并行执行、内存层级与计算单元特性;
- 对硬件底层架构有清晰认知,能够结合硬件特性开展针对性优化。
3、加分项(非必须要求)
-端侧专长:有低比特计算、定点化等落地和研发实践,深入理解AI加速卡硬架构和特性;
-竞赛背景:在高性能计算或端侧相关相关赛事取得较好成绩;
- 行业经验:拥有1-3年以上端侧落地经验,执着于挖掘硬件性能、提升软件效率。