拓达教育 Touchdown Education 拓达求职支持办公室Career Support Office touchdown.org.cn ↗
JobFinder为留学生筛选身份匹配的岗位

词元星火-端侧(含边缘)大模型推理研发工程师-合肥(J14269)

科大讯飞 · 含边缘 · 中国 · 9月3日 · 今天开放
评分
94
发布日期
9月3日 (今天开放)
内推
暂无
公司规模
10k+
行业
人工智能
投递编号
190857496

岗位描述

1、 面向边缘场景的算子开发与优化

  • 围绕GPU等主流边缘硬件架构,依托SIMD/SIMT等并行计算技术,完成面向大模型核心计算算子研发和优化。
  • 立足芯片存储层级、计算单元、指令集特性,开展针对性性能调优,确保算子性能精准匹配硬件能力,为业务提供高效算力支持。

2、 面向端侧丰富算力硬件适配

  • 针对高通、MTK等多种常见的端侧芯片,高效发挥芯片算力,加速星火模型计算;
  • 面向瑞芯微、聆思等丰富的国产端侧芯片,协同芯片特性,适配优化星火大模型。

3、协同设计与引擎框架研发

  • 紧跟模型结构与算法迭代趋势,协同框架、算法团队,设计适配边缘硬件特性的模型方案,挖掘硬件与算法的协同潜力。
  • 围绕自有或开源推理框架,研发星火大模型端侧推理的框架,设计并实现高性能、低延迟的推理解决方案,为模型落地提供性能优化支撑,保障业务高效运行。

1、基础门槛

  • 研究生及以上学历,热爱开源;
  • 编程功底扎实,精通C++/C语言,具备良好的代码规范意识与数据结构、算法基础,熟悉操作系统核心原理;
  • 熟练使用Git等代码管理工具,养成规范的开发习惯;熟练掌握linux下开发能力;
  • 热爱性能优化,兼具技术视野与代码品质追求,具备良好的中文沟通能力、团队协作意识、责任心与自驱力,学习能力突出。

2、技术必备

  • 熟练掌握NEON指令、AVX指令、CUDAC、OpenCL等至少一种编程原理,能够基于编程语言开展研发和优化工作;
  • 掌握模型表示协议ONNX,熟悉编译优化技术,清晰理解GPU/NPU架构的并行执行、内存层级与计算单元特性;
  • 对硬件底层架构有清晰认知,能够结合硬件特性开展针对性优化。

3、加分项(非必须要求)

-端侧专长:有低比特计算、定点化等落地和研发实践,深入理解AI加速卡硬架构和特性;

-竞赛背景:在高性能计算或端侧相关相关赛事取得较好成绩;

  • 行业经验:拥有1-3年以上端侧落地经验,执着于挖掘硬件性能、提升软件效率。

加入我的投递 →