vivo AI研究院致力于研发业界领先的人工智能技术,通过AI技术创新持续为全球5亿+vivo用户带来无处不在的惊喜和激动人心的智慧体验。在这里,你将有机会参与打造蓝心大模型的研发与应用,推动大模型在蓝心小v、AIOS等产品中的创新落地与持续优化 你将与我们一起专注于: 1、负责AI产品的云端系统的高可用架构设计与开发工作,提升系统可靠性,支撑海量并发; 2、建设大模型推理工程,打造分布式推理框架、模型压缩引擎,提升文本、语音、视觉等方向的推理效率。 1、博士学历,计算机、人工智能、电子工程等相关专业; 2、熟悉操作系统、体系结构、网络等计算机基础,具备扎实的编程功底,掌握C/C++/Python等一门编程语言; 3、深入理解GPU高性能计算技术,熟悉大模型推理主流技术包括PD分离、EP并行、kvcache分级分布式存储、投机解码等; 4、深入理解大模型推理相关模型量化、模型稀疏化技术,尤其是DeepSeek的MLA、DSA等核心技术; 5、对大模型推理通信优化有深入理解,尤其是EP并行、PD分离和kvcache分布式存储通信优化; 6、善于沟通,乐于合作,热衷新技术,具有钻研精神。 7、优选条件: (1)熟悉Megatron、verl等大模型训练框架优先; (2)熟悉TensorRT、VLLM、SGlang等推理引擎优先; (3)熟悉CUDA编程、triton编译等异构计算技术优先; (4)有AI工程落地经验或开源项目经历优先。