小米 – 大模型推理优化工程师 职位分析和面试指导

职位描述：

1、大模型推理优化和计算框架的设计和开发工作，提升大模型推理效率；
2、通过量化、并行计算、访存优化等方法，支持单卡、多卡、多机情况下模型推理时延和吞吐效率的提升；
3、进行模型性能分析和调优，识别和解决瓶颈问题，提升模型的推理速度；
4、实施并维护自动化工具和流程，简化模型推理部署过程；
5、跟踪最新的研究进展和技术趋势，提出改进和创新的想法，推动团队技术发展。

职位要求：

1、计算机、数学相关专业本科及以上学历；4年以上相关经验；
2、熟练掌握C++/Python等编程语言，在模型训练和推理方面有丰富的编程和优化经验；
3、熟悉常见的机器学习/推理框架，如Pytorch、HF、vLLM、SGLang等。
4、具有大模型推理优化或深度学习推理优化经验者优先，参与推理框架社区者优先；
5、具备时新学术论文阅读以及实验能力者优先；
6、具备良好的沟通和团队协作能力

招聘部门：

小米

工作地点：

北京市 ID：A179886

面试建议：

大模型推理优化工程师是一个技术含量很高的岗位，小米作为科技行业的领军企业，对这个职位的要求非常明确。从职位描述可以看出，他们特别看重候选人在大模型推理优化方面的实际经验，包括计算框架开发、性能调优等核心技术能力。同时，对主流机器学习框架的熟悉程度也是重要考察点。 在准备面试时，建议重点准备以下几个方面：首先，要对自己参与过的大模型优化项目有深入理解，能够清晰说明优化思路和具体实现方法。其次，要熟悉常见的性能分析工具和优化手段，比如如何识别和解决推理瓶颈。最后，建议提前了解小米在大模型领域的最新动态和技术方向，这能展现你对行业的关注度和学习能力。面试中可能会遇到技术细节的深入探讨，所以对简历中提到的技术点要做好充分准备。