职位描述：
1. 构建AI云推理架构： 探索PD分离、KV池化、通信优化等技术，设计并实现适用于AI原生的分布式推理服务架构，应对高并发、低延迟挑战；
2. 开发核心推理平台能力： 打造AI原生网关及高可用系统，核心技术点包括但不限于：异构资源调度、身份认证与鉴权、请求智能限流、动态模型路由、推理容器/镜像加速、安全变更管控、系统深度可观测性等；
3. 参与推理全栈应用实践： 积极涉足推理服务上下游应用开发，如构建RAG（检索增强生成）系统、探索提示词工程优化实践、参与AI模型市场（MCP）建设或AIGC应用落地等。
职位要求：
1. 教育背景： 计算机科学、软件工程、人工智能或相关STEM领域的硕士及以上学历；
2. 技术基石：
* 扎实的计算机科学基础和良好的工程实践能力；
* 精通至少一种主流编程语言（如Python，C++），具备出色的编码和调试能力；
* 熟悉主流大模型推理引擎和优化技术（如 vLLM, SGLang, TensorRT-LLM等）；
2. 经验优先：
* 拥有云计算系统、机器学习平台、分布式计算、中间件等领域的相关开发或落地经验者优先；
* 在机器学习/系统领域顶级会议（如 ATC，ASPLOS, OSDI, MLSys，WWW等）发表论文；
* 作为核心贡献者深度参与知名开源项目，如 vLLM, SGLang, TensorRT-LLM等；
* 在相关国际竞赛中取得突出成绩；
4. 软性素质：
* 沟通协作： 具备出色的沟通表达能力和高效的团队协作精神；
* 技术追求： 对技术有强烈的好奇心与钻研精神，追求卓越；
* 解决问题： 具备优秀的自驱力，能主动发现问题、分析问题并创造性地解决问题。
符合京东价值观：客户为先、创新、拼搏、担当、感恩、诚信。
招聘部门：
京东
工作地点：
北京
注意：为了确保您掌握真实的招聘信息，上述信息均为原始内容。我们的“面试建议”和“模拟面试”均基于原始招聘信息设计和提供。
面试建议：
京东的大模型推理部署工程师职位是一个技术含量极高的岗位，它不同于普通的AI工程师职位，更专注于大模型推理环节的系统级优化和架构设计。这个岗位最核心的特殊点在于需要同时具备深度学习系统优化和分布式系统架构的双重能力。面试官会特别关注候选人在大模型推理引擎优化方面的实际经验，比如是否真正理解并应用过vLLM、TensorRT-LLM等工具。另一个关键点是分布式推理架构设计能力，这需要候选人能够应对高并发、低延迟场景下的技术挑战。
在准备这个职位的面试时，建议重点准备三个方面的内容：首先是技术深度，要能够详细解释你参与过的大模型推理优化项目，包括具体的性能指标提升和遇到的挑战。其次是系统设计能力，面试中可能会要求你设计一个AI推理服务架构，要准备好讨论资源调度、请求限流等关键技术点。最后是开源贡献和研究经历，如果你有相关论文或开源项目经验，一定要准备详细的技术细节。在简历中，建议将大模型推理相关的项目放在最显眼的位置，并用具体数据说明你的贡献。面试时要展现出对技术细节的掌控力，同时也要表现出符合京东价值观的特质，比如创新和担当精神。
在线咨询
提示：由 AI 生成回答，可能存在错误，请注意甄别。