NVIDIA is the world leader in GPU Computing. We are passionate about markets including Data centers, Gaming, Professional vision, Automotive, HPC and networking. We are well positioned as the “AI Computing Company”, and our GPUs are
高性能计算工程师（CUDA方向） AD内推 蔚来自动驾驶研发团队 北京 社招 全职 数字技术 - 软件研发 本科及以上 3-5 年 职位描述 岗位职责： 基于 NVidia GPU 架构特性，完成深度学习算子，CV 、点云计算库的开发及优化 职位要求 基本要求：1、计算机、软件工程、自动化等相关专业硕士及以上；2、熟悉 Nvidia GPU 体系结构，理解CUDA与硬件底层映射关系，掌握 CUDA 编程模型，熟悉常用 CUDA 优化方法，熟悉基于 TensorCore 编程方法； 3、熟悉常用算法、数据结构，有较强的 C/C++ 编程能力； 5、具备 C/C++和CUDA程序性能分析、问题定位、调试的能力，掌握对应调试分析工具的使用； 6、良好的编程风格习惯、文档撰写能力，团队沟通协作能力； 加分项1、深入理解计算机体系结构；3、熟悉 cub、cutlass 、cute等计算库； 4、熟悉 PTX/SASS
Are you passionate about programming languages, compiler technology, and GPU performance? Do you want to help shape the future of high-performance kernel development for AI? We are looking for outstanding engineers to build CUTLASS DSL, a
NVIDIA is the world leader in computer graphics, artificial intelligence, and accelerated computing. For over 30 years, we have been at the forefront of research and engineering around the greatest advances in technology. Our history of
AI院-GLM团队-预训练算法工程师 北京 全职 研发 - 算法 职位描述 职位描述1. 参与数学或代码大模型预训练的研发工作，包括模型的预训练、对齐和评测等2. 负责构建和优化数学或代码的预训练和对齐数据，提升模型在数学或代码任务上的效果3. 探索针对数学或代码任务的数据合成方法，提升模型在数学或代码任务上的泛化能力 职位要求 职位要求1. 自然语言处理、机器学习等相关专业，硕士及以上学历；2. 较强的算法开发能力，熟悉常用的机器学习、深度学习算法；3. 熟练使用Pytorch、Huggingface、DeepSpeed等框架；4. 对Transformer的架构有较为深入的理解，了解Transformer的各种变体，有相关的研究经验者优先；加分项：1. 在ACL，NeurIPS，ICLR，EMNLP等顶级会议或期刊上发表过论文者优先；2. 熟悉并行训练框架，有多机多卡训练经验者优先；3. 熟悉CUDA编程/Triton编程，有相关算子加速经验者优先； 投递...
AI 院-MOE 训练/推理Infra工程师 北京 全职 互联网 / 电子 / 网游 职位描述 我们正在寻找一位经验丰富的 MOE 训练/推理 Infra 开发工程师，负责设计、实现并优化我们的 MOE（Mixture of Experts）训练和推理框架。该职位需要您具备扎实的分布式系统、高性能计算、深度学习框架以及硬件加速优化的相关知识，能够解决 MOE 训练和推理过程中的各种技术难题，并与算法团队紧密合作，确保算法的顺利实现。主要职责：1、设计并实现高效的 MOE 训练/推理框架：•设计并开发支持大规模分布式训练和推理的 MOE 框架，确保其在各种硬件配置下的高效运行；•优化训练和推理性能，通过算法优化、并行计算、缓存策略等方式，缩短训练和推理时间，提高效率；2、解决 MOE 训练/推理过程中的技术难题：•针对专家网络的选择问题，研究和实现有效的专家选择算法，确保模型在训练和推理过程中的稳定性和准确性；• 解决负载均衡问题，通过动态调整专家网络的负载分配，提高系统资源的利用率，避免过载或空闲状态；• 优化通信过程，减少分布式训练和推理中的通信开销，提高数据传输效率，缩短训练和推理时间3、与算法团队密切合作：•与算法团队保持密切沟通，了解算法需求，根据需求调整和优化训练和推理基础设施，确保算法的顺利实现；•跟踪业界最新技术动态，引入适合项目需求的新技术、新方法，提升团队整体技术水平； 职位要求 关键技能：分布式训练技术：•掌握分布式训练框架（如 Horovod、PyTorch Distributed）的使用和优化。•具备设计和实现高效分布式训练系统的能力。硬件加速优化：•熟悉 GPU、TPU 等硬件架构，能够进行硬件级性能调优。•了解 CUDA、cuDNN 等相关技术，能够利用硬件加速提升训练和推理效率。模型优化技术：•了解量化、剪枝、压缩等模型优化方法，以提升推理效率•能够在实际项目中应用这些技术，优化模型大小和推理速度•负载均衡与通信优化•能够设计高效的负载均衡策略和通信机制，以应对
AI院-推理Infra工程师（量化算法研究/推理框架优化/GPU优化） 北京、上海 全职 互联网 / 电子 / 网游 职位描述 【方向一】量化算法研究员-职位描述通过前沿的模型量化、压缩与推理加速技术，显著降低大语言模型及多模态模型的存储占用与计算成本，推动 LLM 的大规模部署。-工作内容1、研发及改进 PTQ（训练后量化）、QAT（量化感知训练）、混合精度量化等核心算法，针对LLM/VLM（大语言模型/视觉语言模型）设计定制化量化方案，持续优化模型精度与推理效率的平衡；2、探索并实践低比特量化（如INT8/INT4/FP8/FP4）、权重稀疏化、知识蒸馏等协同压缩技术，提升压缩率同时控制精度损失；3、开发及优化量化工具链，完成对 GLM 系列模型的转换、量化校准及部署集成；4、 跟踪学术界与工业界前沿量化技术，通过论文复现、实验对比推动技术迭代。-职位要求1、计算机科学、电子工程、数学等相关专业硕士及以上学历，3 年以上模型量化或推理加速经验；或优秀本科生具备扎实项目履历；2、深入理解 Transformer 架构及 LLM 推理流程，精通 Python，熟悉常见的开源 LLM 推理框架（sglang/vllm/trtllm 等）；3、掌握量化原理（校准策略、量化粒度、误差分析）及主流算法（如GPTQ、AWQ）；4、具有 CUDA/Triton 编程经验，能自主实现高性能算子或优化内核计算加分。【方向二】推理框架优化工程师-职位描述1、高性能算子开发与优化：负责AI模型（尤其是大语言模型及多模态模型）在GPU上的核心算子（Kernel）的设计、开发与极致性能优化，支撑训练和推理场景的高效运行。2、性能分析与调优：深入分析GPU应用程序的性能瓶颈，通过优化内存访问模式、线程调度、执行效率等手段，显著提升计算密集型任务的吞吐量和降低延迟。3、技术集成与应用：研究并应用业界前沿的优化技术（如模型量化QAT/PTQ、算子融合、动态形状支持、FlashAttention等），并将其集成至推理/训练引擎。-职位要求1、编程能力：具备3年及以上GPU编程与高性能计算优化经验，深入理解GPU架构、并行计算原理、计算机体系结构，具备高性能计算内核的开发与优化经验。2、精通C/C++，具备扎实的编程基础、良好的编程风格和丰富的调试经验；熟练掌握Python；熟悉Linux开发环境。3、性能优化经验：能够熟练使用Nsight Compute、Nsight Systems等GPU性能分析工具，有实际的性能优化案例和成果，能独立定位和解决复杂的性能问题。4、算法基础：熟悉基础数学函数、线性代数、矩阵运算、数值计算等数学库相关算法，了解深度学习常见算子的计算方式。【方向三】GPU优化工程师-职位描述利用对 cuda 生态软件和底层体系结构的了解，帮助团队优化训练和推理的计算效率。-工作内容1、高性能算子开发与优化：负责AI模型（尤其是大语言模型及多模态模型）在GPU上的核心算子（Kernel）的设计、开发与极致性能优化，支撑训练和推理场景的高效运行。2、性能分析与调优：深入分析GPU应用程序的性能瓶颈，通过优化内存访问模式、线程调度、执行效率、多流并行协同等手段，显著提升计算密集型任务的吞吐量和降低延迟。3、技术选型：对 GPU 领域相关的 DSL/编译器（例如 triton/cuteDSL/tilelang）等进行尝试和了解，确定团队内的 DSL/编译器的技术选型，为未来的迭代做好技术储备。-职位要求1、编程能力：具备3年及以上GPU编程与高性能计算优化经验，深入理解GPU架构、并行计算原理、计算机体系结构，具备高性能计算内核的开发与优化经验。2、精通C/C++，具备扎实的编程基础、良好的编程风格和丰富的调试经验；熟练掌握Python；熟悉Linux开发环境。3、性能优化经验：能够熟练使用Nsight Compute、Nsight Systems等GPU性能分析工具，有实际的性能优化案例和成果，能独立定位和解决复杂的性能问题。4、算法基础：熟悉基础数学函数、线性代数、矩阵运算、数值计算等数学库相关算法，了解深度学习常见算子的计算方式。
AI基础架构工程师-大规模集群方向 上海 工程类 本科及以上 5-7 年 职位描述 1.大规模集群管理： 负责千卡/万卡级 GPU 集群（如 NVIDIA A100/H100）的日常运维、稳定性保障及容量规划，确保高可用性和高资源利用率。2.容器化平台建设： 基于 Kubernetes (K8s) 构建和优化 AI 训练平台，负责调度系统（Scheduler）的优化，解决资源隔离、优先级调度及断点续训（Checkpointing）等问题。3.故障排查与性能优化： 深入排查分布式训练过程中的疑难杂症（如 NCCL Timeout、GPU 掉卡、网络拥塞等），针对训练任务进行软硬件层面的性能调优。4.底层环境维护： 维护底层驱动（CUDA, cuDNN）、NCCL 通信库及异构硬件的监控体系（Prometheus/Grafana），实现对 GPU、RDMA 网络和存储系统的全链路监控。5.框架支持与对接： 支持主流深度学习框架（PyTorch, TensorFlow, Megatron-LM 等）在集群上的高效运行，优化 Dataloader 和分布式训练启动流程。 职位要求 1. 基础架构与容器技术：精通
训练推理优化工程师(Mstar) 北京、苏州、上海 正式 技术 - 软件工程 职位描述 1. 负责智能驾驶模型训练优化的研究和落地，通过数据并行，模型并行，通信优化，CUDA算子优化等，大幅提升模型的训练速度与效率；2. 深入分析训练系统，定位和解决训练系统各个层次的性能瓶颈，不断提升训练效率，打造业界领先的训练系统，推进算法的高效迭代。 职位要求 1. 计算机、数学、物理、电子工程、自动控制等专业硕士及以上学历；2. 了解深度学习算法基本原理，熟悉CNN/Transformers等主流模型原理；具有AutoML/模型推理/训练优化或AI 相关大模型/重要项目经验者优先；3. 优秀的代码能力，熟练掌握C/C++或Python/CUDA等编程语言；4. 能够熟练使用至少一种主流的机器学习框架pytorch，熟悉各种模型/数据并行训练框架优先(deepspeed/megatron)；有深度学习训练框架开发经验的加分；5. 具备扎实的计算机科学功底和编程能力，熟悉计算机体系结构，有高性能计算/高并发开发/系统性能优化经验者优先；6. 良好的团队协作能力；创新性强，有良好的动手实现能力，对技术有热情。 Mstar专项招聘计划旨在招聘改变世界的顶尖人才，重塑未来人类出行方式。如果你是竞赛大牛、学术达人、工程达人、超级学霸，欢迎应聘！改变世界，百万年薪；超越智驾摩尔定律的世界级难题；全球化研发资源、大牛导师、十倍速成长！ 投递...
训练推理优化实习生(Mstar) 北京、苏州、上海 实习 技术 - 软件工程 职位描述 1. 负责智能驾驶模型训练优化的研究和落地，通过数据并行，模型并行，通信优化，CUDA算子优化等，大幅提升模型的训练速度与效率；2. 深入分析训练系统，定位和解决训练系统各个层次的性能瓶颈，不断提升训练效率，打造业界领先的训练系统，推进算法的高效迭代。 职位要求 1. 计算机、数学、物理、电子工程、自动控制等专业硕士及以上学历；2. 了解深度学习算法基本原理，熟悉CNN/Transformers等主流模型原理；具有AutoML/模型推理/训练优化或AI 相关大模型/重要项目经验者优先；3. 优秀的代码能力，熟练掌握C/C++或Python/CUDA等编程语言；4. 能够熟练使用至少一种主流的机器学习框架pytorch，熟悉各种模型/数据并行训练框架优先(deepspeed/megatron)；有深度学习训练框架开发经验的加分；5. 具备扎实的计算机科学功底和编程能力，熟悉计算机体系结构，有高性能计算/高并发开发/系统性能优化经验者优先；6. 良好的团队协作能力；创新性强，有良好的动手实现能力，对技术有热情。 投递...
AI院-训练Infra工程师 北京、上海 全职 互联网 / 电子 / 网游 职位描述 1、负责大规模预训练框架的研发、优化和维护，根据业务需求持续改进训练框架和策略，提升模型训练效率2、分析和定位训练中的性能瓶颈，实施针对性优化措施，提升训练效率和稳定性3、跟进业界技术进展，不断同步与集成最新训练优化策略 职位要求 1、对自然语言处理、计算机视觉和多模态算法有深入理解，熟悉主流的 LLM 和 VLM 模型架构，有分布式训练经验2、精通 Python 编程语言，熟悉 PyTorch 深度学习框架和 Megatron 分布式训练框架3、有大规模预训练优化 / MoE 训练优化经验的优先考虑加分项：1、在ACM、NOI、IOI、超算比赛中有获奖经历者优先2、具有 cuda 算子优化/profiling 能力者优先 投递...
AI院-GLM团队-训练/推理infra算法工程师 北京 全职 互联网 / 电子 / 网游 职位描述 岗位职责 1. 与算法团队深度协作，参与 下一代 GLM 大模型架构设计与系统实现 ，推动模型结构与系统效率的协同优化2. 构建 大模型推理成本分析与模拟系统 ，从算力、通信、KV cache、并行策略等维度优化推理效率3. 设计与优化 超大规模训练基础设施（万卡级） ，提升训练稳定性、资源利用率与训练效率4. 探索 MoE、Sparse Attention、长上下文等新架构在训练与推理系统中的高效落地 你将参与 * 下一代 GLM 系列基础模型（百亿到万亿参数级） 的系统设计* 万卡规模训练系统 的优化与稳定性工程* 推理系统的 极致效率优化（吞吐
AI院-大模型量化算法研究员 北京 全职 互联网 / 电子 / 网游 职位描述 通过前沿的模型量化、压缩与推理加速技术，显著降低大语言模型及多模态模型的存储占用与计算成本，推动 LLM 的大规模部署。【工作内容】1、研发及改进 PTQ（训练后量化）、QAT（量化感知训练）、混合精度量化等核心算法，针对LLM/VLM（大语言模型/视觉语言模型）设计定制化量化方案，持续优化模型精度与推理效率的平衡；2、探索并实践低比特量化（如INT8/INT4/FP8/FP4）、权重稀疏化、知识蒸馏等协同压缩技术，提升压缩率同时控制精度损失；3、开发及优化量化工具链，完成对 GLM 系列模型的转换、量化校准及部署集成；4、 跟踪学术界与工业界前沿量化技术，通过论文复现、实验对比推动技术迭代。 职位要求 1、计算机科学、电子工程、数学等相关专业硕士及以上学历，3 年以上模型量化或推理加速经验；或优秀本科生具备扎实项目履历；2、深入理解 Transformer 架构及 LLM 推理流程，精通 Python，熟悉常见的开源 LLM 推理框架（sglang/vllm/trtllm 等）；3、掌握量化原理（校准策略、量化粒度、误差分析）及主流算法（如GPTQ、AWQ）；4、具有 CUDA/Triton 编程经验，能自主实现高性能算子或优化内核计算加分。 投递...
We are looking for a System Application Engineer in Beijing, Shanghai, or Shenzhen, China to drive key aspects of GPU and CPU technology for enterprise and data-center platforms, including NVIDIA Enterprise GPU and CPU product lines.
For two decades, NVIDIA has pioneered visual computing through the invention of the GPU, the engine of modern accelerated computing. Today, this foundation powers breakthroughs across gaming, film, scientific research, autonomous machines, and robotics. NVIDIA is
大模型AI算法实习生 北京、上海 实习 职位描述 面向基础大模型和具身机器人等关键行业AI应用场景，参与设计、开发、实现、优化多模态智能交互、Agentic智能体应用、时空理解与记忆、VLA/WAM训练推理、机器人生成式控制等方向的前沿算法和系统落地。1. 投入具身AgenticAI算法研究，提升长时程任务执行效率和鲁棒性；2. 投入具身多模交互算法研究，提升推理响应速度和拟人动态效果； 职位要求 （1）计算机、软件、自动化、电子、机械、物理、数学、精密仪器等相关专业本科、硕士、博士在读同学；（2）有以下任一经验者优先： a. 编程基础扎实，掌握python/C/C++编程语言，熟悉pytorch/cuda等AI开发框架，有良好的架构设计和编程习惯； b. 具有AI训练、AI推理、CV、深度学习、模型部署等AI算法相关经历； c. 具有机器人多模感知、路径规划、运动控制、建图定位相关算法研究和开发经历； d. 具备较强的新技术和新架构研究能力，可快速跟踪洞察业界最前沿AI领域技术； e. 具备独立工作能力和解决问题的能力； 投递...
AI4S智能体开发工程师 北京 全职 本科及以上 职位描述 1、设计、开发并维护面向科学计算／仿真流程的智能体 (Agents)／工具链／自动化平台2、将 AI (LLM / 神经算子) 与数值仿真 / HPC / 物理建模代码耦合，实现自动化仿真、参数调优与结果分析3、构建多智能体系统 (Multi-Agent / Planner-Executor / Task Decomposition) 与自动化科研流程 (设计 → 仿真 → 优化 → 输出)4、与科研 /工程团队协作，将智能体用于燃烧、流体、材料、化学、量子等实际科学／工程问题 职位要求 1、拥有计算机／AI／数学／物理／力学／工程等相关专业背景2、熟悉深度学习 (PyTorch / JAX
Al infra推理优化研究员 上海 社招 全职 互联网 / 电子 / 网游 职位 ID：A144366 职位描述 1. 下一代超节点系统探索:研究面向万亿参数大模型推理的超节点架构设计，开展多芯片互联、异构算力协同、分布式推理调度、内存层级与 10 优化等关键技术攻关，构建高吞吐、低时延、高密部署的下一代推理超节点仿真原型与评测体系。2. 智能体驱动的算子生成研究:基于大模型与智能体技术，开展自动算子生成、算子融合、硬件感知代码生成与编译优化研究，构建自适应算子搜索与生产工具链，覆盖 GPU/NPU/ 国产AI 芯片，持续突破推理算子性能极限。3. Alinfra 全栈优化技术研究:从模型、编译、运行时、系统与硬件协同层面开展推理全栈优化，包括模型压缩/量化、计算图优化、分布式推理、推理引擎与调度器设计、端云协同推理等，形成可工程化的技术方案与标准。4. 研究与成果建设:跟踪国际顶会与产业前沿，独立设计研究路线、开展实验验证、发表高水平论文;参与技术标准制定、开源项目建设与产学研合作，推动研究成果转化为平台能力与业务竞争力。 职位要求 1. 基本条件:计算机、电子工程、自动化、人工智能等相关专业，硕士及以上学历;3-5 年及以上 Alinfra、推理优化、高性能计算或系统研发相关工作经验，优秀博士可放宽。2. 核心能力:具备独立研究与课题主导能力，能自主定义问题、设计方案、完成实验与成果交付;有顶会论文(MLSyS/OSDI/NeUrIPS/ICML/ASPLOS 等)、知名开源项目贡献者优先。3. 专业技能:a. 深入理解计算机体系结构、操作系统、分布式系统、编译原理与并行计算;b. 精通 C++/Python，熟悉 CUDA/Triton/MLIR/TVM/Torchinductor 等至少一种编译/算子栈;c.
软件工程师 - pytorch训练框架国产芯片适配 北京 全职 职位描述 将前沿的端到端自动驾驶等模型训练，在国产GPU训练芯片上进行适配，并管理大规模训练集群。在这个岗位上，你会负责：1. 把基于Nvidia GPU的pytorch训练，迁移到阿里平头哥等国产训练GPU上；2. 把基于CUDA实现的自定义算子，迁移到国产训练GPU上；3. 把pytorch中的一些复杂算子，迁移到国产训练GPU上；4. 深入分析国产GPU训练芯片的设计和软件接口，充分挖掘GPU性能；5. 深入了解自动驾驶领域的各类前沿模型设计，深入分析模型训练瓶颈；6. 管理大规模训练集群，提升GPU利用率。 职位要求 1. 有把pytorch训练任务，从Nvidia迁移到阿里平头哥等某一家国产训练GPU的经验；2. 精通某一家国产训练GPU训练框架；3. 熟悉GPU设计理念，熟悉CUDA编程；4. 熟悉pytorch训练框架，能够分析训练性能瓶颈；5. 优秀的python、GPU编程能力。加分项：1. 有过GPU自定义算子的开发经验。 投递...
三维重建算法工程师 上海 全职 研发 - 算法 职位描述 负责三维重建与三维场景理解相关算法链路的研发、优化和工程化落地，覆盖静态 3DGS 重建、物体级三维重建、场景级三维构建、三维语义分割和可交互资产生成等方向。负责 RGB / RGB-D / 多视角图像到三维资产的重建流程建设，包括数据采集、相机标定、多视图几何对齐、深度估计、点云融合、网格重建、3DGS 优化和三维语义理解。负责面向具身智能场景的物体级与场景级资产生成，将真实环境中的家具、工具、设备、操作台面等对象转化为具备几何结构、语义属性、物理属性和可交互能力的三维资产。负责端侧三维视觉算法的优化与部署，包括模型裁剪、推理加速、显存优化、算子优化、数据流优化和边缘设备适配，提升三维重建算法在实际系统中的效率和稳定性。跟踪并评测三维视觉和三维生成前沿算法，包括但不限于 3DGS、NeRF、VGGT、π³、DUSt3R、MASt3R、Depth Anything、SAM 系列三维扩展方法等，推动前沿算法在业务场景中的复现、改进和落地。与仿真平台、机器人训练和具身智能算法团队协作，完成三维资产向仿真环境的转换、适配和验证，支撑机器人训练、任务评测、场景生成和仿真数据合成。 职位要求 硕士及以上学历，计算机、人工智能、自动化、机器人、测绘、图形学、计算机视觉等相关专业优先。具备扎实的三维视觉、计算机图形学或多视图几何基础，熟悉相机模型、相机标定、位姿估计、极线几何、PnP、BA、SfM、MVS、ICP 等相关技术。熟悉常见三维数据结构与表达方式，包括点云、网格、体素、隐式场、NeRF、3D Gaussian Splatting等。熟悉深度估计、三维重建、三维语义分割、三维目标理解、视觉几何基础模型等方向的主流方法，并具备相关算法复现、训练或工程部署经验。熟悉 Python / C++ 开发，熟练使用 PyTorch、OpenCV、Open3D、COLMAP、PCL、CUDA 或相关三维视觉工具链中的一种或多种。具备端侧或工程化部署经验，了解 TensorRT、ONNX Runtime、CUDA 加速、模型量化、推理服务封装或边缘设备部署流程者优先。有真实场景三维数据处理经验，能够处理光照变化、遮挡、纹理缺失、反光材质、动态物体、尺度漂移和稀疏视角等复杂问题。具备良好的工程意识和问题闭环能力，能够从数据采集、算法建模、重建质量、部署效率和下游仿真可用性等维度持续优化系统。 投递...