Vacante

Engineering Manager, Deep Learning Inference

NVIDIA

Tiempo completo Presencial Remoto

Vacante indexada automáticamente desde Himalayas. TG Empleos no intermedia este proceso.

Postúlate ahora 🔔 Recibir alertas

Análisis Técnico de Tec Gurus

Puesto de liderazgo técnico en NVIDIA para dirigir el desarrollo y optimización de frameworks de inferencia de deep learning open-source sobre GPUs. Combina gestión de equipos de ingeniería con trabajo en optimización de modelos LLM y generativos a gran escala.

Deep learning inferenceCUDATritonCUTLASSComunicación multi-GPU (NIXL, NCCL, NVSHMEM)PythonOptimización de rendimiento y profiling de modelos

Descripción

Empresa: NVIDIA

Gerencia un equipo de ingeniería que desarrolla y optimiza frameworks de inferencia de deep learning open-source acelerados en GPUs NVIDIA.

Experiencia requerida

Experiencia liderando y escalando equipos de ingeniería de software de inferencia de deep learning y software acelerado por GPU.

Responsabilidades

Liderar, mentorear y escalar el equipo de ingeniería de inferencia; definir estrategia, roadmap y ejecución de frameworks de inferencia; colaborar con equipos de compiladores, librerías e investigación; supervisar tuning, profiling y optimización de modelos a gran escala; guiar en buenas prácticas de CUDA, Triton, CUTLASS y comunicación multi-GPU; representar al equipo en discusiones de planeación.

Conocimientos técnicos

Deep learning inference, CUDA, Triton, CUTLASS, NIXL, NCCL, NVSHMEM, LLM, IA multimodal y generativa, optimización de rendimiento y profiling, frameworks vLLM, SGLang y FlashInfer.

Habilidades

Liderazgo y mentoría de equipos, definición de estrategia y roadmap, colaboración transversal, excelencia técnica e innovación continua.

Experiencia

Experiencia liderando y escalando equipos de ingeniería de software de inferencia de deep learning y software acelerado por GPU.

Conocimientos

Deep learning inference, CUDA, Triton, CUTLASS, NIXL, NCCL, NVSHMEM, LLM, IA multimodal y generativa, optimización de rendimiento y profiling, frameworks vLLM, SGLang y FlashInfer.