Ingeniero/a de Inferencia ML / GPU

Sobre el puesto

Buscamos un/a Ingeniero/a de Inferencia ML Senior para sumarse a nuestras empresas aliadas donde la factura de GPU es una de las líneas más grandes del presupuesto. Vas a tomar modelos de PyTorch ya entrenados y hacer que sirvan más rápido y más barato: cuantizarlos, agrupar bien los requests, ajustar el stack de serving y escribir un kernel propio cuando el profiler diga que vale la pena. Latencia y throughput son tus números. Vas a medir ambos, moverlos y explicar el trade-off cuando mejorar uno le cuesta al otro.

Qué vas a hacer

• Optimizar el serving de modelos en latencia y throughput con vLLM, TensorRT-LLM y Triton Inference Server
• Aplicar cuantización (INT8, FP8, AWQ, GPTQ) y medir el costo en precisión de cada cambio
• Perfilar cargas de GPU con Nsight y el profiler de PyTorch y corregir los cuellos de botella
• Escribir o ajustar kernels CUDA y Triton para operaciones críticas
• Ajustar batching, KV-cache y paralelismo en flotas de GPU
• Medir el costo por token o por request y reducirlo sin romper los SLAs

Requisitos

• 5+ años de ingeniería de software, 2+ enfocados en inferencia ML o rendimiento de GPU
• Python y PyTorch sólidos, además de C++ práctico
• Experiencia práctica con CUDA: jerarquía de memoria, kernels y streams
• Experiencia en producción con al menos un stack de serving (vLLM, TensorRT-LLM, Triton, TGI, SGLang)
• Experiencia con cuantización y compresión de modelos
• Inglés excelente, escrito y hablado (B2+)

Deseable

• Experiencia con serving multi-GPU y multi-nodo (paralelismo de tensor y de pipeline)
• Conocimiento interno de speculative decoding, continuous batching o paged attention
• Experiencia con scheduling y autoscaling de GPU en Kubernetes
• Contribuciones a vLLM, TensorRT-LLM o proyectos open source similares

Stack tecnológico

Beneficios