Engenheiro(a) de Inferência ML / GPU

Sobre a vaga

Estamos procurando um(a) Engenheiro(a) de Inferência ML Sênior para atuar em nossas empresas parceiras em que a conta de GPU é uma das maiores linhas do orçamento. Você vai pegar modelos PyTorch já treinados e fazer com que sirvam mais rápido e mais barato: quantizar, agrupar bem as requisições, ajustar o stack de serving e escrever um kernel próprio quando o profiler disser que vale a pena. Latência e throughput são os seus números. Você vai medir os dois, movê-los e explicar o trade-off quando melhorar um custa o outro.

O que você vai fazer

• Otimizar o serving de modelos em latência e throughput com vLLM, TensorRT-LLM e Triton Inference Server
• Aplicar quantização (INT8, FP8, AWQ, GPTQ) e medir o custo em precisão de cada mudança
• Fazer profiling de cargas de GPU com Nsight e o profiler do PyTorch e corrigir os gargalos
• Escrever ou ajustar kernels CUDA e Triton para operações críticas
• Ajustar batching, KV-cache e paralelismo em frotas de GPU
• Acompanhar o custo por token ou por requisição e reduzi-lo sem quebrar os SLAs

Requisitos

• 5+ anos de engenharia de software, 2+ focados em inferência ML ou performance de GPU
• Python e PyTorch sólidos, além de C++ prático
• Experiência prática com CUDA: hierarquia de memória, kernels e streams
• Experiência em produção com pelo menos um stack de serving (vLLM, TensorRT-LLM, Triton, TGI, SGLang)
• Experiência com quantização e compressão de modelos
• Inglês excelente, escrito e falado (B2+)

Diferenciais

• Experiência com serving multi-GPU e multi-nó (paralelismo de tensor e de pipeline)
• Conhecimento interno de speculative decoding, continuous batching ou paged attention
• Experiência com scheduling e autoscaling de GPU no Kubernetes
• Contribuições para vLLM, TensorRT-LLM ou projetos open source semelhantes

Stack de tecnologia

Benefícios