Join Doctolib, a leading healthcare technology company, as a Senior Inference Engineer. In this role, you will power AI-driven healthcare products, build and operate the LLM serving platform, and optimize inference performance. You will work closely with MLOps engineers, own the model registry, and ensure production reliability. The ideal candidate has 5+ years of software or computer engineering experience, proficiency in Python and Terraform, and experience running GPU workloads on Kubernetes.
Join Doctolib, a leading healthcare technology company, as a Senior Inference Engineer. In this role, you will power AI-driven healthcare products, build and operate the LLM serving platform, and optimize inference performance. You will work closely with MLOps engineers, own the model registry, and ensure production reliability. The ideal candidate has 5+ years of software or computer engineering experience, proficiency in Python and Terraform, and experience running GPU workloads on Kubernetes.
Construire les fondations de service LLM partagées avec les ingénieurs MLOps, définir la pile de service, la planification de la capacité GPU et l'automatisation du déploiement.,Posséder le registre des modèles et le chemin de promotion, établir des processus clairs pour la version, la validation et la promotion des modèles en production.,Optimiser les performances et l'efficacité de l'inférence, exploiter et régler les moteurs de service pour réduire le temps de réponse et le coût par jeton.
Vous serez redirigé vers l'annonce d'origine.
Déposez votre CV : votre score face à cette offre, ce qui manque, puis une version adaptée au poste en un clic.
Analyser mon CV