Collective.work·Paris·Publiée il y a 30 j·Offre vérifiée aujourd'hui
Freelance
Tech
France Travail
Le poste
CONTEXTE
traitement d'images satellites.
Le déploiement des modèles d'IA constitue un nouveau chantier. Les temps d'inférence deviennent de plus en plus importants et nécessitent un diagnostic approfondi pour identifier et prioriser les optimisations.
Le profiling actuel doit être amélioré afin de mieux comprendre les limites des modèles et de l'infrastructure, de challenger les pistes envisagées et de concentrer les efforts sur les actions les plus pertinentes.
MISSIONS
* Diagnostiquer les performances des modèles et réduire les temps d'inférence sur GPU.
* Réaliser le profiling du code de deep learning, de l'infrastructure et du code compilé.
* Analyser les traces mémoire et comprendre les comportements d'exécution sur CPU, GPU et dans des environnements multi-GPU.
* Utiliser Py
Torch Profiler pour identifier les goulots d'étranglement.
* Évaluer, challenger et prioriser les pistes d'optimisation.
* Améliorer l'export des modèles et leur optimisation pour l'inférence, notamment avec ONNX et Tensor
Lire toute la description ⌄Réduire ⌃
CONTEXTE
Domaine :
traitement d'images satellites.
Le déploiement des modèles d'IA constitue un nouveau chantier. Les temps d'inférence deviennent de plus en plus importants et nécessitent un diagnostic approfondi pour identifier et prioriser les optimisations.
Le profiling actuel doit être amélioré afin de mieux comprendre les limites des modèles et de l'infrastructure, de challenger les pistes envisagées et de concentrer les efforts sur les actions les plus pertinentes.
MISSIONS
* Diagnostiquer les performances des modèles et réduire les temps d'inférence sur GPU.
* Réaliser le profiling du code de deep learning, de l'infrastructure et du code compilé.
* Analyser les traces mémoire et comprendre les comportements d'exécution sur CPU, GPU et dans des environnements multi-GPU.
* Utiliser Py
Torch Profiler pour identifier les goulots d'étranglement.
* Évaluer, challenger et prioriser les pistes d'optimisation.
* Améliorer l'export des modèles et leur optimisation pour l'inférence, notamment avec ONNX et Tensor
RT.
* Contribuer à la gestion et à l'utilisation efficace des ressources GPU.
* Accompagner les clients internes sur la chaîne allant de l'entraînement au déploiement des modèles.
* Assurer la traçabilité des expérimentations avec MLflow.
* Vulgariser les diagnostics et les recommandations auprès des équipes concernées.
COMPÉTENCES RECHERCHÉES
* Expérience en ingénierie IA / MLOps et en développement logiciel.
* Maîtrise de Py
Torch et du profiling de modèles de deep learning.
* Bonne compréhension de l'exécution et de la gestion mémoire sur GPU.
* Expérience des environnements CPU, GPU et multi-GPU.
* Connaissance d'ONNX, de Tensor
RT et de MLflow.
* Capacité à poser un diagnostic, à hiérarchiser les actions et à expliquer les résultats.
CONDITIONS DE TRAVAIL
* Mission de 6 mois.
*
Profil recherché
MLOps Engineer confirmé ou Software Engineer ayant travaillé sur des problématiques de Deep Learning et d'optimisation de workload IA/inférence sur GPU.
1. Expérience en ingénierie IA / MLOps et en développement logiciel
2. Maîtrise de Py
Torch et du profiling de modèles de deep learning
3. Bonne compréhension de l'exécution et de la gestion mémoire sur GPU
4. Expérience des environnements CPU, GPU et multi-GPU
5. Connaissance d'ONNX, de Tensor
RT et de MLflow
6. Capacité à poser un diagnostic, à hiérarchiser les actions et à expliquer les résultats