Débogage d'une régression de performance d'un LLM auto-hébergé sur du matériel hérité
Un développeur a diagnostiqué un ralentissement sévère d'un modèle de 125 milliards de paramètres exécuté sur deux GPU Tesla P40, en traçant le problème jusqu'à une modification unique du code dans le moteur d'inférence.














