Unsloth et NVIDIA s'associent pour réduire drastiquement le temps d'entraînement des grands modèles de langage. Les benchmarks affichent des gains de 2-3x sur les GPUs H100 avec une consommation mémoire divisée par deux.
Le problème : entraîner un LLM ressemble à remplir une baignoire avec un tuyau fin — la bande passante mémoire devient le goulot d'étranglement, même sur du hardware haut de gamme. Les optimisations classiques laissent sur la table 40-60% de performance GPU inutilisée.
Impact chiffré : un fine-tuning Llama 2 70B qui prenait 8 jours tombe à 2 jours.
Unsloth kernel-fuse les opérations backward et forward pass en une seule itération GPU, éliminant les allers-retours mémoire. Leur stack modifie aussi la quantization et l'attention mechanism — pas de fork, juste un layer wrapper compatible avec Hugging Face et vLLM.
Impact chiffré : un fine-tuning Llama 2 70B qui prenait 8 jours tombe à 2 jours. Pour les labs qui itèrent sur 30-50 runs/mois, c'est 90k$ d'économie de cloud par année sur du H100 seul. La collaboration NVIDIA garantit l'optimisation native sur les prochaines générations (Blackwell).
Ce n'est pas du marketing — c'est un vrai shader burn.