Optimisation des LLM et le mythe de la conjecture

Chaque mot d'un grand modèle de langage provient de minuscules ajustements de poids destinés à réduire l'erreur sur les données d'apprentissage.

Ces mises à jour de poids sont produites par des algorithmes d'optimisation tels que la descente de gradient.

La descente de gradient suit la pente d'une fonction vers le bas pour chercher un minimum.

Les problèmes d'optimisation du monde réel impliquent souvent des millions de variables et des contraintes.

L'entraînement des LLM applique des principes similaires mais avec des billions de paramètres.

L'histoire de l'optimisation commence avec la méthode de Newton, la recherche en section dorée et la méthode du simplexe.

L'optimisation sous contraintes utilise les multiplicateurs de Lagrange et les conditions KKT.

Les polynômes de Tchébychev sont privilégiés lorsqu'on minimise l'erreur au pire cas.

Ces concepts apparaissent dans l'apprentissage profond pour le réglage des hyperparamètres et la quantification des poids.

Les sorties des LLM ne sont pas aléatoires ; elles sont façonnées par les poids appris pendant l'entraînement.