Articles

Des classifieurs à raisonnement multimodal approchent la frontière à moindre coût et suggèrent deux axes de l’intelligence des modèles de langage

Un modèle de raisonnement réfléchit sur un texte ou une image, puis note chaque option en une seule passe. Le raisonnement fait gagner à Gemma 4 de 0,14 à 0,16 là où la réponse doit être inférée, et opposer ce qu’apporte le raisonnement à ce qu’apporte la taille sépare deux axes de capacité.

Tout modèle de langage est un classifieur : des décisions calibrées en une passe sur des ensembles d’étiquettes arbitraires, à partir de LLM préentraînés

Noter chaque option en une seule passe avant, puis entraîner cette distribution sur 18 tâches, fait d’un modèle préentraîné un classifieur calibré pour des ensembles d’étiquettes qu’il n’a jamais vus. Une décision entre 77 options d’un modèle de 1,7 milliard de paramètres prend 54 ms.