$ skip to content
DivInit : diversifier les requêtes de l'IA0%
update

DivInit : diversifier les requêtes de l'IA

Des chercheurs d'ArXiv pointent un problème fondamental du scaling par largeur dans la recherche agentic : quand on lance plusieurs trajectoires en parallèle, les modèles posent des questions similair

DivInit : diversifier les requêtes de l'IA
// illustration générée — IA7
0:00 / 0:00
/

Des chercheurs d'ArXiv pointent un problème fondamental du scaling par largeur dans la recherche agentic : quand on lance plusieurs trajectoires en parallèle, les modèles posent des questions similaires au premier tour, ce qui crée une redondance d'évidence récupérée. Le résultat ? Des rendements décroissants malgré plus de calcul. DivInit, une technique sans entraînement, force la diversité dès le départ en échantillonnant d'abord n candidats de requête, puis en sélectionnant k graines distinctes à partir de cet ensemble unique. Les essais sur cinq modèles open-weight montrent que cette approche réduit la redondance et améliore l'efficacité globale de la recherche parallèle. C'est le genre d'observation qui change la façon dont on optimise l'inférence : moins de requêtes redondantes, plus de signal utile.

-- glossaire

Test-time scaling

Augmenter les ressources de calcul au moment de l'inférence (plus de requêtes, plus de tokens) plutôt qu'au moment de l'entraînement.

Agentic search

Processus multi-tour où un agent IA pose des questions successives, récupère des preuves, et affine sa réponse itérativement.

Query redundancy

Phénomène où plusieurs trajectoires parallèles posent des questions trop similaires, causant du chevauchement dans les résultats récupérés.
source
/ feed ↩