TTD-DR de Google AI : Diffusion Inspirée par l'Humain pour la Recherche Avancée

Les avancées récentes dans les grands modèles linguistiques (LLM) ont conduit à une augmentation rapide de la popularité des agents de recherche approfondie (DR) dans les secteurs académique et industriel. Cependant, bon nombre de ces agents d'IA manquent des processus de pensée et d'écriture structurés et itératifs qui sont fondamentaux pour la recherche humaine. Ils ne parviennent souvent pas à incorporer des étapes comme la rédaction, la recherche et l'utilisation du feedback, qui sont cruciales pour les chercheurs humains. Les agents DR actuels ont tendance à compiler divers algorithmes et outils sans cadre cohérent, ce qui met en évidence un besoin important de systèmes spécialement conçus qui peuvent égaler ou même dépasser les capacités de recherche humaines. Cette absence de processus cognitifs inspirés par l'humain dans les méthodes existantes crée un écart notable dans la manière dont les agents IA gèrent les tâches de recherche complexes par rapport à leurs homologues humains.

Les approches existantes en matière de recherche pilotée par l'IA ont exploré plusieurs méthodes. Celles-ci incluent des algorithmes de raffinement itératif, des mécanismes de débat et des systèmes de type tournoi pour classer les hypothèses, ainsi que des systèmes d'autocritique pour générer des propositions de recherche. Les systèmes multi-agents utilisent des composants spécialisés tels que des planificateurs, des coordinateurs, des chercheurs et des rapporteurs pour produire des réponses détaillées. Certains cadres permettent même des modes de copilote humain pour intégrer le feedback. De plus, les approches de réglage des agents se concentrent sur l'entraînement via des objectifs d'apprentissage multitâches, un réglage fin supervisé des composants individuels et l'apprentissage par renforcement pour améliorer les capacités de recherche et de navigation. Alors que les modèles de diffusion LLM tentent d'aller au-delà de l'échantillonnage linéaire et autorégressif en générant des brouillons complets "bruyants" et en les affinant de manière itérative, un cadre complet inspiré par l'humain est resté insaisissable.

Pour remédier à ces limitations, les chercheurs de Google ont introduit le Test-Time Diffusion Deep Researcher (TTD-DR). Ce nouveau cadre s'inspire de la nature itérative de la recherche humaine, qui implique des cycles répétés de recherche, de réflexion et de raffinement de l'information. TTD-DR conceptualise la génération d'un rapport de recherche comme un "processus de diffusion". Il commence par un brouillon initial qui sert d'esquisse et de fondation évolutives, guidant dynamiquement la direction de la recherche. Ce brouillon subit un raffinement itératif par un processus de "débruitage", qui est continuellement informé par un mécanisme de récupération qui incorpore des informations externes à chaque étape. Cette conception centrée sur le brouillon vise à rendre la rédaction de rapports plus opportune et cohérente tout en réduisant considérablement la perte d'informations pendant les processus de recherche itératifs. TTD-DR a obtenu des résultats de pointe sur des benchmarks qui nécessitent une recherche intensive et un raisonnement multi-sauts complexe.

Le cadre TTD-DR est conçu pour surmonter les limitations des agents DR existants qui emploient souvent des processus linéaires ou purement parallélisés. Son architecture centrale comprend trois étapes principales : la génération du plan de recherche, la recherche et la synthèse itératives, et la génération du rapport final. Chaque étape intègre des agents LLM spécialisés, des flux de travail distincts et des états d'agent. Une innovation clé est l'utilisation par l'agent d'algorithmes auto-évolutifs. Inspirés par les avancées récentes en matière d'auto-amélioration dans l'IA, ces algorithmes sont implémentés dans des flux de travail parallèles, séquentiels et en boucle et peuvent être appliqués aux trois étapes. Cela permet à l'agent d'améliorer continuellement ses performances et de trouver et préserver des informations contextuelles de haute qualité, améliorant ainsi la qualité globale de la sortie.

Lors de comparaisons côte à côte avec OpenAI Deep Research, TTD-DR a démontré des performances supérieures. Pour les tâches de génération de rapports de recherche de longue forme, TTD-DR a obtenu des taux de victoire de 69,1% et 74,5%. Il a également surpassé OpenAI Deep Research de 4,8%, 7,7% et 1,7% sur trois ensembles de données de recherche qui nécessitent des réponses courtes de vérité fondamentale. Le cadre a montré de solides performances en termes de scores d'utilité et de complétude automatisés, en particulier sur les ensembles de données LongForm Research. De plus, l'algorithme d'auto-évolution seul a atteint des taux de victoire impressionnants de 60,9% contre OpenAI Deep Research sur LongForm Research et de 59,8% sur DeepConsult. TTD-DR a également montré une amélioration de 1,5% et 2,8% des scores de correction sur les ensembles de données HLE, bien que ses performances sur GAIA soient restées 4,4% inférieures à celles d'OpenAI DR. Globalement, l'incorporation de la Diffusion avec Récupération a conduit à des gains substantiels par rapport à OpenAI Deep Research sur presque tous les benchmarks évalués.

En conclusion, le TTD-DR de Google représente une avancée significative dans la recherche pilotée par l'IA. En abordant les limitations fondamentales grâce à une conception cognitive inspirée par l'humain, le cadre modélise efficacement la génération de rapports de recherche comme un processus de diffusion dynamique. Son utilisation d'un squelette de brouillon actualisable, combinée à des algorithmes auto-évolutifs appliqués à chaque composant du flux de travail, assure la génération d'un contexte de haute qualité tout au long du parcours de recherche. Les performances de pointe démontrées par TTD-DR sur divers benchmarks soulignent son potentiel pour faire progresser les capacités des agents de recherche IA, offrant des résultats supérieurs à la fois dans les rapports complets de longue forme et dans les tâches concises de raisonnement multi-sauts.