Moirai 2.0 de Salesforce AI : Le nouveau modèle de séries temporelles domine les classements
Salesforce AI Research a dévoilé Moirai 2.0, un bond en avant significatif dans le domaine des modèles de fondation de séries temporelles. Construit sur une architecture innovante de transformeur à décodeur seul, ce nouveau modèle a rapidement revendiqué la première position sur le benchmark GIFT-Eval, largement reconnu comme la référence pour l’évaluation des modèles de prévision de séries temporelles. Moirai 2.0 se distingue non seulement par l’atteinte de performances supérieures, mais aussi par une efficacité remarquable : il affiche une vitesse d’inférence 44% plus rapide et est 96% plus petit que son prédécesseur, le tout sans compromettre la précision. Cette combinaison de vitesse, de compacité et de précision le positionne comme un potentiel game-changer tant pour la recherche académique que pour les applications d’entreprise pratiques.
Une innovation fondamentale derrière les capacités de Moirai 2.0 réside dans son changement architectural. Contrairement aux modèles précédents qui pouvaient s’appuyer sur des encodeurs masqués, Moirai 2.0 adopte un transformeur à décodeur seul. Ce choix de conception améliore considérablement sa capacité à modéliser la génération de prévisions autorégressives, un processus où les valeurs futures sont prédites séquentiellement sur la base d’observations passées. Ce raffinement architectural améliore également la scalabilité, permettant au modèle de fonctionner efficacement sur des ensembles de données plus grands et plus complexes. Des gains d’efficacité supplémentaires sont obtenus grâce à sa capacité à prédire plusieurs points de données, ou « tokens », simultanément, plutôt qu’un seul, ce qui contribue à une plus grande stabilité pendant la prévision. Le modèle intègre également des mécanismes avancés de filtrage des données pendant l’entraînement, excluant automatiquement les séries temporelles de mauvaise qualité ou non prévisibles pour renforcer sa robustesse. De plus, de nouvelles techniques comme l’intégration de tokens de patch et le masquage aléatoire ont été intégrées pour améliorer la capacité du modèle à encoder des informations sur les valeurs manquantes et à maintenir la robustesse lors du traitement de données incomplètes pendant la phase de prédiction.
Les impressionnantes capacités de généralisation de Moirai 2.0 découlent de son ensemble de données de pré-entraînement étendu et diversifié. Cette base comprend des ensembles de données réels tels que GIFT-Eval Pretrain et Train, des séries temporelles synthétiques générées via les procédures Chronos mixup et KernelSynth de la recherche Chronos, et des données opérationnelles internes précieuses provenant directement des systèmes informatiques de Salesforce. Ce mélange de données large et varié garantit que Moirai 2.0 peut généraliser habilement à une multitude de tâches et de domaines de prévision, le rendant hautement adaptable aux différents besoins commerciaux.
Les métriques de performance de Moirai 2.0 soulignent son statut de percée. Il a atteint le meilleur score MASE (Mean Absolute Scaled Error) sur GIFT-Eval parmi les modèles sans fuite de données, ce qui est une métrique acceptée par l’industrie pour la précision des prévisions. De plus, sa performance CRPS (Continuous Ranked Probability Score) correspond à celle des modèles de pointe précédents. Comparé directement à Moirai_large, son prédécesseur, Moirai 2.0 présente une amélioration de 16% du MASE et une amélioration de 13% du CRPS. Ces gains de précision, associés à la réduction spectaculaire du temps d’inférence (44% plus rapide) et de la taille des paramètres (96% plus petite), signifient que la prévision haute performance et évolutive est désormais plus accessible que jamais.
Pour les praticiens, les avancées de Moirai 2.0 se traduisent par des avantages tangibles dans des domaines d’entreprise critiques. Ses capacités s’étendent bien au-delà des benchmarks académiques, trouvant des applications pratiques dans des domaines tels que les opérations informatiques pour la mise à l’échelle proactive de la capacité et la détection des anomalies, la prévision des ventes pour des prédictions de revenus précises, la prévision de la demande pour optimiser la gestion des stocks, et la planification de la chaîne d’approvisionnement pour une meilleure planification et une réduction des déchets. La taille du modèle significativement réduite et la vitesse améliorée signifient que la prévision de haute qualité peut désormais être appliquée à une échelle sans précédent, permettant aux entreprises de prendre des décisions plus intelligentes et plus rapides, quelle que soit la complexité de leur infrastructure de données.
Salesforce a rendu Moirai 2.0 accessible aux développeurs et aux scientifiques des données, facilitant une intégration transparente dans les flux de travail existants. Le modèle et les modules open-source associés sont disponibles sur Hugging Face, permettant une implémentation simple. Les développeurs peuvent charger Moirai 2.0, préparer leurs ensembles de données, générer des prévisions et visualiser les résultats à l’aide de bibliothèques Python standard et d’un flux de travail rationalisé, avec des exemples complets et des notebooks fournis par Salesforce pour une expérimentation plus approfondie.
En démocratisant l’accès à une technologie de prévision de pointe et à usage général, Moirai 2.0 est prête à remodeler le paysage de la modélisation des séries temporelles. Sa flexibilité dans divers domaines, sa robustesse améliorée, son inférence plus rapide et ses exigences computationnelles réduites ouvrent la voie aux entreprises et aux chercheurs du monde entier pour exploiter la puissance de la prévision pour une prise de décision transformatrice.