Un Modèle Génératif Basé sur le Score (Score-based Generative Model) est une classe de modèles d’apprentissage profond conçus pour générer de nouvelles données synthétiques qui ressemblent à un ensemble de données d’entraînement donné. Ces modèles fonctionnent en apprenant d’abord la fonction de score, définie comme le gradient du logarithme de la densité de probabilité des données par rapport aux données elles-mêmes, puis en utilisant cette fonction de score estimée pour guider un processus d’échantillonnage, typiquement en partant d’un bruit aléatoire pour produire des échantillons de haute qualité.
Les concepts fondamentaux des modèles génératifs basés sur le score reposent sur plusieurs piliers. Au cœur se trouve la fonction de score, mathématiquement représentée par nabla_x log p(x), où p(x) est la densité de probabilité des données x. Cette fonction indique la direction et l’intensité de la modification à apporter aux données pour accroître leur vraisemblance sous la distribution des données apprise par le modèle. Le processus d’apprentissage implique généralement une perturbation progressive des données d’entraînement par l’ajout de bruit, suivant un processus de « noising » ou de diffusion directe, souvent modélisé sur plusieurs étapes ou niveaux de bruit. Un réseau de neurones profond, fréquemment une architecture de type U-Net pour les données image, est ensuite entraîné à estimer la fonction de score de ces distributions de données bruitées à chaque niveau de bruit. Cette estimation est typiquement réalisée à l’aide de techniques telles que le « denoising score matching », où le modèle apprend à prédire le bruit qui a été ajouté aux données, ou de manière équivalente, à prédire la donnée originale à partir de sa version bruitée. Une fois que le modèle a appris à estimer la fonction de score pour divers niveaux de bruit, le processus de génération, ou d’échantillonnage (parfois appelé processus de diffusion inverse), peut commencer. Ce processus part d’un échantillon de bruit pur et utilise itérativement la fonction de score estimée pour « débruiter » progressivement l’échantillon. Des méthodes d’échantillonnage comme la dynamique de Langevin, ou des solveurs d’équations différentielles stochastiques (EDS) inverses, guident l’échantillon de bruit vers des régions de haute densité de probabilité, correspondant à la distribution des données d’entraînement. Les équations différentielles stochastiques (EDS) et les équations différentielles ordinaires (EDO) jouent un rôle crucial en fournissant un cadre mathématique rigoureux pour décrire ces processus de « noising » et de « denoising » de manière continue dans le temps.
L’importance et la pertinence des modèles génératifs basés sur le score dans le paysage de l’intelligence artificielle, en particulier en apprentissage génératif, sont considérables. Leur capacité à générer des échantillons d’une qualité exceptionnelle, notamment dans le domaine des images, a souvent surpassé les performances des approches antérieures telles que les Réseaux Antagonistes Génératifs (GANs) et les Auto-encodeurs Variationnels (VAEs). Cette haute fidélité a ouvert de nouvelles perspectives pour des applications créatives et scientifiques. Un autre aspect de leur pertinence réside dans leur stabilité d’entraînement accrue par rapport aux GANs, qui sont connus pour leurs difficultés de convergence et leurs problèmes d’effondrement de mode. Cette stabilité facilite l’entraînement de modèles plus grands et plus puissants. L’impact de ces modèles est déjà tangible, avec des avancées spectaculaires dans la génération d’images photoréalistes, la synthèse audio, et des applications émergentes en sciences, comme la conception de molécules et de matériaux. Ils ont également stimulé une intense activité de recherche, conduisant à une meilleure compréhension théorique et à des améliorations continues des techniques d’apprentissage génératif.
Les applications pratiques des modèles génératifs basés sur le score sont nombreuses et en pleine expansion. La génération d’images est sans doute le domaine le plus visible, où ces modèles excellent dans la création d’images photoréalistes à partir de rien, la génération conditionnée par du texte (texte-vers-image), la complétion d’images (inpainting), l’extension d’images (outpainting), l’amélioration de la résolution (super-résolution) et la colorisation d’images en noir et blanc. Des systèmes de génération d’images de renommée mondiale, bien que certains soient des « modèles de diffusion latente » qui partagent des principes fondamentaux, illustrent la puissance de cette famille d’approches. Dans le secteur audio, ils sont employés pour la synthèse vocale de haute qualité, la génération de musique dans divers genres et la création d’effets sonores réalistes. Le domaine scientifique bénéficie également de ces modèles, par exemple en chimie pour la génération de nouvelles structures moléculaires candidates pour la découverte de médicaments, ou en science des matériaux pour la conception de composés aux propriétés désirées. D’autres applications incluent la modélisation et la génération de formes et scènes 3D, la prévision de séries temporelles, la modélisation de données sismiques, et potentiellement la compression de données, bien que cette dernière application soit encore moins mature.
Il existe plusieurs nuances, interprétations et variations du concept de modèle génératif basé sur le score. Une variation prédominante et étroitement liée est celle des Modèles Probabilistes de Diffusion par Débruitage (Denoising Diffusion Probabilistic Models – DDPMs). Les DDPMs sont formulés via une chaîne de Markov latente, où un processus de diffusion avant ajoute séquentiellement du bruit gaussien aux données, et un processus de diffusion inverse apprend à annuler ce bruit étape par étape. Il a été démontré que les DDPMs apprennent implicitement une fonction qui est équivalente ou très proche de la fonction de score, et les deux cadres sont souvent unifiés ou considérés comme des perspectives complémentaires d’une même idée centrale. Les modèles basés sur le score ont aussi une connexion conceptuelle forte avec les Modèles Basés sur l’Énergie (Energy-Based Models – EBMs). Dans les EBMs, la probabilité des données est définie via une fonction d’énergie (non normalisée), et la fonction de score correspond alors au gradient de la log-probabilité, qui est proportionnel au gradient négatif de la fonction d’énergie. Concernant l’estimation de la fonction de score, diverses techniques ont été développées, allant du « score matching » original proposé par Hyvärinen, au « sliced score matching » pour une meilleure mise à l’échelle avec la dimension des données, et au « denoising score matching » qui est particulièrement populaire pour sa stabilité et son efficacité pratique. Les processus de « noising » peuvent également varier, utilisant différents schémas de variance pour le bruit ajouté ou explorant des types de bruit non gaussiens. Enfin, le processus d’échantillonnage (génération) peut être implémenté avec divers algorithmes au-delà de la dynamique de Langevin, incluant des solveurs d’Équations Différentielles Ordinaires (EDO) comme ceux utilisés dans les Denoising Diffusion Implicit Models (DDIM), qui permettent un échantillonnage significativement plus rapide en rendant le processus de diffusion inverse déterministe une fois le bruit initial fixé.
Plusieurs concepts sont étroitement liés aux modèles génératifs basés sur le score, et leur compréhension est essentielle pour une vision holistique. Les Denoising Diffusion Probabilistic Models (DDPMs) sont si proches qu’ils sont souvent utilisés de manière interchangeable ou comme une sous-classe spécifique. La Dynamique de Langevin est un algorithme d’échantillonnage Monte Carlo par Chaîne de Markov (MCMC) qui utilise le gradient de la log-probabilité, c’est-à-dire la fonction de score, pour générer des échantillons d’une distribution. Le Score Matching désigne la famille de techniques d’estimation de paramètres utilisées pour entraîner le modèle à approximer la fonction de score de la distribution des données. Les Energy-Based Models (EBMs) offrent un cadre où la fonction de score est vue comme le gradient de la log-probabilité, qui est liée au gradient de l’énergie du système. Les Équations Différentielles Stochastiques (SDEs) fournissent un formalisme mathématique puissant pour unifier les modèles basés sur le score et les DDPMs, décrivant les processus de « noising » et de « denoising » comme des trajectoires continues dans le temps. Il est aussi utile de les contraster avec d’autres grandes classes de modèles génératifs : les Generative Adversarial Networks (GANs), qui utilisent un entraînement antagoniste entre un générateur et un discriminateur ; les Variational Autoencoders (VAEs), qui apprennent une représentation latente probabiliste et maximisent une borne inférieure de la vraisemblance des données ; et les Normalizing Flows, qui transforment une distribution de probabilité simple en une distribution complexe via une série de transformations bijectives et différentiables. En termes de synonymie partielle ou contextuelle, on rencontre souvent les termes « modèles de diffusion », « modèles de score-diffusion » ou « modèles de diffusion par débruitage ». L’antonyme principal serait « modèles discriminatifs ». Tandis que les modèles génératifs apprennent la distribution des données p(x) ou la distribution jointe p(x,y) pour pouvoir générer de nouvelles instances, les modèles discriminatifs, tels que les classificateurs ou les modèles de régression, apprennent une frontière de décision ou la probabilité conditionnelle p(y|x) pour prédire une étiquette ou une valeur à partir d’une entrée.
L’origine des modèles génératifs basés sur le score peut être tracée jusqu’aux travaux sur le « score matching » par Aapo Hyvärinen en 2005. Cette technique permettait d’apprendre des modèles de probabilité non normalisés en ajustant directement le gradient de la log-densité du modèle à celui des données, sans nécessiter le calcul de la coûteuse constante de normalisation. Cependant, l’utilisation explicite de la fonction de score estimée pour la génération de données a été explorée plus en détail bien plus tard. Les travaux de Yang Song et Stefano Ermon, notamment leur article influent de 2019 intitulé « Generative Modeling by Estimating Gradients of the Data Distribution », ont été pionniers. Ils ont démontré comment des réseaux de neurones pouvaient estimer la fonction de score à différentes échelles de bruit et comment la dynamique de Langevin pouvait ensuite être utilisée pour échantillonner des images de haute qualité. Parallèlement et peu après, en 2020, Jonathan Ho, Ajay Jain, et Pieter Abbeel ont introduit les Denoising Diffusion Probabilistic Models (DDPMs). Bien que formulés différemment, les DDPMs ont rapidement montré des performances de génération d’images à l’état de l’art et ont révélé des liens profonds avec l’approche par fonction de score. La même année, Yang Song et ses collaborateurs ont publié « Score-Based Generative Modeling through Stochastic Differential Equations », un travail unificateur qui a formalisé la connexion entre les modèles basés sur le score et les DDPMs via le langage des équations différentielles stochastiques. Ce cadre a non seulement clarifié les relations théoriques mais a aussi ouvert la voie à de nouvelles architectures, à des schémas d’échantillonnage améliorés et à un meilleur contrôle du processus de génération. Depuis ces développements fondamentaux, la recherche dans ce domaine a connu une croissance explosive, se concentrant sur l’amélioration de la vitesse d’échantillonnage, l’augmentation de la qualité et de la résolution des échantillons générés, l’extension à de nouvelles modalités de données (audio, vidéo, 3D, molécules), et l’exploration d’un large éventail d’applications.
Les modèles génératifs basés sur le score présentent un ensemble distinct d’avantages, d’inconvénients, de défis et de limitations. Parmi les avantages majeurs, on note leur capacité à générer des échantillons d’une qualité exceptionnelle, souvent surpassant d’autres approches génératives, en particulier pour les données continues comme les images et l’audio. Ils bénéficient également d’une plus grande stabilité d’entraînement par rapport aux GANs, ce qui les rend moins susceptibles aux problèmes d’effondrement de mode et plus faciles à optimiser. Bien que le calcul direct de la vraisemblance puisse être complexe, la fonction de score est intrinsèquement liée à la log-probabilité des données, offrant une base théorique plus solide pour la modélisation de la densité que certains modèles purement implicites. De plus, ils sont flexibles en ce qui concerne l’architecture du réseau de neurones utilisé pour estimer la fonction de score (par exemple, les architectures U-Net sont courantes et efficaces pour les tâches de type image). Enfin, ils se prêtent bien à la génération conditionnelle, permettant un contrôle fin du processus de génération en fonction d’informations contextuelles telles que des étiquettes de classe, des descriptions textuelles ou des images de référence.
Cependant, ces modèles ne sont pas sans inconvénients. L’un des désavantages les plus significatifs est la lenteur du processus d’échantillonnage. La génération d’un seul échantillon nécessite typiquement de nombreuses étapes itératives de débruitage, ce qui peut prendre de quelques secondes à plusieurs minutes, voire plus, selon la complexité du modèle et la résolution des données. Cela contraste avec les GANs ou les VAEs qui peuvent souvent générer des échantillons en une seule passe avant du réseau. L’entraînement de ces modèles peut également être très gourmand en ressources computationnelles, exigeant des GPU puissants et des temps d’apprentissage prolongés, en particulier pour les modèles à grande échelle et les ensembles de données à haute dimension. L’évaluation directe et efficace de la vraisemblance des données, bien que théoriquement possible, reste un défi pratique.
Plusieurs défis importants subsistent pour la communauté de recherche. L’accélération du processus d’échantillonnage est une priorité majeure. De nombreuses recherches visent à réduire le nombre d’étapes d’évaluation de la fonction de score nécessaires, par exemple en développant des solveurs d’EDO/EDS plus efficaces, des techniques d’échantillonnage distillées, ou des méthodes d’apprentissage pour optimiser le chemin d’échantillonnage. La réduction de la complexité computationnelle globale, tant pour l’entraînement que pour l’inférence, est essentielle pour rendre ces modèles plus accessibles et applicables dans des environnements aux ressources limitées. Une meilleure compréhension théorique des propriétés de ces modèles, y compris les garanties de convergence, les liens exacts entre les différentes formulations (score-based, DDPM, SDEs), et l’impact des choix de conception (schéma de bruit, architecture du réseau), est également un domaine de recherche actif. L’application et l’adaptation efficaces de ces modèles à des types de données plus complexes ou structurées, telles que les graphes, les données séquentielles discrètes (comme le texte ou le code source), ou les données multimodales, présentent des défis spécifiques qui nécessitent des innovations méthodologiques.
Enfin, certaines limitations inhérentes ou actuelles méritent d’être mentionnées. Bien que des travaux récents aient commencé à aborder les données discrètes, la formulation standard des modèles basés sur le score et des modèles de diffusion est plus naturellement adaptée et plus performante pour les données continues. L’interprétabilité de ce qu’apprend exactement le réseau de neurones lorsqu’il estime la fonction de score à travers les multiples niveaux de bruit peut être difficile à cerner. Cela peut rendre le débogage, l’analyse des défaillances et l’amélioration ciblée du modèle moins intuitifs que pour d’autres approches. De plus, la qualité des échantillons générés peut être sensible aux choix des nombreux hyperparamètres qui régissent le processus de « noising » (par exemple, le type de bruit, le calendrier de variance du bruit, le nombre total d’étapes de diffusion) et le processus d’échantillonnage (par exemple, la taille du pas, le type de solveur). Trouver la configuration optimale peut nécessiter une expérimentation empirique considérable.