Hidden Markov Models (HMM)
Les Modèles de Markov Cachés, ou Hidden Markov Models (HMM), constituent une classe de modèles statistiques probabilistes utilisés pour modéliser des systèmes supposés être des processus de Markov avec des états non observés (cachés). Ils permettent de décrire l’évolution temporelle d’un système dont l’état interne n’est pas directement visible, mais dont on peut observer des sorties ou des émissions qui dépendent de cet état caché. Un HMM est caractérisé par un ensemble fini d’états cachés, un ensemble de symboles d’observation possibles, une distribution de probabilité initiale sur les états, des probabilités de transition entre les états, et des probabilités d’émission associées à chaque état.
Les concepts fondamentaux des HMM reposent sur plusieurs éléments clés. Premièrement, les états cachés représentent les configurations internes non observables du système à un instant donné. Le système évolue au fil du temps en passant d’un état caché à un autre. Deuxièmement, les observations sont les signaux ou symboles que l’on peut mesurer ou voir à chaque instant, et dont la distribution de probabilité dépend de l’état caché actuel du système. Troisièmement, les probabilités de transition définissent la probabilité de passer d’un état caché à un autre entre deux instants consécutifs. Quatrièmement, les probabilités d’émission (ou d’observation) spécifient la probabilité d’observer un symbole donné lorsque le système se trouve dans un état caché particulier. Enfin, la distribution de probabilité initiale détermine la probabilité que le système commence dans chacun des états cachés possibles au premier instant.
Les HMM sont gouvernés par deux hypothèses principales qui simplifient la modélisation. La première est la propriété de Markov, qui stipule que la probabilité de transition vers l’état suivant ne dépend que de l’état actuel, et non des états précédents. Autrement dit, le futur est indépendant du passé étant donné le présent. La seconde est l’hypothèse d’indépendance des observations, qui postule que l’observation à un instant donné ne dépend que de l’état caché à ce même instant, et est indépendante des états et observations passés ou futurs, conditionnellement à l’état actuel. Ces hypothèses rendent le modèle mathématiquement traitable et permettent le développement d’algorithmes efficaces pour son analyse.
L’importance et la pertinence des HMM résident dans leur capacité à modéliser des séquences de données temporelles ou séquentielles où le mécanisme sous-jacent n’est pas directement observable. Ils offrent un cadre formel pour traiter l’incertitude et le bruit dans les observations. Leur structure probabiliste permet non seulement de modéliser les séquences, mais aussi de résoudre trois problèmes fondamentaux : l’évaluation (calculer la probabilité d’une séquence d’observations étant donné le modèle), le décodage (trouver la séquence d’états cachés la plus probable ayant généré une séquence d’observations donnée), et l’apprentissage (estimer les paramètres du modèle à partir d’un ensemble de séquences d’observations).
L’impact des HMM a été considérable dans de nombreux domaines. En reconnaissance de la parole, ils ont été la technologie dominante pendant des décennies pour modéliser la relation entre les signaux acoustiques (observations) et les unités linguistiques comme les phonèmes ou les mots (états cachés). En bioinformatique, ils sont largement utilisés pour l’alignement de séquences d’ADN ou de protéines, la prédiction de gènes, et la modélisation de familles de protéines, où les états cachés peuvent représenter des régions fonctionnelles ou structurales. Dans le traitement du langage naturel, ils servent à l’étiquetage morpho-syntaxique (part-of-speech tagging), où les mots sont les observations et les catégories grammaticales les états cachés. D’autres domaines incluent l’analyse financière, la reconnaissance de l’écriture manuscrite, la modélisation de gestes et le suivi d’objets en vision par ordinateur.
Les applications pratiques des HMM sont variées. Prenons l’exemple de la reconnaissance vocale : le signal audio est découpé en petites fenêtres temporelles, et pour chaque fenêtre, des caractéristiques acoustiques sont extraites (observations). Un HMM est entraîné pour chaque mot ou phonème. Les états cachés peuvent correspondre à différentes parties stables du phonème. L’algorithme de Viterbi est ensuite utilisé pour trouver la séquence de mots (séquence d’états cachés au niveau supérieur) la plus probable ayant pu générer la séquence d’observations acoustiques. En bioinformatique, pour l’alignement de séquences, les états cachés peuvent représenter des correspondances, des insertions ou des délétions entre deux séquences (observations), permettant de quantifier leur similarité évolutive ou fonctionnelle.
D’autres exemples concrets incluent la modélisation météorologique, où les états cachés pourraient être des régimes climatiques généraux (ensoleillé, nuageux, pluvieux) et les observations seraient des mesures locales comme la température, la pression ou l’humidité. En finance, les états cachés pourraient représenter différents régimes de volatilité du marché (haute, basse) et les observations seraient les rendements quotidiens des actifs. Les HMM permettent alors d’inférer le régime de marché actuel ou de prédire les probabilités de transition entre régimes.
Il existe plusieurs variations et extensions des HMM classiques. Les HMM à gauche-droite (Left-Right HMMs) sont une topologie contrainte où les transitions ne peuvent aller que vers des états d’indice égal ou supérieur, souvent utilisée pour modéliser des processus à durée finie comme la prononciation d’un mot. Les HMM à émissions continues utilisent des distributions de probabilité continues (souvent des mélanges gaussiens, Gaussian Mixture Models ou GMM) pour modéliser les observations, au lieu de symboles discrets. Les HMM factoriels (Factorial HMMs) et les HMM couplés (Coupled HMMs) permettent de modéliser des systèmes avec plusieurs processus sous-jacents interagissant. Les HMM hiérarchiques introduisent une structure d’états à plusieurs niveaux. Les Conditional Random Fields (CRF) sont une alternative populaire, appartenant à la classe des modèles discriminants, qui modélisent directement la probabilité conditionnelle de la séquence d’états étant donné la séquence d’observations, levant ainsi l’hypothèse d’indépendance des observations des HMM.
Une nuance importante concerne la nature générative des HMM. Ils modélisent la distribution jointe des observations et des états cachés, ce qui permet de générer de nouvelles séquences. Cela les distingue des modèles discriminants comme les CRF, qui se concentrent sur la prédiction des états à partir des observations. Le choix de la topologie du modèle (nombre d’états, transitions autorisées) est crucial et dépend fortement du problème modélisé ; il est souvent basé sur des connaissances a priori ou déterminé par validation croisée.
Les HMM sont étroitement liés aux chaînes de Markov, qui sont des processus de Markov où les états sont directement observables. Un HMM peut être vu comme une chaîne de Markov dont les états génèrent des observations selon certaines probabilités. Les Modèles de Markov d’ordre supérieur étendent la propriété de Markov en faisant dépendre l’état suivant de plusieurs états précédents. Les Filtres de Kalman sont similaires aux HMM mais s’appliquent aux systèmes linéaires avec des bruits gaussiens et des états continus. Les Réseaux Bayésiens Dynamiques (DBN) offrent une généralisation plus large des HMM, permettant de représenter des dépendances plus complexes entre variables d’état et observations au fil du temps.
Plusieurs algorithmes sont intrinsèquement associés aux HMM. L’algorithme Forward permet de calculer la probabilité d’une séquence d’observations (problème d’évaluation). L’algorithme Backward est utilisé conjointement avec l’algorithme Forward dans l’algorithme Forward-Backward, qui sert à calculer les probabilités lissées des états et est une composante clé de l’apprentissage. L’algorithme de Baum-Welch (une instance de l’algorithme Espérance-Maximisation, EM) est la méthode standard pour estimer les paramètres du HMM (probabilités initiales, de transition et d’émission) à partir de données d’entraînement. L’algorithme de Viterbi est utilisé pour trouver la séquence d’états cachés la plus probable correspondant à une séquence d’observations donnée (problème de décodage).
L’origine des HMM remonte aux travaux de Leonard E. Baum et de ses collaborateurs à l’Institute for Defense Analyses (IDA) à la fin des années 1960 et au début des années 1970. Ils ont développé les fondements mathématiques et les algorithmes clés (notamment Baum-Welch). La popularisation et l’application massive des HMM ont eu lieu principalement dans le domaine de la reconnaissance automatique de la parole à partir des années 1970 et 1980, grâce notamment aux travaux de Frederick Jelinek, Lalit Bahl et Robert Mercer chez IBM, ainsi que de Lawrence Rabiner aux Bell Labs, qui a publié des tutoriels influents. Leur succès dans ce domaine a ensuite inspiré leur adoption en bioinformatique et dans d’autres champs.
Les avantages des HMM incluent leur solide fondement probabiliste, l’existence d’algorithmes d’inférence et d’apprentissage bien établis et relativement efficaces (Viterbi, Baum-Welch), leur capacité à bien modéliser la structure temporelle des séquences et à gérer l’incertitude. Les états cachés peuvent parfois offrir une interprétation intuitive du processus sous-jacent. Ils sont particulièrement efficaces lorsque les hypothèses du modèle (Markov, indépendance des observations) sont raisonnablement satisfaites.
Cependant, les HMM présentent aussi des inconvénients et limitations. L’hypothèse de Markov d’ordre 1 (l’état suivant ne dépend que de l’état actuel) est souvent trop restrictive et ne permet pas de capturer des dépendances à long terme dans les données. De même, l’hypothèse d’indépendance des observations conditionnellement à l’état peut être irréaliste, car les observations peuvent être influencées par des facteurs non représentés par l’état caché unique. Le choix du nombre optimal d’états cachés est souvent difficile et empirique. L’entraînement (estimation des paramètres via Baum-Welch) peut converger vers des optima locaux et être sensible à l’initialisation.
Les défis associés à l’utilisation des HMM incluent la nécessité de disposer de suffisamment de données d’entraînement pour estimer de manière fiable les nombreux paramètres du modèle, en particulier pour les modèles avec un grand nombre d’états ou des distributions d’émission complexes. La complexité calculatoire des algorithmes (notamment Baum-Welch) peut devenir prohibitive pour de très longues séquences ou de très grands modèles, bien que des optimisations existent. L’interprétation des états cachés appris n’est pas toujours garantie ou facile. Bien que dépassés par des approches plus modernes comme les réseaux de neurones récurrents (RNN) ou les Transformers pour certaines tâches (notamment en reconnaissance vocale et NLP), les HMM restent pertinents pour des problèmes spécifiques ou comme composants de systèmes hybrides.
En conclusion, les Modèles de Markov Cachés sont un outil statistique puissant et polyvalent pour l’analyse et la modélisation de données séquentielles comportant une structure latente ou cachée. Malgré leurs hypothèses simplificatrices et l’émergence de techniques plus récentes, leur cadre théorique élégant, leurs algorithmes efficaces et leur succès historique dans des domaines variés comme la reconnaissance de la parole et la bioinformatique leur assurent une place importante dans le paysage de l’apprentissage automatique et de la modélisation statistique. Comprendre les HMM fournit une base solide pour aborder des modèles séquentiels plus complexes.