Shared Representation
Une « Shared Representation », ou représentation partagée en français, désigne une structure d’information, un format de données, ou un espace de caractéristiques commun utilisé par plusieurs agents, systèmes, processus, tâches ou modalités pour encoder, traiter ou interpréter des informations relatives à un domaine ou à un ensemble de concepts similaires. Elle agit comme un langage ou un code commun, permettant une compréhension ou une manipulation cohérente des données par différentes entités ou pour différentes finalités.
Les concepts fondamentaux derrière une représentation partagée reposent sur l’idée d’abstraction et de factorisation de l’information pertinente. Il s’agit d’extraire les caractéristiques essentielles et communes à différentes sources ou tâches, et de les organiser dans une structure unifiée. Cette structure, souvent un espace vectoriel de faible dimension appelé espace latent ou « embedding space » en apprentissage automatique, capture les relations sémantiques ou structurelles sous-jacentes. Le principe clé est que des entités ou des concepts similaires, même issus de sources ou de modalités différentes (texte, image, son), devraient avoir des représentations proches dans cet espace partagé. La création de cette représentation implique souvent des transformations et des projections des données brutes issues de chaque source vers cet espace commun.
L’importance des représentations partagées est considérable dans de nombreux domaines. En intelligence artificielle et en apprentissage automatique, elles sont cruciales pour le développement de systèmes plus robustes, efficaces et généralisables. Elles permettent le transfert de connaissances (Transfer Learning), où un modèle entraîné pour une tâche peut être adapté plus facilement à une autre tâche connexe. Elles sont à la base de l’apprentissage multi-tâches (Multi-task Learning), où un seul modèle apprend simultanément à résoudre plusieurs tâches en partageant une partie de ses paramètres ou de ses couches de représentation. Elles sont également essentielles pour l’apprentissage multimodal (Multimodal Learning), qui vise à traiter et à intégrer des informations provenant de différentes modalités (par exemple, comprendre une scène à partir d’une image et de sa description textuelle). En sciences cognitives, le concept aide à modéliser comment les individus au sein d’un groupe développent une compréhension commune d’une situation ou d’un problème (représentations mentales partagées). En informatique, elles favorisent l’interopérabilité entre différents systèmes logiciels ou composants matériels grâce à des formats de données ou des protocoles standardisés.
Les applications pratiques des représentations partagées sont variées. En traitement du langage naturel et en vision par ordinateur, des modèles comme CLIP (Contrastive Language–Image Pre-training) apprennent un espace de représentation partagé où les embeddings d’images et de leurs descriptions textuelles correspondantes sont proches. Cela permet des applications comme la recherche d’images par texte (et vice-versa) ou le « zero-shot learning » (classification d’images dans des catégories jamais vues pendant l’entraînement). En traduction automatique neuronale, des représentations partagées entre langues sources et cibles peuvent améliorer la qualité des traductions, notamment pour les paires de langues avec peu de données parallèles. Dans les systèmes de recommandation, des embeddings partagés peuvent représenter à la fois les utilisateurs et les articles, permettant de recommander des articles pertinents à des utilisateurs en fonction de leur proximité dans cet espace. En robotique collaborative, une représentation partagée de l’environnement et des objectifs permet à plusieurs robots de coordonner leurs actions efficacement. Dans le domaine de la bioinformatique, des représentations partagées peuvent intégrer des données de différentes omiques (génomique, transcriptomique, protéomique) pour une meilleure compréhension des systèmes biologiques.
Il existe différentes nuances et interprétations du terme. Le partage peut être complet, où toutes les caractéristiques sont communes, ou partiel, où seules certaines couches ou certains aspects de la représentation sont partagés, tandis que d’autres restent spécifiques à la tâche ou à la modalité. La représentation partagée peut être explicitement conçue et imposée (par exemple, via un schéma de base de données ou une ontologie) ou émerger implicitement des données lors d’un processus d’apprentissage conjoint. On peut aussi distinguer des représentations partagées hiérarchiques, où différents niveaux d’abstraction sont partagés. La nature de la « représentation » elle-même peut varier : symbolique (ontologies, graphes de connaissances) ou sous-symbolique (vecteurs denses, comme dans le deep learning). L’interprétation diffère aussi légèrement entre l’IA, où l’accent est mis sur l’efficacité computationnelle et la généralisation, et les sciences cognitives, où l’intérêt porte sur la modélisation de la cognition humaine et de l’interaction sociale.
Plusieurs concepts sont étroitement liés à la notion de représentation partagée. Les termes comme « représentation commune », « espace latent partagé », « embeddings conjoints » ou « joint embedding space » sont souvent utilisés comme synonymes, en particulier dans le contexte de l’apprentissage automatique. Des concepts comme le Transfer Learning, le Multi-task Learning, le Multimodal Learning et le Zero-shot Learning reposent fondamentalement sur l’existence ou la création de représentations partagées. L’interopérabilité et la standardisation dans les systèmes d’information visent également à établir des formes de représentations partagées (formats de données, API). Les ontologies et les schémas conceptuels sont des exemples de représentations partagées symboliques. En sciences cognitives, la Théorie de l’Esprit (Theory of Mind) et les modèles de cognition distribuée explorent comment les individus forment des représentations partagées du monde et des intentions d’autrui. À l’inverse, une « représentation spécifique » (task-specific representation) ou une « représentation privée » désigne une structure d’information conçue pour une seule tâche, modalité ou un seul agent, sans objectif de partage.
L’idée de représentations partagées trouve ses racines dans plusieurs disciplines. En intelligence artificielle classique et en représentation des connaissances, la recherche d’une « lingua franca » ou d’ontologies communes visait déjà à créer des représentations symboliques partagées pour faciliter l’intégration de connaissances et le raisonnement entre systèmes experts. En psychologie cognitive, les travaux sur les modèles mentaux et la cognition située ont exploré comment les humains partagent des représentations pour collaborer et communiquer. En linguistique, la recherche d’universaux linguistiques ou de structures sémantiques profondes peut être vue comme la quête d’une forme de représentation partagée du sens. L’avènement du deep learning a donné un nouvel élan à ce concept, permettant d’apprendre automatiquement des représentations sous-symboliques (vectorielles) partagées à partir de grandes quantités de données, notamment pour des tâches multimodales et de transfert d’apprentissage.
Les avantages des représentations partagées sont nombreux. Elles améliorent l’efficacité de l’apprentissage en exploitant les informations provenant de sources ou tâches multiples, réduisant souvent la quantité de données annotées nécessaires pour chaque tâche individuelle. Elles favorisent la généralisation des modèles à de nouvelles données ou situations. Le transfert de connaissances entre domaines ou tâches est facilité. Elles peuvent conduire à des modèles plus compacts en factorisant l’information commune. Dans certains cas, elles peuvent améliorer l’interprétabilité en révélant les structures sous-jacentes communes. Enfin, elles sont fondamentales pour l’interopérabilité et la collaboration entre systèmes ou agents. Cependant, la conception et l’apprentissage de représentations partagées efficaces présentent des défis. Il est souvent difficile de déterminer le bon niveau d’abstraction et les caractéristiques pertinentes à partager. Il y a un risque de compromis : une représentation partagée peut être moins performante sur une tâche spécifique qu’une représentation spécialisée. L’apprentissage conjoint peut être computationnellement coûteux et complexe à optimiser. L’alignement des représentations issues de modalités ou de sources très différentes peut être ardu. De plus, si la représentation partagée est mal conçue ou si les données sont biaisées, ces biais peuvent se propager à toutes les tâches ou systèmes qui l’utilisent. En apprentissage continu, maintenir une représentation partagée stable tout en apprenant de nouvelles tâches sans oublier les précédentes (« catastrophic forgetting ») reste un défi majeur.