Bounded Optimality
L’optimalité bornée, ou « Bounded Optimality » en anglais, est un concept qui désigne la recherche et l’atteinte de la meilleure solution possible à un problème par un agent, compte tenu des limitations inhérentes à ses capacités cognitives et computationnelles, ainsi qu’aux contraintes de son environnement. Contrairement à la notion d’optimalité parfaite qui suppose des ressources illimitées, l’optimalité bornée reconnaît que les décideurs réels, qu’ils soient humains ou artificiels, opèrent avec des informations incomplètes, un temps limité et des capacités de traitement finies. Elle propose donc un cadre pour comprendre comment un agent peut agir de la manière la plus rationnelle et efficace possible à l’intérieur de ces bornes.
Les concepts fondamentaux et les principes essentiels associés à l’optimalité bornée reposent largement sur l’idée de rationalité limitée, introduite par Herbert Simon. La rationalité limitée postule que les agents ne disposent pas des ressources infinies (temps, mémoire, puissance de calcul, information) nécessaires pour prendre des décisions parfaitement optimales au sens classique. L’optimalité bornée prend ce constat comme point de départ et cherche à définir ce que signifie « faire de son mieux » dans de telles circonstances. Cela implique l’identification d’une fonction d’objectif ou d’utilité que l’agent tente de maximiser. Les contraintes peuvent être de divers ordres : temporelles (une décision doit être prise avant une échéance), cognitives (limites sur la mémoire de travail ou la vitesse de traitement), informationnelles (accès partiel ou incertain aux données pertinentes), ou liées au coût de la délibération elle-même (réfléchir consomme des ressources). Un principe clé est celui du méta-raisonnement, qui est la capacité de l’agent à raisonner sur son propre processus de raisonnement, par exemple, pour décider quand arrêter de chercher une meilleure solution et passer à l’action, en équilibrant le coût d’une délibération plus poussée avec le gain potentiel en qualité de la solution. L’objectif est donc de trouver une stratégie de décision qui maximise l’utilité attendue, où l’utilité prend en compte à la fois la qualité de la solution finale et les coûts computationnels engagés pour l’obtenir.
L’importance de l’optimalité bornée réside dans sa capacité à fournir un modèle plus réaliste et pertinent de la prise de décision dans de nombreux domaines. En intelligence artificielle (IA), elle est cruciale pour la conception d’agents intelligents capables d’opérer efficacement dans des environnements complexes et dynamiques, où les solutions parfaites sont souvent inatteignables en temps utile. Elle guide la création de robots autonomes, de systèmes de planification, de moteurs de recherche ou de systèmes de recommandation. En sciences cognitives, l’optimalité bornée offre un cadre pour comprendre comment les humains et les animaux prennent des décisions, résolvent des problèmes et apprennent, en tenant compte de leurs limitations cognitives. Elle permet d’expliquer pourquoi les comportements observés peuvent s’écarter des prédictions des modèles de rationalité parfaite, tout en étant adaptatifs et efficaces. En économie, ce concept a permis de développer des modèles de comportement des agents économiques (consommateurs, entreprises) plus proches de la réalité que ceux basés sur l’hypothèse d’une rationalité illimitée, conduisant à une meilleure compréhension des marchés et des organisations. Son impact s’étend également à l’informatique théorique, notamment dans l’analyse d’algorithmes soumis à des contraintes de ressources, et à la philosophie, où elle alimente les débats sur la nature de la rationalité.
Les applications pratiques de l’optimalité bornée sont nombreuses et variées. Dans les jeux complexes comme les échecs ou le Go, les programmes d’IA ne peuvent explorer l’intégralité de l’arbre des coups possibles. Ils opèrent sous une contrainte de temps stricte et visent le meilleur coup possible compte tenu du temps de calcul alloué, en utilisant des fonctions d’évaluation et des algorithmes de recherche élagués. C’est une manifestation directe de l’optimalité bornée. En robotique, un robot mobile doit planifier ses déplacements en temps réel pour naviguer dans un environnement changeant et éviter les obstacles. Il ne peut pas se permettre de calculer le chemin globalement optimal si cela prend trop de temps ; il doit trouver un chemin « suffisamment bon » et sûr rapidement. Les moteurs de recherche web doivent fournir des résultats pertinents à des millions de requêtes en quelques millisecondes. Ils ne peuvent analyser exhaustivement toutes les pages web existantes pour chaque requête, mais appliquent des algorithmes sophistiqués pour maximiser la pertinence des résultats sous des contraintes de temps de réponse drastiques. Un autre exemple pertinent est celui des algorithmes « anytime » qui peuvent être interrompus à tout moment et fournir la meilleure solution trouvée jusqu’à cet instant, la qualité de cette solution s’améliorant avec le temps de calcul supplémentaire alloué. La prise de décision médicale assistée par ordinateur, où les diagnostics ou les plans de traitement doivent être générés rapidement sur la base d’informations parfois incomplètes, bénéficie également de ce paradigme.
Il existe plusieurs nuances et interprétations du terme. Une distinction importante est celle entre l’optimalité bornée et le « satisficing » (recherche d’une solution satisfaisante). Alors que le satisficing, également proposé par Simon, consiste à chercher une solution qui atteint un certain seuil d’aspiration minimal, l’optimalité bornée est plus exigeante : elle vise la meilleure solution possible étant donné les contraintes. Un agent « satisfaisant » s’arrête dès qu’il trouve une option « assez bonne », tandis qu’un agent à optimalité bornée utilise ses ressources limitées pour trouver la meilleure option qu’il puisse identifier dans ces limites. Une autre nuance concerne la nature des bornes : elles peuvent être sur le temps de calcul, la mémoire, l’accès à l’information, ou même sur la complexité de la stratégie de décision elle-même. On parle parfois d’optimalité computationnelle pour désigner la recherche de la meilleure stratégie de calcul, en tenant compte du coût du calcul lui-même. L’analyse de l’optimalité bornée peut aussi être effectuée « a priori » (en concevant un agent pour qu’il soit optimalement borné) ou « a posteriori » (en évaluant si le comportement d’un agent existant est conforme à ce principe).
Plusieurs concepts sont étroitement liés à l’optimalité bornée. Le plus fondamental est la rationalité limitée (Bounded Rationality), dont l’optimalité bornée est une tentative de formalisation et d’opérationnalisation. Le « satisficing » est un concept connexe mais distinct, représentant une stratégie de décision alternative sous rationalité limitée. À l’opposé, on trouve la rationalité parfaite ou illimitée (Perfect/Unbounded Rationality), qui sert de point de comparaison théorique. Le méta-raisonnement (Metareasoning) est une composante essentielle de l’optimalité bornée, car il permet à l’agent de gérer ses ressources computationnelles de manière optimale. Les heuristiques sont souvent des outils utilisés par les agents à optimalité bornée pour trouver de bonnes solutions rapidement, sans garantie d’optimalité absolue mais efficaces sous contraintes. Les algorithmes « anytime » sont des exemples concrets d’implémentations qui incarnent les principes de l’optimalité bornée. Le domaine plus large de la théorie de la décision fournit le cadre mathématique et conceptuel pour analyser de tels problèmes. Enfin, la théorie de la complexité computationnelle aide à comprendre et quantifier les limites inhérentes au calcul.
L’origine de l’optimalité bornée est intimement liée aux travaux d’Herbert Simon sur la rationalité limitée, développés à partir des années 1950. Simon a critiqué les modèles économiques classiques basés sur une rationalité parfaite, arguant que les décideurs humains sont limités dans leurs capacités de traitement de l’information et cherchent des solutions « satisfaisantes » plutôt qu’optimales. Plus tard, dans les années 1980 et 1990, Stuart Russell et Eric Wefald ont formellement développé le concept d’optimalité bornée, en particulier dans le contexte de l’intelligence artificielle. Leur ouvrage « Do the Right Thing: Studies in Limited Rationality » (1991) a été pionnier en proposant des cadres pour concevoir des agents qui prennent les meilleures décisions possibles compte tenu de leurs ressources computationnelles finies. Ils ont introduit des notions comme les « agents à rationalité limitée calculatoirement » et les principes de compilation de stratégies optimales sous contraintes. Depuis lors, le concept a été affiné et appliqué dans de nombreux domaines, et la recherche continue, notamment sur les architectures d’agents capables de méta-raisonnement flexible et d’apprentissage de stratégies de décision optimalement bornées.
L’optimalité bornée présente plusieurs avantages significatifs. Elle permet de construire des modèles beaucoup plus réalistes du comportement décisionnel, tant humain qu’artificiel, que les modèles basés sur la rationalité parfaite. Elle fournit un cadre normatif pour la conception d’agents d’IA capables de performances élevées dans des environnements réels, complexes et dynamiques, où les ressources sont inévitablement limitées. Cela conduit à des systèmes plus robustes et adaptatifs. Cependant, le concept présente aussi des inconvénients, des défis et des limitations. La formalisation mathématique précise de l’optimalité bornée pour un problème donné peut être extrêmement complexe. Déterminer quelle est la « meilleure » action possible sous des contraintes spécifiques et comment modéliser ces contraintes de manière adéquate reste un défi majeur. De plus, le processus de méta-raisonnement nécessaire pour gérer les ressources de calcul peut lui-même être coûteux en calcul, conduisant potentiellement à un paradoxe de régression à l’infini (raisonner sur comment raisonner sur comment raisonner…). Identifier les bonnes fonctions d’utilité qui incluent le coût du calcul et les bonnes caractérisations des bornes de l’agent est souvent difficile. Enfin, bien que plus réaliste, l’optimalité bornée reste une idéalisation ; la performance réelle des agents peut s’en écarter, et son applicabilité est limitée si les contraintes sont mal définies, non quantifiables ou si l’environnement est trop imprévisible pour permettre une optimisation significative.