Chain-of-Thought Prompting (CoT) est une technique d’ingénierie des prompts conçue pour améliorer la capacité des grands modèles de langage (LLM) à aborder et à résoudre des tâches de raisonnement complexes. Cette approche consiste à inciter le modèle à générer explicitement une série d’étapes de raisonnement intermédiaires qui mènent logiquement à la réponse finale, plutôt que de produire directement cette dernière. En articulant ce « chemin de pensée », le modèle peut souvent atteindre une plus grande précision sur des problèmes qui nécessitent une décomposition et une inférence en plusieurs étapes.
Les concepts fondamentaux et les principes essentiels du Chain-of-Thought Prompting reposent sur l’idée d’imiter certains aspects du raisonnement humain. Un principe clé est la décomposition des problèmes : CoT encourage le LLM à scinder une question complexe en une séquence de sous-problèmes plus simples et plus gérables. Un autre principe est celui du raisonnement explicite, où le modèle est guidé pour verbaliser chaque étape de son processus déductif ou inférentiel. Dans le cas du « few-shot CoT », l’apprentissage par l’exemple est crucial ; le modèle apprend à structurer sa pensée en observant des démonstrations où des questions similaires sont résolues avec une chaîne de pensée détaillée. Il est important de noter que CoT n’ajoute pas de nouvelles connaissances au modèle, mais active plutôt ses capacités latentes de raisonnement, acquises lors de son vaste entraînement, en fournissant un cadre structuré. Les étapes intermédiaires générées agissent comme un contexte dynamique, guidant le modèle progressivement vers une solution plus fiable.
L’importance, la pertinence et l’impact du Chain-of-Thought Prompting dans le domaine de l’intelligence artificielle, et plus spécifiquement du traitement du langage naturel, sont considérables. Sa principale contribution est l’amélioration notable des performances des LLM sur une gamme étendue de tâches de raisonnement, incluant l’arithmétique, le raisonnement de bon sens, la résolution de problèmes symboliques et d’autres tâches qui étaient auparavant difficiles pour les modèles se basant sur un prompting direct. Au-delà de l’amélioration des performances, CoT offre une forme limitée mais utile d’explicabilité. En exposant les étapes intermédiaires du « raisonnement » du modèle, les utilisateurs et les chercheurs peuvent obtenir un aperçu de la manière dont une conclusion est atteinte, facilitant l’identification d’erreurs potentielles dans le processus. Cette technique a ainsi élargi le champ d’application des LLM à des domaines nécessitant une plus grande rigueur intellectuelle et a stimulé une intense activité de recherche visant à développer des techniques de prompting encore plus sophistiquées et à mieux comprendre les mécanismes cognitifs émergents dans ces grands réseaux de neurones.
Les applications pratiques et les utilisations courantes du Chain-of-Thought Prompting sont variées et en expansion. Un domaine d’application fréquent est la résolution de problèmes mathématiques, en particulier les problèmes d’arithmétique formulés en langage naturel. Par exemple, face à la question « Roger a 5 balles de tennis. Il en achète 2 autres boîtes de 3 balles chacune. Combien de balles a-t-il maintenant ? », un LLM utilisant CoT pourrait générer : « Roger a commencé avec 5 balles. Chaque boîte contient 3 balles, donc 2 boîtes contiennent 2 * 3 = 6 balles. Au total, Roger a 5 + 6 = 11 balles. La réponse est 11. » Le CoT est également efficace pour les tâches de raisonnement de bon sens. Par exemple, à la question « La tasse de café est sur la table. Si je pousse la tasse vers le bord, que va-t-il probablement se passer ? », le modèle pourrait raisonner : « Pousser la tasse vers le bord augmente le risque qu’elle dépasse le bord. Si elle dépasse le bord et n’est plus supportée par la table, la gravité la fera tomber. La réponse est qu’elle va probablement tomber. » D’autres applications incluent la réponse à des questions complexes nécessitant l’agrégation d’informations provenant de différentes parties d’un texte, la planification simple d’actions, la génération de code guidée par des étapes logiques, et l’analyse de sentiment où la polarité dépend d’un raisonnement sur le contexte.
Il existe plusieurs nuances, interprétations, et variations du Chain-of-Thought Prompting, reflétant l’évolution rapide de ce domaine. La forme originale, connue sous le nom de « Few-Shot CoT », implique de fournir au LLM quelques exemples complets (question, chaîne de pensée détaillée, réponse finale) dans le prompt. Une simplification notable est le « Zero-Shot CoT », qui consiste à ajouter une simple instruction comme « Réfléchissons étape par étape » (ou « Let’s think step by step » en anglais) à la fin du prompt de l’utilisateur, sans aucun exemple de raisonnement. Cette méthode s’est avérée étonnamment efficace pour les LLM de très grande taille. Pour faciliter l’application du Few-Shot CoT, des techniques comme « Auto-CoT » ont été développées, visant à automatiser la génération des exemples de chaînes de pensée, souvent en utilisant un LLM plus puissant pour créer ces démonstrations. D’autres approches étendent le concept de base. Le « Least-to-Most Prompting » décompose un problème principal en une série de sous-problèmes plus simples, que le LLM résout séquentiellement, en utilisant les réponses aux sous-problèmes précédents comme contexte pour les suivants. Le « Tree of Thoughts » (ToT) permet au modèle d’explorer plusieurs chemins de raisonnement distincts en parallèle, comme les branches d’un arbre, et d’utiliser des mécanismes d’évaluation ou de vote pour sélectionner le chemin le plus prometteur. Plus récemment, le « Graph of Thoughts » (GoT) généralise ToT en permettant aux « pensées » de former des structures de graphe plus complexes, autorisant la fusion et la modification de différents chemins de raisonnement. Une technique complémentaire souvent utilisée avec CoT est la « Self-Consistency », qui consiste à générer plusieurs chaînes de pensée pour la même question (par exemple, en variant légèrement le prompt ou en utilisant un échantillonnage avec température) et à choisir la réponse finale qui apparaît le plus fréquemment, améliorant ainsi la robustesse et la précision.
Pour une compréhension holistique du Chain-of-Thought Prompting, il est utile de le situer par rapport à d’autres concepts étroitement liés. CoT est une technique spécifique relevant du domaine plus large du « Prompt Engineering », qui concerne l’art et la science de concevoir des entrées efficaces pour les LLM. Le « Few-Shot CoT » est une instance particulière de l' »In-Context Learning » (ICL), où le modèle apprend à effectuer une tâche en se basant uniquement sur les exemples fournis dans le contexte du prompt, sans mise à jour de ses poids. Naturellement, les « Grands Modèles de Langage » (LLM) sont au cœur de cette technique, car ce sont ces modèles qui bénéficient le plus de CoT, en particulier ceux possédant un grand nombre de paramètres. CoT touche également à la question de l' »Explicabilité en IA », car bien que les chaînes de pensée générées soient des artefacts du modèle et non une introspection véritable, elles offrent une trace de calcul qui peut être interprétée comme une forme d’explication. Le « raisonnement multi-étapes » est précisément ce que CoT cherche à induire dans les LLM. Des termes parfois utilisés comme synonymes ou dans des contextes très proches incluent « raisonnement pas à pas » (step-by-step reasoning). Des techniques comme « Generated Knowledge Prompting », où le modèle est d’abord invité à générer des faits ou des connaissances pertinents avant de répondre à une question, partagent des similitudes conceptuelles avec CoT en ce qu’elles introduisent une étape intermédiaire de génération d’information. En contraste, le « Direct Prompting » (ou Standard Prompting), où l’on demande directement au modèle la réponse finale sans solliciter d’étapes intermédiaires, représente l’approche que CoT cherche à dépasser pour les tâches de raisonnement.
L’origine du Chain-of-Thought Prompting en tant que concept formalisé est relativement récente, bien que l’idée de décomposer les problèmes et de générer des explications intermédiaires ait des antécédents en intelligence artificielle. Le terme et la technique spécifique ont été largement popularisés et étudiés grâce à une publication de recherche séminale de Jason Wei et ses collègues de Google Brain en 2022, intitulée « Chain-of-Thought Prompting Elicits Reasoning in Large Language Models ». Ce travail a démontré de manière empirique que l’incitation des LLM à générer des chaînes de pensée améliorait considérablement leurs performances sur des benchmarks de raisonnement arithmétique, de bon sens et symbolique, en particulier pour les modèles de très grande échelle (par exemple, ceux avec plus de 100 milliards de paramètres). L’impact de cette publication a été immédiat, déclenchant une vague de recherches sur les capacités de raisonnement des LLM et sur les techniques de prompting avancées. Depuis 2022, le domaine a connu une évolution rapide, avec l’apparition de nombreuses variations et améliorations, telles que le Zero-Shot CoT, Auto-CoT, Tree of Thoughts, et Graph of Thoughts. Ces développements visent à améliorer l’efficacité de CoT, à réduire la dépendance à l’égard de la création manuelle d’exemples de chaînes de pensée, et à étendre la portée de cette approche à des formes de raisonnement de plus en plus complexes et nuancées.
Le Chain-of-Thought Prompting présente un ensemble distinct d’avantages, mais aussi des inconvénients, des défis et des limitations. Parmi ses principaux avantages, on note une amélioration significative et souvent spectaculaire des performances des LLM sur les tâches nécessitant un raisonnement en plusieurs étapes. Il offre également une forme d’interprétabilité en rendant visible le « processus » que le modèle suit pour arriver à une réponse, ce qui peut aider à diagnostiquer les erreurs. De plus, CoT est relativement simple à mettre en œuvre, car il ne nécessite pas de réentraînement ou de fine-tuning coûteux du modèle sous-jacent, reposant uniquement sur l’ingénierie du prompt. Il a permis aux LLM de s’attaquer à des problèmes qui étaient auparavant hors de leur portée avec des méthodes de prompting plus directes.
Cependant, CoT n’est pas sans inconvénients. La génération de chaînes de pensée intermédiaires augmente la longueur des prompts et des réponses, ce qui se traduit par une consommation accrue de tokens et donc par des coûts de calcul et des temps d’inférence plus élevés. Un autre point critique est que les chaînes de pensée générées ne sont pas toujours factuellement correctes ou logiquement valides, même si la réponse finale s’avère correcte (ou inversement). Il est crucial de se rappeler que la « pensée » manifestée est une simulation de raisonnement basée sur des motifs appris, et non une indication de compréhension ou de conscience au sens humain. L’efficacité du Few-Shot CoT peut être très sensible à la qualité, à la formulation et au nombre d’exemples fournis dans le prompt. De plus, l’efficacité de CoT est principalement démontrée pour les LLM de très grande taille ; son bénéfice est souvent moindre, voire inexistant, sur des modèles plus petits. Enfin, il existe un risque d’hallucination, où le modèle invente des faits ou des étapes de raisonnement erronés au sein de la chaîne.
Les défis actuels incluent le développement de méthodes robustes pour évaluer la fidélité et la correction logique des chaînes de pensée, la réduction du coût computationnel associé à CoT, et l’automatisation de la création de prompts CoT efficaces pour un large éventail de tâches. Une meilleure compréhension des mécanismes neuronaux sous-jacents qui rendent CoT efficace reste un objectif de recherche important.
Parmi les limitations, il faut souligner que CoT ne résout pas les problèmes fondamentaux liés aux connaissances factuelles incorrectes ou aux biais potentiellement présents dans les données d’entraînement du LLM. La qualité de la chaîne de pensée produite dépend intrinsèquement des capacités du modèle de langage utilisé. Enfin, CoT peut ne pas être la stratégie optimale pour des tâches qui sont intrinsèquement intuitives ou qui ne bénéficient pas d’une décomposition explicite en étapes.