La méthode de la chaîne de pensée est une technique avancée utilisée pour améliorer les capacités de raisonnement des grands modèles linguistiques (LLM). À mesure que les LLM sont mis à l’échelle, ils sont performants dans des tâches telles que l’analyse des sentiments et la traduction automatique, mais ont du mal à résoudre des problèmes complexes à plusieurs étapes tels que l’arithmétique et le raisonnement de bon sens.
La méthode de la chaîne de pensée aborde ce problème en structurant le processus de résolution de problèmes de manière à ce que le modèle puisse le gérer plus efficacement.
Qu’est-ce que la chaîne de pensée ?
L’invite de la chaîne de pensée est conçue pour gérer des tâches de raisonnement complexes en forçant Masters de LLM pour générer une séquence d’étapes intermédiaires menant à la réponse souhaitée. Cette méthode contraste avec les techniques d’incitation traditionnelles, telles que l’incitation à zéro coup et à quelques coups. Dans l’incitation à zéro coup, un modèle reçoit une description de tâche sans exemples, tandis que l’incitation à quelques coups comprend quelques exemples pour guider le modèle. Cependant, les deux approches peuvent s’avérer insuffisantes dans des scénarios de raisonnement complexes. L’incitation à la chaîne de pensée décompose le problème en étapes plus petites et plus faciles à gérer, permettant au modèle de se concentrer sur chaque étape individuellement.
Par exemple, au lieu de demander à un modèle de résoudre directement un problème arithmétique complexe, la méthode de la chaîne de pensée consisterait à décomposer le problème en étapes plus petites, comme l’identification des nombres impliqués, l’exécution d’opérations individuelles, puis la combinaison des résultats. Cette méthode améliore la capacité du modèle à gérer les problèmes à plusieurs étapes en fournissant une approche claire et structurée.
Quels sont les différents types d’incitations à la chaîne de pensée ?
Pour mettre en œuvre efficacement la méthode de la chaîne de pensée, il est essentiel de comprendre les différentes manières dont elle peut être appliquée :
- CoT à tir nul
- CoT à quelques coups
CoT à tir nul Il s’agit d’ajouter une phrase de déclenchement telle que « Réfléchissons étape par étape » à l’invite, encourageant ainsi le modèle à générer une séquence d’étapes de raisonnement. Par exemple, si la tâche consiste à déterminer le coût total des articles, le modèle identifiera d’abord le coût de chaque article, puis les additionnera.
CoT à quelques coupsd’autre part, fournit au modèle des exemples de résolution de problèmes similaires, ainsi qu’un format de questions et réponses qui inclut les étapes de raisonnement. Cette méthode est particulièrement utile pour les problèmes plus complexes où les exemples peuvent guider le modèle dans la génération de la séquence d’étapes correcte. Par exemple, lors de la résolution d’un problème mathématique, la méthode CoT à quelques coups peut présenter des exemples où des problèmes similaires sont décomposés en étapes plus petites, aidant ainsi le modèle à apprendre le processus de raisonnement approprié.
Comment créer une chaîne de pensée efficace
L’efficacité de la chaîne de pensée dépend de la qualité des invites utilisées. Des invites bien conçues doivent être claires, concises et adaptées à la tâche spécifique à accomplir. Il est essentiel d’éviter le jargon et d’utiliser un langage que le modèle peut facilement comprendre. De plus, l’adéquation de l’invite à la tâche garantit que le modèle peut générer la bonne réponse. Pour les tâches complexes, il est important de fournir des invites détaillées et pertinentes qui guident le modèle à chaque étape du processus de raisonnement.
L’auto-cohérence est une technique qui peut encore améliorer les performances de l’incitation CoT. Cela implique de générer plusieurs chaînes de pensée différentes pour le même problème et de sélectionner la réponse la plus cohérente parmi ces chaînes. Il a été démontré que cette approche améliore considérablement les performances sur les tests de raisonnement arithmétique et de bon sens. Par exemple, dans le Référence GSM8Kl’auto-cohérence a amélioré les performances de 17,9 % à 74 % de précision.
N’oubliez pas les techniques avancées de CoT
Au-delà de la mise en œuvre de base de la chaîne de pensée, plusieurs techniques avancées peuvent être employées pour améliorer encore les performances des LLM. La chaîne de pensée multimodale, par exemple, intègre à la fois du texte et des images dans le processus de raisonnement, améliorant ainsi la capacité du modèle à comprendre et à générer des réponses précises. Il a été démontré que cette approche surpasse les méthodes traditionnelles, telles que l’utilisation de légendes d’images seules, en fournissant un contexte plus riche sur lequel le modèle peut raisonner.
L’invite du moins au plus est une autre technique avancée qui consiste à décomposer un problème complexe en sous-problèmes plus simples et à les résoudre de manière séquentielle. Cette méthode est particulièrement efficace pour les tâches qui nécessitent une manipulation symbolique, une généralisation compositionnelle et un raisonnement mathématique. En commençant par les sous-problèmes les plus simples et en augmentant progressivement la complexité, l’invite du moins au plus permet au modèle de s’appuyer sur les réponses précédentes et de résoudre des problèmes plus difficiles avec une plus grande précision.
Application de la chaîne de pensée dans divers domaines
L’incitation à la chaîne de pensée peut être appliquée à un large éventail de domaines, notamment le raisonnement arithmétique, le raisonnement de bon sens, le raisonnement symbolique, l’inférence en langage naturel et la réponse aux questions. Dans le raisonnement arithmétique, il a été démontré que l’incitation à la chaîne de pensée permet d’atteindre des performances de pointe sur des tests de performance tels que GSM8K. Pour le raisonnement de bon sens, l’incitation à la chaîne de pensée améliore la capacité du modèle à raisonner sur les interactions physiques et humaines en se basant sur des connaissances générales.
Dans les tâches de raisonnement symbolique, telles que la concaténation de la dernière lettre et les problèmes de tirage au sort, l’invite CoT permet au modèle de gérer des entrées à temps d’inférence plus longues que celles observées dans les exemples à quelques prises. Pour répondre aux questions, l’invite CoT aide le modèle à comprendre des questions complexes en les décomposant en étapes logiques, améliorant ainsi sa capacité à générer des réponses précises.
Crédit de l’image en vedette: Freepik
