Tree of Thoughts (ToT) (HU)

Tree of Thoughts (ToT) (Gondolatfa) — egy innovatív keretrendszer a nagy nyelvi modellek (LLM) következtetéseinek irányítására, amely lehetővé teszi számukra a tudatos feladatmegoldást a gondolkodási útvonalak szisztematikus feltérképezésén keresztül. A koncepciót 2023-ban mutatták be a Princetoni Egyetem és a Google DeepMind kutatói.

A ToT a népszerű „gondolatlánc" (Chain of Thought, CoT) technika kiterjesztése és általánosítása. Ellentétben a CoT-tal, ahol a következtetés egyetlen lineáris lépéssorozatot alkot, a ToT a gondolkodási folyamatot fa struktúraként szervezi meg, ahol minden csomópont egy közbenső állapot („gondolat"), az ágak pedig a következtetés lehetséges fejlődési irányai. Ez lehetővé teszi a modell számára, hogy több variánst párhuzamosan vizsgáljon, értékelje azok perspektíváját, visszatérjen a korábbi lépésekhez zsákutcák észlelésekor (backtracking), és tudatos választást hozzon.

Működési elv

A ToT keretrendszer az állapottér-keresésként szervezi meg a feladatmegoldás folyamatát. Működése négy kulcskomponens ciklikus kölcsönhatásán alapul:

1. A feladat „gondolatokra" való felbontása: A kiindulási problémát kisebb részfeladatokra – lépésekre – bontják fel, amelyeket „gondolatoknak" neveznek. Ellentétben a CoT-tal, ahol a „gondolat" csupán a következő token, a ToT-ban a „gondolat" szemantikailag értelmes egység (például egy egyenlet egy matematikai feladatban vagy egy bekezdés egy szövegterv részeként), amely közelebb visz a megoldáshoz.

2. Gondolatok generálása: Minden lépésnél az aktuális állapotra (a fa csomópontjára) a modell több lehetséges következő „gondolatot" (ágat) generál. Ehhez két stratégiát alkalmaznak:

• Mintavételezés (sample): A modell egymástól függetlenül generál több folytatási variánst. Kreatív feladatokhoz alkalmas, ahol az ötletek széles skálája hasznos.
• Javaslat (propose): A modell sorban generálja a variánsokat, ami hatékonyabb a korlátozott megoldástérrel rendelkező feladatoknál.

3. Állapotok értékelése: A generált „gondolatokat" maga az LLM értékeli perspektivitásuk meghatározása céljából. Az értékelés lehet numerikus (például 0-tól 1-ig terjedő skálán) vagy kategorikus („biztosan", „talán", „lehetetlen"). Ez egy heurisztikus függvény, amely az ígéretes ágak felé irányítja a keresést.

4. Keresési algoritmus: A gondolatfa szisztematikus feltérképezéséhez klasszikus keresési algoritmusokat alkalmaznak:

• Szélességi keresés (BFS): Egy szint összes csomópontját feltérképezi, mielőtt továbblép a következő szintre. Garantálja a legrövidebb útvonal megtalálását, de több memóriát igényel.
• Mélységi keresés (DFS): Egy ágat a végéig feltérképez, mielőtt visszatérne és egy másik ágat próbálna meg. Memóriahatékonyabb, és olyan feladatokhoz alkalmas, amelyek mély, de nem túl széles keresési teret igényelnek.

Ez a keretrendszer az emberi problémamegoldó gondolkodást utánozza, ötvözve az intuitív ötletgenerálást (LLM segítségével) a tudatos, szisztematikus tervezéssel és a variánsok kiértékelésével.

Összehasonlítás más következtetési módszerekkel

ToT összehasonlítása a Chain of Thought (CoT) módszerrel

A ToT a CoT közvetlen általánosítása. Ha a CoT egy 1-es elágazási szélességű faként ábrázolható, akkor a ToT tetszőleges szélességű fa feltérképezését teszi lehetővé. Ez kulcsfontosságú előnyöket biztosít:

• Alternatívák feltárása: A ToT több megoldási útvonalat vizsgálhat, míg a CoT egyetlen lineáris útra korlátozódik.
• Visszalépés lehetősége: A ToT lehetővé teszi a modell számára, hogy „visszalépjen", ha egy következtetési ág zsákutcába jutott, ami CoT esetén nem lehetséges.
• Globális tervezés: A ToT lehetővé teszi a stratégiai választást több jövőbeli lépés értékelése alapján.

ToT összehasonlítása a Self-Consistency módszerrel

A Self-Consistency több független „gondolatláncot" generál, és szavazással választja ki a leggyakoribb választ. Ez a módszer javítja a CoT megbízhatóságát, azonban a CoT-hoz hasonlóan nem teszi lehetővé az elágazó megoldásstruktúra feltérképezését. A ToT viszont összetettebb tervezési feladatoknál lényegesebb javulást mutathat, ahol nem csupán a független kísérletek, hanem azok egymáshoz való viszonya is fontos.

Kísérleti eredmények

A ToT szerzői három olyan feladaton demonstrálták a módszer hatékonyságát, amelyek nem triviális tervezést vagy keresést igényelnek.

• 24-es játék: Egy matematikai rejtvény, amelyben négy adott számból a 24-es számot kell előállítani alapvető aritmetikai műveletek segítségével. A GPT-4-gyel végzett standard promptolás 7,3%-os sikeres megoldási arányt mutatott, a Chain of Thought 4%-ot. A ToT szélességi kereséssel (b=5) 74%-os sikerességet ért el, ami 18,5-szer jobb a CoT-nál.
• Kreatív írás: Négy, előre meghatározott záró mondattal rendelkező bekezdésből álló összefüggő szöveg generálásának feladatánál a ToT segítségével létrehozott szövegek átlagos koherencia-pontszáma 7,56 volt 10-ből, míg a CoT esetében 6,15. 100 összehasonlításból 41 esetben az emberek a ToT által generált szöveget részesítették előnyben a CoT 21-es eredményével szemben.
• Mini keresztrejtvények (5x5): A ToT a szavak 60%-át töltötte ki helyesen, míg a CoT csupán 1%-ot.

Korlátok és jövőbeli irányok

A lenyűgöző eredmények ellenére a ToT keretrendszernek számos korlátja van:

• Számítási komplexitás: A ToT lényegesen több számítási erőforrást igényel (5–100-szor több tokent), mint a szokásos módszerek, mivel szükséges több „gondolat" generálása és értékelése.
• Megvalósítás összetettsége: A ToT bevezetése jelentős mérnöki erőfeszítést igényel az összes komponens – a gondolatgenerátor, az állapotértékelő és a keresési algoritmus – létrehozásához és hangolásához.
• Az értékelés minőségétől való függőség: Az egész keretrendszer hatékonysága nagymértékben függ az LLM azon képességétől, hogy megfelelően értékelje a közbenső állapotokat, ami nem mindig garantált.

A jövőbeli kutatások célja a hatékonyság növelése, az optimalizálás automatizálása, valamint a ToT integrálása más módszerekkel – például megerősítéses tanulással –, hogy okosabb és autonómabb ágenseket hozzanak létre.

Hivatkozások

• A Tree of Thoughts hivatalos tárolója a GitHubon.
• Tree of Thoughts (ToT) — útmutató a Prompt Engineering Guide-on.

Irodalom

• Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.
• Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. arXiv:2205.11916.
• Zhang, Z. et al. (2022). Automatic Chain of Thought Prompting in Large Language Models. arXiv:2210.03493.
• Lyu, Q. et al. (2023). Faithful Chain-of-Thought Reasoning. arXiv:2301.13379.
• Ling, Z. et al. (2023). Deductive Verification of Chain of Thought Reasoning. arXiv:2306.03872.
• Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
• Besta, M. et al. (2023). Graph of Thoughts: Solving Elaborate Problems with Large Language Models. arXiv:2308.09687.
• Lightman, H. et al. (2023). Let's Verify Step by Step. arXiv:2305.20050.
• Lanham, T. et al. (2023). Measuring Faithfulness in Chain-of-Thought Reasoning. arXiv:2307.13702.
• Yang, B. et al. (2025). Hallucination Detection in Large Language Models with Metamorphic Relations. arXiv:2502.15844.