Tree of Thoughts (ToT) (RO)

Tree of Thoughts (ToT) (Arborele gândurilor) — este un framework inovator pentru gestionarea raționamentului modelelor lingvistice de mari dimensiuni (LLM), permițându-le să realizeze rezolvarea conștientă a problemelor prin explorarea sistematică a multiplelor căi de raționament. Conceptul a fost prezentat în 2023 de cercetători de la Universitatea Princeton și Google DeepMind.

ToT reprezintă o extensie și o generalizare a popularei tehnici „lanțul gândurilor" (Chain of Thought, CoT). Spre deosebire de CoT, unde raționamentul constă dintr-o singură secvență liniară de pași, ToT organizează procesul de gândire sub forma unui arbore, unde fiecare nod este o stare intermediară („gând"), iar ramurile reprezintă posibile căi de dezvoltare a raționamentului. Aceasta permite modelului să exploreze mai multe variante în paralel, să le evalueze perspectivele, să revină la pașii anteriori atunci când se descoperă fundături (backtracking) și să facă alegeri conștiente.

Principiul de funcționare

Framework-ul ToT organizează procesul de rezolvare a unei probleme ca o căutare pe un arbore de stări. Funcționarea sa se bazează pe interacțiunea ciclică a patru componente cheie:

1. Descompunerea problemei în „gânduri\": Problema inițială este împărțită în sub-sarcini mai mici, numite „gânduri". Spre deosebire de CoT, unde un „gând" este pur și simplu următorul token, în ToT un „gând" reprezintă o unitate semantică semnificativă (de exemplu, o ecuație într-o problemă matematică sau un paragraf într-un plan de text), care apropie de soluție.

2. Generarea gândurilor: La fiecare pas, pentru starea curentă (nodul arborelui), modelul generează mai multe „gânduri" potențiale (ramuri). În acest scop sunt utilizate două strategii:

• Eșantionare (sample): Modelul generează independent mai multe variante de continuare. Potrivit pentru sarcini creative, unde este utilă o gamă largă de idei.
• Propunere (propose): Modelul generează variantele secvențial, ceea ce este mai eficient pentru sarcini cu un spațiu limitat de soluții.

3. Evaluarea stărilor: „Gândurile" generate sunt evaluate de însuși LLM pentru a determina perspectivele lor. Evaluarea poate fi numerică (de exemplu, pe o scală de la 0 la 1) sau categorică („sigur", „posibil", „imposibil"). Aceasta este o funcție euristică care ghidează căutarea spre ramurile promițătoare.

4. Algoritmul de căutare: Pentru explorarea sistematică a arborelui de gânduri sunt utilizați algoritmi clasici de căutare:

• Căutarea în lățime (BFS): Explorează toate nodurile de pe un nivel înainte de a trece la următorul. Garantează găsirea celui mai scurt drum, dar necesită mai multă memorie.
• Căutarea în adâncime (DFS): Explorează o ramură până la capăt înainte de a reveni și de a încerca alta. Este mai economică din punct de vedere al memoriei și potrivită pentru sarcini cu un spațiu de căutare profund, dar nu prea larg.

Acest framework imită gândirea umană în rezolvarea problemelor, combinând generarea intuitivă de idei (cu ajutorul LLM) cu planificarea conștientă, sistematică și enumerarea variantelor.

Comparație cu alte metode de raționament

ToT în comparație cu Chain of Thought (CoT)

ToT reprezintă o generalizare directă a CoT. Dacă CoT poate fi reprezentat ca un arbore cu un factor de ramificare egal cu 1, atunci ToT permite explorarea unui arbore cu o lățime arbitrară. Aceasta oferă avantaje cheie:

• Explorarea alternativelor: ToT poate examina mai multe căi de rezolvare, în timp ce CoT este limitat la o singură cale liniară.
• Posibilitatea de revenire: ToT permite modelului să „se întoarcă", dacă o ramură a raționamentului a ajuns într-un impas, ceea ce nu este posibil în CoT.
• Planificare globală: ToT permite efectuarea de alegeri strategice pe baza evaluării mai multor pași viitori.

ToT în comparație cu Self-Consistency

Self-Consistency generează mai multe „lanțuri de gânduri" independente și selectează răspunsul cel mai frecvent prin vot. Această metodă îmbunătățește fiabilitatea CoT, dar, la fel ca CoT, nu permite explorarea structurii ramificate a soluției. ToT, la rândul său, poate prezenta îmbunătățiri mai substanțiale pentru sarcini complexe de planificare, unde nu sunt importante doar încercările independente, ci și interrelația dintre ele.

Rezultate experimentale

Autorii ToT au demonstrat eficacitatea acestuia pe trei sarcini care necesită planificare sau căutare netrivială.

• Jocul 24: O ghicitoare matematică în care trebuie să se obțină numărul 24 din patru numere date folosind operații aritmetice de bază. Prompting-ul standard cu GPT-4 a arătat o rată de succes de 7,3%, Chain of Thought — 4%. ToT cu căutare în lățime (b=5) a atins 74% rată de succes, de 18,5 ori mai bine decât CoT.
• Scriere creativă: În sarcina de generare a unui text coerent din patru paragrafe cu propoziții finale date, textele create cu ToT au obținut un scor mediu de coerență de 7,56 din 10, în timp ce CoT — 6,15. În 41 din 100 de comparații, oamenii au preferat textul generat de ToT față de 21 pentru CoT.
• Mini-cuvinte încrucișate (5x5): ToT a completat corect 60% dintre cuvinte, în timp ce CoT — doar 1%.

Limitări și direcții viitoare

În ciuda rezultatelor impresionante, framework-ul ToT prezintă o serie de limitări:

• Complexitate computațională: ToT necesită semnificativ mai multe resurse de calcul (de 5–100 de ori mai multe token-uri) decât metodele standard, din cauza necesității de a genera și evalua numeroase „gânduri".
• Complexitate de implementare: Adoptarea ToT necesită eforturi inginerești considerabile pentru crearea și configurarea tuturor componentelor: generatorul de gânduri, evaluatorul de stări și algoritmul de căutare.
• Dependența de calitatea evaluării: Eficiența întregului framework depinde în mare măsură de capacitatea LLM de a evalua adecvat stările intermediare, ceea ce nu este întotdeauna garantat.

Cercetările viitoare sunt orientate spre creșterea eficienței, automatizarea optimizării și integrarea ToT cu alte metode, precum Reinforcement Learning, pentru crearea unor agenți mai inteligenți și mai autonomi.

Referințe

• Depozitul oficial Tree of Thoughts pe GitHub.
• Tree of Thoughts (ToT) — ghid pe Prompt Engineering Guide.

Bibliografie

• Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.
• Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. arXiv:2205.11916.
• Zhang, Z. et al. (2022). Automatic Chain of Thought Prompting in Large Language Models. arXiv:2210.03493.
• Lyu, Q. et al. (2023). Faithful Chain-of-Thought Reasoning. arXiv:2301.13379.
• Ling, Z. et al. (2023). Deductive Verification of Chain of Thought Reasoning. arXiv:2306.03872.
• Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
• Besta, M. et al. (2023). Graph of Thoughts: Solving Elaborate Problems with Large Language Models. arXiv:2308.09687.
• Lightman, H. et al. (2023). Let's Verify Step by Step. arXiv:2305.20050.
• Lanham, T. et al. (2023). Measuring Faithfulness in Chain-of-Thought Reasoning. arXiv:2307.13702.
• Yang, B. et al. (2025). Hallucination Detection in Large Language Models with Metamorphic Relations. arXiv:2502.15844.