Tree of Thoughts (ToT) (BG)

Tree of Thoughts (ToT) (Дърво на мислите) — това е иновативен framework за управление на разсъжденията на големи езикови модели (LLM), позволяващ им да изпълняват осъзнато решаване на задачи чрез систематично изследване на множество пътища на разсъждение. Концепцията е представена през 2023 година от изследователи от Принстънския университет и Google DeepMind.

ToT е разширение и обобщение на популярната техника „верига от мисли" (Chain of Thought, CoT). За разлика от CoT, където разсъждението представлява единична линейна последователност от стъпки, ToT организира процеса на мислене под формата на дърво, където всеки възел е междинно състояние („мисъл"), а клоните са възможните пътища за развитие на разсъждението. Това позволява на модела да изследва няколко варианта паралелно, да оценява тяхната перспективност, да се връща към предишни стъпки при открити задънени улици (backtracking) и да прави осъзнат избор.

Принцип на работа

Framework-ът ToT организира процеса на решаване на задача като търсене по дърво от състояния. Работата му се основава на цикличното взаимодействие на четири ключови компонента:

1. Декомпозиция на задачата на „мисли": Изходният проблем се разбива на по-малки подзадачи-стъпки, наречени „мисли". За разлика от CoT, където „мисълта" е просто следващият token, в ToT „мисълта" е семантично значима единица (например уравнение в математическа задача или абзац в план на текст), която приближава до решението.

2. Генериране на мисли: На всяка стъпка за текущото състояние (възел на дървото) моделът генерира няколко потенциални следващи „мисли" (клони). За целта се използват две стратегии:

• Семплиране (sample): Моделът независимо генерира няколко варианта за продължение. Подходящо за творчески задачи, при които е полезен широк спектър от идеи.
• Предлагане (propose): Моделът последователно генерира варианти, което е по-ефективно за задачи с ограничено пространство от решения.

3. Оценяване на състоянията: Генерираните „мисли" се оценяват от самия LLM за определяне на тяхната перспективност. Оценката може да бъде числова (например по скала от 0 до 1) или категориална („сигурно", „възможно", „невъзможно"). Това е евристична функция, която насочва търсенето към обещаващите клони.

4. Алгоритъм за търсене: За систематично изследване на дървото от мисли се използват класически алгоритми за търсене:

• Търсене в ширина (BFS): Изследва всички възли на едно ниво, преди да премине на следващото. Гарантира намиране на най-краткия път, но изисква повече памет.
• Търсене в дълбочина (DFS): Изследва един клон докрай, преди да се върне и да опита друг. По-икономичен откъм памет и подходящ за задачи с дълбоко, но не прекалено широко пространство за търсене.

Този framework имитира човешкото мислене при решаване на проблеми, съчетавайки интуитивното генериране на идеи (с помощта на LLM) с осъзнатото, систематично планиране и преглеждане на варианти.

Сравнение с други методи за разсъждение

ToT в сравнение с Chain of Thought (CoT)

ToT е пряко обобщение на CoT. Ако CoT може да се представи като дърво с ширина на разклоняване, равна на 1, то ToT позволява изследване на дърво с произволна ширина. Това дава ключови предимства:

• Изследване на алтернативи: ToT може да разглежда няколко пътища за решение, докато CoT е ограничен до един линеен път.
• Възможност за връщане назад: ToT позволява на модела да „се върне назад", ако клон на разсъжденията е достигнал задънена улица, което е невъзможно при CoT.
• Глобално планиране: ToT позволява стратегически избор въз основа на оценка на няколко бъдещи стъпки.

ToT в сравнение с Self-Consistency

Self-Consistency генерира множество независими „вериги от мисли" и избира най-честия отговор чрез гласуване. Този метод подобрява надеждността на CoT, но, както и CoT, не позволява изследване на разклонена структура на решението. ToT, от своя страна, може да показва по-съществени подобрения при сложни задачи за планиране, при които са важни не само независимите опити, но и тяхната взаимовръзка.

Експериментални резултати

Авторите на ToT демонстрират неговата ефективност върху три задачи, изискващи нетривиално планиране или търсене.

• Игра 24: Математически пъзел, при който трябва да се получи числото 24 от четири зададени числа с помощта на основни аритметични операции. Стандартният prompting с GPT-4 показа успеваемост 7.3%, Chain of Thought — 4%. ToT с търсене в ширина (b=5) достигна 74% успеваемост, което е 18.5 пъти по-добре от CoT.
• Творческо писане: При задача за генериране на свързан текст от четири абзаца с зададени последни изречения, текстовете, създадени с помощта на ToT, получиха среден бал за кохерентност 7.56 от 10, докато CoT — 6.15. В 41 от 100 сравнения хората предпочетоха текста, генериран от ToT, срещу 21 за CoT.
• Мини-кръстословици (5x5): ToT правилно попълни 60% от думите, докато CoT — едва 1%.

Ограничения и бъдещи насоки

Въпреки впечатляващите резултати, framework-ът ToT има редица ограничения:

• Изчислителна сложност: ToT изисква значително повече изчислителни ресурси (5–100 пъти повече token-и), отколкото стандартните методи, поради необходимостта да се генерират и оценяват множество „мисли".
• Сложност на внедряването: Прилагането на ToT изисква значителни инженерни усилия за създаване и настройка на всички компоненти: генератор на мисли, оценител на състояния и алгоритъм за търсене.
• Зависимост от качеството на оценката: Ефективността на целия framework силно зависи от способността на LLM да оценява адекватно междинните състояния, което не винаги е гарантирано.

Бъдещите изследвания са насочени към повишаване на ефективността, автоматизиране на оптимизацията и интегриране на ToT с други методи, като Reinforcement Learning, за създаване на по-умни и автономни агенти.

Препратки

• Официалното хранилище на Tree of Thoughts в GitHub.
• Tree of Thoughts (ToT) — ръководство в Prompt Engineering Guide.

Литература

• Yao, S. et al. (2023). Tree of Thoughts: Deliberate Problem Solving with Large Language Models. arXiv:2305.10601.
• Wei, J. et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. arXiv:2201.11903.
• Wang, X. et al. (2022). Self-Consistency Improves Chain of Thought Reasoning in Language Models. arXiv:2203.11171.
• Kojima, T. et al. (2022). Large Language Models are Zero-Shot Reasoners. arXiv:2205.11916.
• Zhang, Z. et al. (2022). Automatic Chain of Thought Prompting in Large Language Models. arXiv:2210.03493.
• Lyu, Q. et al. (2023). Faithful Chain-of-Thought Reasoning. arXiv:2301.13379.
• Ling, Z. et al. (2023). Deductive Verification of Chain of Thought Reasoning. arXiv:2306.03872.
• Yao, S. et al. (2022). ReAct: Synergizing Reasoning and Acting in Language Models. arXiv:2210.03629.
• Besta, M. et al. (2023). Graph of Thoughts: Solving Elaborate Problems with Large Language Models. arXiv:2308.09687.
• Lightman, H. et al. (2023). Let's Verify Step by Step. arXiv:2305.20050.
• Lanham, T. et al. (2023). Measuring Faithfulness in Chain-of-Thought Reasoning. arXiv:2307.13702.
• Yang, B. et al. (2025). Hallucination Detection in Large Language Models with Metamorphic Relations. arXiv:2502.15844.