来源：X @itianjio
LLM生成树（LLM-Generated Tree）是一个示意性的系统架构，展示了大型语言模型（LLM）如何通过结构化的方式来管理和执行复杂的多步骤任务。该系统将整个工作流程分解为会话、任务、计划和步骤等多个层级，并引入了“沙箱”隔离环境和ReAct过程优化步骤调度，以实现高效且可控的自动化处理。
系统概览：从会话到步骤
整个流程从一个“会话（Session）”开始，会话代表了一个连续的交互或对话过程，例如sess_001，其当前状态为“运行中（running）”。在会话层级之下，是多个独立的“沙箱（Sandbox）”环境，每个沙箱负责处理一个“任务（Task）”。
- 会话（Session）：顶级容器，代表一个完整的交互或工作周期。
- 沙箱（Sandbox）：为每个任务提供隔离的执行环境，确保任务之间互不干扰。图示中展示了
Sandbox 1、Sandbox 2直至Sandbox N，分别对应Task 1、Task 2和Task N。
任务与计划管理
每个沙箱内包含一个或多个“任务（Task）”，任务是具体的、需要完成的工作单元。例如，Task 1: task_001已“完成（finished）”，Task 2: task_002正在“运行中（running）”，而Task N: task_NNN则处于“待处理（pending）”状态。
在每个任务之下，又细分为多个“计划（Plan）”。计划代表了完成该任务的具体策略或路径。
- 任务（Task）：具体的业务目标或操作。
- 计划（Plan）：为完成任务而制定的详细执行方案，可以有多个并行或串行的计划。例如，
Task 1包含Plan 1到Plan m，均已“完成”；Task 2包含Plan 2.1至Plan 2.k，其中Plan 2.1正在“运行中”，其他为“待处理”。
系统通过“Workflow”机制实现“Task 调度”，这是一种跨越不同计划的整体流程控制，确保任务按照预定逻辑推进。
步骤R eAct调度机制
计划进一步分解为具体的“步骤（Step）”，步骤是执行计划的最小单元。为了优化每个步骤的执行，系统引入了“ReAct 过程”进行“Step 调度”。
ReAct（Reasoning and Acting）是一种常用于LLM的调度模式，它涉及以下循环：
- 观察（Observation）：获取当前环境或任务的最新信息。
- 思考（Thought）：基于观察结果进行推理，决定下一步行动。
- 行动（Action / Tool Calling）：执行相应的操作，可能调用外部工具。
- 结果（Result）：接收行动的反馈或结果。
这个循环在单个步骤内部持续进行，直到步骤完成。例如，Plan 1包含Step 1.1到Step 1.n，其中Step 1.1和Step 1.n已“完成”，Step 1.2正在“运行中”。Plan 2.1的步骤Step 2.1.1已“完成”，Step 2.1.2正在“运行中”。
状态管理与完成标志
系统中的所有节点（会话、任务、计划、步骤）都明确标记了其当前状态，包括：
- 待处理（pending）：等待执行。
- 运行中（running）：当前正在执行。
- 完成（finished）：已成功执行完毕。
当所有沙箱、任务、计划和步骤都达到“完成”状态时，整个“树（Tree）”便标记为“Tree Completed”，表示所有节点都已成功完成。
总结
LLM生成树架构提供了一个清晰且分层的框架，用于 LLM 驱动的复杂任务执行。通过结合沙箱隔离、任务与计划的Workflow调度以及步骤级的ReAct过程，该系统能够有效地分解、管理和自动化执行大型语言模型所处理的各种任务，为开发更智能、更自主的AI系统提供了强大的支撑。