max_steps 以前同时充当软预算和 recursion_limit,于是预算耗尽的那一刻 必然触发 GraphRecursionError:模型连一句收尾都来不及说,用户只收到 「处理消息时出错,请稍后再试」,已产出的内容也不会落库。 - 新增 StepBudgetMiddleware:按模型调用轮数计账(agent_rounds = max_steps // 2),剩余 <=4 轮时注入一次「立刻停止调用工具、给出结论」 的收尾提示,只提醒一次 - 新增 STEP_GRACE(20),recursion_limit = max_steps + STEP_GRACE,把余量 留给收尾动作 - GraphRecursionError 统一转成 StepBudgetExceeded,ainvoke 与流式两条 路径都覆盖 - AgentReply 把「步数用尽」渲染成可操作说明,接在已产出内容之后一并 下发并落库;用 _reported 标记让 on_error 不再补发通用错误文案,任务 状态仍如实记 failed - 同步 README / docs/architecture.md / db/schema.py 中 max_steps 的语义 测试:新增 tests/test_budget.py(7 个用例),全量 241 passed。
79 lines
3.1 KiB
Python
79 lines
3.1 KiB
Python
"""运行配置:统一从环境变量读取,并允许数据库配置覆盖模型凭据。"""
|
|
|
|
from __future__ import annotations
|
|
|
|
import os
|
|
from dataclasses import dataclass, field
|
|
from pathlib import Path
|
|
|
|
from bot042.home import db_path, resolve_home
|
|
|
|
STEP_GRACE = 20
|
|
"""图步数硬上限相对 ``max_steps`` 的余量。
|
|
|
|
留给「预算将尽」提示被遵守的空间:预算用尽与硬上限如果相等,撞上限的那一刻
|
|
直接抛 ``GraphRecursionError``,模型连一句话都来不及说。
|
|
"""
|
|
|
|
|
|
@dataclass(frozen=True)
|
|
class Settings:
|
|
"""bot042 运行时配置。
|
|
|
|
模型相关的三项(``model`` / ``api_key`` / ``base_url``)优先级:
|
|
环境变量 > 数据库 ``providers``/``models`` 表 > 内置默认值。
|
|
环境变量是否显式设置见 :attr:`model_explicit`——它决定数据库里的默认
|
|
模型能否覆盖 ``model``(否则永远被默认值挡住)。
|
|
"""
|
|
|
|
model: str = "openai:gpt-4o-mini"
|
|
max_steps: int = 200
|
|
"""单次任务的**软**步数预算。
|
|
|
|
这是给模型看的预算:预算将尽时中间件会注入一条「立刻收尾」提示
|
|
(见 :mod:`bot042.agent.middlewares.budget`),交给 LangGraph 的硬上限是
|
|
:attr:`recursion_limit`(比它多 :data:`STEP_GRACE` 步)。联网检索类任务一轮
|
|
要跑很多次工具调用(搜索 → 抓取 → 再搜索),50 步很容易在给出答案前耗尽,
|
|
因此默认给到 200。
|
|
"""
|
|
log_level: str = "INFO"
|
|
home: Path = field(default_factory=resolve_home)
|
|
api_key: str | None = None
|
|
base_url: str | None = None
|
|
model_explicit: bool = False
|
|
"""``BOT042_MODEL`` 是否由环境变量显式指定(显式时数据库不覆盖)。"""
|
|
max_steps_explicit: bool = False
|
|
"""``BOT042_MAX_STEPS`` 是否由环境变量显式指定(显式时数据库不覆盖)。"""
|
|
|
|
@property
|
|
def database(self) -> Path:
|
|
"""home 目录下的 bot.db 路径。"""
|
|
return db_path(self.home)
|
|
|
|
@property
|
|
def recursion_limit(self) -> int:
|
|
"""交给 LangGraph 的硬步数上限。
|
|
|
|
硬上限必须**大于**软预算:预算用尽时模型需要几步把结论写完,直接等值会
|
|
让收尾提示和中断同时到达,退化回「抛异常、无结论」。
|
|
"""
|
|
return self.max_steps + STEP_GRACE
|
|
|
|
@property
|
|
def agent_rounds(self) -> int:
|
|
"""模型调用轮数预算:一次「模型 → 工具」往返约耗 2 个图步。"""
|
|
return max(1, self.max_steps // 2)
|
|
|
|
@classmethod
|
|
def from_env(cls) -> Settings:
|
|
return cls(
|
|
model=os.getenv("BOT042_MODEL", cls.model),
|
|
max_steps=int(os.getenv("BOT042_MAX_STEPS", str(cls.max_steps))),
|
|
log_level=os.getenv("BOT042_LOG_LEVEL", cls.log_level).upper(),
|
|
home=resolve_home(os.getenv("BOT042_HOME")),
|
|
api_key=os.getenv("OPENAI_API_KEY"),
|
|
base_url=os.getenv("OPENAI_BASE_URL"),
|
|
model_explicit="BOT042_MODEL" in os.environ,
|
|
max_steps_explicit="BOT042_MAX_STEPS" in os.environ,
|
|
)
|