它是怎么工作的
每个账号对应一个长期运行的模型会话,同一时间只处理一轮。本页简要介绍核心运行机制;完整细节及与其他项目的横向对比请参阅仓库内的 docs/how-it-works.zh-CN.md(英文版)。
什么会开启一轮
- 收到消息: 私聊消息,或群聊里 @模型、引用回复模型、提及模型昵称 / 别名 / 关键词的消息,按该会话的策略开启一轮;普通群消息在模型决定主动接话时也会开启一轮。
- 唤醒词: 模型安静结束一轮时可在当前会话留下几个唤醒词,六小时内会话中出现任意一个词即开启新一轮。
- 延时等待: 模型可设定等待 1 分钟至 1 天后再回来看,到期后带着该会话的最新消息重新开启一轮。
- 定时任务: 由模型在管理员私聊中设定,或由管理员在定时页直接填写,到点在指定会话开启一轮,并将任务说明作为输入。每项任务会记录创建者,模型只能改动自己设定的任务。
按批合并与主动接话
同一会话中连续发来的消息会先短暂合并成批:同一人连续输入时多等片刻,换人接话时缩短等待,被 @ 时最多等 1 秒,整批最长等待约 8 秒。在允许主动接话的群聊里,先由 Jev 评估此刻插话是否自然,系统再根据模型是否刚在该群发过言、近期发言占比、话痨度及安静时段扣除一定分数(批次内有人 @模型时少扣一点)。若连续几批都未发言,后续插话判断会自动退避延后,期间消息暂存不丢。多个会话同时排队时,超过饿等上限的会话优先处理,其余会话可由 Jev 按紧急程度调整顺序。
单一会话与滚动窗口
模型的工作记忆不是一条无限拉长的对话记录,而是由一串带 token 预算的上下文窗口组成,仅按 token 用量(而非对话轮数)触发轮换。窗口打开期间,开头的系统提示词与初始数据保持冻结,使模型服务商的提示词缓存持续命中。当窗口逐渐填满时,系统会在尾部追加分阶段提醒,引导模型更新笔记并撰写交接备忘;到达硬上限时自动强制轮换。每个新窗口开头包含固定衔接说明、交接备忘(若有)、活跃笔记摘要及当前会话的近期消息;旧窗口虽不重放,但笔记、自身历史和聊天记录均可随时通过工具检索。
笔记:唯一的长期记忆
笔记由模型自己撰写与维护,每条笔记都带有一句不超过 200 字的摘要,并共享窗口的 token 预算。每次窗口轮换时,系统自动挑选一组活跃笔记(管理员设为常驻的笔记、上一窗口新建或修改的笔记,以及按使用度排序的常用笔记)放入新窗口,其余笔记自动归档且随时可检索。笔记采用只追加的版本历史,并自动锚定来源消息与事件记录,修改后依然能够追溯原始上下文。可在记忆页面浏览和检索所有笔记。
Jev:结构化判断与安全把关
Jev 是 TypeSafe AI 的决策模型。它从不撰写回复正文,只对结构化的是非题(返回 0–1 概率)和分档打分题(返回 0–2 分数)给出判断,由系统结合硬性规则边界执行。它用于:群聊是否主动插话、回复前等待多久、回复是否带引用、多个等待会话谁先处理、每条外发气泡的安全审查、沙箱访问未知域名的放行判定,以及窗口轮换时候选笔记的加权评分。各可配置判断项的模式(关闭 / 只记录不生效 / 启用)、阈值和补充标准均分布在对应的功能页面上;新增判断项默认以 只记录不生效 模式上线,方便先在日志中观察判断效果。
与其他项目对比
与 AstrBot、MaiBot、DeepSeek Harness 和 pi 在上下文窗口与记忆机制上的详细对比,见 docs/how-it-works.zh-CN.md 末尾章节。