X记录空间
为什么 Agent Framework 都在走状态机架构
前言 如果你观察近两年的 AI Agent 框架，会发现一个非常有趣的现象。 无论是： 它们都开始弱化「聊天机器人」的概念，而越来越强调： 状态（State）。 很多开发者第一次接触 Agent 时，会认为 Agent 只是： 这种结构对于...
最新发布 第3页
undefinedTool Calling 的本质是什么：从函数调用到 Agent 工具生态
前言 很多人第一次看到： 都会觉得： 这是一个模型能力。 实际上。 Tool Calling 更像： 一种协议。 模型并不会真正： 执行数据库。 访问 GitHub。 读取文件。 模型真正做的事情只有一件： 决定应该调用哪个工具。 执行工具...
Prompt Builder 架构详解：为什么 Prompt 不应该手工拼接
前言 很多 AI 项目最开始都是这样实现的： 然后直接发送给模型。 Demo 阶段没问题。 但是当系统开始支持： 问题会越来越严重。 例如： 这时候，Prompt 已经不应该被看成一个字符串。 而应该被看成： 一个动态生成的上下文系统。 P...
为什么大模型需要 Planner + Executor 架构
前言 很多开发者做 Agent 时。 第一反应是： 这种结构很简单。 但复杂任务很快就会失败。 例如： 这些任务涉及： 多个步骤。 多个工具。 多个依赖关系。 单次 Prompt 很难完成。 因此： 现代 Agent 越来越多采用： Pla...
AI Agent 的记忆系统设计：短期记忆、长期记忆与工作记忆
前言 很多开发者第一次做 AI Agent 时，都会自然地把记忆理解成： 用户说一句。 AI 回一句。 然后： 最后把整个 messages 数组发送给模型。 这种方式在 Demo 阶段没有问题。 但随着： 问题会越来越明显。 例如： 实际...
如何设计会话上下文系统
前言 很多 AI Chat 项目一开始都很简单： 然后： 全部发送给模型。 前几天运行很好。 但用户越来越多之后。 问题开始出现： 原因并不是模型不够强。 而是： 上下文系统设计得太简单。 事实上， 上下文系统决定了 AI 产品的上限。 一...
AI Agent 如何避免上下文污染
前言 随着 AI Agent 能力越来越强，一个隐藏的问题也越来越明显： 上下文污染（Context Pollution）。 很多开发者第一次做 Agent 时，都会有一种错觉： 上下文越多越好。 于是： 最终导致： 事实上，对于 AI A...
Embedding 与向量数据库原理
前言 很多开发者开始做 AI 项目时，最先接触的是聊天接口。 最简单的架构通常是： 这种方式适合普通问答，但一旦项目涉及私有知识库、文档问答、企业资料检索、客服系统、代码库分析，就会遇到一个核心问题： 模型本身并不知道你的私有数据。 例如：...
为什么 RAG 不等于向量数据库
前言 很多开发者第一次接触 RAG 时，会形成一个简单理解： 这个理解不能说完全错误，但非常不完整。 向量数据库只是 RAG 系统中的一个组件。 真正的 RAG 系统包含： 如果只把文档丢进向量数据库，然后让模型回答，很容易得到一个“看起来...
Prompt 缓存机制与成本优化实践
AI 产品最大的成本是什么？ 不是服务器。 而是 Token。 随着用户增加。 成本会呈指数增长。 很多项目上线后才发现： OpenAI 成本远超服务器费用。 因此。 Prompt Cache 非常重要。 什么请求最适合缓存？ 固定知识。 ...