1. 硬件背景与选型逻辑 在当前的本地 LLM（大语言模型）生态中，NVIDIA GeForce RTX 4060 Ti 16GB 是一张极具争议但也极具战略价值的显卡。 * 争议点：128-bit 的显存位宽限制了其在大吞吐量下的带宽上限。 * 战略价值：16GB 的大显存是运行大参数模型或超长上下文（Long Context）的硬门槛。 对于 Qwen3 系列模型，我们在 16GB 显存下主要面临三个选择： 1. Qwen3-30B-A3B MoE (Int3/Int4)：极高的智力上限，但显存占用极限，几乎没有空间留给上下文（KV Cache），适合短对话和难题攻克。 2. Qwen3-14B Dense (Int4/Int6)：平衡之选，但在 16GB 卡上略显平庸。 3. Qwen3-8B…
在 第四部分 中，我们研究了高层架构。现在，我们要进行"手术"。我们将查看 mem0/memory/main.py 中的代码，以确切了解当你调用 memory.add() 时会发生什么。 这是系统中最复杂的部分。它是"思考"发生的地方。 4 步pipline 当你调用 memory.add(messages, user_id="alice") 时，Mem0 会运行一个精心设计的 4 步管道： 1. 事实提取 (Fact Extraction)："用户实际上在说什么？" 2. 上下文检索…
在之前的文章中，我们专注于 使用 Mem0。现在，让我们看看它是 如何工作 的。 作为工程师，我们知道"记忆"不仅仅是一个魔法盒子。它是一个具有特定权衡的分布式系统。Mem0 做出了一些非常有主见的架构选择，使其有别于标准的 RAG 管道。 架构背后的"为什么" 在看图表之前，让我们先理解问题所在。 向量数据库的局限性 向量数据库（如 Pinecone 或 Qdrant）在 相似性搜索 方面非常出色。 * 查询："我想喝热饮。" * 结果："咖啡"、"茶"、"热巧克力"。 它们的工作原理是将文本转换为高维向量并找到&…
在 第二部分 中，我们手动实现了一个带记忆的 ReAct 智能体。但在真实项目中，你不会从零开始写 ReAct 循环。 你会使用像 LangChain 这样的成熟框架。那么，如何将 Mem0 集成进去呢？ LangChain 的 Agent 架构 LangChain 提供了一个强大的 AgentExecutor，它已经实现了完整的 ReAct 循环。你只需要： 1. 定义工具 (Tools) 2. 提供 LLM 3. 运行 executor.run() from langchain.agents import initialize_agent, Tool from langchain.llms import OpenAI…
在 第一部分 中，我们理解了 ReAct 智能体的记忆问题。现在，让我们动手构建一个真正能"记住"的智能体。 我们将从零开始实现一个 ReAct 循环，然后逐步加入 Mem0 记忆层。 ReAct 循环的核心结构 在开始之前，让我们先理解 ReAct 循环的本质。它是一个 Thought → Action → Observation 的迭代过程。 while not task_complete and steps < max_steps: # 1. Thought: 智能体分析当前状态并制定计划 thought = llm.generate(f"当前状态: {state}\n下一步应该做什么？"…
如果你正在构建 AI 智能体，你可能已经遇到了一个让人抓狂的问题：智能体似乎患有"阿尔茨海默症"。 它刚刚花了 3 步去搜索某个 API 文档，但 5 分钟后，当你问同样的问题时，它又重新搜索了一遍。它无法记住自己做过什么、学到了什么，更不用说记住用户的偏好了。 这不是某个框架的 bug，这是 ReAct 智能体架构的固有问题。 什么是 ReAct？ 在深入记忆问题之前，让我们先理解 ReAct（Reasoning and Acting）范式。 ReAct 是由 Yao 等人在 2022 年提出的一种 Agent 架构模式。它的核心思想是：让 LLM 交替进行"思考"…
牢笼建好了，犯人也关进去了。最后的问题是：我们怎么知道他在里面干了什么？ 对于 Code Interpreter 来说，用户的代码输出（Stdout/Stderr）必须实时、完整地传回给前端。而且，如果代码死循环了，我们得能把它杀掉。 这两个看似简单的需求，在实现时也让我们踩了不少坑。 坑一：IO 阻塞与 Goroutine 泄漏 最初，我们简单地用 cmd.StdoutPipe() 获取管道，然后在一个 Goroutine 里读。 // 错误示范 go func() { io.Copy(outputChan, stdoutPipe) }() 但在高并发场景下，我们发现 Goroutine 数量飙升。原来，如果 Python 进程异常退出或者被 kill 掉，有时候管道的 Read…
把 Go 代码注入到 Python 进程后，我们拿到了控制权。现在的任务是：把这个进程关进“监狱”里。 在 internal/core/lib/python/add_seccomp.go 中，我们定义了这座“监狱”的构造。 第一步：切断退路 (Chroot) 首先要解决的是文件系统的隔离。我们不希望用户代码能看到 /etc/passwd，也不希望它能看到宿主机的任何文件。 chroot 是最古老也是最有效的手段之一。 // internal/core/lib/python/add_seccomp.go func InitSeccomp(uid int, gid int, enable_network bool) error { // 1.…