赵岩的博客

GraphRAG：让AI真正读懂知识图谱的革命性突破 引言：AI的”理解”困境 在人工智能快速发展的今天，我们经常遇到这样的场景：向ChatGPT或Claude询问一个复杂的跨领域问题，得到的回答要么泛泛而谈，要么出现事实性错误。即使是最先进的大语言模型，在面对需要深度关联多个知识点的复杂问题时，往往也会力不从心。 问题的根源在哪里？传统的大语言模型虽然拥有海量的知识储备，但这些知识是以”隐式”的方式存储在模型参数中的。当我们提问时，模型需要从数十亿个参数中”回忆”相关信息，这个过程就像在一个没有索引的图书馆里寻找一本特定的书——即使书就在那里，找到它也需要运气。 2025年，一个名为GraphRAG（Graph-based Retrieval-Augmented Generation）的技术横空出世，正在从根本上改变这一困境。它不是让大模型”更聪明”，而是给它配上了一个真正的”大脑外挂”——知识图谱。 一、从RAG到GraphRAG：知识表示的进化 1.1 传统RAG的局限性 检索增强生成（RAG）技术是2023-2024年的明星方案，其核心思想很简单：在大模型回答问题之前，先从外部文档库中检索相关内容，然后基于这些上下文生成答案。 传统RAG通常采用向量数据库 阅读全文 →

RAG 2.0与GraphRAG：知识检索的进化之路 当我们谈论AI如何理解世界时，检索增强生成（RAG）无疑是近年来最革命性的技术之一。而2025年，GraphRAG的出现，正在将这一技术推向新的高度。 一、从传统RAG到RAG 2.0：技术演进之路 1.1 传统RAG的局限性 2023年，RAG技术横空出世，解决了大模型”知识截止”和”幻觉”两大痛点。简单来说，RAG通过在生成答案前检索相关文档，让大模型能够访问最新的外部知识。 然而，传统RAG在2024年的大规模应用中暴露出了一些明显的问题： 向量检索的”语义漂移”问题：当我们用”如何优化MySQL查询”进行检索时，传统向量搜索可能返回关于数据库架构设计的文档，虽然语义相近，但并非用户真正需要的精确答案。 多跳推理能力缺失：要回答”微软的CEO是谁，他收购了哪家公司”这样的问题，需要多步推理。传统RAG很难将分散在不同文档中的信息关联起来。 全局上下文理解不足：面对大型企业知识库，传统RAG只能关注局部相关文档，难以理解整体结构和层级关系。 1.2 RAG 2.0的核心突破 2025年，随着技术的发展，RAG 2.0开始进入主流视野。相比传统RAG，RAG 2.0在以下几个方面实现了质的飞跃： 混合检索架构 阅读全文 →

大模型训练与优化：从理论到实践的技术深度解析 引言：大模型时代的挑战与机遇 2022年，ChatGPT的横空出世标志着大语言模型（Large Language Models, LLM）正式进入公众视野。短短两年时间，从GPT-3到GPT-4，从Claude到Llama，模型规模从百亿参数跃升至万亿级别，性能突破层出不穷。 然而，在惊叹于模型能力的同时，我们也面临着前所未有的挑战： 训练成本：训练一个万亿参数的模型需要数千万美元的计算资源 推理效率：大模型的推理延迟和吞吐量难以满足实时应用需求 数据质量：训练数据的规模、质量和多样性决定了模型的上限 微调成本：将预训练模型适配到特定领域仍需大量资源 这些问题推动了训练与优化技术的快速发展。本文将从技术深度出发，系统性地解析大模型训练与优化的核心技术和最佳实践。 一、大模型训练架构 1.1 分布式训练范式 大规模模型训练的核心挑战在于如何将模型和数据分布到多个计算节点上，同时保持训练的效率和稳定性。 数据并行（Data Parallelism） 原理：将模型复制到多个GPU上，每个GPU处理不同的数据批次，梯度在反向传播后聚合。 实现方式： AllReduce：使用NCCL或Gloo等通信库进行梯度同步 梯度累积：在多个小批次上累积梯度后再同步，减少通信频率 梯度压缩：使用量化、稀疏化等技术减少通信量 适用场景：模型能够放入单个GPU显 阅读全文 →

# AI Agent时代的到来：从工具到数字员工的革命 ## 引言：AI发展的下一个拐点 2024年，AI领域经历了一场静默而深刻的变革。当我们还在为大语言模型（LLM）能生成优美的文章而惊叹时，AI Agent的概念已经悄然崛起。这不仅仅是技术的迭代，更是一场关于”智能”定义的革命。 Anthropic发布的Claude Cowork、OpenAI的GPT-4 AutoGPT、以及开源社区中的AutoGen、LangGraph等项目，都在向我们传递一个信号：AI正在从被动的工具，转向主动的执行者。这种转变，意味着我们与人工智能的交互方式将被彻底重构。 本文将深入探讨AI Agent的技术原理、当前发展现状、实际应用场景，以及这场变革将如何重塑我们的工作与生活。 ## 一、什么是AI Agent？ ### 1.1 定义与核心特征 AI Agent（人工智能代理）可以被理解为一个能够感知环境、做出决策并采取行动以实现特定目标的智能系统。与传统AI工具最根本的区别在于：**Agent具有自主性**。 传统AI工具（如ChatGPT、Claude等对话型AI）是被动响应的——你问，它答。而AI Agent则能够： 1. **自主规划**：根据目标，分解任务并制定执行计划2. **主动探索**：在执行过程中主动搜索信息、调用工具3. **持续学习**：从执行结果中学 阅读全文 →

在构建 AI 应用时，如何让模型”记住”上下文，是一个核心挑战。OpenAI 的本地记忆功能为我们提供了一个优雅的解决方案。 本文将从技术实现的角度，解析 OpenAI 本地记忆的原理、实现方案和最佳实践。 ## 一、什么是本地记忆 本地记忆是 OpenAI 提供的一个 API 功能，允许开发者为 Assistant 添加持久化存储的能力。简单来说，它让 Assistant 能够跨越对话边界，访问历史信息和用户数据。 ### 核心概念 – 记忆存储：每个 Assistant 有独立的记忆空间 – 自动检索：API 根据当前上下文自动检索相关记忆 – 语义搜索：使用向量相似度进行语义匹配 – 自动更新：每次对话后自动保存新信息 ## 二、技术原理 ### 2.1 向量检索（RAG） 本地记忆的核心是检索增强生成（RAG）技术： “` 1. 文档分割 → 将长文本切分成小块 2. 向量化 → 将文本块转换为向量表示 3. 存储到向量数据库 4. 语义检索 → 用户查询时，找到最相关的文本块 5. 上下文注入 → 将检索到的内容注入到 LLM “` ### 2.2 Embedding 模型 OpenAI 提供了多种 Embedding 模型： – text-embedding-3- 阅读全文 →

在构建 AI Agent 的过程中，如何让模型突破自身的边界，访问外部世界的能力，成为一个核心问题。Skill 和 MCP（Model Context Protocol）是两种不同层次的解决方案，它们在定位、架构、应用场景上存在本质差异。 本文将从技术深度和架构设计角度，解析这两种范式的核心差异。 一、核心设计理念 Skill：领域知识的程序化封装 Skill 是一种紧耦合、嵌入式的能力扩展范式。它的核心思想是将特定领域的专家知识、工作流程、工具使用方法”冻结”成可复用的代码包，让 AI Agent 在需要时直接调用。 设计哲学： 认知卸载：将重复性的领域知识从模型的推理过程中分离出来 确定性执行：通过脚本和流程化步骤，减少模型幻觉和错误 渐进式加载：按需加载资源，避免上下文窗口的浪费 MCP：标准化的上下文协议 MCP 是一种松耦合、开放协议的能力扩展范式。它定义了一套 JSON-RPC 2.0 标准协议，让 AI 应用能够通过统一的接口连接到各种数据源、工具和工作流。 设计哲学： 互操作性：不同 AI 应用和工具之间无缝协作 关注点分离：数据层与传输层解耦，支持多种传输机制 生态化：鼓励第三方开发者构建独立的 MCP Server 二、架构层面的差异 2.1 宿主关系 Skill：内嵌式 – Skill 是 Agent 运行时的一部分 &#8 阅读全文 →

AI Agent时代的到来：从工具到数字员工的革命 引言：AI发展的下一个拐点 2024年，AI领域经历了一场静默而深刻的变革。当我们还在为大语言模型（LLM）能生成优美的文章而惊叹时，AI Agent的概念已经悄然崛起。这不仅仅是技术的迭代，更是一场关于”智能”定义的革命。 Anthropic发布的Claude Cowork、OpenAI的GPT-4 AutoGPT、以及开源社区中的AutoGen、LangGraph等项目，都在向我们传递一个信号：AI正在从被动的工具，转向主动的执行者。这种转变，意味着我们与人工智能的交互方式将被彻底重构。 本文将深入探讨AI Agent的技术原理、当前发展现状、实际应用场景，以及这场变革将如何重塑我们的工作与生活。 一、什么是AI Agent？ 1.1 定义与核心特征 AI Agent（人工智能代理）可以被理解为一个能够感知环境、做出决策并采取行动以实现特定目标的智能系统。与传统AI工具最根本的区别在于：Agent具有自主性。 传统AI工具（如ChatGPT、Claude等对话型AI）是被动响应的——你问，它答。而AI Agent则能够： 自主规划：根据目标，分解任务并制定执行计划 主动探索：在执行过程中主动搜索信息、调用工具 持续学习：从执行结果中学习，优化后续决策 多轮协作：能够与其他Agent或人类进行复杂的多轮交 阅读全文 →