全部笔记

李宏毅 AI 课程：生成式人工智能与基础模型总览

从自回归生成、Transformer 和 Mamba 到预训练、对齐、推理与 AI Agent 的课程总览。

李宏毅 AI 课程：预训练与能力来源

整理预训练、指令微调、数据质量、合成数据和基础模型能力来源。

李宏毅 AI 课程：后训练与持续学习

整理监督微调、强化学习、灾难性遗忘、回放和安全能力保持方法。

李宏毅 AI 课程：深度推理与搜索

整理思维链、自洽性、验证器、树搜索、过程奖励和 DeepSeek-R1 推理训练。

李宏毅 AI 课程：高效推理与长度控制

整理过度思考、Chain of Draft、隐式思维链、最短正确轨迹和动态推理预算。

李宏毅 AI 课程：推理评估与指标偏差

整理基准污染、模板记忆、ARC-AGI、Chatbot Arena、成本评估和 Goodhart 定律。

李宏毅 AI Agent：目标、行动、观察与规划

整理 AI Agent 的循环、应用、记忆、工具调用、自动构建工具和规划研究。

李宏毅 AI 课程：模型内部与可解释性

整理神经元、表示方向、稀疏自编码器、激活补丁、电路和 Patchscope。

李宏毅 AI 课程：模型编辑

整理 IKE、ROME、MEND 等模型编辑方法，以及可靠性、泛化性和局部性评估。

李宏毅 AI 课程：模型合并与任务向量

整理任务向量、Task Arithmetic、TIES、DARE 和模型能力合并中的参数干扰。

李宏毅 AI 课程：Mamba 与状态空间模型

整理 Transformer 长序列瓶颈、线性注意力、RetNet、Mamba 和混合架构。

李宏毅 AI 课程：语音基础模型

整理语音 token、神经 codec、分层生成、文本模型初始化和全双工交互。

LangChain：框架概述

梳理 LangChain 生态、包结构与开发环境，比较 Prompt、Agent、RAG 和微调的适用场景。

LangChain：模型的创建与调用

介绍云端与本地模型接入、参数配置，以及同步、流式、批量和异步调用。

LangChain：LangSmith 的使用

从调用追踪与运行分析入手，介绍大模型应用的调试、数据集和实验评测。

LangChain：Message 与提示词模板

理解消息角色、工具响应配对、多轮历史、内容块与提示词模板的组合方式。

LangChain：Tools 工具调用

掌握工具定义、参数 Schema、模型工具调用循环与执行控制。

LangChain：结构化输出

使用 Schema 定义模型输出，理解结构化结果的生成、校验和解析方式。

LangChain：智能体

介绍 Agent 创建、工具循环、结构化结果、错误处理与流式输出。

LangChain：中间件

通过摘要、人工审核、调用限制、重试和自定义钩子管理 Agent 的运行过程。

LangChain：上下文与记忆

区分 State、检查点、Store 和运行时 Context，理解短期记忆、长期记忆与消息治理。

LangChain：RAG 检索增强生成

从文档加载、切分、嵌入和向量检索出发，构建基于 Milvus 的知识库问答。

《御舆：解码 Agent Harness》详细学习笔记

系统整理 Agent Harness 的对话循环、工具与权限、上下文和记忆、子智能体、MCP、流式架构及生产化设计。