RAG 检索结果如何重排:从 Hybrid Retrieval 到 Cross-Encoder、Listwise 与证据集合选择

面向 AI Application Engineer 的 RAG 重排设计指南:区分检索融合、语义重排、业务排序与证据集合选择,并给出可落地的生产级默认链路。

2026-07-29 · 31 分钟 · 15178 字 · Andy SI
阅读全文

生产级 AI Agent 的上下文压缩:从消息裁剪、工具结果清理到 Hermes Agent 的分层 Compaction

本文系统梳理生产级 AI Agent 的上下文压缩方法,区分消息裁剪、工具结果清理、Artifact 外置、结构化摘要与原生 Compaction,并以 Hermes Agent、LangChain v1 和 LangGraph v1 为例给出分层落地与评估建议。

2026-07-26 · 21 分钟 · 10502 字 · Andy SI
阅读全文

梯度下降:大语言模型如何从‘胡乱猜词’学会生成文本

面向没有机器学习背景的程序员,以直观例子解释大语言模型训练中的梯度下降、损失函数、反向传播、学习率与优化器,并串起从预测下一个 token 到参数更新的完整训练循环。

2026-07-26 · 16 分钟 · 7680 字 · Andy SI
阅读全文

OpenTelemetry 入门:面向 AI 应用与 AI Agent 开发者的通俗指南

介绍 OpenTelemetry 的核心组件、观测信号及其在 AI Agent、RAG 和生产可观测性中的应用。

2026-07-16 · 17 分钟 · 8334 字 · Andy SI
阅读全文

腾讯 AI Leader 姚顺雨 在这个PodCast中聊了什么?

本文围绕 Latent Space 对 Shunyu Yao 的访谈,梳理 ReAct、Reflexion、Tree of Thoughts、memory、benchmark、ACI 和 agent UX 等主题,并总结 AI agent 工程落地中工具、环境、评估与接口设计的重要性。

2026-05-24 · 12 分钟 · 5981 字 · Andy SI
阅读全文

2026 年 AI Engineer 学什么值钱

本文从基础 RAG pipeline 被平台吸收的趋势出发,分析 2026 年 AI 应用工程师应该重点投入的高溢价技能,包括评估与可观测性、数据治理与权限控制,以及 agentic workflow 的深度工程能力。

2026-05-03 · 15 分钟 · 7362 字 · Andy SI
阅读全文

LLM 的“心口不一”: 理解 LLM 行为的一把万能钥匙

本文用 hidden state 与 token 之间的带宽鸿沟,统一解释 Chain of Thought、prompt 长度、few-shot、性格漂移与幻觉等 LLM 工程现象。

2026-05-02 · 15 分钟 · 7104 字 · Andy SI
阅读全文

大模型训练全景:一个 AI 应用工程师需要理解的一切

从数据管线、Scaling Law、系统约束、合成数据、蒸馏、后训练、评估体系到 Agent 训练,系统梳理大模型训练全链路,并解释这些机制如何影响 AI 应用工程师的模型选型、评估与 harness 设计。

2026-04-04 · 28 分钟 · 13960 字 · Andy SI
阅读全文

LLM 的 Agentic 化:从回答问题到自主工作

一个对比开始 你在 ChatGPT 里问"什么是 KV Cache",模型回答你,对话结束。 你在 Codex CLI 里说"给项目添加一个用户认证模块,包含测试",agent 开始自主工作:读取项目结构 → 理解现有代码 → 规划实现方案 → 编写认证逻辑 → 编写测试 → 运行测试 → 发现失败 → 修复 → 测试通过 → 提交 PR。整个过程可能经历几十步,你可能全程没有介入。 ...

2026-03-28 · 9 分钟 · 4079 字 · Andy SI
阅读全文

LLM 中的熵:从训练到推理到产品的统一语言

本文把交叉熵、Perplexity、Temperature、条件熵、幻觉检测和 Prompt 约束串成一条主线,解释熵如何成为理解 LLM 训练、推理和产品设计的统一语言。文章也从 RAG 和工程治理视角说明了熵的实际价值。

2026-03-27 · 6 分钟 · 2590 字 · Andy SI
阅读全文