RAG 検索結果をどう再順位付けするか:Hybrid Retrieval から Cross-Encoder、Listwise、証拠集合選択まで

AI Application Engineer 向けの RAG 再順位付け設計ガイド。検索融合、意味的再順位付け、業務順位付け、証拠集合選択を分け、実運用向けの標準パイプラインを示す。

2026年7月29日 · 34 分 · 16726 文字 · Andy SI
続きを読む

勾配降下法:大規模言語モデルが「でたらめな予測」から文章生成を学ぶ仕組み

機械学習の背景がないプログラマー向けに、大規模言語モデルの学習における勾配降下法、損失関数、誤差逆伝播、学習率、最適化器を、次トークン予測からパラメータ更新まで直感的に解説する。

2026年7月26日 · 15 分 · 7421 文字 · Andy SI
続きを読む

本番AI Agentのコンテキスト圧縮:メッセージ切り詰め、ツール結果の整理からHermes Agentの階層的Compactionまで

本稿は、本番AI Agentにおけるコンテキスト圧縮を体系的に整理し、メッセージ切り詰め、ツール結果の整理、Artifact外部化、構造化要約、ネイティブCompactionを区別します。Hermes Agent、LangChain v1、LangGraph v1を例に、階層的な実装と評価方法を示します。

2026年7月26日 · 23 分 · 11218 文字 · Andy SI
続きを読む

OpenTelemetry 入門:AI アプリケーションと AI Agent 開発者のためのわかりやすいガイド

OpenTelemetry の中核コンポーネントと可観測性シグナル、および AI Agent、RAG、本番システムでの活用方法を解説する。

2026年7月16日 · 24 分 · 11668 文字 · Andy SI
続きを読む

TencentのAI Leader、Shunyu YaoはこのPodcastで何を語ったのか

Latent SpaceによるShunyu Yaoへのinterviewを基に、ReAct、Reflexion、Tree of Thoughts、memory、benchmark、ACI、Agent UXを整理し、AI agentを実用化する際のツール、環境、評価、interface設計の重要性をまとめます。

2026年5月24日 · 20 分 · 9568 文字 · Andy SI
続きを読む

2026年、AIエンジニアは何を学ぶべきか

基礎的なRAGパイプラインがプラットフォームに吸収されつつある流れを起点に、評価と可観測性、データガバナンスとアクセス制御、エージェント型ワークフローの高度なエンジニアリング能力など、2026年にAIアプリケーションエンジニアが重点的に身につけるべき高付加価値スキルを分析します。

2026年5月3日 · 23 分 · 11121 文字 · Andy SI
続きを読む

LLMの本音と発言が一致しない理由:LLMの振る舞いを理解する万能の鍵

hidden stateとtokenの間にある帯域幅の隔たりから、Chain of Thought、promptの長さ、few-shot、性格のdrift、幻覚などのLLMエンジニアリング現象を一つの枠組みで説明します。

2026年5月2日 · 19 分 · 9258 文字 · Andy SI
続きを読む

大規模言語モデル学習の全体像:AI アプリケーションエンジニアが理解すべきこと

データパイプライン、Scaling Law、システム制約、合成データ、蒸留、ポストトレーニング、評価体系、Agent 学習まで、大規模言語モデル学習の全工程を体系的に整理し、それらの仕組みが AI アプリケーションエンジニアのモデル選定、評価、harness 設計にどう影響するかを解説する。

2026年4月4日 · 36 分 · 17728 文字 · Andy SI
続きを読む

LLM の Agentic 化:質問への回答から自律的な仕事へ

一つの比較から始める ChatGPT に「KV Cache とは何か」と聞くと、モデルが答えて会話は終わります。 Codex CLI に「このプロジェクトへテスト付きのユーザー認証 module を追加して」と伝えると、agent は自律的に作業を始めます。プロジェクト構造を読む → 既存コードを理解する → 実装を計画する → 認証ロジックを書く → テストを書く → テストを実行する → 失敗を見つける → 修正する → テストを通す → PR を作る、という流れです。数十 step に及ぶ間、あなたが介入しないこともあります。 ...

2026年3月28日 · 10 分 · 4547 文字 · Andy SI
続きを読む

LLM におけるエントロピー:学習・推論・プロダクトをつなぐ共通言語

交差エントロピー、Perplexity、Temperature、条件付きエントロピー、hallucination 検出、Prompt の制約を一本の流れとして整理し、エントロピーが LLM の学習・推論・プロダクト設計を理解する共通言語になる理由を説明します。RAG とエンジニアリングガバナンスにおける実用的な価値も扱います。

2026年3月27日 · 7 分 · 3010 文字 · Andy SI
続きを読む