返回全部博客

#架构设计

2 篇相关记录

2026年7月15日

vLLM 是顶流，但不是终点：LLM 推理框架的五条路线

从 vLLM、SGLang、TensorRT-LLM、TGI、llama.cpp 到 RTP-LLM，梳理当下 LLM inference serving 框架的主流路线、学习价值和选型边界。

AI AI Infra vLLM LLM Serving SGLang TensorRT-LLM 推理引擎架构设计

2026年7月14日

把智能体当人用：Claude Agent SDK 的架构设计哲学

不是功能罗列，而是深读 Claude Agent SDK 的设计思想——为什么"给智能体一台电脑"、agent loop 为什么是控制循环、上下文窗口如何成为一切设计的隐形主线、以及为什么可靠性工程发生在 harness 而不是模型里。

AI Infra Agent Claude LLM 架构设计