架构师档案 // ifnodoraemon
> 大模型底层架构、高吞吐分布式推理与自主 Agent 运行时系统工程师
这里是我沉淀大模型底层架构机理、分布式推理部署排障与智能体运行时工程的实战档案。毕业于北京邮电大学计算机科学与技术专业,深耕于超大规模模型推理加速、KV Cache 显存拓扑建模与生产级自主 Agent 闭环交付。
“代码必可验证,数据必有溯源,拓扑必有数学。拒绝空中楼阁式的 Prompt 搬运,做经得起生产集群考验的硬核 AI 系统工程。”
> 三大工程信条 // Engineering Creed
01. 数学严谨与显存拓扑建模
拒绝凭空盲猜。深入 KV Cache 物理页表虚拟化、低秩潜变量压缩与 GPU 通信拓扑,用严谨的数学推导量化每一字节显存开销与带宽瓶颈。
02. 100% 物理裸金属集群排障
拒绝玩具 Demo。所有实战记录均来自 4 节点 32 卡 H100 裸金属集群真实调优,实打实经历混合并行(TP/PP/EP)死锁、Triton 算子溢出与显存碎片压榨。
03. 环境缩放与自主 Agent 闭环
告别单纯的文本对话,拥抱 2026 年环境缩放(Environment Scaling)新范式,构建基于 Model Context Protocol (MCP) 统一总线、MCTS 反思自纠错与容器沙箱的可靠生产系统。
> 四大硬核技术阵地 // Core Engineering Vectors
⚡ 高吞吐推理与服务部署
vLLM / SGLang 生产级落地、PagedAttention 显存虚拟化、Chunked Prefill、FP8 动态量化与高并发 API 网关调度。
🧠 底座架构与注意力拓扑
DeepSeek MLA (Multi-head Latent Attention) 低秩投影压缩机理、Kimi Delta Attention (KDA) 增量状态演进、RoPE 编码长上下文外推。
🤖 智能体系统与运行时工程
Model Context Protocol (MCP) 统一总线、Agent 执行循环 (Loop)、MCTS 树搜索自我纠错、安全隔离的 Docker/eBPF 容器沙箱。
📊 前沿模型评测与工程选型
SWE-bench Verified 真实代码修复评测、Terminal-Bench 3.0 沙箱攻防、LMSYS Arena 盲测、质价比曲线与企业级落地决策。
> 代表性生产系统 // Flagship Production Systems
从亿级并发的企业端架构到本地自研 Agent OS 的全链路工程落地
⚡ 异构算力 MaaS 推理平台 (K8s + GPUStack)
MAAS INFRA异构算力架构 / 推理集群系统工程
基于 K8s 与 GPUStack 搭建跨芯片大模型服务底座,统一调度 NVIDIA (A800/H800)、华为昇腾 (Ascend 910B/310P) 与天数智芯 PPU 810E,实现跨架构模型权重分发、vLLM/MindIE 引擎适配与高可用推理调度。
🤖 Navi - Governed Personal Agent OS
AGENT OS个人开源架构师 / 操作系统设计
本地优先的个人 AI 助手操作系统。基于声明式 Capability Manifest、Bubblewrap OS 容器级沙箱、Goal/Run 状态机,原生打通微信与 Telegram。
🏢 牛客企业端与 AI 简历评分系统 (hr.nowcoder.com)
ENTERPRISE / AI后端核心业务开发 / 机器学习算法落地
基于 Java / Spring Boot 微服务架构支撑海量企业招聘业务流;研发基于 Python scikit-learn (sklearn) SVM 的智能简历打分系统,实现人岗自动化精准评估。
⚡ Doraemon Code (本地全功能编程助手)
DEV AGENT全流程单进程代码 Agent
对标 Claude Code 的开源本地编程 Agent,支持 39+ 工具沙箱直调与多模型热切换。
> 学术底座与硬件集群
🎓 教育底座 // Academic Foundation
北京邮电大学 (BUPT)
计算机科学与技术 (Computer Science and Technology)
主修体系结构、操作系统、分布式计算与深度学习,奠定了深入底层硬件拓扑与并行计算的系统工程基础。
🖥️ 硬件与异构算力集群实战 // Cluster & MaaS Portfolio
实战调优基于 Kubernetes (K8s) + GPUStack 的企业级 MaaS 异构推理集群,深度覆盖 NVIDIA (A800 / H800 / 32 卡 H100 裸金属集群)、华为昇腾 (Ascend 910B / 310P) 及天数智芯 (PPU 810E) 等异构算力芯片的统一虚拟化调度、权重分发、MindIE / vLLM 跨平台推理适配与混合并行集群编排。
> 核心技术矩阵 // Tech Stack & Infra
大模型系统、异构算力与推理引擎
HPC / Serving / Kernels自主智能体系统与运行时协议
Agent OS / MCP / SandboxingPython 工程、数据科学与算法技术栈
Python 3.13 / ML / Computer VisionJava 企业级后端、微服务与高并发架构
Enterprise B2B / High Concurrency全栈前端、跨平台桌面 GUI 与 Qt 开发
Frontend / Qt Desktop / Visualization> 系统核心指标 // System Metrics
// 所有的架构研报与代码复现均在持续迭代。可通过以下接口建立连接: