sys.getProfile("ifnodoraemon // Nobita")
ONLINE // NODE: BUPT-LLM-01
ARCHITECT DOSSIER // BUPT CS

架构师档案 // ifnodoraemon

> 大模型底层架构、高吞吐分布式推理与自主 Agent 运行时系统工程师

这里是我沉淀大模型底层架构机理、分布式推理部署排障与智能体运行时工程的实战档案。毕业于北京邮电大学计算机科学与技术专业,深耕于超大规模模型推理加速、KV Cache 显存拓扑建模与生产级自主 Agent 闭环交付。

“代码必可验证,数据必有溯源,拓扑必有数学。拒绝空中楼阁式的 Prompt 搬运,做经得起生产集群考验的硬核 AI 系统工程。”

> 三大工程信条 // Engineering Creed

01. 数学严谨与显存拓扑建模

拒绝凭空盲猜。深入 KV Cache 物理页表虚拟化、低秩潜变量压缩与 GPU 通信拓扑,用严谨的数学推导量化每一字节显存开销与带宽瓶颈。

02. 100% 物理裸金属集群排障

拒绝玩具 Demo。所有实战记录均来自 4 节点 32 卡 H100 裸金属集群真实调优,实打实经历混合并行(TP/PP/EP)死锁、Triton 算子溢出与显存碎片压榨。

03. 环境缩放与自主 Agent 闭环

告别单纯的文本对话,拥抱 2026 年环境缩放(Environment Scaling)新范式,构建基于 Model Context Protocol (MCP) 统一总线、MCTS 反思自纠错与容器沙箱的可靠生产系统。

> 四大硬核技术阵地 // Core Engineering Vectors

⚡ 高吞吐推理与服务部署

vLLM / SGLang 生产级落地、PagedAttention 显存虚拟化、Chunked Prefill、FP8 动态量化与高并发 API 网关调度。

🧠 底座架构与注意力拓扑

DeepSeek MLA (Multi-head Latent Attention) 低秩投影压缩机理、Kimi Delta Attention (KDA) 增量状态演进、RoPE 编码长上下文外推。

🤖 智能体系统与运行时工程

Model Context Protocol (MCP) 统一总线、Agent 执行循环 (Loop)、MCTS 树搜索自我纠错、安全隔离的 Docker/eBPF 容器沙箱。

📊 前沿模型评测与工程选型

SWE-bench Verified 真实代码修复评测、Terminal-Bench 3.0 沙箱攻防、LMSYS Arena 盲测、质价比曲线与企业级落地决策。

> 代表性生产系统 // Flagship Production Systems

从亿级并发的企业端架构到本地自研 Agent OS 的全链路工程落地

⚡ 异构算力 MaaS 推理平台 (K8s + GPUStack)

MAAS INFRA

异构算力架构 / 推理集群系统工程

基于 K8s 与 GPUStack 搭建跨芯片大模型服务底座,统一调度 NVIDIA (A800/H800)、华为昇腾 (Ascend 910B/310P) 与天数智芯 PPU 810E,实现跨架构模型权重分发、vLLM/MindIE 引擎适配与高可用推理调度。

🤖 Navi - Governed Personal Agent OS

AGENT OS

个人开源架构师 / 操作系统设计

本地优先的个人 AI 助手操作系统。基于声明式 Capability Manifest、Bubblewrap OS 容器级沙箱、Goal/Run 状态机,原生打通微信与 Telegram。

🏢 牛客企业端与 AI 简历评分系统 (hr.nowcoder.com)

ENTERPRISE / AI

后端核心业务开发 / 机器学习算法落地

基于 Java / Spring Boot 微服务架构支撑海量企业招聘业务流;研发基于 Python scikit-learn (sklearn) SVM 的智能简历打分系统,实现人岗自动化精准评估。

⚡ Doraemon Code (本地全功能编程助手)

DEV AGENT

全流程单进程代码 Agent

对标 Claude Code 的开源本地编程 Agent,支持 39+ 工具沙箱直调与多模型热切换。

> 学术底座与硬件集群

🎓 教育底座 // Academic Foundation

北京邮电大学 (BUPT)

计算机科学与技术 (Computer Science and Technology)

主修体系结构、操作系统、分布式计算与深度学习,奠定了深入底层硬件拓扑与并行计算的系统工程基础。

🖥️ 硬件与异构算力集群实战 // Cluster & MaaS Portfolio

实战调优基于 Kubernetes (K8s) + GPUStack 的企业级 MaaS 异构推理集群,深度覆盖 NVIDIA (A800 / H800 / 32 卡 H100 裸金属集群)、华为昇腾 (Ascend 910B / 310P) 及天数智芯 (PPU 810E) 等异构算力芯片的统一虚拟化调度、权重分发、MindIE / vLLM 跨平台推理适配与混合并行集群编排。

> 核心技术矩阵 // Tech Stack & Infra

⚡

大模型系统、异构算力与推理引擎

HPC / Serving / Kernels
vLLM & SGLang 高吞吐推理 PagedAttention 显存虚拟化 DeepSeek MLA & KDA Attention 拓扑 Kubernetes (K8s) & GPUStack 异构调度 NVIDIA A800 / H800 / H100 集群实战 华为昇腾 910B & 310P (CANN / MindIE) 天数智芯 PPU 810E 跨架构推理 FP8 / AWQ / SmoothQuant 动态量化 PyTorch & Triton 算子级开发 FlashAttention-3 加速 RoPE 长上下文扩展算法
🤖

自主智能体系统与运行时协议

Agent OS / MCP / Sandboxing
Model Context Protocol (MCP) 统一总线 Agent Runloop 状态机与执行循环 MCTS 树搜索反思与自纠错 Linux Bubblewrap (bwrap) 安全沙箱 Docker 容器隔离 & eBPF 安全遥测 Dynamic Tool Calling 动态工具调用 Durable Memory 持久化多作用域记忆 WeChat / Telegram 连接器适配工程
🐍

Python 工程、数据科学与算法技术栈

Python 3.13 / ML / Computer Vision
Python 3.13+ (Core / Asyncio 异步高并发) FastAPI / Uvicorn 生产级微服务 scikit-learn (SVM / NLP 文本特征工程) NumPy & Pandas 科学计算与数据清洗 PyTorch 深度学习网络建模与微调 OpenCV 计算机视觉 & 零拷贝流媒体硬解码 YOLO 目标检测与 ByteTrack 多目标追踪 Poetry / UV 现代包管理与工程规范
☕

Java 企业级后端、微服务与高并发架构

Enterprise B2B / High Concurrency
Java (Core / JVM 调优 / JUC 并发编程) Spring Boot 企业级微服务框架 Spring Cloud 分布式治理与网关 MyBatis-Plus / Spring Data JPA MySQL / PostgreSQL 高可用数据库设计 Redis 分布式缓存与锁机制 RabbitMQ / Kafka 高并发消息队列 企业级多租户 RBAC 权限与海量业务流
💻

全栈前端、跨平台桌面 GUI 与 Qt 开发

Frontend / Qt Desktop / Visualization
React 18 / 19 & Next.js 全栈前端生态 React Hooks / 组件化架构与状态管理 Vue 3 全家桶 (Composition API / Pinia) JavaScript (ES6+) & TypeScript 严谨类型化 C++ / Python Qt (PyQt / PySide / Qt Widgets) QML / Qt 跨平台桌面 GUI 客户端架构与通信 ECharts 交互式多维数据图表研报 Node.js & Vite 极速静态构建工程 WebSocket 实时全双工流式推送通信 TailwindCSS / 现代科技感工业 UI 规范

> 系统核心指标 // System Metrics

65+ 万字架构研报
10+ 顶流大模型实测
4 硬核工程专栏
100% 代码物理机复现率

// 所有的架构研报与代码复现均在持续迭代。可通过以下接口建立连接:

前沿实验室 // Frontier Labs:

[OpenAI] [Anthropic] [Google DeepMind] [Hugging Face]