Chen's Notes

AI 技术体系总览：应用、训练推理、模型算法与计算基础

Fri, 17 Jul 2026 00:00:00 +0000

AI 技术体系总览

分层与职责

以大模型为核心，整体技术体系可自顶向下划分为 4 个层次：应用与编排、训练与推理框架、模型结构与算法、计算与基础设施。

层次	主要问题	负责内容
应用与编排	怎样用模型完成用户任务？	Agent、Workflow、上下文、知识检索、工具与外部系统
训练与推理框架	怎样组织训练过程并提供模型服务？	数据流水线、训练执行、模型部署、生成执行与请求调度
模型结构与算法	模型怎样表示文本、学习参数并生成 token？	Tokenizer、Transformer、训练目标、参数更新与生成算法
计算与基础设施	模型计算怎样在设备和集群上执行？	张量框架、算子与加速库、GPU、存储、通信与资源管理

Agent 工程：SDK 需求拆解与运行时架构

Mon, 22 Dec 2025 00:00:00 +0000

背景

本文从 Agent SDK 切入，将其作为 AI 入门的实践入口，通过以下 Agent 运行时与编排的共性需求理解 AI 应用工程：

运行时承载
接口边界
编排控制
上下文管理
工具接入
模型接入
权限控制
可观测性

大模型工作流程：从训练到推理，以 nanochat 为例

Sun, 10 May 2026 00:00:00 +0000

以 GPT 类 decoder-only Transformer 为对象，介绍大模型从训练到生成回答的工作流程，并结合 nanochat 的代码说明各阶段的执行细节。

预训练：准备文本、Tokenizer 与 Batch，通过下一 token 预测训练基础模型。
后训练：通过 SFT 提供回答示范，通过 RL 利用奖励改进模型，并介绍 LoRA 的应用方式。
推理：准备输入，串联 Prefill、token 选择、Decode、KV Cache 与输出处理。
评测：贯穿训练与使用过程，检查预测表现、任务能力、回答质量和运行性能。

跨平台渲染方案对比探究

Sat, 21 Sep 2019 00:00:00 +0000

概述

方案	性能	动态性	能力集	维护成本
H5	低	高	全	低
小程序	中	高	部分	中
WEEX/RN	中高	高	部分	高
Flutter	高	低	全	低

其中，前3个基本是面向前端生态的解决方案，而Flutter更像是面向native生态的解决方案。

当然也有基于这几种方案之上，各种各样的魔改方案

LLM System（一）：GPT 结构与 Forward 计算

Tue, 07 Apr 2026 00:00:00 +0000

Goal

展开 GPT Model 的结构与 Forward 计算，跟踪 token IDs 怎样转换为下一 token 的词表分数。

模型结构：Token Embedding、Transformer、Final Norm 与 LM Head 的连接和数据流。
Transformer 逐层计算：Norm 与 Residual 怎样组织 Attention 和 MLP。
Attention 与 MLP：展开 Q/K/V、Head、RoPE、注意力权重和前馈变换。

LLM System（二）：训练目标、参数更新与生成计算

Fri, 15 May 2026 00:00:00 +0000

Goal

承接 LLM System（一）：GPT 结构与 Forward 计算，从 GPT Forward 输出的 Logits 开始，介绍训练目标、参数更新和生成计算的内部机制。

训练目标：Cross-Entropy 怎样衡量预测误差，SFT 怎样选择监督位置，GRPO 怎样利用回答评价构造 Loss。
参数更新：Backward 怎样计算梯度，Optimizer 怎样更新参数，以及梯度累积与 LoRA 怎样接入训练。
生成计算：KV Cache 怎样支持增量 Attention，Greedy、Sampling 与 Beam Search 怎样选择生成结果。

nanochat：LLM 核心架构与实现

Mon, 25 May 2026 00:00:00 +0000

Goal

结合 nanochat 官方源码，介绍数据、模型、训练与生成模块的组织及内部实现。

数据处理：字节级 BPE、词表、对话编码、token 打包与监督目标构造。
模型计算：GPTConfig、GPT.forward、Transformer Block、Attention 与 MLP。
训练实现：交叉熵、Backward、梯度累积，以及 AdamW / Muon 参数更新。
生成实现：Engine、KV Cache、token 采样与回答状态管理。

产品工程：传统 SDE 在 AI 时代的可能职业方向

Mon, 12 Oct 2026 00:00:00 +0000

目标

探讨随着 AI 改变软件开发成本结构，为什么产品工程可能成为传统 SDE 在 AI 时代的一个职业方向。

AI 如何影响传统 SDLC
SDE 在 AI 时代的能力迁移方向
产品工程能力应该如何建立

面向产品工程师的精益数据分析

Mon, 14 Sep 2026 00:00:00 +0000

目标

接着产品工程师职业方向的话题，本文介绍一套基础的产品判断框架：

产品创新通常经历哪些验证阶段？
每个阶段需要做出什么定性判断？
可以用什么量化指标验证这些判断？

本文参考《精益数据分析》（Lean Analytics）。这本书主要讲如何验证创新想法，也有助于工程师建立产品意识。

推荐者包括 Kevin Weil、Dan Martell、范冰、张溪梦和丁磊。

全栈视角下的后端技术栈地图

Tue, 09 Jun 2026 00:00:00 +0000

目标

快速了解全栈，尤其是后端技术栈。

全栈项目整体架构和技术栈地图。
电商秒杀系统案例，串联整体架构和关键技术。
具体项目选型和架构设计参考。

Dart编译器概述

Mon, 12 Jun 2023 00:00:00 +0000

概览

了解编译原理,对现代编译器compiler设计有所了解
介绍dart编译器设计, 工程实践上如何设计和实现
了解dart编译器核心代码流转: 核心代码、主要优化

关于我

Thu, 08 Jun 2023 15:57:03 +0000

关于我

就职公司：奇虎 360、阿里巴巴淘宝技术部、字节跳动技术中台。
专业能力与实践：
- 客户端与跨平台：专家，具备大型复杂企业项目的核心开发和技术负责经验，覆盖跨平台框架、虚拟机、编译器与图形渲染。
- 产品工程：大型企业复杂客户端项目中的产品工程实践经验。
- AI：系统理解 AI 技术体系及训练、推理原理，具备开源项目源码分析与代码实操经验，暂无企业项目经验。
- 后端：系统理解后端技术体系，早年开发过简单的企业级后端项目，并在大型客户端项目中与复杂后端系统团队协作。
主要项目：
- Atlas：动态组件化框架与 Patch 方案核心开发。
- Weex SDK：核心开发。
- ALiFlutter、BDFlutter：核心开发。
- Oryx：跨平台响应式自渲染框架核心开发，小程序原生渲染方向负责人。

e-mail : qh438406812@gmail.com

就职经历

2020-至今字节跳动

项目	简介	工作内容
Oryx	自研跨平台响应式开发框架	框架核心开发小程序原生渲染方向owner
Flutter	字节flutter项目	dart虚拟机、编译器、patch方案
Compose	android compose框架	BDCompose项目owner 探索compose在业务上的落地、技术改造；预研kotline-native、wasm跨平台方案探索
Skity	自研矢量渲染器，类比skia	核心开发、质量稳定性方案

2017-至今阿里巴巴

项目	简介	工作内容
Atlas	Atlas是伴随着手机淘宝的不断发展而衍生出来的一个动态组件化框架。它主要提供了解耦化、组件化、动态性的支持。	开发阿里第2代Patch方案维护Atlas框架、开源社区
Weex	Weex 是一个可以使用现代化的 Web 技术开发高性能原生应用的框架	核心开发，开源社区维护 WeexCore2.0升级 JSRuntime开发性能稳定性体系化监控
ALiFlutter	阿里集团Flutter体方案提供	Flutter容器开发 Engine定制修改优化

2015-2017 奇虎360

项目	简介	工作内容
360手机卫士	无	程序锁功能开发
DroidPlugin	360插件化框架	无，感兴趣自行研究

能力图

┌──────────────────────────────────────────────────────────────────────────────────────────┐
│ 上层：问题场景 │
│ │
│ 产品工程 · 客户端大项目实践 │
│ 用户需求与业务目标 → 产品判断 → 方案验证 → 交付与效果评估 │
└──────────────────────────────────────────────────────────────────────────────────────────┘
 │
 ▼
┌──────────────────────────────────────────────────────────────────────────────────────────┐
│ 中层：技术栈方案 │
│ │
│ ┌────────────────────────────┬────────────────────────────┬────────────────────────────┐ │
│ │ 客户端 │ 后端 │ AI │ │
│ │ 专家 │ 系统理解 │ 系统理解 │ │
│ │ 大型复杂企业项目实践 │ 基础企业项目开发 │ 开源项目代码实操 │ │
│ │ │ 复杂后端系统对接 │ 暂无企业项目经验 │ │
│ ├────────────────────────────┼────────────────────────────┼────────────────────────────┤ │
│ │ 应用层 │ 应用层 │ 应用层 │ │
│ │ 页面、交互、状态 │ 业务接口、业务编排 │ Agent、Workflow │ │
│ │ │ 领域模型、业务规则与事务 │ RAG、工具与上下文 │ │
│ ├────────────────────────────┼────────────────────────────┼────────────────────────────┤ │
│ │ 框架层 │ 框架与中间件层 │ 模型与训练推理层 │ │
│ │ Android、Weex │ Spring Boot、Gin、NestJS │ LLM、多模态模型 │ │
│ │ Flutter、Compose │ 网关、鉴权、数据访问 │ 预训练、SFT、RL │ │
│ │ │ 数据库、缓存、消息队列 │ 模型服务、推理引擎 │ │
│ ├────────────────────────────┼────────────────────────────┼────────────────────────────┤ │
│ │ 运行时与渲染层 │ 运行时与基础设施层 │ 计算与基础设施层 │ │
│ │ VM、编译器 │ JVM、Go Runtime、Node.js │ PyTorch、CUDA │ │
│ │ 渲染流水线 │ 操作系统、容器、集群 │ 算子库、通信库 │ │
│ │ 系统与图形接口 │ 计算、存储、网络 │ GPU、存储、网络 │ │
│ │ Skia、Skity │ │ 集群与资源调度 │ │
│ └────────────────────────────┴────────────────────────────┴────────────────────────────┘ │
└──────────────────────────────────────────────────────────────────────────────────────────┘
 ▲
 │ 支撑
┌──────────────────────────────────────────────────────────────────────────────────────────┐
│ 底层：核心能力 │
│ │
│ 问题发现 → 问题拆解 → 方案设计 → AI 辅助落地 │
└──────────────────────────────────────────────────────────────────────────────────────────┘

DartVM概述

Sun, 28 May 2023 00:00:00 +0000

主要内容：

Dart对象模型
虚拟机内部模型

Compose架构模块梳理

Wed, 15 Feb 2023 00:00:00 +0000

背景

Jetpack Compose 是Google推出的一个使用kotlin语言、声明式的UI框.

针对框架的PreCompose优化方案
通过PreCompose方案，深入compose的源码: 介绍有哪些模块, 有什么作用, 未来能做些什么

Compose Compiler(1) Compose plugin

Fri, 30 Dec 2022 00:00:00 +0000

概览

前端检查
ir生成
recompose判断

Compose Compiler(1) kotlin编译架构&&KCP

Sun, 25 Dec 2022 00:00:00 +0000

概览

Compose compiler是compose框架的一部分, 本质是一个kcp(kotlin compiler plugin),用于支持编译期针对compose特性进行静态检查和代码生成.

在进入compose的编译之前, 需要事先对kotlin的编译架构、过程以及概念做一些探究储备

Flutter移植嵌入式linux设备、IOT方向探索

Fri, 15 Jul 2022 00:00:00 +0000

背景

iot有着很广阔的场景: 艾瑞咨询-积基“数”本、重塑产业：中国物联网行业研究报告-220129. 智慧城市、车联网、智慧零售、智能家居、智能工厂.

FlutterEngine AndroidX/Support适配

Mon, 25 May 2020 00:00:00 +0000

概要

Flutter 1.17 | 2020 首个稳定版发布！全线迁移到AndroidX,现有app迁移成本巨大(几乎不可能迁移)

改造Flutter engine、工具链，1.17支持support库
跟一下工具链flutter create的源码实现方式

Flutter渲染流程(二)-GPU线程工作

Sun, 15 Mar 2020 00:00:00 +0000

概览

将上一节中UI线程生成了laytertree，交给GPU线程的rasterizer
调用LayerTree的Preroll、Paint2个方法，完成所有Layer的绘制前准备以及绘制操作
将纹理化的结果，上屏

Flutter渲染流程(一)-UI线程工作

Sun, 08 Mar 2020 00:00:00 +0000

概览

这一部分的主要工作是WidgetTree转化成LayerTree，主要分为下面几个阶段

Animate: 首先执行动画，这个过程可能会改变状态state
Build: 重新build脏节点的widget（状态改变）
Layout: 对脏节点进行重新的layout
Paint: 脏节点重新绘制
更新layertree，提交给gpu线程

流程还是比较清晰、容易理解的

Flutter混合栈的实现原理

Wed, 25 Dec 2019 00:00:00 +0000

概览

解决2个问题

容器和engine的对应关系
路由管理

FlutterEngine初始化源码分析以及优化(官方PR)

Sun, 15 Dec 2019 00:00:00 +0000

核心点

主要分为3个部分

启动Engine前的准备(Platform端Android)
Engine的启动(创建DartVM、相关线程、初始化相关配置)
Engine加载Dart产物，直到执行main.dart中的main方法

给官方提交了相关PR给官方，支持engine异步初始化

Engine创建流程不是很合理，底层在做异步任务的时候，主线程会wait阻塞，非常影响体验。

Weex架构设计思想和原理

Wed, 21 Nov 2018 00:00:00 +0000

Weex架构原理

JSFRAM 负责和JS框架(VUE/RAX)交互，生成DomTree，将数据传给WeexCore
WeexCore 有3部分
- JSSide: 运行在JS进程中，负责jsbinding、创建、管理js的vm、context
- CoreSide: 运行在主进程中，负责layout以及将RenderTree以命令形式交给Platform绘制
- IPC: 跨进程通信
Platform(Android/iOS)
- 将RenderTree转化为平台对应的ViewTree,进行渲染
- native能力调用提供
JSRuntime: 底层封装JSC/V8接口，WeexCore使用JSRuntime和jsengine通信

Weex架构图如下

《Java多线程编程》笔记

Sun, 06 Aug 2017 00:00:00 +0000

概览

进程通信方式

方式	特点	场景
Socket	2次copy，作为更通用的接口，传输效率低	主要用于不通机器或跨网络的通信
管道	创建时分配一个page大小的内存，缓存区大小比较有限	\|grep
信号/信号量	携带信息有限，只是通知其他进程一个信号	锁机制、kill,crash
共享内存	0次copy性能最好，但是需要各个进程自己处理好同步操作	极限性能
消息队列	信息2次cop	不合适频繁或信息量大的通信
Binder	1次copy,C/S架构	专为Android场景设计(性能、安全)

线程同步

|||

Android动态化容器框架Atlas之bundle加载过程

Mon, 05 Jun 2017 00:00:00 +0000

概述

对应官网文档地址

将流程分为三大部分

部分	说明	对应步骤
第一部分	加载时机的触发逻辑	1-7
第二部分	bundle加载过程	8-15
第三部分	bundle代码初始化	16-19

Android动态化容器框架Atlas启动过程(下)

Sun, 21 May 2017 00:00:00 +0000

概述

对应官网文档地址

接上篇 ,继续 6-10 步的启动过程。

Android动态化容器框架Atlas之启动过程(上)

Wed, 17 May 2017 00:00:00 +0000

概述

对应官网文档地址

Atlas整个启动过程的时序如下图所示，本篇只关注下图中的1-5步。

Android动态化容器框架Atlas-从gradle到apk

Thu, 11 May 2017 00:00:00 +0000

概述

对应官网文档地址

Atlas一个运行于Android系统上的一个容器化框架。为了实现这一目标，在编译器和运行期，Atlas都做了很多工作。本文是一个入门级别的文章，梳理从gradle配置到生成最终apk的期间，Atlas框架到底搞了哪些事情。

代码以官方demo 为例。

ART 与 Dalvik 区别

Wed, 08 Mar 2017 00:00:00 +0000

不同点

内存堆的划分
代码编译运行区别
GC

Android源码之进程启动过程

Tue, 14 Feb 2017 00:00:00 +0000

概要

API21
AMS 启动进程
Zygote fork进程
应用端初始化

上一张调用流程的时序图:

插件化DroidPlugin-Receiver

Tue, 07 Feb 2017 00:00:00 +0000

主要思想

拦截动态广播的注册和发送，cache广播信息
cache插件的静态广播，在stubReceiver中操控插件的receiver
模仿AMS,自己管理receiver

插件化DroidPlugin-Provider

Wed, 01 Feb 2017 00:00:00 +0000

主要思想

host预先申请若干stubProvider
hook ams，插件查询provider时，返回stubProVider
在 stubProvider 中操控插件的providr对象

Android源码之Activity与AMS、WMS联系

Wed, 25 Jan 2017 00:00:00 +0000

要点

Activity启动过程
Activity与AMS联系
Activity与WMS联系

插件化DroidPlugin-Service

Fri, 20 Jan 2017 00:00:00 +0000

主要思想

注册若干个stubService
插件启动service时，启动一个stubService.
在stubService中模仿service生命周期，调用插件service的生命周期函数。

插件化DroidPlugin-Activity

Thu, 05 Jan 2017 00:00:00 +0000

主要思想

申请多个activity坑
欺骗AMS,在准备启动Activity时，启动一个坑Activity数据给AMS。
AMS准备好回调到APP中启动activity时，替换成真正需要的Activity.

《深入理解JVM虚拟机》读书笔记——第7章虚拟机类加载机制

Sun, 27 Nov 2016 00:00:00 +0000

主要内容：

类加载时机
类加载过程
类加载器(ClassLoader)

Java单例-内存模型-并发

Tue, 15 Nov 2016 00:00:00 +0000

涉及知识

JVM内存模型
Java并发
JVM加载类以及初始化过程

《深入理解JVM虚拟机》读书笔记——第2章 Java内存区域

Sun, 06 Nov 2016 00:00:00 +0000

概要

运行时数据区域
对象创建、布局以及定位
各区域OOM分析

比较枯燥，比较干，但没办法，怼吧`

ReactNative源码-启动过程

Wed, 21 Sep 2016 00:00:00 +0000

概述

就像大多数框架一样,ReactNative(简称RN)启动需要初始化依赖的环境和资源,抛开繁复的细节,概括为以下几点:

初始化通信接口表,表中保存 java 端和 js 端的接口信息。
初始化ReactBridge,作为 js 和 java 通信的桥梁，在 java 端开启两个线程 native_modules 和 js ,加上 ui 线程，总共三个线程。
加载JSbundle文件

Android源码之Handler

Thu, 25 Aug 2016 00:00:00 +0000

主要思想

通过MessageQueqe保存mesage
通过looper轮询MessageQueqe
handler回调处理message

Http版本协议变迁历史

Sat, 06 Aug 2016 00:00:00 +0000

概览

版本	底层协议	特性	备注
1.x	tcp	更多的缓存控制策略请求范围设置(断点续传) 新增了错误状态响应码 Host头处理，传递主机名支持长连接	:—
https	tcp+tls	需要证书 TLS加密传输协议	:—
2.0	tcp+tls	二进制格式多路复用 header压缩服务端推送	:—
3.0	udp	减少了TCP三次握手及TLS握手时间连接迁移线头阻塞(HOL)问题的解决更为彻底	:—

开篇大吉

Wed, 06 Jul 2016 00:00:00 +0000

忽忽然已二十好几,时间就像开了挂的玩家一样,自己玩的很嗨,全然不顾我这普通玩家的感受。想要总结一下吧,发现记忆虽然清晰,但是太过散乱。想了想，觉着写些东西可能会有所帮助。文章可能是技术相关，可能是阅读随想，也可能是狗屁不通的胡思乱想，whatever。

倒也没什么高大上的目的,主要是梳理一下这个最近不太灵光的脑袋,在一个是记录一下所思所想,以后看起来应该会很有趣。

Chen's Notes

AI 技术体系总览：应用、训练推理、模型算法与计算基础

AI 技术体系总览

分层与职责

Agent 工程：SDK 需求拆解与运行时架构

背景

大模型工作流程：从训练到推理，以 nanochat 为例

跨平台渲染方案对比探究

概述

LLM System（一）：GPT 结构与 Forward 计算

Goal

LLM System（二）：训练目标、参数更新与生成计算

Goal

nanochat：LLM 核心架构与实现

Goal

产品工程：传统 SDE 在 AI 时代的可能职业方向

目标

面向产品工程师的精益数据分析

目标

全栈视角下的后端技术栈地图

目标

Dart编译器概述

概览

关于我

关于我

就职经历

2020-至今 字节跳动

2017-至今 阿里巴巴

2015-2017 奇虎360

能力图

DartVM概述

主要内容：

Compose架构模块梳理

背景

Compose Compiler(1) Compose plugin

概览

Compose Compiler(1) kotlin编译架构&&KCP

概览

Flutter移植嵌入式linux设备、IOT方向探索

背景

FlutterEngine AndroidX/Support适配

概要

Flutter渲染流程(二)-GPU线程工作

概览

Flutter渲染流程(一)-UI线程工作

概览

Flutter混合栈的实现原理

概览

FlutterEngine初始化源码分析以及优化(官方PR)

核心点

Weex架构设计思想和原理

Weex架构原理

《Java多线程编程》笔记

概览

Android动态化容器框架Atlas之bundle加载过程

概述

Android动态化容器框架Atlas启动过程(下)

概述

Android动态化容器框架Atlas之启动过程(上)

概述

Android动态化容器框架Atlas-从gradle到apk

概述

ART 与 Dalvik 区别

不同点

Android源码之进程启动过程

概要

插件化DroidPlugin-Receiver

主要思想

插件化DroidPlugin-Provider

主要思想

Android源码之Activity与AMS、WMS联系

要点

插件化DroidPlugin-Service

主要思想

插件化DroidPlugin-Activity

主要思想

《深入理解JVM虚拟机》读书笔记——第7章 虚拟机类加载机制

主要内容：

Java单例-内存模型-并发

涉及知识

2020-至今字节跳动

2017-至今阿里巴巴

《深入理解JVM虚拟机》读书笔记——第7章虚拟机类加载机制