一、 一整层，一次算完
把一层的计算写成一个矩阵
回忆一个神经元干的事：把上一层每盏灯的亮度乘上各自的权重，加起来，再加个门槛，最后压缩。如果下一层有 16 个神经元，就要把这件事重复 16 遍——每个神经元有自己的一整套权重和门槛。
全写出来会是一页密密麻麻的加号。数学家的办法是：把它们排整齐。下面这段动画完整演示了排列的过程。
排完之后，一整层的计算就是这一行：
各个符号的形状是这样的（以输入层 784 个、第一隐藏层 16 个为例）：
| 符号 | 形状 | 它是什么 |
|---|---|---|
| a(0) | 784 × 1 | 上一层每个神经元的亮度，排成一列 |
| W | 16 × 784 | 权重矩阵。第 i 行，就是第 i 个新神经元听取全部 784 个旧神经元时，各自的话语权 |
| b | 16 × 1 | 16 个新神经元各自的门槛 |
| Wa(0) + b | 16 × 1 | 16 个加权总分 |
| σ(…) | 16 × 1 | 16 个新亮度，交给下一层 |
换句话说：矩阵乘法不是什么新东西，它只是"重复很多次乘法再相加"的紧凑写法。这一点，是后面所有故事的地基。
二、 数一数工作量
这一行公式，要做多少次乘法
W 是 16 × 784 的矩阵，和一列 784 个数相乘，需要 16 × 784 = 12,544 次乘法，外加同样多的加法。整个入门网络（784→16→16→10）跑一遍：
| 这一步 | 乘法次数 | |
|---|---|---|
| 输入层 → 隐藏层 1 | 12,544 | 16 × 784 |
| 隐藏层 1 → 隐藏层 2 | 256 | 16 × 16 |
| 隐藏层 2 → 输出层 | 160 | 16 × 10 |
| 认出一个数字，合计 | 12,960 | — |
一万三千次乘法，你的手机眨眼就做完了。可是训练要把几万张图反复过成千上万遍，量级立刻变成上千亿次。而今天新闻里的大模型，参数不是一万三，是上千亿——粗略估算，它每吐出一个字，就要做大约两千亿次乘加。
这时候，一个关键性质浮出水面：这些乘法之间互不干扰。算第 3 个神经元的总分，完全不需要等第 1 个算完。它们可以同时开工。
三、 谁来算
CPU 是教授，GPU 是一万个小学生
电脑里的中央处理器 CPU，设计目标是"什么都会做，而且做得很快"——处理复杂的判断、跳转、调度。它有几个到几十个核心，每个都是通才。
显卡里的图形处理器 GPU 则相反。它原本是为了画游戏画面而生：屏幕上几百万个像素，每个都要独立算一遍颜色，算法简单但数量惊人。于是 GPU 走了另一条路——塞进上万个只会做简单算术的小核心，让它们齐步走。
CPU · 少数通才
几个到几十个强核心。擅长：复杂逻辑、频繁判断、一件接一件。
比喻：一位数学教授，什么难题都能解，但一次只解一道。
GPU · 大量专才
上万个弱核心。擅长：成千上万件同样的简单事，一起做。
比喻：一万个小学生，只会乘法口诀，但同时开算。
要算一万三千次互不相干的乘法，你要教授还是要那一万个小学生？答案很明显。神经网络恰好是"小学生题海"，不是"教授难题"。
这就是整件事的核心巧合：一种为电子游戏画面发明的芯片，结构上刚好就是人工智能最需要的那种芯片。
四、 那家公司
淘金热里卖铲子的人
英伟达（NVIDIA）本是一家做游戏显卡的公司。它做对的关键一步发生在 2006 年：推出 CUDA，让程序员可以用普通代码指挥显卡去算任何东西，而不只是画画面。显卡从此变成了"通用的并行计算器"。
2012 年，一个叫 AlexNet 的图像识别模型用两块游戏显卡训练出来，大幅刷新纪录，深度学习就此起飞。研究者们纷纷发现：算神经网络，用显卡快得离谱。此后十几年，全世界的深度学习框架都是围绕 CUDA 生态长起来的——换别家的芯片，代码往往要重写。
所以当 2022 年底 ChatGPT 引爆生成式 AI、全世界的科技公司开始疯抢算力时，无论谁的模型最终胜出，他们都得先向同一家公司买铲子。
- 2006推出 CUDA，显卡可被通用编程
- 2012AlexNet 用游戏显卡训练成功，深度学习起飞
- 2022.11ChatGPT 发布当天，英伟达市值约 4,220 亿美元
- 2023.5市值首破 1 万亿美元
- 2024.6突破 3 万亿美元
- 2025.7突破 4 万亿美元，成为全球市值最高的公司
- 2026.7市值约 4.9 万亿美元；最近一个季度营收 816 亿美元，同比增长 85%，其中数据中心业务 752 亿——约九成收入来自 AI 算力
从 ChatGPT 发布那天算起，三年半涨了约 11 倍。这条曲线背后，就是本页第一节那一行公式，被重复了天文数字次。
当然，故事没有那么单向。2025 年初，中国团队 DeepSeek 用远低于业界预期的成本做出了对标顶尖水平的模型，市场立刻开始怀疑"是不是不需要买那么多算力"，股价剧烈震荡。谷歌自研 TPU、AMD、以及各大云厂商的自研芯片，也都在啃这块蛋糕。
五、 一句话
带回讲台的总结
如果只留一句话给观众：
谁能把乘法做得又多又快又便宜，谁就站在这轮浪潮的中心。
这也顺带回答了另一个常见疑问——为什么 AI 这么费电。因为电最终是变成了那些乘法。
本页嵌入的动画片段来自 3Blue1Brown（Grant Sanderson）的《神经网络》系列。3Blue1Brown 的动画代码以 CC BY-NC-SA 4.0（署名 · 非商业 · 相同方式共享）授权发布；本页用于图书馆公益科普，非商业用途并已注明来源。原作请见 3blue1brown.com。
← 回到讲义第 6 节