本文基于2006年至2021年间发布的470款GPU型号的数据集，系统分析了图形处理器（GPU）在浮点运算性能与价格比率（以下简称“每美元FLOP/s”）的历史演变趋势。研究发现，GPU的性价比平均每2.46年翻倍一次，但不同类型GPU的改善速度存在显著差异。
核心发现概览
通过线性回归分析，我们得出以下关键结论：
- 全部GPU样本（n=470）：每美元FLOP/s翻倍时间为2.46年（95%置信区间：2.24–2.72年）
- 机器学习常用GPU（n=26）：翻倍时间缩短至2.07年（1.54–3.13年）
- 顶级性能GPU（n=57）：翻倍时间延长至2.95年（2.54–3.52年）
- 半精度（FP16）计算：翻倍时间为2.30年（1.69–3.62年），与单精度（FP32）无显著差异
这些发现表明，GPU性价比改进速度略慢于摩尔定律的2年翻倍周期，远低于黄氏定律的1.08年翻倍预期，但比早期研究估计的4.4年翻倍速度要快得多。
GPU在人工智能发展中的核心作用
作为加速机器学习工作负载的主导计算平台，GPU在过去五年中支撑了几乎所有大型模型的训练过程。硬件性价比的提升直接推动了机器学习训练规模的快速增长，成为人工智能近期突破的关键推动力。
与传统中央处理器（CPU）相比，GPU在并行计算方面的天然优势使其特别适合深度学习任务。随着专门架构（如张量核心）的引入，现代GPU在机器学习场景中的表现进一步提升。
研究方法与数据来源
本研究整合了两个现有数据集：
- Median Group提供的223款Nvidia和AMD GPU数据
- Sun等人研究的413款Nvidia、Intel和AMD GPU数据
经过去重和清洗后，最终数据集包含2006-2021年间发布的470款GPU。我们排除了2006年前的数据，因为早期GPU缺乏通用计算能力，且性能指标测量方式与现代GPU不可比。
所有分析均基于32位全精度浮点性能（FP32 FLOP/s）进行，这是衡量计算性能的标准指标。
性能趋势对比分析
我们将研究发现与几个著名定律和预测进行了对比：
摩尔定律
基于晶体管密度每两年翻倍的观察，推导出FLOP/s每两年翻倍的预期。我们的数据显示实际硬件性价比改进速度稍慢于此。
黄氏定律
NVIDIA首席执行官黄仁勋提出的“每5年提升25倍”定律，相当于约1.08年翻倍一次。我们的分析表明这一预期过于乐观。
CPU历史趋势
自1940年以来，CPU性价比每7.7年提升10倍（每2.32年翻倍）。GPU的改进速度（每8.17年提升10倍）与此接近但略慢。
先前GPU研究
Bergal 2019年研究显示FP32性能每4.4年翻倍，我们的2.46年估计提供了更乐观但更可靠的新视角。
不同精度格式的性能趋势
半精度计算（FP16）和混合精度计算现已广泛用于深度学习。我们对91款同时具备价格和FP16性能数据的GPU进行了分析。
有趣的是，FP16的性价比改进速度（2.30年翻倍）与FP32无显著差异。这与Bergal 2019年发现的FP16融合乘加运算每1.8年翻倍的结论形成对比。考虑到数据量差异和统计显著性，我们选择以FP32作为主要分析对象。
机器学习专用GPU的加速趋势
通过分析75篇里程碑式机器学习论文中使用的42款GPU型号（其中26款出现在我们的数据集中），我们发现：
用于机器学习的GPU显示出更快的性价比改进速度——每2.07年翻倍，快于整体趋势的2.46年。这可能反映了两方面因素：
- 硬件本身更快的性能提升
- 研究机构更倾向于采购性价比更高的GPU
值得注意的是，最新ML实验倾向于使用当时性能最强的GPU，这表明GPU对现代机器学习的重要性日益增加。从纯FLOP/s角度看，ML GPU的性能翻倍时间为2.00年，也快于整体趋势的2.31年。
顶级性能GPU的演变规律
选择每个月中每美元FLOP/s最高的GPU组成子集后，我们发现顶级GPU的性价比翻倍时间延长至2.95年，显著慢于平均水平。
这一发现具有重要意义：虽然最新ML模型都在顶级GPU上训练，但这些顶级硬件的性价比改进速度反而较慢。这可能反映了高性能硬件溢价现象，或者追求绝对性能而非性价比的设计取向。
综合趋势对比表
| 趋势类别 | 翻倍时间 | 提升10倍时间 | 年增长率 | 度量指标 |
|---|---|---|---|---|
| 摩尔定律 | 2年 | 6.64年 | 0.151 OOM/年 | FLOP/s |
| 黄氏定律 | 1.08年 | 3.58年 | 0.279 OOM/年 | FLOP/s |
| CPU历史趋势 | 2.32年 | 7.7年 | 0.130 OOM/年 | 每美元FLOP/s |
| 我们的数据（全部） | 2.46年 | 8.17年 | 0.122 OOM/年 | 每美元FLOP/s |
| ML专用GPU | 2.07年 | 6.86年 | 0.146 OOM/年 | 每美元FLOP/s |
| 顶级性能GPU | 2.95年 | 9.81年 | 0.102 OOM/年 | 每美元FLOP/s |
| FP16性能 | 2.30年 | 7.64年 | 0.131 OOM/年 | 每美元FLOP/s |
结论与展望
基于十五年数据，我们认为GPU性价比每2.5年左右翻倍一次是最可靠的估计。虽然ML专用GPU显示出更快的改进速度（2.07年），但这部分源于研究机构对高性价比硬件的选择性采购，而非硬件本身更快的进步。
短期内，我们预计这一趋势将继续保持。2年以下的翻倍时间过于激进，而3年以上又过于保守。随着专用AI芯片（如TPU、IPU等）的兴起，未来计算性能的提升路径可能会更加多元化。
常见问题
GPU性价比提升速度与摩尔定律有何不同？
摩尔定律关注晶体管密度，间接推导性能提升；我们的研究直接测量实际计算性能与价格比率。实际GPU性价比改进速度（2.46年翻倍）略慢于摩尔定律的2年翻倍预期。
为什么机器学习GPU的性价比提升更快？
可能原因包括：ML社区更倾向于选择性价比高的硬件；厂商针对ML工作负载优化设计；大规模采购带来的规模经济效应。但硬件本身的基本改进速度可能仍接近2.5年翻倍。
FP16与FP32的性价比趋势为何无显著差异？
虽然FP16理论上应该提供更高吞吐量，但实际价格性能比受多种因素影响：内存带宽、软件优化程度、市场需求等。厂商可能将FP16性能提升转化为更高定价，而非更好的性价比。
顶级GPU为何性价比改进较慢？
高性能硬件通常存在溢价现象，厂商更关注绝对性能而非性价比。此外，顶级GPU采用的最新技术的成本通常较高，直到量产成熟后成本才会下降。
这些趋势对未来AI发展有何启示？
GPU性价比的稳定提升为AI进步提供了基础支持。每2.5年翻倍的速度意味着十年内计算性价比可提升约16倍，这将持续推动更大规模模型的训练和发展。
如何选择适合机器学习项目的GPU？
除了每美元FLOP/s，还应考虑内存容量、带宽、软件生态支持、功耗等因素。最新型号通常提供更好性能，但性价比可能不是最优，需要根据具体需求和预算权衡。