大家好，今天我要说的是关于缓存局部性对内存访问速度的影响。这个东西其实挺重要的，但很多人不太懂它到底有啥用。我来简单说说吧。

啥是缓存局部性？

先说说 缓存局部性就是说CPU在访问数据的时候，如果它要访问的数据正好在缓存里那速度就快。如果不在那就要去内存里找，那就慢了。所以如果你的程序能尽量让数据在缓存里那访问速度就会快很多。

缓存局部性分两种：时间局部性和空间局部性。时间局部性就是说你刚用过的东西，可能一会儿还会再用，所以把它留在缓存里。空间局部性就是说你访问一个数据的时候，它附近的数据也可能会用到，所以也一起加载到缓存里，客观地说...。

比如你写程序的时候， 如果能按顺序访问数组，那这个数组的元素就会在内存里连续放，CPU访问的时候就能一次加载一整块，这样效率就高了。但如果你访问的顺序是跳来跳去的，那缓存就没那么好用了主要原因是每次都要重新加载，效率就低了，不地道。。

缓存局部性怎么影响内存访问速度？

出岔子。 你想想，如果你的程序访问的数据在缓存里那访问速度就快。如果数据不在缓存里那就要去内存里找，这个过程就慢了。所以如果你的程序能尽量让数据在缓存里那访问速度就会快很多。

比如你写个循环访问一个大数组，如果按顺序访问，那效率就高。但如果你跳着访问，比如先访问第1个元素，再访问第1000个元素，那缓存就帮不上忙了速度就慢了。

数组访问顺序对性能的影响

补救一下。 比如你有个二维数组，你按行访问和按列访问是不一样的。按行访问效率高，主要原因是数据是连续的，缓存能用上。按列访问就不太行，主要原因是数据是跳着的，缓存用不上。

比如这个代码：

int arr;
// ✅ 高效：内层沿连续地址步进
for 
    for 
        sum += arr;
// ❌ 低效：每次访问跨 1024×sizeof ≈ 4KB， 远超 L1 缓存容量
for 
    for 
        sum += arr;

你看，第一个循环是按行访问的，数据是连续的，所以效率高。第二个循环是按列访问的，数据是跳着的，所以效率低。这就是缓存局部性的影响。

链表和数组的对比

图啥呢？ 比如你用数组，数据是连续的，那缓存就能用上。但如果你用链表，每个节点是动态分配的，地址是跳着的，那缓存就用不上了。所以链表的访问速度就慢了。

// 连续内存天然满足空间局部性：一次 cache line 加载， 就能覆盖后续几次访问
int arr;
// std::list 每个节点动态分配，地址随机，每次访问都大概率触发新 cache miss

你看，数组是连续的，链表是跳着的，所以数组效率高， 我比较认同... 链表效率低。这就是为啥数组比链表快的原因。

手动预取有用吗？

手动预取就是你提前告诉CPU你要访问哪个数据，让它提前加载到缓存里。但这个只在特定场景有用，比如你有明确凭据说这个数据会用到，那就可以用。但如果你乱用，比如加太多预取指令，那反而会增加指令开销，污染缓存，干扰硬件预取逻辑，那就得不偿失了，也是醉了...。

__builtin_prefetch;

这个函数就是手动预取， 但不是所有情况都适合用，只有在特定场景下才用。比如你有明确凭据说这个数据会用到，那就可以用。但如果你乱用，那就会出问题，我破防了。。

缓存未命中对性能的影响

我整个人都不好了。 现代 CPU 的主频远高于内存带宽， L1 缓存访问约 1–4 个周期，而跨 NUMA 节点读取 DRAM 可能超 300 周期。一旦代码触发大量 cache miss，CPU 大部分时间在空等，而非施行指令。这不是“慢一点”，而是实际吞吐可能跌到理论峰值的 10% 以下。

比如你写程序的时候，如果缓存没用上，那访问速度就慢了。所以如果你的程序能尽量让数据在缓存里那访问速度就会快很多，我深信...。

缓存局部性对程序性能的影响

境界没到。 比如你写个程序， 如果数据是连续的，那缓存就能用上，访问速度就快。但如果你的数据是跳着的，那缓存就用不上了访问速度就慢了。

比如你访问一个大数组，如果按顺序访问，那效率高。但如果你跳着访问， 真香！ 那效率就低了。这就是缓存局部性的影响。

int arr;
for 
    for 
        sum += arr;

你看， 这个代码是按行访问的，数据是连续的，所以效率高。但如果你改成按列访问， 摆烂。 那数据是跳着的，缓存就用不上了效率就低了。

std::list mylist;

手动预取只在特定场景有用

__builtin_prefetch;

缓存局部性对内存访问速度的影响挺大。如果你的程序能尽量让数据在缓存里那访问速度就会快很多。 痛并快乐着。 但如果你的数据是跳着访问的，那缓存就用不上了访问速度就慢了。