v8 垃圾回收：Orinoco 垃圾回收器

June 30, 2024

原文：https://v8.dev/blog/trash-talk
延申阅读：https://www.jayconrod.com/posts/55/a-tour-of-v8--garbage-collection

过去几年里，V8垃圾回收器（GC）发生了很大变化。Orinoco 项目将一个顺序的、全停顿的垃圾回收器转变为一个主要并行和并发的回收器，并具有增量回退功能。

任何垃圾回收器都有一些必须定期执行的基本任务：

识别存活/死亡对象
回收/重用死亡对象占用的内存
压缩/整理内存（可选）

这些任务可以按顺序执行，也可以任意交错。一个简单的方法是暂停JavaScript执行，并在主线程上按顺序执行每个任务。这可能会导致主线程上的卡顿和延迟问题，我们在之前的博客文章中谈到过，还会减少程序的吞吐量。

主要GC（全标记-压缩）

主要GC从整个堆中收集垃圾。

主要GC分为三个阶段：标记、清扫和压缩。

标记

确定哪些对象可以被回收是垃圾回收的一个重要部分。垃圾回收器通过使用可达性作为“存活性”的代理来实现这一点。这意味着任何当前在运行时可达的对象都必须保留，而任何不可达的对象都可以被回收。

标记是找到可达对象的过程。GC从一组已知的对象指针（称为根集）开始。这包括执行堆栈和全局对象。然后它跟踪每个指向JavaScript对象的指针，并将该对象标记为可达。GC跟踪该对象中的每个指针，并递归地继续这一过程，直到找到并标记所有在运行时可达的对象。

清扫

清扫是将死亡对象留下的内存空隙添加到一个称为空闲列表的数据结构中的过程。标记完成后，GC找到不可达对象留下的连续空隙，并将它们添加到适当的空闲列表中。空闲列表按内存块的大小分开，以便快速查找。将来当我们想要分配内存时，只需查看空闲列表并找到一个合适大小的内存块。

压缩

主要GC还根据碎片化启发式选择一些页面进行清空/压缩。你可以将压缩类比为旧PC上的硬盘碎片整理。我们将存活的对象复制到未被压缩的其他页面（使用该页面的空闲列表）。这样，我们可以利用死亡对象留下的内存中的小而分散的空隙。

复制存活对象的垃圾回收器的一个潜在弱点是，当我们分配大量长寿命对象时，我们需要付出高昂的复制这些对象的成本。这就是为什么我们选择只压缩一些高度碎片化的页面，而对其他页面只进行清扫，不复制存活对象。

分代布局

V8中的堆被分为不同的区域，称为代。有一个年轻代（进一步分为“新生代”和“中生代”），还有一个老年代。对象首先分配到新生代。如果它们在下一次GC中存活下来，它们仍然留在年轻代，但被视为“中生代”。如果它们再一次GC中存活下来，它们会被移动到老年代。

V8堆被分为代。对象在GC存活后会在代之间移动。

在垃圾回收中有一个重要的术语：“分代假说”。这基本上是指大多数对象很快就会死亡。换句话说，从GC的角度来看，大多数对象在分配后几乎立即变得不可达。这不仅适用于V8或JavaScript，还适用于大多数动态语言。

V8的分代堆布局旨在利用这一对象寿命的事实。GC是一个压缩/移动GC，这意味着它会复制在垃圾回收中存活的对象。这看起来是反直觉的：在GC时复制对象是昂贵的。但我们知道，根据分代假说，只有很小一部分对象实际上会在垃圾回收中存活。通过只移动存活的对象，其他所有分配都变成了“隐式”垃圾。这意味着我们只需要支付与存活对象数量成比例的成本（用于复制），而不是分配的数量。

次要GC（清扫器）

V8中有两个垃圾回收器。 主要GC（标记-压缩）从整个堆中收集垃圾。**次要GC（清扫器）**在年轻代中收集垃圾。主要GC在从整个堆中收集垃圾方面非常有效，但分代假说告诉我们，新分配的对象非常可能需要垃圾回收。

在清扫器中，它只在年轻代中收集垃圾，存活的对象总是被转移到一个新页面。V8对年轻代使用“半空间”设计。这意味着总有一半的空间是空的，以便进行这个转移步骤。在清扫期间，这个最初为空的区域称为“目标空间”。我们从中复制的区域称为“源空间”。在最坏的情况下，每个对象都可能在清扫中存活，我们需要复制每个对象。

对于清扫，我们有一组额外的根，这些根是从老代到新代的引用。这些是老空间中指向年轻代对象的指针。与其为每次清扫跟踪整个堆图，我们使用写屏障来维护一个从老到新的引用列表。结合堆栈和全局对象，我们知道每个指向年轻代的引用，而不需要跟踪整个老代。

转移步骤将所有存活的对象移动到一个连续的内存块（在一个页面内）。这具有完全消除碎片化的优点，即死亡对象留下的空隙。然后我们交换两个空间，即目标空间变为源空间，反之亦然。一旦GC完成，新分配就会发生在源空间中的下一个空闲地址。

清扫器将存活的对象转移到一个新的页面。

仅靠这种策略，我们很快就会在年轻代中耗尽空间。第二次GC中存活的对象被转移到老年代，而不是目标空间。

清扫的最后一步是更新引用原始对象的指针，这些对象已被移动。每个复制的对象留下一个转发地址，用于更新原始指针以指向新位置。

清扫器将“中生代”对象转移到老年代，将“新生代”对象转移到一个新的页面。

在清扫中，我们实际上将这三个步骤——标记、转移和指针更新——交错进行，而不是分阶段进行。

这些算法和优化大多在垃圾回收文献中很常见，并且可以在许多垃圾回收语言中找到。但最先进的垃圾回收已经走了很长的路。衡量垃圾回收时间的一个重要指标是主线程在执行GC时暂停的时间。对于传统的“全停顿”垃圾回收器，这段时间可能会累积，这段时间直接影响用户体验，表现为页面卡顿和渲染和延迟不佳。

Orinoco是V8垃圾回收器项目的代号，旨在利用最新和最先进的并行、增量和并发技术进行垃圾回收，以释放主线程。有些术语在GC上下文中有特定的含义，值得详细定义。

并行

并行是指主线程和辅助线程在同一时间做大致相同的工作。这仍然是一种“全停顿”的方法，但总暂停时间现在被参与线程的数量（加上一些同步开销）除以。这是三种技术中最简单的一种。JavaScript堆暂停，因为没有JavaScript在运行，所以每个辅助线程只需要确保它同步访问任何其他辅助线程可能也想访问的对象。

主线程和辅助线程同时处理相同的任务。

增量

增量是指主线程间歇性地做少量工作。我们不会在增量暂停中完成整个GC，只是完成GC所需总工作量的一小部分。这更困难，因为在每个增量工作段之间JavaScript会执行，这意味着堆的状态发生了变化，可能会使之前的增量工作无效。从图中可以看出，这并没有减少主线程上花费的时间（实际上通常会略微增加），只是将其分散在一段时间内。这仍然是解决我们最初问题的一个好技术：主线程延迟。通过允许JavaScript间歇性运行，同时继续进行垃圾回收任务，应用程序仍然可以响应用户输入并在动画上取得进展。

GC任务的小块与主线程执行交错进行。

并发

并发是指主线程不断执行JavaScript，而辅助线程完全在后台进行GC工作。这是三种技术中最困难的一种：JavaScript堆上的任何东西都可能随时改变，使我们之前所做的工作无效。除此之外，还有读取/写入竞争的问题，因为辅助线程和主线程同时读取或修改相同的对象。这里的优点是主线程完全可以自由地执行JavaScript——尽管由于与辅助线程的一些同步，存在一些小的开销。

GC任务完全在后台进行。主线程可以自由运行JavaScript。

V8中的GC状态

清扫

今天，V8使用并行清扫将年轻代GC的工作分配到辅助线程中。每个线程接收若干指针，跟踪这些指针，积极地将任何存活的对象转移到目标空间。清扫任务在尝试转移对象时必须通过原子读取/写入/比较并交换操作进行同步；另一个清扫任务可能通过不同路径找到相同的对象并也尝试移动它。成功移动对象的辅助线程然后返回并更新指针。它留下一个转发指针，以便其他工作线程找到对象时可以更新其他指针。为了快速无同步地分配存活对象，清扫任务使用线程本地分配缓冲区。

并行清扫将清扫工作分配到多个辅助线程和主线程中。

主要GC

V8中的主要GC从并发标记开始。当堆接近动态计算的限制时，启动并发标记任务。每个辅助线程接收若干指针，跟踪这些指针，并在跟踪从发现的对象的所有引用时标记每个找到的对象。并发标记完全在后台进行，而JavaScript在主线程上执行。写屏障用于跟踪JavaScript在辅助线程并发标记时创建的对象之间的新引用。

主要GC使用并发标记和清扫，并行压缩和指针更新。

当并发标记完成或达到动态分配限制时，主线程执行快速标记完成步骤。主线程暂停在此阶段开始。这代表了主要GC的总暂停时间。主线程再次扫描根，以确保所有存活对象都被标记，然后与若干辅助线程一起，开始并行压缩和指针更新。老空间中的所有页面都不适合压缩——那些不适合的页面将使用前面提到的空闲列表进行清扫。主线程在暂停期间启动并发清扫任务。这些任务与并行压缩任务和主线程本身并发运行——即使JavaScript在主线程上运行，它们也可以继续。

空闲时间GC

JavaScript用户无法直接访问垃圾回收器；它完全是实现定义的。然而，V8确实提供了一种机制，允许嵌入器触发垃圾回收，即使JavaScript程序本身不能。GC可以发布“空闲任务”，这些任务是最终会被触发的可选工作。像Chrome这样的嵌入器可能对空闲时间有一些概念。例如，在Chrome中，以60帧每秒的速度，浏览器大约有16.6毫秒来渲染动画的每一帧。如果动画工作提前完成，Chrome可以选择在下一帧之前的空闲时间运行一些GC创建的空闲任务。

空闲GC利用主线程的空闲时间主动执行GC工作。

欲了解更多详细信息，请参阅我们关于空闲时间GC的深入出版物。

总结

V8中的垃圾回收器自其诞生以来已经走了很长的路。将并行、增量和并发技术添加到现有GC中是一个多年的努力，但它已经取得了回报，将大量工作移到了后台任务中。它大大改善了暂停时间、延迟和页面加载，使动画、滚动和用户交互更加流畅。并行清扫器减少了主线程年轻代垃圾回收总时间约20%–50%，具体取决于工作负载。空闲时间GC可以在Gmail空闲时减少45%的JavaScript堆内存。并发标记和清扫在重度WebGL游戏中将暂停时间减少了多达50%。

但工作还没有结束。减少垃圾回收暂停时间对于为用户提供最佳的网络体验仍然很重要，我们正在研究更先进的技术。除此之外，Chrome中的渲染器Blink也有一个垃圾回收器（称为Oilpan），我们正在努力改进两个回收器之间的协作，并将Orinoco的一些新技术移植到Oilpan中。

大多数开发者在开发JavaScript程序时不需要考虑GC，但了解一些内部机制可以帮助你思考内存使用和有益的编程模式。例如，V8堆的分代结构中，从垃圾回收器的角度来看，短命对象实际上非常便宜，因为我们只为存活的对象付费。这种模式在许多垃圾回收语言中都很有效，不仅仅是JavaScript。