]> Cypherpunks repositories - gostls13.git/commitdiff
runtime: reset mark state before stopping the world
authorAustin Clements <austin@google.com>
Tue, 1 Mar 2016 20:09:24 +0000 (15:09 -0500)
committerAndrew Gerrand <adg@golang.org>
Thu, 14 Apr 2016 05:23:47 +0000 (05:23 +0000)
Currently we reset the mark state during STW sweep termination. This
involves looping over all of the goroutines. Each iteration of this
loop takes ~25ns, so at around 400k goroutines, we'll exceed our 10ms
pause goal.

However, it's safe to do this before we stop the world for sweep
termination because nothing is consuming this state yet. Hence, move
the reset to just before STW.

This isn't perfect: a long reset can still delay allocating goroutines
that block on GC starting. But it's certainly better to block some
things eventually than to block everything immediately.

For 1.6.x.

Fixes #14420.

name \ 95%ile-time/sweepTerm           old          new  delta
500kIdleGs-12                 11312µs ± 6%  18.9µs ± 6%  -99.83%  (p=0.000 n=16+20)

Change-Id: I9815c4d8d9b0d3c3e94dfdab78049cefe0dcc93c
Reviewed-on: https://go-review.googlesource.com/20147
Reviewed-by: Rick Hudson <rlh@golang.org>
Run-TryBot: Austin Clements <austin@google.com>
TryBot-Result: Gobot Gobot <gobot@golang.org>
Reviewed-on: https://go-review.googlesource.com/22043
Reviewed-by: Austin Clements <austin@google.com>
src/runtime/mgc.go

index 94301c6dc7f0deb7aa91095dbeb367e9c432a55c..1b95df9cbeceb22cb7a3421ca732863c87b92d7b 100644 (file)
@@ -932,6 +932,9 @@ func gcStart(mode gcMode, forceTrigger bool) {
        if mode == gcBackgroundMode {
                gcBgMarkStartWorkers()
        }
+
+       gcResetMarkState()
+
        now := nanotime()
        work.stwprocs, work.maxprocs = gcprocs(), gomaxprocs
        work.tSweepTerm = now
@@ -949,8 +952,6 @@ func gcStart(mode gcMode, forceTrigger bool) {
        // reclaimed until the next GC cycle.
        clearpools()
 
-       gcResetMarkState()
-
        work.finalizersDone = false
 
        if mode == gcBackgroundMode { // Do as much work concurrently as possible
@@ -1723,8 +1724,10 @@ func gcCopySpans() {
 }
 
 // gcResetMarkState resets global state prior to marking (concurrent
-// or STW) and resets the stack scan state of all Gs. Any Gs created
-// after this will also be in the reset state.
+// or STW) and resets the stack scan state of all Gs.
+//
+// This is safe to do without the world stopped because any Gs created
+// during or after this will start out in the reset state.
 func gcResetMarkState() {
        // This may be called during a concurrent phase, so make sure
        // allgs doesn't change.