io-wq: eliminate the need for a manager thread wq-no-manager
authorJens Axboe <axboe@kernel.dk>
Mon, 8 Mar 2021 16:37:51 +0000 (09:37 -0700)
committerJens Axboe <axboe@kernel.dk>
Tue, 23 Mar 2021 13:57:18 +0000 (07:57 -0600)
commitc95a47c25f8ab6c76069d67c791f3cfa7445b823
tree7e83b0a4ff7923160a5f2e9df58c9ac59df11b7c
parentd9cef4bb5708ba5624a882b48a009eb47af89f77
io-wq: eliminate the need for a manager thread

io-wq relies on a manager thread to create/fork new workers, as needed.
But there's really no strong need for it anymore. We have the following
cases that fork a new worker:

1) Work queue. This is done from the task itself always, and it's trivial
   to create a worker off that path, if needed.

2) All workers have gone to sleep, and we have more work. This is called
   off the sched out path. For this case, use a task_work items to queue
   a fork-worker operation.

3) Hashed work completion. Don't think we need to do anything off this
   case. If need be, it could just use approach 2 as well.

Part of this change is incrementing the running worker count before the
fork, to avoid cases where we observe we need a worker and then queue
creation of one. Then new work comes in, we fork a new one. That last
queue operation should have waited for the previous worker to come up,
it's quite possible we don't even need it. Hence move the worker running
from before we fork it off to more efficiently handle that case.

Signed-off-by: Jens Axboe <axboe@kernel.dk>
fs/io-wq.c