io_uring/io-wq: do not allow pinning outside of cpuset
authorFelix Moessbauer <felix.moessbauer@siemens.com>
Tue, 10 Sep 2024 17:11:56 +0000 (19:11 +0200)
committerJens Axboe <axboe@kernel.dk>
Wed, 11 Sep 2024 13:27:56 +0000 (07:27 -0600)
The io worker threads are userland threads that just never exit to the
userland. By that, they are also assigned to a cgroup (the group of the
creating task).

When changing the affinity of the io_wq thread via syscall, we must only
allow cpumasks within the limits defined by the cpuset controller of the
cgroup (if enabled).

Fixes: da64d6db3bd3 ("io_uring: One wqe per wq")
Signed-off-by: Felix Moessbauer <felix.moessbauer@siemens.com>
Link: https://lore.kernel.org/r/20240910171157.166423-2-felix.moessbauer@siemens.com
Signed-off-by: Jens Axboe <axboe@kernel.dk>
io_uring/io-wq.c

index f1e7c670add85f64b9bc29191fe4ec1123271871..c7055a8895d7e8c205f9050dab2243b32d81d72c 100644 (file)
@@ -13,6 +13,7 @@
 #include <linux/slab.h>
 #include <linux/rculist_nulls.h>
 #include <linux/cpu.h>
+#include <linux/cpuset.h>
 #include <linux/task_work.h>
 #include <linux/audit.h>
 #include <linux/mmu_context.h>
@@ -1322,17 +1323,29 @@ static int io_wq_cpu_offline(unsigned int cpu, struct hlist_node *node)
 
 int io_wq_cpu_affinity(struct io_uring_task *tctx, cpumask_var_t mask)
 {
+       cpumask_var_t allowed_mask;
+       int ret = 0;
+
        if (!tctx || !tctx->io_wq)
                return -EINVAL;
 
+       if (!alloc_cpumask_var(&allowed_mask, GFP_KERNEL))
+               return -ENOMEM;
+
        rcu_read_lock();
-       if (mask)
-               cpumask_copy(tctx->io_wq->cpu_mask, mask);
-       else
-               cpumask_copy(tctx->io_wq->cpu_mask, cpu_possible_mask);
+       cpuset_cpus_allowed(tctx->io_wq->task, allowed_mask);
+       if (mask) {
+               if (cpumask_subset(mask, allowed_mask))
+                       cpumask_copy(tctx->io_wq->cpu_mask, mask);
+               else
+                       ret = -EINVAL;
+       } else {
+               cpumask_copy(tctx->io_wq->cpu_mask, allowed_mask);
+       }
        rcu_read_unlock();
 
-       return 0;
+       free_cpumask_var(allowed_mask);
+       return ret;
 }
 
 /*