46a3979fde6190cc5d23603703334158f1267cf0
[fio.git] / workqueue.h
1 #ifndef FIO_RATE_H
2 #define FIO_RATE_H
3
4 #include "flist.h"
5
6 struct workqueue_work {
7         struct flist_head list;
8 };
9
10 struct submit_worker {
11         pthread_t thread;
12         pthread_mutex_t lock;
13         pthread_cond_t cond;
14         struct flist_head work_list;
15         unsigned int flags;
16         unsigned int index;
17         uint64_t seq;
18         struct workqueue *wq;
19         void *private;
20 };
21
22 typedef int (workqueue_work_fn)(struct submit_worker *, struct workqueue_work *);
23 typedef bool (workqueue_pre_sleep_flush_fn)(struct submit_worker *);
24 typedef void (workqueue_pre_sleep_fn)(struct submit_worker *);
25 typedef int (workqueue_alloc_worker_fn)(struct submit_worker *);
26 typedef void (workqueue_free_worker_fn)(struct submit_worker *);
27 typedef int (workqueue_init_worker_fn)(struct submit_worker *);
28 typedef void (workqueue_exit_worker_fn)(struct submit_worker *, unsigned int *);
29 typedef void (workqueue_update_acct_fn)(struct submit_worker *);
30
31 struct workqueue_ops {
32         workqueue_work_fn *fn;
33         workqueue_pre_sleep_flush_fn *pre_sleep_flush_fn;
34         workqueue_pre_sleep_fn *pre_sleep_fn;
35
36         workqueue_update_acct_fn *update_acct_fn;
37
38         workqueue_alloc_worker_fn *alloc_worker_fn;
39         workqueue_free_worker_fn *free_worker_fn;
40
41         workqueue_init_worker_fn *init_worker_fn;
42         workqueue_exit_worker_fn *exit_worker_fn;
43
44         unsigned int nice;
45 };
46
47 struct workqueue {
48         unsigned int max_workers;
49
50         struct thread_data *td;
51         struct workqueue_ops ops;
52
53         uint64_t work_seq;
54         struct submit_worker *workers;
55         unsigned int next_free_worker;
56
57         pthread_cond_t flush_cond;
58         pthread_mutex_t flush_lock;
59         pthread_mutex_t stat_lock;
60         volatile int wake_idle;
61 };
62
63 int workqueue_init(struct thread_data *td, struct workqueue *wq, struct workqueue_ops *ops, unsigned int max_workers);
64 void workqueue_exit(struct workqueue *wq);
65
66 void workqueue_enqueue(struct workqueue *wq, struct workqueue_work *work);
67 void workqueue_flush(struct workqueue *wq);
68
69 static inline bool workqueue_pre_sleep_check(struct submit_worker *sw)
70 {
71         struct workqueue *wq = sw->wq;
72
73         if (!wq->ops.pre_sleep_flush_fn)
74                 return false;
75
76         return wq->ops.pre_sleep_flush_fn(sw);
77 }
78
79 static inline void workqueue_pre_sleep(struct submit_worker *sw)
80 {
81         struct workqueue *wq = sw->wq;
82
83         if (wq->ops.pre_sleep_fn)
84                 wq->ops.pre_sleep_fn(sw);
85 }
86
87 static inline int workqueue_init_worker(struct submit_worker *sw)
88 {
89         struct workqueue *wq = sw->wq;
90
91         if (!wq->ops.init_worker_fn)
92                 return 0;
93
94         return wq->ops.init_worker_fn(sw);
95 }
96
97 static inline void workqueue_exit_worker(struct submit_worker *sw,
98                                          unsigned int *sum_cnt)
99 {
100         struct workqueue *wq = sw->wq;
101         unsigned int tmp = 1;
102
103         if (!wq->ops.exit_worker_fn)
104                 return;
105
106         if (!sum_cnt)
107                 sum_cnt = &tmp;
108
109         wq->ops.exit_worker_fn(sw, sum_cnt);
110 }
111 #endif