Fix: dev-dax engine building with make
[fio.git] / zbd.c
diff --git a/zbd.c b/zbd.c
index 7185d85caa84ffca0c339047b86cf52b108a2e4b..8cf8f81213ebfcd8083a2f3602932deec9c276cc 100644 (file)
--- a/zbd.c
+++ b/zbd.c
@@ -19,6 +19,7 @@
 #include "oslib/asprintf.h"
 #include "smalloc.h"
 #include "verify.h"
+#include "pshared.h"
 #include "zbd.h"
 
 /**
@@ -353,7 +354,6 @@ static int init_zone_info(struct thread_data *td, struct fio_file *f)
        struct fio_zone_info *p;
        uint64_t zone_size = td->o.zone_size;
        struct zoned_block_device_info *zbd_info = NULL;
-       pthread_mutexattr_t attr;
        int i;
 
        if (zone_size == 0) {
@@ -374,14 +374,12 @@ static int init_zone_info(struct thread_data *td, struct fio_file *f)
        if (!zbd_info)
                return -ENOMEM;
 
-       pthread_mutexattr_init(&attr);
-       pthread_mutexattr_settype(&attr, PTHREAD_MUTEX_RECURSIVE);
-       pthread_mutexattr_setpshared(&attr, true);
-       pthread_mutex_init(&zbd_info->mutex, &attr);
+       mutex_init_pshared(&zbd_info->mutex);
        zbd_info->refcount = 1;
        p = &zbd_info->zone_info[0];
        for (i = 0; i < nr_zones; i++, p++) {
-               pthread_mutex_init(&p->mutex, &attr);
+               mutex_init_pshared_with_type(&p->mutex,
+                                            PTHREAD_MUTEX_RECURSIVE);
                p->start = i * zone_size;
                p->wp = p->start + zone_size;
                p->type = ZBD_ZONE_TYPE_SWR;
@@ -395,7 +393,6 @@ static int init_zone_info(struct thread_data *td, struct fio_file *f)
        f->zbd_info->zone_size_log2 = is_power_of_2(zone_size) ?
                ilog2(zone_size) : 0;
        f->zbd_info->nr_zones = nr_zones;
-       pthread_mutexattr_destroy(&attr);
        return 0;
 }
 
@@ -415,13 +412,8 @@ static int parse_zone_info(struct thread_data *td, struct fio_file *f)
        struct fio_zone_info *p;
        uint64_t zone_size, offset;
        struct zoned_block_device_info *zbd_info = NULL;
-       pthread_mutexattr_t attr;
        int i, j, ret = 0;
 
-       pthread_mutexattr_init(&attr);
-       pthread_mutexattr_settype(&attr, PTHREAD_MUTEX_RECURSIVE);
-       pthread_mutexattr_setpshared(&attr, true);
-
        zones = calloc(ZBD_REPORT_MAX_ZONES, sizeof(struct zbd_zone));
        if (!zones)
                goto out;
@@ -455,13 +447,14 @@ static int parse_zone_info(struct thread_data *td, struct fio_file *f)
        ret = -ENOMEM;
        if (!zbd_info)
                goto out;
-       pthread_mutex_init(&zbd_info->mutex, &attr);
+       mutex_init_pshared(&zbd_info->mutex);
        zbd_info->refcount = 1;
        p = &zbd_info->zone_info[0];
        for (offset = 0, j = 0; j < nr_zones;) {
                z = &zones[0];
                for (i = 0; i < nrz; i++, j++, z++, p++) {
-                       pthread_mutex_init(&p->mutex, &attr);
+                       mutex_init_pshared_with_type(&p->mutex,
+                                                    PTHREAD_MUTEX_RECURSIVE);
                        p->start = z->start;
                        switch (z->cond) {
                        case ZBD_ZONE_COND_NOT_WP:
@@ -512,7 +505,6 @@ static int parse_zone_info(struct thread_data *td, struct fio_file *f)
 out:
        sfree(zbd_info);
        free(zones);
-       pthread_mutexattr_destroy(&attr);
        return ret;
 }
 
@@ -548,8 +540,10 @@ static int zbd_create_zone_info(struct thread_data *td, struct fio_file *f)
                return -EINVAL;
        }
 
-       if (ret == 0)
+       if (ret == 0) {
                f->zbd_info->model = zbd_model;
+               f->zbd_info->max_open_zones = td->o.max_open_zones;
+       }
        return ret;
 }
 
@@ -623,6 +617,25 @@ int zbd_setup_files(struct thread_data *td)
        if (!zbd_verify_bs())
                return 1;
 
+       for_each_file(td, f, i) {
+               struct zoned_block_device_info *zbd = f->zbd_info;
+
+               if (!zbd)
+                       continue;
+
+               zbd->max_open_zones = zbd->max_open_zones ?: ZBD_MAX_OPEN_ZONES;
+
+               if (td->o.max_open_zones > 0 &&
+                   zbd->max_open_zones != td->o.max_open_zones) {
+                       log_err("Different 'max_open_zones' values\n");
+                       return 1;
+               }
+               if (zbd->max_open_zones > ZBD_MAX_OPEN_ZONES) {
+                       log_err("'max_open_zones' value is limited by %u\n", ZBD_MAX_OPEN_ZONES);
+                       return 1;
+               }
+       }
+
        return 0;
 }
 
@@ -710,6 +723,7 @@ static void zbd_close_zone(struct thread_data *td, const struct fio_file *f,
                (ZBD_MAX_OPEN_ZONES - (open_zone_idx + 1)) *
                sizeof(f->zbd_info->open_zones[0]));
        f->zbd_info->num_open_zones--;
+       td->num_open_zones--;
        f->zbd_info->zone_info[zone_idx].open = 0;
 }
 
@@ -772,14 +786,20 @@ static int zbd_reset_zones(struct thread_data *td, struct fio_file *f,
  * Reset zbd_info.write_cnt, the counter that counts down towards the next
  * zone reset.
  */
-static void zbd_reset_write_cnt(const struct thread_data *td,
-                               const struct fio_file *f)
+static void _zbd_reset_write_cnt(const struct thread_data *td,
+                                const struct fio_file *f)
 {
        assert(0 <= td->o.zrf.u.f && td->o.zrf.u.f <= 1);
 
-       pthread_mutex_lock(&f->zbd_info->mutex);
        f->zbd_info->write_cnt = td->o.zrf.u.f ?
                min(1.0 / td->o.zrf.u.f, 0.0 + UINT_MAX) : UINT_MAX;
+}
+
+static void zbd_reset_write_cnt(const struct thread_data *td,
+                               const struct fio_file *f)
+{
+       pthread_mutex_lock(&f->zbd_info->mutex);
+       _zbd_reset_write_cnt(td, f);
        pthread_mutex_unlock(&f->zbd_info->mutex);
 }
 
@@ -793,7 +813,7 @@ static bool zbd_dec_and_reset_write_cnt(const struct thread_data *td,
        if (f->zbd_info->write_cnt)
                write_cnt = --f->zbd_info->write_cnt;
        if (write_cnt == 0)
-               zbd_reset_write_cnt(td, f);
+               _zbd_reset_write_cnt(td, f);
        pthread_mutex_unlock(&f->zbd_info->mutex);
 
        return write_cnt == 0;
@@ -887,8 +907,9 @@ static bool is_zone_open(const struct thread_data *td, const struct fio_file *f,
        struct zoned_block_device_info *zbdi = f->zbd_info;
        int i;
 
-       assert(td->o.max_open_zones <= ARRAY_SIZE(zbdi->open_zones));
-       assert(zbdi->num_open_zones <= td->o.max_open_zones);
+       assert(td->o.job_max_open_zones == 0 || td->num_open_zones <= td->o.job_max_open_zones);
+       assert(td->o.job_max_open_zones <= zbdi->max_open_zones);
+       assert(zbdi->num_open_zones <= zbdi->max_open_zones);
 
        for (i = 0; i < zbdi->num_open_zones; i++)
                if (zbdi->open_zones[i] == zone_idx)
@@ -921,18 +942,19 @@ static bool zbd_open_zone(struct thread_data *td, const struct io_u *io_u,
        if (td->o.verify != VERIFY_NONE && zbd_zone_full(f, z, min_bs))
                return false;
 
-       /* Zero means no limit */
-       if (!td->o.max_open_zones)
-               return true;
-
        pthread_mutex_lock(&f->zbd_info->mutex);
        if (is_zone_open(td, f, zone_idx))
                goto out;
        res = false;
-       if (f->zbd_info->num_open_zones >= td->o.max_open_zones)
+       /* Zero means no limit */
+       if (td->o.job_max_open_zones > 0 &&
+           td->num_open_zones >= td->o.job_max_open_zones)
+               goto out;
+       if (f->zbd_info->num_open_zones >= f->zbd_info->max_open_zones)
                goto out;
        dprint(FD_ZBD, "%s: opening zone %d\n", f->file_name, zone_idx);
        f->zbd_info->open_zones[f->zbd_info->num_open_zones++] = zone_idx;
+       td->num_open_zones++;
        z->open = 1;
        res = true;
 
@@ -967,7 +989,7 @@ static struct fio_zone_info *zbd_convert_to_open_zone(struct thread_data *td,
 
        assert(is_valid_offset(f, io_u->offset));
 
-       if (td->o.max_open_zones) {
+       if (td->o.max_open_zones || td->o.job_max_open_zones) {
                /*
                 * This statement accesses f->zbd_info->open_zones[] on purpose
                 * without locking.
@@ -996,7 +1018,7 @@ static struct fio_zone_info *zbd_convert_to_open_zone(struct thread_data *td,
 
                zone_lock(td, f, z);
                pthread_mutex_lock(&f->zbd_info->mutex);
-               if (td->o.max_open_zones == 0)
+               if (td->o.max_open_zones == 0 && td->o.job_max_open_zones == 0)
                        goto examine_zone;
                if (f->zbd_info->num_open_zones == 0) {
                        pthread_mutex_unlock(&f->zbd_info->mutex);
@@ -1052,7 +1074,7 @@ examine_zone:
        }
        dprint(FD_ZBD, "%s(%s): closing zone %d\n", __func__, f->file_name,
               zone_idx);
-       if (td->o.max_open_zones)
+       if (td->o.max_open_zones || td->o.job_max_open_zones)
                zbd_close_zone(td, f, open_zone_idx);
        pthread_mutex_unlock(&f->zbd_info->mutex);
 
@@ -1343,7 +1365,7 @@ void setup_zbd_zone_mode(struct thread_data *td, struct io_u *io_u)
 }
 
 /**
- * zbd_adjust_ddir - Adjust an I/O direction for zonedmode=zbd.
+ * zbd_adjust_ddir - Adjust an I/O direction for zonemode=zbd.
  *
  * @td: FIO thread data.
  * @io_u: FIO I/O unit.