t/zbd/test-zbd-support

   1 #!/bin/bash
   2 #
   3 # Copyright (C) 2018 Western Digital Corporation or its affiliates.
   4 #
   5 # This file is released under the GPL.
   6
   7 usage() {
   8         echo "Usage: $(basename "$0") [OPTIONS] <test target device file>"
   9         echo "Options:"
  10         echo -e "\t-d Run fio with valgrind using DRD tool"
  11         echo -e "\t-e Run fio with valgrind using helgrind tool"
  12         echo -e "\t-v Run fio with valgrind --read-var-info option"
  13         echo -e "\t-l Test with libzbc ioengine"
  14         echo -e "\t-r Reset all zones before test start"
  15         echo -e "\t-o <max_open_zones> Run fio with max_open_zones limit"
  16         echo -e "\t-t <test #> Run only a single test case with specified number"
  17         echo -e "\t-q Quit the test run after any failed test"
  18         echo -e "\t-z Run fio with debug=zbd option"
  19 }
  20
  21 max() {
  22     if [ "$1" -gt "$2" ]; then
  23         echo "$1"
  24     else
  25         echo "$2"
  26     fi
  27 }
  28
  29 min() {
  30     if [ "$1" -lt "$2" ]; then
  31         echo "$1"
  32     else
  33         echo "$2"
  34     fi
  35 }
  36
  37 ioengine() {
  38         if [ -n "$use_libzbc" ]; then
  39                 echo -n "--ioengine=libzbc"
  40         else
  41                 echo -n "--ioengine=$1"
  42         fi
  43 }
  44
  45 set_io_scheduler() {
  46     local dev=$1 sched=$2
  47
  48     [ -e "/sys/block/$dev" ] || return $?
  49     if [ -e "/sys/block/$dev/mq" ]; then
  50         case "$sched" in
  51             noop)        sched=none;;
  52             deadline)    sched=mq-deadline;;
  53         esac
  54     else
  55         case "$sched" in
  56             none)        sched=noop;;
  57             mq-deadline) sched=deadline;;
  58         esac
  59     fi
  60
  61     echo "$sched" >"/sys/block/$dev/queue/scheduler"
  62 }
  63
  64 check_read() {
  65     local read
  66
  67     read=$(fio_read <"${logfile}.${test_number}")
  68     echo "read: $read <> $1" >> "${logfile}.${test_number}"
  69     [ "$read" = "$1" ]
  70 }
  71
  72 check_written() {
  73     local written
  74
  75     written=$(fio_written <"${logfile}.${test_number}")
  76     echo "written: $written <> $1" >> "${logfile}.${test_number}"
  77     [ "$written" = "$1" ]
  78 }
  79
  80 # Compare the reset count from the log file with reset count $2 using operator
  81 # $1 (=, -ge, -gt, -le, -lt).
  82 check_reset_count() {
  83     local reset_count
  84
  85     reset_count=$(fio_reset_count <"${logfile}.${test_number}")
  86     echo "reset_count: test $reset_count $1 $2" >> "${logfile}.${test_number}"
  87     eval "[ '$reset_count' '$1' '$2' ]"
  88 }
  89
  90 # Check log for failed assertions and crashes. Without these checks,
  91 # a test can succeed even when these events happen, but it must fail.
  92 check_log() {
  93      [ ! -f "${logfile}.${1}" ] && return 0
  94      ! grep -q -e "Assertion " -e "Aborted " "${logfile}.${1}"
  95 }
  96
  97 # Whether or not $1 (/dev/...) is a SCSI device.
  98 is_scsi_device() {
  99     local d f
 100
 101     d=$(basename "$dev")
 102     for f in /sys/class/scsi_device/*/device/block/"$d"; do
 103         [ -e "$f" ] && return 0
 104     done
 105     return 1
 106 }
 107
 108 job_var_opts_exclude() {
 109         local o
 110         local ex_key="${1}"
 111
 112         for o in "${job_var_opts[@]}"; do
 113                 if [[ ${o} =~ "${ex_key}" ]]; then
 114                         continue
 115                 fi
 116                 echo -n "${o}"
 117         done
 118 }
 119
 120 has_max_open_zones() {
 121         while (($# > 1)); do
 122                 if [[ ${1} =~ "--max_open_zones" ]]; then
 123                         return 0
 124                 fi
 125                 shift
 126         done
 127         return 1
 128 }
 129
 130 run_fio() {
 131     local fio opts
 132
 133     fio=$(dirname "$0")/../../fio
 134
 135     opts=(${global_var_opts[@]})
 136     opts+=("--max-jobs=16" "--aux-path=/tmp" "--allow_file_create=0" \
 137                            "--significant_figures=10" "$@")
 138     # When max_open_zones option is specified to this test script, add
 139     # max_open_zones option to fio command unless the test case already add it.
 140     if [[ -n ${max_open_zones_opt} ]] && ! has_max_open_zones "${opts[@]}"; then
 141             opts+=("--max_open_zones=${max_open_zones_opt}")
 142     fi
 143     { echo; echo "fio ${opts[*]}"; echo; } >>"${logfile}.${test_number}"
 144
 145     "${dynamic_analyzer[@]}" "$fio" "${opts[@]}"
 146 }
 147
 148 run_one_fio_job() {
 149     local r
 150
 151     r=$(((RANDOM << 16) | RANDOM))
 152     run_fio --name="$dev" --filename="$dev" "$@" --randseed="$r"        \
 153             --thread=1 --direct=1
 154 }
 155
 156 write_and_run_one_fio_job() {
 157     local r
 158     local write_offset="${1}"
 159     local write_size="${2}"
 160     local -a write_opts
 161
 162     shift 2
 163     r=$(((RANDOM << 16) | RANDOM))
 164     write_opts=(--name="write_job" --rw=write "$(ioengine "psync")" \
 165                       --bs="${logical_block_size}" --zonemode=zbd \
 166                       --zonesize="${zone_size}" --thread=1 --direct=1 \
 167                       --offset="${write_offset}" --size="${write_size}")
 168     write_opts+=("${job_var_opts[@]}")
 169     run_fio --filename="$dev" --randseed="$r" "${write_opts[@]}" \
 170             --name="$dev" --wait_for="write_job" "$@" --thread=1 --direct=1
 171 }
 172
 173 # Run fio on the first four sequential zones of the disk.
 174 run_fio_on_seq() {
 175     local opts=()
 176
 177     opts+=("--offset=$((first_sequential_zone_sector * 512))")
 178     opts+=("--size=$((4 * zone_size))" "--zonemode=zbd")
 179     if [ -z "$is_zbd" ]; then
 180         opts+=("--zonesize=${zone_size}")
 181     fi
 182     run_one_fio_job "${opts[@]}" "$@"
 183 }
 184
 185 # Prepare for write test by resetting zones. When max_open_zones option is
 186 # specified, reset all zones of the test target to ensure that zones out of the
 187 # test target range do not have open zones. This allows the write test to the
 188 # target range to be able to open zones up to max_open_zones.
 189 prep_write() {
 190         [[ -n "${max_open_zones_opt}" && -n "${is_zbd}" ]] &&
 191                 reset_zone "${dev}" -1
 192 }
 193
 194 SKIP_TESTCASE=255
 195
 196 require_scsi_dev() {
 197         if ! is_scsi_device "$dev"; then
 198                 SKIP_REASON="$dev is not a SCSI device"
 199                 return 1
 200         fi
 201         return 0
 202 }
 203
 204 require_conv_zone_bytes() {
 205         local req_bytes=${1}
 206
 207         if ((req_bytes > first_sequential_zone_sector * 512)); then
 208                 SKIP_REASON="$dev does not have enough conventional zones"
 209                 return 1
 210         fi
 211         return 0
 212 }
 213
 214 require_zbd() {
 215         if [[ -z ${is_zbd} ]]; then
 216                 SKIP_REASON="$dev is not a zoned block device"
 217                 return 1
 218         fi
 219         return 0
 220 }
 221
 222 require_regular_block_dev() {
 223         if [[ -n ${is_zbd} ]]; then
 224                 SKIP_REASON="$dev is not a regular block device"
 225                 return 1
 226         fi
 227         return 0
 228 }
 229
 230 require_seq_zones() {
 231         local req_seq_zones=${1}
 232         local seq_bytes=$((disk_size - first_sequential_zone_sector * 512))
 233
 234         if ((req_seq_zones > seq_bytes / zone_size)); then
 235                 SKIP_REASON="$dev does not have $req_seq_zones sequential zones"
 236                 return 1
 237         fi
 238         return 0
 239 }
 240
 241 require_conv_zones() {
 242         local req_c_zones=${1}
 243         local conv_bytes=$((first_sequential_zone_sector * 512))
 244
 245         if ((req_c_zones > conv_bytes / zone_size)); then
 246                 SKIP_REASON="$dev does not have $req_c_zones conventional zones"
 247                 return 1
 248         fi
 249         return 0
 250 }
 251
 252 # Check whether buffered writes are refused.
 253 test1() {
 254     run_fio --name=job1 --filename="$dev" --rw=write --direct=0 --bs=4K \
 255             "$(ioengine "psync")" --size="${zone_size}" --thread=1      \
 256             --zonemode=zbd --zonesize="${zone_size}" 2>&1 |
 257         tee -a "${logfile}.${test_number}" |
 258         grep -q 'Using direct I/O is mandatory for writing to ZBD drives'
 259     local fio_rc=${PIPESTATUS[0]} grep_rc=${PIPESTATUS[2]}
 260     case "$fio_rc" in
 261         0|1) ;;
 262         *)   return "$fio_rc"
 263     esac
 264     if [ -n "$is_zbd" ]; then
 265         [ "$grep_rc" = 0 ]
 266     else
 267         [ "$grep_rc" != 0 ]
 268     fi
 269 }
 270
 271 # Block size exceeds zone size.
 272 test2() {
 273     local bs off opts=() rc
 274
 275     off=$(((first_sequential_zone_sector + 2 * sectors_per_zone) * 512))
 276     bs=$((2 * zone_size))
 277     opts+=("$(ioengine "psync")")
 278     opts+=("--name=job1" "--filename=$dev" "--rw=write" "--direct=1")
 279     opts+=("--zonemode=zbd" "--offset=$off" "--bs=$bs" "--size=$bs")
 280     if [ -z "$is_zbd" ]; then
 281         opts+=("--zonesize=${zone_size}")
 282     fi
 283     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 && return 1
 284     grep -q 'buflen exceeds zone size' "${logfile}.${test_number}"
 285 }
 286
 287 # Run fio against an empty zone. This causes fio to report "No I/O performed".
 288 test3() {
 289     local off opts=() rc
 290
 291     require_seq_zones 129 || return $SKIP_TESTCASE
 292     off=$((first_sequential_zone_sector * 512 + 128 * zone_size))
 293     size=$((zone_size))
 294     [ -n "$is_zbd" ] && reset_zone "$dev" $((off / 512))
 295     opts+=("--name=$dev" "--filename=$dev" "--offset=$off" "--bs=4K")
 296     opts+=("--size=$size" "--zonemode=zbd")
 297     opts+=("$(ioengine "psync")" "--rw=read" "--direct=1" "--thread=1")
 298     if [ -z "$is_zbd" ]; then
 299         opts+=("--zonesize=${zone_size}")
 300     fi
 301     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
 302     ! grep -q 'READ:' "${logfile}.${test_number}"
 303 }
 304
 305 # Run fio with --read_beyond_wp=1 against an empty zone.
 306 test4() {
 307     local off opts=()
 308
 309     require_seq_zones 130 || return $SKIP_TESTCASE
 310     off=$((first_sequential_zone_sector * 512 + 129 * zone_size))
 311     size=$((zone_size))
 312     [ -n "$is_zbd" ] && reset_zone "$dev" $((off / 512))
 313     opts+=("--name=$dev" "--filename=$dev" "--offset=$off" "--bs=$size")
 314     opts+=("--size=$size" "--thread=1" "--read_beyond_wp=1")
 315     opts+=("$(ioengine "psync")" "--rw=read" "--direct=1" "--disable_lat=1")
 316     opts+=("--zonemode=zbd" "--zonesize=${zone_size}")
 317     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
 318     check_read $size || return $?
 319 }
 320
 321 # Sequential write to sequential zones.
 322 test5() {
 323     local size off capacity
 324
 325     prep_write
 326     off=$((first_sequential_zone_sector * 512))
 327     capacity=$(total_zone_capacity 4 $off $dev)
 328     size=$((4 * zone_size))
 329     run_fio_on_seq "$(ioengine "psync")" --iodepth=1 --rw=write \
 330                    --bs="$(max $((zone_size / 64)) "$logical_block_size")"\
 331                    --do_verify=1 --verify=md5                           \
 332                    >>"${logfile}.${test_number}" 2>&1 || return $?
 333     check_written $capacity || return $?
 334     check_read $capacity || return $?
 335 }
 336
 337 # Sequential read from sequential zones.
 338 test6() {
 339     local size off capacity
 340
 341     prep_write
 342     off=$((first_sequential_zone_sector * 512))
 343     capacity=$(total_zone_capacity 4 $off $dev)
 344     size=$((4 * zone_size))
 345     write_and_run_one_fio_job \
 346             $((first_sequential_zone_sector * 512)) "${size}" \
 347             --offset="${off}" \
 348             --size="${size}" --zonemode=zbd --zonesize="${zone_size}" \
 349             "$(ioengine "psync")" --iodepth=1 --rw=read \
 350             --bs="$(max $((zone_size / 64)) "$logical_block_size")" \
 351             >>"${logfile}.${test_number}" 2>&1 || return $?
 352     check_read $capacity || return $?
 353 }
 354
 355 # Random write to sequential zones, libaio, queue depth 1.
 356 test7() {
 357     local size=$((zone_size))
 358     local off capacity
 359
 360     prep_write
 361     off=$((first_sequential_zone_sector * 512))
 362     capacity=$(total_zone_capacity 1 $off $dev)
 363     run_fio_on_seq "$(ioengine "libaio")" --iodepth=1 --rw=randwrite    \
 364                    --bs="$(min 16384 "${zone_size}")"                   \
 365                    --do_verify=1 --verify=md5 --size="$size"            \
 366                    >>"${logfile}.${test_number}" 2>&1 || return $?
 367     check_written $capacity || return $?
 368     check_read $capacity || return $?
 369 }
 370
 371 # Random write to sequential zones, libaio, queue depth 64.
 372 test8() {
 373     local size off capacity
 374
 375     prep_write
 376     size=$((4 * zone_size))
 377     off=$((first_sequential_zone_sector * 512))
 378     capacity=$(total_zone_capacity 4 $off $dev)
 379     run_fio_on_seq "$(ioengine "libaio")" --iodepth=64 --rw=randwrite   \
 380                    --bs="$(min 16384 "${zone_size}")"                   \
 381                    --do_verify=1 --verify=md5                           \
 382                    >>"${logfile}.${test_number}" 2>&1 || return $?
 383     check_written $capacity || return $?
 384     check_read $capacity || return $?
 385 }
 386
 387 # Random write to sequential zones, sg, queue depth 1.
 388 test9() {
 389     local size
 390
 391     require_scsi_dev || return $SKIP_TESTCASE
 392
 393     prep_write
 394     size=$((4 * zone_size))
 395     run_fio_on_seq --ioengine=sg                                        \
 396                    --iodepth=1 --rw=randwrite --bs=16K                  \
 397                    --do_verify=1 --verify=md5                           \
 398                    >>"${logfile}.${test_number}" 2>&1 || return $?
 399     check_written $size || return $?
 400     check_read $size || return $?
 401 }
 402
 403 # Random write to sequential zones, sg, queue depth 64.
 404 test10() {
 405     local size
 406
 407     require_scsi_dev || return $SKIP_TESTCASE
 408
 409     prep_write
 410     size=$((4 * zone_size))
 411     run_fio_on_seq --ioengine=sg                                        \
 412                    --iodepth=64 --rw=randwrite --bs=16K                 \
 413                    --do_verify=1 --verify=md5                           \
 414                    >>"${logfile}.${test_number}" 2>&1 || return $?
 415     check_written $size || return $?
 416     check_read $size || return $?
 417 }
 418
 419 # Random write to sequential zones, libaio, queue depth 64, random block size.
 420 test11() {
 421     local size off capacity
 422
 423     prep_write
 424     size=$((4 * zone_size))
 425     off=$((first_sequential_zone_sector * 512))
 426     capacity=$(total_zone_capacity 4 $off $dev)
 427     run_fio_on_seq "$(ioengine "libaio")" --iodepth=64 --rw=randwrite   \
 428                    --bsrange=4K-64K --do_verify=1 --verify=md5          \
 429                    --debug=zbd >>"${logfile}.${test_number}" 2>&1 || return $?
 430     check_written $capacity || return $?
 431     check_read $capacity || return $?
 432 }
 433
 434 # Random write to sequential zones, libaio, queue depth 64, max 1 open zone.
 435 test12() {
 436     local size off capacity
 437
 438     prep_write
 439     size=$((8 * zone_size))
 440     off=$((first_sequential_zone_sector * 512))
 441     capacity=$(total_zone_capacity 8 $off $dev)
 442     run_fio_on_seq "$(ioengine "libaio")" --iodepth=64 --rw=randwrite --bs=16K \
 443                    --max_open_zones=1 --size=$size --do_verify=1 --verify=md5 \
 444                    --debug=zbd >>"${logfile}.${test_number}" 2>&1 || return $?
 445     check_written $capacity || return $?
 446     check_read $capacity || return $?
 447 }
 448
 449 # Random write to sequential zones, libaio, queue depth 64, max 4 open zones.
 450 test13() {
 451     local size off capacity
 452
 453     prep_write
 454     size=$((8 * zone_size))
 455     off=$((first_sequential_zone_sector * 512))
 456     capacity=$(total_zone_capacity 8 $off $dev)
 457     run_fio_on_seq "$(ioengine "libaio")" --iodepth=64 --rw=randwrite --bs=16K \
 458                    --max_open_zones=4 --size=$size --do_verify=1 --verify=md5 \
 459                    --debug=zbd                                                \
 460                    >>"${logfile}.${test_number}" 2>&1 || return $?
 461     check_written $capacity || return $?
 462     check_read $capacity || return $?
 463 }
 464
 465 # Random write to conventional zones.
 466 test14() {
 467     local size
 468
 469     prep_write
 470     size=$((16 * 2**20)) # 20 MB
 471     require_conv_zone_bytes "${size}" || return $SKIP_TESTCASE
 472
 473     run_one_fio_job "$(ioengine "libaio")" --iodepth=64 --rw=randwrite --bs=16K \
 474                     --zonemode=zbd --zonesize="${zone_size}" --do_verify=1 \
 475                     --verify=md5 --size=$size                              \
 476                     >>"${logfile}.${test_number}" 2>&1 || return $?
 477     check_written $((size)) || return $?
 478     check_read $((size)) || return $?
 479 }
 480
 481 # Sequential read on a mix of empty and full zones.
 482 test15() {
 483     local i off size
 484     local w_off w_size w_capacity
 485
 486     for ((i=0;i<4;i++)); do
 487         [ -n "$is_zbd" ] &&
 488             reset_zone "$dev" $((first_sequential_zone_sector +
 489                                  i*sectors_per_zone))
 490     done
 491     prep_write
 492     w_off=$(((first_sequential_zone_sector + 2 * sectors_per_zone) * 512))
 493     w_size=$((2 * zone_size))
 494     w_capacity=$(total_zone_capacity 2 $w_off $dev)
 495     off=$((first_sequential_zone_sector * 512))
 496     size=$((4 * zone_size))
 497     write_and_run_one_fio_job "${w_off}" "${w_size}" \
 498                     "$(ioengine "psync")" --rw=read --bs=$((zone_size / 16)) \
 499                     --zonemode=zbd --zonesize="${zone_size}" --offset=$off \
 500                     --size=$((size)) >>"${logfile}.${test_number}" 2>&1 ||
 501         return $?
 502     check_written $((w_capacity)) || return $?
 503     check_read $((w_capacity))
 504 }
 505
 506 # Random read on a mix of empty and full zones.
 507 test16() {
 508     local off size
 509     local i w_off w_size w_capacity
 510
 511     for ((i=0;i<4;i++)); do
 512         [ -n "$is_zbd" ] &&
 513             reset_zone "$dev" $((first_sequential_zone_sector +
 514                                  i*sectors_per_zone))
 515     done
 516     prep_write
 517     w_off=$(((first_sequential_zone_sector + 2 * sectors_per_zone) * 512))
 518     w_size=$((2 * zone_size))
 519     w_capacity=$(total_zone_capacity 2 $w_off $dev)
 520     off=$((first_sequential_zone_sector * 512))
 521     size=$((4 * zone_size))
 522     write_and_run_one_fio_job "${w_off}" "${w_size}" \
 523                     "$(ioengine "libaio")" --iodepth=64 --rw=randread --bs=16K \
 524                     --zonemode=zbd --zonesize="${zone_size}" --offset=$off \
 525                     --size=$size >>"${logfile}.${test_number}" 2>&1 || return $?
 526     check_written $w_capacity || return $?
 527     check_read $size || return $?
 528 }
 529
 530 # Random reads and writes in the last zone.
 531 test17() {
 532     local io off read size written
 533
 534     off=$(((disk_size / zone_size - 1) * zone_size))
 535     size=$((disk_size - off))
 536     if [ -n "$is_zbd" ]; then
 537         reset_zone "$dev" $((off / 512)) || return $?
 538     fi
 539     prep_write
 540     run_one_fio_job "$(ioengine "libaio")" --iodepth=8 --rw=randrw --bs=4K \
 541                     --zonemode=zbd --zonesize="${zone_size}"            \
 542                     --offset=$off --loops=2 --norandommap=1\
 543                     >>"${logfile}.${test_number}" 2>&1 || return $?
 544     written=$(fio_written <"${logfile}.${test_number}")
 545     read=$(fio_read <"${logfile}.${test_number}")
 546     io=$((written + read))
 547     echo "Total number of bytes read and written: $io <> $size" \
 548          >>"${logfile}.${test_number}"
 549     [ $io = $((size * 2)) ];
 550 }
 551
 552 # Out-of-range zone reset threshold and frequency parameters.
 553 test18() {
 554     run_fio_on_seq --zone_reset_threshold=-1 |&
 555         tee -a "${logfile}.${test_number}"   |
 556             grep -q 'value out of range' || return $?
 557 }
 558
 559 test19() {
 560     run_fio_on_seq --zone_reset_threshold=2  |&
 561         tee -a "${logfile}.${test_number}"   |
 562         grep -q 'value out of range' || return $?
 563 }
 564
 565 test20() {
 566     run_fio_on_seq --zone_reset_threshold=.4:.6 |&
 567         tee -a "${logfile}.${test_number}"   |
 568         grep -q 'the list exceeding max length' || return $?
 569 }
 570
 571 test21() {
 572     run_fio_on_seq --zone_reset_frequency=-1 |&
 573         tee -a "${logfile}.${test_number}"   |
 574         grep -q 'value out of range' || return $?
 575 }
 576
 577 test22() {
 578     run_fio_on_seq --zone_reset_frequency=2  |&
 579         tee -a "${logfile}.${test_number}"   |
 580         grep -q 'value out of range' || return $?
 581 }
 582
 583 test23() {
 584     run_fio_on_seq --zone_reset_frequency=.4:.6  |&
 585         tee -a "${logfile}.${test_number}"   |
 586         grep -q 'the list exceeding max length' || return $?
 587 }
 588
 589 test24() {
 590     local bs loops=9 size=$((zone_size))
 591     local off capacity
 592
 593     prep_write
 594     off=$((first_sequential_zone_sector * 512))
 595     capacity=$(total_zone_capacity 1 $off $dev)
 596
 597     bs=$(min $((256*1024)) "$zone_size")
 598     run_fio_on_seq "$(ioengine "psync")" --rw=write --bs="$bs"          \
 599                    --size=$size --loops=$loops                          \
 600                    --zone_reset_frequency=.01 --zone_reset_threshold=.90 \
 601                    >> "${logfile}.${test_number}" 2>&1 || return $?
 602     check_written $((capacity * loops)) || return $?
 603     check_reset_count -eq 8 ||
 604         check_reset_count -eq 9 ||
 605         check_reset_count -eq 10 || return $?
 606 }
 607
 608 # Multiple non-overlapping sequential write jobs for the same drive.
 609 test25() {
 610     local i opts=()
 611
 612     for ((i=0;i<16;i++)); do
 613         [ -n "$is_zbd" ] &&
 614             reset_zone "$dev" $((first_sequential_zone_sector + i*sectors_per_zone))
 615     done
 616     prep_write
 617     for ((i=0;i<16;i++)); do
 618         opts+=("--name=job$i" "--filename=$dev" "--thread=1" "--direct=1")
 619         opts+=("--offset=$((first_sequential_zone_sector*512 + zone_size*i))")
 620         opts+=("--size=$zone_size" "$(ioengine "psync")" "--rw=write" "--bs=16K")
 621         opts+=("--zonemode=zbd" "--zonesize=${zone_size}" "--group_reporting=1")
 622         opts+=(${job_var_opts[@]})
 623     done
 624     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
 625 }
 626
 627 write_to_first_seq_zone() {
 628     local loops=4 r
 629     local off capacity
 630
 631     prep_write
 632     off=$((first_sequential_zone_sector * 512))
 633     capacity=$(total_zone_capacity 1 $off $dev)
 634
 635     r=$(((RANDOM << 16) | RANDOM))
 636     run_fio --name="$dev" --filename="$dev" "$(ioengine "psync")" --rw="$1" \
 637             --thread=1 --do_verify=1 --verify=md5 --direct=1 --bs=4K    \
 638             --offset=$off                                               \
 639             --size=$zone_size --loops=$loops --randseed="$r"            \
 640             --zonemode=zbd --zonesize="${zone_size}" --group_reporting=1        \
 641             --gtod_reduce=1 >> "${logfile}.${test_number}" 2>&1 || return $?
 642     check_written $((loops * capacity)) || return $?
 643 }
 644
 645 # Overwrite the first sequential zone four times sequentially.
 646 test26() {
 647     write_to_first_seq_zone write
 648 }
 649
 650 # Overwrite the first sequential zone four times using random writes.
 651 test27() {
 652     write_to_first_seq_zone randwrite
 653 }
 654
 655 # Multiple overlapping random write jobs for the same drive.
 656 test28() {
 657     local i jobs=16 off opts
 658
 659     require_seq_zones 65 || return $SKIP_TESTCASE
 660     off=$((first_sequential_zone_sector * 512 + 64 * zone_size))
 661     [ -n "$is_zbd" ] && reset_zone "$dev" $((off / 512))
 662     prep_write
 663     opts=("--debug=zbd")
 664     capacity=$(total_zone_capacity 1 $off $dev)
 665     for ((i=0;i<jobs;i++)); do
 666         opts+=("--name=job$i" "--filename=$dev" "--offset=$off" "--bs=16K")
 667         opts+=("--size=$zone_size" "--io_size=$capacity" "$(ioengine "psync")" "--rw=randwrite")
 668         opts+=("--thread=1" "--direct=1" "--zonemode=zbd")
 669         opts+=("--zonesize=${zone_size}" "--group_reporting=1")
 670         opts+=(${job_var_opts[@]})
 671     done
 672     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
 673     check_written $((jobs * $capacity)) || return $?
 674     check_reset_count -eq $jobs ||
 675         check_reset_count -eq $((jobs - 1)) ||
 676         return $?
 677 }
 678
 679 # Multiple overlapping random write jobs for the same drive and with a limited
 680 # number of open zones.
 681 test29() {
 682     local i jobs=16 off opts=()
 683
 684     require_seq_zones 80 || return $SKIP_TESTCASE
 685     off=$((first_sequential_zone_sector * 512 + 64 * zone_size))
 686     size=$((16*zone_size))
 687     prep_write
 688     opts=("--debug=zbd")
 689     for ((i=0;i<jobs;i++)); do
 690         opts+=("--name=job$i" "--filename=$dev" "--offset=$off" "--bs=16K")
 691         opts+=("--size=$size" "--io_size=$zone_size" "--thread=1")
 692         opts+=("$(ioengine "psync")" "--rw=randwrite" "--direct=1")
 693         opts+=("--max_open_zones=4" "--group_reporting=1")
 694         opts+=("--zonemode=zbd" "--zonesize=${zone_size}")
 695         # max_open_zones is already specified
 696         opts+=($(job_var_opts_exclude "--max_open_zones"))
 697     done
 698     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
 699     check_written $((jobs * zone_size)) || return $?
 700 }
 701
 702 # Random reads and writes across the entire disk for 30s.
 703 test30() {
 704     local off
 705
 706     prep_write
 707     off=$((first_sequential_zone_sector * 512))
 708     run_one_fio_job "$(ioengine "libaio")" --iodepth=8 --rw=randrw      \
 709                     --bs="$(max $((zone_size / 128)) "$logical_block_size")"\
 710                     --zonemode=zbd --zonesize="${zone_size}" --offset=$off\
 711                     --loops=2 --time_based --runtime=30s --norandommap=1\
 712                     >>"${logfile}.${test_number}" 2>&1
 713 }
 714
 715 # Random reads across all sequential zones for 30s. This is not only a fio
 716 # test but also allows to verify the performance of a drive.
 717 test31() {
 718     local bs inc nz off opts size
 719
 720     prep_write
 721     # Start with writing 128 KB to max_open_zones sequential zones.
 722     bs=128K
 723     nz=$((max_open_zones))
 724     if [[ $nz -eq 0 ]]; then
 725         nz=128
 726     fi
 727     # shellcheck disable=SC2017
 728     inc=$(((disk_size - (first_sequential_zone_sector * 512)) / (nz * zone_size)
 729            * zone_size))
 730     if [ "$inc" -eq 0 ]; then
 731         require_seq_zones $nz || return $SKIP_TESTCASE
 732     fi
 733     opts=()
 734     for ((off = first_sequential_zone_sector * 512; off < disk_size;
 735           off += inc)); do
 736         opts+=("--name=$dev" "--filename=$dev" "--offset=$off" "--io_size=$bs")
 737         opts+=("--bs=$bs" "--size=$zone_size" "$(ioengine "libaio")")
 738         opts+=("--rw=write" "--direct=1" "--thread=1" "--stats=0")
 739         opts+=("--zonemode=zbd" "--zonesize=${zone_size}")
 740         opts+=(${job_var_opts[@]})
 741     done
 742     "$(dirname "$0")/../../fio" "${opts[@]}" >> "${logfile}.${test_number}" 2>&1
 743     # Next, run the test.
 744     off=$((first_sequential_zone_sector * 512))
 745     size=$((disk_size - off))
 746     opts=("--name=$dev" "--filename=$dev" "--offset=$off" "--size=$size")
 747     opts+=("--bs=$bs" "$(ioengine "psync")" "--rw=randread" "--direct=1")
 748     opts+=("--thread=1" "--time_based" "--runtime=30" "--zonemode=zbd")
 749     opts+=("--zonesize=${zone_size}")
 750     opts+=(${job_var_opts[@]})
 751     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
 752 }
 753
 754 # Random writes across all sequential zones. This is not only a fio test but
 755 # also allows to verify the performance of a drive.
 756 test32() {
 757     local off opts=() size
 758
 759     require_zbd || return $SKIP_TESTCASE
 760
 761     prep_write
 762     off=$((first_sequential_zone_sector * 512))
 763     size=$((disk_size - off))
 764     opts+=("--name=$dev" "--filename=$dev" "--offset=$off" "--size=$size")
 765     opts+=("--bs=128K" "$(ioengine "psync")" "--rw=randwrite" "--direct=1")
 766     opts+=("--thread=1" "--time_based" "--runtime=30")
 767     opts+=("--max_open_zones=$max_open_zones" "--zonemode=zbd")
 768     opts+=("--zonesize=${zone_size}")
 769     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
 770 }
 771
 772 # Write to sequential zones with a block size that is not a divisor of the
 773 # zone size.
 774 test33() {
 775     local bs io_size size
 776     local off capacity=0;
 777
 778     prep_write
 779     off=$((first_sequential_zone_sector * 512))
 780     capacity=$(total_zone_capacity 1 $off $dev)
 781     size=$((2 * zone_size))
 782     io_size=$((5 * capacity))
 783     bs=$((3 * capacity / 4))
 784     run_fio_on_seq "$(ioengine "psync")" --iodepth=1 --rw=write \
 785                    --size=$size --io_size=$io_size --bs=$bs     \
 786                    >> "${logfile}.${test_number}" 2>&1 || return $?
 787     check_written $(((io_size + bs - 1) / bs * bs)) || return $?
 788 }
 789
 790 # Write to sequential zones with a block size that is not a divisor of the
 791 # zone size and with data verification enabled.
 792 test34() {
 793     local size
 794
 795     prep_write
 796     size=$((2 * zone_size))
 797     run_fio_on_seq "$(ioengine "psync")" --iodepth=1 --rw=write --size=$size \
 798                    --do_verify=1 --verify=md5 --bs=$((3 * zone_size / 4)) \
 799                    >> "${logfile}.${test_number}" 2>&1 && return 1
 800     grep -q 'not a divisor of' "${logfile}.${test_number}"
 801 }
 802
 803 # Test 1/4 for the I/O boundary rounding code: $size < $zone_size.
 804 test35() {
 805     local bs off io_size size
 806
 807     prep_write
 808     off=$(((first_sequential_zone_sector + 1) * 512))
 809     size=$((zone_size - 2 * 512))
 810     bs=$((zone_size / 4))
 811     run_one_fio_job --offset=$off --size=$size "$(ioengine "psync")"    \
 812                     --iodepth=1 --rw=write --do_verify=1 --verify=md5   \
 813                     --bs=$bs --zonemode=zbd --zonesize="${zone_size}"   \
 814                     >> "${logfile}.${test_number}" 2>&1 && return 1
 815     grep -q 'io_size must be at least one zone' "${logfile}.${test_number}"
 816 }
 817
 818 # Test 2/4 for the I/O boundary rounding code: $size < $zone_size.
 819 test36() {
 820     local bs off io_size size
 821
 822     prep_write
 823     off=$(((first_sequential_zone_sector) * 512))
 824     size=$((zone_size - 512))
 825     bs=$((zone_size / 4))
 826     run_one_fio_job --offset=$off --size=$size "$(ioengine "psync")"    \
 827                     --iodepth=1 --rw=write --do_verify=1 --verify=md5   \
 828                     --bs=$bs --zonemode=zbd --zonesize="${zone_size}"   \
 829                     >> "${logfile}.${test_number}" 2>&1 && return 1
 830     grep -q 'io_size must be at least one zone' "${logfile}.${test_number}"
 831 }
 832
 833 # Test 3/4 for the I/O boundary rounding code: $size > $zone_size.
 834 test37() {
 835     local bs off size capacity
 836
 837     prep_write
 838     capacity=$(total_zone_capacity 1 $((first_sequential_zone_sector*512)) $dev)
 839     if [ "$first_sequential_zone_sector" = 0 ]; then
 840         off=0
 841     else
 842         off=$(((first_sequential_zone_sector - 1) * 512))
 843     fi
 844     size=$((zone_size + 2 * 512))
 845     bs=$((zone_size / 4))
 846     run_one_fio_job --offset=$off --size=$size "$(ioengine "psync")"    \
 847                     --iodepth=1 --rw=write --do_verify=1 --verify=md5   \
 848                     --bs=$bs --zonemode=zbd --zonesize="${zone_size}"   \
 849                     >> "${logfile}.${test_number}" 2>&1
 850     check_written $capacity || return $?
 851 }
 852
 853 # Test 4/4 for the I/O boundary rounding code: $offset > $disk_size - $zone_size
 854 test38() {
 855     local bs off size
 856
 857     prep_write
 858     size=$((logical_block_size))
 859     off=$((disk_size - logical_block_size))
 860     bs=$((logical_block_size))
 861     run_one_fio_job --offset=$off --size=$size "$(ioengine "psync")"    \
 862                     --iodepth=1 --rw=write --do_verify=1 --verify=md5   \
 863                     --bs=$bs --zonemode=zbd --zonesize="${zone_size}"   \
 864                     >> "${logfile}.${test_number}" 2>&1 && return 1
 865     grep -q 'io_size must be at least one zone' "${logfile}.${test_number}"
 866 }
 867
 868 # Read one block from a block device.
 869 read_one_block() {
 870     local bs
 871
 872     bs=$((logical_block_size))
 873     run_one_fio_job --rw=read "$(ioengine "psync")" --bs=$bs --size=$bs "$@" 2>&1 |
 874         tee -a "${logfile}.${test_number}"
 875 }
 876
 877 # Check whether fio accepts --zonemode=none for zoned block devices.
 878 test39() {
 879     require_zbd || return $SKIP_TESTCASE
 880     read_one_block --zonemode=none >/dev/null || return $?
 881     check_read $((logical_block_size)) || return $?
 882 }
 883
 884 # Check whether fio accepts --zonemode=strided for zoned block devices.
 885 test40() {
 886     local bs
 887
 888     bs=$((logical_block_size))
 889     require_zbd || return $SKIP_TESTCASE
 890     read_one_block --zonemode=strided |
 891         grep -q 'fio: --zonesize must be specified when using --zonemode=strided' ||
 892         return $?
 893     read_one_block --zonemode=strided --zonesize=$bs >/dev/null || return $?
 894     check_read $bs || return $?
 895 }
 896
 897 # Check whether fio checks the zone size for zoned block devices.
 898 test41() {
 899     require_zbd || return $SKIP_TESTCASE
 900     read_one_block --zonemode=zbd --zonesize=$((2 * zone_size)) |
 901         grep -q 'job parameter zonesize.*does not match disk zone size'
 902 }
 903
 904 # Check whether fio handles --zonesize=0 correctly for regular block devices.
 905 test42() {
 906     require_regular_block_dev || return $SKIP_TESTCASE
 907     read_one_block --zonemode=zbd --zonesize=0 |
 908         grep -q 'Specifying the zone size is mandatory for regular block devices with --zonemode=zbd'
 909 }
 910
 911 # Check whether fio handles --zonesize=1 correctly for regular block devices.
 912 test43() {
 913     require_regular_block_dev || return $SKIP_TESTCASE
 914     read_one_block --zonemode=zbd --zonesize=1 |
 915         grep -q 'zone size must be at least 512 bytes for --zonemode=zbd'
 916 }
 917
 918 # Check whether fio handles --zonemode=none --zonesize=1 correctly.
 919 test44() {
 920     read_one_block --zonemode=none --zonesize=1 |
 921         grep -q 'fio: --zonemode=none and --zonesize are not compatible'
 922 }
 923
 924 test45() {
 925     local bs i
 926
 927     require_zbd || return $SKIP_TESTCASE
 928     prep_write
 929     bs=$((logical_block_size))
 930     run_one_fio_job "$(ioengine "psync")" --iodepth=1 --rw=randwrite --bs=$bs\
 931                     --offset=$((first_sequential_zone_sector * 512)) \
 932                     --size="$zone_size" --do_verify=1 --verify=md5 2>&1 |
 933         tee -a "${logfile}.${test_number}" |
 934         grep -q "fio: first I/O failed. If .* is a zoned block device, consider --zonemode=zbd"
 935 }
 936
 937 # Random write to sequential zones, libaio, 8 jobs, queue depth 64 per job
 938 test46() {
 939     local size
 940
 941     prep_write
 942     size=$((4 * zone_size))
 943     run_fio_on_seq "$(ioengine "libaio")" --iodepth=64 --rw=randwrite --bs=4K \
 944                    --group_reporting=1 --numjobs=8 \
 945                    >> "${logfile}.${test_number}" 2>&1 || return $?
 946     check_written $((size * 8)) || return $?
 947 }
 948
 949 # Check whether fio handles --zonemode=zbd --zoneskip=1 correctly.
 950 test47() {
 951     local bs
 952
 953     prep_write
 954     bs=$((logical_block_size))
 955     run_fio_on_seq "$(ioengine "psync")" --rw=write --bs=$bs --zoneskip=1 \
 956                     >> "${logfile}.${test_number}" 2>&1 && return 1
 957     grep -q 'zoneskip 1 is not a multiple of the device zone size' "${logfile}.${test_number}"
 958 }
 959
 960 # Multiple overlapping random write jobs for the same drive and with a
 961 # limited number of open zones. This is similar to test29, but uses libaio
 962 # to stress test zone locking.
 963 test48() {
 964     local i jobs=16 off opts=()
 965
 966     require_zbd || return $SKIP_TESTCASE
 967     require_seq_zones 80 || return $SKIP_TESTCASE
 968
 969     off=$((first_sequential_zone_sector * 512 + 64 * zone_size))
 970     size=$((16*zone_size))
 971     prep_write
 972     opts=("--aux-path=/tmp" "--allow_file_create=0" "--significant_figures=10")
 973     opts+=("--debug=zbd")
 974     opts+=("$(ioengine "libaio")" "--rw=randwrite" "--direct=1")
 975     opts+=("--time_based" "--runtime=30")
 976     opts+=("--zonemode=zbd" "--zonesize=${zone_size}")
 977     opts+=("--max_open_zones=4")
 978     for ((i=0;i<jobs;i++)); do
 979         opts+=("--name=job$i" "--filename=$dev" "--offset=$off" "--bs=16K")
 980         opts+=("--io_size=$zone_size" "--iodepth=256" "--thread=1")
 981         opts+=("--size=$size" "--group_reporting=1")
 982         # max_open_zones is already specified
 983         opts+=($(job_var_opts_exclude "--max_open_zones"))
 984     done
 985
 986     fio=$(dirname "$0")/../../fio
 987
 988     { echo; echo "fio ${opts[*]}"; echo; } >>"${logfile}.${test_number}"
 989
 990     timeout -v -s KILL 45s \
 991             "${dynamic_analyzer[@]}" "$fio" "${opts[@]}" \
 992             >> "${logfile}.${test_number}" 2>&1 || return $?
 993 }
 994
 995 # Check if fio handles --zonecapacity on a normal block device correctly
 996 test49() {
 997
 998     require_regular_block_dev || return $SKIP_TESTCASE
 999
1000     size=$((2 * zone_size))
1001     capacity=$((zone_size * 3 / 4))
1002
1003     run_one_fio_job "$(ioengine "psync")" --rw=write \
1004                     --zonemode=zbd --zonesize="${zone_size}" \
1005                     --zonecapacity=${capacity} \
1006                     --verify=md5  --size=${size} >>"${logfile}.${test_number}" 2>&1 ||
1007         return $?
1008     check_written $((capacity * 2)) || return $?
1009     check_read $((capacity * 2)) || return $?
1010 }
1011
1012 # Verify that conv zones are not locked and only seq zones are locked during
1013 # random read on conv-seq mixed zones.
1014 test50() {
1015         local off
1016
1017         require_zbd || return $SKIP_TESTCASE
1018         require_conv_zones 8 || return $SKIP_TESTCASE
1019         require_seq_zones 8 || return $SKIP_TESTCASE
1020
1021         reset_zone "${dev}" -1
1022
1023         off=$((first_sequential_zone_sector * 512 - 8 * zone_size))
1024         run_fio --name=job --filename=${dev} --offset=${off} --bs=64K \
1025                 --size=$((16 * zone_size)) "$(ioengine "libaio")" --rw=randread\
1026                 --time_based --runtime=3 --zonemode=zbd --zonesize=${zone_size}\
1027                 --direct=1 --group_reporting=1 ${job_var_opts[@]} \
1028                 >> "${logfile}.${test_number}" 2>&1 || return $?
1029 }
1030
1031 # Verify that conv zones are neither locked nor opened during random write on
1032 # conv-seq mixed zones. Zone lock and zone open shall happen only on seq zones.
1033 test51() {
1034         local off jobs=16
1035         local -a opts
1036
1037         require_zbd || return $SKIP_TESTCASE
1038         require_conv_zones 8 || return $SKIP_TESTCASE
1039         require_seq_zones 8 || return $SKIP_TESTCASE
1040
1041         prep_write
1042
1043         off=$((first_sequential_zone_sector * 512 - 8 * zone_size))
1044         opts+=("--size=$((16 * zone_size))" "$(ioengine "libaio")")
1045         opts+=("--zonemode=zbd" "--direct=1" "--zonesize=${zone_size}")
1046         opts+=("--max_open_zones=2" "--offset=$off")
1047         opts+=("--thread=1" "--group_reporting=1")
1048         opts+=("--time_based" "--runtime=30" "--rw=randwrite")
1049         for ((i=0;i<jobs;i++)); do
1050                 opts+=("--name=job${i}" "--filename=$dev")
1051                 opts+=("--bs=$(((i+1)*16))K")
1052                 opts+=($(job_var_opts_exclude "--max_open_zones"))
1053         done
1054         run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
1055 }
1056
1057 # Verify that zone_reset_threshold only takes logical blocks from seq
1058 # zones into account, and logical blocks of conv zones are not counted.
1059 test52() {
1060         local off io_size
1061
1062         require_zbd || return $SKIP_TESTCASE
1063         require_conv_zones 8 || return $SKIP_TESTCASE
1064         require_seq_zones 8 || return $SKIP_TESTCASE
1065
1066         reset_zone "${dev}" -1
1067
1068         # Total I/O size is 1/8 = 0.125 of the I/O range of cont + seq zones.
1069         # Set zone_reset_threshold as 0.1. The threshold size is less than
1070         # 0.125, then, reset count zero is expected.
1071         # On the other hand, half of the I/O range is covered by conv zones.
1072         # If fio would count the conv zones for zone_reset_threshold, the ratio
1073         # were more than 0.5 and would trigger zone resets.
1074
1075         off=$((first_sequential_zone_sector * 512 - 8 * zone_size))
1076         io_size=$((zone_size * 16 / 8))
1077         run_fio --name=job --filename=$dev --rw=randwrite --bs=$((zone_size/16))\
1078                 --size=$((zone_size * 16)) --softrandommap=1 \
1079                 --io_size=$((io_size)) "$(ioengine "psync")" --offset=$off \
1080                 --zonemode=zbd --direct=1 --zonesize=${zone_size} \
1081                 --zone_reset_threshold=.1 --zone_reset_frequency=1.0 \
1082                 ${job_var_opts[@]} --debug=zbd \
1083                 >> "${logfile}.${test_number}" 2>&1 || return $?
1084
1085         check_written ${io_size} || return $?
1086         check_reset_count -eq 0 || return $?
1087 }
1088
1089 # Check both reads and writes are executed by random I/O to conventional zones.
1090 test53() {
1091         local off capacity io read_b=0 written_b=0
1092
1093         require_zbd || return $SKIP_TESTCASE
1094         require_conv_zones 4 || return $SKIP_TESTCASE
1095
1096         off=$((first_sequential_zone_sector * 512 - 4 * zone_size))
1097         capacity=$(total_zone_capacity 4 $off $dev)
1098         run_fio --name=job --filename=${dev} --rw=randrw --bs=64K \
1099                 --size=$((4 * zone_size)) "$(ioengine "psync")" --offset=${off}\
1100                 --zonemode=zbd --direct=1 --zonesize=${zone_size} \
1101                 ${job_var_opts[@]} \
1102                 >> "${logfile}.${test_number}" 2>&1 || return $?
1103
1104         written_b=$(fio_written <"${logfile}.${test_number}")
1105         read_b=$(fio_read <"${logfile}.${test_number}")
1106         io=$((written_b + read_b))
1107         echo "Number of bytes read: $read_b" >>"${logfile}.${test_number}"
1108         echo "Number of bytes written: $written_b" >>"${logfile}.${test_number}"
1109         echo "Total number of bytes read and written: $io <> $capacity" \
1110              >>"${logfile}.${test_number}"
1111         if ((io==capacity && written_b != 0 && read_b != 0)); then
1112                 return 0
1113         fi
1114         return 1
1115 }
1116
1117 tests=()
1118 dynamic_analyzer=()
1119 reset_all_zones=
1120 use_libzbc=
1121 zbd_debug=
1122 max_open_zones_opt=
1123 quit_on_err=
1124
1125 while [ "${1#-}" != "$1" ]; do
1126   case "$1" in
1127     -d) dynamic_analyzer=(valgrind "--read-var-info=yes" "--tool=drd"
1128                           "--show-confl-seg=no");
1129         shift;;
1130     -e) dynamic_analyzer=(valgrind "--read-var-info=yes" "--tool=helgrind");
1131         shift;;
1132     -l) use_libzbc=1; shift;;
1133     -r) reset_all_zones=1; shift;;
1134     -t) tests+=("$2"); shift; shift;;
1135     -o) max_open_zones_opt="${2}"; shift; shift;;
1136     -v) dynamic_analyzer=(valgrind "--read-var-info=yes");
1137         shift;;
1138     -q) quit_on_err=1; shift;;
1139     -z) zbd_debug=1; shift;;
1140     --) shift; break;;
1141   esac
1142 done
1143
1144 if [ $# != 1 ]; then
1145     usage
1146     exit 1
1147 fi
1148
1149 # shellcheck source=functions
1150 source "$(dirname "$0")/functions" || exit $?
1151
1152 global_var_opts=()
1153 job_var_opts=()
1154 if [ -n "$zbd_debug" ]; then
1155     global_var_opts+=("--debug=zbd")
1156 fi
1157 dev=$1
1158 realdev=$(readlink -f "$dev")
1159 basename=$(basename "$realdev")
1160
1161 if [[ -b "$realdev" ]]; then
1162         major=$((0x$(stat -L -c '%t' "$realdev"))) || exit $?
1163         minor=$((0x$(stat -L -c '%T' "$realdev"))) || exit $?
1164         disk_size=$(($(<"/sys/dev/block/$major:$minor/size")*512))
1165
1166         # When the target is a partition device, get basename of its
1167         # holder device to access sysfs path of the holder device
1168         if [[ -r "/sys/dev/block/$major:$minor/partition" ]]; then
1169                 realsysfs=$(readlink "/sys/dev/block/$major:$minor")
1170                 basename=$(basename "${realsysfs%/*}")
1171         fi
1172         logical_block_size=$(<"/sys/block/$basename/queue/logical_block_size")
1173         case "$(<"/sys/class/block/$basename/queue/zoned")" in
1174         host-managed|host-aware)
1175                 is_zbd=true
1176                 if ! check_blkzone "${dev}"; then
1177                         exit 1
1178                 fi
1179                 if ! result=($(first_sequential_zone "$dev")); then
1180                         echo "Failed to determine first sequential zone"
1181                         exit 1
1182                 fi
1183                 first_sequential_zone_sector=${result[0]}
1184                 sectors_per_zone=${result[1]}
1185                 zone_size=$((sectors_per_zone * 512))
1186                 if ! max_open_zones=$(max_open_zones "$dev"); then
1187                         echo "Failed to determine maximum number of open zones"
1188                         exit 1
1189                 fi
1190                 set_io_scheduler "$basename" deadline || exit $?
1191                 if [ -n "$reset_all_zones" ]; then
1192                         reset_zone "$dev" -1
1193                 fi
1194                 ;;
1195         *)
1196                 first_sequential_zone_sector=$(((disk_size / 2) &
1197                                                 (logical_block_size - 1)))
1198                 zone_size=$(max 65536 "$logical_block_size")
1199                 sectors_per_zone=$((zone_size / 512))
1200                 max_open_zones=128
1201                 set_io_scheduler "$basename" none || exit $?
1202                 ;;
1203         esac
1204 elif [[ -c "$realdev" ]]; then
1205         # For an SG node, we must have libzbc option specified
1206         if [[ ! -n "$use_libzbc" ]]; then
1207                 echo "Character device files can only be used with -l (libzbc) option"
1208                 exit 1
1209         fi
1210
1211         if ! $(is_zbc "$dev"); then
1212                 echo "Device is not a ZBC disk"
1213                 exit 1
1214         fi
1215         is_zbd=true
1216
1217         if ! disk_size=($(( $(zbc_disk_sectors "$dev") * 512))); then
1218                 echo "Failed to determine disk size"
1219                 exit 1
1220         fi
1221         if ! logical_block_size=($(zbc_logical_block_size "$dev")); then
1222                 echo "Failed to determine logical block size"
1223                 exit 1
1224         fi
1225         if ! result=($(first_sequential_zone "$dev")); then
1226                 echo "Failed to determine first sequential zone"
1227                 exit 1
1228         fi
1229         first_sequential_zone_sector=${result[0]}
1230         sectors_per_zone=${result[1]}
1231         zone_size=$((sectors_per_zone * 512))
1232         if ! max_open_zones=$(max_open_zones "$dev"); then
1233                 echo "Failed to determine maximum number of open zones"
1234                 exit 1
1235         fi
1236         if [ -n "$reset_all_zones" ]; then
1237                 reset_zone "$dev" -1
1238         fi
1239 fi
1240
1241 if [[ -n ${max_open_zones_opt} ]]; then
1242         # Override max_open_zones with the script option value
1243         max_open_zones="${max_open_zones_opt}"
1244         job_var_opts+=("--max_open_zones=${max_open_zones_opt}")
1245 fi
1246
1247 echo -n "First sequential zone starts at sector $first_sequential_zone_sector;"
1248 echo " zone size: $((zone_size >> 20)) MB"
1249
1250 if [ "${#tests[@]}" = 0 ]; then
1251     readarray -t tests < <(declare -F | grep "test[0-9]*" | \
1252                                    tr -c -d "[:digit:]\n" | sort -n)
1253 fi
1254
1255 logfile=$0.log
1256
1257 passed=0
1258 skipped=0
1259 failed=0
1260 if [ -t 1 ]; then
1261     red="\e[1;31m"
1262     green="\e[1;32m"
1263     cyan="\e[1;36m"
1264     end="\e[m"
1265 else
1266     red=""
1267     green=""
1268     end=""
1269 fi
1270 rc=0
1271
1272 intr=0
1273 trap 'intr=1' SIGINT
1274 ret=0
1275
1276 for test_number in "${tests[@]}"; do
1277     rm -f "${logfile}.${test_number}"
1278     unset SKIP_REASON
1279     echo -n "Running test $(printf "%02d" $test_number) ... "
1280     eval "test$test_number"
1281     ret=$?
1282     if ((!ret)) && check_log $test_number; then
1283         status="PASS"
1284         cc_status="${green}${status}${end}"
1285         ((passed++))
1286     elif ((ret==SKIP_TESTCASE)); then
1287         status="SKIP"
1288         echo "${SKIP_REASON}" >> "${logfile}.${test_number}"
1289         cc_status="${cyan}${status}${end}    ${SKIP_REASON}"
1290         ((skipped++))
1291     else
1292         status="FAIL"
1293         cc_status="${red}${status}${end}"
1294         ((failed++))
1295         rc=1
1296     fi
1297     echo -e "$cc_status"
1298     echo "$status" >> "${logfile}.${test_number}"
1299     [ $intr -ne 0 ] && exit 1
1300     [ -n "$quit_on_err" -a "$rc" -ne 0 ] && exit 1
1301 done
1302
1303 echo "$passed tests passed"
1304 if [ $skipped -gt 0 ]; then
1305     echo " $skipped tests skipped"
1306 fi
1307 if [ $failed -gt 0 ]; then
1308     echo " $failed tests failed"
1309 fi
1310 exit $rc