t/zbd/test-zbd-support

   1 #!/bin/bash
   2 #
   3 # Copyright (C) 2018 Western Digital Corporation or its affiliates.
   4 #
   5 # This file is released under the GPL.
   6
   7 usage() {
   8         echo "Usage: $(basename "$0") [OPTIONS] <test target device file>"
   9         echo "Options:"
  10         echo -e "\t-d Run fio with valgrind using DRD tool"
  11         echo -e "\t-e Run fio with valgrind using helgrind tool"
  12         echo -e "\t-v Run fio with valgrind --read-var-info option"
  13         echo -e "\t-l Test with libzbc ioengine"
  14         echo -e "\t-r Reset all zones before test start"
  15         echo -e "\t-w Reset all zones before executing each write test case"
  16         echo -e "\t-o <max_open_zones> Run fio with max_open_zones limit"
  17         echo -e "\t-t <test #> Run only a single test case with specified number"
  18         echo -e "\t-q Quit the test run after any failed test"
  19         echo -e "\t-z Run fio with debug=zbd option"
  20 }
  21
  22 max() {
  23     if [ "$1" -gt "$2" ]; then
  24         echo "$1"
  25     else
  26         echo "$2"
  27     fi
  28 }
  29
  30 min() {
  31     if [ "$1" -lt "$2" ]; then
  32         echo "$1"
  33     else
  34         echo "$2"
  35     fi
  36 }
  37
  38 ioengine() {
  39         if [ -n "$use_libzbc" ]; then
  40                 echo -n "--ioengine=libzbc"
  41         else
  42                 echo -n "--ioengine=$1"
  43         fi
  44 }
  45
  46 set_io_scheduler() {
  47     local dev=$1 sched=$2
  48
  49     [ -e "/sys/block/$dev" ] || return $?
  50     if [ -e "/sys/block/$dev/mq" ]; then
  51         case "$sched" in
  52             noop)        sched=none;;
  53             deadline)    sched=mq-deadline;;
  54         esac
  55     else
  56         case "$sched" in
  57             none)        sched=noop;;
  58             mq-deadline) sched=deadline;;
  59         esac
  60     fi
  61
  62     echo "$sched" >"/sys/block/$dev/queue/scheduler"
  63 }
  64
  65 check_read() {
  66     local read
  67
  68     read=$(fio_read <"${logfile}.${test_number}")
  69     echo "read: $read <> $1" >> "${logfile}.${test_number}"
  70     [ "$read" = "$1" ]
  71 }
  72
  73 check_written() {
  74     local written
  75
  76     written=$(fio_written <"${logfile}.${test_number}")
  77     echo "written: $written <> $1" >> "${logfile}.${test_number}"
  78     [ "$written" = "$1" ]
  79 }
  80
  81 # Compare the reset count from the log file with reset count $2 using operator
  82 # $1 (=, -ge, -gt, -le, -lt).
  83 check_reset_count() {
  84     local reset_count
  85
  86     reset_count=$(fio_reset_count <"${logfile}.${test_number}")
  87     echo "reset_count: test $reset_count $1 $2" >> "${logfile}.${test_number}"
  88     eval "[ '$reset_count' '$1' '$2' ]"
  89 }
  90
  91 # Check log for failed assertions and crashes. Without these checks,
  92 # a test can succeed even when these events happen, but it must fail.
  93 check_log() {
  94      [ ! -f "${logfile}.${1}" ] && return 0
  95      ! grep -q -e "Assertion " -e "Aborted " "${logfile}.${1}"
  96 }
  97
  98 # Whether or not $1 (/dev/...) is a SCSI device.
  99 is_scsi_device() {
 100     local d f
 101
 102     d=$(basename "$dev")
 103     for f in /sys/class/scsi_device/*/device/block/"$d"; do
 104         [ -e "$f" ] && return 0
 105     done
 106     return 1
 107 }
 108
 109 job_var_opts_exclude() {
 110         local o
 111         local ex_key="${1}"
 112
 113         for o in "${job_var_opts[@]}"; do
 114                 if [[ ${o} =~ "${ex_key}" ]]; then
 115                         continue
 116                 fi
 117                 echo -n "${o}"
 118         done
 119 }
 120
 121 has_max_open_zones() {
 122         while (($# > 1)); do
 123                 if [[ ${1} =~ "--max_open_zones" ]]; then
 124                         return 0
 125                 fi
 126                 shift
 127         done
 128         return 1
 129 }
 130
 131 run_fio() {
 132     local fio opts
 133
 134     fio=$(dirname "$0")/../../fio
 135
 136     opts=(${global_var_opts[@]})
 137     opts+=("--max-jobs=16" "--aux-path=/tmp" "--allow_file_create=0" \
 138                            "--significant_figures=10" "$@")
 139     # When max_open_zones option is specified to this test script, add
 140     # max_open_zones option to fio command unless the test case already add it.
 141     if [[ -n ${max_open_zones_opt} ]] && ! has_max_open_zones "${opts[@]}"; then
 142             opts+=("--max_open_zones=${max_open_zones_opt}")
 143     fi
 144     { echo; echo "fio ${opts[*]}"; echo; } >>"${logfile}.${test_number}"
 145
 146     "${dynamic_analyzer[@]}" "$fio" "${opts[@]}"
 147 }
 148
 149 run_one_fio_job() {
 150     local r
 151
 152     r=$(((RANDOM << 16) | RANDOM))
 153     run_fio --name="$dev" --filename="$dev" "$@" --randseed="$r"        \
 154             --thread=1 --direct=1
 155 }
 156
 157 write_and_run_one_fio_job() {
 158     local r
 159     local write_offset="${1}"
 160     local write_size="${2}"
 161     local -a write_opts
 162
 163     shift 2
 164     r=$(((RANDOM << 16) | RANDOM))
 165     write_opts=(--name="write_job" --rw=write "$(ioengine "psync")" \
 166                       --bs="${logical_block_size}" --zonemode=zbd \
 167                       --zonesize="${zone_size}" --thread=1 --direct=1 \
 168                       --offset="${write_offset}" --size="${write_size}")
 169     write_opts+=("${job_var_opts[@]}")
 170     run_fio --filename="$dev" --randseed="$r" "${write_opts[@]}" \
 171             --name="$dev" --wait_for="write_job" "$@" --thread=1 --direct=1
 172 }
 173
 174 # Run fio on the first four sequential zones of the disk.
 175 run_fio_on_seq() {
 176     local opts=()
 177
 178     opts+=("--offset=$((first_sequential_zone_sector * 512))")
 179     opts+=("--size=$((4 * zone_size))" "--zonemode=zbd")
 180     if [ -z "$is_zbd" ]; then
 181         opts+=("--zonesize=${zone_size}")
 182     fi
 183     run_one_fio_job "${opts[@]}" "$@"
 184 }
 185
 186 # Prepare for write test by resetting zones. When reset_before_write or
 187 # max_open_zones option is specified, reset all zones of the test target to
 188 # ensure that zones out of the test target range do not have open zones. This
 189 # allows the write test to the target range to be able to open zones up to
 190 # max_open_zones limit specified as the option or obtained from sysfs.
 191 prep_write() {
 192         [[ -n "${reset_before_write}" || -n "${max_open_zones_opt}" ]] &&
 193                 [[ -n "${is_zbd}" ]] && reset_zone "${dev}" -1
 194 }
 195
 196 SKIP_TESTCASE=255
 197
 198 require_scsi_dev() {
 199         if ! is_scsi_device "$dev"; then
 200                 SKIP_REASON="$dev is not a SCSI device"
 201                 return 1
 202         fi
 203         return 0
 204 }
 205
 206 require_conv_zone_bytes() {
 207         local req_bytes=${1}
 208
 209         if ((req_bytes > first_sequential_zone_sector * 512)); then
 210                 SKIP_REASON="$dev does not have enough conventional zones"
 211                 return 1
 212         fi
 213         return 0
 214 }
 215
 216 require_zbd() {
 217         if [[ -z ${is_zbd} ]]; then
 218                 SKIP_REASON="$dev is not a zoned block device"
 219                 return 1
 220         fi
 221         return 0
 222 }
 223
 224 require_regular_block_dev() {
 225         if [[ -n ${is_zbd} ]]; then
 226                 SKIP_REASON="$dev is not a regular block device"
 227                 return 1
 228         fi
 229         return 0
 230 }
 231
 232 require_block_dev() {
 233         if [[ -b "$realdev" ]]; then
 234                 return 0
 235         fi
 236         SKIP_REASON="$dev is not a block device"
 237         return 1
 238 }
 239
 240 require_seq_zones() {
 241         local req_seq_zones=${1}
 242         local seq_bytes=$((disk_size - first_sequential_zone_sector * 512))
 243
 244         if ((req_seq_zones > seq_bytes / zone_size)); then
 245                 SKIP_REASON="$dev does not have $req_seq_zones sequential zones"
 246                 return 1
 247         fi
 248         return 0
 249 }
 250
 251 require_conv_zones() {
 252         local req_c_zones=${1}
 253         local conv_bytes=$((first_sequential_zone_sector * 512))
 254
 255         if ((req_c_zones > conv_bytes / zone_size)); then
 256                 SKIP_REASON="$dev does not have $req_c_zones conventional zones"
 257                 return 1
 258         fi
 259         return 0
 260 }
 261
 262 # Check whether buffered writes are refused for block devices.
 263 test1() {
 264     require_block_dev || return $SKIP_TESTCASE
 265     run_fio --name=job1 --filename="$dev" --rw=write --direct=0 --bs=4K \
 266             "$(ioengine "psync")" --size="${zone_size}" --thread=1      \
 267             --zonemode=zbd --zonesize="${zone_size}" 2>&1 |
 268         tee -a "${logfile}.${test_number}" |
 269         grep -q 'Using direct I/O is mandatory for writing to ZBD drives'
 270     local fio_rc=${PIPESTATUS[0]} grep_rc=${PIPESTATUS[2]}
 271     case "$fio_rc" in
 272         0|1) ;;
 273         *)   return "$fio_rc"
 274     esac
 275     if [ -n "$is_zbd" ]; then
 276         [ "$grep_rc" = 0 ]
 277     else
 278         [ "$grep_rc" != 0 ]
 279     fi
 280 }
 281
 282 # Block size exceeds zone size.
 283 test2() {
 284     local bs off opts=() rc
 285
 286     off=$(((first_sequential_zone_sector + 2 * sectors_per_zone) * 512))
 287     bs=$((2 * zone_size))
 288     opts+=("$(ioengine "psync")")
 289     opts+=("--name=job1" "--filename=$dev" "--rw=write" "--direct=1")
 290     opts+=("--zonemode=zbd" "--offset=$off" "--bs=$bs" "--size=$bs")
 291     if [ -z "$is_zbd" ]; then
 292         opts+=("--zonesize=${zone_size}")
 293     fi
 294     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 && return 1
 295     grep -q 'buflen exceeds zone size' "${logfile}.${test_number}"
 296 }
 297
 298 # Run fio against an empty zone. This causes fio to report "No I/O performed".
 299 test3() {
 300     local off opts=() rc
 301
 302     require_seq_zones 129 || return $SKIP_TESTCASE
 303     off=$((first_sequential_zone_sector * 512 + 128 * zone_size))
 304     size=$((zone_size))
 305     [ -n "$is_zbd" ] && reset_zone "$dev" $((off / 512))
 306     opts+=("--name=$dev" "--filename=$dev" "--offset=$off" "--bs=4K")
 307     opts+=("--size=$size" "--zonemode=zbd")
 308     opts+=("$(ioengine "psync")" "--rw=read" "--direct=1" "--thread=1")
 309     if [ -z "$is_zbd" ]; then
 310         opts+=("--zonesize=${zone_size}")
 311     fi
 312     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
 313     ! grep -q 'READ:' "${logfile}.${test_number}"
 314 }
 315
 316 # Run fio with --read_beyond_wp=1 against an empty zone.
 317 test4() {
 318     local off opts=()
 319
 320     require_seq_zones 130 || return $SKIP_TESTCASE
 321     off=$((first_sequential_zone_sector * 512 + 129 * zone_size))
 322     size=$((zone_size))
 323     [ -n "$is_zbd" ] && reset_zone "$dev" $((off / 512))
 324     opts+=("--name=$dev" "--filename=$dev" "--offset=$off")
 325     opts+=(--bs="$(min $((logical_block_size * 256)) $size)")
 326     opts+=("--size=$size" "--thread=1" "--read_beyond_wp=1")
 327     opts+=("$(ioengine "psync")" "--rw=read" "--direct=1" "--disable_lat=1")
 328     opts+=("--zonemode=zbd" "--zonesize=${zone_size}")
 329     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
 330     check_read $size || return $?
 331 }
 332
 333 # Sequential write to sequential zones.
 334 test5() {
 335     local size off capacity bs
 336
 337     prep_write
 338     off=$((first_sequential_zone_sector * 512))
 339     capacity=$(total_zone_capacity 4 $off $dev)
 340     size=$((4 * zone_size))
 341     bs=$(min "$(max $((zone_size / 64)) "$logical_block_size")" "$zone_cap_bs")
 342     run_fio_on_seq "$(ioengine "psync")" --iodepth=1 --rw=write \
 343                    --bs="$bs" --do_verify=1 --verify=md5 \
 344                    >>"${logfile}.${test_number}" 2>&1 || return $?
 345     check_written $capacity || return $?
 346     check_read $capacity || return $?
 347 }
 348
 349 # Sequential read from sequential zones.
 350 test6() {
 351     local size off capacity bs
 352
 353     prep_write
 354     off=$((first_sequential_zone_sector * 512))
 355     capacity=$(total_zone_capacity 4 $off $dev)
 356     size=$((4 * zone_size))
 357     bs=$(min "$(max $((zone_size / 64)) "$logical_block_size")" "$zone_cap_bs")
 358     write_and_run_one_fio_job \
 359             $((first_sequential_zone_sector * 512)) "${size}" \
 360             --offset="${off}" \
 361             --size="${size}" --zonemode=zbd --zonesize="${zone_size}" \
 362             "$(ioengine "psync")" --iodepth=1 --rw=read --bs="$bs" \
 363             >>"${logfile}.${test_number}" 2>&1 || return $?
 364     check_read $capacity || return $?
 365 }
 366
 367 # Random write to sequential zones, libaio, queue depth 1.
 368 test7() {
 369     local size=$((zone_size))
 370     local off capacity
 371
 372     prep_write
 373     off=$((first_sequential_zone_sector * 512))
 374     capacity=$(total_zone_capacity 1 $off $dev)
 375     run_fio_on_seq "$(ioengine "libaio")" --iodepth=1 --rw=randwrite    \
 376                    --bs="$(min 16384 "${zone_size}")"                   \
 377                    --do_verify=1 --verify=md5 --size="$size"            \
 378                    >>"${logfile}.${test_number}" 2>&1 || return $?
 379     check_written $capacity || return $?
 380     check_read $capacity || return $?
 381 }
 382
 383 # Random write to sequential zones, libaio, queue depth 64.
 384 test8() {
 385     local size off capacity
 386
 387     prep_write
 388     size=$((4 * zone_size))
 389     off=$((first_sequential_zone_sector * 512))
 390     capacity=$(total_zone_capacity 4 $off $dev)
 391     run_fio_on_seq "$(ioengine "libaio")" --iodepth=64 --rw=randwrite   \
 392                    --bs="$(min 16384 "${zone_size}")"                   \
 393                    --do_verify=1 --verify=md5                           \
 394                    >>"${logfile}.${test_number}" 2>&1 || return $?
 395     check_written $capacity || return $?
 396     check_read $capacity || return $?
 397 }
 398
 399 # Random write to sequential zones, sg, queue depth 1.
 400 test9() {
 401     local size
 402
 403     require_scsi_dev || return $SKIP_TESTCASE
 404
 405     prep_write
 406     size=$((4 * zone_size))
 407     run_fio_on_seq --ioengine=sg                                        \
 408                    --iodepth=1 --rw=randwrite --bs=16K                  \
 409                    --do_verify=1 --verify=md5                           \
 410                    >>"${logfile}.${test_number}" 2>&1 || return $?
 411     check_written $size || return $?
 412     check_read $size || return $?
 413 }
 414
 415 # Random write to sequential zones, sg, queue depth 64.
 416 test10() {
 417     local size
 418
 419     require_scsi_dev || return $SKIP_TESTCASE
 420
 421     prep_write
 422     size=$((4 * zone_size))
 423     run_fio_on_seq --ioengine=sg                                        \
 424                    --iodepth=64 --rw=randwrite --bs=16K                 \
 425                    --do_verify=1 --verify=md5                           \
 426                    >>"${logfile}.${test_number}" 2>&1 || return $?
 427     check_written $size || return $?
 428     check_read $size || return $?
 429 }
 430
 431 # Random write to sequential zones, libaio, queue depth 64, random block size.
 432 test11() {
 433     local size off capacity
 434
 435     prep_write
 436     size=$((4 * zone_size))
 437     off=$((first_sequential_zone_sector * 512))
 438     capacity=$(total_zone_capacity 4 $off $dev)
 439     run_fio_on_seq "$(ioengine "libaio")" --iodepth=64 --rw=randwrite   \
 440                    --bsrange=4K-64K --do_verify=1 --verify=md5          \
 441                    --debug=zbd >>"${logfile}.${test_number}" 2>&1 || return $?
 442     check_written $capacity || return $?
 443     check_read $capacity || return $?
 444 }
 445
 446 # Random write to sequential zones, libaio, queue depth 64, max 1 open zone.
 447 test12() {
 448     local size off capacity
 449
 450     prep_write
 451     size=$((8 * zone_size))
 452     off=$((first_sequential_zone_sector * 512))
 453     capacity=$(total_zone_capacity 8 $off $dev)
 454     run_fio_on_seq "$(ioengine "libaio")" --iodepth=64 --rw=randwrite --bs=16K \
 455                    --max_open_zones=1 --size=$size --do_verify=1 --verify=md5 \
 456                    --debug=zbd >>"${logfile}.${test_number}" 2>&1 || return $?
 457     check_written $capacity || return $?
 458     check_read $capacity || return $?
 459 }
 460
 461 # Random write to sequential zones, libaio, queue depth 64, max 4 open zones.
 462 test13() {
 463     local size off capacity
 464
 465     prep_write
 466     size=$((8 * zone_size))
 467     off=$((first_sequential_zone_sector * 512))
 468     capacity=$(total_zone_capacity 8 $off $dev)
 469     run_fio_on_seq "$(ioengine "libaio")" --iodepth=64 --rw=randwrite --bs=16K \
 470                    --max_open_zones=4 --size=$size --do_verify=1 --verify=md5 \
 471                    --debug=zbd                                                \
 472                    >>"${logfile}.${test_number}" 2>&1 || return $?
 473     check_written $capacity || return $?
 474     check_read $capacity || return $?
 475 }
 476
 477 # Random write to conventional zones.
 478 test14() {
 479     local off size
 480
 481     if ! result=($(first_online_zone "$dev")); then
 482         echo "Failed to determine first online zone"
 483         exit 1
 484     fi
 485     off=${result[0]}
 486     prep_write
 487     size=$((16 * 2**20)) # 20 MB
 488     require_conv_zone_bytes "${size}" || return $SKIP_TESTCASE
 489
 490     run_one_fio_job "$(ioengine "libaio")" --iodepth=64 --rw=randwrite --bs=16K \
 491                     --zonemode=zbd --zonesize="${zone_size}" --do_verify=1 \
 492                     --verify=md5 --offset=$off --size=$size\
 493                     >>"${logfile}.${test_number}" 2>&1 || return $?
 494     check_written $((size)) || return $?
 495     check_read $((size)) || return $?
 496 }
 497
 498 # Sequential read on a mix of empty and full zones.
 499 test15() {
 500     local i off size bs
 501     local w_off w_size w_capacity
 502
 503     for ((i=0;i<4;i++)); do
 504         [ -n "$is_zbd" ] &&
 505             reset_zone "$dev" $((first_sequential_zone_sector +
 506                                  i*sectors_per_zone))
 507     done
 508     prep_write
 509     w_off=$(((first_sequential_zone_sector + 2 * sectors_per_zone) * 512))
 510     w_size=$((2 * zone_size))
 511     w_capacity=$(total_zone_capacity 2 $w_off $dev)
 512     off=$((first_sequential_zone_sector * 512))
 513     size=$((4 * zone_size))
 514     bs=$(min $((zone_size / 16)) "$zone_cap_bs")
 515     write_and_run_one_fio_job "${w_off}" "${w_size}" \
 516                     "$(ioengine "psync")" --rw=read --bs="$bs" \
 517                     --zonemode=zbd --zonesize="${zone_size}" --offset=$off \
 518                     --size=$((size)) >>"${logfile}.${test_number}" 2>&1 ||
 519         return $?
 520     check_written $((w_capacity)) || return $?
 521     check_read $((w_capacity))
 522 }
 523
 524 # Random read on a mix of empty and full zones.
 525 test16() {
 526     local off size
 527     local i w_off w_size w_capacity
 528
 529     for ((i=0;i<4;i++)); do
 530         [ -n "$is_zbd" ] &&
 531             reset_zone "$dev" $((first_sequential_zone_sector +
 532                                  i*sectors_per_zone))
 533     done
 534     prep_write
 535     w_off=$(((first_sequential_zone_sector + 2 * sectors_per_zone) * 512))
 536     w_size=$((2 * zone_size))
 537     w_capacity=$(total_zone_capacity 2 $w_off $dev)
 538     off=$((first_sequential_zone_sector * 512))
 539     size=$((4 * zone_size))
 540     write_and_run_one_fio_job "${w_off}" "${w_size}" \
 541                     "$(ioengine "libaio")" --iodepth=64 --rw=randread --bs=16K \
 542                     --zonemode=zbd --zonesize="${zone_size}" --offset=$off \
 543                     --size=$size >>"${logfile}.${test_number}" 2>&1 || return $?
 544     check_written $w_capacity || return $?
 545     check_read $size || return $?
 546 }
 547
 548 # Random reads and writes in the last zone.
 549 test17() {
 550     local io off last read size written
 551
 552     off=$(((disk_size / zone_size - 1) * zone_size))
 553     size=$((disk_size - off))
 554     if ! last=($(last_online_zone "$dev")); then
 555         echo "Failed to determine last online zone"
 556         exit 1
 557     fi
 558     if [[ "$((last * 512))" -lt "$off" ]]; then
 559         off=$((last * 512))
 560         size=$zone_size
 561     fi
 562     if [ -n "$is_zbd" ]; then
 563         reset_zone "$dev" $((off / 512)) || return $?
 564     fi
 565     prep_write
 566     run_one_fio_job "$(ioengine "libaio")" --iodepth=8 --rw=randrw --bs=4K \
 567                     --zonemode=zbd --zonesize="${zone_size}"            \
 568                     --offset=$off --loops=2 --norandommap=1 \
 569                     --size="$size"\
 570                     >>"${logfile}.${test_number}" 2>&1 || return $?
 571     written=$(fio_written <"${logfile}.${test_number}")
 572     read=$(fio_read <"${logfile}.${test_number}")
 573     io=$((written + read))
 574     echo "Total number of bytes read and written: $io <> $size" \
 575          >>"${logfile}.${test_number}"
 576     [ $io = $((size * 2)) ];
 577 }
 578
 579 # Out-of-range zone reset threshold and frequency parameters.
 580 test18() {
 581     run_fio_on_seq --zone_reset_threshold=-1 |&
 582         tee -a "${logfile}.${test_number}"   |
 583             grep -q 'value out of range' || return $?
 584 }
 585
 586 test19() {
 587     run_fio_on_seq --zone_reset_threshold=2  |&
 588         tee -a "${logfile}.${test_number}"   |
 589         grep -q 'value out of range' || return $?
 590 }
 591
 592 test20() {
 593     run_fio_on_seq --zone_reset_threshold=.4:.6 |&
 594         tee -a "${logfile}.${test_number}"   |
 595         grep -q 'the list exceeding max length' || return $?
 596 }
 597
 598 test21() {
 599     run_fio_on_seq --zone_reset_frequency=-1 |&
 600         tee -a "${logfile}.${test_number}"   |
 601         grep -q 'value out of range' || return $?
 602 }
 603
 604 test22() {
 605     run_fio_on_seq --zone_reset_frequency=2  |&
 606         tee -a "${logfile}.${test_number}"   |
 607         grep -q 'value out of range' || return $?
 608 }
 609
 610 test23() {
 611     run_fio_on_seq --zone_reset_frequency=.4:.6  |&
 612         tee -a "${logfile}.${test_number}"   |
 613         grep -q 'the list exceeding max length' || return $?
 614 }
 615
 616 test24() {
 617     local bs loops=9 size=$((zone_size))
 618     local off capacity
 619
 620     prep_write
 621     off=$((first_sequential_zone_sector * 512))
 622     capacity=$(total_zone_capacity 1 $off $dev)
 623
 624     bs=$(min $((256*1024)) "$zone_size")
 625     run_fio_on_seq "$(ioengine "psync")" --rw=write --bs="$bs"          \
 626                    --size=$size --loops=$loops                          \
 627                    --zone_reset_frequency=.01 --zone_reset_threshold=.90 \
 628                    >> "${logfile}.${test_number}" 2>&1 || return $?
 629     check_written $((capacity * loops)) || return $?
 630     check_reset_count -eq 8 ||
 631         check_reset_count -eq 9 ||
 632         check_reset_count -eq 10 || return $?
 633 }
 634
 635 # Multiple non-overlapping sequential write jobs for the same drive.
 636 test25() {
 637     local i opts=()
 638
 639     for ((i=0;i<16;i++)); do
 640         [ -n "$is_zbd" ] &&
 641             reset_zone "$dev" $((first_sequential_zone_sector + i*sectors_per_zone))
 642     done
 643     prep_write
 644     for ((i=0;i<16;i++)); do
 645         opts+=("--name=job$i" "--filename=$dev" "--thread=1" "--direct=1")
 646         opts+=("--offset=$((first_sequential_zone_sector*512 + zone_size*i))")
 647         opts+=("--size=$zone_size" "$(ioengine "psync")" "--rw=write" "--bs=16K")
 648         opts+=("--zonemode=zbd" "--zonesize=${zone_size}" "--group_reporting=1")
 649         opts+=(${job_var_opts[@]})
 650     done
 651     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
 652 }
 653
 654 write_to_first_seq_zone() {
 655     local loops=4 r
 656     local off capacity
 657
 658     prep_write
 659     off=$((first_sequential_zone_sector * 512))
 660     capacity=$(total_zone_capacity 1 $off $dev)
 661
 662     r=$(((RANDOM << 16) | RANDOM))
 663     run_fio --name="$dev" --filename="$dev" "$(ioengine "psync")" --rw="$1" \
 664             --thread=1 --do_verify=1 --verify=md5 --direct=1 --bs=4K    \
 665             --offset=$off                                               \
 666             --size=$zone_size --loops=$loops --randseed="$r"            \
 667             --zonemode=zbd --zonesize="${zone_size}" --group_reporting=1        \
 668             --gtod_reduce=1 >> "${logfile}.${test_number}" 2>&1 || return $?
 669     check_written $((loops * capacity)) || return $?
 670 }
 671
 672 # Overwrite the first sequential zone four times sequentially.
 673 test26() {
 674     write_to_first_seq_zone write
 675 }
 676
 677 # Overwrite the first sequential zone four times using random writes.
 678 test27() {
 679     write_to_first_seq_zone randwrite
 680 }
 681
 682 # Multiple overlapping random write jobs for the same drive.
 683 test28() {
 684     local i jobs=16 off opts
 685
 686     require_seq_zones 65 || return $SKIP_TESTCASE
 687     off=$((first_sequential_zone_sector * 512 + 64 * zone_size))
 688     [ -n "$is_zbd" ] && reset_zone "$dev" $((off / 512))
 689     prep_write
 690     opts=("--debug=zbd")
 691     capacity=$(total_zone_capacity 1 $off $dev)
 692     for ((i=0;i<jobs;i++)); do
 693         opts+=("--name=job$i" "--filename=$dev" "--offset=$off" "--bs=16K")
 694         opts+=("--size=$zone_size" "--io_size=$capacity" "$(ioengine "psync")" "--rw=randwrite")
 695         opts+=("--thread=1" "--direct=1" "--zonemode=zbd")
 696         opts+=("--zonesize=${zone_size}" "--group_reporting=1")
 697         opts+=(${job_var_opts[@]})
 698     done
 699     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
 700     check_written $((jobs * $capacity)) || return $?
 701     check_reset_count -eq $jobs ||
 702         check_reset_count -eq $((jobs - 1)) ||
 703         return $?
 704 }
 705
 706 # Multiple overlapping random write jobs for the same drive and with a limited
 707 # number of open zones.
 708 test29() {
 709     local i jobs=16 off opts=()
 710
 711     require_seq_zones 80 || return $SKIP_TESTCASE
 712     off=$((first_sequential_zone_sector * 512 + 64 * zone_size))
 713     size=$((16*zone_size))
 714     prep_write
 715     opts=("--debug=zbd")
 716     for ((i=0;i<jobs;i++)); do
 717         opts+=("--name=job$i" "--filename=$dev" "--offset=$off" "--bs=16K")
 718         opts+=("--size=$size" "--io_size=$zone_size" "--thread=1")
 719         opts+=("$(ioengine "psync")" "--rw=randwrite" "--direct=1")
 720         opts+=("--max_open_zones=4" "--group_reporting=1")
 721         opts+=("--zonemode=zbd" "--zonesize=${zone_size}")
 722         # max_open_zones is already specified
 723         opts+=($(job_var_opts_exclude "--max_open_zones"))
 724     done
 725     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
 726     check_written $((jobs * zone_size)) || return $?
 727 }
 728
 729 # Random reads and writes across the entire disk for 30s.
 730 test30() {
 731     local off
 732
 733     prep_write
 734     off=$((first_sequential_zone_sector * 512))
 735     run_one_fio_job "$(ioengine "libaio")" --iodepth=8 --rw=randrw      \
 736                     --bs="$(max $((zone_size / 128)) "$logical_block_size")"\
 737                     --zonemode=zbd --zonesize="${zone_size}" --offset=$off\
 738                     --loops=2 --time_based --runtime=30s --norandommap=1\
 739                     >>"${logfile}.${test_number}" 2>&1
 740 }
 741
 742 # Random reads across all sequential zones for 30s. This is not only a fio
 743 # test but also allows to verify the performance of a drive.
 744 test31() {
 745     local bs inc nz off opts size
 746
 747     [ -n "$is_zbd" ] && reset_zone "$dev" -1
 748
 749     # As preparation, write 128 KB to sequential write required zones. Limit
 750     # write target zones up to max_open_zones to keep test time reasonable.
 751     # To distribute the write target zones evenly, skip certain zones for every
 752     # write. Utilize zonemode strided for such write patterns.
 753     bs=$((128 * 1024))
 754     nz=$((max_open_zones))
 755     if [[ $nz -eq 0 ]]; then
 756         nz=128
 757     fi
 758     off=$((first_sequential_zone_sector * 512))
 759     size=$((disk_size - off))
 760     inc=$(((size / nz / zone_size) * zone_size))
 761     opts=("--name=$dev" "--filename=$dev" "--rw=write" "--bs=${bs}")
 762     opts+=("--offset=$off" "--size=$((inc * nz))" "--io_size=$((bs * nz))")
 763     opts+=("--zonemode=strided" "--zonesize=${bs}" "--zonerange=${inc}")
 764     opts+=("--direct=1")
 765     echo "fio ${opts[@]}" >> "${logfile}.${test_number}"
 766     "$(dirname "$0")/../../fio" "${opts[@]}" >> "${logfile}.${test_number}" 2>&1
 767
 768     # Next, run the test.
 769     opts=("--name=$dev" "--filename=$dev" "--offset=$off" "--size=$size")
 770     opts+=("--bs=$bs" "$(ioengine "psync")" "--rw=randread" "--direct=1")
 771     opts+=("--thread=1" "--time_based" "--runtime=30" "--zonemode=zbd")
 772     opts+=("--zonesize=${zone_size}")
 773     opts+=(${job_var_opts[@]})
 774     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
 775 }
 776
 777 # Random writes across all sequential zones. This is not only a fio test but
 778 # also allows to verify the performance of a drive.
 779 test32() {
 780     local off opts=() size
 781
 782     require_zbd || return $SKIP_TESTCASE
 783
 784     prep_write
 785     off=$((first_sequential_zone_sector * 512))
 786     size=$((disk_size - off))
 787     opts+=("--name=$dev" "--filename=$dev" "--offset=$off" "--size=$size")
 788     opts+=("--bs=128K" "$(ioengine "psync")" "--rw=randwrite" "--direct=1")
 789     opts+=("--thread=1" "--time_based" "--runtime=30")
 790     opts+=("--max_open_zones=$max_open_zones" "--zonemode=zbd")
 791     opts+=("--zonesize=${zone_size}")
 792     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
 793 }
 794
 795 # Write to sequential zones with a block size that is not a divisor of the
 796 # zone size.
 797 test33() {
 798     local bs io_size size
 799     local off capacity=0;
 800
 801     prep_write
 802     off=$((first_sequential_zone_sector * 512))
 803     capacity=$(total_zone_capacity 1 $off $dev)
 804     size=$((2 * zone_size))
 805     io_size=$((5 * capacity))
 806     bs=$((3 * capacity / 4))
 807     run_fio_on_seq "$(ioengine "psync")" --iodepth=1 --rw=write \
 808                    --size=$size --io_size=$io_size --bs=$bs     \
 809                    >> "${logfile}.${test_number}" 2>&1 || return $?
 810     check_written $(((io_size + bs - 1) / bs * bs)) || return $?
 811 }
 812
 813 # Write to sequential zones with a block size that is not a divisor of the
 814 # zone size and with data verification enabled.
 815 test34() {
 816     local size
 817
 818     prep_write
 819     size=$((2 * zone_size))
 820     run_fio_on_seq "$(ioengine "psync")" --iodepth=1 --rw=write --size=$size \
 821                    --do_verify=1 --verify=md5 --bs=$((3 * zone_size / 4)) \
 822                    >> "${logfile}.${test_number}" 2>&1 && return 1
 823     grep -q 'not a divisor of' "${logfile}.${test_number}"
 824 }
 825
 826 # Test 1/4 for the I/O boundary rounding code: $size < $zone_size.
 827 test35() {
 828     local bs off io_size size
 829
 830     prep_write
 831     off=$(((first_sequential_zone_sector + 1) * 512))
 832     size=$((zone_size - 2 * 512))
 833     bs=$((zone_size / 4))
 834     run_one_fio_job --offset=$off --size=$size "$(ioengine "psync")"    \
 835                     --iodepth=1 --rw=write --do_verify=1 --verify=md5   \
 836                     --bs=$bs --zonemode=zbd --zonesize="${zone_size}"   \
 837                     >> "${logfile}.${test_number}" 2>&1 && return 1
 838     grep -q 'io_size must be at least one zone' "${logfile}.${test_number}"
 839 }
 840
 841 # Test 2/4 for the I/O boundary rounding code: $size < $zone_size.
 842 test36() {
 843     local bs off io_size size
 844
 845     prep_write
 846     off=$(((first_sequential_zone_sector) * 512))
 847     size=$((zone_size - 512))
 848     bs=$((zone_size / 4))
 849     run_one_fio_job --offset=$off --size=$size "$(ioengine "psync")"    \
 850                     --iodepth=1 --rw=write --do_verify=1 --verify=md5   \
 851                     --bs=$bs --zonemode=zbd --zonesize="${zone_size}"   \
 852                     >> "${logfile}.${test_number}" 2>&1 && return 1
 853     grep -q 'io_size must be at least one zone' "${logfile}.${test_number}"
 854 }
 855
 856 # Test 3/4 for the I/O boundary rounding code: $size > $zone_size.
 857 test37() {
 858     local bs off size capacity
 859
 860     prep_write
 861     capacity=$(total_zone_capacity 1 $((first_sequential_zone_sector*512)) $dev)
 862     if [ "$first_sequential_zone_sector" = 0 ]; then
 863         off=0
 864     else
 865         off=$(((first_sequential_zone_sector - 1) * 512))
 866     fi
 867     size=$((zone_size + 2 * 512))
 868     bs=$(min $((zone_size / 4)) "$zone_cap_bs")
 869     run_one_fio_job --offset=$off --size=$size "$(ioengine "psync")"    \
 870                     --iodepth=1 --rw=write --do_verify=1 --verify=md5   \
 871                     --bs=$bs --zonemode=zbd --zonesize="${zone_size}"   \
 872                     >> "${logfile}.${test_number}" 2>&1
 873     check_written $capacity || return $?
 874 }
 875
 876 # Test 4/4 for the I/O boundary rounding code: $offset > $disk_size - $zone_size
 877 test38() {
 878     local bs off size
 879
 880     prep_write
 881     size=$((logical_block_size))
 882     off=$((disk_size - logical_block_size))
 883     bs=$((logical_block_size))
 884     run_one_fio_job --offset=$off --size=$size "$(ioengine "psync")"    \
 885                     --iodepth=1 --rw=write --do_verify=1 --verify=md5   \
 886                     --bs=$bs --zonemode=zbd --zonesize="${zone_size}"   \
 887                     >> "${logfile}.${test_number}" 2>&1 && return 1
 888     grep -q 'io_size must be at least one zone' "${logfile}.${test_number}"
 889 }
 890
 891 # Read one block from a block device.
 892 read_one_block() {
 893     local off
 894     local bs
 895
 896     if ! result=($(first_online_zone "$dev")); then
 897         echo "Failed to determine first online zone"
 898         exit 1
 899     fi
 900     off=${result[0]}
 901     bs=$((logical_block_size))
 902     run_one_fio_job --rw=read "$(ioengine "psync")" --offset=$off --bs=$bs \
 903                     --size=$bs "$@" 2>&1 |
 904         tee -a "${logfile}.${test_number}"
 905 }
 906
 907 # Check whether fio accepts --zonemode=none for zoned block devices.
 908 test39() {
 909     require_zbd || return $SKIP_TESTCASE
 910     read_one_block --zonemode=none >/dev/null || return $?
 911     check_read $((logical_block_size)) || return $?
 912 }
 913
 914 # Check whether fio accepts --zonemode=strided for zoned block devices.
 915 test40() {
 916     local bs
 917
 918     bs=$((logical_block_size))
 919     require_zbd || return $SKIP_TESTCASE
 920     read_one_block --zonemode=strided |
 921         grep -q 'fio: --zonesize must be specified when using --zonemode=strided' ||
 922         return $?
 923     read_one_block --zonemode=strided --zonesize=$bs >/dev/null || return $?
 924     check_read $bs || return $?
 925 }
 926
 927 # Check whether fio checks the zone size for zoned block devices.
 928 test41() {
 929     require_zbd || return $SKIP_TESTCASE
 930     read_one_block --zonemode=zbd --zonesize=$((2 * zone_size)) |
 931         grep -q 'job parameter zonesize.*does not match disk zone size'
 932 }
 933
 934 # Check whether fio handles --zonesize=0 correctly for regular block devices.
 935 test42() {
 936     require_regular_block_dev || return $SKIP_TESTCASE
 937     read_one_block --zonemode=zbd --zonesize=0 |
 938         grep -q 'Specifying the zone size is mandatory for regular file/block device with --zonemode=zbd'
 939 }
 940
 941 # Check whether fio handles --zonesize=1 correctly for regular block devices.
 942 test43() {
 943     require_regular_block_dev || return $SKIP_TESTCASE
 944     read_one_block --zonemode=zbd --zonesize=1 |
 945         grep -q 'zone size must be at least 512 bytes for --zonemode=zbd'
 946 }
 947
 948 # Check whether fio handles --zonemode=none --zonesize=1 correctly.
 949 test44() {
 950     read_one_block --zonemode=none --zonesize=1 |
 951         grep -q 'fio: --zonemode=none and --zonesize are not compatible'
 952 }
 953
 954 test45() {
 955     local bs i
 956
 957     require_zbd || return $SKIP_TESTCASE
 958     prep_write
 959     bs=$((logical_block_size))
 960     run_one_fio_job "$(ioengine "psync")" --iodepth=1 --rw=randwrite --bs=$bs\
 961                     --offset=$((first_sequential_zone_sector * 512)) \
 962                     --size="$zone_size" --do_verify=1 --verify=md5 2>&1 |
 963         tee -a "${logfile}.${test_number}" |
 964         grep -q "fio: first I/O failed. If .* is a zoned block device, consider --zonemode=zbd"
 965 }
 966
 967 # Random write to sequential zones, libaio, 8 jobs, queue depth 64 per job
 968 test46() {
 969     local size
 970
 971     prep_write
 972     size=$((4 * zone_size))
 973     run_fio_on_seq "$(ioengine "libaio")" --iodepth=64 --rw=randwrite --bs=4K \
 974                    --group_reporting=1 --numjobs=8 \
 975                    >> "${logfile}.${test_number}" 2>&1 || return $?
 976     check_written $((size * 8)) || return $?
 977 }
 978
 979 # Check whether fio handles --zonemode=zbd --zoneskip=1 correctly.
 980 test47() {
 981     local bs
 982
 983     prep_write
 984     bs=$((logical_block_size))
 985     run_fio_on_seq "$(ioengine "psync")" --rw=write --bs=$bs --zoneskip=1 \
 986                     >> "${logfile}.${test_number}" 2>&1 && return 1
 987     grep -q 'zoneskip 1 is not a multiple of the device zone size' "${logfile}.${test_number}"
 988 }
 989
 990 # Multiple overlapping random write jobs for the same drive and with a
 991 # limited number of open zones. This is similar to test29, but uses libaio
 992 # to stress test zone locking.
 993 test48() {
 994     local i jobs=16 off opts=()
 995
 996     require_zbd || return $SKIP_TESTCASE
 997     require_seq_zones 80 || return $SKIP_TESTCASE
 998
 999     off=$((first_sequential_zone_sector * 512 + 64 * zone_size))
1000     size=$((16*zone_size))
1001     prep_write
1002     opts=("--aux-path=/tmp" "--allow_file_create=0" "--significant_figures=10")
1003     opts+=("--debug=zbd")
1004     opts+=("$(ioengine "libaio")" "--rw=randwrite" "--direct=1")
1005     opts+=("--time_based" "--runtime=30")
1006     opts+=("--zonemode=zbd" "--zonesize=${zone_size}")
1007     opts+=("--max_open_zones=4")
1008     for ((i=0;i<jobs;i++)); do
1009         opts+=("--name=job$i" "--filename=$dev" "--offset=$off" "--bs=16K")
1010         opts+=("--io_size=$zone_size" "--iodepth=256" "--thread=1")
1011         opts+=("--size=$size" "--group_reporting=1")
1012         # max_open_zones is already specified
1013         opts+=($(job_var_opts_exclude "--max_open_zones"))
1014     done
1015
1016     fio=$(dirname "$0")/../../fio
1017
1018     { echo; echo "fio ${opts[*]}"; echo; } >>"${logfile}.${test_number}"
1019
1020     timeout -v -s KILL 180s \
1021             "${dynamic_analyzer[@]}" "$fio" "${opts[@]}" \
1022             >> "${logfile}.${test_number}" 2>&1 || return $?
1023 }
1024
1025 # Check if fio handles --zonecapacity on a normal block device correctly
1026 test49() {
1027
1028     require_regular_block_dev || return $SKIP_TESTCASE
1029
1030     size=$((2 * zone_size))
1031     capacity=$((zone_size * 3 / 4))
1032
1033     run_one_fio_job "$(ioengine "psync")" --rw=write \
1034                     --zonemode=zbd --zonesize="${zone_size}" \
1035                     --zonecapacity=${capacity} \
1036                     --verify=md5  --size=${size} >>"${logfile}.${test_number}" 2>&1 ||
1037         return $?
1038     check_written $((capacity * 2)) || return $?
1039     check_read $((capacity * 2)) || return $?
1040 }
1041
1042 # Verify that conv zones are not locked and only seq zones are locked during
1043 # random read on conv-seq mixed zones.
1044 test50() {
1045         local off
1046
1047         require_zbd || return $SKIP_TESTCASE
1048         require_conv_zones 8 || return $SKIP_TESTCASE
1049         require_seq_zones 8 || return $SKIP_TESTCASE
1050
1051         reset_zone "${dev}" -1
1052
1053         off=$((first_sequential_zone_sector * 512 - 8 * zone_size))
1054         run_fio --name=job --filename=${dev} --offset=${off} --bs=64K \
1055                 --size=$((16 * zone_size)) "$(ioengine "libaio")" --rw=randread\
1056                 --time_based --runtime=3 --zonemode=zbd --zonesize=${zone_size}\
1057                 --direct=1 --group_reporting=1 ${job_var_opts[@]} \
1058                 >> "${logfile}.${test_number}" 2>&1 || return $?
1059 }
1060
1061 # Verify that conv zones are neither locked nor opened during random write on
1062 # conv-seq mixed zones. Zone lock and zone open shall happen only on seq zones.
1063 test51() {
1064         local off jobs=16
1065         local -a opts
1066
1067         require_zbd || return $SKIP_TESTCASE
1068         require_conv_zones 8 || return $SKIP_TESTCASE
1069         require_seq_zones 8 || return $SKIP_TESTCASE
1070
1071         prep_write
1072
1073         off=$((first_sequential_zone_sector * 512 - 8 * zone_size))
1074         opts+=("--size=$((16 * zone_size))" "$(ioengine "libaio")")
1075         opts+=("--zonemode=zbd" "--direct=1" "--zonesize=${zone_size}")
1076         opts+=("--max_open_zones=2" "--offset=$off")
1077         opts+=("--thread=1" "--group_reporting=1")
1078         opts+=("--time_based" "--runtime=30" "--rw=randwrite")
1079         for ((i=0;i<jobs;i++)); do
1080                 opts+=("--name=job${i}" "--filename=$dev")
1081                 opts+=("--bs=$(((i+1)*16))K")
1082                 opts+=($(job_var_opts_exclude "--max_open_zones"))
1083         done
1084         run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
1085 }
1086
1087 # Verify that zone_reset_threshold only takes logical blocks from seq
1088 # zones into account, and logical blocks of conv zones are not counted.
1089 test52() {
1090         local off io_size
1091
1092         require_zbd || return $SKIP_TESTCASE
1093         require_conv_zones 8 || return $SKIP_TESTCASE
1094         require_seq_zones 8 || return $SKIP_TESTCASE
1095
1096         reset_zone "${dev}" -1
1097
1098         # Total I/O size is 1/8 = 0.125 of the I/O range of cont + seq zones.
1099         # Set zone_reset_threshold as 0.1. The threshold size is less than
1100         # 0.125, then, reset count zero is expected.
1101         # On the other hand, half of the I/O range is covered by conv zones.
1102         # If fio would count the conv zones for zone_reset_threshold, the ratio
1103         # were more than 0.5 and would trigger zone resets.
1104
1105         off=$((first_sequential_zone_sector * 512 - 8 * zone_size))
1106         io_size=$((zone_size * 16 / 8))
1107         run_fio --name=job --filename=$dev --rw=randwrite --bs=$((zone_size/16))\
1108                 --size=$((zone_size * 16)) --softrandommap=1 \
1109                 --io_size=$((io_size)) "$(ioengine "psync")" --offset=$off \
1110                 --zonemode=zbd --direct=1 --zonesize=${zone_size} \
1111                 --zone_reset_threshold=.1 --zone_reset_frequency=1.0 \
1112                 ${job_var_opts[@]} --debug=zbd \
1113                 >> "${logfile}.${test_number}" 2>&1 || return $?
1114
1115         check_written ${io_size} || return $?
1116         check_reset_count -eq 0 || return $?
1117 }
1118
1119 # Check both reads and writes are executed by random I/O to conventional zones.
1120 test53() {
1121         local off capacity io read_b=0 written_b=0
1122
1123         require_zbd || return $SKIP_TESTCASE
1124         require_conv_zones 4 || return $SKIP_TESTCASE
1125
1126         off=$((first_sequential_zone_sector * 512 - 4 * zone_size))
1127         capacity=$(total_zone_capacity 4 $off $dev)
1128         run_fio --name=job --filename=${dev} --rw=randrw --bs=64K \
1129                 --size=$((4 * zone_size)) "$(ioengine "psync")" --offset=${off}\
1130                 --zonemode=zbd --direct=1 --zonesize=${zone_size} \
1131                 ${job_var_opts[@]} \
1132                 >> "${logfile}.${test_number}" 2>&1 || return $?
1133
1134         written_b=$(fio_written <"${logfile}.${test_number}")
1135         read_b=$(fio_read <"${logfile}.${test_number}")
1136         io=$((written_b + read_b))
1137         echo "Number of bytes read: $read_b" >>"${logfile}.${test_number}"
1138         echo "Number of bytes written: $written_b" >>"${logfile}.${test_number}"
1139         echo "Total number of bytes read and written: $io <> $capacity" \
1140              >>"${logfile}.${test_number}"
1141         if ((io==capacity && written_b != 0 && read_b != 0)); then
1142                 return 0
1143         fi
1144         return 1
1145 }
1146
1147 # Test read/write mix with verify.
1148 test54() {
1149         require_zbd || return $SKIP_TESTCASE
1150         require_seq_zones 8 || return $SKIP_TESTCASE
1151
1152         run_fio --name=job --filename=${dev} "$(ioengine "libaio")" \
1153                 --time_based=1 --runtime=30s --continue_on_error=0 \
1154                 --offset=$((first_sequential_zone_sector * 512)) \
1155                 --size=$((8*zone_size)) --direct=1 --iodepth=1 \
1156                 --rw=randrw:2 --rwmixwrite=25 --bsrange=4k-${zone_size} \
1157                 --zonemode=zbd --zonesize=${zone_size} \
1158                 --verify=crc32c --do_verify=1 --verify_backlog=2 \
1159                 --experimental_verify=1 \
1160                 --alloc-size=65536 --random_generator=tausworthe64 \
1161                 ${job_var_opts[@]} --debug=zbd \
1162                 >> "${logfile}.${test_number}" 2>&1 || return $?
1163 }
1164
1165 # test 'z' suffix parsing only
1166 test55() {
1167         local bs
1168         bs=$((logical_block_size))
1169
1170         require_zbd || return $SKIP_TESTCASE
1171         # offset=1z + offset_increment=10z + size=2z
1172         require_seq_zones 13 || return $SKIP_TESTCASE
1173
1174         run_fio --name=j                \
1175                 --filename=${dev}       \
1176                 --direct=1              \
1177                 "$(ioengine "psync")"   \
1178                 --zonemode=zbd          \
1179                 --zonesize=${zone_size} \
1180                 --rw=write              \
1181                 --bs=${bs}              \
1182                 --numjobs=2             \
1183                 --offset_increment=10z  \
1184                 --offset=1z             \
1185                 --size=2z               \
1186                 --io_size=3z            \
1187                 ${job_var_opts[@]} --debug=zbd \
1188                 >> "${logfile}.${test_number}" 2>&1 || return $?
1189 }
1190
1191 # test 'z' suffix parsing only
1192 test56() {
1193         local bs
1194         bs=$((logical_block_size))
1195
1196         require_regular_block_dev || return $SKIP_TESTCASE
1197         require_seq_zones 10 || return $SKIP_TESTCASE
1198
1199         run_fio --name=j                \
1200                 --filename=${dev}       \
1201                 --direct=1              \
1202                 "$(ioengine "psync")"   \
1203                 --zonemode=strided      \
1204                 --zonesize=${zone_size} \
1205                 --rw=write              \
1206                 --bs=${bs}              \
1207                 --size=10z              \
1208                 --zoneskip=2z           \
1209                 ${job_var_opts[@]} --debug=zbd \
1210                 >> "${logfile}.${test_number}" 2>&1 || return $?
1211 }
1212
1213 # Test that repeated async write job does not cause zone reset during writes
1214 # in-flight, when the block size is not a divisor of the zone size.
1215 test57() {
1216         local bs off
1217
1218         require_zbd || return $SKIP_TESTCASE
1219
1220         bs=$((4096 * 7))
1221         off=$((first_sequential_zone_sector * 512))
1222
1223         run_fio --name=job --filename="${dev}" --rw=randwrite --bs="${bs}" \
1224                 --offset="${off}" --size=$((4 * zone_size)) --iodepth=256 \
1225                 "$(ioengine "libaio")" --time_based=1 --runtime=30s \
1226                 --zonemode=zbd --direct=1 --zonesize="${zone_size}" \
1227                 ${job_var_opts[@]} \
1228                 >> "${logfile}.${test_number}" 2>&1 || return $?
1229 }
1230
1231 # Random writes and random trims to sequential write required zones for 30s.
1232 test58() {
1233     local off size bs
1234
1235     require_seq_zones 128 || return $SKIP_TESTCASE
1236
1237     size=$((zone_size * 128))
1238     bs="$(max $((zone_size / 128)) "$logical_block_size")"
1239     prep_write
1240     off=$((first_sequential_zone_sector * 512))
1241     run_fio --zonemode=zbd --direct=1 --zonesize="${zone_size}" --thread=1 \
1242             --filename="${dev}" --norandommap=1 \
1243             --name="precondition"  --rw=write "$(ioengine "psync")" \
1244             --offset="${off}" --size=$((zone_size * 16)) --bs="${bs}" \
1245             "${job_var_opts[@]}" \
1246             --name=wjob --wait_for="precondition" --rw=randwrite \
1247             "$(ioengine "libaio")" --iodepth=8 \
1248             --offset="${off}" --size="${size}" --bs="${bs}" \
1249             --time_based --runtime=30s --flow=128 "${job_var_opts[@]}" \
1250             --name=trimjob --wait_for="precondition" --rw=randtrim \
1251             "$(ioengine "psync")" \
1252             --offset="${off}" --size="${size}" --bs="${zone_size}" \
1253             --time_based --runtime=30s --flow=1 "${job_var_opts[@]}" \
1254             >>"${logfile}.${test_number}" 2>&1
1255 }
1256
1257 SECONDS=0
1258 tests=()
1259 dynamic_analyzer=()
1260 reset_all_zones=
1261 reset_before_write=
1262 use_libzbc=
1263 zbd_debug=
1264 max_open_zones_opt=
1265 quit_on_err=
1266
1267 while [ "${1#-}" != "$1" ]; do
1268   case "$1" in
1269     -d) dynamic_analyzer=(valgrind "--read-var-info=yes" "--tool=drd"
1270                           "--show-confl-seg=no");
1271         shift;;
1272     -e) dynamic_analyzer=(valgrind "--read-var-info=yes" "--tool=helgrind");
1273         shift;;
1274     -l) use_libzbc=1; shift;;
1275     -r) reset_all_zones=1; shift;;
1276     -w) reset_before_write=1; shift;;
1277     -t) tests+=("$2"); shift; shift;;
1278     -o) max_open_zones_opt="${2}"; shift; shift;;
1279     -v) dynamic_analyzer=(valgrind "--read-var-info=yes");
1280         shift;;
1281     -q) quit_on_err=1; shift;;
1282     -z) zbd_debug=1; shift;;
1283     --) shift; break;;
1284      *) usage; exit 1;;
1285   esac
1286 done
1287
1288 if [ $# != 1 ]; then
1289     usage
1290     exit 1
1291 fi
1292
1293 # shellcheck source=functions
1294 source "$(dirname "$0")/functions" || exit $?
1295
1296 global_var_opts=()
1297 job_var_opts=()
1298 if [ -n "$zbd_debug" ]; then
1299     global_var_opts+=("--debug=zbd")
1300 fi
1301 dev=$1
1302 realdev=$(readlink -f "$dev")
1303 basename=$(basename "$realdev")
1304
1305 if [[ -b "$realdev" ]]; then
1306         major=$((0x$(stat -L -c '%t' "$realdev"))) || exit $?
1307         minor=$((0x$(stat -L -c '%T' "$realdev"))) || exit $?
1308         disk_size=$(($(<"/sys/dev/block/$major:$minor/size")*512))
1309
1310         # When the target is a partition device, get basename of its
1311         # holder device to access sysfs path of the holder device
1312         if [[ -r "/sys/dev/block/$major:$minor/partition" ]]; then
1313                 realsysfs=$(readlink "/sys/dev/block/$major:$minor")
1314                 basename=$(basename "${realsysfs%/*}")
1315         fi
1316         logical_block_size=$(<"/sys/block/$basename/queue/logical_block_size")
1317         case "$(<"/sys/class/block/$basename/queue/zoned")" in
1318         host-managed|host-aware)
1319                 is_zbd=true
1320                 if ! check_blkzone "${dev}"; then
1321                         exit 1
1322                 fi
1323                 if ! result=($(first_sequential_zone "$dev")); then
1324                         echo "Failed to determine first sequential zone"
1325                         exit 1
1326                 fi
1327                 first_sequential_zone_sector=${result[0]}
1328                 sectors_per_zone=${result[1]}
1329                 zone_size=$((sectors_per_zone * 512))
1330                 if ! max_open_zones=$(max_open_zones "$dev"); then
1331                         echo "Failed to determine maximum number of open zones"
1332                         exit 1
1333                 fi
1334                 set_io_scheduler "$basename" deadline || exit $?
1335                 if [ -n "$reset_all_zones" ]; then
1336                         reset_zone "$dev" -1
1337                 fi
1338                 ;;
1339         *)
1340                 first_sequential_zone_sector=$(((disk_size / 2) &
1341                                                 (logical_block_size - 1)))
1342                 zone_size=$(max 65536 "$logical_block_size")
1343                 sectors_per_zone=$((zone_size / 512))
1344                 max_open_zones=128
1345                 set_io_scheduler "$basename" none || exit $?
1346                 ;;
1347         esac
1348 elif [[ -c "$realdev" ]]; then
1349         # For an SG node, we must have libzbc option specified
1350         if [[ ! -n "$use_libzbc" ]]; then
1351                 echo "Character device files can only be used with -l (libzbc) option"
1352                 exit 1
1353         fi
1354
1355         if ! $(is_zbc "$dev"); then
1356                 echo "Device is not a ZBC disk"
1357                 exit 1
1358         fi
1359         is_zbd=true
1360
1361         if ! disk_size=($(( $(zbc_disk_sectors "$dev") * 512))); then
1362                 echo "Failed to determine disk size"
1363                 exit 1
1364         fi
1365         if ! logical_block_size=($(zbc_logical_block_size "$dev")); then
1366                 echo "Failed to determine logical block size"
1367                 exit 1
1368         fi
1369         if ! result=($(first_sequential_zone "$dev")); then
1370                 echo "Failed to determine first sequential zone"
1371                 exit 1
1372         fi
1373         first_sequential_zone_sector=${result[0]}
1374         sectors_per_zone=${result[1]}
1375         zone_size=$((sectors_per_zone * 512))
1376         if ! max_open_zones=$(max_open_zones "$dev"); then
1377                 echo "Failed to determine maximum number of open zones"
1378                 exit 1
1379         fi
1380         if [ -n "$reset_all_zones" ]; then
1381                 reset_zone "$dev" -1
1382         fi
1383 fi
1384
1385 if [[ -n ${max_open_zones_opt} ]]; then
1386         # Override max_open_zones with the script option value
1387         max_open_zones="${max_open_zones_opt}"
1388         global_var_opts+=("--ignore_zone_limits=1")
1389         job_var_opts+=("--max_open_zones=${max_open_zones_opt}")
1390 fi
1391
1392 echo -n "First sequential zone starts at sector $first_sequential_zone_sector;"
1393 echo " zone size: $((zone_size >> 20)) MB"
1394
1395 zone_cap_bs=$(zone_cap_bs "$dev" "$zone_size")
1396
1397 if [ "${#tests[@]}" = 0 ]; then
1398     readarray -t tests < <(declare -F | grep "test[0-9]*" | \
1399                                    tr -c -d "[:digit:]\n" | sort -n)
1400 fi
1401
1402 logfile=$0.log
1403
1404 passed=0
1405 skipped=0
1406 failed=0
1407 if [ -t 1 ]; then
1408     red="\e[1;31m"
1409     green="\e[1;32m"
1410     cyan="\e[1;36m"
1411     end="\e[m"
1412 else
1413     red=""
1414     green=""
1415     end=""
1416 fi
1417 rc=0
1418
1419 intr=0
1420 trap 'intr=1' SIGINT
1421 ret=0
1422
1423 for test_number in "${tests[@]}"; do
1424     rm -f "${logfile}.${test_number}"
1425     unset SKIP_REASON
1426     echo -n "Running test $(printf "%02d" $test_number) ... "
1427     eval "test$test_number"
1428     ret=$?
1429     if ((!ret)) && check_log $test_number; then
1430         status="PASS"
1431         cc_status="${green}${status}${end}"
1432         ((passed++))
1433     elif ((ret==SKIP_TESTCASE)); then
1434         status="SKIP"
1435         echo "${SKIP_REASON}" >> "${logfile}.${test_number}"
1436         cc_status="${cyan}${status}${end}    ${SKIP_REASON}"
1437         ((skipped++))
1438     else
1439         status="FAIL"
1440         cc_status="${red}${status}${end}"
1441         ((failed++))
1442         rc=1
1443     fi
1444     echo -e "$cc_status"
1445     echo "$status" >> "${logfile}.${test_number}"
1446     [ $intr -ne 0 ] && exit 1
1447     [ -n "$quit_on_err" -a "$rc" -ne 0 ] && exit 1
1448 done
1449
1450 echo "$passed tests passed"
1451 if [ $skipped -gt 0 ]; then
1452     echo " $skipped tests skipped"
1453 fi
1454 if [ $failed -gt 0 ]; then
1455     echo " $failed tests failed"
1456 fi
1457 echo "Run time: $(TZ=UTC0 printf "%(%H:%M:%S)T\n" $(( SECONDS )) )"
1458 exit $rc