t/zbd: test that conventional zones are not locked during random i/o
[fio.git] / t / zbd / test-zbd-support
1 #!/bin/bash
2 #
3 # Copyright (C) 2018 Western Digital Corporation or its affiliates.
4 #
5 # This file is released under the GPL.
6
7 usage() {
8         echo "Usage: $(basename "$0") [OPTIONS] <test target device file>"
9         echo "Options:"
10         echo -e "\t-d Run fio with valgrind using DRD tool"
11         echo -e "\t-e Run fio with valgrind using helgrind tool"
12         echo -e "\t-v Run fio with valgrind --read-var-info option"
13         echo -e "\t-l Test with libzbc ioengine"
14         echo -e "\t-r Reset all zones before test start"
15         echo -e "\t-o <max_open_zones> Run fio with max_open_zones limit"
16         echo -e "\t-t <test #> Run only a single test case with specified number"
17         echo -e "\t-z Run fio with debug=zbd option"
18 }
19
20 max() {
21     if [ "$1" -gt "$2" ]; then
22         echo "$1"
23     else
24         echo "$2"
25     fi
26 }
27
28 min() {
29     if [ "$1" -lt "$2" ]; then
30         echo "$1"
31     else
32         echo "$2"
33     fi
34 }
35
36 ioengine() {
37         if [ -n "$use_libzbc" ]; then
38                 echo -n "--ioengine=libzbc"
39         else
40                 echo -n "--ioengine=$1"
41         fi
42 }
43
44 set_io_scheduler() {
45     local dev=$1 sched=$2
46
47     [ -e "/sys/block/$dev" ] || return $?
48     if [ -e "/sys/block/$dev/mq" ]; then
49         case "$sched" in
50             noop)        sched=none;;
51             deadline)    sched=mq-deadline;;
52         esac
53     else
54         case "$sched" in
55             none)        sched=noop;;
56             mq-deadline) sched=deadline;;
57         esac
58     fi
59
60     echo "$sched" >"/sys/block/$dev/queue/scheduler"
61 }
62
63 check_read() {
64     local read
65
66     read=$(fio_read <"${logfile}.${test_number}")
67     echo "read: $read <> $1" >> "${logfile}.${test_number}"
68     [ "$read" = "$1" ]
69 }
70
71 check_written() {
72     local written
73
74     written=$(fio_written <"${logfile}.${test_number}")
75     echo "written: $written <> $1" >> "${logfile}.${test_number}"
76     [ "$written" = "$1" ]
77 }
78
79 # Compare the reset count from the log file with reset count $2 using operator
80 # $1 (=, -ge, -gt, -le, -lt).
81 check_reset_count() {
82     local reset_count
83
84     reset_count=$(fio_reset_count <"${logfile}.${test_number}")
85     echo "reset_count: test $reset_count $1 $2" >> "${logfile}.${test_number}"
86     eval "[ '$reset_count' '$1' '$2' ]"
87 }
88
89 # Check log for failed assertions and crashes. Without these checks,
90 # a test can succeed even when these events happen, but it must fail.
91 check_log() {
92      [ ! -f "${logfile}.${1}" ] && return 0
93      ! grep -q -e "Assertion " -e "Aborted " "${logfile}.${1}"
94 }
95
96 # Whether or not $1 (/dev/...) is a SCSI device.
97 is_scsi_device() {
98     local d f
99
100     d=$(basename "$dev")
101     for f in /sys/class/scsi_device/*/device/block/"$d"; do
102         [ -e "$f" ] && return 0
103     done
104     return 1
105 }
106
107 job_var_opts_exclude() {
108         local o
109         local ex_key="${1}"
110
111         for o in "${job_var_opts[@]}"; do
112                 if [[ ${o} =~ "${ex_key}" ]]; then
113                         continue
114                 fi
115                 echo -n "${o}"
116         done
117 }
118
119 has_max_open_zones() {
120         while (($# > 1)); do
121                 if [[ ${1} =~ "--max_open_zones" ]]; then
122                         return 0
123                 fi
124                 shift
125         done
126         return 1
127 }
128
129 run_fio() {
130     local fio opts
131
132     fio=$(dirname "$0")/../../fio
133
134     opts=(${global_var_opts[@]})
135     opts+=("--max-jobs=16" "--aux-path=/tmp" "--allow_file_create=0" \
136                            "--significant_figures=10" "$@")
137     # When max_open_zones option is specified to this test script, add
138     # max_open_zones option to fio command unless the test case already add it.
139     if [[ -n ${max_open_zones_opt} ]] && ! has_max_open_zones "${opts[@]}"; then
140             opts+=("--max_open_zones=${max_open_zones_opt}")
141     fi
142     { echo; echo "fio ${opts[*]}"; echo; } >>"${logfile}.${test_number}"
143
144     "${dynamic_analyzer[@]}" "$fio" "${opts[@]}"
145 }
146
147 run_one_fio_job() {
148     local r
149
150     r=$(((RANDOM << 16) | RANDOM))
151     run_fio --name="$dev" --filename="$dev" "$@" --randseed="$r"        \
152             --thread=1 --direct=1
153 }
154
155 write_and_run_one_fio_job() {
156     local r
157     local write_offset="${1}"
158     local write_size="${2}"
159     local -a write_opts
160
161     shift 2
162     r=$(((RANDOM << 16) | RANDOM))
163     write_opts=(--name="write_job" --rw=write "$(ioengine "psync")" \
164                       --bs="${logical_block_size}" --zonemode=zbd \
165                       --zonesize="${zone_size}" --thread=1 --direct=1 \
166                       --offset="${write_offset}" --size="${write_size}")
167     write_opts+=("${job_var_opts[@]}")
168     run_fio --filename="$dev" --randseed="$r" "${write_opts[@]}" \
169             --name="$dev" --wait_for="write_job" "$@" --thread=1 --direct=1
170 }
171
172 # Run fio on the first four sequential zones of the disk.
173 run_fio_on_seq() {
174     local opts=()
175
176     opts+=("--offset=$((first_sequential_zone_sector * 512))")
177     opts+=("--size=$((4 * zone_size))" "--zonemode=zbd")
178     if [ -z "$is_zbd" ]; then
179         opts+=("--zonesize=${zone_size}")
180     fi
181     run_one_fio_job "${opts[@]}" "$@"
182 }
183
184 # Prepare for write test by resetting zones. When max_open_zones option is
185 # specified, reset all zones of the test target to ensure that zones out of the
186 # test target range do not have open zones. This allows the write test to the
187 # target range to be able to open zones up to max_open_zones.
188 prep_write() {
189         [[ -n "${max_open_zones_opt}" && -n "${is_zbd}" ]] &&
190                 reset_zone "${dev}" -1
191 }
192
193 SKIP_TESTCASE=255
194
195 require_scsi_dev() {
196         if ! is_scsi_device "$dev"; then
197                 SKIP_REASON="$dev is not a SCSI device"
198                 return 1
199         fi
200         return 0
201 }
202
203 require_conv_zone_bytes() {
204         local req_bytes=${1}
205
206         if ((req_bytes > first_sequential_zone_sector * 512)); then
207                 SKIP_REASON="$dev does not have enough conventional zones"
208                 return 1
209         fi
210         return 0
211 }
212
213 require_zbd() {
214         if [[ -z ${is_zbd} ]]; then
215                 SKIP_REASON="$dev is not a zoned block device"
216                 return 1
217         fi
218         return 0
219 }
220
221 require_regular_block_dev() {
222         if [[ -n ${is_zbd} ]]; then
223                 SKIP_REASON="$dev is not a regular block device"
224                 return 1
225         fi
226         return 0
227 }
228
229 require_seq_zones() {
230         local req_seq_zones=${1}
231         local seq_bytes=$((disk_size - first_sequential_zone_sector * 512))
232
233         if ((req_seq_zones > seq_bytes / zone_size)); then
234                 SKIP_REASON="$dev does not have $req_seq_zones sequential zones"
235                 return 1
236         fi
237         return 0
238 }
239
240 require_conv_zones() {
241         local req_c_zones=${1}
242         local conv_bytes=$((first_sequential_zone_sector * 512))
243
244         if ((req_c_zones > conv_bytes / zone_size)); then
245                 SKIP_REASON="$dev does not have $req_c_zones conventional zones"
246                 return 1
247         fi
248         return 0
249 }
250
251 # Check whether buffered writes are refused.
252 test1() {
253     run_fio --name=job1 --filename="$dev" --rw=write --direct=0 --bs=4K \
254             "$(ioengine "psync")" --size="${zone_size}" --thread=1      \
255             --zonemode=zbd --zonesize="${zone_size}" 2>&1 |
256         tee -a "${logfile}.${test_number}" |
257         grep -q 'Using direct I/O is mandatory for writing to ZBD drives'
258     local fio_rc=${PIPESTATUS[0]} grep_rc=${PIPESTATUS[2]}
259     case "$fio_rc" in
260         0|1) ;;
261         *)   return "$fio_rc"
262     esac
263     if [ -n "$is_zbd" ]; then
264         [ "$grep_rc" = 0 ]
265     else
266         [ "$grep_rc" != 0 ]
267     fi
268 }
269
270 # Block size exceeds zone size.
271 test2() {
272     local bs off opts=() rc
273
274     off=$(((first_sequential_zone_sector + 2 * sectors_per_zone) * 512))
275     bs=$((2 * zone_size))
276     opts+=("$(ioengine "psync")")
277     opts+=("--name=job1" "--filename=$dev" "--rw=write" "--direct=1")
278     opts+=("--zonemode=zbd" "--offset=$off" "--bs=$bs" "--size=$bs")
279     if [ -z "$is_zbd" ]; then
280         opts+=("--zonesize=${zone_size}")
281     fi
282     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 && return 1
283     grep -q 'buflen exceeds zone size' "${logfile}.${test_number}"
284 }
285
286 # Run fio against an empty zone. This causes fio to report "No I/O performed".
287 test3() {
288     local off opts=() rc
289
290     require_seq_zones 129 || return $SKIP_TESTCASE
291     off=$((first_sequential_zone_sector * 512 + 128 * zone_size))
292     size=$((zone_size))
293     [ -n "$is_zbd" ] && reset_zone "$dev" $((off / 512))
294     opts+=("--name=$dev" "--filename=$dev" "--offset=$off" "--bs=4K")
295     opts+=("--size=$size" "--zonemode=zbd")
296     opts+=("$(ioengine "psync")" "--rw=read" "--direct=1" "--thread=1")
297     if [ -z "$is_zbd" ]; then
298         opts+=("--zonesize=${zone_size}")
299     fi
300     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
301     ! grep -q 'READ:' "${logfile}.${test_number}"
302 }
303
304 # Run fio with --read_beyond_wp=1 against an empty zone.
305 test4() {
306     local off opts=()
307
308     require_seq_zones 130 || return $SKIP_TESTCASE
309     off=$((first_sequential_zone_sector * 512 + 129 * zone_size))
310     size=$((zone_size))
311     [ -n "$is_zbd" ] && reset_zone "$dev" $((off / 512))
312     opts+=("--name=$dev" "--filename=$dev" "--offset=$off" "--bs=$size")
313     opts+=("--size=$size" "--thread=1" "--read_beyond_wp=1")
314     opts+=("$(ioengine "psync")" "--rw=read" "--direct=1" "--disable_lat=1")
315     opts+=("--zonemode=zbd" "--zonesize=${zone_size}")
316     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
317     check_read $size || return $?
318 }
319
320 # Sequential write to sequential zones.
321 test5() {
322     local size off capacity
323
324     prep_write
325     off=$((first_sequential_zone_sector * 512))
326     capacity=$(total_zone_capacity 4 $off $dev)
327     size=$((4 * zone_size))
328     run_fio_on_seq "$(ioengine "psync")" --iodepth=1 --rw=write \
329                    --bs="$(max $((zone_size / 64)) "$logical_block_size")"\
330                    --do_verify=1 --verify=md5                           \
331                    >>"${logfile}.${test_number}" 2>&1 || return $?
332     check_written $capacity || return $?
333     check_read $capacity || return $?
334 }
335
336 # Sequential read from sequential zones.
337 test6() {
338     local size off capacity
339
340     prep_write
341     off=$((first_sequential_zone_sector * 512))
342     capacity=$(total_zone_capacity 4 $off $dev)
343     size=$((4 * zone_size))
344     write_and_run_one_fio_job \
345             $((first_sequential_zone_sector * 512)) "${size}" \
346             --offset="${off}" \
347             --size="${size}" --zonemode=zbd --zonesize="${zone_size}" \
348             "$(ioengine "psync")" --iodepth=1 --rw=read \
349             --bs="$(max $((zone_size / 64)) "$logical_block_size")" \
350             >>"${logfile}.${test_number}" 2>&1 || return $?
351     check_read $capacity || return $?
352 }
353
354 # Random write to sequential zones, libaio, queue depth 1.
355 test7() {
356     local size=$((zone_size))
357     local off capacity
358
359     prep_write
360     off=$((first_sequential_zone_sector * 512))
361     capacity=$(total_zone_capacity 1 $off $dev)
362     run_fio_on_seq "$(ioengine "libaio")" --iodepth=1 --rw=randwrite    \
363                    --bs="$(min 16384 "${zone_size}")"                   \
364                    --do_verify=1 --verify=md5 --size="$size"            \
365                    >>"${logfile}.${test_number}" 2>&1 || return $?
366     check_written $capacity || return $?
367     check_read $capacity || return $?
368 }
369
370 # Random write to sequential zones, libaio, queue depth 64.
371 test8() {
372     local size off capacity
373
374     prep_write
375     size=$((4 * zone_size))
376     off=$((first_sequential_zone_sector * 512))
377     capacity=$(total_zone_capacity 4 $off $dev)
378     run_fio_on_seq "$(ioengine "libaio")" --iodepth=64 --rw=randwrite   \
379                    --bs="$(min 16384 "${zone_size}")"                   \
380                    --do_verify=1 --verify=md5                           \
381                    >>"${logfile}.${test_number}" 2>&1 || return $?
382     check_written $capacity || return $?
383     check_read $capacity || return $?
384 }
385
386 # Random write to sequential zones, sg, queue depth 1.
387 test9() {
388     local size
389
390     require_scsi_dev || return $SKIP_TESTCASE
391
392     prep_write
393     size=$((4 * zone_size))
394     run_fio_on_seq --ioengine=sg                                        \
395                    --iodepth=1 --rw=randwrite --bs=16K                  \
396                    --do_verify=1 --verify=md5                           \
397                    >>"${logfile}.${test_number}" 2>&1 || return $?
398     check_written $size || return $?
399     check_read $size || return $?
400 }
401
402 # Random write to sequential zones, sg, queue depth 64.
403 test10() {
404     local size
405
406     require_scsi_dev || return $SKIP_TESTCASE
407
408     prep_write
409     size=$((4 * zone_size))
410     run_fio_on_seq --ioengine=sg                                        \
411                    --iodepth=64 --rw=randwrite --bs=16K                 \
412                    --do_verify=1 --verify=md5                           \
413                    >>"${logfile}.${test_number}" 2>&1 || return $?
414     check_written $size || return $?
415     check_read $size || return $?
416 }
417
418 # Random write to sequential zones, libaio, queue depth 64, random block size.
419 test11() {
420     local size off capacity
421
422     prep_write
423     size=$((4 * zone_size))
424     off=$((first_sequential_zone_sector * 512))
425     capacity=$(total_zone_capacity 4 $off $dev)
426     run_fio_on_seq "$(ioengine "libaio")" --iodepth=64 --rw=randwrite   \
427                    --bsrange=4K-64K --do_verify=1 --verify=md5          \
428                    --debug=zbd >>"${logfile}.${test_number}" 2>&1 || return $?
429     check_written $capacity || return $?
430     check_read $capacity || return $?
431 }
432
433 # Random write to sequential zones, libaio, queue depth 64, max 1 open zone.
434 test12() {
435     local size off capacity
436
437     prep_write
438     size=$((8 * zone_size))
439     off=$((first_sequential_zone_sector * 512))
440     capacity=$(total_zone_capacity 8 $off $dev)
441     run_fio_on_seq "$(ioengine "libaio")" --iodepth=64 --rw=randwrite --bs=16K \
442                    --max_open_zones=1 --size=$size --do_verify=1 --verify=md5 \
443                    --debug=zbd >>"${logfile}.${test_number}" 2>&1 || return $?
444     check_written $capacity || return $?
445     check_read $capacity || return $?
446 }
447
448 # Random write to sequential zones, libaio, queue depth 64, max 4 open zones.
449 test13() {
450     local size off capacity
451
452     prep_write
453     size=$((8 * zone_size))
454     off=$((first_sequential_zone_sector * 512))
455     capacity=$(total_zone_capacity 8 $off $dev)
456     run_fio_on_seq "$(ioengine "libaio")" --iodepth=64 --rw=randwrite --bs=16K \
457                    --max_open_zones=4 --size=$size --do_verify=1 --verify=md5 \
458                    --debug=zbd                                                \
459                    >>"${logfile}.${test_number}" 2>&1 || return $?
460     check_written $capacity || return $?
461     check_read $capacity || return $?
462 }
463
464 # Random write to conventional zones.
465 test14() {
466     local size
467
468     prep_write
469     size=$((16 * 2**20)) # 20 MB
470     require_conv_zone_bytes "${size}" || return $SKIP_TESTCASE
471
472     run_one_fio_job "$(ioengine "libaio")" --iodepth=64 --rw=randwrite --bs=16K \
473                     --zonemode=zbd --zonesize="${zone_size}" --do_verify=1 \
474                     --verify=md5 --size=$size                              \
475                     >>"${logfile}.${test_number}" 2>&1 || return $?
476     check_written $((size)) || return $?
477     check_read $((size)) || return $?
478 }
479
480 # Sequential read on a mix of empty and full zones.
481 test15() {
482     local i off size
483     local w_off w_size w_capacity
484
485     for ((i=0;i<4;i++)); do
486         [ -n "$is_zbd" ] &&
487             reset_zone "$dev" $((first_sequential_zone_sector +
488                                  i*sectors_per_zone))
489     done
490     prep_write
491     w_off=$(((first_sequential_zone_sector + 2 * sectors_per_zone) * 512))
492     w_size=$((2 * zone_size))
493     w_capacity=$(total_zone_capacity 2 $w_off $dev)
494     off=$((first_sequential_zone_sector * 512))
495     size=$((4 * zone_size))
496     write_and_run_one_fio_job "${w_off}" "${w_size}" \
497                     "$(ioengine "psync")" --rw=read --bs=$((zone_size / 16)) \
498                     --zonemode=zbd --zonesize="${zone_size}" --offset=$off \
499                     --size=$((size)) >>"${logfile}.${test_number}" 2>&1 ||
500         return $?
501     check_written $((w_capacity)) || return $?
502     check_read $((w_capacity))
503 }
504
505 # Random read on a mix of empty and full zones.
506 test16() {
507     local off size
508     local i w_off w_size w_capacity
509
510     for ((i=0;i<4;i++)); do
511         [ -n "$is_zbd" ] &&
512             reset_zone "$dev" $((first_sequential_zone_sector +
513                                  i*sectors_per_zone))
514     done
515     prep_write
516     w_off=$(((first_sequential_zone_sector + 2 * sectors_per_zone) * 512))
517     w_size=$((2 * zone_size))
518     w_capacity=$(total_zone_capacity 2 $w_off $dev)
519     off=$((first_sequential_zone_sector * 512))
520     size=$((4 * zone_size))
521     write_and_run_one_fio_job "${w_off}" "${w_size}" \
522                     "$(ioengine "libaio")" --iodepth=64 --rw=randread --bs=16K \
523                     --zonemode=zbd --zonesize="${zone_size}" --offset=$off \
524                     --size=$size >>"${logfile}.${test_number}" 2>&1 || return $?
525     check_written $w_capacity || return $?
526     check_read $size || return $?
527 }
528
529 # Random reads and writes in the last zone.
530 test17() {
531     local io off read size written
532
533     off=$(((disk_size / zone_size - 1) * zone_size))
534     size=$((disk_size - off))
535     if [ -n "$is_zbd" ]; then
536         reset_zone "$dev" $((off / 512)) || return $?
537     fi
538     prep_write
539     run_one_fio_job "$(ioengine "libaio")" --iodepth=8 --rw=randrw --bs=4K \
540                     --zonemode=zbd --zonesize="${zone_size}"            \
541                     --offset=$off --loops=2 --norandommap=1\
542                     >>"${logfile}.${test_number}" 2>&1 || return $?
543     written=$(fio_written <"${logfile}.${test_number}")
544     read=$(fio_read <"${logfile}.${test_number}")
545     io=$((written + read))
546     echo "Total number of bytes read and written: $io <> $size" \
547          >>"${logfile}.${test_number}"
548     [ $io = $((size * 2)) ];
549 }
550
551 # Out-of-range zone reset threshold and frequency parameters.
552 test18() {
553     run_fio_on_seq --zone_reset_threshold=-1 |&
554         tee -a "${logfile}.${test_number}"   |
555             grep -q 'value out of range' || return $?
556 }
557
558 test19() {
559     run_fio_on_seq --zone_reset_threshold=2  |&
560         tee -a "${logfile}.${test_number}"   |
561         grep -q 'value out of range' || return $?
562 }
563
564 test20() {
565     run_fio_on_seq --zone_reset_threshold=.4:.6 |&
566         tee -a "${logfile}.${test_number}"   |
567         grep -q 'the list exceeding max length' || return $?
568 }
569
570 test21() {
571     run_fio_on_seq --zone_reset_frequency=-1 |&
572         tee -a "${logfile}.${test_number}"   |
573         grep -q 'value out of range' || return $?
574 }
575
576 test22() {
577     run_fio_on_seq --zone_reset_frequency=2  |&
578         tee -a "${logfile}.${test_number}"   |
579         grep -q 'value out of range' || return $?
580 }
581
582 test23() {
583     run_fio_on_seq --zone_reset_frequency=.4:.6  |&
584         tee -a "${logfile}.${test_number}"   |
585         grep -q 'the list exceeding max length' || return $?
586 }
587
588 test24() {
589     local bs loops=9 size=$((zone_size))
590     local off capacity
591
592     prep_write
593     off=$((first_sequential_zone_sector * 512))
594     capacity=$(total_zone_capacity 1 $off $dev)
595
596     bs=$(min $((256*1024)) "$zone_size")
597     run_fio_on_seq "$(ioengine "psync")" --rw=write --bs="$bs"          \
598                    --size=$size --loops=$loops                          \
599                    --zone_reset_frequency=.01 --zone_reset_threshold=.90 \
600                    >> "${logfile}.${test_number}" 2>&1 || return $?
601     check_written $((capacity * loops)) || return $?
602     check_reset_count -eq 8 ||
603         check_reset_count -eq 9 ||
604         check_reset_count -eq 10 || return $?
605 }
606
607 # Multiple non-overlapping sequential write jobs for the same drive.
608 test25() {
609     local i opts=()
610
611     for ((i=0;i<16;i++)); do
612         [ -n "$is_zbd" ] &&
613             reset_zone "$dev" $((first_sequential_zone_sector + i*sectors_per_zone))
614     done
615     prep_write
616     for ((i=0;i<16;i++)); do
617         opts+=("--name=job$i" "--filename=$dev" "--thread=1" "--direct=1")
618         opts+=("--offset=$((first_sequential_zone_sector*512 + zone_size*i))")
619         opts+=("--size=$zone_size" "$(ioengine "psync")" "--rw=write" "--bs=16K")
620         opts+=("--zonemode=zbd" "--zonesize=${zone_size}" "--group_reporting=1")
621         opts+=(${job_var_opts[@]})
622     done
623     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
624 }
625
626 write_to_first_seq_zone() {
627     local loops=4 r
628     local off capacity
629
630     prep_write
631     off=$((first_sequential_zone_sector * 512))
632     capacity=$(total_zone_capacity 1 $off $dev)
633
634     r=$(((RANDOM << 16) | RANDOM))
635     run_fio --name="$dev" --filename="$dev" "$(ioengine "psync")" --rw="$1" \
636             --thread=1 --do_verify=1 --verify=md5 --direct=1 --bs=4K    \
637             --offset=$off                                               \
638             --size=$zone_size --loops=$loops --randseed="$r"            \
639             --zonemode=zbd --zonesize="${zone_size}" --group_reporting=1        \
640             --gtod_reduce=1 >> "${logfile}.${test_number}" 2>&1 || return $?
641     check_written $((loops * capacity)) || return $?
642 }
643
644 # Overwrite the first sequential zone four times sequentially.
645 test26() {
646     write_to_first_seq_zone write
647 }
648
649 # Overwrite the first sequential zone four times using random writes.
650 test27() {
651     write_to_first_seq_zone randwrite
652 }
653
654 # Multiple overlapping random write jobs for the same drive.
655 test28() {
656     local i jobs=16 off opts
657
658     require_seq_zones 65 || return $SKIP_TESTCASE
659     off=$((first_sequential_zone_sector * 512 + 64 * zone_size))
660     [ -n "$is_zbd" ] && reset_zone "$dev" $((off / 512))
661     prep_write
662     opts=("--debug=zbd")
663     capacity=$(total_zone_capacity 1 $off $dev)
664     for ((i=0;i<jobs;i++)); do
665         opts+=("--name=job$i" "--filename=$dev" "--offset=$off" "--bs=16K")
666         opts+=("--size=$zone_size" "--io_size=$capacity" "$(ioengine "psync")" "--rw=randwrite")
667         opts+=("--thread=1" "--direct=1" "--zonemode=zbd")
668         opts+=("--zonesize=${zone_size}" "--group_reporting=1")
669         opts+=(${job_var_opts[@]})
670     done
671     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
672     check_written $((jobs * $capacity)) || return $?
673     check_reset_count -eq $jobs ||
674         check_reset_count -eq $((jobs - 1)) ||
675         return $?
676 }
677
678 # Multiple overlapping random write jobs for the same drive and with a limited
679 # number of open zones.
680 test29() {
681     local i jobs=16 off opts=()
682
683     require_seq_zones 80 || return $SKIP_TESTCASE
684     off=$((first_sequential_zone_sector * 512 + 64 * zone_size))
685     size=$((16*zone_size))
686     prep_write
687     opts=("--debug=zbd")
688     for ((i=0;i<jobs;i++)); do
689         opts+=("--name=job$i" "--filename=$dev" "--offset=$off" "--bs=16K")
690         opts+=("--size=$size" "--io_size=$zone_size" "--thread=1")
691         opts+=("$(ioengine "psync")" "--rw=randwrite" "--direct=1")
692         opts+=("--max_open_zones=4" "--group_reporting=1")
693         opts+=("--zonemode=zbd" "--zonesize=${zone_size}")
694         # max_open_zones is already specified
695         opts+=($(job_var_opts_exclude "--max_open_zones"))
696     done
697     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
698     check_written $((jobs * zone_size)) || return $?
699 }
700
701 # Random reads and writes across the entire disk for 30s.
702 test30() {
703     local off
704
705     prep_write
706     off=$((first_sequential_zone_sector * 512))
707     run_one_fio_job "$(ioengine "libaio")" --iodepth=8 --rw=randrw      \
708                     --bs="$(max $((zone_size / 128)) "$logical_block_size")"\
709                     --zonemode=zbd --zonesize="${zone_size}" --offset=$off\
710                     --loops=2 --time_based --runtime=30s --norandommap=1\
711                     >>"${logfile}.${test_number}" 2>&1
712 }
713
714 # Random reads across all sequential zones for 30s. This is not only a fio
715 # test but also allows to verify the performance of a drive.
716 test31() {
717     local bs inc nz off opts size
718
719     prep_write
720     # Start with writing 128 KB to 128 sequential zones.
721     bs=128K
722     nz=128
723     # shellcheck disable=SC2017
724     inc=$(((disk_size - (first_sequential_zone_sector * 512)) / (nz * zone_size)
725            * zone_size))
726     opts=()
727     for ((off = first_sequential_zone_sector * 512; off < disk_size;
728           off += inc)); do
729         opts+=("--name=$dev" "--filename=$dev" "--offset=$off" "--io_size=$bs")
730         opts+=("--bs=$bs" "--size=$zone_size" "$(ioengine "libaio")")
731         opts+=("--rw=write" "--direct=1" "--thread=1" "--stats=0")
732         opts+=("--zonemode=zbd" "--zonesize=${zone_size}")
733         opts+=(${job_var_opts[@]})
734     done
735     "$(dirname "$0")/../../fio" "${opts[@]}" >> "${logfile}.${test_number}" 2>&1
736     # Next, run the test.
737     off=$((first_sequential_zone_sector * 512))
738     size=$((disk_size - off))
739     opts=("--name=$dev" "--filename=$dev" "--offset=$off" "--size=$size")
740     opts+=("--bs=$bs" "$(ioengine "psync")" "--rw=randread" "--direct=1")
741     opts+=("--thread=1" "--time_based" "--runtime=30" "--zonemode=zbd")
742     opts+=("--zonesize=${zone_size}")
743     opts+=(${job_var_opts[@]})
744     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
745 }
746
747 # Random writes across all sequential zones. This is not only a fio test but
748 # also allows to verify the performance of a drive.
749 test32() {
750     local off opts=() size
751
752     require_zbd || return $SKIP_TESTCASE
753
754     prep_write
755     off=$((first_sequential_zone_sector * 512))
756     size=$((disk_size - off))
757     opts+=("--name=$dev" "--filename=$dev" "--offset=$off" "--size=$size")
758     opts+=("--bs=128K" "$(ioengine "psync")" "--rw=randwrite" "--direct=1")
759     opts+=("--thread=1" "--time_based" "--runtime=30")
760     opts+=("--max_open_zones=$max_open_zones" "--zonemode=zbd")
761     opts+=("--zonesize=${zone_size}")
762     run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
763 }
764
765 # Write to sequential zones with a block size that is not a divisor of the
766 # zone size.
767 test33() {
768     local bs io_size size
769     local off capacity=0;
770
771     prep_write
772     off=$((first_sequential_zone_sector * 512))
773     capacity=$(total_zone_capacity 1 $off $dev)
774     size=$((2 * zone_size))
775     io_size=$((5 * capacity))
776     bs=$((3 * capacity / 4))
777     run_fio_on_seq "$(ioengine "psync")" --iodepth=1 --rw=write \
778                    --size=$size --io_size=$io_size --bs=$bs     \
779                    >> "${logfile}.${test_number}" 2>&1 || return $?
780     check_written $(((io_size + bs - 1) / bs * bs)) || return $?
781 }
782
783 # Write to sequential zones with a block size that is not a divisor of the
784 # zone size and with data verification enabled.
785 test34() {
786     local size
787
788     prep_write
789     size=$((2 * zone_size))
790     run_fio_on_seq "$(ioengine "psync")" --iodepth=1 --rw=write --size=$size \
791                    --do_verify=1 --verify=md5 --bs=$((3 * zone_size / 4)) \
792                    >> "${logfile}.${test_number}" 2>&1 && return 1
793     grep -q 'not a divisor of' "${logfile}.${test_number}"
794 }
795
796 # Test 1/4 for the I/O boundary rounding code: $size < $zone_size.
797 test35() {
798     local bs off io_size size
799
800     prep_write
801     off=$(((first_sequential_zone_sector + 1) * 512))
802     size=$((zone_size - 2 * 512))
803     bs=$((zone_size / 4))
804     run_one_fio_job --offset=$off --size=$size "$(ioengine "psync")"    \
805                     --iodepth=1 --rw=write --do_verify=1 --verify=md5   \
806                     --bs=$bs --zonemode=zbd --zonesize="${zone_size}"   \
807                     >> "${logfile}.${test_number}" 2>&1 && return 1
808     grep -q 'io_size must be at least one zone' "${logfile}.${test_number}"
809 }
810
811 # Test 2/4 for the I/O boundary rounding code: $size < $zone_size.
812 test36() {
813     local bs off io_size size
814
815     prep_write
816     off=$(((first_sequential_zone_sector) * 512))
817     size=$((zone_size - 512))
818     bs=$((zone_size / 4))
819     run_one_fio_job --offset=$off --size=$size "$(ioengine "psync")"    \
820                     --iodepth=1 --rw=write --do_verify=1 --verify=md5   \
821                     --bs=$bs --zonemode=zbd --zonesize="${zone_size}"   \
822                     >> "${logfile}.${test_number}" 2>&1 && return 1
823     grep -q 'io_size must be at least one zone' "${logfile}.${test_number}"
824 }
825
826 # Test 3/4 for the I/O boundary rounding code: $size > $zone_size.
827 test37() {
828     local bs off size capacity
829
830     prep_write
831     capacity=$(total_zone_capacity 1 $first_sequential_zone_sector $dev)
832     if [ "$first_sequential_zone_sector" = 0 ]; then
833         off=0
834     else
835         off=$(((first_sequential_zone_sector - 1) * 512))
836     fi
837     size=$((zone_size + 2 * 512))
838     bs=$((zone_size / 4))
839     run_one_fio_job --offset=$off --size=$size "$(ioengine "psync")"    \
840                     --iodepth=1 --rw=write --do_verify=1 --verify=md5   \
841                     --bs=$bs --zonemode=zbd --zonesize="${zone_size}"   \
842                     >> "${logfile}.${test_number}" 2>&1
843     check_written $capacity || return $?
844 }
845
846 # Test 4/4 for the I/O boundary rounding code: $offset > $disk_size - $zone_size
847 test38() {
848     local bs off size
849
850     prep_write
851     size=$((logical_block_size))
852     off=$((disk_size - logical_block_size))
853     bs=$((logical_block_size))
854     run_one_fio_job --offset=$off --size=$size "$(ioengine "psync")"    \
855                     --iodepth=1 --rw=write --do_verify=1 --verify=md5   \
856                     --bs=$bs --zonemode=zbd --zonesize="${zone_size}"   \
857                     >> "${logfile}.${test_number}" 2>&1 && return 1
858     grep -q 'io_size must be at least one zone' "${logfile}.${test_number}"
859 }
860
861 # Read one block from a block device.
862 read_one_block() {
863     local bs
864
865     bs=$((logical_block_size))
866     run_one_fio_job --rw=read "$(ioengine "psync")" --bs=$bs --size=$bs "$@" 2>&1 |
867         tee -a "${logfile}.${test_number}"
868 }
869
870 # Check whether fio accepts --zonemode=none for zoned block devices.
871 test39() {
872     require_zbd || return $SKIP_TESTCASE
873     read_one_block --zonemode=none >/dev/null || return $?
874     check_read $((logical_block_size)) || return $?
875 }
876
877 # Check whether fio accepts --zonemode=strided for zoned block devices.
878 test40() {
879     local bs
880
881     bs=$((logical_block_size))
882     require_zbd || return $SKIP_TESTCASE
883     read_one_block --zonemode=strided |
884         grep -q 'fio: --zonesize must be specified when using --zonemode=strided' ||
885         return $?
886     read_one_block --zonemode=strided --zonesize=$bs >/dev/null || return $?
887     check_read $bs || return $?
888 }
889
890 # Check whether fio checks the zone size for zoned block devices.
891 test41() {
892     require_zbd || return $SKIP_TESTCASE
893     read_one_block --zonemode=zbd --zonesize=$((2 * zone_size)) |
894         grep -q 'job parameter zonesize.*does not match disk zone size'
895 }
896
897 # Check whether fio handles --zonesize=0 correctly for regular block devices.
898 test42() {
899     require_regular_block_dev || return $SKIP_TESTCASE
900     read_one_block --zonemode=zbd --zonesize=0 |
901         grep -q 'Specifying the zone size is mandatory for regular block devices with --zonemode=zbd'
902 }
903
904 # Check whether fio handles --zonesize=1 correctly for regular block devices.
905 test43() {
906     require_regular_block_dev || return $SKIP_TESTCASE
907     read_one_block --zonemode=zbd --zonesize=1 |
908         grep -q 'zone size must be at least 512 bytes for --zonemode=zbd'
909 }
910
911 # Check whether fio handles --zonemode=none --zonesize=1 correctly.
912 test44() {
913     read_one_block --zonemode=none --zonesize=1 |
914         grep -q 'fio: --zonemode=none and --zonesize are not compatible'
915 }
916
917 test45() {
918     local bs i
919
920     require_zbd || return $SKIP_TESTCASE
921     prep_write
922     bs=$((logical_block_size))
923     run_one_fio_job "$(ioengine "psync")" --iodepth=1 --rw=randwrite --bs=$bs\
924                     --offset=$((first_sequential_zone_sector * 512)) \
925                     --size="$zone_size" --do_verify=1 --verify=md5 2>&1 |
926         tee -a "${logfile}.${test_number}" |
927         grep -q "fio: first I/O failed. If .* is a zoned block device, consider --zonemode=zbd"
928 }
929
930 # Random write to sequential zones, libaio, 8 jobs, queue depth 64 per job
931 test46() {
932     local size
933
934     prep_write
935     size=$((4 * zone_size))
936     run_fio_on_seq "$(ioengine "libaio")" --iodepth=64 --rw=randwrite --bs=4K \
937                    --group_reporting=1 --numjobs=8 \
938                    >> "${logfile}.${test_number}" 2>&1 || return $?
939     check_written $((size * 8)) || return $?
940 }
941
942 # Check whether fio handles --zonemode=zbd --zoneskip=1 correctly.
943 test47() {
944     local bs
945
946     prep_write
947     bs=$((logical_block_size))
948     run_fio_on_seq "$(ioengine "psync")" --rw=write --bs=$bs --zoneskip=1 \
949                     >> "${logfile}.${test_number}" 2>&1 && return 1
950     grep -q 'zoneskip 1 is not a multiple of the device zone size' "${logfile}.${test_number}"
951 }
952
953 # Multiple overlapping random write jobs for the same drive and with a
954 # limited number of open zones. This is similar to test29, but uses libaio
955 # to stress test zone locking.
956 test48() {
957     local i jobs=16 off opts=()
958
959     require_zbd || return $SKIP_TESTCASE
960     require_seq_zones 80 || return $SKIP_TESTCASE
961
962     off=$((first_sequential_zone_sector * 512 + 64 * zone_size))
963     size=$((16*zone_size))
964     prep_write
965     opts=("--aux-path=/tmp" "--allow_file_create=0" "--significant_figures=10")
966     opts+=("--debug=zbd")
967     opts+=("$(ioengine "libaio")" "--rw=randwrite" "--direct=1")
968     opts+=("--time_based" "--runtime=30")
969     opts+=("--zonemode=zbd" "--zonesize=${zone_size}")
970     opts+=("--max_open_zones=4")
971     for ((i=0;i<jobs;i++)); do
972         opts+=("--name=job$i" "--filename=$dev" "--offset=$off" "--bs=16K")
973         opts+=("--io_size=$zone_size" "--iodepth=256" "--thread=1")
974         opts+=("--size=$size" "--group_reporting=1")
975         # max_open_zones is already specified
976         opts+=($(job_var_opts_exclude "--max_open_zones"))
977     done
978
979     fio=$(dirname "$0")/../../fio
980
981     { echo; echo "fio ${opts[*]}"; echo; } >>"${logfile}.${test_number}"
982
983     timeout -v -s KILL 45s \
984             "${dynamic_analyzer[@]}" "$fio" "${opts[@]}" \
985             >> "${logfile}.${test_number}" 2>&1 || return $?
986 }
987
988 # Check if fio handles --zonecapacity on a normal block device correctly
989 test49() {
990
991     require_regular_block_dev || return $SKIP_TESTCASE
992
993     size=$((2 * zone_size))
994     capacity=$((zone_size * 3 / 4))
995
996     run_one_fio_job "$(ioengine "psync")" --rw=write \
997                     --zonemode=zbd --zonesize="${zone_size}" \
998                     --zonecapacity=${capacity} \
999                     --verify=md5  --size=${size} >>"${logfile}.${test_number}" 2>&1 ||
1000         return $?
1001     check_written $((capacity * 2)) || return $?
1002     check_read $((capacity * 2)) || return $?
1003 }
1004
1005 # Verify that conv zones are not locked and only seq zones are locked during
1006 # random read on conv-seq mixed zones.
1007 test50() {
1008         local off
1009
1010         require_zbd || return $SKIP_TESTCASE
1011         require_conv_zones 8 || return $SKIP_TESTCASE
1012         require_seq_zones 8 || return $SKIP_TESTCASE
1013
1014         reset_zone "${dev}" -1
1015
1016         off=$((first_sequential_zone_sector * 512 - 8 * zone_size))
1017         run_fio --name=job --filename=${dev} --offset=${off} --bs=64K \
1018                 --size=$((16 * zone_size)) "$(ioengine "libaio")" --rw=randread\
1019                 --time_based --runtime=3 --zonemode=zbd --zonesize=${zone_size}\
1020                 --direct=1 --group_reporting=1 ${job_var_opts[@]} \
1021                 >> "${logfile}.${test_number}" 2>&1 || return $?
1022 }
1023
1024 # Verify that conv zones are neither locked nor opened during random write on
1025 # conv-seq mixed zones. Zone lock and zone open shall happen only on seq zones.
1026 test51() {
1027         local off jobs=16
1028         local -a opts
1029
1030         require_zbd || return $SKIP_TESTCASE
1031         require_conv_zones 8 || return $SKIP_TESTCASE
1032         require_seq_zones 8 || return $SKIP_TESTCASE
1033
1034         prep_write
1035
1036         off=$((first_sequential_zone_sector * 512 - 8 * zone_size))
1037         opts+=("--size=$((16 * zone_size))" "$(ioengine "libaio")")
1038         opts+=("--zonemode=zbd" "--direct=1" "--zonesize=${zone_size}")
1039         opts+=("--max_open_zones=2" "--offset=$off")
1040         opts+=("--thread=1" "--group_reporting=1")
1041         opts+=("--time_based" "--runtime=30" "--rw=randwrite")
1042         for ((i=0;i<jobs;i++)); do
1043                 opts+=("--name=job${i}" "--filename=$dev")
1044                 opts+=("--bs=$(((i+1)*16))K")
1045                 opts+=($(job_var_opts_exclude "--max_open_zones"))
1046         done
1047         run_fio "${opts[@]}" >> "${logfile}.${test_number}" 2>&1 || return $?
1048 }
1049
1050 tests=()
1051 dynamic_analyzer=()
1052 reset_all_zones=
1053 use_libzbc=
1054 zbd_debug=
1055 max_open_zones_opt=
1056
1057 while [ "${1#-}" != "$1" ]; do
1058   case "$1" in
1059     -d) dynamic_analyzer=(valgrind "--read-var-info=yes" "--tool=drd"
1060                           "--show-confl-seg=no");
1061         shift;;
1062     -e) dynamic_analyzer=(valgrind "--read-var-info=yes" "--tool=helgrind");
1063         shift;;
1064     -l) use_libzbc=1; shift;;
1065     -r) reset_all_zones=1; shift;;
1066     -t) tests+=("$2"); shift; shift;;
1067     -o) max_open_zones_opt="${2}"; shift; shift;;
1068     -v) dynamic_analyzer=(valgrind "--read-var-info=yes");
1069         shift;;
1070     -z) zbd_debug=1; shift;;
1071     --) shift; break;;
1072   esac
1073 done
1074
1075 if [ $# != 1 ]; then
1076     usage
1077     exit 1
1078 fi
1079
1080 # shellcheck source=functions
1081 source "$(dirname "$0")/functions" || exit $?
1082
1083 global_var_opts=()
1084 job_var_opts=()
1085 if [ -n "$zbd_debug" ]; then
1086     global_var_opts+=("--debug=zbd")
1087 fi
1088 dev=$1
1089 realdev=$(readlink -f "$dev")
1090 basename=$(basename "$realdev")
1091
1092 if [[ -b "$realdev" ]]; then
1093         major=$((0x$(stat -L -c '%t' "$realdev"))) || exit $?
1094         minor=$((0x$(stat -L -c '%T' "$realdev"))) || exit $?
1095         disk_size=$(($(<"/sys/dev/block/$major:$minor/size")*512))
1096
1097         # When the target is a partition device, get basename of its
1098         # holder device to access sysfs path of the holder device
1099         if [[ -r "/sys/dev/block/$major:$minor/partition" ]]; then
1100                 realsysfs=$(readlink "/sys/dev/block/$major:$minor")
1101                 basename=$(basename "${realsysfs%/*}")
1102         fi
1103         logical_block_size=$(<"/sys/block/$basename/queue/logical_block_size")
1104         case "$(<"/sys/class/block/$basename/queue/zoned")" in
1105         host-managed|host-aware)
1106                 is_zbd=true
1107                 if ! check_blkzone "${dev}"; then
1108                         exit 1
1109                 fi
1110                 if ! result=($(first_sequential_zone "$dev")); then
1111                         echo "Failed to determine first sequential zone"
1112                         exit 1
1113                 fi
1114                 first_sequential_zone_sector=${result[0]}
1115                 sectors_per_zone=${result[1]}
1116                 zone_size=$((sectors_per_zone * 512))
1117                 if ! max_open_zones=$(max_open_zones "$dev"); then
1118                         echo "Failed to determine maximum number of open zones"
1119                         exit 1
1120                 fi
1121                 set_io_scheduler "$basename" deadline || exit $?
1122                 if [ -n "$reset_all_zones" ]; then
1123                         reset_zone "$dev" -1
1124                 fi
1125                 ;;
1126         *)
1127                 first_sequential_zone_sector=$(((disk_size / 2) &
1128                                                 (logical_block_size - 1)))
1129                 zone_size=$(max 65536 "$logical_block_size")
1130                 sectors_per_zone=$((zone_size / 512))
1131                 max_open_zones=128
1132                 set_io_scheduler "$basename" none || exit $?
1133                 ;;
1134         esac
1135 elif [[ -c "$realdev" ]]; then
1136         # For an SG node, we must have libzbc option specified
1137         if [[ ! -n "$use_libzbc" ]]; then
1138                 echo "Character device files can only be used with -l (libzbc) option"
1139                 exit 1
1140         fi
1141
1142         if ! $(is_zbc "$dev"); then
1143                 echo "Device is not a ZBC disk"
1144                 exit 1
1145         fi
1146         is_zbd=true
1147
1148         if ! disk_size=($(( $(zbc_disk_sectors "$dev") * 512))); then
1149                 echo "Failed to determine disk size"
1150                 exit 1
1151         fi
1152         if ! logical_block_size=($(zbc_logical_block_size "$dev")); then
1153                 echo "Failed to determine logical block size"
1154                 exit 1
1155         fi
1156         if ! result=($(first_sequential_zone "$dev")); then
1157                 echo "Failed to determine first sequential zone"
1158                 exit 1
1159         fi
1160         first_sequential_zone_sector=${result[0]}
1161         sectors_per_zone=${result[1]}
1162         zone_size=$((sectors_per_zone * 512))
1163         if ! max_open_zones=$(max_open_zones "$dev"); then
1164                 echo "Failed to determine maximum number of open zones"
1165                 exit 1
1166         fi
1167         if [ -n "$reset_all_zones" ]; then
1168                 reset_zone "$dev" -1
1169         fi
1170 fi
1171
1172 if [[ -n ${max_open_zones_opt} ]]; then
1173         # Override max_open_zones with the script option value
1174         max_open_zones="${max_open_zones_opt}"
1175         job_var_opts+=("--max_open_zones=${max_open_zones_opt}")
1176 fi
1177
1178 echo -n "First sequential zone starts at sector $first_sequential_zone_sector;"
1179 echo " zone size: $((zone_size >> 20)) MB"
1180
1181 if [ "${#tests[@]}" = 0 ]; then
1182     readarray -t tests < <(declare -F | grep "test[0-9]*" | \
1183                                    tr -c -d "[:digit:]\n" | sort -n)
1184 fi
1185
1186 logfile=$0.log
1187
1188 passed=0
1189 skipped=0
1190 failed=0
1191 if [ -t 1 ]; then
1192     red="\e[1;31m"
1193     green="\e[1;32m"
1194     cyan="\e[1;36m"
1195     end="\e[m"
1196 else
1197     red=""
1198     green=""
1199     end=""
1200 fi
1201 rc=0
1202
1203 intr=0
1204 trap 'intr=1' SIGINT
1205 ret=0
1206
1207 for test_number in "${tests[@]}"; do
1208     rm -f "${logfile}.${test_number}"
1209     unset SKIP_REASON
1210     echo -n "Running test $(printf "%02d" $test_number) ... "
1211     eval "test$test_number"
1212     ret=$?
1213     if ((!ret)) && check_log $test_number; then
1214         status="PASS"
1215         cc_status="${green}${status}${end}"
1216         ((passed++))
1217     elif ((ret==SKIP_TESTCASE)); then
1218         status="SKIP"
1219         echo "${SKIP_REASON}" >> "${logfile}.${test_number}"
1220         cc_status="${cyan}${status}${end}    ${SKIP_REASON}"
1221         ((skipped++))
1222     else
1223         status="FAIL"
1224         cc_status="${red}${status}${end}"
1225         ((failed++))
1226         rc=1
1227     fi
1228     echo -e "$cc_status"
1229     echo "$status" >> "${logfile}.${test_number}"
1230     [ $intr -ne 0 ] && exit 1
1231 done
1232
1233 echo "$passed tests passed"
1234 if [ $skipped -gt 0 ]; then
1235     echo " $skipped tests skipped"
1236 fi
1237 if [ $failed -gt 0 ]; then
1238     echo " $failed tests failed"
1239 fi
1240 exit $rc