implement zoned random I/O testing support

This fixes the limitation that prevents fio from doing random I/O with zones
enabled.

This also adds a 'zonerange' configuration option which may be too ambiguous
and is subject to potential renaming in the future.

When doing random I/O, it is beneficial to be able to specify how large the
addressible space is in the zone, while specifying a different metric for
how much data to read from that zone (i.e., how many samples to take from each
zone). When 'zonerange' is not specified, it defaults to be equal to the
'zonesize' option. When both are specified, 'zonerange' indicates the
size of the zone while 'zonesize' indicates the quantity of data to read from
each zone.

Signed-off-by: Steven Noonan <snoonan@amazon.com>
Signed-off-by: Jens Axboe <axboe@kernel.dk>

fix early termination of runs caused by ramp_time > runtime

If ramp_time was longer than the runtime, then the run terminated immediately
after the ramp_time was exceeded. In order to avoid this, teach
runtime_exceeded about ramp_time.

Signed-off-by: Steven Noonan <snoonan@amazon.com>
Signed-off-by: Jens Axboe <axboe@kernel.dk>

windows: use SYSTEMDRIVE instead of hard-coding C:

This allows FIO.bat to work on a system with multiple copies of Windows
installed.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix segfault with net io engine and no file/hostname given

Signed-off-by: Jens Axboe <axboe@kernel.dk>

fix net engine client read server write bug

The net engine was updated with specific 'listen' parameter which used
for identifying whether it is a tcp server, instead of previous
'rw=read' side must be the server. This let fio support bi-direction
net io test. fio_netio_open_file() has to follow this
principle. Otherwise, the following tcp client 'rw=read' and tcp
server 'rw=write' case doesn't work.

[global]
ioengine=net
port=8888
protocol=tcp
bs=4k
size=10g

[server]
listen
rw=write

[client]
hostname=localhost
startdelay=1
rw=read

BTW, examples/netio needs 'listen' and 'hostname' adjusted.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fio 2.0

1.9x seems to have settled, so lets tag 2.0. This also just happens
to be on the 6th year anniversary of Fio 1.1, the first officially
tagged release!

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Remove debug/broken assert() in the IOPS logging code

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fio 1.99.13

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Only log the period mean if we have samples

We can't use the mean value to determine that, it could in theory
be 0.0 and still have valid samples.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add log_avg_msec option

By default, fio will note an entry in the bw/iops/lat logs for every
IO that is completed. This quickly eats up a lot of disk space
for long running jobs. By setting this option to eg 1000, fio will
average the results logged over 1 second instead. This reduces the
resolution of the log, but makes it more manageable.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Use the reentrant getmntent_r instead of getmntent

The function find_cgroup_mnt() could be called under multithread scenario, so
we should use the reentrant edition getmntent_r() instead of getmntent().

E.g, without this fix the output for below job file is wrong.

[root@localhost blkio-test]# cat small-read-file
[global]
ioengine=sync
direct=1
rw=read
bs=4k
filename=/dev/sdb
time_based
runtime=60
cgroup=small
cgroup_weight=500
numjobs=32
group_reporting
thread

[file1]

Then fio randomly says:
[cut here]
Starting 32 threads
fio: cgroup blkio does not appear to be mounted
fio: cgroup blkio does not appear to be mounted
fio: cgroup blkio does not appear to be mounted

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix initialization of lastrate when using ratemin

fio was copying td->bw_sample_time (single timeval) into td->lastrate
(array of two timevals) using the latter's size. Thus is would get one
timeval worth of good data plus who-knows-what for the second timeval.
I'm pretty sure the intent of this code was to copy bw_sample_time
into both members of lastrate.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Expand continue_on_error to select which type of error to allow

This expands the continue_on_error option to take a string specifying
what type of error to continue on, breaking out errors into read,
write, and verify.  (Sync, trim, and anything else not specifically a
read are considered write operations for the sake of error
continuation.)

Backwards compatibility is retained by allowing =0 and =1 values to
specify none and all, respectively.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix parsing of ioengine strings

This cleans up parsing of FIO_OPT_STR_STORE options which have defined
values (IE ioengine).  I made a few assumptions here...

1. If FIO_OPT_STR_STORE was used, that means a copy of the string is
desired, so it is always copied if the offset is non-zero.
2. If the values were the only allowed values, then FIO_OPT_STR would
have been used; therefore it is not an error to give a value not in
the list.
3. If an option callback is defined, then any values are ignored and
the callback is called to parse the string.  (Don't think this
currently applies, anywhere, but there is precendent in other options
skipping normal parsing if a callback is used.)
4. If no offsets are defined, and no callback is given, the behavior
is undefined - though this patch handles it cleanly and still calls
value callbacks; though I believe fio will still complain about a bad
options structure.

This fixes two cases (Restores it to previous behavior without
breaking new functionality).
1. External ioengines (The patch to a .so is never in the list of
possible values, so was never matching)
2. IO engines compiled in but not in the list in options.c

This patch should be applied to the 1.5x stable branch as well, though
it doesn't apply cleanly due to one line difference from my last
options patch.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fio 1.99.12

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix crash when attempting to dupe options

If the engine has extended options but isn't loaded, boom.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Update examples/netio to new option format

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fio 1.99.11

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Private parameters for ioengines

Here is the polished version of the engine private options patch.  As
discussed, the global section only ever tracks the private options for
the globally defined ioengine.  For command line parameters, the
ioengine must be selected before any private options are used.  (IE
--ioengine=libaio --userspace_reap will work, but --userspace_reap
--ioengine=libaio will not.)

The userspace_reap option from libaio has been moved over to this new
option method, usage should be identical to before.
The net ioengine has been modified to use parameters, with hostname,
port, protocol and listen defined as ioengine private parameters.  The
old style of hostname=host,port,protocol no longer works, so usage
will need to be updated.  (It will spit out an error that should be
clear enough that it changed if this is tried.)  Also, with the new
way for specifying parameters, the net IO engine now allows data to
flow in either direction on TCP connections, regardless of which end
initiates the connection.

There's also a new command line argument --enghelp which can be used
to get help on ioengine private parameters, similar to --cmdhelp.
With no argument, it lists all built-in ioengine.  The argument is an
ioengine name (Or path to .so) and optionally a comma followed by a
command name, which behaves identically to --cmdhelp.

For ioengine authorship, if options are supplied, both the options
structure and the size of the storage needed must be supplied, and the
storage must be large enough to hold a pointer to struct thread_data;
that is because the options callback doesn't explicitly have a pointer
to the thread data (Normally it relies on the fact that the options
struct is the start of the thread data), so the offset 0 of the struct
must point to the thread data, and is filled in automatically.  (This
also neatly provides a guarantee that offset 0 is reserved in the
options data, so it can be safely used as a test of undefined.)

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Improve accuracy of rate= option

I noticed that the rate= option is not terribly precise in some cases.
 It gets worse the higher the selected rate.  For example:
$ fio -name=load -size=100g -ioengine=null -runtime=10 -rate=30m
One would expect that to read 300MB (307200KB) at close to 30MB/s
(30720KB/s).  However it writes 315024KB at 31499KB/s.  Further
experimentation shows that even higher rates can show bigger
discrepancies.  At the extreme end...
$ fio -name=load -size=100g -ioengine=null -runtime=10 -rate=500m
One would expect this to write 5000MB at a rate of 500MB/s
(512000KB/s).  However it writes close to double that (9536.8MB) at a
rate of over 953MB/s.  At a rate of 1GB/s and higher, the rate
limiting is effectively ignored.

This patch improves the accuracy of the rate= option across the whole
range of rates, at the cost of being very slightly more
computationally expensive.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Usage typo

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix big endian build

I get the following error when building fio on PowerPC:

client.c: In function ‘convert_agg’:
client.c:641:22: error: invalid operands to binary & (have ‘long double’ and ‘long long unsigned int’)

It looks like we have things backwards, we should byteswap the
integer value before we convert it to a double.

Signed-off-by: Anton Blanchard <anton@samba.org>
Signed-off-by: Jens Axboe <axboe@kernel.dk>

Cleanup option keyword/environment substitution

Right now the substitution for options seems quite fragile.  Among the
issues...

- If bc had an error and returned no output, it caused a NULL reference
- Multiple variable substitutions (For example $ncpus * $pagesize)
caused an error as it tried to run bc after the first, with the second
still text
- Memory leak for every keyword substituted
- Multiplication caused shell wildcard expansion (*) of the current
directory when passing the input to bc
- Shell escape sequences would be parsed on the command line when bc is called
- Potential buffer overrun due to unchecked lengths on the input line

So I did a little cleanup to get rid of the issues.  This patch also
moves the environment variable substitution to run before the keyword
substitution, so an environment variable can now indirectly perform a
keyword substitution.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fio 1.99.10

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix segfault with verify_async

At some point the filename was added to the report on verify failures,
however this broke verify_async, as the file pointer on the io_u is
set to NULL before the verify thread sees the io_u.  The result is a
segfault when there is a verify mismatch.

This patch changes the semantics of a deferred free (IO_U_F_FREE_DEF)
to have already called put_file, but not set the file pointer to NULL.
 This is safe to do as the file list is only freed after all the
verify threads have been terminated.

FYI - this is the minimal config to cause the error this patch fixes,
and is what I used to test the fix.  (Not using thread still causes a
segfault, but it is reported more subtly since just a sub-process hits
it.)

[segv]
ioengine=null
size=4k
verify=meta
rw=read
thread
verify_async=1

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Make verify_dump off by default

It's a change of behaviour, so it should be off by default.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add core for verify_dump option

The verify_dump option is defined and documented, but does nothing.
This one-liner enables the option.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

server: cleanup fio_server_parse_string()

Signed-off-by: Jens Axboe <axboe@kernel.dk>

server: document fio_server_parse_string()

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client/server: IPv6 support

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix io_u->buf calculation overflow

Jagadish reports:

----

following are the details of the bug in fio.

This bug in fio can show up as corruption of data when performing verify.

Description:
----------------

if  the product of block size and queudepth is greater than 4GB, io_u
buffer will not
be assigned properly due to overflow.

fio --bsrange=256k-4m --ioengine=libaio --iodepth=2064 --direct=1
--name=job3 --offset=2GB --size=14GB --rw=write
--verify_pattern=0xdeadbeef --filename=/dev/sdb

can show false corruption.

Version:
-----------
1.58

Explanation:
-----------------

in a loop fio tries to assign the data buffer to each i/o request.

static int init_io_u(struct thread_data *td)
{
        struct io_u *io_u;
        unsigned int max_bs;
        int cl_align, i, max_units;
        char *p;
...
         p = td->orig_buffer;
...
         for (i = 0; i < max_units; i++) {
...
                    io_u->buf = p + max_bs * i;
         }
}

at max_bs=4M i=1024, the integer overflows and the addresses are being
used again.
i,e i/o request 1024 will have the same data buffer as that of i/o request 0.

This is seen from fio debug log.

mem 11164 io_u alloc 0x219f530, index 0
mem 11164 io_u 0x219f530, mem 0x7f09bb62d000
mem 11164 io_u alloc 0x219f820, index 1
mem 11164 io_u 0x219f820, mem 0x7f09bba2d000

mem 11164 io_u alloc 0x225b530, index 1024
mem 11164 io_u 0x225b530, mem 0x7f09bb62d000
mem 11164 io_u alloc 0x225b820, index 1025
mem 11164 io_u 0x225b820, mem 0x7f09bba2d000

the fix is as follows:

                        io_u->buf = p + (unsigned long long)max_bs * i;

----

Fix this by continually incrementing 'p' instead, avoiding
the overflow as well.

Reported-by: Jagadish Kumar <jagadish.mukku@gmail.com>
Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix clat latency terse output

The fio HOWTO shows Completion latency percentiles as coming after
Completion latency stats and before total latency stats.

Completion latency percentiles are actually after total latency stats
and before BW stats.

Patch moves completion percentiles to before total latency stats.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fio 1.99.9

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Turn old debug printf() into a proper log_err()

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix klibc getopt_long_only() for optional arguments

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix OSX build

os.h needs to include sys/socket.h.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix printf() being used instead of log_info()

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix error in disk util stats for terse output

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Update command line usage help

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add terse version 2 output format

Default is the new format, but allow a user to set version 2 for
easier backwards compatability with older scripts.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fio 1.99.8

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix possible use-after-free on client disconnect

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client: pass back server side error to client exit value

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client/server: send back nr_jobs and error exit code

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix problem with mixing is_backend and terse_output

Always send disk util and group_run_stats, even if terse
output got set in the server. Also fixes a disk util leak
for !terse_output.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix fragmented package opcode mismatch

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Don't request ETA until server has started jobs

Otherwise we time out when file layout takes >= 5 seconds.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix strip blank space for empty string

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix off-by-one in fgets() size

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fio 1.99.7

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Pretty up output a bit

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Memory leak fixes

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Scale bw output to MB/sec if larger than 99999 KB/sec

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add fio version to terse output

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Only print ts->description if set for non-terse output

Identical to commit 4b0f2258, but for non-terse output.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Man page typo

.B -> .BI

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Update man page

Include all command line options.

Add section on client/server. It needs to be formatted properly,
though.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fio 1.99.6

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Check string length of ts->description, not value

It's no longer a pointer. Fix a buglet in the terse output
printing.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Move IEEE754 support code to lib/

It's not strictly core code.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add disk utilization to terse format output

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add completion latency percentiles to terse output format

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Don't output version for terse output

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add IOPS to terse output

Bump the terse version format. There will be a few more changes
until version 3 is final, but since it's already changed now,
flag it as a different version. Consider this terse version 3 alpha.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Update TODO

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Silence uninitialized mem warning on disk_util send

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Break double loop on end-of-clat percentiles

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client/server: add support for passing disk_util structures

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Adapt clat percentiles for min/max values

Decide between using msec or usec based on the calculated values.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Disable clat percentiles if gtod_reduce=1 is set

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Enable completion latency percentiles by default

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Remove extra \n before printing run status

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fio 1.99.5

Signed-off-by: Jens Axboe <axboe@kernel.dk>

server: fix bug in converting/storing clat percentiles

It helps when you read the source values, instead of storing and
converting the destinations values only.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Be a bit more defensive in clat percentile calc and display

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Pretty up clat percentile display so it's actually readable

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix clat percentile display

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Correct Windows fio version

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Merge branch 'master' into client-server

Conflicts:
init.c
io_u.c
os/windows/install.wxs
os/windows/version.h

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix bad random offset generation for file map

If OS_RAND_MAX and FRAND_MAX are different, then ensure that
we use the right one. If not, our lookup cache could be outside
the allowed range, thus causing a segfault by indexing
f->file_map beyond end of the array.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix off-by-one in jobs_eta allocation

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client: cleanup bit printing

Signed-off-by: Jens Axboe <axboe@kernel.dk>

server: include 32/64-bit in probe

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client/server: fix ptr <-> uint64_t casting warnings on 32-bit builds

Not actually a bug, but gcc complains.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client: dec sum_stat_clients if one a client is disconnected

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client: display summed total of all clients when all stats have been received

Signed-off-by: Jens Axboe <axboe@kernel.dk>

server: error handling fixes

Signed-off-by: Jens Axboe <axboe@kernel.dk>

server: assume PID is dead on ESRCH

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client/server: track and handle command timeouts

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fio 1.99.4

Signed-off-by: Jens Axboe <axboe@kernel.dk>

server: fread() - check <= 0 return value

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client: duplicate arguments to "empty" clients

Now you can do:

fio --client=host1 --client=host2 --arg1 --arg2 --arg3

and arg1,2,3 are passed to both clients. If you do:

fio --client=host1 --arg1 --client=host2 --arg2 --arg3

then arg1 is passed to host1, while arg2,3 are passed to host2.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

server: improve pidfile and log handling

Signed-off-by: Jens Axboe <axboe@kernel.dk>

server: write pid file for backgrounded server to specified file

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client: properly assign client eta in flight

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Abstract out and export summation of thread_stats

Client side will need it.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client/server: few select speedups

Don't alloc/free when we can reuse, and don't calculate string
lengths twice.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client: track pending ETA requests

Signed-off-by: Jens Axboe <axboe@kernel.dk>

init: typo, remove -> remote.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client/server: request ETA instead of having the server send it automatically

Also changes the 'serial' of the command to a tag, that's passed
back and forth for commands that need to use it.

Signed-off-by: Jens Axboe <axboe@kernel.dk>