Cleanup end IO handling

Abstract out the end IO handling, so that callers don't have to
keep track of completion details. Then we can make the
io_completion_data structure private to io_u, and just provide to
functions to end io - one for sync completes, one for queued completes.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Unify and fixup error handling

First step in getting ->queue() and ->getevents() handled in
a more sane fashion.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Fully parallellize io_u verification

Keep a full queue whenever possible, do verifications while
io is in progress.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Change IO engine queuing

Instead of always pretending to be async, let the IO engines
return FIO_Q_COMPLETED or FIO_Q_QUEUED to signal async or
sync completions regardless of their nature. This cleans up
the queuing model quite a bit.

Also fixed a verification error spotted while doing this
transformation.

The main intent of this is to allow queuing more than 1 piece
of IO at the time, that will come in a later changeset.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Add thinktime_spin parameter

If you specify thinktime currently, fio will sleep for the duration.
Apps will typically do some data processing before sleeping, so add
a thinktime_spin parameter to control how much CPU to burn before
sleeping.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Don't check status if ret < 0

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Catch processes/threads that unexpectedly exited

Fio will no longer stall waiting for dead children.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Further improve child exit reaping

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] file descriptor is int

This was mistakenly turned into a long, revert.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] IO completion time histograms

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Fix random seed for numjobs > 1

If you had numjobs larger than 1, then each shared job would get the
same random seed, resulting in the exact same io pattern. Multiply
the seed with the thread number, that will still get repeatable
patterns but only per-thread/process.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Fixup client error exit

Sometimes we just quit without dumping the client error info, fix
that up.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Fixup file type recognition

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Defer engine ops verification check

Just register the engine to avoid complicating the code, but
don't allow it to be loaded.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Make fio compile on non-x86 again

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] syslet: code cleanup

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] syslet: fix leak of ring and ahu

Clean it in async_unregister()

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] syslet: async_head_user struct should be permanent

It's passed back in for async exit. This doesn't matter now, but
may in the future.

Spotted by Ingo Molnar.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] syslet engine: use pread instead lseek+read

And similar for write. Saves executing an atom.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Let the syslet ioengine register check supportability

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Exabytes

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Document syslet-rw engine

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] First cut syslet async io support

Doesn't seem to perform as well as expected, needs investigation.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Make fio_assert() core dump the job

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Random map needs to use ->real_file_size, not ->file_size

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Make the exit value meaningfull

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Woops, left debug clear in there

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Add fio_assert()

A job must not call assert(), as it wont exit and set thread
state properly.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Fix buflen trimming

It's ok to trim to the minimum block size for RAWIO.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Total io is the sum of READ and WRITE

Was broken for mixed read/write workloads.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] One more round of random map fixes

The last fixes made sure that we don't generate a block >= file size,
but for io_u's that contain multiple blocks, it could still happen.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Sign warning

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Network engine poll() paranoia

A little defensive programming never hurt anyone.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Document/comment fio.h

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Make ctrl-c work with network io and accept loop

We don't get SIGINT breaking accept(), so use poll() to poll
for incoming connects.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Move td_verror() into io_ops->queue() hook

Shows where the error occured, not where it got noticed.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Allow thread/group dump regardless of error state

Just because the thread ended in error, doesn't mean the
stats aren't interesting. So dump everything and make sure
the error and verror are visible.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Fix stack overflow

Observed an overflow of eta_sec[32], bump it to 128 bytes.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Separate bandwidth log and rate display

We used to dump status each second, but this got modified sometime in the past
to follow bw_avg_time. We don't need 250msec displays, so change it back to
use 1 second delays.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Pretty up stat output

Always convert numbers to a known base. We could have byte range values
or gigabyte range values, reading huge numbers can be difficult.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Kill redundant header files

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] More random map fixes

Several optimizations and fixes:

- Add ->last_free_lookup as a cache for get_next_free_offset(). No point
  in iterating known full blocks.
- Reduce number of random loops to 5 for random map lookups, fallback to
  next free block instead of wasting cpu cycles. Was 50.
- get_next_free_block() needs to take file offset into account.
- Reverse order of retrieving buflen and offset, so we can trim
  and mark properly.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Random map fix

mark_random_map() would give up too soon, causing an infinite loop
in the block allocation.

Reported by Randy Dunlap.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Size parse should use strtoll()

It's a 64-bit quantity, found out when the size= option quit too early
for large non-postfixed values.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] File size fix on NULL io engines

Just set the file sizes to the size given, it's pretend anyway.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Catch and print if directory= doesn't exist

Currently we fail in an odd way, make it more explicit why we fail.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Make the libaio fsync fallback really work

This time it's tested :-)

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] libaio engine: fake work-around for sync issue

Needed to make the fsync() fallback work.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Fix libaio engine SYNC

io_prep_fsync() isn't supported at all in Linux currently, so
fall back to fsync() if we get an -EINVAL return value.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] CFLAGS: -fstack-protector doesn't work on older compilers

Just remove it.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Net engine typo

READ -> DDIR_READ

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] SG IO engine: reduce allocations and memory leaks

We currently do 3 allocations and frees in the queued getevents
handler, we can easily reduce that to 0 by statically allocating
the buffers at init time.

The cleanup handler didn't free any of the currently allocated
structures, fix that up.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] SG IO engine: remember to set io_u->file in init

It's now mandatory, since it supports multiple files now.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] SG io engine: better handling of multiple files

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Network engine cleanups and comments

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Improve dependency checking on builds

From the similar fix for blktrace, from Vasily Tarasov <vtaras@openvz.org>.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Enable _FORTIFY_SOURCE and stack protector checking

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] We should check system() return value

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Remove SIGSEGV handler

We don't catch segfaults anymore, so remove that bit from the signal handler.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] aio example should use O_DIRECT IO

Otherwise it isn't async. Since fio defaults to buffered IO now, we need
to correct this example.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Don't create files for engines that don't need them

Introduce FIO_NULLIO as a way to control that from the io engine.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Misc fixes

- Change the hour/day eta display to be more clever.
- Style

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Network engine fixes

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Network io engine updates

- Use recv/send
- Set MSG_MORE on send if we are going to transmit more data
- Cleanups

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Document ->queue() in the skeleton engine

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Support residual io counts from io engines

We need this for requeuing support, the network engine makes this
pretty apparent (it's not unusual to see short tranfers there).

Basically we add an xfer_buf and xfer_buflen member to the io_u,
and these are the fields that the io engine MUST use. That allows
fio to increment and reset these appropriately, and simply requeue
the io_u for service of the next part of it.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Support for > 1 network connection

Now the net ioengine also supports the nrfiles option to open
multiple connections.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Network engine updates

A few comments, pass down port short instead of buffer.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Simple support for networked IO

Adds a new ioengine, net. Use with ioengine=net, it supports only strict
reading or writing (no mixed reads/writes) to/from a single host.
The filename given must contain the host and port to connect to (or
listen from).

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Rename io engines

Typing fio-engine-foo is annoying, just rename them to their type. They
already reside in a private directory, no point in putting the fio-engine
prefix on the files.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Fix buffer alignment on non-4kb archs

Retrieve page size through sysconf.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Add 'description' option

Can help provide a textual description of a job, if it's submitted
to someone for run/review.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Fix sg ioengine

We need to do the ->init() call after having opened the file,
otherwise sg doesn't know what file type it is dealing with.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Fix double free in sg engine error path

We need to clear td->io_ops->data if we free the structure,
otherwise the ->cleanup() handler will try to free it again.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Fix typo

WRITE -> DDIR_WRITE

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Only generate global bandwidth log if write_bw_log set

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Add support for writing aggregate bandwidth log

This is the same that is shown while fio is running, it can be useful
for graphing purposes as well.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Unlink write file if !overwrite and it exists

Repeatability across runs, unlink the file so that the job
runs like it wasn't there to begin with.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Don't make file unlink the default

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] The last io depth entry is actually >= 64, not > 32

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Include io depth distribution statistics

Calculate the distribution of io depths for the job run.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Remove the time init check

We cannot control constructor ordering easily, hence the check
code was also in fio_gettime().

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Shorten 'commitrate' to 'CR'

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Fixup rate usec cycle calculation for small values

If someone set rate to 2KiB/sec or something low in that range,
we would integer divide by zero. Do calculation in reads per msec
instead of full seconds and fix the zero division.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Improve rate functionality

usec_sleep() now takes into account the granularity of nanosleep().
Also stop using the remainder returned by nanosleep(), it doesn't
appear to always be accurate. Instead just check the elapsed time
manually.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Properly shutdown in case of serious errors

Introduce fio_abort to do a forced shutdown of everything for things
like segfaults.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Update HOWTO

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Cleanup some output code

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Merge branch 'master' of ssh://router/data/git/fio

[PATCH] Update irange documentation

Also allow ':' as the range delimeter, and '/' as the
direction delimeter.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Help: thinktime is in microseconds

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Abort early for bad option given to --cmdhelp

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Really fixup disk util init

Include disk io ticks, if the job itself creates the file. Don't
include it, if we create the file before running the job.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Revert "[PATCH] Move disk utilization setup to thread itself"

This reverts commit d52fb0c44567cf4fdc2a2c307c32672cc5a57170.

[PATCH] Move disk utilization setup to thread itself

We don't want it to include potential file creation before the job runs.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Warn if both option variable offset and callback given

If the callback is present, it is preferred to the offsets. So
giving offsets with a callback specified doesn't make sense.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Pretty up option looping

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Change output dev= to stdev=

It's really standard deviation, so make it a little easier to
understand.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Change O_DIRECT vs buffered setup

Change the default from O_DIRECT IO to normal buffered IO. That makes
more sense, as O_DIRECT is a special case and should be manually
enabled as such.

Do this by adding a option negate switch, so we don't need two sets
of parameters to control these options.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] Change timeout to runtime and rearrange option entries

Runtime is a more descriptive name - the documentation is updated
as well, however the parsing has added an alias functionality to
support older names as well. So 'timeout' still works.

Also rearrange option entries, now they matter because the --cmdhelp
option will print them in order.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>