Note process vs thread in output

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

OOM fixes

Hit this with many threads running.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Quit on thread creation failure

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

If filename not given, use jobname

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Return EIO for verification failure

We passed back 1, where we need some sort of symbolic error.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

syslet engine: residual fix

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

If residual count == full count, fail the io

We always do blocking io, so regard nothing read/written as an error
condition.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Overwrite fix

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

File truncation and extend fixes

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Clear ->rate_bytes on do_io() loop

We don't do rates across loops, so remember to clear ->rate_bytes
when we start a new loop.

Problem report from "Ananiev, Leonid I" <leonid.i.ananiev@intel.com>

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Turn the CPU burner into a real io engine

This removes the special casing in fio.c for the cpu engine, and
also gets rid of FIO_CPUIO.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

null engine: fix queue bug with repeated commit() calls before event retrieval

Don't return anything if min_events == 0. This exposed a bug in
the commit handler, it needs to add to ->events, not set it.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

null engine: update to support queuing

Useful for queue testing.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Document 'openfiles' option

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Fix ->file_map leak

Just to appease valgrind.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Remove ->mutex after last use, not on job exit

Frees up that file descriptor.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Shrink the semaphores a little

The downside is that they hold the fd open, so it steals one
possible file open per-file. Will fix that in the next commit.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Make sure each job loads a private io engine

Threads got it shared, breaks for obvious reasons. Also gets rid
of the free hack in ioengine unload.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

mutex error handling

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Add mutex object file to other Makefile's

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Add a real semaphore implemtation

I've seen races where job N+1 got started before N, this breaks
for dependent jobs. So give up and implement a real semaphore
in mmap'ed shared storage.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Use DDIR_WRITE symbolic value instead of a hard coded 2

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

A few more stat fixes and cleanups

Mostly cleanups, but also one group status index that was
hardcoded as READ when it should be 'i' for either read or write.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Fixup reporting for !runtime data directions

Got broken with the group reporting, the minimum time and bw
should only be accounted for data directions where actual
work has happened. Otherwise they are pretty much guarenteed
to be 0.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Get rid of reopen_files()

Move the full file state clear into td_io_open_file(), so a
reopen is a plain close/open of that file.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

null engine: don't dup() stdin anymore

We can now track fd independently of ->fd, so don't open
a file we don't have to use.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Add ->open to struct fio_file

Don't use ->fd == -1 to check for the file being open or not,
an io engine could be non-fd based.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

get_next_offset() number of loops change

Commit b5af82930ccfd7dda6a1b11794efb452eb76d8dc inadvertently
changed this, revert.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

file_service_type=random fix

It generated 0..n-1, where we wanted 0..n.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Engines should not touch nr_open_files anymore

Leftover fix, should have been included with the ->open_file()
addition.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

openfiles fix

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Fix invalidate cache typo

The odirect check was reversed.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Revamp file open/close handling

Some IO engines need special handling for opening and closing
files, and this has complicated the fio filesetup.c file. Instead
have the io engine provide hooks for file open/close. This also
greatly cleans up the flags (we can get rid of SELFOPEN and MMAPIO)
and moves private knowledge into the engines where it belongs.

This potentially destabilizes fio somewhat, so testing is needed.
The new openfiles option that is introduced with this change isn't
verified working yet, hence it isn't documented.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Move description text

It was dangling at the bottom.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Terse output change

- Missing a comma.
- Change comma to semicolon, less confusion over floating point numbers.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Show how many jobs are in a group

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Update terse output

Several additions to the verbose output have been added since the
terse format was introduced, update it to match.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Default to using gettimeofday()

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

stat.c: Superflous n

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Be sure to pick up any group error with group_reporting

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Document the 'group_reporting' option

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Stat summation fixup

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

td vs ts typo

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Add group reporting

Still needs some testing, so the option isn't documented yet. The
standard deviation averaging also isn't mathematically sound.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

One step closer to group reporting

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Don't kill() running threads

Just let them exit nicely.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Merge branch 'master' of ssh://brick.kernel.dk/data/git/fio

Cleanup requeue handling

Clear ->resid automatically, and get rid of the goto construct.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Include location for RH related distros.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Forced kill is not used anymore.

So remove the parameter from terminate_thread()

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Gently prod children with a SIGQUIT on terminate

This should unstuck most loops.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Improve error logging and handling

If we see an IO anomaly, make sure we dump as much info about the
filename, size, offset, etc.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Fio 1.13

A few silly bugs in the 1.12 release, since it was a bigger change
from 1.11. So do a 1.13 maintenance release.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

fio.h: Fix TD_DDIR_RANDWRITE

A typeo had set DDIR_RANDWRITE to be "WRITE | READ" instead of
"WRITE | RAND".  Correct it.

Signed-off-by: Joel Becker <joel.becker@oracle.com>
Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Merge branch 'master' of ssh://brick.kernel.dk/data/git/fio

Spelling fixes

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Merge branch 'master' of ssh://router/data/git/fio

fio.h: Grow td->verror

td->verror was 80 bytes.  This truncates some error messages when the
filename or function name is long.  Grow it to a round 128B.

Signed-off-by: Joel Becker <joel.becker@oracle.com>
Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

posixaio engine: residual data count

If the io was cancelled, residual is the full data buffer length.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

io_u completion error propagation

Make sure we definitely signal an endio error.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

libaio engine: proper return value checking

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Add example network io job file

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Net engine: move connection setup into ->init()

Then it happens in the process own context, which means we can
define full send/receive jobs in a single job file and run them
from a single fio instance.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Net engine: missing ->nr_open_files for clients

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Convert null io engine to use ->setup()

Then we can get rid of the NULLIO flags hack

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Net engine: need to set ->nr_open_files

It is marked as SELFOPEN, so it opens it's own files. So it also
needs to increment the open file count as well.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Accept -foo as well as --foo for options

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Improve friendliness of --cmdhelp

If no match is found, print the closest. Quite handy when
you can't quite remember the exact option name.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Don't require 'all' argument to --cmdhelp to dump all options

If an argument isn't given, just dump all commands. This has the
downside that one MUST use --cmdhelp=option to get option help,
where as before --cmdhelp option worked as well.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Document file_service_type option

It's now tested, so add it to the list of options in HOWTO.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Fix for file_service_type=random

We need to retrieve a new random offset if the file is closed,
obviously.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Better management of open files

This is a first step to properly supporting dynamic open/close of
new files, differently sized files, etc.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Excessive passing around of struct fio_file

It's already set before calling fill_io_u(), no point in passing
it around and overwriting it with the same value later.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Only check FIO_DISKLESSIO in stat.c

Just make the null engine set that flag as well.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] ioengine flags: Replace FIO_NETIO with real flags that map the
behavior

The FIO_NETIO ioengine flag created two behaviors.  First, open_files()
would not open any files - this was handled in engines/net:setup().
Second, init_disk_util() would ignore the files and not try to locate
their disk.

Other engines might want one of these behaviors but not the other.  If
an engine opens its own files, it doesn't want open_files() to do anything,
even if the files are eventually disk-based.  An engine might want to
prevent init_disk_util() from running.

The FIO_NETIO flag is split into two flags.

FIO_SELFOPEN states that the engine will do its own open(), whether it
is a real open(2) or something internal to the engine.

FIO_DISKLESSIO states that init_disk_util() is should not be run.  fio
should treat the engine's files as if they are not part of a disk.

Finally, engines/net.c is changed to use these two flags.

Signed-off-by: Joel Becker <joel.becker@oracle.com>
Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] init.c: Expose f_out and f_err to loaded libraries via dlsym()

Loaded ioengines would like to use the logging functions but can't, as
they can't see f_out and f_err.  Create get_f_{out,err}() so that
the libraries can dlsym() them.  Compile fio with -rdynamic so dlopen()
works.

Signed-off-by: Joel Becker <joel.becker@oracle.com>
Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

[PATCH] parse.c: Make FIO_OPT_STR explicitly one value

The original change had __handle_option() check !first to avoid
parsing an FIO_OPT_STR a second time.  However, the caller handle_option()
has a more explicit check.  Excluding FIO_OPT_STR there is much cleaner.

Signed-off-by: Joel Becker <joel.becker@oracle.com>
Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Don't do rate checks, if no ratemin has been specified.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Document loading external io engines

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Prefix external io engine loading with 'external'

This is needed because the parser checks the allowed values now,
which broke ioengine=/some/external/file.o for loading an
external engine.

Signed-off-by: Joel Becker <joel.becker@oracle.com>
Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Fix parser bug

If the option parser sees a ':', it automatically assumes that
you meant a range.  It will then try to parse the second half of the
option.  This isn't just my external: option, it happens to mem: as
well.  That is:

    1) Option mem=mmaphuge:/dev/shm/foo
    2) handle_option() notices the ':' and stores off ptr2.
    3) __handle_option() corectly sees the option "mem" and maps
       "mmaphuge" to MEM_MMAPHUGE.  It then calls str_mem_cb(), which
       stores off the "/dev/shm/foo" after the ':'.  Still working
       great.
    4) Control returns to handle_option(), which sees that ptr2 is
       non-NULL.  It calls __handle_option() again, pointing to the
       string after the ':'.
    5) __handle_option() prints an error, as "/dev/shm/foo" is not a
       known option.

Fix it by breaking out early for the 2nd parse round if the option
type is a string.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Duplicate name checks in ioengines.c

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

syslet: x86_64 support

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Style fixup

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Move syslet check into the arch header, where it belongs

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Fio version 1.12

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Temporary iodepth_low work-around for syslets

syslet really wants iodepth_low=1 for sequential workloads,
otherwise when fio starts issuing a new sequence of io, we'll
have pending-and-unsubmitted requests from the previous process.
The results is seeky instead of sequential requests.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

syslet engine: submission latency numbers

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Move the iodepth_batch into td_io_queue() instead

The previous part in do_io() introduced a bug (overwriting ret),
and we really need to do it from other locations as well.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Extend option name from 16 to 20 bytes

The file_service_type was too long, making the output look
badly formatted.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Merge branch 'master' of ssh://brick.kernel.dk/data/git/fio

Add iodepth_batch setting

This allows controlling how much IO we submit in one go
independent of the iodepth set.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Merge branch 'master' of ssh://git.kernel.dk/data/git/fio

Do proper wait for pending IO on clean exit

Only do the cancel if something went wrong and td->error is set,
otherwise be a good citizen and complete and account for the io
we submitted.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

No need to do fadvise() on O_DIRECT/raw IO

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Speedup init_disk_util() when dealing with many jobs

sysfs lookups can take quite a while, so check against last device
to avoid having to iterate through sysfs again.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

syslet engine: smart batching

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Move ->commit() call to td_io_getevents()

If we need to complete some events (min > 0), make sure we
have committed a pending batch.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

syslet v4 support

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>

Requeue io_u flags fix

We need to clear IO_U_F_FLIGHT and set IO_U_F_FREE in requeue.

Signed-off-by: Jens Axboe <jens.axboe@oracle.com>