Fix bug with rate and read/write mixed workloads at 100% bias

The rate_ddir() might sometimes decide to send the other data
direction, even if we have a workload with rw=randrw and
rwmixread=0. Check for this condition.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

t/log: include minmax.h for min()

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Makfile: use LINK for the link phase

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix zones for numjobs=x, where x > 1

In the options fixup, we auto-set open_files to 1 if it hasn't been set.
So any duplicated jobs will clear the zone. Fixup the check to properly
check for > 1 open files.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

stat: fix wrong type used for 32-bit compiles

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix crash and precision of ETA with zones

If zonesize was bigger than zoneskip, we could encounter a divide by
zero when calculating the number of bytes.

Additionally, the math was just wrong for most cases of zone settings.
Improve that.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Windows: fix mlock, remove ftruncate and fix error handling.

Functions in posix.c need to use win_to_posix_err to convert errors from
Windows API calls to their equivalent POSIX error code so perror etc.
work: move it into posix.c and add the prototype to posix.h.

Fix error handling so -1 is always returned on error and errno is set.

Fix mlock to work with sizes greater than about 1MB: the working set size
needs to be increased for the new allocation.

Remove ftruncate from posix.c, since MinGW already provides it.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Windows: fix sysconf(_SC_PHYS_PAGES).

sysconf(_SC_PHYS_PAGES) was returning the number of bytes of memory
instead of the number of pages. Also improve some error messages in
sysconf(). Update os_phys_mem() to use sysconf().

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Get rid of fallocate on Windows

Fallocate is only useful if it is a fast operation, helping the
file system allocate and setup meta data for the given size.
So don't punt to zero filling the entire thing.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Handle normal output wrapping of the percentile list

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Cleanup the percentile output formatting

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Handle percentile lists with higher precision that 2 digits

We cap the output at %2.2f right now, that's not always enough.
Make the parser check and store the precision required to
output the list correctly.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add --build-32bit-win switch to configure --help output.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

windowsaio: fix file header format and improve error reporting.

Use the same file header format as other engines.
Remove the copyright line.
Add calls to log_err to improve error reporting.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Makefile: fixup init.c dependency

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Enable forced 32-bit build on Windows

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix copy/paste error in windowsaio register/unregister function names.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Update the Windows installer

Update the EULA copyright year to 2013, auto-generate the product ID,
remove the comment field and allow per-user installs.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gettime: fixup AMD constant TSC detection

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix failure to exit IO loop on some IO sizes

If the size of a file isn't a multiple of the block size being
used, it can cause fio to exit the IO loop, check bytes done,
and then decide to do one more loop since we didn't do quite
as much IO as we wanted to. This happens because the minimum
block size is larger than the remainder. So check for that,
and stop if we need to.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Update the Windows section of the README file.

The 64-bit Windows build instructions can be simplified since Cygwin
includes all the required MinGW64 packages. Also, the pthread DLL is
available as an individual download.

Update the WiX Toolset version to 3.7 and fix the URL since it's no
longer hosted at Sourceforge.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Remove duplicated Windows configure options.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Default to CS_GTOD if CONFIG_CLOCK_GETTIME isn't defined.

Defaulting the clock source to CS_CGETTIME broke on OS X because it
doesn't have clock_gettime. Use CS_GTOD if CONFIG_CLOCK_GETTIME isn't
defined.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

values.h is obsolete: use float.h and DBL_MIN/MAX instead.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

clock: hardwire tsc as unreliable on Solaris for now

Need to double check the cpuid test, it probably only is reliable
on Intel. Need to check the CPU vendor and flags appropriately.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

parse: use MIN/MAXDOUBLE instead of some representation of NAN

Doesn't always work for C99.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix percentile_list option

Commit 802ad4a8 broke the parsing of the percentile list,
by neglecting to change the parser type fo a fio_fp64_t.

Also get rid of the def_percentile_list, just set the
default percentile list as the option default.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Makefile: fixup dependency problem for files in sub dirs

Signed-off-by: Jens Axboe <axboe@kernel.dk>

README: how to compile fio on Windows 64 bits

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Allow override of CFLAGS

If you attempt to specify your own CFLAGS on the command line (such as
make CFLAGS="--whatever"), this would prevent -DFIO_VERSION from being
added to CFLAGS. This patch uses the override directive to allow the
flag to be appended to CFLAGS.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Only disable stdout ETA output if results are going to stdout

If they are being redirected to a file with --output, then
we can still use the normal runtime ETA output on stdout.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

net: 'nodelay' HOWTO/man page update

Signed-off-by: Jens Axboe <axboe@kernel.dk>

configure: add TCP_NODELAY check

Signed-off-by: Jens Axboe <axboe@kernel.dk>

windows: fix typo in <netinet/tcp.h> header

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix bugs in [v]snprintf usage

When calling snprintf, supply the full buffer size instead of
one byte less.

When using the returned length from vsnprintf for logging, don't write
more than the actual buffer size (minus one for the trailing \0), in
case the formatted string was truncated.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add empty <netinet/tcp.h> for Windows

Signed-off-by: Jens Axboe <axboe@kernel.dk>

net: fix compile warning on Windows (and others)

Signed-off-by: Jens Axboe <axboe@kernel.dk>

net engine: implement option "nodelay" for TCP sockets

With disks, O_DIRECT effectively bypasses all buffering/caching mechanisms and
ensures that the I/O is going directly to the disk. Since TCP is a streaming
protocol (like disk I/O), it also has a buffering mechanism. As with disks, it
is sometimes desirable to bypass buffering. To that end, we can use
TCP_NODELAY, which transmits the packet as soon as data is assembled,
regardless of whether it occupies a full frame.

Signed-off-by: Steven Noonan <snoonan@amazon.com>
Signed-off-by: Jens Axboe <axboe@kernel.dk>

idletime: style cleanups

Signed-off-by: Jens Axboe <axboe@kernel.dk>

configure: add SCHED_IDLE check

We can't consider it always available on Linux. It fails on
Debian 6.x, for instance.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add support for idletime profiling

Idletime profiling allows a benchmark to run while filling the
idle cycles on the server, hence giving you some metric of how
much pressure the system is under. This is useful to be able
to profile and compare changes in a setup or driver, for instance.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add unified_rw_reporting option

If this is set, then fio will sum and display just a single set
of statistics for any IO type. By default, fio accounts and reports
each data direction separately.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

HOWTO: indentation fix

Signed-off-by: Jens Axboe <axboe@kernel.dk>

smalloc: alloc failure cleanups

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client/server: fixup missing TRIM conversions

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix crash with absurdly but not impossibly deeply nested device stacks

Use the proper PATH_MAX for the max path for disk util, and use
snprintf() to avoid potentially overwriting it.

Modified by Jens to return NULL instead of exiting.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

configure: enable --extra-cflags for Windows

Add configure help as well.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

configure: add --extra-cflags

And ensure that -D_GNU_SOURCE is being set for configure test
programs too.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix Windows build by defining clock sources and adding include file.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Always fsync if asked to

Currently we don't fsync() is direct IO is issued. But if the
user asked for fsync(), he should get an fsync. So remove this
restriction.

Reported-by: Stefan Hajnoczi <stefanha@gmail.com>
Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix getopt def check

Signed-off-by: Jens Axboe <axboe@kernel.dk>

configure: HPUX warning for empty CC

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Makefile: remove config-host.ld

Signed-off-by: Jens Axboe <axboe@kernel.dk>

configure: add configure header to config-host.h

Signed-off-by: Jens Axboe <axboe@kernel.dk>

configure: auto-generate a config-host.h

Don't have all these special cases to convert a .mak to a .h define,
just generate it from the configure script instead.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Drop EXTFLAG and lib references

They are picked up automatically now.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

configure: kill windows FIO_HAVE_FDATASYNC

Signed-off-by: Jens Axboe <axboe@kernel.dk>

configure: solaris and windowsaio fixups

Signed-off-by: Jens Axboe <axboe@kernel.dk>

options: add help to experimental_verify

Option help is required...

Signed-off-by: Jens Axboe <axboe@kernel.dk>

configure: fix more old FIO_HAVE_ checks

Signed-off-by: Jens Axboe <axboe@kernel.dk>

NAN: use __builtin_nanf() if not available

Signed-off-by: Jens Axboe <axboe@kernel.dk>

hash: make 64-bit type ULL

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Correct ifdef checks for posix and linux fallocate

Signed-off-by: Jens Axboe <axboe@kernel.dk>

configure: add that windows has RUSGE_THREAD

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add lib/getrusage.c

Abstract out the SELF/THREAD complication.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Use RUSAGE_THREAD, if available

Signed-off-by: Jens Axboe <axboe@kernel.dk>

init: complain on unrecognized option with builtin getopt_long_only()

It returns '?' for a bad option, whereas the glibc one does
not. Catch that so we behave identically.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix compile warnings on Windows

Signed-off-by: Jens Axboe <axboe@kernel.dk>

windows: don't provide strsep(), fio already has one

Signed-off-by: Jens Axboe <axboe@kernel.dk>

configure: add default compiler on Windows

Signed-off-by: Jens Axboe <axboe@kernel.dk>

configure: fixup Windows

Signed-off-by: Jens Axboe <axboe@kernel.dk>

configure: add endian check

Will remove guesswork and manual hacking in the OS headers.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Kill now unneeded clock definitions

Signed-off-by: Jens Axboe <axboe@kernel.dk>

OSX: Fixup warnings and clock_gettime() bug

Signed-off-by: Jens Axboe <axboe@kernel.dk>

configure: remember to output CC for windows

Signed-off-by: Jens Axboe <axboe@kernel.dk>

configure: add --cc= option to script

Get rid of uname -o usage for Windows, and specifically require
CC=bla ./configure or ./configure --cc=bla to set something else
than gcc.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix 32-bit compile warning in should_check_rate()

Introduced with the change from unsigned long -> uint64_T

Signed-off-by: Jens Axboe <axboe@kernel.dk>

t/axmap: update to catch recent bugs

Also properly include axmap.h and don't declare our own prototypes.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

axmap: ensure that we never return a value that is larger than the map size

Signed-off-by: Jens Axboe <axboe@kernel.dk>

axmap: improve axmap_find_first_free()

Add a ret variable, saves a branch on return.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

verify: stop on actual number of bytes needed to be verified

If we don't use LFSR or a random map, we don't get told when
to stop by the random generator or map. So track it on the
side, using the same mechanism as do_io().

Signed-off-by: Jens Axboe <axboe@kernel.dk>

axmap: fix bug in axmap_find_first_free()

If the map is completely full, we could return an invalid value
for the first free bit. So check if we actually found a match,
return failure if we didn't.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Make experimental_verify=1 handle all cases properly

- Don't track written bytes, just replay the workload by resetting
  all the random generators. This should work for any mixture of IO.

- Handle trims for verify.

- Ensure that rwmix is replayed properly for verify.

- Fixup logging for replay.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Ensure all random seeds are repeatable for randrepeat=1

Currently we only do the offset.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

eta: improve accuracy for rwmix workloads and verify

We assume 50/50 for mixed workloads. That's silly, use the actual
number specified instead.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Use unsigned long long for the uint64_t type

Signed-off-by: Jens Axboe <axboe@kernel.dk>

windows: use hweight64(), it's a 64-bit type

Courtesy of Bruce.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add hweight64()

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix _SC_NPROCESSORS_ONLN on Windows

_SC_NPROCESSORS_ONLN was returning the wrong value on Windows because
GetLogicalProcessorInformation() returns data about caches, nodes and
packages in addition to processors.

Modified by Jens to use hweight32()

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add generic hweight helpers

Signed-off-by: Jens Axboe <axboe@kernel.dk>

verify: add new experimental mode that requires no meta data

Should work fine, but we need to account and track trims to know
which blocks NOT to verify (or verify as zero).

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Re-seed random generator when a file is reset

Signed-off-by: Jens Axboe <axboe@kernel.dk>

axmap: clear map->first_free when we reset it

Otherwise it could be left at an invalid value. When we clear the map,
we know the first free bit is 0.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

lfsr: add lfsr_reset()

This enables us to restart a sequence.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gettime: use proper uint64_t types where needed

Windows has 32-bit longs even on 64-bit, so we risk overflowing.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add info log on whether tsc is reliable or not for --cpuclock-test

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Windows: fix off-by-one error in fio_cpu_set and add affinity error messages.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Make hugetlbfs maping work

If it's a file mapping, flags must be MAP_HARED; If it's an anonymous
mapping, flags must be MAP_PRIVATE|MAP_ANONYMOUS|MAP_HUGETLB (can be
shared, but doesn't matter here).

Signed-off-by: Jens Axboe <axboe@kernel.dk>

fusion-aw: make configure and compile actually work

Signed-off-by: Jens Axboe <axboe@kernel.dk>

fusion-aw: fixes

Signed-off-by: Jens Axboe <axboe@kernel.dk>