options: more option grouping

Signed-off-by: Jens Axboe <axboe@kernel.dk>

options: group cgroups and jobs

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: fill default options on new job

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add support for inverse options

Options that are tied to each other, meaning that if one is
incremented by X, the other is decremented by X automatically.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: option improvements

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: add support for FIO_OPT_STR_MULTI options

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Categorize a few more options

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: improve option edit

Allow grouping of options into both categories, and groups. The
groups are within a category. This shrinks down the number of
job edit tabs a lot.

Work in progress...

Signed-off-by: Jens Axboe <axboe@kernel.dk>

server: make client connections fork off

Instead of handling connections inline from the server, fork
them off before running them. This makes the able to handle
the idle loop command send/reply directly, without being
invoked from the idle loop.

New connections are forked off automatically as well, leaving
the server free to accept new connections. Not sure we want that,
or at least it should be an option to return BUSY on attempted
new connections.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: set clat/lat bucket graph Y title

And ensure that disk utilization lines up from the top of the notebook page,
not centered in the middle.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Merge branch 'master' into gfio

Added 99.95 and 99.99 default percentiles.

Since there are 20 slots for percentiles, but not all used by default,
I figure it doesn't hurt to add a couple extra percentiles to the
default for tail latency capture.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Merge branch 'master' into gfio

Add regression test for 37cf9e3c

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Enable read/write sequential offset to be a non-multiple of the block size

The way that fio does offset math internally, if a non-multiple
of the blocksize was given as a sequence offset, it would simply
be ignored due to the block offset division rounding it down.
In other words, if you did:

rw=read:512k
bs=1m

it did not read 1m and 0 offset, 1m at 512k offset, etc. Instead
the hole is ignored.

Fix this by leaving the generated sequential offset in bytes
instead of turning it into a 'fio block'.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: make option hiding actually work

We have multiple widgets if they appear in multiple tabs. Keep
track of that and hide them all.

Still need to handle non-bool options, but at least the logic
is sound now.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: initial support for hiding child options

If children depend on a parent, we want to hide them if the parent
isn't set. This is initial support for doing that.

Nevermind that it doesn't actually work, the hiding is buggy. And
it's only implemented for the check button type options for now.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add hint on whether to hide a sub option if a parent isn't set

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Allow options to specify intervals

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: sync range spin buttons in edit view

They are paired, min/max for read, and min/max for write. If the user
adjusts the min value larger than max, adjust the max automatically.
And vice versa for the max value.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add FIO_OPT_G_IO_ENG category

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add categories for missing options

Signed-off-by: Jens Axboe <axboe@kernel.dk>

parse: ensure that an option has a category

If not, set it to misc and complain.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

time_based: Avoid restarting main I/O loop

Previously, when fio had written a volume of I/O equal to the size
argument, it restarted the main do_io loop.

This patch allows time_based tests to be run for longer than one
cycle in the do_io main loop. This has a couple of advantages:
 * The random number generator is not reset on each iteration
   of the loop, so running longer will reach different locations.
 * There is not a throughput-reducing point where all operations
   must be reaped before new operations are submitted.

The implementation consists of two minor changes:
 * In the do_io loop, a time_based test will not exit the loop for
   reading or writing too much data.
 * When reading or writing sequentially, the operations wrap around
   to the beginning after reading the end within the
   get_next_seq_block function.

Modified by Jens to properly restart when using a randommap
as well.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: correctly input stored FIO_OPT_STR_STORE options

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: inherit and show more options correctly in edit job

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: demo of how to inherit option values into edit window

We now fill FIO_OPT_STR_STORE options directly into the edited
values.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Merge branch 'master' into gfio

Conflicts:
fio.h

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix problem with iodepth_batch_complete=0 and accounting

If the queue is full, we always need to reap at least one event.
Otherwise we end up failing get_io_u() and restarting the file.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix wrap bug in mtime_since()

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: move more code to ghelpers.c

Signed-off-by: Jens Axboe <axboe@kernel.dk>

graph: use 0 as the floor for the line graph

Unless we have values below 0, in which case use that.

This makes it easier to visually compare a running read/write
workload. Without this change, the lowest valued graph would define
the floor of the graph view.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: start of options view and edit

This is pretty crap right now, but it's exposing all the options.
Now we just need them to reflect the current job, and be able to
update a remote job with a new set of options.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: use ctrl-d for connect/disconnect

ctrl-e is used by job edit.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: start of splitting up the source a bit

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: include direct/buffered IO type in the iotype field

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: add bs display

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: put disk utilization tab in a scrolled window

Signed-off-by: Jens Axboe <axboe@kernel.dk>

graph: tighten x-axis tooltip hit

Make it 10, like the Y-axis. Seems to work well in practice.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Document compress_buffer_percentage, compress_buffer_chunk

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Note offset_increment parent option

And move it up near "offset".

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix offset_increment option and add man page entry for it

td->thread_number starts at 1, not 0. So we need to subtract
one before multiplying with the offset.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

rdma engine graceful teardown

For rdma ioengine's one side operation, RDMA_WRITE or RDMA_READ,
server side gets a message from client side that the task is finished.
In previous version, the server simply exit() in td_io_commit() which
causes segmentation fault in thread mode or process hanging in process
mode. This patch achieves graceful tear down by setting up `td->done`
as UDP engine did.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

New offset_increment option

This patch adds a new option to fio job files. It is described
in the HOWTO as follows:

offset_increment=int If this is provided, then the real offset becomes
the offset + offset_increment * thread_number, where the
thread number is a counter that starts at 0 and is incremented
for each job. This option is useful if there are several jobs
which are intended to operate on a file in parallel in disjoint
segments, with even spacing between the starting points.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: fixup adding/showing of end results

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: remove ->job_added, it's only ever set

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: reload ge->gc after clicking connect force the file open dialog

If the above happened, then we had no client to begin with and
gc is NULL. Reload it after in any case, to ensure we have a
valid copy.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: allow different tooltips for a button depending on state

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: move File->Open above File->Close

This seems more logical and also what other apps do.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: move disk utilization to a private tab in per-client results

The disk util results are shared for all clients, so it's more
appropriate to put it in a tab.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add thread number ID to appropriate network commands

The client doesn't necessarily have a 1:1 mapping between jobs
and its internal job representation, so allow it to tell the
various jobs apart.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: fix attempt to add multiple entries to disk util frame

Signed-off-by: Jens Axboe <axboe@kernel.dk>

graph: fix bar graph min/max displays

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: add latency bucket bar graph to end results

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: add View -> Results menu item

We store the incoming results, so that we can re-display them if
asked to. The menu item is sensitized appropriately depending
on whether results are available or not.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

server: add missing IOLOG command to text list

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: add completion percentile bar graph

Mostly just to display the bar graph for now, we'll change this to
be the latency buckets instead.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: only parse white color once

Signed-off-by: Stephen M. Cameron <stephenmcameron@gmail.com>
Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: include name of iolog in gdio_client_iolog()

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client/server: zlib error code fixup

Signed-off-by: Jens Axboe <axboe@kernel.dk>

server: add vectored fio_send_cmd_ext_pdu()

And use it for the multi segment continue type sending that
the iolog handler uses.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: debug dump on iolog receive

Signed-off-by: Jens Axboe <axboe@kernel.dk>

server: add fio_sendv_data()

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: remove stale comment, hiding menu items DOES work now

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: start of results window menu support

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: fix double alloc of action_group

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: patch around widget destroy crash

Signed-off-by: Jens Axboe <axboe@kernel.dk>

server: memset job_add pdu before filling and sending

Signed-off-by: Jens Axboe <axboe@kernel.dk>

server: convert iolog in place instead of copy allocating it

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: Add support for sending logs over the network

This is for things like bw log, latency logs, etc. We add
a new depedency, zlib, for this. The logs can be quite big and
the network is not necessarily super fast, so we compress them
using zlib.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

iolog: note type of log

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client/server: pass type of client to the backend

Signed-off-by: Jens Axboe <axboe@kernel.dk>

client: unify cmd handling ops

Signed-off-by: Jens Axboe <axboe@kernel.dk>

graph: move graphs a bit to the left, now we don't use Y axis labels

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: terminate and destroy clients before calling gtk_main_quit()

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: graphing updates

- Don't draw tickmark labels for an empty graph
- Remove Y-axis label. It was a bit awkward and hard to read.
- Ensure that we always put proper units on the Y-axis graph.
- Ensure that we always include the top most Y-axis tickmark
  and make that the ceiling, not the highest Y value. It's hard
  to visually understand a graph that is drawing somewhere above
  the last labeled tickmark.
- Fix rounding errors in graph.c

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: fix complaint about unsupported type for recent files

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: fix leak of ge->job_files

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: update TODO

We have recent file support now.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: Add Drag'n drop support

And unify the file-open-in-a-tab functionality.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Rename t0001 regression job to have .fio file extension

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Merge branch 'master' into gfio

Conflicts:
client.c
fio.h

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add regression test for 82af2a7c

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Fix failure to verify in mixed read/write workload with backlog

If you run a workload like this:

fio --rw=randrw --bs=4k --direct=1 --ioengine=libaio --iodepth=32
--verify=meta --verify_backlog=1024 --verify_fatal=1 --name=ver-test
--filename=foo --size=1G --verify_pattern=0xaaa

Fio ends up never actually verifying the written blocks. This happens
because as we generate an entry to be verified, the backend checks
whether this is a read/write mixed workload. It then thinks that the
READ is just that, a normal READ, when in fact it could be coming
from our verify list.

Mark such a read as coming from our verify list, so that we know if
it's a "normal" read or one generated to verify previously written
data.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: add recently opened files to File menu

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: change Job->Connect menu item string

Change it from Connect <-> Disconnect, same as how we handle
the button.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Add gfio TODO file

Not complete, but it's a start.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: remove widgets from struct gui/gui_entry that we don't really use

Lots of these are only used for initial setup of the page, other
entries are the ones we reuse later. So kill the entries to avoid
confusing them post init.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Client reference fixes

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: add support for graph tooltips

Will show the actual value logged at that point.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: allow close with ctrl-w if there are no clients

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Merge branch 'gfio' of ssh://brick.kernel.dk/data/git/fio into gfio

gfio: fix hiding of menu entries

It helps a lot to use the proper casing...

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: fix crash when pushing 'start job' and no client connected

We should not really need this fix, but until the menu item
sensitivity is fixed, they are visible and we should avoid
the crash.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

Makefile: properly clean all objects on make clean

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: fix wrong pointer being passed into file_open()

We passed the gui_entry, it wants the gui. Fixes segfault
on clicking "Connect", when attempting to auto-load the
file open dialog.

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: prep for recent files

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: improve Job menu

Still need to figure out how to make certain items in the
job menu sensitive/insensitive, apparently I can't lookup
the item widgets (only the menu widget).

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: add support for making job menu visible or not

Signed-off-by: Jens Axboe <axboe@kernel.dk>

gfio: add close-tab functionality

And start Job menu.

Signed-off-by: Jens Axboe <axboe@kernel.dk>