[fio.git] / engines / fio-engine-libaio.c

/*
 * native linux aio io engine
 *
 */
#include <stdio.h>
#include <stdlib.h>
#include <unistd.h>
#include <errno.h>
#include <assert.h>
#include "fio.h"
#include "os.h"

#define ev_to_iou(ev)	(struct io_u *) ((unsigned long) (ev)->obj)

struct libaio_data {
	io_context_t aio_ctx;
	struct io_event *aio_events;
};

static int fio_libaio_prep(struct thread_data fio_unused *td, struct io_u *io_u)
{
	struct fio_file *f = io_u->file;

	if (io_u->ddir == DDIR_READ)
		io_prep_pread(&io_u->iocb, f->fd, io_u->buf, io_u->buflen, io_u->offset);
	else if (io_u->ddir == DDIR_WRITE)
		io_prep_pwrite(&io_u->iocb, f->fd, io_u->buf, io_u->buflen, io_u->offset);
	else if (io_u->ddir == DDIR_SYNC)
		io_prep_fsync(&io_u->iocb, f->fd);
	else
		return 1;

	return 0;
}

static struct io_u *fio_libaio_event(struct thread_data *td, int event)
{
	struct libaio_data *ld = td->io_ops->data;

	return ev_to_iou(ld->aio_events + event);
}

static int fio_libaio_getevents(struct thread_data *td, int min, int max,
				struct timespec *t)
{
	struct libaio_data *ld = td->io_ops->data;
	long r;

	do {
		r = io_getevents(ld->aio_ctx, min, max, ld->aio_events, t);
		if (r == -EAGAIN) {
			usleep(100);
			continue;
		} else if (r == -EINTR)
			continue;
		else if (r != 0)
			break;
	} while (1);

	if (r < 0)
		r = -r;

	return (int) r;
}

static int fio_libaio_queue(struct thread_data *td, struct io_u *io_u)
{
	struct libaio_data *ld = td->io_ops->data;
	struct iocb *iocb = &io_u->iocb;
	long ret;

	do {
		ret = io_submit(ld->aio_ctx, 1, &iocb);
		if (ret == 1)
			return 0;
		else if (ret == -EAGAIN || !ret)
			usleep(100);
		else if (ret == -EINTR)
			continue;
		else
			break;
	} while (1);

	if (ret <= 0) {
		io_u->resid = io_u->buflen;
		io_u->error = -ret;
		return 1;
	}

	return 0;
}

static int fio_libaio_cancel(struct thread_data *td, struct io_u *io_u)
{
	struct libaio_data *ld = td->io_ops->data;

	return io_cancel(ld->aio_ctx, &io_u->iocb, ld->aio_events);
}

static void fio_libaio_cleanup(struct thread_data *td)
{
	struct libaio_data *ld = td->io_ops->data;

	if (ld) {
		io_destroy(ld->aio_ctx);
		if (ld->aio_events)
			free(ld->aio_events);

		free(ld);
		td->io_ops->data = NULL;
	}
}

static int fio_libaio_init(struct thread_data *td)
{
	struct libaio_data *ld = malloc(sizeof(*ld));

	memset(ld, 0, sizeof(*ld));
	if (io_queue_init(td->iodepth, &ld->aio_ctx)) {
		td_verror(td, errno);
		return 1;
	}

	ld->aio_events = malloc(td->iodepth * sizeof(struct io_event));
	memset(ld->aio_events, 0, td->iodepth * sizeof(struct io_event));
	td->io_ops->data = ld;
	return 0;
}

struct ioengine_ops ioengine = {
	.name		= "libaio",
	.version	= FIO_IOOPS_VERSION,
	.init		= fio_libaio_init,
	.prep		= fio_libaio_prep,
	.queue		= fio_libaio_queue,
	.cancel		= fio_libaio_cancel,
	.getevents	= fio_libaio_getevents,
	.event		= fio_libaio_event,
	.cleanup	= fio_libaio_cleanup,
};
Commit	Line	Data
2866c82d JA	1	/*
	2	* native linux aio io engine
	3	*
	4	*/
	5	#include <stdio.h>
	6	#include <stdlib.h>
	7	#include <unistd.h>
	8	#include <errno.h>
	9	#include <assert.h>
	10	#include "fio.h"
	11	#include "os.h"
	12
	13	#define ev_to_iou(ev) (struct io_u *) ((unsigned long) (ev)->obj)
	14
	15	struct libaio_data {
	16	io_context_t aio_ctx;
	17	struct io_event *aio_events;
	18	};
	19
7a16dd02	20	static int fio_libaio_prep(struct thread_data fio_unused td, struct io_u io_u)
2866c82d	21	{
53cdc686 JA	22	struct fio_file *f = io_u->file;
53cdc686 JA	23
2866c82d	24	if (io_u->ddir == DDIR_READ)
53cdc686	25	io_prep_pread(&io_u->iocb, f->fd, io_u->buf, io_u->buflen, io_u->offset);
87dc1ab1	26	else if (io_u->ddir == DDIR_WRITE)
53cdc686	27	io_prep_pwrite(&io_u->iocb, f->fd, io_u->buf, io_u->buflen, io_u->offset);
87dc1ab1 JA	28	else if (io_u->ddir == DDIR_SYNC)
	29	io_prep_fsync(&io_u->iocb, f->fd);
	30	else
	31	return 1;
2866c82d JA	32
	33	return 0;
	34	}
	35
	36	static struct io_u fio_libaio_event(struct thread_data td, int event)
	37	{
	38	struct libaio_data *ld = td->io_ops->data;
	39
	40	return ev_to_iou(ld->aio_events + event);
	41	}
	42
	43	static int fio_libaio_getevents(struct thread_data *td, int min, int max,
	44	struct timespec *t)
	45	{
	46	struct libaio_data *ld = td->io_ops->data;
	47	long r;
	48
	49	do {
	50	r = io_getevents(ld->aio_ctx, min, max, ld->aio_events, t);
	51	if (r == -EAGAIN) {
	52	usleep(100);
	53	continue;
	54	} else if (r == -EINTR)
	55	continue;
84585003	56	else if (r != 0)
2866c82d JA	57	break;
	58	} while (1);
	59
eaf09db4 JA	60	if (r < 0)
	61	r = -r;
	62
	63	return (int) r;
2866c82d JA	64	}
	65
	66	static int fio_libaio_queue(struct thread_data td, struct io_u io_u)
	67	{
	68	struct libaio_data *ld = td->io_ops->data;
	69	struct iocb *iocb = &io_u->iocb;
	70	long ret;
	71
	72	do {
	73	ret = io_submit(ld->aio_ctx, 1, &iocb);
	74	if (ret == 1)
	75	return 0;
84585003	76	else if (ret == -EAGAIN \|\| !ret)
2866c82d JA	77	usleep(100);
	78	else if (ret == -EINTR)
	79	continue;
	80	else
	81	break;
	82	} while (1);
	83
353a7e0e JA	84	if (ret <= 0) {
	85	io_u->resid = io_u->buflen;
	86	io_u->error = -ret;
	87	return 1;
	88	}
2866c82d	89
353a7e0e	90	return 0;
2866c82d JA	91	}
	92
	93	static int fio_libaio_cancel(struct thread_data td, struct io_u io_u)
	94	{
	95	struct libaio_data *ld = td->io_ops->data;
	96
	97	return io_cancel(ld->aio_ctx, &io_u->iocb, ld->aio_events);
	98	}
	99
	100	static void fio_libaio_cleanup(struct thread_data *td)
	101	{
	102	struct libaio_data *ld = td->io_ops->data;
	103
	104	if (ld) {
	105	io_destroy(ld->aio_ctx);
	106	if (ld->aio_events)
	107	free(ld->aio_events);
	108
	109	free(ld);
	110	td->io_ops->data = NULL;
	111	}
	112	}
	113
	114	static int fio_libaio_init(struct thread_data *td)
	115	{
	116	struct libaio_data ld = malloc(sizeof(ld));
	117
	118	memset(ld, 0, sizeof(*ld));
	119	if (io_queue_init(td->iodepth, &ld->aio_ctx)) {
	120	td_verror(td, errno);
	121	return 1;
	122	}
	123
	124	ld->aio_events = malloc(td->iodepth * sizeof(struct io_event));
84585003	125	memset(ld->aio_events, 0, td->iodepth * sizeof(struct io_event));
2866c82d JA	126	td->io_ops->data = ld;
	127	return 0;
	128	}
	129
	130	struct ioengine_ops ioengine = {
	131	.name = "libaio",
	132	.version = FIO_IOOPS_VERSION,
	133	.init = fio_libaio_init,
	134	.prep = fio_libaio_prep,
	135	.queue = fio_libaio_queue,
	136	.cancel = fio_libaio_cancel,
	137	.getevents = fio_libaio_getevents,
	138	.event = fio_libaio_event,
	139	.cleanup = fio_libaio_cleanup,
2866c82d	140	};