engines/fio-engine-libaio.c

   1 /*
   2  * native linux aio io engine
   3  *
   4  */
   5 #include <stdio.h>
   6 #include <stdlib.h>
   7 #include <unistd.h>
   8 #include <errno.h>
   9 #include <assert.h>
  10 #include "fio.h"
  11 #include "os.h"
  12
  13 #define ev_to_iou(ev)   (struct io_u *) ((unsigned long) (ev)->obj)
  14
  15 struct libaio_data {
  16         io_context_t aio_ctx;
  17         struct io_event *aio_events;
  18 };
  19
  20 static int fio_libaio_prep(struct thread_data fio_unused *td, struct io_u *io_u)
  21 {
  22         struct fio_file *f = io_u->file;
  23
  24         if (io_u->ddir == DDIR_READ)
  25                 io_prep_pread(&io_u->iocb, f->fd, io_u->buf, io_u->buflen, io_u->offset);
  26         else if (io_u->ddir == DDIR_WRITE)
  27                 io_prep_pwrite(&io_u->iocb, f->fd, io_u->buf, io_u->buflen, io_u->offset);
  28         else if (io_u->ddir == DDIR_SYNC)
  29                 io_prep_fsync(&io_u->iocb, f->fd);
  30         else
  31                 return 1;
  32
  33         return 0;
  34 }
  35
  36 static struct io_u *fio_libaio_event(struct thread_data *td, int event)
  37 {
  38         struct libaio_data *ld = td->io_ops->data;
  39
  40         return ev_to_iou(ld->aio_events + event);
  41 }
  42
  43 static int fio_libaio_getevents(struct thread_data *td, int min, int max,
  44                                 struct timespec *t)
  45 {
  46         struct libaio_data *ld = td->io_ops->data;
  47         long r;
  48
  49         do {
  50                 r = io_getevents(ld->aio_ctx, min, max, ld->aio_events, t);
  51                 if (r == -EAGAIN) {
  52                         usleep(100);
  53                         continue;
  54                 } else if (r == -EINTR)
  55                         continue;
  56                 else if (r != 0)
  57                         break;
  58         } while (1);
  59
  60         if (r < 0)
  61                 r = -r;
  62
  63         return (int) r;
  64 }
  65
  66 static int fio_libaio_queue(struct thread_data *td, struct io_u *io_u)
  67 {
  68         struct libaio_data *ld = td->io_ops->data;
  69         struct iocb *iocb = &io_u->iocb;
  70         long ret;
  71
  72         do {
  73                 ret = io_submit(ld->aio_ctx, 1, &iocb);
  74                 if (ret == 1)
  75                         return 0;
  76                 else if (ret == -EAGAIN || !ret)
  77                         usleep(100);
  78                 else if (ret == -EINTR)
  79                         continue;
  80                 else
  81                         break;
  82         } while (1);
  83
  84         if (ret <= 0) {
  85                 io_u->resid = io_u->buflen;
  86                 io_u->error = -ret;
  87                 return 1;
  88         }
  89
  90         return 0;
  91 }
  92
  93 static int fio_libaio_cancel(struct thread_data *td, struct io_u *io_u)
  94 {
  95         struct libaio_data *ld = td->io_ops->data;
  96
  97         return io_cancel(ld->aio_ctx, &io_u->iocb, ld->aio_events);
  98 }
  99
 100 static void fio_libaio_cleanup(struct thread_data *td)
 101 {
 102         struct libaio_data *ld = td->io_ops->data;
 103
 104         if (ld) {
 105                 io_destroy(ld->aio_ctx);
 106                 if (ld->aio_events)
 107                         free(ld->aio_events);
 108
 109                 free(ld);
 110                 td->io_ops->data = NULL;
 111         }
 112 }
 113
 114 static int fio_libaio_init(struct thread_data *td)
 115 {
 116         struct libaio_data *ld = malloc(sizeof(*ld));
 117
 118         memset(ld, 0, sizeof(*ld));
 119         if (io_queue_init(td->iodepth, &ld->aio_ctx)) {
 120                 td_verror(td, errno);
 121                 return 1;
 122         }
 123
 124         ld->aio_events = malloc(td->iodepth * sizeof(struct io_event));
 125         memset(ld->aio_events, 0, td->iodepth * sizeof(struct io_event));
 126         td->io_ops->data = ld;
 127         return 0;
 128 }
 129
 130 struct ioengine_ops ioengine = {
 131         .name           = "libaio",
 132         .version        = FIO_IOOPS_VERSION,
 133         .init           = fio_libaio_init,
 134         .prep           = fio_libaio_prep,
 135         .queue          = fio_libaio_queue,
 136         .cancel         = fio_libaio_cancel,
 137         .getevents      = fio_libaio_getevents,
 138         .event          = fio_libaio_event,
 139         .cleanup        = fio_libaio_cleanup,
 140 };