engines/fio-engine-libaio.c

   1 /*
   2  * native linux aio io engine
   3  *
   4  */
   5 #include <stdio.h>
   6 #include <stdlib.h>
   7 #include <unistd.h>
   8 #include <errno.h>
   9 #include <assert.h>
  10 #include "fio.h"
  11 #include "os.h"
  12
  13 #define ev_to_iou(ev)   (struct io_u *) ((unsigned long) (ev)->obj)
  14
  15 struct libaio_data {
  16         io_context_t aio_ctx;
  17         struct io_event *aio_events;
  18 };
  19
  20 static int fio_libaio_sync(struct thread_data fio_unused *td,
  21                            struct fio_file *f)
  22 {
  23         return fsync(f->fd);
  24 }
  25
  26 static int fio_libaio_prep(struct thread_data fio_unused *td, struct io_u *io_u)
  27 {
  28         struct fio_file *f = io_u->file;
  29
  30         if (io_u->ddir == DDIR_READ)
  31                 io_prep_pread(&io_u->iocb, f->fd, io_u->buf, io_u->buflen, io_u->offset);
  32         else
  33                 io_prep_pwrite(&io_u->iocb, f->fd, io_u->buf, io_u->buflen, io_u->offset);
  34
  35         return 0;
  36 }
  37
  38 static struct io_u *fio_libaio_event(struct thread_data *td, int event)
  39 {
  40         struct libaio_data *ld = td->io_ops->data;
  41
  42         return ev_to_iou(ld->aio_events + event);
  43 }
  44
  45 static int fio_libaio_getevents(struct thread_data *td, int min, int max,
  46                                 struct timespec *t)
  47 {
  48         struct libaio_data *ld = td->io_ops->data;
  49         long r;
  50
  51         do {
  52                 r = io_getevents(ld->aio_ctx, min, max, ld->aio_events, t);
  53                 if (r == -EAGAIN) {
  54                         usleep(100);
  55                         continue;
  56                 } else if (r == -EINTR)
  57                         continue;
  58                 else if (r != 0)
  59                         break;
  60         } while (1);
  61
  62         return (int) r;
  63 }
  64
  65 static int fio_libaio_queue(struct thread_data *td, struct io_u *io_u)
  66 {
  67         struct libaio_data *ld = td->io_ops->data;
  68         struct iocb *iocb = &io_u->iocb;
  69         long ret;
  70
  71         do {
  72                 ret = io_submit(ld->aio_ctx, 1, &iocb);
  73                 if (ret == 1)
  74                         return 0;
  75                 else if (ret == -EAGAIN || !ret)
  76                         usleep(100);
  77                 else if (ret == -EINTR)
  78                         continue;
  79                 else
  80                         break;
  81         } while (1);
  82
  83         assert(ret);
  84
  85         return (int) ret;
  86 }
  87
  88 static int fio_libaio_cancel(struct thread_data *td, struct io_u *io_u)
  89 {
  90         struct libaio_data *ld = td->io_ops->data;
  91
  92         return io_cancel(ld->aio_ctx, &io_u->iocb, ld->aio_events);
  93 }
  94
  95 static void fio_libaio_cleanup(struct thread_data *td)
  96 {
  97         struct libaio_data *ld = td->io_ops->data;
  98
  99         if (ld) {
 100                 io_destroy(ld->aio_ctx);
 101                 if (ld->aio_events)
 102                         free(ld->aio_events);
 103
 104                 free(ld);
 105                 td->io_ops->data = NULL;
 106         }
 107 }
 108
 109 static int fio_libaio_init(struct thread_data *td)
 110 {
 111         struct libaio_data *ld = malloc(sizeof(*ld));
 112
 113         memset(ld, 0, sizeof(*ld));
 114         if (io_queue_init(td->iodepth, &ld->aio_ctx)) {
 115                 td_verror(td, errno);
 116                 return 1;
 117         }
 118
 119         ld->aio_events = malloc(td->iodepth * sizeof(struct io_event));
 120         memset(ld->aio_events, 0, td->iodepth * sizeof(struct io_event));
 121         td->io_ops->data = ld;
 122         return 0;
 123 }
 124
 125 struct ioengine_ops ioengine = {
 126         .name           = "libaio",
 127         .version        = FIO_IOOPS_VERSION,
 128         .init           = fio_libaio_init,
 129         .prep           = fio_libaio_prep,
 130         .queue          = fio_libaio_queue,
 131         .cancel         = fio_libaio_cancel,
 132         .getevents      = fio_libaio_getevents,
 133         .event          = fio_libaio_event,
 134         .cleanup        = fio_libaio_cleanup,
 135         .sync           = fio_libaio_sync,
 136 };