netsplice: use zero-copy if possible
[fio.git] / engines / net.c
index 2e136f3dc104007522f67142deafdad3eee12925..bc3946d588f4c389d448ca4c3c36cb1d4c1d0b84 100644 (file)
@@ -1,5 +1,8 @@
 /*
- * Transfer data over the net.
+ * net engine
+ *
+ * IO engine that reads/writes to/from sockets.
+ *
  */
 #include <stdio.h>
 #include <stdlib.h>
 #include <sys/poll.h>
 
 #include "../fio.h"
-#include "../os.h"
 
 struct netio_data {
        int listenfd;
        int send_to_net;
+       int use_splice;
+       int pipes[2];
        char host[64];
        struct sockaddr_in addr;
 };
@@ -48,23 +52,180 @@ static int fio_netio_prep(struct thread_data *td, struct io_u *io_u)
        return 1;
 }
 
-static int fio_netio_queue(struct thread_data *td, struct io_u *io_u)
+/*
+ * Receive bytes from a socket and fill them into the internal pipe
+ */
+static int splice_in(struct thread_data *td, struct io_u *io_u)
 {
+       struct netio_data *nd = td->io_ops->data;
+       unsigned int len = io_u->xfer_buflen;
        struct fio_file *f = io_u->file;
-       int ret, flags = 0;
+       int bytes = 0;
 
-       if (io_u->ddir == DDIR_WRITE) {
-               /*
-                * if we are going to write more, set MSG_MORE
-                */
-               if (td->this_io_bytes[DDIR_WRITE] + io_u->xfer_buflen <
-                   td->io_size)
-                       flags = MSG_MORE;
+       while (len) {
+               int ret = splice(f->fd, NULL, nd->pipes[1], NULL, len, 0);
+
+               if (ret < 0) {
+                       if (!bytes)
+                               bytes = ret;
+
+                       break;
+               } else if (!ret)
+                       break;
+
+               bytes += ret;
+               len -= ret;
+       }
+
+       return bytes;
+}
+
+/*
+ * Transmit 'len' bytes from the internal pipe
+ */
+static int splice_out(struct thread_data *td, struct io_u *io_u,
+                     unsigned int len)
+{
+       struct netio_data *nd = td->io_ops->data;
+       struct fio_file *f = io_u->file;
+       int bytes = 0;
+
+       while (len) {
+               int ret = splice(nd->pipes[0], NULL, f->fd, NULL, len, 0);
+
+               if (ret < 0) {
+                       if (!bytes)
+                               bytes = ret;
+                       
+                       break;
+               } else if (!ret)
+                       break;
+
+               bytes += ret;
+               len -= ret;
+       }
+
+       return bytes;
+}
+
+/*
+ * vmsplice() pipe to io_u buffer
+ */
+static int vmsplice_io_u_out(struct thread_data *td, struct io_u *io_u,
+                            unsigned int len)
+{
+       struct netio_data *nd = td->io_ops->data;
+       struct iovec iov = {
+               .iov_base = io_u->xfer_buf,
+               .iov_len = len,
+       };
+       int bytes = 0;
+
+       while (iov.iov_len) {
+               int ret = vmsplice(nd->pipes[0], &iov, 1, SPLICE_F_MOVE);
+
+               if (ret < 0) {
+                       if (!bytes)
+                               bytes = ret;
+                       break;
+               } else if (!ret)
+                       break;
+
+               iov.iov_len -= ret;
+               bytes += ret;
+               if (iov.iov_len)
+                       iov.iov_base += ret;
+       }
+
+       return bytes;
+}
+
+/*
+ * vmsplice() io_u to pipe
+ */
+static int vmsplice_io_u_in(struct thread_data *td, struct io_u *io_u)
+{
+       struct netio_data *nd = td->io_ops->data;
+       struct iovec iov = {
+               .iov_base = io_u->xfer_buf,
+               .iov_len = io_u->xfer_buflen,
+       };
+       unsigned int bytes = 0;
+
+       while (iov.iov_len) {
+               int ret = vmsplice(nd->pipes[1], &iov, 1, SPLICE_F_MOVE);
+
+               if (ret < 0)
+                       return -1;
+               else if (!ret)
+                       return bytes;
+
+               iov.iov_len -= ret;
+               bytes += ret;
+               if (iov.iov_len)
+                       iov.iov_base += ret;
+       }
+
+       return bytes;
+}
+
+static int fio_netio_splice_in(struct thread_data *td, struct io_u *io_u)
+{
+       int ret;
+
+       ret = splice_in(td, io_u);
+       if (ret <= 0)
+               return ret;
+
+       return vmsplice_io_u_out(td, io_u, ret);
+}
+
+static int fio_netio_splice_out(struct thread_data *td, struct io_u *io_u)
+{
+       int ret;
+
+       ret = vmsplice_io_u_in(td, io_u);
+       if (ret <= 0)
+               return ret;
+
+       return splice_out(td, io_u, ret);
+}
 
-               ret = send(f->fd, io_u->xfer_buf, io_u->xfer_buflen, flags);
+static int fio_netio_send(struct thread_data *td, struct io_u *io_u)
+{
+       int flags = 0;
+
+       /*
+        * if we are going to write more, set MSG_MORE
+        */
+       if (td->this_io_bytes[DDIR_WRITE] + io_u->xfer_buflen < td->o.size)
+               flags = MSG_MORE;
+
+       return send(io_u->file->fd, io_u->xfer_buf, io_u->xfer_buflen, flags);
+}
+
+static int fio_netio_recv(struct io_u *io_u)
+{
+       int flags = MSG_WAITALL;
+
+       return recv(io_u->file->fd, io_u->xfer_buf, io_u->xfer_buflen, flags);
+}
+
+static int fio_netio_queue(struct thread_data *td, struct io_u *io_u)
+{
+       struct netio_data *nd = td->io_ops->data;
+       int ret;
+
+       if (io_u->ddir == DDIR_WRITE) {
+               if (nd->use_splice)
+                       ret = fio_netio_splice_out(td, io_u);
+               else
+                       ret = fio_netio_send(td, io_u);
        } else if (io_u->ddir == DDIR_READ) {
-               flags = MSG_WAITALL;
-               ret = recv(f->fd, io_u->xfer_buf, io_u->xfer_buflen, flags);
+               if (nd->use_splice)
+                       ret = fio_netio_splice_in(td, io_u);
+               else
+                       ret = fio_netio_recv(io_u);
        } else
                ret = 0;        /* must be a SYNC */
 
@@ -108,7 +269,7 @@ static int fio_netio_accept(struct thread_data *td, struct fio_file *f)
        struct pollfd pfd;
        int ret;
 
-       fprintf(f_out, "fio: waiting for connection\n");
+       log_info("fio: waiting for connection\n");
 
        /*
         * Accept loop. poll for incoming events, accept them. Repeat until we
@@ -221,26 +382,24 @@ static int fio_netio_init(struct thread_data *td)
 {
        struct netio_data *nd = td->io_ops->data;
        unsigned short port;
-       struct fio_file *f;
        char host[64], buf[128];
        char *sep;
-       int ret, i;
-
-       if (!td->total_file_size) {
-               log_err("fio: need size= set\n");
-               return 1;
-       }
+       int ret;
 
        if (td_rw(td)) {
                log_err("fio: network connections must be read OR write\n");
                return 1;
        }
+       if (td_random(td)) {
+               log_err("fio: network IO can't be random\n");
+               return 1;
+       }
 
-       strcpy(buf, td->filename);
+       strcpy(buf, td->o.filename);
 
-       sep = strchr(buf, ':');
+       sep = strchr(buf, '/');
        if (!sep) {
-               log_err("fio: bad network host:port <<%s>>\n", td->filename);
+               log_err("fio: bad network host/port <<%s>>\n", td->o.filename);
                return 1;
        }
 
@@ -257,18 +416,7 @@ static int fio_netio_init(struct thread_data *td)
                ret = fio_netio_setup_connect(td, host, port);
        }
 
-       if (ret)
-               return ret;
-
-       td->io_size = td->total_file_size;
-       td->total_io_size = td->io_size;
-
-       for_each_file(td, f, i) {
-               f->file_size = td->total_file_size / td->nr_files;
-               f->real_file_size = f->file_size;
-       }
-
-       return 0;
+       return ret;
 }
 
 static void fio_netio_cleanup(struct thread_data *td)
@@ -283,15 +431,38 @@ static void fio_netio_cleanup(struct thread_data *td)
 
 static int fio_netio_setup(struct thread_data *td)
 {
-       struct netio_data *nd = malloc(sizeof(*nd));
+       struct netio_data *nd;
+
+       if (!td->io_ops->data) {
+               nd = malloc(sizeof(*nd));;
+
+               memset(nd, 0, sizeof(*nd));
+               nd->listenfd = -1;
+               td->io_ops->data = nd;
+       }
 
-       memset(nd, 0, sizeof(*nd));
-       nd->listenfd = -1;
-       td->io_ops->data = nd;
        return 0;
 }
 
-static struct ioengine_ops ioengine = {
+static int fio_netio_setup_splice(struct thread_data *td)
+{
+       struct netio_data *nd;
+
+       fio_netio_setup(td);
+
+       nd = td->io_ops->data;
+       if (nd) {
+               if (pipe(nd->pipes) < 0)
+                       return 1;
+
+               nd->use_splice = 1;
+               return 0;
+       }
+
+       return 1;
+}
+
+static struct ioengine_ops ioengine_rw = {
        .name           = "net",
        .version        = FIO_IOOPS_VERSION,
        .prep           = fio_netio_prep,
@@ -304,12 +475,27 @@ static struct ioengine_ops ioengine = {
        .flags          = FIO_SYNCIO | FIO_DISKLESSIO,
 };
 
+static struct ioengine_ops ioengine_splice = {
+       .name           = "netsplice",
+       .version        = FIO_IOOPS_VERSION,
+       .prep           = fio_netio_prep,
+       .queue          = fio_netio_queue,
+       .setup          = fio_netio_setup_splice,
+       .init           = fio_netio_init,
+       .cleanup        = fio_netio_cleanup,
+       .open_file      = fio_netio_open_file,
+       .close_file     = generic_close_file,
+       .flags          = FIO_SYNCIO | FIO_DISKLESSIO,
+};
+
 static void fio_init fio_netio_register(void)
 {
-       register_ioengine(&ioengine);
+       register_ioengine(&ioengine_rw);
+       register_ioengine(&ioengine_splice);
 }
 
 static void fio_exit fio_netio_unregister(void)
 {
-       unregister_ioengine(&ioengine);
+       unregister_ioengine(&ioengine_rw);
+       unregister_ioengine(&ioengine_splice);
 }