os-linux.h

   1 #ifndef FIO_OS_LINUX_H
   2 #define FIO_OS_LINUX_H
   3
   4 #include <sys/ioctl.h>
   5 #include <sys/uio.h>
   6 #include <sys/syscall.h>
   7 #include <unistd.h>
   8 #include <fcntl.h>
   9 #include <linux/unistd.h>
  10
  11 #define FIO_HAVE_LIBAIO
  12 #define FIO_HAVE_POSIXAIO
  13 #define FIO_HAVE_FADVISE
  14 #define FIO_HAVE_CPU_AFFINITY
  15 #define FIO_HAVE_DISK_UTIL
  16 #define FIO_HAVE_SGIO
  17 #define FIO_HAVE_IOPRIO
  18 #define FIO_HAVE_SPLICE
  19 #define FIO_HAVE_IOSCHED_SWITCH
  20 #define FIO_HAVE_ODIRECT
  21 #define FIO_HAVE_HUGETLB
  22
  23 #define OS_MAP_ANON             (MAP_ANONYMOUS)
  24
  25 typedef cpu_set_t os_cpu_mask_t;
  26 typedef struct drand48_data os_random_state_t;
  27
  28 /*
  29  * we want fadvise64 really, but it's so tangled... later
  30  */
  31 #define fadvise(fd, off, len, advice)   \
  32         posix_fadvise((fd), (off_t)(off), (len), (advice))
  33
  34 #define fio_setaffinity(td)             \
  35         sched_setaffinity((td)->pid, sizeof((td)->o.cpumask), &(td)->o.cpumask)
  36 #define fio_getaffinity(pid, ptr)       \
  37         sched_getaffinity((pid), sizeof(cpu_set_t), (ptr))
  38
  39 static inline int ioprio_set(int which, int who, int ioprio)
  40 {
  41         return syscall(__NR_ioprio_set, which, who, ioprio);
  42 }
  43
  44 /*
  45  * Just check for SPLICE_F_MOVE, if that isn't there, assume the others
  46  * aren't either.
  47  */
  48 #ifndef SPLICE_F_MOVE
  49 #define SPLICE_F_MOVE   (0x01)  /* move pages instead of copying */
  50 #define SPLICE_F_NONBLOCK (0x02) /* don't block on the pipe splicing (but */
  51                                  /* we may still block on the fd we splice */
  52                                  /* from/to, of course */
  53 #define SPLICE_F_MORE   (0x04)  /* expect more data */
  54 #define SPLICE_F_GIFT   (0x08)  /* pages passed in are a gift */
  55
  56 static inline int splice(int fdin, loff_t *off_in, int fdout, loff_t *off_out,
  57                          size_t len, unsigned long flags)
  58 {
  59         return syscall(__NR_sys_splice, fdin, off_in, fdout, off_out, len, flags);
  60 }
  61
  62 static inline int tee(int fdin, int fdout, size_t len, unsigned int flags)
  63 {
  64         return syscall(__NR_sys_tee, fdin, fdout, len, flags);
  65 }
  66
  67 static inline int vmsplice(int fd, const struct iovec *iov,
  68                            unsigned long nr_segs, unsigned int flags)
  69 {
  70         return syscall(__NR_sys_vmsplice, fd, iov, nr_segs, flags);
  71 }
  72 #endif
  73
  74 #define SPLICE_DEF_SIZE (64*1024)
  75
  76 #ifdef FIO_HAVE_SYSLET
  77
  78 struct syslet_uatom;
  79 struct async_head_user;
  80
  81 /*
  82  * syslet stuff
  83  */
  84 static inline struct syslet_uatom *
  85 async_exec(struct syslet_uatom *atom, struct async_head_user *ahu)
  86 {
  87         return (void *) syscall(__NR_async_exec, atom, ahu);
  88 }
  89
  90 static inline long
  91 async_wait(unsigned long min_wait_events, unsigned long user_ring_idx,
  92            struct async_head_user *ahu)
  93 {
  94         return syscall(__NR_async_wait, min_wait_events,
  95                         user_ring_idx, ahu);
  96 }
  97
  98 static inline long async_thread(void *event, struct async_head_user *ahu)
  99 {
 100         return syscall(__NR_async_thread, event, ahu);
 101 }
 102
 103 static inline long umem_add(unsigned long *uptr, unsigned long inc)
 104 {
 105         return syscall(__NR_umem_add, uptr, inc);
 106 }
 107 #endif /* FIO_HAVE_SYSLET */
 108
 109 enum {
 110         IOPRIO_WHO_PROCESS = 1,
 111         IOPRIO_WHO_PGRP,
 112         IOPRIO_WHO_USER,
 113 };
 114
 115 #define IOPRIO_CLASS_SHIFT      13
 116
 117 #ifndef BLKGETSIZE64
 118 #define BLKGETSIZE64    _IOR(0x12,114,size_t)
 119 #endif
 120
 121 #ifndef BLKFLSBUF
 122 #define BLKFLSBUF       _IO(0x12,97)
 123 #endif
 124
 125 static inline int blockdev_invalidate_cache(int fd)
 126 {
 127         return ioctl(fd, BLKFLSBUF);
 128 }
 129
 130 static inline int blockdev_size(int fd, unsigned long long *bytes)
 131 {
 132         if (!ioctl(fd, BLKGETSIZE64, bytes))
 133                 return 0;
 134
 135         return errno;
 136 }
 137
 138 static inline unsigned long long os_phys_mem(void)
 139 {
 140         long pagesize, pages;
 141
 142         pagesize = sysconf(_SC_PAGESIZE);
 143         pages = sysconf(_SC_PHYS_PAGES);
 144         if (pages == -1 || pagesize == -1)
 145                 return 0;
 146
 147         return (unsigned long long) pages * (unsigned long long) pagesize;
 148 }
 149
 150 static inline void os_random_seed(unsigned long seed, os_random_state_t *rs)
 151 {
 152         srand48_r(seed, rs);
 153 }
 154
 155 static inline long os_random_long(os_random_state_t *rs)
 156 {
 157         long val;
 158
 159         lrand48_r(rs, &val);
 160         return val;
 161 }
 162
 163 static inline double os_random_double(os_random_state_t *rs)
 164 {
 165         double val;
 166
 167         drand48_r(rs, &val);
 168         return val;
 169 }
 170
 171 #endif