diskutil.c

   1 #include <inttypes.h>
   2 #include <stdio.h>
   3 #include <string.h>
   4 #include <sys/types.h>
   5 #include <sys/stat.h>
   6 #include <sys/sysmacros.h>
   7 #include <dirent.h>
   8 #include <libgen.h>
   9 #ifdef CONFIG_VALGRIND_DEV
  10 #include <valgrind/drd.h>
  11 #else
  12 #define DRD_IGNORE_VAR(x) do { } while (0)
  13 #endif
  14
  15 #include "fio.h"
  16 #include "smalloc.h"
  17 #include "diskutil.h"
  18 #include "helper_thread.h"
  19
  20 static int last_majdev, last_mindev;
  21 static struct disk_util *last_du;
  22
  23 static struct fio_sem *disk_util_sem;
  24
  25 static struct disk_util *__init_per_file_disk_util(struct thread_data *td,
  26                 int majdev, int mindev, char *path);
  27
  28 static void disk_util_free(struct disk_util *du)
  29 {
  30         if (du == last_du)
  31                 last_du = NULL;
  32
  33         while (!flist_empty(&du->slaves)) {
  34                 struct disk_util *slave;
  35
  36                 slave = flist_first_entry(&du->slaves, struct disk_util, slavelist);
  37                 flist_del(&slave->slavelist);
  38                 slave->users--;
  39         }
  40
  41         fio_sem_remove(du->lock);
  42         free(du->sysfs_root);
  43         sfree(du);
  44 }
  45
  46 static int get_io_ticks(struct disk_util *du, struct disk_util_stat *dus)
  47 {
  48         unsigned in_flight;
  49         unsigned long long sectors[2];
  50         char line[256];
  51         FILE *f;
  52         char *p;
  53         int ret;
  54
  55         dprint(FD_DISKUTIL, "open stat file: %s\n", du->path);
  56
  57         f = fopen(du->path, "r");
  58         if (!f)
  59                 return 1;
  60
  61         p = fgets(line, sizeof(line), f);
  62         if (!p) {
  63                 fclose(f);
  64                 return 1;
  65         }
  66
  67         dprint(FD_DISKUTIL, "%s: %s", du->path, p);
  68
  69         ret = sscanf(p, "%"SCNu64" %"SCNu64" %llu %"SCNu64" "
  70                      "%"SCNu64" %"SCNu64" %llu %"SCNu64" "
  71                      "%u %"SCNu64" %"SCNu64"\n",
  72                      &dus->s.ios[0], &dus->s.merges[0], &sectors[0],
  73                      &dus->s.ticks[0],
  74                      &dus->s.ios[1], &dus->s.merges[1], &sectors[1],
  75                      &dus->s.ticks[1],
  76                      &in_flight, &dus->s.io_ticks, &dus->s.time_in_queue);
  77         fclose(f);
  78         dprint(FD_DISKUTIL, "%s: stat read ok? %d\n", du->path, ret == 1);
  79         dus->s.sectors[0] = sectors[0];
  80         dus->s.sectors[1] = sectors[1];
  81         return ret != 11;
  82 }
  83
  84 static void update_io_tick_disk(struct disk_util *du)
  85 {
  86         struct disk_util_stat __dus, *dus, *ldus;
  87         struct timespec t;
  88
  89         if (!du->users)
  90                 return;
  91         if (get_io_ticks(du, &__dus))
  92                 return;
  93
  94         dus = &du->dus;
  95         ldus = &du->last_dus;
  96
  97         dus->s.sectors[0] += (__dus.s.sectors[0] - ldus->s.sectors[0]);
  98         dus->s.sectors[1] += (__dus.s.sectors[1] - ldus->s.sectors[1]);
  99         dus->s.ios[0] += (__dus.s.ios[0] - ldus->s.ios[0]);
 100         dus->s.ios[1] += (__dus.s.ios[1] - ldus->s.ios[1]);
 101         dus->s.merges[0] += (__dus.s.merges[0] - ldus->s.merges[0]);
 102         dus->s.merges[1] += (__dus.s.merges[1] - ldus->s.merges[1]);
 103         dus->s.ticks[0] += (__dus.s.ticks[0] - ldus->s.ticks[0]);
 104         dus->s.ticks[1] += (__dus.s.ticks[1] - ldus->s.ticks[1]);
 105         dus->s.io_ticks += (__dus.s.io_ticks - ldus->s.io_ticks);
 106         dus->s.time_in_queue += (__dus.s.time_in_queue - ldus->s.time_in_queue);
 107
 108         fio_gettime(&t, NULL);
 109         dus->s.msec += mtime_since(&du->time, &t);
 110         memcpy(&du->time, &t, sizeof(t));
 111         memcpy(&ldus->s, &__dus.s, sizeof(__dus.s));
 112 }
 113
 114 int update_io_ticks(void)
 115 {
 116         struct flist_head *entry;
 117         struct disk_util *du;
 118         int ret = 0;
 119
 120         dprint(FD_DISKUTIL, "update io ticks\n");
 121
 122         fio_sem_down(disk_util_sem);
 123
 124         if (!helper_should_exit()) {
 125                 flist_for_each(entry, &disk_list) {
 126                         du = flist_entry(entry, struct disk_util, list);
 127                         update_io_tick_disk(du);
 128                 }
 129         } else
 130                 ret = 1;
 131
 132         fio_sem_up(disk_util_sem);
 133         return ret;
 134 }
 135
 136 static struct disk_util *disk_util_exists(int major, int minor)
 137 {
 138         struct flist_head *entry;
 139         struct disk_util *du;
 140
 141         fio_sem_down(disk_util_sem);
 142
 143         flist_for_each(entry, &disk_list) {
 144                 du = flist_entry(entry, struct disk_util, list);
 145
 146                 if (major == du->major && minor == du->minor) {
 147                         fio_sem_up(disk_util_sem);
 148                         return du;
 149                 }
 150         }
 151
 152         fio_sem_up(disk_util_sem);
 153         return NULL;
 154 }
 155
 156 static int get_device_numbers(char *file_name, int *maj, int *min)
 157 {
 158         struct stat st;
 159         int majdev, mindev;
 160         char tempname[PATH_MAX], *p;
 161
 162         if (!lstat(file_name, &st)) {
 163                 if (S_ISBLK(st.st_mode)) {
 164                         majdev = major(st.st_rdev);
 165                         mindev = minor(st.st_rdev);
 166                 } else if (S_ISCHR(st.st_mode) ||
 167                            S_ISFIFO(st.st_mode)) {
 168                         return -1;
 169                 } else {
 170                         majdev = major(st.st_dev);
 171                         mindev = minor(st.st_dev);
 172                 }
 173         } else {
 174                 /*
 175                  * must be a file, open "." in that path
 176                  */
 177                 snprintf(tempname, FIO_ARRAY_SIZE(tempname), "%s", file_name);
 178                 p = dirname(tempname);
 179                 if (stat(p, &st)) {
 180                         perror("disk util stat");
 181                         return -1;
 182                 }
 183
 184                 majdev = major(st.st_dev);
 185                 mindev = minor(st.st_dev);
 186         }
 187
 188         *min = mindev;
 189         *maj = majdev;
 190
 191         return 0;
 192 }
 193
 194 static int read_block_dev_entry(char *path, int *maj, int *min)
 195 {
 196         char line[256], *p;
 197         FILE *f;
 198
 199         f = fopen(path, "r");
 200         if (!f) {
 201                 perror("open path");
 202                 return 1;
 203         }
 204
 205         p = fgets(line, sizeof(line), f);
 206         fclose(f);
 207
 208         if (!p)
 209                 return 1;
 210
 211         if (sscanf(p, "%u:%u", maj, min) != 2)
 212                 return 1;
 213
 214         return 0;
 215 }
 216
 217 static void find_add_disk_slaves(struct thread_data *td, char *path,
 218                                  struct disk_util *masterdu)
 219 {
 220         DIR *dirhandle = NULL;
 221         struct dirent *dirent = NULL;
 222         char slavesdir[PATH_MAX], temppath[PATH_MAX], slavepath[PATH_MAX];
 223         struct disk_util *slavedu = NULL;
 224         int majdev, mindev;
 225         ssize_t linklen;
 226
 227         sprintf(slavesdir, "%s/%s", path, "slaves");
 228         dirhandle = opendir(slavesdir);
 229         if (!dirhandle)
 230                 return;
 231
 232         while ((dirent = readdir(dirhandle)) != NULL) {
 233                 if (!strcmp(dirent->d_name, ".") ||
 234                     !strcmp(dirent->d_name, ".."))
 235                         continue;
 236
 237                 nowarn_snprintf(temppath, sizeof(temppath), "%s/%s", slavesdir,
 238                                 dirent->d_name);
 239                 /* Can we always assume that the slaves device entries
 240                  * are links to the real directories for the slave
 241                  * devices?
 242                  */
 243                 linklen = readlink(temppath, slavepath, PATH_MAX - 1);
 244                 if (linklen < 0) {
 245                         perror("readlink() for slave device.");
 246                         closedir(dirhandle);
 247                         return;
 248                 }
 249                 slavepath[linklen] = '\0';
 250
 251                 nowarn_snprintf(temppath, sizeof(temppath), "%s/%s/dev",
 252                                 slavesdir, slavepath);
 253                 if (access(temppath, F_OK) != 0)
 254                         nowarn_snprintf(temppath, sizeof(temppath),
 255                                         "%s/%s/device/dev", slavesdir,
 256                                         slavepath);
 257                 if (read_block_dev_entry(temppath, &majdev, &mindev)) {
 258                         perror("Error getting slave device numbers");
 259                         closedir(dirhandle);
 260                         return;
 261                 }
 262
 263                 /*
 264                  * See if this maj,min already exists
 265                  */
 266                 slavedu = disk_util_exists(majdev, mindev);
 267                 if (slavedu)
 268                         continue;
 269
 270                 nowarn_snprintf(temppath, sizeof(temppath), "%s/%s", slavesdir,
 271                                 slavepath);
 272                 __init_per_file_disk_util(td, majdev, mindev, temppath);
 273                 slavedu = disk_util_exists(majdev, mindev);
 274
 275                 /* Should probably use an assert here. slavedu should
 276                  * always be present at this point. */
 277                 if (slavedu) {
 278                         slavedu->users++;
 279                         flist_add_tail(&slavedu->slavelist, &masterdu->slaves);
 280                 }
 281         }
 282
 283         closedir(dirhandle);
 284 }
 285
 286 static struct disk_util *disk_util_add(struct thread_data *td, int majdev,
 287                                        int mindev, char *path)
 288 {
 289         struct disk_util *du, *__du;
 290         struct flist_head *entry;
 291         int l;
 292
 293         dprint(FD_DISKUTIL, "add maj/min %d/%d: %s\n", majdev, mindev, path);
 294
 295         du = smalloc(sizeof(*du));
 296         if (!du)
 297                 return NULL;
 298
 299         DRD_IGNORE_VAR(du->users);
 300         memset(du, 0, sizeof(*du));
 301         INIT_FLIST_HEAD(&du->list);
 302         l = snprintf(du->path, sizeof(du->path), "%s/stat", path);
 303         if (l < 0 || l >= sizeof(du->path)) {
 304                 log_err("constructed path \"%.100s[...]/stat\" larger than buffer (%zu bytes)\n",
 305                         path, sizeof(du->path) - 1);
 306                 sfree(du);
 307                 return NULL;
 308         }
 309         snprintf((char *) du->dus.name, FIO_ARRAY_SIZE(du->dus.name), "%s",
 310                  basename(path));
 311         du->sysfs_root = strdup(path);
 312         du->major = majdev;
 313         du->minor = mindev;
 314         INIT_FLIST_HEAD(&du->slavelist);
 315         INIT_FLIST_HEAD(&du->slaves);
 316         du->lock = fio_sem_init(FIO_SEM_UNLOCKED);
 317         du->users = 0;
 318
 319         fio_sem_down(disk_util_sem);
 320
 321         flist_for_each(entry, &disk_list) {
 322                 __du = flist_entry(entry, struct disk_util, list);
 323
 324                 dprint(FD_DISKUTIL, "found %s in list\n", __du->dus.name);
 325
 326                 if (!strcmp((char *) du->dus.name, (char *) __du->dus.name)) {
 327                         disk_util_free(du);
 328                         fio_sem_up(disk_util_sem);
 329                         return __du;
 330                 }
 331         }
 332
 333         dprint(FD_DISKUTIL, "add %s to list\n", du->dus.name);
 334
 335         fio_gettime(&du->time, NULL);
 336         get_io_ticks(du, &du->last_dus);
 337
 338         flist_add_tail(&du->list, &disk_list);
 339         fio_sem_up(disk_util_sem);
 340
 341         find_add_disk_slaves(td, path, du);
 342         return du;
 343 }
 344
 345 static int check_dev_match(int majdev, int mindev, char *path)
 346 {
 347         int major, minor;
 348
 349         if (read_block_dev_entry(path, &major, &minor))
 350                 return 1;
 351
 352         if (majdev == major && mindev == minor)
 353                 return 0;
 354
 355         return 1;
 356 }
 357
 358 static int find_block_dir(int majdev, int mindev, char *path, int link_ok)
 359 {
 360         struct dirent *dir;
 361         struct stat st;
 362         int found = 0;
 363         DIR *D;
 364
 365         D = opendir(path);
 366         if (!D)
 367                 return 0;
 368
 369         while ((dir = readdir(D)) != NULL) {
 370                 char full_path[257];
 371
 372                 if (!strcmp(dir->d_name, ".") || !strcmp(dir->d_name, ".."))
 373                         continue;
 374
 375                 sprintf(full_path, "%s/%s", path, dir->d_name);
 376
 377                 if (!strcmp(dir->d_name, "dev")) {
 378                         if (!check_dev_match(majdev, mindev, full_path)) {
 379                                 found = 1;
 380                                 break;
 381                         }
 382                 }
 383
 384                 if (link_ok) {
 385                         if (stat(full_path, &st) == -1) {
 386                                 perror("stat");
 387                                 break;
 388                         }
 389                 } else {
 390                         if (lstat(full_path, &st) == -1) {
 391                                 perror("stat");
 392                                 break;
 393                         }
 394                 }
 395
 396                 if (!S_ISDIR(st.st_mode) || S_ISLNK(st.st_mode))
 397                         continue;
 398
 399                 found = find_block_dir(majdev, mindev, full_path, 0);
 400                 if (found) {
 401                         strcpy(path, full_path);
 402                         break;
 403                 }
 404         }
 405
 406         closedir(D);
 407         return found;
 408 }
 409
 410 static struct disk_util *__init_per_file_disk_util(struct thread_data *td,
 411                                                    int majdev, int mindev,
 412                                                    char *path)
 413 {
 414         struct stat st;
 415         char tmp[PATH_MAX];
 416         char *p;
 417
 418         /*
 419          * If there's a ../queue/ directory there, we are inside a partition.
 420          * Check if that is the case and jump back. For loop/md/dm etc we
 421          * are already in the right spot.
 422          */
 423         sprintf(tmp, "%s/../queue", path);
 424         if (!stat(tmp, &st)) {
 425                 p = dirname(path);
 426                 sprintf(tmp, "%s/queue", p);
 427                 if (stat(tmp, &st)) {
 428                         log_err("unknown sysfs layout\n");
 429                         return NULL;
 430                 }
 431                 snprintf(tmp, FIO_ARRAY_SIZE(tmp), "%s", p);
 432                 sprintf(path, "%s", tmp);
 433         }
 434
 435         return disk_util_add(td, majdev, mindev, path);
 436 }
 437
 438 static struct disk_util *init_per_file_disk_util(struct thread_data *td,
 439                                                  char *filename)
 440 {
 441
 442         char foo[PATH_MAX];
 443         struct disk_util *du;
 444         int mindev, majdev;
 445
 446         if (get_device_numbers(filename, &majdev, &mindev))
 447                 return NULL;
 448
 449         dprint(FD_DISKUTIL, "%s belongs to maj/min %d/%d\n", filename, majdev,
 450                         mindev);
 451
 452         du = disk_util_exists(majdev, mindev);
 453         if (du)
 454                 return du;
 455
 456         /*
 457          * for an fs without a device, we will repeatedly stat through
 458          * sysfs which can take oodles of time for thousands of files. so
 459          * cache the last lookup and compare with that before going through
 460          * everything again.
 461          */
 462         if (mindev == last_mindev && majdev == last_majdev)
 463                 return last_du;
 464
 465         last_mindev = mindev;
 466         last_majdev = majdev;
 467
 468         sprintf(foo, "/sys/block");
 469         if (!find_block_dir(majdev, mindev, foo, 1))
 470                 return NULL;
 471
 472         return __init_per_file_disk_util(td, majdev, mindev, foo);
 473 }
 474
 475 static struct disk_util *__init_disk_util(struct thread_data *td,
 476                                           struct fio_file *f)
 477 {
 478         return init_per_file_disk_util(td, f->file_name);
 479 }
 480
 481 void init_disk_util(struct thread_data *td)
 482 {
 483         struct fio_file *f;
 484         unsigned int i;
 485
 486         if (!td->o.do_disk_util ||
 487             td_ioengine_flagged(td, FIO_DISKLESSIO | FIO_NODISKUTIL))
 488                 return;
 489
 490         for_each_file(td, f, i)
 491                 f->du = __init_disk_util(td, f);
 492 }
 493
 494 void disk_util_prune_entries(void)
 495 {
 496         fio_sem_down(disk_util_sem);
 497
 498         while (!flist_empty(&disk_list)) {
 499                 struct disk_util *du;
 500
 501                 du = flist_first_entry(&disk_list, struct disk_util, list);
 502                 flist_del(&du->list);
 503                 disk_util_free(du);
 504         }
 505
 506         last_majdev = last_mindev = -1;
 507         fio_sem_up(disk_util_sem);
 508         fio_sem_remove(disk_util_sem);
 509 }
 510
 511 void setup_disk_util(void)
 512 {
 513         disk_util_sem = fio_sem_init(FIO_SEM_UNLOCKED);
 514 }