include/linux/crypto.h

   1 /*
   2  * Scatterlist Cryptographic API.
   3  *
   4  * Copyright (c) 2002 James Morris <jmorris@intercode.com.au>
   5  * Copyright (c) 2002 David S. Miller (davem@redhat.com)
   6  * Copyright (c) 2005 Herbert Xu <herbert@gondor.apana.org.au>
   7  *
   8  * Portions derived from Cryptoapi, by Alexander Kjeldaas <astor@fast.no>
   9  * and Nettle, by Niels Möller.
  10  *
  11  * This program is free software; you can redistribute it and/or modify it
  12  * under the terms of the GNU General Public License as published by the Free
  13  * Software Foundation; either version 2 of the License, or (at your option)
  14  * any later version.
  15  *
  16  */
  17 #ifndef _LINUX_CRYPTO_H
  18 #define _LINUX_CRYPTO_H
  19
  20 #include <asm/atomic.h>
  21 #include <linux/module.h>
  22 #include <linux/kernel.h>
  23 #include <linux/list.h>
  24 #include <linux/slab.h>
  25 #include <linux/string.h>
  26 #include <linux/uaccess.h>
  27
  28 /*
  29  * Algorithm masks and types.
  30  */
  31 #define CRYPTO_ALG_TYPE_MASK            0x0000000f
  32 #define CRYPTO_ALG_TYPE_CIPHER          0x00000001
  33 #define CRYPTO_ALG_TYPE_DIGEST          0x00000002
  34 #define CRYPTO_ALG_TYPE_HASH            0x00000003
  35 #define CRYPTO_ALG_TYPE_BLKCIPHER       0x00000004
  36 #define CRYPTO_ALG_TYPE_COMPRESS        0x00000005
  37 #define CRYPTO_ALG_TYPE_AEAD            0x00000006
  38
  39 #define CRYPTO_ALG_TYPE_HASH_MASK       0x0000000e
  40
  41 #define CRYPTO_ALG_LARVAL               0x00000010
  42 #define CRYPTO_ALG_DEAD                 0x00000020
  43 #define CRYPTO_ALG_DYING                0x00000040
  44 #define CRYPTO_ALG_ASYNC                0x00000080
  45
  46 /*
  47  * Set this bit if and only if the algorithm requires another algorithm of
  48  * the same type to handle corner cases.
  49  */
  50 #define CRYPTO_ALG_NEED_FALLBACK        0x00000100
  51
  52 /*
  53  * Transform masks and values (for crt_flags).
  54  */
  55 #define CRYPTO_TFM_REQ_MASK             0x000fff00
  56 #define CRYPTO_TFM_RES_MASK             0xfff00000
  57
  58 #define CRYPTO_TFM_REQ_WEAK_KEY         0x00000100
  59 #define CRYPTO_TFM_REQ_MAY_SLEEP        0x00000200
  60 #define CRYPTO_TFM_REQ_MAY_BACKLOG      0x00000400
  61 #define CRYPTO_TFM_RES_WEAK_KEY         0x00100000
  62 #define CRYPTO_TFM_RES_BAD_KEY_LEN      0x00200000
  63 #define CRYPTO_TFM_RES_BAD_KEY_SCHED    0x00400000
  64 #define CRYPTO_TFM_RES_BAD_BLOCK_LEN    0x00800000
  65 #define CRYPTO_TFM_RES_BAD_FLAGS        0x01000000
  66
  67 /*
  68  * Miscellaneous stuff.
  69  */
  70 #define CRYPTO_MAX_ALG_NAME             64
  71
  72 /*
  73  * The macro CRYPTO_MINALIGN_ATTR (along with the void * type in the actual
  74  * declaration) is used to ensure that the crypto_tfm context structure is
  75  * aligned correctly for the given architecture so that there are no alignment
  76  * faults for C data types.  In particular, this is required on platforms such
  77  * as arm where pointers are 32-bit aligned but there are data types such as
  78  * u64 which require 64-bit alignment.
  79  */
  80 #if defined(ARCH_KMALLOC_MINALIGN)
  81 #define CRYPTO_MINALIGN ARCH_KMALLOC_MINALIGN
  82 #elif defined(ARCH_SLAB_MINALIGN)
  83 #define CRYPTO_MINALIGN ARCH_SLAB_MINALIGN
  84 #endif
  85
  86 #ifdef CRYPTO_MINALIGN
  87 #define CRYPTO_MINALIGN_ATTR __attribute__ ((__aligned__(CRYPTO_MINALIGN)))
  88 #else
  89 #define CRYPTO_MINALIGN_ATTR
  90 #endif
  91
  92 struct scatterlist;
  93 struct crypto_ablkcipher;
  94 struct crypto_async_request;
  95 struct crypto_aead;
  96 struct crypto_blkcipher;
  97 struct crypto_hash;
  98 struct crypto_queue;
  99 struct crypto_tfm;
 100 struct crypto_type;
 101
 102 typedef void (*crypto_completion_t)(struct crypto_async_request *req, int err);
 103
 104 struct crypto_async_request {
 105         struct list_head list;
 106         crypto_completion_t complete;
 107         void *data;
 108         struct crypto_tfm *tfm;
 109
 110         u32 flags;
 111 };
 112
 113 struct ablkcipher_request {
 114         struct crypto_async_request base;
 115
 116         unsigned int nbytes;
 117
 118         void *info;
 119
 120         struct scatterlist *src;
 121         struct scatterlist *dst;
 122
 123         void *__ctx[] CRYPTO_MINALIGN_ATTR;
 124 };
 125
 126 /**
 127  *      struct aead_request - AEAD request
 128  *      @base: Common attributes for async crypto requests
 129  *      @assoclen: Length in bytes of associated data for authentication
 130  *      @cryptlen: Length of data to be encrypted or decrypted
 131  *      @iv: Initialisation vector
 132  *      @assoc: Associated data
 133  *      @src: Source data
 134  *      @dst: Destination data
 135  *      @__ctx: Start of private context data
 136  */
 137 struct aead_request {
 138         struct crypto_async_request base;
 139
 140         unsigned int assoclen;
 141         unsigned int cryptlen;
 142
 143         u8 *iv;
 144
 145         struct scatterlist *assoc;
 146         struct scatterlist *src;
 147         struct scatterlist *dst;
 148
 149         void *__ctx[] CRYPTO_MINALIGN_ATTR;
 150 };
 151
 152 struct blkcipher_desc {
 153         struct crypto_blkcipher *tfm;
 154         void *info;
 155         u32 flags;
 156 };
 157
 158 struct cipher_desc {
 159         struct crypto_tfm *tfm;
 160         void (*crfn)(struct crypto_tfm *tfm, u8 *dst, const u8 *src);
 161         unsigned int (*prfn)(const struct cipher_desc *desc, u8 *dst,
 162                              const u8 *src, unsigned int nbytes);
 163         void *info;
 164 };
 165
 166 struct hash_desc {
 167         struct crypto_hash *tfm;
 168         u32 flags;
 169 };
 170
 171 /*
 172  * Algorithms: modular crypto algorithm implementations, managed
 173  * via crypto_register_alg() and crypto_unregister_alg().
 174  */
 175 struct ablkcipher_alg {
 176         int (*setkey)(struct crypto_ablkcipher *tfm, const u8 *key,
 177                       unsigned int keylen);
 178         int (*encrypt)(struct ablkcipher_request *req);
 179         int (*decrypt)(struct ablkcipher_request *req);
 180
 181         struct crypto_queue *queue;
 182
 183         unsigned int min_keysize;
 184         unsigned int max_keysize;
 185         unsigned int ivsize;
 186 };
 187
 188 struct aead_alg {
 189         int (*setkey)(struct crypto_aead *tfm, const u8 *key,
 190                       unsigned int keylen);
 191         int (*encrypt)(struct aead_request *req);
 192         int (*decrypt)(struct aead_request *req);
 193
 194         unsigned int ivsize;
 195         unsigned int authsize;
 196 };
 197
 198 struct blkcipher_alg {
 199         int (*setkey)(struct crypto_tfm *tfm, const u8 *key,
 200                       unsigned int keylen);
 201         int (*encrypt)(struct blkcipher_desc *desc,
 202                        struct scatterlist *dst, struct scatterlist *src,
 203                        unsigned int nbytes);
 204         int (*decrypt)(struct blkcipher_desc *desc,
 205                        struct scatterlist *dst, struct scatterlist *src,
 206                        unsigned int nbytes);
 207
 208         unsigned int min_keysize;
 209         unsigned int max_keysize;
 210         unsigned int ivsize;
 211 };
 212
 213 struct cipher_alg {
 214         unsigned int cia_min_keysize;
 215         unsigned int cia_max_keysize;
 216         int (*cia_setkey)(struct crypto_tfm *tfm, const u8 *key,
 217                           unsigned int keylen);
 218         void (*cia_encrypt)(struct crypto_tfm *tfm, u8 *dst, const u8 *src);
 219         void (*cia_decrypt)(struct crypto_tfm *tfm, u8 *dst, const u8 *src);
 220 };
 221
 222 struct digest_alg {
 223         unsigned int dia_digestsize;
 224         void (*dia_init)(struct crypto_tfm *tfm);
 225         void (*dia_update)(struct crypto_tfm *tfm, const u8 *data,
 226                            unsigned int len);
 227         void (*dia_final)(struct crypto_tfm *tfm, u8 *out);
 228         int (*dia_setkey)(struct crypto_tfm *tfm, const u8 *key,
 229                           unsigned int keylen);
 230 };
 231
 232 struct hash_alg {
 233         int (*init)(struct hash_desc *desc);
 234         int (*update)(struct hash_desc *desc, struct scatterlist *sg,
 235                       unsigned int nbytes);
 236         int (*final)(struct hash_desc *desc, u8 *out);
 237         int (*digest)(struct hash_desc *desc, struct scatterlist *sg,
 238                       unsigned int nbytes, u8 *out);
 239         int (*setkey)(struct crypto_hash *tfm, const u8 *key,
 240                       unsigned int keylen);
 241
 242         unsigned int digestsize;
 243 };
 244
 245 struct compress_alg {
 246         int (*coa_compress)(struct crypto_tfm *tfm, const u8 *src,
 247                             unsigned int slen, u8 *dst, unsigned int *dlen);
 248         int (*coa_decompress)(struct crypto_tfm *tfm, const u8 *src,
 249                               unsigned int slen, u8 *dst, unsigned int *dlen);
 250 };
 251
 252 #define cra_ablkcipher  cra_u.ablkcipher
 253 #define cra_aead        cra_u.aead
 254 #define cra_blkcipher   cra_u.blkcipher
 255 #define cra_cipher      cra_u.cipher
 256 #define cra_digest      cra_u.digest
 257 #define cra_hash        cra_u.hash
 258 #define cra_compress    cra_u.compress
 259
 260 struct crypto_alg {
 261         struct list_head cra_list;
 262         struct list_head cra_users;
 263
 264         u32 cra_flags;
 265         unsigned int cra_blocksize;
 266         unsigned int cra_ctxsize;
 267         unsigned int cra_alignmask;
 268
 269         int cra_priority;
 270         atomic_t cra_refcnt;
 271
 272         char cra_name[CRYPTO_MAX_ALG_NAME];
 273         char cra_driver_name[CRYPTO_MAX_ALG_NAME];
 274
 275         const struct crypto_type *cra_type;
 276
 277         union {
 278                 struct ablkcipher_alg ablkcipher;
 279                 struct aead_alg aead;
 280                 struct blkcipher_alg blkcipher;
 281                 struct cipher_alg cipher;
 282                 struct digest_alg digest;
 283                 struct hash_alg hash;
 284                 struct compress_alg compress;
 285         } cra_u;
 286
 287         int (*cra_init)(struct crypto_tfm *tfm);
 288         void (*cra_exit)(struct crypto_tfm *tfm);
 289         void (*cra_destroy)(struct crypto_alg *alg);
 290
 291         struct module *cra_module;
 292 };
 293
 294 /*
 295  * Algorithm registration interface.
 296  */
 297 int crypto_register_alg(struct crypto_alg *alg);
 298 int crypto_unregister_alg(struct crypto_alg *alg);
 299
 300 /*
 301  * Algorithm query interface.
 302  */
 303 #ifdef CONFIG_CRYPTO
 304 int crypto_has_alg(const char *name, u32 type, u32 mask);
 305 #else
 306 static inline int crypto_has_alg(const char *name, u32 type, u32 mask)
 307 {
 308         return 0;
 309 }
 310 #endif
 311
 312 /*
 313  * Transforms: user-instantiated objects which encapsulate algorithms
 314  * and core processing logic.  Managed via crypto_alloc_*() and
 315  * crypto_free_*(), as well as the various helpers below.
 316  */
 317
 318 struct ablkcipher_tfm {
 319         int (*setkey)(struct crypto_ablkcipher *tfm, const u8 *key,
 320                       unsigned int keylen);
 321         int (*encrypt)(struct ablkcipher_request *req);
 322         int (*decrypt)(struct ablkcipher_request *req);
 323         unsigned int ivsize;
 324         unsigned int reqsize;
 325 };
 326
 327 struct aead_tfm {
 328         int (*setkey)(struct crypto_aead *tfm, const u8 *key,
 329                       unsigned int keylen);
 330         int (*encrypt)(struct aead_request *req);
 331         int (*decrypt)(struct aead_request *req);
 332         unsigned int ivsize;
 333         unsigned int authsize;
 334         unsigned int reqsize;
 335 };
 336
 337 struct blkcipher_tfm {
 338         void *iv;
 339         int (*setkey)(struct crypto_tfm *tfm, const u8 *key,
 340                       unsigned int keylen);
 341         int (*encrypt)(struct blkcipher_desc *desc, struct scatterlist *dst,
 342                        struct scatterlist *src, unsigned int nbytes);
 343         int (*decrypt)(struct blkcipher_desc *desc, struct scatterlist *dst,
 344                        struct scatterlist *src, unsigned int nbytes);
 345 };
 346
 347 struct cipher_tfm {
 348         int (*cit_setkey)(struct crypto_tfm *tfm,
 349                           const u8 *key, unsigned int keylen);
 350         void (*cit_encrypt_one)(struct crypto_tfm *tfm, u8 *dst, const u8 *src);
 351         void (*cit_decrypt_one)(struct crypto_tfm *tfm, u8 *dst, const u8 *src);
 352 };
 353
 354 struct hash_tfm {
 355         int (*init)(struct hash_desc *desc);
 356         int (*update)(struct hash_desc *desc,
 357                       struct scatterlist *sg, unsigned int nsg);
 358         int (*final)(struct hash_desc *desc, u8 *out);
 359         int (*digest)(struct hash_desc *desc, struct scatterlist *sg,
 360                       unsigned int nsg, u8 *out);
 361         int (*setkey)(struct crypto_hash *tfm, const u8 *key,
 362                       unsigned int keylen);
 363         unsigned int digestsize;
 364 };
 365
 366 struct compress_tfm {
 367         int (*cot_compress)(struct crypto_tfm *tfm,
 368                             const u8 *src, unsigned int slen,
 369                             u8 *dst, unsigned int *dlen);
 370         int (*cot_decompress)(struct crypto_tfm *tfm,
 371                               const u8 *src, unsigned int slen,
 372                               u8 *dst, unsigned int *dlen);
 373 };
 374
 375 #define crt_ablkcipher  crt_u.ablkcipher
 376 #define crt_aead        crt_u.aead
 377 #define crt_blkcipher   crt_u.blkcipher
 378 #define crt_cipher      crt_u.cipher
 379 #define crt_hash        crt_u.hash
 380 #define crt_compress    crt_u.compress
 381
 382 struct crypto_tfm {
 383
 384         u32 crt_flags;
 385
 386         union {
 387                 struct ablkcipher_tfm ablkcipher;
 388                 struct aead_tfm aead;
 389                 struct blkcipher_tfm blkcipher;
 390                 struct cipher_tfm cipher;
 391                 struct hash_tfm hash;
 392                 struct compress_tfm compress;
 393         } crt_u;
 394
 395         struct crypto_alg *__crt_alg;
 396
 397         void *__crt_ctx[] CRYPTO_MINALIGN_ATTR;
 398 };
 399
 400 struct crypto_ablkcipher {
 401         struct crypto_tfm base;
 402 };
 403
 404 struct crypto_aead {
 405         struct crypto_tfm base;
 406 };
 407
 408 struct crypto_blkcipher {
 409         struct crypto_tfm base;
 410 };
 411
 412 struct crypto_cipher {
 413         struct crypto_tfm base;
 414 };
 415
 416 struct crypto_comp {
 417         struct crypto_tfm base;
 418 };
 419
 420 struct crypto_hash {
 421         struct crypto_tfm base;
 422 };
 423
 424 enum {
 425         CRYPTOA_UNSPEC,
 426         CRYPTOA_ALG,
 427         CRYPTOA_TYPE,
 428         __CRYPTOA_MAX,
 429 };
 430
 431 #define CRYPTOA_MAX (__CRYPTOA_MAX - 1)
 432
 433 struct crypto_attr_alg {
 434         char name[CRYPTO_MAX_ALG_NAME];
 435 };
 436
 437 struct crypto_attr_type {
 438         u32 type;
 439         u32 mask;
 440 };
 441
 442 /*
 443  * Transform user interface.
 444  */
 445
 446 struct crypto_tfm *crypto_alloc_tfm(const char *alg_name, u32 tfm_flags);
 447 struct crypto_tfm *crypto_alloc_base(const char *alg_name, u32 type, u32 mask);
 448 void crypto_free_tfm(struct crypto_tfm *tfm);
 449
 450 /*
 451  * Transform helpers which query the underlying algorithm.
 452  */
 453 static inline const char *crypto_tfm_alg_name(struct crypto_tfm *tfm)
 454 {
 455         return tfm->__crt_alg->cra_name;
 456 }
 457
 458 static inline const char *crypto_tfm_alg_driver_name(struct crypto_tfm *tfm)
 459 {
 460         return tfm->__crt_alg->cra_driver_name;
 461 }
 462
 463 static inline int crypto_tfm_alg_priority(struct crypto_tfm *tfm)
 464 {
 465         return tfm->__crt_alg->cra_priority;
 466 }
 467
 468 static inline const char *crypto_tfm_alg_modname(struct crypto_tfm *tfm)
 469 {
 470         return module_name(tfm->__crt_alg->cra_module);
 471 }
 472
 473 static inline u32 crypto_tfm_alg_type(struct crypto_tfm *tfm)
 474 {
 475         return tfm->__crt_alg->cra_flags & CRYPTO_ALG_TYPE_MASK;
 476 }
 477
 478 static inline unsigned int crypto_tfm_alg_blocksize(struct crypto_tfm *tfm)
 479 {
 480         return tfm->__crt_alg->cra_blocksize;
 481 }
 482
 483 static inline unsigned int crypto_tfm_alg_alignmask(struct crypto_tfm *tfm)
 484 {
 485         return tfm->__crt_alg->cra_alignmask;
 486 }
 487
 488 static inline u32 crypto_tfm_get_flags(struct crypto_tfm *tfm)
 489 {
 490         return tfm->crt_flags;
 491 }
 492
 493 static inline void crypto_tfm_set_flags(struct crypto_tfm *tfm, u32 flags)
 494 {
 495         tfm->crt_flags |= flags;
 496 }
 497
 498 static inline void crypto_tfm_clear_flags(struct crypto_tfm *tfm, u32 flags)
 499 {
 500         tfm->crt_flags &= ~flags;
 501 }
 502
 503 static inline void *crypto_tfm_ctx(struct crypto_tfm *tfm)
 504 {
 505         return tfm->__crt_ctx;
 506 }
 507
 508 static inline unsigned int crypto_tfm_ctx_alignment(void)
 509 {
 510         struct crypto_tfm *tfm;
 511         return __alignof__(tfm->__crt_ctx);
 512 }
 513
 514 /*
 515  * API wrappers.
 516  */
 517 static inline struct crypto_ablkcipher *__crypto_ablkcipher_cast(
 518         struct crypto_tfm *tfm)
 519 {
 520         return (struct crypto_ablkcipher *)tfm;
 521 }
 522
 523 static inline struct crypto_ablkcipher *crypto_alloc_ablkcipher(
 524         const char *alg_name, u32 type, u32 mask)
 525 {
 526         type &= ~CRYPTO_ALG_TYPE_MASK;
 527         type |= CRYPTO_ALG_TYPE_BLKCIPHER;
 528         mask |= CRYPTO_ALG_TYPE_MASK;
 529
 530         return __crypto_ablkcipher_cast(
 531                 crypto_alloc_base(alg_name, type, mask));
 532 }
 533
 534 static inline struct crypto_tfm *crypto_ablkcipher_tfm(
 535         struct crypto_ablkcipher *tfm)
 536 {
 537         return &tfm->base;
 538 }
 539
 540 static inline void crypto_free_ablkcipher(struct crypto_ablkcipher *tfm)
 541 {
 542         crypto_free_tfm(crypto_ablkcipher_tfm(tfm));
 543 }
 544
 545 static inline int crypto_has_ablkcipher(const char *alg_name, u32 type,
 546                                         u32 mask)
 547 {
 548         type &= ~CRYPTO_ALG_TYPE_MASK;
 549         type |= CRYPTO_ALG_TYPE_BLKCIPHER;
 550         mask |= CRYPTO_ALG_TYPE_MASK;
 551
 552         return crypto_has_alg(alg_name, type, mask);
 553 }
 554
 555 static inline struct ablkcipher_tfm *crypto_ablkcipher_crt(
 556         struct crypto_ablkcipher *tfm)
 557 {
 558         return &crypto_ablkcipher_tfm(tfm)->crt_ablkcipher;
 559 }
 560
 561 static inline unsigned int crypto_ablkcipher_ivsize(
 562         struct crypto_ablkcipher *tfm)
 563 {
 564         return crypto_ablkcipher_crt(tfm)->ivsize;
 565 }
 566
 567 static inline unsigned int crypto_ablkcipher_blocksize(
 568         struct crypto_ablkcipher *tfm)
 569 {
 570         return crypto_tfm_alg_blocksize(crypto_ablkcipher_tfm(tfm));
 571 }
 572
 573 static inline unsigned int crypto_ablkcipher_alignmask(
 574         struct crypto_ablkcipher *tfm)
 575 {
 576         return crypto_tfm_alg_alignmask(crypto_ablkcipher_tfm(tfm));
 577 }
 578
 579 static inline u32 crypto_ablkcipher_get_flags(struct crypto_ablkcipher *tfm)
 580 {
 581         return crypto_tfm_get_flags(crypto_ablkcipher_tfm(tfm));
 582 }
 583
 584 static inline void crypto_ablkcipher_set_flags(struct crypto_ablkcipher *tfm,
 585                                                u32 flags)
 586 {
 587         crypto_tfm_set_flags(crypto_ablkcipher_tfm(tfm), flags);
 588 }
 589
 590 static inline void crypto_ablkcipher_clear_flags(struct crypto_ablkcipher *tfm,
 591                                                  u32 flags)
 592 {
 593         crypto_tfm_clear_flags(crypto_ablkcipher_tfm(tfm), flags);
 594 }
 595
 596 static inline int crypto_ablkcipher_setkey(struct crypto_ablkcipher *tfm,
 597                                            const u8 *key, unsigned int keylen)
 598 {
 599         return crypto_ablkcipher_crt(tfm)->setkey(tfm, key, keylen);
 600 }
 601
 602 static inline struct crypto_ablkcipher *crypto_ablkcipher_reqtfm(
 603         struct ablkcipher_request *req)
 604 {
 605         return __crypto_ablkcipher_cast(req->base.tfm);
 606 }
 607
 608 static inline int crypto_ablkcipher_encrypt(struct ablkcipher_request *req)
 609 {
 610         struct ablkcipher_tfm *crt =
 611                 crypto_ablkcipher_crt(crypto_ablkcipher_reqtfm(req));
 612         return crt->encrypt(req);
 613 }
 614
 615 static inline int crypto_ablkcipher_decrypt(struct ablkcipher_request *req)
 616 {
 617         struct ablkcipher_tfm *crt =
 618                 crypto_ablkcipher_crt(crypto_ablkcipher_reqtfm(req));
 619         return crt->decrypt(req);
 620 }
 621
 622 static inline int crypto_ablkcipher_reqsize(struct crypto_ablkcipher *tfm)
 623 {
 624         return crypto_ablkcipher_crt(tfm)->reqsize;
 625 }
 626
 627 static inline void ablkcipher_request_set_tfm(
 628         struct ablkcipher_request *req, struct crypto_ablkcipher *tfm)
 629 {
 630         req->base.tfm = crypto_ablkcipher_tfm(tfm);
 631 }
 632
 633 static inline struct ablkcipher_request *ablkcipher_request_cast(
 634         struct crypto_async_request *req)
 635 {
 636         return container_of(req, struct ablkcipher_request, base);
 637 }
 638
 639 static inline struct ablkcipher_request *ablkcipher_request_alloc(
 640         struct crypto_ablkcipher *tfm, gfp_t gfp)
 641 {
 642         struct ablkcipher_request *req;
 643
 644         req = kmalloc(sizeof(struct ablkcipher_request) +
 645                       crypto_ablkcipher_reqsize(tfm), gfp);
 646
 647         if (likely(req))
 648                 ablkcipher_request_set_tfm(req, tfm);
 649
 650         return req;
 651 }
 652
 653 static inline void ablkcipher_request_free(struct ablkcipher_request *req)
 654 {
 655         kfree(req);
 656 }
 657
 658 static inline void ablkcipher_request_set_callback(
 659         struct ablkcipher_request *req,
 660         u32 flags, crypto_completion_t complete, void *data)
 661 {
 662         req->base.complete = complete;
 663         req->base.data = data;
 664         req->base.flags = flags;
 665 }
 666
 667 static inline void ablkcipher_request_set_crypt(
 668         struct ablkcipher_request *req,
 669         struct scatterlist *src, struct scatterlist *dst,
 670         unsigned int nbytes, void *iv)
 671 {
 672         req->src = src;
 673         req->dst = dst;
 674         req->nbytes = nbytes;
 675         req->info = iv;
 676 }
 677
 678 static inline struct crypto_aead *__crypto_aead_cast(struct crypto_tfm *tfm)
 679 {
 680         return (struct crypto_aead *)tfm;
 681 }
 682
 683 static inline struct crypto_aead *crypto_alloc_aead(const char *alg_name,
 684                                                     u32 type, u32 mask)
 685 {
 686         type &= ~CRYPTO_ALG_TYPE_MASK;
 687         type |= CRYPTO_ALG_TYPE_AEAD;
 688         mask |= CRYPTO_ALG_TYPE_MASK;
 689
 690         return __crypto_aead_cast(crypto_alloc_base(alg_name, type, mask));
 691 }
 692
 693 static inline struct crypto_tfm *crypto_aead_tfm(struct crypto_aead *tfm)
 694 {
 695         return &tfm->base;
 696 }
 697
 698 static inline void crypto_free_aead(struct crypto_aead *tfm)
 699 {
 700         crypto_free_tfm(crypto_aead_tfm(tfm));
 701 }
 702
 703 static inline struct aead_tfm *crypto_aead_crt(struct crypto_aead *tfm)
 704 {
 705         return &crypto_aead_tfm(tfm)->crt_aead;
 706 }
 707
 708 static inline unsigned int crypto_aead_ivsize(struct crypto_aead *tfm)
 709 {
 710         return crypto_aead_crt(tfm)->ivsize;
 711 }
 712
 713 static inline unsigned int crypto_aead_authsize(struct crypto_aead *tfm)
 714 {
 715         return crypto_aead_crt(tfm)->authsize;
 716 }
 717
 718 static inline unsigned int crypto_aead_blocksize(struct crypto_aead *tfm)
 719 {
 720         return crypto_tfm_alg_blocksize(crypto_aead_tfm(tfm));
 721 }
 722
 723 static inline unsigned int crypto_aead_alignmask(struct crypto_aead *tfm)
 724 {
 725         return crypto_tfm_alg_alignmask(crypto_aead_tfm(tfm));
 726 }
 727
 728 static inline u32 crypto_aead_get_flags(struct crypto_aead *tfm)
 729 {
 730         return crypto_tfm_get_flags(crypto_aead_tfm(tfm));
 731 }
 732
 733 static inline void crypto_aead_set_flags(struct crypto_aead *tfm, u32 flags)
 734 {
 735         crypto_tfm_set_flags(crypto_aead_tfm(tfm), flags);
 736 }
 737
 738 static inline void crypto_aead_clear_flags(struct crypto_aead *tfm, u32 flags)
 739 {
 740         crypto_tfm_clear_flags(crypto_aead_tfm(tfm), flags);
 741 }
 742
 743 static inline int crypto_aead_setkey(struct crypto_aead *tfm, const u8 *key,
 744                                      unsigned int keylen)
 745 {
 746         return crypto_aead_crt(tfm)->setkey(tfm, key, keylen);
 747 }
 748
 749 static inline struct crypto_aead *crypto_aead_reqtfm(struct aead_request *req)
 750 {
 751         return __crypto_aead_cast(req->base.tfm);
 752 }
 753
 754 static inline int crypto_aead_encrypt(struct aead_request *req)
 755 {
 756         return crypto_aead_crt(crypto_aead_reqtfm(req))->encrypt(req);
 757 }
 758
 759 static inline int crypto_aead_decrypt(struct aead_request *req)
 760 {
 761         return crypto_aead_crt(crypto_aead_reqtfm(req))->decrypt(req);
 762 }
 763
 764 static inline int crypto_aead_reqsize(struct crypto_aead *tfm)
 765 {
 766         return crypto_aead_crt(tfm)->reqsize;
 767 }
 768
 769 static inline void aead_request_set_tfm(struct aead_request *req,
 770                                         struct crypto_aead *tfm)
 771 {
 772         req->base.tfm = crypto_aead_tfm(tfm);
 773 }
 774
 775 static inline struct aead_request *aead_request_alloc(struct crypto_aead *tfm,
 776                                                       gfp_t gfp)
 777 {
 778         struct aead_request *req;
 779
 780         req = kmalloc(sizeof(*req) + crypto_aead_reqsize(tfm), gfp);
 781
 782         if (likely(req))
 783                 aead_request_set_tfm(req, tfm);
 784
 785         return req;
 786 }
 787
 788 static inline void aead_request_free(struct aead_request *req)
 789 {
 790         kfree(req);
 791 }
 792
 793 static inline void aead_request_set_callback(struct aead_request *req,
 794                                              u32 flags,
 795                                              crypto_completion_t complete,
 796                                              void *data)
 797 {
 798         req->base.complete = complete;
 799         req->base.data = data;
 800         req->base.flags = flags;
 801 }
 802
 803 static inline void aead_request_set_crypt(struct aead_request *req,
 804                                           struct scatterlist *src,
 805                                           struct scatterlist *dst,
 806                                           unsigned int cryptlen, u8 *iv)
 807 {
 808         req->src = src;
 809         req->dst = dst;
 810         req->cryptlen = cryptlen;
 811         req->iv = iv;
 812 }
 813
 814 static inline void aead_request_set_assoc(struct aead_request *req,
 815                                           struct scatterlist *assoc,
 816                                           unsigned int assoclen)
 817 {
 818         req->assoc = assoc;
 819         req->assoclen = assoclen;
 820 }
 821
 822 static inline struct crypto_blkcipher *__crypto_blkcipher_cast(
 823         struct crypto_tfm *tfm)
 824 {
 825         return (struct crypto_blkcipher *)tfm;
 826 }
 827
 828 static inline struct crypto_blkcipher *crypto_blkcipher_cast(
 829         struct crypto_tfm *tfm)
 830 {
 831         BUG_ON(crypto_tfm_alg_type(tfm) != CRYPTO_ALG_TYPE_BLKCIPHER);
 832         return __crypto_blkcipher_cast(tfm);
 833 }
 834
 835 static inline struct crypto_blkcipher *crypto_alloc_blkcipher(
 836         const char *alg_name, u32 type, u32 mask)
 837 {
 838         type &= ~(CRYPTO_ALG_TYPE_MASK | CRYPTO_ALG_ASYNC);
 839         type |= CRYPTO_ALG_TYPE_BLKCIPHER;
 840         mask |= CRYPTO_ALG_TYPE_MASK | CRYPTO_ALG_ASYNC;
 841
 842         return __crypto_blkcipher_cast(crypto_alloc_base(alg_name, type, mask));
 843 }
 844
 845 static inline struct crypto_tfm *crypto_blkcipher_tfm(
 846         struct crypto_blkcipher *tfm)
 847 {
 848         return &tfm->base;
 849 }
 850
 851 static inline void crypto_free_blkcipher(struct crypto_blkcipher *tfm)
 852 {
 853         crypto_free_tfm(crypto_blkcipher_tfm(tfm));
 854 }
 855
 856 static inline int crypto_has_blkcipher(const char *alg_name, u32 type, u32 mask)
 857 {
 858         type &= ~(CRYPTO_ALG_TYPE_MASK | CRYPTO_ALG_ASYNC);
 859         type |= CRYPTO_ALG_TYPE_BLKCIPHER;
 860         mask |= CRYPTO_ALG_TYPE_MASK | CRYPTO_ALG_ASYNC;
 861
 862         return crypto_has_alg(alg_name, type, mask);
 863 }
 864
 865 static inline const char *crypto_blkcipher_name(struct crypto_blkcipher *tfm)
 866 {
 867         return crypto_tfm_alg_name(crypto_blkcipher_tfm(tfm));
 868 }
 869
 870 static inline struct blkcipher_tfm *crypto_blkcipher_crt(
 871         struct crypto_blkcipher *tfm)
 872 {
 873         return &crypto_blkcipher_tfm(tfm)->crt_blkcipher;
 874 }
 875
 876 static inline struct blkcipher_alg *crypto_blkcipher_alg(
 877         struct crypto_blkcipher *tfm)
 878 {
 879         return &crypto_blkcipher_tfm(tfm)->__crt_alg->cra_blkcipher;
 880 }
 881
 882 static inline unsigned int crypto_blkcipher_ivsize(struct crypto_blkcipher *tfm)
 883 {
 884         return crypto_blkcipher_alg(tfm)->ivsize;
 885 }
 886
 887 static inline unsigned int crypto_blkcipher_blocksize(
 888         struct crypto_blkcipher *tfm)
 889 {
 890         return crypto_tfm_alg_blocksize(crypto_blkcipher_tfm(tfm));
 891 }
 892
 893 static inline unsigned int crypto_blkcipher_alignmask(
 894         struct crypto_blkcipher *tfm)
 895 {
 896         return crypto_tfm_alg_alignmask(crypto_blkcipher_tfm(tfm));
 897 }
 898
 899 static inline u32 crypto_blkcipher_get_flags(struct crypto_blkcipher *tfm)
 900 {
 901         return crypto_tfm_get_flags(crypto_blkcipher_tfm(tfm));
 902 }
 903
 904 static inline void crypto_blkcipher_set_flags(struct crypto_blkcipher *tfm,
 905                                               u32 flags)
 906 {
 907         crypto_tfm_set_flags(crypto_blkcipher_tfm(tfm), flags);
 908 }
 909
 910 static inline void crypto_blkcipher_clear_flags(struct crypto_blkcipher *tfm,
 911                                                 u32 flags)
 912 {
 913         crypto_tfm_clear_flags(crypto_blkcipher_tfm(tfm), flags);
 914 }
 915
 916 static inline int crypto_blkcipher_setkey(struct crypto_blkcipher *tfm,
 917                                           const u8 *key, unsigned int keylen)
 918 {
 919         return crypto_blkcipher_crt(tfm)->setkey(crypto_blkcipher_tfm(tfm),
 920                                                  key, keylen);
 921 }
 922
 923 static inline int crypto_blkcipher_encrypt(struct blkcipher_desc *desc,
 924                                            struct scatterlist *dst,
 925                                            struct scatterlist *src,
 926                                            unsigned int nbytes)
 927 {
 928         desc->info = crypto_blkcipher_crt(desc->tfm)->iv;
 929         return crypto_blkcipher_crt(desc->tfm)->encrypt(desc, dst, src, nbytes);
 930 }
 931
 932 static inline int crypto_blkcipher_encrypt_iv(struct blkcipher_desc *desc,
 933                                               struct scatterlist *dst,
 934                                               struct scatterlist *src,
 935                                               unsigned int nbytes)
 936 {
 937         return crypto_blkcipher_crt(desc->tfm)->encrypt(desc, dst, src, nbytes);
 938 }
 939
 940 static inline int crypto_blkcipher_decrypt(struct blkcipher_desc *desc,
 941                                            struct scatterlist *dst,
 942                                            struct scatterlist *src,
 943                                            unsigned int nbytes)
 944 {
 945         desc->info = crypto_blkcipher_crt(desc->tfm)->iv;
 946         return crypto_blkcipher_crt(desc->tfm)->decrypt(desc, dst, src, nbytes);
 947 }
 948
 949 static inline int crypto_blkcipher_decrypt_iv(struct blkcipher_desc *desc,
 950                                               struct scatterlist *dst,
 951                                               struct scatterlist *src,
 952                                               unsigned int nbytes)
 953 {
 954         return crypto_blkcipher_crt(desc->tfm)->decrypt(desc, dst, src, nbytes);
 955 }
 956
 957 static inline void crypto_blkcipher_set_iv(struct crypto_blkcipher *tfm,
 958                                            const u8 *src, unsigned int len)
 959 {
 960         memcpy(crypto_blkcipher_crt(tfm)->iv, src, len);
 961 }
 962
 963 static inline void crypto_blkcipher_get_iv(struct crypto_blkcipher *tfm,
 964                                            u8 *dst, unsigned int len)
 965 {
 966         memcpy(dst, crypto_blkcipher_crt(tfm)->iv, len);
 967 }
 968
 969 static inline struct crypto_cipher *__crypto_cipher_cast(struct crypto_tfm *tfm)
 970 {
 971         return (struct crypto_cipher *)tfm;
 972 }
 973
 974 static inline struct crypto_cipher *crypto_cipher_cast(struct crypto_tfm *tfm)
 975 {
 976         BUG_ON(crypto_tfm_alg_type(tfm) != CRYPTO_ALG_TYPE_CIPHER);
 977         return __crypto_cipher_cast(tfm);
 978 }
 979
 980 static inline struct crypto_cipher *crypto_alloc_cipher(const char *alg_name,
 981                                                         u32 type, u32 mask)
 982 {
 983         type &= ~CRYPTO_ALG_TYPE_MASK;
 984         type |= CRYPTO_ALG_TYPE_CIPHER;
 985         mask |= CRYPTO_ALG_TYPE_MASK;
 986
 987         return __crypto_cipher_cast(crypto_alloc_base(alg_name, type, mask));
 988 }
 989
 990 static inline struct crypto_tfm *crypto_cipher_tfm(struct crypto_cipher *tfm)
 991 {
 992         return &tfm->base;
 993 }
 994
 995 static inline void crypto_free_cipher(struct crypto_cipher *tfm)
 996 {
 997         crypto_free_tfm(crypto_cipher_tfm(tfm));
 998 }
 999
1000 static inline int crypto_has_cipher(const char *alg_name, u32 type, u32 mask)
1001 {
1002         type &= ~CRYPTO_ALG_TYPE_MASK;
1003         type |= CRYPTO_ALG_TYPE_CIPHER;
1004         mask |= CRYPTO_ALG_TYPE_MASK;
1005
1006         return crypto_has_alg(alg_name, type, mask);
1007 }
1008
1009 static inline struct cipher_tfm *crypto_cipher_crt(struct crypto_cipher *tfm)
1010 {
1011         return &crypto_cipher_tfm(tfm)->crt_cipher;
1012 }
1013
1014 static inline unsigned int crypto_cipher_blocksize(struct crypto_cipher *tfm)
1015 {
1016         return crypto_tfm_alg_blocksize(crypto_cipher_tfm(tfm));
1017 }
1018
1019 static inline unsigned int crypto_cipher_alignmask(struct crypto_cipher *tfm)
1020 {
1021         return crypto_tfm_alg_alignmask(crypto_cipher_tfm(tfm));
1022 }
1023
1024 static inline u32 crypto_cipher_get_flags(struct crypto_cipher *tfm)
1025 {
1026         return crypto_tfm_get_flags(crypto_cipher_tfm(tfm));
1027 }
1028
1029 static inline void crypto_cipher_set_flags(struct crypto_cipher *tfm,
1030                                            u32 flags)
1031 {
1032         crypto_tfm_set_flags(crypto_cipher_tfm(tfm), flags);
1033 }
1034
1035 static inline void crypto_cipher_clear_flags(struct crypto_cipher *tfm,
1036                                              u32 flags)
1037 {
1038         crypto_tfm_clear_flags(crypto_cipher_tfm(tfm), flags);
1039 }
1040
1041 static inline int crypto_cipher_setkey(struct crypto_cipher *tfm,
1042                                        const u8 *key, unsigned int keylen)
1043 {
1044         return crypto_cipher_crt(tfm)->cit_setkey(crypto_cipher_tfm(tfm),
1045                                                   key, keylen);
1046 }
1047
1048 static inline void crypto_cipher_encrypt_one(struct crypto_cipher *tfm,
1049                                              u8 *dst, const u8 *src)
1050 {
1051         crypto_cipher_crt(tfm)->cit_encrypt_one(crypto_cipher_tfm(tfm),
1052                                                 dst, src);
1053 }
1054
1055 static inline void crypto_cipher_decrypt_one(struct crypto_cipher *tfm,
1056                                              u8 *dst, const u8 *src)
1057 {
1058         crypto_cipher_crt(tfm)->cit_decrypt_one(crypto_cipher_tfm(tfm),
1059                                                 dst, src);
1060 }
1061
1062 static inline struct crypto_hash *__crypto_hash_cast(struct crypto_tfm *tfm)
1063 {
1064         return (struct crypto_hash *)tfm;
1065 }
1066
1067 static inline struct crypto_hash *crypto_hash_cast(struct crypto_tfm *tfm)
1068 {
1069         BUG_ON((crypto_tfm_alg_type(tfm) ^ CRYPTO_ALG_TYPE_HASH) &
1070                CRYPTO_ALG_TYPE_HASH_MASK);
1071         return __crypto_hash_cast(tfm);
1072 }
1073
1074 static inline struct crypto_hash *crypto_alloc_hash(const char *alg_name,
1075                                                     u32 type, u32 mask)
1076 {
1077         type &= ~CRYPTO_ALG_TYPE_MASK;
1078         type |= CRYPTO_ALG_TYPE_HASH;
1079         mask |= CRYPTO_ALG_TYPE_HASH_MASK;
1080
1081         return __crypto_hash_cast(crypto_alloc_base(alg_name, type, mask));
1082 }
1083
1084 static inline struct crypto_tfm *crypto_hash_tfm(struct crypto_hash *tfm)
1085 {
1086         return &tfm->base;
1087 }
1088
1089 static inline void crypto_free_hash(struct crypto_hash *tfm)
1090 {
1091         crypto_free_tfm(crypto_hash_tfm(tfm));
1092 }
1093
1094 static inline int crypto_has_hash(const char *alg_name, u32 type, u32 mask)
1095 {
1096         type &= ~CRYPTO_ALG_TYPE_MASK;
1097         type |= CRYPTO_ALG_TYPE_HASH;
1098         mask |= CRYPTO_ALG_TYPE_HASH_MASK;
1099
1100         return crypto_has_alg(alg_name, type, mask);
1101 }
1102
1103 static inline struct hash_tfm *crypto_hash_crt(struct crypto_hash *tfm)
1104 {
1105         return &crypto_hash_tfm(tfm)->crt_hash;
1106 }
1107
1108 static inline unsigned int crypto_hash_blocksize(struct crypto_hash *tfm)
1109 {
1110         return crypto_tfm_alg_blocksize(crypto_hash_tfm(tfm));
1111 }
1112
1113 static inline unsigned int crypto_hash_alignmask(struct crypto_hash *tfm)
1114 {
1115         return crypto_tfm_alg_alignmask(crypto_hash_tfm(tfm));
1116 }
1117
1118 static inline unsigned int crypto_hash_digestsize(struct crypto_hash *tfm)
1119 {
1120         return crypto_hash_crt(tfm)->digestsize;
1121 }
1122
1123 static inline u32 crypto_hash_get_flags(struct crypto_hash *tfm)
1124 {
1125         return crypto_tfm_get_flags(crypto_hash_tfm(tfm));
1126 }
1127
1128 static inline void crypto_hash_set_flags(struct crypto_hash *tfm, u32 flags)
1129 {
1130         crypto_tfm_set_flags(crypto_hash_tfm(tfm), flags);
1131 }
1132
1133 static inline void crypto_hash_clear_flags(struct crypto_hash *tfm, u32 flags)
1134 {
1135         crypto_tfm_clear_flags(crypto_hash_tfm(tfm), flags);
1136 }
1137
1138 static inline int crypto_hash_init(struct hash_desc *desc)
1139 {
1140         return crypto_hash_crt(desc->tfm)->init(desc);
1141 }
1142
1143 static inline int crypto_hash_update(struct hash_desc *desc,
1144                                      struct scatterlist *sg,
1145                                      unsigned int nbytes)
1146 {
1147         return crypto_hash_crt(desc->tfm)->update(desc, sg, nbytes);
1148 }
1149
1150 static inline int crypto_hash_final(struct hash_desc *desc, u8 *out)
1151 {
1152         return crypto_hash_crt(desc->tfm)->final(desc, out);
1153 }
1154
1155 static inline int crypto_hash_digest(struct hash_desc *desc,
1156                                      struct scatterlist *sg,
1157                                      unsigned int nbytes, u8 *out)
1158 {
1159         return crypto_hash_crt(desc->tfm)->digest(desc, sg, nbytes, out);
1160 }
1161
1162 static inline int crypto_hash_setkey(struct crypto_hash *hash,
1163                                      const u8 *key, unsigned int keylen)
1164 {
1165         return crypto_hash_crt(hash)->setkey(hash, key, keylen);
1166 }
1167
1168 static inline struct crypto_comp *__crypto_comp_cast(struct crypto_tfm *tfm)
1169 {
1170         return (struct crypto_comp *)tfm;
1171 }
1172
1173 static inline struct crypto_comp *crypto_comp_cast(struct crypto_tfm *tfm)
1174 {
1175         BUG_ON((crypto_tfm_alg_type(tfm) ^ CRYPTO_ALG_TYPE_COMPRESS) &
1176                CRYPTO_ALG_TYPE_MASK);
1177         return __crypto_comp_cast(tfm);
1178 }
1179
1180 static inline struct crypto_comp *crypto_alloc_comp(const char *alg_name,
1181                                                     u32 type, u32 mask)
1182 {
1183         type &= ~CRYPTO_ALG_TYPE_MASK;
1184         type |= CRYPTO_ALG_TYPE_COMPRESS;
1185         mask |= CRYPTO_ALG_TYPE_MASK;
1186
1187         return __crypto_comp_cast(crypto_alloc_base(alg_name, type, mask));
1188 }
1189
1190 static inline struct crypto_tfm *crypto_comp_tfm(struct crypto_comp *tfm)
1191 {
1192         return &tfm->base;
1193 }
1194
1195 static inline void crypto_free_comp(struct crypto_comp *tfm)
1196 {
1197         crypto_free_tfm(crypto_comp_tfm(tfm));
1198 }
1199
1200 static inline int crypto_has_comp(const char *alg_name, u32 type, u32 mask)
1201 {
1202         type &= ~CRYPTO_ALG_TYPE_MASK;
1203         type |= CRYPTO_ALG_TYPE_COMPRESS;
1204         mask |= CRYPTO_ALG_TYPE_MASK;
1205
1206         return crypto_has_alg(alg_name, type, mask);
1207 }
1208
1209 static inline const char *crypto_comp_name(struct crypto_comp *tfm)
1210 {
1211         return crypto_tfm_alg_name(crypto_comp_tfm(tfm));
1212 }
1213
1214 static inline struct compress_tfm *crypto_comp_crt(struct crypto_comp *tfm)
1215 {
1216         return &crypto_comp_tfm(tfm)->crt_compress;
1217 }
1218
1219 static inline int crypto_comp_compress(struct crypto_comp *tfm,
1220                                        const u8 *src, unsigned int slen,
1221                                        u8 *dst, unsigned int *dlen)
1222 {
1223         return crypto_comp_crt(tfm)->cot_compress(crypto_comp_tfm(tfm),
1224                                                   src, slen, dst, dlen);
1225 }
1226
1227 static inline int crypto_comp_decompress(struct crypto_comp *tfm,
1228                                          const u8 *src, unsigned int slen,
1229                                          u8 *dst, unsigned int *dlen)
1230 {
1231         return crypto_comp_crt(tfm)->cot_decompress(crypto_comp_tfm(tfm),
1232                                                     src, slen, dst, dlen);
1233 }
1234
1235 #endif  /* _LINUX_CRYPTO_H */
1236