ubifs: Add helper functions for authentication support
[linux-2.6-block.git] / fs / ubifs / ubifs.h
1 /*
2  * This file is part of UBIFS.
3  *
4  * Copyright (C) 2006-2008 Nokia Corporation
5  *
6  * This program is free software; you can redistribute it and/or modify it
7  * under the terms of the GNU General Public License version 2 as published by
8  * the Free Software Foundation.
9  *
10  * This program is distributed in the hope that it will be useful, but WITHOUT
11  * ANY WARRANTY; without even the implied warranty of MERCHANTABILITY or
12  * FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License for
13  * more details.
14  *
15  * You should have received a copy of the GNU General Public License along with
16  * this program; if not, write to the Free Software Foundation, Inc., 51
17  * Franklin St, Fifth Floor, Boston, MA 02110-1301 USA
18  *
19  * Authors: Artem Bityutskiy (Битюцкий Артём)
20  *          Adrian Hunter
21  */
22
23 #ifndef __UBIFS_H__
24 #define __UBIFS_H__
25
26 #include <asm/div64.h>
27 #include <linux/statfs.h>
28 #include <linux/fs.h>
29 #include <linux/err.h>
30 #include <linux/sched.h>
31 #include <linux/slab.h>
32 #include <linux/vmalloc.h>
33 #include <linux/spinlock.h>
34 #include <linux/mutex.h>
35 #include <linux/rwsem.h>
36 #include <linux/mtd/ubi.h>
37 #include <linux/pagemap.h>
38 #include <linux/backing-dev.h>
39 #include <linux/security.h>
40 #include <linux/xattr.h>
41 #include <linux/random.h>
42 #include <crypto/hash_info.h>
43 #include <crypto/hash.h>
44 #include <crypto/algapi.h>
45
46 #define __FS_HAS_ENCRYPTION IS_ENABLED(CONFIG_UBIFS_FS_ENCRYPTION)
47 #include <linux/fscrypt.h>
48
49 #include "ubifs-media.h"
50
51 /* Version of this UBIFS implementation */
52 #define UBIFS_VERSION 1
53
54 /* UBIFS file system VFS magic number */
55 #define UBIFS_SUPER_MAGIC 0x24051905
56
57 /* Number of UBIFS blocks per VFS page */
58 #define UBIFS_BLOCKS_PER_PAGE (PAGE_SIZE / UBIFS_BLOCK_SIZE)
59 #define UBIFS_BLOCKS_PER_PAGE_SHIFT (PAGE_SHIFT - UBIFS_BLOCK_SHIFT)
60
61 /* "File system end of life" sequence number watermark */
62 #define SQNUM_WARN_WATERMARK 0xFFFFFFFF00000000ULL
63 #define SQNUM_WATERMARK      0xFFFFFFFFFF000000ULL
64
65 /*
66  * Minimum amount of LEBs reserved for the index. At present the index needs at
67  * least 2 LEBs: one for the index head and one for in-the-gaps method (which
68  * currently does not cater for the index head and so excludes it from
69  * consideration).
70  */
71 #define MIN_INDEX_LEBS 2
72
73 /* Minimum amount of data UBIFS writes to the flash */
74 #define MIN_WRITE_SZ (UBIFS_DATA_NODE_SZ + 8)
75
76 /*
77  * Currently we do not support inode number overlapping and re-using, so this
78  * watermark defines dangerous inode number level. This should be fixed later,
79  * although it is difficult to exceed current limit. Another option is to use
80  * 64-bit inode numbers, but this means more overhead.
81  */
82 #define INUM_WARN_WATERMARK 0xFFF00000
83 #define INUM_WATERMARK      0xFFFFFF00
84
85 /* Maximum number of entries in each LPT (LEB category) heap */
86 #define LPT_HEAP_SZ 256
87
88 /*
89  * Background thread name pattern. The numbers are UBI device and volume
90  * numbers.
91  */
92 #define BGT_NAME_PATTERN "ubifs_bgt%d_%d"
93
94 /* Maximum possible inode number (only 32-bit inodes are supported now) */
95 #define MAX_INUM 0xFFFFFFFF
96
97 /* Number of non-data journal heads */
98 #define NONDATA_JHEADS_CNT 2
99
100 /* Shorter names for journal head numbers for internal usage */
101 #define GCHD   UBIFS_GC_HEAD
102 #define BASEHD UBIFS_BASE_HEAD
103 #define DATAHD UBIFS_DATA_HEAD
104
105 /* 'No change' value for 'ubifs_change_lp()' */
106 #define LPROPS_NC 0x80000001
107
108 /*
109  * There is no notion of truncation key because truncation nodes do not exist
110  * in TNC. However, when replaying, it is handy to introduce fake "truncation"
111  * keys for truncation nodes because the code becomes simpler. So we define
112  * %UBIFS_TRUN_KEY type.
113  *
114  * But otherwise, out of the journal reply scope, the truncation keys are
115  * invalid.
116  */
117 #define UBIFS_TRUN_KEY    UBIFS_KEY_TYPES_CNT
118 #define UBIFS_INVALID_KEY UBIFS_KEY_TYPES_CNT
119
120 /*
121  * How much a directory entry/extended attribute entry adds to the parent/host
122  * inode.
123  */
124 #define CALC_DENT_SIZE(name_len) ALIGN(UBIFS_DENT_NODE_SZ + (name_len) + 1, 8)
125
126 /* How much an extended attribute adds to the host inode */
127 #define CALC_XATTR_BYTES(data_len) ALIGN(UBIFS_INO_NODE_SZ + (data_len) + 1, 8)
128
129 /*
130  * Znodes which were not touched for 'OLD_ZNODE_AGE' seconds are considered
131  * "old", and znode which were touched last 'YOUNG_ZNODE_AGE' seconds ago are
132  * considered "young". This is used by shrinker when selecting znode to trim
133  * off.
134  */
135 #define OLD_ZNODE_AGE 20
136 #define YOUNG_ZNODE_AGE 5
137
138 /*
139  * Some compressors, like LZO, may end up with more data then the input buffer.
140  * So UBIFS always allocates larger output buffer, to be sure the compressor
141  * will not corrupt memory in case of worst case compression.
142  */
143 #define WORST_COMPR_FACTOR 2
144
145 #ifdef CONFIG_UBIFS_FS_ENCRYPTION
146 #define UBIFS_CIPHER_BLOCK_SIZE FS_CRYPTO_BLOCK_SIZE
147 #else
148 #define UBIFS_CIPHER_BLOCK_SIZE 0
149 #endif
150
151 /*
152  * How much memory is needed for a buffer where we compress a data node.
153  */
154 #define COMPRESSED_DATA_NODE_BUF_SZ \
155         (UBIFS_DATA_NODE_SZ + UBIFS_BLOCK_SIZE * WORST_COMPR_FACTOR)
156
157 /* Maximum expected tree height for use by bottom_up_buf */
158 #define BOTTOM_UP_HEIGHT 64
159
160 /* Maximum number of data nodes to bulk-read */
161 #define UBIFS_MAX_BULK_READ 32
162
163 #ifdef CONFIG_UBIFS_FS_AUTHENTICATION
164 #define UBIFS_HASH_ARR_SZ UBIFS_MAX_HASH_LEN
165 #define UBIFS_HMAC_ARR_SZ UBIFS_MAX_HMAC_LEN
166 #else
167 #define UBIFS_HASH_ARR_SZ 0
168 #define UBIFS_HMAC_ARR_SZ 0
169 #endif
170
171 /*
172  * Lockdep classes for UBIFS inode @ui_mutex.
173  */
174 enum {
175         WB_MUTEX_1 = 0,
176         WB_MUTEX_2 = 1,
177         WB_MUTEX_3 = 2,
178         WB_MUTEX_4 = 3,
179 };
180
181 /*
182  * Znode flags (actually, bit numbers which store the flags).
183  *
184  * DIRTY_ZNODE: znode is dirty
185  * COW_ZNODE: znode is being committed and a new instance of this znode has to
186  *            be created before changing this znode
187  * OBSOLETE_ZNODE: znode is obsolete, which means it was deleted, but it is
188  *                 still in the commit list and the ongoing commit operation
189  *                 will commit it, and delete this znode after it is done
190  */
191 enum {
192         DIRTY_ZNODE    = 0,
193         COW_ZNODE      = 1,
194         OBSOLETE_ZNODE = 2,
195 };
196
197 /*
198  * Commit states.
199  *
200  * COMMIT_RESTING: commit is not wanted
201  * COMMIT_BACKGROUND: background commit has been requested
202  * COMMIT_REQUIRED: commit is required
203  * COMMIT_RUNNING_BACKGROUND: background commit is running
204  * COMMIT_RUNNING_REQUIRED: commit is running and it is required
205  * COMMIT_BROKEN: commit failed
206  */
207 enum {
208         COMMIT_RESTING = 0,
209         COMMIT_BACKGROUND,
210         COMMIT_REQUIRED,
211         COMMIT_RUNNING_BACKGROUND,
212         COMMIT_RUNNING_REQUIRED,
213         COMMIT_BROKEN,
214 };
215
216 /*
217  * 'ubifs_scan_a_node()' return values.
218  *
219  * SCANNED_GARBAGE:  scanned garbage
220  * SCANNED_EMPTY_SPACE: scanned empty space
221  * SCANNED_A_NODE: scanned a valid node
222  * SCANNED_A_CORRUPT_NODE: scanned a corrupted node
223  * SCANNED_A_BAD_PAD_NODE: scanned a padding node with invalid pad length
224  *
225  * Greater than zero means: 'scanned that number of padding bytes'
226  */
227 enum {
228         SCANNED_GARBAGE        = 0,
229         SCANNED_EMPTY_SPACE    = -1,
230         SCANNED_A_NODE         = -2,
231         SCANNED_A_CORRUPT_NODE = -3,
232         SCANNED_A_BAD_PAD_NODE = -4,
233 };
234
235 /*
236  * LPT cnode flag bits.
237  *
238  * DIRTY_CNODE: cnode is dirty
239  * OBSOLETE_CNODE: cnode is being committed and has been copied (or deleted),
240  *                 so it can (and must) be freed when the commit is finished
241  * COW_CNODE: cnode is being committed and must be copied before writing
242  */
243 enum {
244         DIRTY_CNODE    = 0,
245         OBSOLETE_CNODE = 1,
246         COW_CNODE      = 2,
247 };
248
249 /*
250  * Dirty flag bits (lpt_drty_flgs) for LPT special nodes.
251  *
252  * LTAB_DIRTY: ltab node is dirty
253  * LSAVE_DIRTY: lsave node is dirty
254  */
255 enum {
256         LTAB_DIRTY  = 1,
257         LSAVE_DIRTY = 2,
258 };
259
260 /*
261  * Return codes used by the garbage collector.
262  * @LEB_FREED: the logical eraseblock was freed and is ready to use
263  * @LEB_FREED_IDX: indexing LEB was freed and can be used only after the commit
264  * @LEB_RETAINED: the logical eraseblock was freed and retained for GC purposes
265  */
266 enum {
267         LEB_FREED,
268         LEB_FREED_IDX,
269         LEB_RETAINED,
270 };
271
272 /*
273  * Action taken upon a failed ubifs_assert().
274  * @ASSACT_REPORT: just report the failed assertion
275  * @ASSACT_RO: switch to read-only mode
276  * @ASSACT_PANIC: call BUG() and possible panic the kernel
277  */
278 enum {
279         ASSACT_REPORT = 0,
280         ASSACT_RO,
281         ASSACT_PANIC,
282 };
283
284 /**
285  * struct ubifs_old_idx - index node obsoleted since last commit start.
286  * @rb: rb-tree node
287  * @lnum: LEB number of obsoleted index node
288  * @offs: offset of obsoleted index node
289  */
290 struct ubifs_old_idx {
291         struct rb_node rb;
292         int lnum;
293         int offs;
294 };
295
296 /* The below union makes it easier to deal with keys */
297 union ubifs_key {
298         uint8_t u8[UBIFS_SK_LEN];
299         uint32_t u32[UBIFS_SK_LEN/4];
300         uint64_t u64[UBIFS_SK_LEN/8];
301         __le32 j32[UBIFS_SK_LEN/4];
302 };
303
304 /**
305  * struct ubifs_scan_node - UBIFS scanned node information.
306  * @list: list of scanned nodes
307  * @key: key of node scanned (if it has one)
308  * @sqnum: sequence number
309  * @type: type of node scanned
310  * @offs: offset with LEB of node scanned
311  * @len: length of node scanned
312  * @node: raw node
313  */
314 struct ubifs_scan_node {
315         struct list_head list;
316         union ubifs_key key;
317         unsigned long long sqnum;
318         int type;
319         int offs;
320         int len;
321         void *node;
322 };
323
324 /**
325  * struct ubifs_scan_leb - UBIFS scanned LEB information.
326  * @lnum: logical eraseblock number
327  * @nodes_cnt: number of nodes scanned
328  * @nodes: list of struct ubifs_scan_node
329  * @endpt: end point (and therefore the start of empty space)
330  * @buf: buffer containing entire LEB scanned
331  */
332 struct ubifs_scan_leb {
333         int lnum;
334         int nodes_cnt;
335         struct list_head nodes;
336         int endpt;
337         void *buf;
338 };
339
340 /**
341  * struct ubifs_gced_idx_leb - garbage-collected indexing LEB.
342  * @list: list
343  * @lnum: LEB number
344  * @unmap: OK to unmap this LEB
345  *
346  * This data structure is used to temporary store garbage-collected indexing
347  * LEBs - they are not released immediately, but only after the next commit.
348  * This is needed to guarantee recoverability.
349  */
350 struct ubifs_gced_idx_leb {
351         struct list_head list;
352         int lnum;
353         int unmap;
354 };
355
356 /**
357  * struct ubifs_inode - UBIFS in-memory inode description.
358  * @vfs_inode: VFS inode description object
359  * @creat_sqnum: sequence number at time of creation
360  * @del_cmtno: commit number corresponding to the time the inode was deleted,
361  *             protected by @c->commit_sem;
362  * @xattr_size: summarized size of all extended attributes in bytes
363  * @xattr_cnt: count of extended attributes this inode has
364  * @xattr_names: sum of lengths of all extended attribute names belonging to
365  *               this inode
366  * @dirty: non-zero if the inode is dirty
367  * @xattr: non-zero if this is an extended attribute inode
368  * @bulk_read: non-zero if bulk-read should be used
369  * @ui_mutex: serializes inode write-back with the rest of VFS operations,
370  *            serializes "clean <-> dirty" state changes, serializes bulk-read,
371  *            protects @dirty, @bulk_read, @ui_size, and @xattr_size
372  * @ui_lock: protects @synced_i_size
373  * @synced_i_size: synchronized size of inode, i.e. the value of inode size
374  *                 currently stored on the flash; used only for regular file
375  *                 inodes
376  * @ui_size: inode size used by UBIFS when writing to flash
377  * @flags: inode flags (@UBIFS_COMPR_FL, etc)
378  * @compr_type: default compression type used for this inode
379  * @last_page_read: page number of last page read (for bulk read)
380  * @read_in_a_row: number of consecutive pages read in a row (for bulk read)
381  * @data_len: length of the data attached to the inode
382  * @data: inode's data
383  *
384  * @ui_mutex exists for two main reasons. At first it prevents inodes from
385  * being written back while UBIFS changing them, being in the middle of an VFS
386  * operation. This way UBIFS makes sure the inode fields are consistent. For
387  * example, in 'ubifs_rename()' we change 3 inodes simultaneously, and
388  * write-back must not write any of them before we have finished.
389  *
390  * The second reason is budgeting - UBIFS has to budget all operations. If an
391  * operation is going to mark an inode dirty, it has to allocate budget for
392  * this. It cannot just mark it dirty because there is no guarantee there will
393  * be enough flash space to write the inode back later. This means UBIFS has
394  * to have full control over inode "clean <-> dirty" transitions (and pages
395  * actually). But unfortunately, VFS marks inodes dirty in many places, and it
396  * does not ask the file-system if it is allowed to do so (there is a notifier,
397  * but it is not enough), i.e., there is no mechanism to synchronize with this.
398  * So UBIFS has its own inode dirty flag and its own mutex to serialize
399  * "clean <-> dirty" transitions.
400  *
401  * The @synced_i_size field is used to make sure we never write pages which are
402  * beyond last synchronized inode size. See 'ubifs_writepage()' for more
403  * information.
404  *
405  * The @ui_size is a "shadow" variable for @inode->i_size and UBIFS uses
406  * @ui_size instead of @inode->i_size. The reason for this is that UBIFS cannot
407  * make sure @inode->i_size is always changed under @ui_mutex, because it
408  * cannot call 'truncate_setsize()' with @ui_mutex locked, because it would
409  * deadlock with 'ubifs_writepage()' (see file.c). All the other inode fields
410  * are changed under @ui_mutex, so they do not need "shadow" fields. Note, one
411  * could consider to rework locking and base it on "shadow" fields.
412  */
413 struct ubifs_inode {
414         struct inode vfs_inode;
415         unsigned long long creat_sqnum;
416         unsigned long long del_cmtno;
417         unsigned int xattr_size;
418         unsigned int xattr_cnt;
419         unsigned int xattr_names;
420         unsigned int dirty:1;
421         unsigned int xattr:1;
422         unsigned int bulk_read:1;
423         unsigned int compr_type:2;
424         struct mutex ui_mutex;
425         spinlock_t ui_lock;
426         loff_t synced_i_size;
427         loff_t ui_size;
428         int flags;
429         pgoff_t last_page_read;
430         pgoff_t read_in_a_row;
431         int data_len;
432         void *data;
433 };
434
435 /**
436  * struct ubifs_unclean_leb - records a LEB recovered under read-only mode.
437  * @list: list
438  * @lnum: LEB number of recovered LEB
439  * @endpt: offset where recovery ended
440  *
441  * This structure records a LEB identified during recovery that needs to be
442  * cleaned but was not because UBIFS was mounted read-only. The information
443  * is used to clean the LEB when remounting to read-write mode.
444  */
445 struct ubifs_unclean_leb {
446         struct list_head list;
447         int lnum;
448         int endpt;
449 };
450
451 /*
452  * LEB properties flags.
453  *
454  * LPROPS_UNCAT: not categorized
455  * LPROPS_DIRTY: dirty > free, dirty >= @c->dead_wm, not index
456  * LPROPS_DIRTY_IDX: dirty + free > @c->min_idx_node_sze and index
457  * LPROPS_FREE: free > 0, dirty < @c->dead_wm, not empty, not index
458  * LPROPS_HEAP_CNT: number of heaps used for storing categorized LEBs
459  * LPROPS_EMPTY: LEB is empty, not taken
460  * LPROPS_FREEABLE: free + dirty == leb_size, not index, not taken
461  * LPROPS_FRDI_IDX: free + dirty == leb_size and index, may be taken
462  * LPROPS_CAT_MASK: mask for the LEB categories above
463  * LPROPS_TAKEN: LEB was taken (this flag is not saved on the media)
464  * LPROPS_INDEX: LEB contains indexing nodes (this flag also exists on flash)
465  */
466 enum {
467         LPROPS_UNCAT     =  0,
468         LPROPS_DIRTY     =  1,
469         LPROPS_DIRTY_IDX =  2,
470         LPROPS_FREE      =  3,
471         LPROPS_HEAP_CNT  =  3,
472         LPROPS_EMPTY     =  4,
473         LPROPS_FREEABLE  =  5,
474         LPROPS_FRDI_IDX  =  6,
475         LPROPS_CAT_MASK  = 15,
476         LPROPS_TAKEN     = 16,
477         LPROPS_INDEX     = 32,
478 };
479
480 /**
481  * struct ubifs_lprops - logical eraseblock properties.
482  * @free: amount of free space in bytes
483  * @dirty: amount of dirty space in bytes
484  * @flags: LEB properties flags (see above)
485  * @lnum: LEB number
486  * @list: list of same-category lprops (for LPROPS_EMPTY and LPROPS_FREEABLE)
487  * @hpos: heap position in heap of same-category lprops (other categories)
488  */
489 struct ubifs_lprops {
490         int free;
491         int dirty;
492         int flags;
493         int lnum;
494         union {
495                 struct list_head list;
496                 int hpos;
497         };
498 };
499
500 /**
501  * struct ubifs_lpt_lprops - LPT logical eraseblock properties.
502  * @free: amount of free space in bytes
503  * @dirty: amount of dirty space in bytes
504  * @tgc: trivial GC flag (1 => unmap after commit end)
505  * @cmt: commit flag (1 => reserved for commit)
506  */
507 struct ubifs_lpt_lprops {
508         int free;
509         int dirty;
510         unsigned tgc:1;
511         unsigned cmt:1;
512 };
513
514 /**
515  * struct ubifs_lp_stats - statistics of eraseblocks in the main area.
516  * @empty_lebs: number of empty LEBs
517  * @taken_empty_lebs: number of taken LEBs
518  * @idx_lebs: number of indexing LEBs
519  * @total_free: total free space in bytes (includes all LEBs)
520  * @total_dirty: total dirty space in bytes (includes all LEBs)
521  * @total_used: total used space in bytes (does not include index LEBs)
522  * @total_dead: total dead space in bytes (does not include index LEBs)
523  * @total_dark: total dark space in bytes (does not include index LEBs)
524  *
525  * The @taken_empty_lebs field counts the LEBs that are in the transient state
526  * of having been "taken" for use but not yet written to. @taken_empty_lebs is
527  * needed to account correctly for @gc_lnum, otherwise @empty_lebs could be
528  * used by itself (in which case 'unused_lebs' would be a better name). In the
529  * case of @gc_lnum, it is "taken" at mount time or whenever a LEB is retained
530  * by GC, but unlike other empty LEBs that are "taken", it may not be written
531  * straight away (i.e. before the next commit start or unmount), so either
532  * @gc_lnum must be specially accounted for, or the current approach followed
533  * i.e. count it under @taken_empty_lebs.
534  *
535  * @empty_lebs includes @taken_empty_lebs.
536  *
537  * @total_used, @total_dead and @total_dark fields do not account indexing
538  * LEBs.
539  */
540 struct ubifs_lp_stats {
541         int empty_lebs;
542         int taken_empty_lebs;
543         int idx_lebs;
544         long long total_free;
545         long long total_dirty;
546         long long total_used;
547         long long total_dead;
548         long long total_dark;
549 };
550
551 struct ubifs_nnode;
552
553 /**
554  * struct ubifs_cnode - LEB Properties Tree common node.
555  * @parent: parent nnode
556  * @cnext: next cnode to commit
557  * @flags: flags (%DIRTY_LPT_NODE or %OBSOLETE_LPT_NODE)
558  * @iip: index in parent
559  * @level: level in the tree (zero for pnodes, greater than zero for nnodes)
560  * @num: node number
561  */
562 struct ubifs_cnode {
563         struct ubifs_nnode *parent;
564         struct ubifs_cnode *cnext;
565         unsigned long flags;
566         int iip;
567         int level;
568         int num;
569 };
570
571 /**
572  * struct ubifs_pnode - LEB Properties Tree leaf node.
573  * @parent: parent nnode
574  * @cnext: next cnode to commit
575  * @flags: flags (%DIRTY_LPT_NODE or %OBSOLETE_LPT_NODE)
576  * @iip: index in parent
577  * @level: level in the tree (always zero for pnodes)
578  * @num: node number
579  * @lprops: LEB properties array
580  */
581 struct ubifs_pnode {
582         struct ubifs_nnode *parent;
583         struct ubifs_cnode *cnext;
584         unsigned long flags;
585         int iip;
586         int level;
587         int num;
588         struct ubifs_lprops lprops[UBIFS_LPT_FANOUT];
589 };
590
591 /**
592  * struct ubifs_nbranch - LEB Properties Tree internal node branch.
593  * @lnum: LEB number of child
594  * @offs: offset of child
595  * @nnode: nnode child
596  * @pnode: pnode child
597  * @cnode: cnode child
598  */
599 struct ubifs_nbranch {
600         int lnum;
601         int offs;
602         union {
603                 struct ubifs_nnode *nnode;
604                 struct ubifs_pnode *pnode;
605                 struct ubifs_cnode *cnode;
606         };
607 };
608
609 /**
610  * struct ubifs_nnode - LEB Properties Tree internal node.
611  * @parent: parent nnode
612  * @cnext: next cnode to commit
613  * @flags: flags (%DIRTY_LPT_NODE or %OBSOLETE_LPT_NODE)
614  * @iip: index in parent
615  * @level: level in the tree (always greater than zero for nnodes)
616  * @num: node number
617  * @nbranch: branches to child nodes
618  */
619 struct ubifs_nnode {
620         struct ubifs_nnode *parent;
621         struct ubifs_cnode *cnext;
622         unsigned long flags;
623         int iip;
624         int level;
625         int num;
626         struct ubifs_nbranch nbranch[UBIFS_LPT_FANOUT];
627 };
628
629 /**
630  * struct ubifs_lpt_heap - heap of categorized lprops.
631  * @arr: heap array
632  * @cnt: number in heap
633  * @max_cnt: maximum number allowed in heap
634  *
635  * There are %LPROPS_HEAP_CNT heaps.
636  */
637 struct ubifs_lpt_heap {
638         struct ubifs_lprops **arr;
639         int cnt;
640         int max_cnt;
641 };
642
643 /*
644  * Return codes for LPT scan callback function.
645  *
646  * LPT_SCAN_CONTINUE: continue scanning
647  * LPT_SCAN_ADD: add the LEB properties scanned to the tree in memory
648  * LPT_SCAN_STOP: stop scanning
649  */
650 enum {
651         LPT_SCAN_CONTINUE = 0,
652         LPT_SCAN_ADD = 1,
653         LPT_SCAN_STOP = 2,
654 };
655
656 struct ubifs_info;
657
658 /* Callback used by the 'ubifs_lpt_scan_nolock()' function */
659 typedef int (*ubifs_lpt_scan_callback)(struct ubifs_info *c,
660                                        const struct ubifs_lprops *lprops,
661                                        int in_tree, void *data);
662
663 /**
664  * struct ubifs_wbuf - UBIFS write-buffer.
665  * @c: UBIFS file-system description object
666  * @buf: write-buffer (of min. flash I/O unit size)
667  * @lnum: logical eraseblock number the write-buffer points to
668  * @offs: write-buffer offset in this logical eraseblock
669  * @avail: number of bytes available in the write-buffer
670  * @used:  number of used bytes in the write-buffer
671  * @size: write-buffer size (in [@c->min_io_size, @c->max_write_size] range)
672  * @jhead: journal head the mutex belongs to (note, needed only to shut lockdep
673  *         up by 'mutex_lock_nested()).
674  * @sync_callback: write-buffer synchronization callback
675  * @io_mutex: serializes write-buffer I/O
676  * @lock: serializes @buf, @lnum, @offs, @avail, @used, @next_ino and @inodes
677  *        fields
678  * @timer: write-buffer timer
679  * @no_timer: non-zero if this write-buffer does not have a timer
680  * @need_sync: non-zero if the timer expired and the wbuf needs sync'ing
681  * @next_ino: points to the next position of the following inode number
682  * @inodes: stores the inode numbers of the nodes which are in wbuf
683  *
684  * The write-buffer synchronization callback is called when the write-buffer is
685  * synchronized in order to notify how much space was wasted due to
686  * write-buffer padding and how much free space is left in the LEB.
687  *
688  * Note: the fields @buf, @lnum, @offs, @avail and @used can be read under
689  * spin-lock or mutex because they are written under both mutex and spin-lock.
690  * @buf is appended to under mutex but overwritten under both mutex and
691  * spin-lock. Thus the data between @buf and @buf + @used can be read under
692  * spinlock.
693  */
694 struct ubifs_wbuf {
695         struct ubifs_info *c;
696         void *buf;
697         int lnum;
698         int offs;
699         int avail;
700         int used;
701         int size;
702         int jhead;
703         int (*sync_callback)(struct ubifs_info *c, int lnum, int free, int pad);
704         struct mutex io_mutex;
705         spinlock_t lock;
706         struct hrtimer timer;
707         unsigned int no_timer:1;
708         unsigned int need_sync:1;
709         int next_ino;
710         ino_t *inodes;
711 };
712
713 /**
714  * struct ubifs_bud - bud logical eraseblock.
715  * @lnum: logical eraseblock number
716  * @start: where the (uncommitted) bud data starts
717  * @jhead: journal head number this bud belongs to
718  * @list: link in the list buds belonging to the same journal head
719  * @rb: link in the tree of all buds
720  */
721 struct ubifs_bud {
722         int lnum;
723         int start;
724         int jhead;
725         struct list_head list;
726         struct rb_node rb;
727 };
728
729 /**
730  * struct ubifs_jhead - journal head.
731  * @wbuf: head's write-buffer
732  * @buds_list: list of bud LEBs belonging to this journal head
733  * @grouped: non-zero if UBIFS groups nodes when writing to this journal head
734  *
735  * Note, the @buds list is protected by the @c->buds_lock.
736  */
737 struct ubifs_jhead {
738         struct ubifs_wbuf wbuf;
739         struct list_head buds_list;
740         unsigned int grouped:1;
741 };
742
743 /**
744  * struct ubifs_zbranch - key/coordinate/length branch stored in znodes.
745  * @key: key
746  * @znode: znode address in memory
747  * @lnum: LEB number of the target node (indexing node or data node)
748  * @offs: target node offset within @lnum
749  * @len: target node length
750  */
751 struct ubifs_zbranch {
752         union ubifs_key key;
753         union {
754                 struct ubifs_znode *znode;
755                 void *leaf;
756         };
757         int lnum;
758         int offs;
759         int len;
760 };
761
762 /**
763  * struct ubifs_znode - in-memory representation of an indexing node.
764  * @parent: parent znode or NULL if it is the root
765  * @cnext: next znode to commit
766  * @flags: znode flags (%DIRTY_ZNODE, %COW_ZNODE or %OBSOLETE_ZNODE)
767  * @time: last access time (seconds)
768  * @level: level of the entry in the TNC tree
769  * @child_cnt: count of child znodes
770  * @iip: index in parent's zbranch array
771  * @alt: lower bound of key range has altered i.e. child inserted at slot 0
772  * @lnum: LEB number of the corresponding indexing node
773  * @offs: offset of the corresponding indexing node
774  * @len: length  of the corresponding indexing node
775  * @zbranch: array of znode branches (@c->fanout elements)
776  *
777  * Note! The @lnum, @offs, and @len fields are not really needed - we have them
778  * only for internal consistency check. They could be removed to save some RAM.
779  */
780 struct ubifs_znode {
781         struct ubifs_znode *parent;
782         struct ubifs_znode *cnext;
783         unsigned long flags;
784         time64_t time;
785         int level;
786         int child_cnt;
787         int iip;
788         int alt;
789         int lnum;
790         int offs;
791         int len;
792         struct ubifs_zbranch zbranch[];
793 };
794
795 /**
796  * struct bu_info - bulk-read information.
797  * @key: first data node key
798  * @zbranch: zbranches of data nodes to bulk read
799  * @buf: buffer to read into
800  * @buf_len: buffer length
801  * @gc_seq: GC sequence number to detect races with GC
802  * @cnt: number of data nodes for bulk read
803  * @blk_cnt: number of data blocks including holes
804  * @oef: end of file reached
805  */
806 struct bu_info {
807         union ubifs_key key;
808         struct ubifs_zbranch zbranch[UBIFS_MAX_BULK_READ];
809         void *buf;
810         int buf_len;
811         int gc_seq;
812         int cnt;
813         int blk_cnt;
814         int eof;
815 };
816
817 /**
818  * struct ubifs_node_range - node length range description data structure.
819  * @len: fixed node length
820  * @min_len: minimum possible node length
821  * @max_len: maximum possible node length
822  *
823  * If @max_len is %0, the node has fixed length @len.
824  */
825 struct ubifs_node_range {
826         union {
827                 int len;
828                 int min_len;
829         };
830         int max_len;
831 };
832
833 /**
834  * struct ubifs_compressor - UBIFS compressor description structure.
835  * @compr_type: compressor type (%UBIFS_COMPR_LZO, etc)
836  * @cc: cryptoapi compressor handle
837  * @comp_mutex: mutex used during compression
838  * @decomp_mutex: mutex used during decompression
839  * @name: compressor name
840  * @capi_name: cryptoapi compressor name
841  */
842 struct ubifs_compressor {
843         int compr_type;
844         struct crypto_comp *cc;
845         struct mutex *comp_mutex;
846         struct mutex *decomp_mutex;
847         const char *name;
848         const char *capi_name;
849 };
850
851 /**
852  * struct ubifs_budget_req - budget requirements of an operation.
853  *
854  * @fast: non-zero if the budgeting should try to acquire budget quickly and
855  *        should not try to call write-back
856  * @recalculate: non-zero if @idx_growth, @data_growth, and @dd_growth fields
857  *               have to be re-calculated
858  * @new_page: non-zero if the operation adds a new page
859  * @dirtied_page: non-zero if the operation makes a page dirty
860  * @new_dent: non-zero if the operation adds a new directory entry
861  * @mod_dent: non-zero if the operation removes or modifies an existing
862  *            directory entry
863  * @new_ino: non-zero if the operation adds a new inode
864  * @new_ino_d: how much data newly created inode contains
865  * @dirtied_ino: how many inodes the operation makes dirty
866  * @dirtied_ino_d: how much data dirtied inode contains
867  * @idx_growth: how much the index will supposedly grow
868  * @data_growth: how much new data the operation will supposedly add
869  * @dd_growth: how much data that makes other data dirty the operation will
870  *             supposedly add
871  *
872  * @idx_growth, @data_growth and @dd_growth are not used in budget request. The
873  * budgeting subsystem caches index and data growth values there to avoid
874  * re-calculating them when the budget is released. However, if @idx_growth is
875  * %-1, it is calculated by the release function using other fields.
876  *
877  * An inode may contain 4KiB of data at max., thus the widths of @new_ino_d
878  * is 13 bits, and @dirtied_ino_d - 15, because up to 4 inodes may be made
879  * dirty by the re-name operation.
880  *
881  * Note, UBIFS aligns node lengths to 8-bytes boundary, so the requester has to
882  * make sure the amount of inode data which contribute to @new_ino_d and
883  * @dirtied_ino_d fields are aligned.
884  */
885 struct ubifs_budget_req {
886         unsigned int fast:1;
887         unsigned int recalculate:1;
888 #ifndef UBIFS_DEBUG
889         unsigned int new_page:1;
890         unsigned int dirtied_page:1;
891         unsigned int new_dent:1;
892         unsigned int mod_dent:1;
893         unsigned int new_ino:1;
894         unsigned int new_ino_d:13;
895         unsigned int dirtied_ino:4;
896         unsigned int dirtied_ino_d:15;
897 #else
898         /* Not bit-fields to check for overflows */
899         unsigned int new_page;
900         unsigned int dirtied_page;
901         unsigned int new_dent;
902         unsigned int mod_dent;
903         unsigned int new_ino;
904         unsigned int new_ino_d;
905         unsigned int dirtied_ino;
906         unsigned int dirtied_ino_d;
907 #endif
908         int idx_growth;
909         int data_growth;
910         int dd_growth;
911 };
912
913 /**
914  * struct ubifs_orphan - stores the inode number of an orphan.
915  * @rb: rb-tree node of rb-tree of orphans sorted by inode number
916  * @list: list head of list of orphans in order added
917  * @new_list: list head of list of orphans added since the last commit
918  * @cnext: next orphan to commit
919  * @dnext: next orphan to delete
920  * @inum: inode number
921  * @new: %1 => added since the last commit, otherwise %0
922  * @cmt: %1 => commit pending, otherwise %0
923  * @del: %1 => delete pending, otherwise %0
924  */
925 struct ubifs_orphan {
926         struct rb_node rb;
927         struct list_head list;
928         struct list_head new_list;
929         struct ubifs_orphan *cnext;
930         struct ubifs_orphan *dnext;
931         ino_t inum;
932         unsigned new:1;
933         unsigned cmt:1;
934         unsigned del:1;
935 };
936
937 /**
938  * struct ubifs_mount_opts - UBIFS-specific mount options information.
939  * @unmount_mode: selected unmount mode (%0 default, %1 normal, %2 fast)
940  * @bulk_read: enable/disable bulk-reads (%0 default, %1 disable, %2 enable)
941  * @chk_data_crc: enable/disable CRC data checking when reading data nodes
942  *                (%0 default, %1 disable, %2 enable)
943  * @override_compr: override default compressor (%0 - do not override and use
944  *                  superblock compressor, %1 - override and use compressor
945  *                  specified in @compr_type)
946  * @compr_type: compressor type to override the superblock compressor with
947  *              (%UBIFS_COMPR_NONE, etc)
948  */
949 struct ubifs_mount_opts {
950         unsigned int unmount_mode:2;
951         unsigned int bulk_read:2;
952         unsigned int chk_data_crc:2;
953         unsigned int override_compr:1;
954         unsigned int compr_type:2;
955 };
956
957 /**
958  * struct ubifs_budg_info - UBIFS budgeting information.
959  * @idx_growth: amount of bytes budgeted for index growth
960  * @data_growth: amount of bytes budgeted for cached data
961  * @dd_growth: amount of bytes budgeted for cached data that will make
962  *             other data dirty
963  * @uncommitted_idx: amount of bytes were budgeted for growth of the index, but
964  *                   which still have to be taken into account because the index
965  *                   has not been committed so far
966  * @old_idx_sz: size of index on flash
967  * @min_idx_lebs: minimum number of LEBs required for the index
968  * @nospace: non-zero if the file-system does not have flash space (used as
969  *           optimization)
970  * @nospace_rp: the same as @nospace, but additionally means that even reserved
971  *              pool is full
972  * @page_budget: budget for a page (constant, never changed after mount)
973  * @inode_budget: budget for an inode (constant, never changed after mount)
974  * @dent_budget: budget for a directory entry (constant, never changed after
975  *               mount)
976  */
977 struct ubifs_budg_info {
978         long long idx_growth;
979         long long data_growth;
980         long long dd_growth;
981         long long uncommitted_idx;
982         unsigned long long old_idx_sz;
983         int min_idx_lebs;
984         unsigned int nospace:1;
985         unsigned int nospace_rp:1;
986         int page_budget;
987         int inode_budget;
988         int dent_budget;
989 };
990
991 struct ubifs_debug_info;
992
993 /**
994  * struct ubifs_info - UBIFS file-system description data structure
995  * (per-superblock).
996  * @vfs_sb: VFS @struct super_block object
997  * @sup_node: The super block node as read from the device
998  *
999  * @highest_inum: highest used inode number
1000  * @max_sqnum: current global sequence number
1001  * @cmt_no: commit number of the last successfully completed commit, protected
1002  *          by @commit_sem
1003  * @cnt_lock: protects @highest_inum and @max_sqnum counters
1004  * @fmt_version: UBIFS on-flash format version
1005  * @ro_compat_version: R/O compatibility version
1006  * @uuid: UUID from super block
1007  *
1008  * @lhead_lnum: log head logical eraseblock number
1009  * @lhead_offs: log head offset
1010  * @ltail_lnum: log tail logical eraseblock number (offset is always 0)
1011  * @log_mutex: protects the log, @lhead_lnum, @lhead_offs, @ltail_lnum, and
1012  *             @bud_bytes
1013  * @min_log_bytes: minimum required number of bytes in the log
1014  * @cmt_bud_bytes: used during commit to temporarily amount of bytes in
1015  *                 committed buds
1016  *
1017  * @buds: tree of all buds indexed by bud LEB number
1018  * @bud_bytes: how many bytes of flash is used by buds
1019  * @buds_lock: protects the @buds tree, @bud_bytes, and per-journal head bud
1020  *             lists
1021  * @jhead_cnt: count of journal heads
1022  * @jheads: journal heads (head zero is base head)
1023  * @max_bud_bytes: maximum number of bytes allowed in buds
1024  * @bg_bud_bytes: number of bud bytes when background commit is initiated
1025  * @old_buds: buds to be released after commit ends
1026  * @max_bud_cnt: maximum number of buds
1027  *
1028  * @commit_sem: synchronizes committer with other processes
1029  * @cmt_state: commit state
1030  * @cs_lock: commit state lock
1031  * @cmt_wq: wait queue to sleep on if the log is full and a commit is running
1032  *
1033  * @big_lpt: flag that LPT is too big to write whole during commit
1034  * @space_fixup: flag indicating that free space in LEBs needs to be cleaned up
1035  * @double_hash: flag indicating that we can do lookups by hash
1036  * @encrypted: flag indicating that this file system contains encrypted files
1037  * @no_chk_data_crc: do not check CRCs when reading data nodes (except during
1038  *                   recovery)
1039  * @bulk_read: enable bulk-reads
1040  * @default_compr: default compression algorithm (%UBIFS_COMPR_LZO, etc)
1041  * @rw_incompat: the media is not R/W compatible
1042  * @assert_action: action to take when a ubifs_assert() fails
1043  * @authenticated: flag indigating the FS is mounted in authenticated mode
1044  *
1045  * @tnc_mutex: protects the Tree Node Cache (TNC), @zroot, @cnext, @enext, and
1046  *             @calc_idx_sz
1047  * @zroot: zbranch which points to the root index node and znode
1048  * @cnext: next znode to commit
1049  * @enext: next znode to commit to empty space
1050  * @gap_lebs: array of LEBs used by the in-gaps commit method
1051  * @cbuf: commit buffer
1052  * @ileb_buf: buffer for commit in-the-gaps method
1053  * @ileb_len: length of data in ileb_buf
1054  * @ihead_lnum: LEB number of index head
1055  * @ihead_offs: offset of index head
1056  * @ilebs: pre-allocated index LEBs
1057  * @ileb_cnt: number of pre-allocated index LEBs
1058  * @ileb_nxt: next pre-allocated index LEBs
1059  * @old_idx: tree of index nodes obsoleted since the last commit start
1060  * @bottom_up_buf: a buffer which is used by 'dirty_cow_bottom_up()' in tnc.c
1061  *
1062  * @mst_node: master node
1063  * @mst_offs: offset of valid master node
1064  *
1065  * @max_bu_buf_len: maximum bulk-read buffer length
1066  * @bu_mutex: protects the pre-allocated bulk-read buffer and @c->bu
1067  * @bu: pre-allocated bulk-read information
1068  *
1069  * @write_reserve_mutex: protects @write_reserve_buf
1070  * @write_reserve_buf: on the write path we allocate memory, which might
1071  *                     sometimes be unavailable, in which case we use this
1072  *                     write reserve buffer
1073  *
1074  * @log_lebs: number of logical eraseblocks in the log
1075  * @log_bytes: log size in bytes
1076  * @log_last: last LEB of the log
1077  * @lpt_lebs: number of LEBs used for lprops table
1078  * @lpt_first: first LEB of the lprops table area
1079  * @lpt_last: last LEB of the lprops table area
1080  * @orph_lebs: number of LEBs used for the orphan area
1081  * @orph_first: first LEB of the orphan area
1082  * @orph_last: last LEB of the orphan area
1083  * @main_lebs: count of LEBs in the main area
1084  * @main_first: first LEB of the main area
1085  * @main_bytes: main area size in bytes
1086  *
1087  * @key_hash_type: type of the key hash
1088  * @key_hash: direntry key hash function
1089  * @key_fmt: key format
1090  * @key_len: key length
1091  * @hash_len: The length of the index node hashes
1092  * @fanout: fanout of the index tree (number of links per indexing node)
1093  *
1094  * @min_io_size: minimal input/output unit size
1095  * @min_io_shift: number of bits in @min_io_size minus one
1096  * @max_write_size: maximum amount of bytes the underlying flash can write at a
1097  *                  time (MTD write buffer size)
1098  * @max_write_shift: number of bits in @max_write_size minus one
1099  * @leb_size: logical eraseblock size in bytes
1100  * @leb_start: starting offset of logical eraseblocks within physical
1101  *             eraseblocks
1102  * @half_leb_size: half LEB size
1103  * @idx_leb_size: how many bytes of an LEB are effectively available when it is
1104  *                used to store indexing nodes (@leb_size - @max_idx_node_sz)
1105  * @leb_cnt: count of logical eraseblocks
1106  * @max_leb_cnt: maximum count of logical eraseblocks
1107  * @old_leb_cnt: count of logical eraseblocks before re-size
1108  * @ro_media: the underlying UBI volume is read-only
1109  * @ro_mount: the file-system was mounted as read-only
1110  * @ro_error: UBIFS switched to R/O mode because an error happened
1111  *
1112  * @dirty_pg_cnt: number of dirty pages (not used)
1113  * @dirty_zn_cnt: number of dirty znodes
1114  * @clean_zn_cnt: number of clean znodes
1115  *
1116  * @space_lock: protects @bi and @lst
1117  * @lst: lprops statistics
1118  * @bi: budgeting information
1119  * @calc_idx_sz: temporary variable which is used to calculate new index size
1120  *               (contains accurate new index size at end of TNC commit start)
1121  *
1122  * @ref_node_alsz: size of the LEB reference node aligned to the min. flash
1123  *                 I/O unit
1124  * @mst_node_alsz: master node aligned size
1125  * @min_idx_node_sz: minimum indexing node aligned on 8-bytes boundary
1126  * @max_idx_node_sz: maximum indexing node aligned on 8-bytes boundary
1127  * @max_inode_sz: maximum possible inode size in bytes
1128  * @max_znode_sz: size of znode in bytes
1129  *
1130  * @leb_overhead: how many bytes are wasted in an LEB when it is filled with
1131  *                data nodes of maximum size - used in free space reporting
1132  * @dead_wm: LEB dead space watermark
1133  * @dark_wm: LEB dark space watermark
1134  * @block_cnt: count of 4KiB blocks on the FS
1135  *
1136  * @ranges: UBIFS node length ranges
1137  * @ubi: UBI volume descriptor
1138  * @di: UBI device information
1139  * @vi: UBI volume information
1140  *
1141  * @orph_tree: rb-tree of orphan inode numbers
1142  * @orph_list: list of orphan inode numbers in order added
1143  * @orph_new: list of orphan inode numbers added since last commit
1144  * @orph_cnext: next orphan to commit
1145  * @orph_dnext: next orphan to delete
1146  * @orphan_lock: lock for orph_tree and orph_new
1147  * @orph_buf: buffer for orphan nodes
1148  * @new_orphans: number of orphans since last commit
1149  * @cmt_orphans: number of orphans being committed
1150  * @tot_orphans: number of orphans in the rb_tree
1151  * @max_orphans: maximum number of orphans allowed
1152  * @ohead_lnum: orphan head LEB number
1153  * @ohead_offs: orphan head offset
1154  * @no_orphs: non-zero if there are no orphans
1155  *
1156  * @bgt: UBIFS background thread
1157  * @bgt_name: background thread name
1158  * @need_bgt: if background thread should run
1159  * @need_wbuf_sync: if write-buffers have to be synchronized
1160  *
1161  * @gc_lnum: LEB number used for garbage collection
1162  * @sbuf: a buffer of LEB size used by GC and replay for scanning
1163  * @idx_gc: list of index LEBs that have been garbage collected
1164  * @idx_gc_cnt: number of elements on the idx_gc list
1165  * @gc_seq: incremented for every non-index LEB garbage collected
1166  * @gced_lnum: last non-index LEB that was garbage collected
1167  *
1168  * @infos_list: links all 'ubifs_info' objects
1169  * @umount_mutex: serializes shrinker and un-mount
1170  * @shrinker_run_no: shrinker run number
1171  *
1172  * @space_bits: number of bits needed to record free or dirty space
1173  * @lpt_lnum_bits: number of bits needed to record a LEB number in the LPT
1174  * @lpt_offs_bits: number of bits needed to record an offset in the LPT
1175  * @lpt_spc_bits: number of bits needed to space in the LPT
1176  * @pcnt_bits: number of bits needed to record pnode or nnode number
1177  * @lnum_bits: number of bits needed to record LEB number
1178  * @nnode_sz: size of on-flash nnode
1179  * @pnode_sz: size of on-flash pnode
1180  * @ltab_sz: size of on-flash LPT lprops table
1181  * @lsave_sz: size of on-flash LPT save table
1182  * @pnode_cnt: number of pnodes
1183  * @nnode_cnt: number of nnodes
1184  * @lpt_hght: height of the LPT
1185  * @pnodes_have: number of pnodes in memory
1186  *
1187  * @lp_mutex: protects lprops table and all the other lprops-related fields
1188  * @lpt_lnum: LEB number of the root nnode of the LPT
1189  * @lpt_offs: offset of the root nnode of the LPT
1190  * @nhead_lnum: LEB number of LPT head
1191  * @nhead_offs: offset of LPT head
1192  * @lpt_drty_flgs: dirty flags for LPT special nodes e.g. ltab
1193  * @dirty_nn_cnt: number of dirty nnodes
1194  * @dirty_pn_cnt: number of dirty pnodes
1195  * @check_lpt_free: flag that indicates LPT GC may be needed
1196  * @lpt_sz: LPT size
1197  * @lpt_nod_buf: buffer for an on-flash nnode or pnode
1198  * @lpt_buf: buffer of LEB size used by LPT
1199  * @nroot: address in memory of the root nnode of the LPT
1200  * @lpt_cnext: next LPT node to commit
1201  * @lpt_heap: array of heaps of categorized lprops
1202  * @dirty_idx: a (reverse sorted) copy of the LPROPS_DIRTY_IDX heap as at
1203  *             previous commit start
1204  * @uncat_list: list of un-categorized LEBs
1205  * @empty_list: list of empty LEBs
1206  * @freeable_list: list of freeable non-index LEBs (free + dirty == @leb_size)
1207  * @frdi_idx_list: list of freeable index LEBs (free + dirty == @leb_size)
1208  * @freeable_cnt: number of freeable LEBs in @freeable_list
1209  * @in_a_category_cnt: count of lprops which are in a certain category, which
1210  *                     basically meants that they were loaded from the flash
1211  *
1212  * @ltab_lnum: LEB number of LPT's own lprops table
1213  * @ltab_offs: offset of LPT's own lprops table
1214  * @ltab: LPT's own lprops table
1215  * @ltab_cmt: LPT's own lprops table (commit copy)
1216  * @lsave_cnt: number of LEB numbers in LPT's save table
1217  * @lsave_lnum: LEB number of LPT's save table
1218  * @lsave_offs: offset of LPT's save table
1219  * @lsave: LPT's save table
1220  * @lscan_lnum: LEB number of last LPT scan
1221  *
1222  * @rp_size: size of the reserved pool in bytes
1223  * @report_rp_size: size of the reserved pool reported to user-space
1224  * @rp_uid: reserved pool user ID
1225  * @rp_gid: reserved pool group ID
1226  *
1227  * @hash_tfm: the hash transformation used for hashing nodes
1228  * @hmac_tfm: the HMAC transformation for this filesystem
1229  * @hmac_desc_len: length of the HMAC used for authentication
1230  * @auth_key_name: the authentication key name
1231  * @auth_hash_name: the name of the hash algorithm used for authentication
1232  * @auth_hash_algo: the authentication hash used for this fs
1233  *
1234  * @empty: %1 if the UBI device is empty
1235  * @need_recovery: %1 if the file-system needs recovery
1236  * @replaying: %1 during journal replay
1237  * @mounting: %1 while mounting
1238  * @probing: %1 while attempting to mount if SB_SILENT mount flag is set
1239  * @remounting_rw: %1 while re-mounting from R/O mode to R/W mode
1240  * @replay_list: temporary list used during journal replay
1241  * @replay_buds: list of buds to replay
1242  * @cs_sqnum: sequence number of first node in the log (commit start node)
1243  * @unclean_leb_list: LEBs to recover when re-mounting R/O mounted FS to R/W
1244  *                    mode
1245  * @rcvrd_mst_node: recovered master node to write when re-mounting R/O mounted
1246  *                  FS to R/W mode
1247  * @size_tree: inode size information for recovery
1248  * @mount_opts: UBIFS-specific mount options
1249  *
1250  * @dbg: debugging-related information
1251  */
1252 struct ubifs_info {
1253         struct super_block *vfs_sb;
1254         struct ubifs_sb_node *sup_node;
1255
1256         ino_t highest_inum;
1257         unsigned long long max_sqnum;
1258         unsigned long long cmt_no;
1259         spinlock_t cnt_lock;
1260         int fmt_version;
1261         int ro_compat_version;
1262         unsigned char uuid[16];
1263
1264         int lhead_lnum;
1265         int lhead_offs;
1266         int ltail_lnum;
1267         struct mutex log_mutex;
1268         int min_log_bytes;
1269         long long cmt_bud_bytes;
1270
1271         struct rb_root buds;
1272         long long bud_bytes;
1273         spinlock_t buds_lock;
1274         int jhead_cnt;
1275         struct ubifs_jhead *jheads;
1276         long long max_bud_bytes;
1277         long long bg_bud_bytes;
1278         struct list_head old_buds;
1279         int max_bud_cnt;
1280
1281         struct rw_semaphore commit_sem;
1282         int cmt_state;
1283         spinlock_t cs_lock;
1284         wait_queue_head_t cmt_wq;
1285
1286         unsigned int big_lpt:1;
1287         unsigned int space_fixup:1;
1288         unsigned int double_hash:1;
1289         unsigned int encrypted:1;
1290         unsigned int no_chk_data_crc:1;
1291         unsigned int bulk_read:1;
1292         unsigned int default_compr:2;
1293         unsigned int rw_incompat:1;
1294         unsigned int assert_action:2;
1295         unsigned int authenticated:1;
1296
1297         struct mutex tnc_mutex;
1298         struct ubifs_zbranch zroot;
1299         struct ubifs_znode *cnext;
1300         struct ubifs_znode *enext;
1301         int *gap_lebs;
1302         void *cbuf;
1303         void *ileb_buf;
1304         int ileb_len;
1305         int ihead_lnum;
1306         int ihead_offs;
1307         int *ilebs;
1308         int ileb_cnt;
1309         int ileb_nxt;
1310         struct rb_root old_idx;
1311         int *bottom_up_buf;
1312
1313         struct ubifs_mst_node *mst_node;
1314         int mst_offs;
1315
1316         int max_bu_buf_len;
1317         struct mutex bu_mutex;
1318         struct bu_info bu;
1319
1320         struct mutex write_reserve_mutex;
1321         void *write_reserve_buf;
1322
1323         int log_lebs;
1324         long long log_bytes;
1325         int log_last;
1326         int lpt_lebs;
1327         int lpt_first;
1328         int lpt_last;
1329         int orph_lebs;
1330         int orph_first;
1331         int orph_last;
1332         int main_lebs;
1333         int main_first;
1334         long long main_bytes;
1335
1336         uint8_t key_hash_type;
1337         uint32_t (*key_hash)(const char *str, int len);
1338         int key_fmt;
1339         int key_len;
1340         int hash_len;
1341         int fanout;
1342
1343         int min_io_size;
1344         int min_io_shift;
1345         int max_write_size;
1346         int max_write_shift;
1347         int leb_size;
1348         int leb_start;
1349         int half_leb_size;
1350         int idx_leb_size;
1351         int leb_cnt;
1352         int max_leb_cnt;
1353         int old_leb_cnt;
1354         unsigned int ro_media:1;
1355         unsigned int ro_mount:1;
1356         unsigned int ro_error:1;
1357
1358         atomic_long_t dirty_pg_cnt;
1359         atomic_long_t dirty_zn_cnt;
1360         atomic_long_t clean_zn_cnt;
1361
1362         spinlock_t space_lock;
1363         struct ubifs_lp_stats lst;
1364         struct ubifs_budg_info bi;
1365         unsigned long long calc_idx_sz;
1366
1367         int ref_node_alsz;
1368         int mst_node_alsz;
1369         int min_idx_node_sz;
1370         int max_idx_node_sz;
1371         long long max_inode_sz;
1372         int max_znode_sz;
1373
1374         int leb_overhead;
1375         int dead_wm;
1376         int dark_wm;
1377         int block_cnt;
1378
1379         struct ubifs_node_range ranges[UBIFS_NODE_TYPES_CNT];
1380         struct ubi_volume_desc *ubi;
1381         struct ubi_device_info di;
1382         struct ubi_volume_info vi;
1383
1384         struct rb_root orph_tree;
1385         struct list_head orph_list;
1386         struct list_head orph_new;
1387         struct ubifs_orphan *orph_cnext;
1388         struct ubifs_orphan *orph_dnext;
1389         spinlock_t orphan_lock;
1390         void *orph_buf;
1391         int new_orphans;
1392         int cmt_orphans;
1393         int tot_orphans;
1394         int max_orphans;
1395         int ohead_lnum;
1396         int ohead_offs;
1397         int no_orphs;
1398
1399         struct task_struct *bgt;
1400         char bgt_name[sizeof(BGT_NAME_PATTERN) + 9];
1401         int need_bgt;
1402         int need_wbuf_sync;
1403
1404         int gc_lnum;
1405         void *sbuf;
1406         struct list_head idx_gc;
1407         int idx_gc_cnt;
1408         int gc_seq;
1409         int gced_lnum;
1410
1411         struct list_head infos_list;
1412         struct mutex umount_mutex;
1413         unsigned int shrinker_run_no;
1414
1415         int space_bits;
1416         int lpt_lnum_bits;
1417         int lpt_offs_bits;
1418         int lpt_spc_bits;
1419         int pcnt_bits;
1420         int lnum_bits;
1421         int nnode_sz;
1422         int pnode_sz;
1423         int ltab_sz;
1424         int lsave_sz;
1425         int pnode_cnt;
1426         int nnode_cnt;
1427         int lpt_hght;
1428         int pnodes_have;
1429
1430         struct mutex lp_mutex;
1431         int lpt_lnum;
1432         int lpt_offs;
1433         int nhead_lnum;
1434         int nhead_offs;
1435         int lpt_drty_flgs;
1436         int dirty_nn_cnt;
1437         int dirty_pn_cnt;
1438         int check_lpt_free;
1439         long long lpt_sz;
1440         void *lpt_nod_buf;
1441         void *lpt_buf;
1442         struct ubifs_nnode *nroot;
1443         struct ubifs_cnode *lpt_cnext;
1444         struct ubifs_lpt_heap lpt_heap[LPROPS_HEAP_CNT];
1445         struct ubifs_lpt_heap dirty_idx;
1446         struct list_head uncat_list;
1447         struct list_head empty_list;
1448         struct list_head freeable_list;
1449         struct list_head frdi_idx_list;
1450         int freeable_cnt;
1451         int in_a_category_cnt;
1452
1453         int ltab_lnum;
1454         int ltab_offs;
1455         struct ubifs_lpt_lprops *ltab;
1456         struct ubifs_lpt_lprops *ltab_cmt;
1457         int lsave_cnt;
1458         int lsave_lnum;
1459         int lsave_offs;
1460         int *lsave;
1461         int lscan_lnum;
1462
1463         long long rp_size;
1464         long long report_rp_size;
1465         kuid_t rp_uid;
1466         kgid_t rp_gid;
1467
1468         struct crypto_shash *hash_tfm;
1469         struct crypto_shash *hmac_tfm;
1470         int hmac_desc_len;
1471         char *auth_key_name;
1472         char *auth_hash_name;
1473         enum hash_algo auth_hash_algo;
1474
1475         /* The below fields are used only during mounting and re-mounting */
1476         unsigned int empty:1;
1477         unsigned int need_recovery:1;
1478         unsigned int replaying:1;
1479         unsigned int mounting:1;
1480         unsigned int remounting_rw:1;
1481         unsigned int probing:1;
1482         struct list_head replay_list;
1483         struct list_head replay_buds;
1484         unsigned long long cs_sqnum;
1485         struct list_head unclean_leb_list;
1486         struct ubifs_mst_node *rcvrd_mst_node;
1487         struct rb_root size_tree;
1488         struct ubifs_mount_opts mount_opts;
1489
1490         struct ubifs_debug_info *dbg;
1491 };
1492
1493 extern struct list_head ubifs_infos;
1494 extern spinlock_t ubifs_infos_lock;
1495 extern atomic_long_t ubifs_clean_zn_cnt;
1496 extern const struct super_operations ubifs_super_operations;
1497 extern const struct address_space_operations ubifs_file_address_operations;
1498 extern const struct file_operations ubifs_file_operations;
1499 extern const struct inode_operations ubifs_file_inode_operations;
1500 extern const struct file_operations ubifs_dir_operations;
1501 extern const struct inode_operations ubifs_dir_inode_operations;
1502 extern const struct inode_operations ubifs_symlink_inode_operations;
1503 extern struct ubifs_compressor *ubifs_compressors[UBIFS_COMPR_TYPES_CNT];
1504
1505 /* auth.c */
1506 static inline int ubifs_authenticated(const struct ubifs_info *c)
1507 {
1508         return (IS_ENABLED(CONFIG_UBIFS_FS_AUTHENTICATION)) && c->authenticated;
1509 }
1510
1511 struct shash_desc *__ubifs_hash_get_desc(const struct ubifs_info *c);
1512 static inline struct shash_desc *ubifs_hash_get_desc(const struct ubifs_info *c)
1513 {
1514         return ubifs_authenticated(c) ? __ubifs_hash_get_desc(c) : NULL;
1515 }
1516
1517 static inline int ubifs_shash_init(const struct ubifs_info *c,
1518                                    struct shash_desc *desc)
1519 {
1520         if (ubifs_authenticated(c))
1521                 return crypto_shash_init(desc);
1522         else
1523                 return 0;
1524 }
1525
1526 static inline int ubifs_shash_update(const struct ubifs_info *c,
1527                                       struct shash_desc *desc, const void *buf,
1528                                       unsigned int len)
1529 {
1530         int err = 0;
1531
1532         if (ubifs_authenticated(c)) {
1533                 err = crypto_shash_update(desc, buf, len);
1534                 if (err < 0)
1535                         return err;
1536         }
1537
1538         return 0;
1539 }
1540
1541 static inline int ubifs_shash_final(const struct ubifs_info *c,
1542                                     struct shash_desc *desc, u8 *out)
1543 {
1544         return ubifs_authenticated(c) ? crypto_shash_final(desc, out) : 0;
1545 }
1546
1547 int __ubifs_node_calc_hash(const struct ubifs_info *c, const void *buf,
1548                           u8 *hash);
1549 static inline int ubifs_node_calc_hash(const struct ubifs_info *c,
1550                                         const void *buf, u8 *hash)
1551 {
1552         if (ubifs_authenticated(c))
1553                 return __ubifs_node_calc_hash(c, buf, hash);
1554         else
1555                 return 0;
1556 }
1557
1558 int ubifs_prepare_auth_node(struct ubifs_info *c, void *node,
1559                              struct shash_desc *inhash);
1560
1561 /**
1562  * ubifs_check_hash - compare two hashes
1563  * @c: UBIFS file-system description object
1564  * @expected: first hash
1565  * @got: second hash
1566  *
1567  * Compare two hashes @expected and @got. Returns 0 when they are equal, a
1568  * negative error code otherwise.
1569  */
1570 static inline int ubifs_check_hash(const struct ubifs_info *c,
1571                                    const u8 *expected, const u8 *got)
1572 {
1573         return crypto_memneq(expected, got, c->hash_len);
1574 }
1575
1576 /**
1577  * ubifs_check_hmac - compare two HMACs
1578  * @c: UBIFS file-system description object
1579  * @expected: first HMAC
1580  * @got: second HMAC
1581  *
1582  * Compare two hashes @expected and @got. Returns 0 when they are equal, a
1583  * negative error code otherwise.
1584  */
1585 static inline int ubifs_check_hmac(const struct ubifs_info *c,
1586                                    const u8 *expected, const u8 *got)
1587 {
1588         return crypto_memneq(expected, got, c->hmac_desc_len);
1589 }
1590
1591 void ubifs_bad_hash(const struct ubifs_info *c, const void *node,
1592                     const u8 *hash, int lnum, int offs);
1593
1594 int __ubifs_node_check_hash(const struct ubifs_info *c, const void *buf,
1595                           const u8 *expected);
1596 static inline int ubifs_node_check_hash(const struct ubifs_info *c,
1597                                         const void *buf, const u8 *expected)
1598 {
1599         if (ubifs_authenticated(c))
1600                 return __ubifs_node_check_hash(c, buf, expected);
1601         else
1602                 return 0;
1603 }
1604
1605 int ubifs_init_authentication(struct ubifs_info *c);
1606 void __ubifs_exit_authentication(struct ubifs_info *c);
1607 static inline void ubifs_exit_authentication(struct ubifs_info *c)
1608 {
1609         if (ubifs_authenticated(c))
1610                 __ubifs_exit_authentication(c);
1611 }
1612
1613 /**
1614  * ubifs_branch_hash - returns a pointer to the hash of a branch
1615  * @c: UBIFS file-system description object
1616  * @br: branch to get the hash from
1617  *
1618  * This returns a pointer to the hash of a branch. Since the key already is a
1619  * dynamically sized object we cannot use a struct member here.
1620  */
1621 static inline u8 *ubifs_branch_hash(struct ubifs_info *c,
1622                                     struct ubifs_branch *br)
1623 {
1624         return (void *)br + sizeof(*br) + c->key_len;
1625 }
1626
1627 /**
1628  * ubifs_copy_hash - copy a hash
1629  * @c: UBIFS file-system description object
1630  * @from: source hash
1631  * @to: destination hash
1632  *
1633  * With authentication this copies a hash, otherwise does nothing.
1634  */
1635 static inline void ubifs_copy_hash(const struct ubifs_info *c, const u8 *from,
1636                                    u8 *to)
1637 {
1638         if (ubifs_authenticated(c))
1639                 memcpy(to, from, c->hash_len);
1640 }
1641
1642 int __ubifs_node_insert_hmac(const struct ubifs_info *c, void *buf,
1643                               int len, int ofs_hmac);
1644 static inline int ubifs_node_insert_hmac(const struct ubifs_info *c, void *buf,
1645                                           int len, int ofs_hmac)
1646 {
1647         if (ubifs_authenticated(c))
1648                 return __ubifs_node_insert_hmac(c, buf, len, ofs_hmac);
1649         else
1650                 return 0;
1651 }
1652
1653 int __ubifs_node_verify_hmac(const struct ubifs_info *c, const void *buf,
1654                              int len, int ofs_hmac);
1655 static inline int ubifs_node_verify_hmac(const struct ubifs_info *c,
1656                                          const void *buf, int len, int ofs_hmac)
1657 {
1658         if (ubifs_authenticated(c))
1659                 return __ubifs_node_verify_hmac(c, buf, len, ofs_hmac);
1660         else
1661                 return 0;
1662 }
1663
1664 /**
1665  * ubifs_auth_node_sz - returns the size of an authentication node
1666  * @c: UBIFS file-system description object
1667  *
1668  * This function returns the size of an authentication node which can
1669  * be 0 for unauthenticated filesystems or the real size of an auth node
1670  * authentication is enabled.
1671  */
1672 static inline int ubifs_auth_node_sz(const struct ubifs_info *c)
1673 {
1674         if (ubifs_authenticated(c))
1675                 return sizeof(struct ubifs_auth_node) + c->hmac_desc_len;
1676         else
1677                 return 0;
1678 }
1679
1680 int ubifs_hmac_wkm(struct ubifs_info *c, u8 *hmac);
1681
1682 int __ubifs_shash_copy_state(const struct ubifs_info *c, struct shash_desc *src,
1683                              struct shash_desc *target);
1684 static inline int ubifs_shash_copy_state(const struct ubifs_info *c,
1685                                            struct shash_desc *src,
1686                                            struct shash_desc *target)
1687 {
1688         if (ubifs_authenticated(c))
1689                 return __ubifs_shash_copy_state(c, src, target);
1690         else
1691                 return 0;
1692 }
1693
1694 /* io.c */
1695 void ubifs_ro_mode(struct ubifs_info *c, int err);
1696 int ubifs_leb_read(const struct ubifs_info *c, int lnum, void *buf, int offs,
1697                    int len, int even_ebadmsg);
1698 int ubifs_leb_write(struct ubifs_info *c, int lnum, const void *buf, int offs,
1699                     int len);
1700 int ubifs_leb_change(struct ubifs_info *c, int lnum, const void *buf, int len);
1701 int ubifs_leb_unmap(struct ubifs_info *c, int lnum);
1702 int ubifs_leb_map(struct ubifs_info *c, int lnum);
1703 int ubifs_is_mapped(const struct ubifs_info *c, int lnum);
1704 int ubifs_wbuf_write_nolock(struct ubifs_wbuf *wbuf, void *buf, int len);
1705 int ubifs_wbuf_seek_nolock(struct ubifs_wbuf *wbuf, int lnum, int offs);
1706 int ubifs_wbuf_init(struct ubifs_info *c, struct ubifs_wbuf *wbuf);
1707 int ubifs_read_node(const struct ubifs_info *c, void *buf, int type, int len,
1708                     int lnum, int offs);
1709 int ubifs_read_node_wbuf(struct ubifs_wbuf *wbuf, void *buf, int type, int len,
1710                          int lnum, int offs);
1711 int ubifs_write_node(struct ubifs_info *c, void *node, int len, int lnum,
1712                      int offs);
1713 int ubifs_check_node(const struct ubifs_info *c, const void *buf, int lnum,
1714                      int offs, int quiet, int must_chk_crc);
1715 void ubifs_init_node(struct ubifs_info *c, void *buf, int len, int pad);
1716 void ubifs_crc_node(struct ubifs_info *c, void *buf, int len);
1717 void ubifs_prepare_node(struct ubifs_info *c, void *buf, int len, int pad);
1718 void ubifs_prep_grp_node(struct ubifs_info *c, void *node, int len, int last);
1719 int ubifs_io_init(struct ubifs_info *c);
1720 void ubifs_pad(const struct ubifs_info *c, void *buf, int pad);
1721 int ubifs_wbuf_sync_nolock(struct ubifs_wbuf *wbuf);
1722 int ubifs_bg_wbufs_sync(struct ubifs_info *c);
1723 void ubifs_wbuf_add_ino_nolock(struct ubifs_wbuf *wbuf, ino_t inum);
1724 int ubifs_sync_wbufs_by_inode(struct ubifs_info *c, struct inode *inode);
1725
1726 /* scan.c */
1727 struct ubifs_scan_leb *ubifs_scan(const struct ubifs_info *c, int lnum,
1728                                   int offs, void *sbuf, int quiet);
1729 void ubifs_scan_destroy(struct ubifs_scan_leb *sleb);
1730 int ubifs_scan_a_node(const struct ubifs_info *c, void *buf, int len, int lnum,
1731                       int offs, int quiet);
1732 struct ubifs_scan_leb *ubifs_start_scan(const struct ubifs_info *c, int lnum,
1733                                         int offs, void *sbuf);
1734 void ubifs_end_scan(const struct ubifs_info *c, struct ubifs_scan_leb *sleb,
1735                     int lnum, int offs);
1736 int ubifs_add_snod(const struct ubifs_info *c, struct ubifs_scan_leb *sleb,
1737                    void *buf, int offs);
1738 void ubifs_scanned_corruption(const struct ubifs_info *c, int lnum, int offs,
1739                               void *buf);
1740
1741 /* log.c */
1742 void ubifs_add_bud(struct ubifs_info *c, struct ubifs_bud *bud);
1743 void ubifs_create_buds_lists(struct ubifs_info *c);
1744 int ubifs_add_bud_to_log(struct ubifs_info *c, int jhead, int lnum, int offs);
1745 struct ubifs_bud *ubifs_search_bud(struct ubifs_info *c, int lnum);
1746 struct ubifs_wbuf *ubifs_get_wbuf(struct ubifs_info *c, int lnum);
1747 int ubifs_log_start_commit(struct ubifs_info *c, int *ltail_lnum);
1748 int ubifs_log_end_commit(struct ubifs_info *c, int new_ltail_lnum);
1749 int ubifs_log_post_commit(struct ubifs_info *c, int old_ltail_lnum);
1750 int ubifs_consolidate_log(struct ubifs_info *c);
1751
1752 /* journal.c */
1753 int ubifs_jnl_update(struct ubifs_info *c, const struct inode *dir,
1754                      const struct fscrypt_name *nm, const struct inode *inode,
1755                      int deletion, int xent);
1756 int ubifs_jnl_write_data(struct ubifs_info *c, const struct inode *inode,
1757                          const union ubifs_key *key, const void *buf, int len);
1758 int ubifs_jnl_write_inode(struct ubifs_info *c, const struct inode *inode);
1759 int ubifs_jnl_delete_inode(struct ubifs_info *c, const struct inode *inode);
1760 int ubifs_jnl_xrename(struct ubifs_info *c, const struct inode *fst_dir,
1761                       const struct inode *fst_inode,
1762                       const struct fscrypt_name *fst_nm,
1763                       const struct inode *snd_dir,
1764                       const struct inode *snd_inode,
1765                       const struct fscrypt_name *snd_nm, int sync);
1766 int ubifs_jnl_rename(struct ubifs_info *c, const struct inode *old_dir,
1767                      const struct inode *old_inode,
1768                      const struct fscrypt_name *old_nm,
1769                      const struct inode *new_dir,
1770                      const struct inode *new_inode,
1771                      const struct fscrypt_name *new_nm,
1772                      const struct inode *whiteout, int sync);
1773 int ubifs_jnl_truncate(struct ubifs_info *c, const struct inode *inode,
1774                        loff_t old_size, loff_t new_size);
1775 int ubifs_jnl_delete_xattr(struct ubifs_info *c, const struct inode *host,
1776                            const struct inode *inode, const struct fscrypt_name *nm);
1777 int ubifs_jnl_change_xattr(struct ubifs_info *c, const struct inode *inode1,
1778                            const struct inode *inode2);
1779
1780 /* budget.c */
1781 int ubifs_budget_space(struct ubifs_info *c, struct ubifs_budget_req *req);
1782 void ubifs_release_budget(struct ubifs_info *c, struct ubifs_budget_req *req);
1783 void ubifs_release_dirty_inode_budget(struct ubifs_info *c,
1784                                       struct ubifs_inode *ui);
1785 int ubifs_budget_inode_op(struct ubifs_info *c, struct inode *inode,
1786                           struct ubifs_budget_req *req);
1787 void ubifs_release_ino_dirty(struct ubifs_info *c, struct inode *inode,
1788                                 struct ubifs_budget_req *req);
1789 void ubifs_cancel_ino_op(struct ubifs_info *c, struct inode *inode,
1790                          struct ubifs_budget_req *req);
1791 long long ubifs_get_free_space(struct ubifs_info *c);
1792 long long ubifs_get_free_space_nolock(struct ubifs_info *c);
1793 int ubifs_calc_min_idx_lebs(struct ubifs_info *c);
1794 void ubifs_convert_page_budget(struct ubifs_info *c);
1795 long long ubifs_reported_space(const struct ubifs_info *c, long long free);
1796 long long ubifs_calc_available(const struct ubifs_info *c, int min_idx_lebs);
1797
1798 /* find.c */
1799 int ubifs_find_free_space(struct ubifs_info *c, int min_space, int *offs,
1800                           int squeeze);
1801 int ubifs_find_free_leb_for_idx(struct ubifs_info *c);
1802 int ubifs_find_dirty_leb(struct ubifs_info *c, struct ubifs_lprops *ret_lp,
1803                          int min_space, int pick_free);
1804 int ubifs_find_dirty_idx_leb(struct ubifs_info *c);
1805 int ubifs_save_dirty_idx_lnums(struct ubifs_info *c);
1806
1807 /* tnc.c */
1808 int ubifs_lookup_level0(struct ubifs_info *c, const union ubifs_key *key,
1809                         struct ubifs_znode **zn, int *n);
1810 int ubifs_tnc_lookup_nm(struct ubifs_info *c, const union ubifs_key *key,
1811                         void *node, const struct fscrypt_name *nm);
1812 int ubifs_tnc_lookup_dh(struct ubifs_info *c, const union ubifs_key *key,
1813                         void *node, uint32_t secondary_hash);
1814 int ubifs_tnc_locate(struct ubifs_info *c, const union ubifs_key *key,
1815                      void *node, int *lnum, int *offs);
1816 int ubifs_tnc_add(struct ubifs_info *c, const union ubifs_key *key, int lnum,
1817                   int offs, int len);
1818 int ubifs_tnc_replace(struct ubifs_info *c, const union ubifs_key *key,
1819                       int old_lnum, int old_offs, int lnum, int offs, int len);
1820 int ubifs_tnc_add_nm(struct ubifs_info *c, const union ubifs_key *key,
1821                      int lnum, int offs, int len, const struct fscrypt_name *nm);
1822 int ubifs_tnc_remove(struct ubifs_info *c, const union ubifs_key *key);
1823 int ubifs_tnc_remove_nm(struct ubifs_info *c, const union ubifs_key *key,
1824                         const struct fscrypt_name *nm);
1825 int ubifs_tnc_remove_dh(struct ubifs_info *c, const union ubifs_key *key,
1826                         uint32_t cookie);
1827 int ubifs_tnc_remove_range(struct ubifs_info *c, union ubifs_key *from_key,
1828                            union ubifs_key *to_key);
1829 int ubifs_tnc_remove_ino(struct ubifs_info *c, ino_t inum);
1830 struct ubifs_dent_node *ubifs_tnc_next_ent(struct ubifs_info *c,
1831                                            union ubifs_key *key,
1832                                            const struct fscrypt_name *nm);
1833 void ubifs_tnc_close(struct ubifs_info *c);
1834 int ubifs_tnc_has_node(struct ubifs_info *c, union ubifs_key *key, int level,
1835                        int lnum, int offs, int is_idx);
1836 int ubifs_dirty_idx_node(struct ubifs_info *c, union ubifs_key *key, int level,
1837                          int lnum, int offs);
1838 /* Shared by tnc.c for tnc_commit.c */
1839 void destroy_old_idx(struct ubifs_info *c);
1840 int is_idx_node_in_tnc(struct ubifs_info *c, union ubifs_key *key, int level,
1841                        int lnum, int offs);
1842 int insert_old_idx_znode(struct ubifs_info *c, struct ubifs_znode *znode);
1843 int ubifs_tnc_get_bu_keys(struct ubifs_info *c, struct bu_info *bu);
1844 int ubifs_tnc_bulk_read(struct ubifs_info *c, struct bu_info *bu);
1845
1846 /* tnc_misc.c */
1847 struct ubifs_znode *ubifs_tnc_levelorder_next(const struct ubifs_info *c,
1848                                               struct ubifs_znode *zr,
1849                                               struct ubifs_znode *znode);
1850 int ubifs_search_zbranch(const struct ubifs_info *c,
1851                          const struct ubifs_znode *znode,
1852                          const union ubifs_key *key, int *n);
1853 struct ubifs_znode *ubifs_tnc_postorder_first(struct ubifs_znode *znode);
1854 struct ubifs_znode *ubifs_tnc_postorder_next(const struct ubifs_info *c,
1855                                              struct ubifs_znode *znode);
1856 long ubifs_destroy_tnc_subtree(const struct ubifs_info *c,
1857                                struct ubifs_znode *zr);
1858 struct ubifs_znode *ubifs_load_znode(struct ubifs_info *c,
1859                                      struct ubifs_zbranch *zbr,
1860                                      struct ubifs_znode *parent, int iip);
1861 int ubifs_tnc_read_node(struct ubifs_info *c, struct ubifs_zbranch *zbr,
1862                         void *node);
1863
1864 /* tnc_commit.c */
1865 int ubifs_tnc_start_commit(struct ubifs_info *c, struct ubifs_zbranch *zroot);
1866 int ubifs_tnc_end_commit(struct ubifs_info *c);
1867
1868 /* shrinker.c */
1869 unsigned long ubifs_shrink_scan(struct shrinker *shrink,
1870                                 struct shrink_control *sc);
1871 unsigned long ubifs_shrink_count(struct shrinker *shrink,
1872                                  struct shrink_control *sc);
1873
1874 /* commit.c */
1875 int ubifs_bg_thread(void *info);
1876 void ubifs_commit_required(struct ubifs_info *c);
1877 void ubifs_request_bg_commit(struct ubifs_info *c);
1878 int ubifs_run_commit(struct ubifs_info *c);
1879 void ubifs_recovery_commit(struct ubifs_info *c);
1880 int ubifs_gc_should_commit(struct ubifs_info *c);
1881 void ubifs_wait_for_commit(struct ubifs_info *c);
1882
1883 /* master.c */
1884 int ubifs_read_master(struct ubifs_info *c);
1885 int ubifs_write_master(struct ubifs_info *c);
1886
1887 /* sb.c */
1888 int ubifs_read_superblock(struct ubifs_info *c);
1889 int ubifs_write_sb_node(struct ubifs_info *c, struct ubifs_sb_node *sup);
1890 int ubifs_fixup_free_space(struct ubifs_info *c);
1891 int ubifs_enable_encryption(struct ubifs_info *c);
1892
1893 /* replay.c */
1894 int ubifs_validate_entry(struct ubifs_info *c,
1895                          const struct ubifs_dent_node *dent);
1896 int ubifs_replay_journal(struct ubifs_info *c);
1897
1898 /* gc.c */
1899 int ubifs_garbage_collect(struct ubifs_info *c, int anyway);
1900 int ubifs_gc_start_commit(struct ubifs_info *c);
1901 int ubifs_gc_end_commit(struct ubifs_info *c);
1902 void ubifs_destroy_idx_gc(struct ubifs_info *c);
1903 int ubifs_get_idx_gc_leb(struct ubifs_info *c);
1904 int ubifs_garbage_collect_leb(struct ubifs_info *c, struct ubifs_lprops *lp);
1905
1906 /* orphan.c */
1907 int ubifs_add_orphan(struct ubifs_info *c, ino_t inum);
1908 void ubifs_delete_orphan(struct ubifs_info *c, ino_t inum);
1909 int ubifs_orphan_start_commit(struct ubifs_info *c);
1910 int ubifs_orphan_end_commit(struct ubifs_info *c);
1911 int ubifs_mount_orphans(struct ubifs_info *c, int unclean, int read_only);
1912 int ubifs_clear_orphans(struct ubifs_info *c);
1913
1914 /* lpt.c */
1915 int ubifs_calc_lpt_geom(struct ubifs_info *c);
1916 int ubifs_create_dflt_lpt(struct ubifs_info *c, int *main_lebs, int lpt_first,
1917                           int *lpt_lebs, int *big_lpt);
1918 int ubifs_lpt_init(struct ubifs_info *c, int rd, int wr);
1919 struct ubifs_lprops *ubifs_lpt_lookup(struct ubifs_info *c, int lnum);
1920 struct ubifs_lprops *ubifs_lpt_lookup_dirty(struct ubifs_info *c, int lnum);
1921 int ubifs_lpt_scan_nolock(struct ubifs_info *c, int start_lnum, int end_lnum,
1922                           ubifs_lpt_scan_callback scan_cb, void *data);
1923
1924 /* Shared by lpt.c for lpt_commit.c */
1925 void ubifs_pack_lsave(struct ubifs_info *c, void *buf, int *lsave);
1926 void ubifs_pack_ltab(struct ubifs_info *c, void *buf,
1927                      struct ubifs_lpt_lprops *ltab);
1928 void ubifs_pack_pnode(struct ubifs_info *c, void *buf,
1929                       struct ubifs_pnode *pnode);
1930 void ubifs_pack_nnode(struct ubifs_info *c, void *buf,
1931                       struct ubifs_nnode *nnode);
1932 struct ubifs_pnode *ubifs_get_pnode(struct ubifs_info *c,
1933                                     struct ubifs_nnode *parent, int iip);
1934 struct ubifs_nnode *ubifs_get_nnode(struct ubifs_info *c,
1935                                     struct ubifs_nnode *parent, int iip);
1936 struct ubifs_pnode *ubifs_pnode_lookup(struct ubifs_info *c, int i);
1937 int ubifs_read_nnode(struct ubifs_info *c, struct ubifs_nnode *parent, int iip);
1938 void ubifs_add_lpt_dirt(struct ubifs_info *c, int lnum, int dirty);
1939 void ubifs_add_nnode_dirt(struct ubifs_info *c, struct ubifs_nnode *nnode);
1940 uint32_t ubifs_unpack_bits(const struct ubifs_info *c, uint8_t **addr, int *pos, int nrbits);
1941 struct ubifs_nnode *ubifs_first_nnode(struct ubifs_info *c, int *hght);
1942 /* Needed only in debugging code in lpt_commit.c */
1943 int ubifs_unpack_nnode(const struct ubifs_info *c, void *buf,
1944                        struct ubifs_nnode *nnode);
1945
1946 /* lpt_commit.c */
1947 int ubifs_lpt_start_commit(struct ubifs_info *c);
1948 int ubifs_lpt_end_commit(struct ubifs_info *c);
1949 int ubifs_lpt_post_commit(struct ubifs_info *c);
1950 void ubifs_lpt_free(struct ubifs_info *c, int wr_only);
1951
1952 /* lprops.c */
1953 const struct ubifs_lprops *ubifs_change_lp(struct ubifs_info *c,
1954                                            const struct ubifs_lprops *lp,
1955                                            int free, int dirty, int flags,
1956                                            int idx_gc_cnt);
1957 void ubifs_get_lp_stats(struct ubifs_info *c, struct ubifs_lp_stats *lst);
1958 void ubifs_add_to_cat(struct ubifs_info *c, struct ubifs_lprops *lprops,
1959                       int cat);
1960 void ubifs_replace_cat(struct ubifs_info *c, struct ubifs_lprops *old_lprops,
1961                        struct ubifs_lprops *new_lprops);
1962 void ubifs_ensure_cat(struct ubifs_info *c, struct ubifs_lprops *lprops);
1963 int ubifs_categorize_lprops(const struct ubifs_info *c,
1964                             const struct ubifs_lprops *lprops);
1965 int ubifs_change_one_lp(struct ubifs_info *c, int lnum, int free, int dirty,
1966                         int flags_set, int flags_clean, int idx_gc_cnt);
1967 int ubifs_update_one_lp(struct ubifs_info *c, int lnum, int free, int dirty,
1968                         int flags_set, int flags_clean);
1969 int ubifs_read_one_lp(struct ubifs_info *c, int lnum, struct ubifs_lprops *lp);
1970 const struct ubifs_lprops *ubifs_fast_find_free(struct ubifs_info *c);
1971 const struct ubifs_lprops *ubifs_fast_find_empty(struct ubifs_info *c);
1972 const struct ubifs_lprops *ubifs_fast_find_freeable(struct ubifs_info *c);
1973 const struct ubifs_lprops *ubifs_fast_find_frdi_idx(struct ubifs_info *c);
1974 int ubifs_calc_dark(const struct ubifs_info *c, int spc);
1975
1976 /* file.c */
1977 int ubifs_fsync(struct file *file, loff_t start, loff_t end, int datasync);
1978 int ubifs_setattr(struct dentry *dentry, struct iattr *attr);
1979 #ifdef CONFIG_UBIFS_ATIME_SUPPORT
1980 int ubifs_update_time(struct inode *inode, struct timespec64 *time, int flags);
1981 #endif
1982
1983 /* dir.c */
1984 struct inode *ubifs_new_inode(struct ubifs_info *c, struct inode *dir,
1985                               umode_t mode);
1986 int ubifs_getattr(const struct path *path, struct kstat *stat,
1987                   u32 request_mask, unsigned int flags);
1988 int ubifs_check_dir_empty(struct inode *dir);
1989
1990 /* xattr.c */
1991 extern const struct xattr_handler *ubifs_xattr_handlers[];
1992 ssize_t ubifs_listxattr(struct dentry *dentry, char *buffer, size_t size);
1993 int ubifs_xattr_set(struct inode *host, const char *name, const void *value,
1994                     size_t size, int flags, bool check_lock);
1995 ssize_t ubifs_xattr_get(struct inode *host, const char *name, void *buf,
1996                         size_t size);
1997
1998 #ifdef CONFIG_UBIFS_FS_XATTR
1999 void ubifs_evict_xattr_inode(struct ubifs_info *c, ino_t xattr_inum);
2000 #else
2001 static inline void ubifs_evict_xattr_inode(struct ubifs_info *c,
2002                                            ino_t xattr_inum) { }
2003 #endif
2004
2005 #ifdef CONFIG_UBIFS_FS_SECURITY
2006 extern int ubifs_init_security(struct inode *dentry, struct inode *inode,
2007                         const struct qstr *qstr);
2008 #else
2009 static inline int ubifs_init_security(struct inode *dentry,
2010                         struct inode *inode, const struct qstr *qstr)
2011 {
2012         return 0;
2013 }
2014 #endif
2015
2016
2017 /* super.c */
2018 struct inode *ubifs_iget(struct super_block *sb, unsigned long inum);
2019
2020 /* recovery.c */
2021 int ubifs_recover_master_node(struct ubifs_info *c);
2022 int ubifs_write_rcvrd_mst_node(struct ubifs_info *c);
2023 struct ubifs_scan_leb *ubifs_recover_leb(struct ubifs_info *c, int lnum,
2024                                          int offs, void *sbuf, int jhead);
2025 struct ubifs_scan_leb *ubifs_recover_log_leb(struct ubifs_info *c, int lnum,
2026                                              int offs, void *sbuf);
2027 int ubifs_recover_inl_heads(struct ubifs_info *c, void *sbuf);
2028 int ubifs_clean_lebs(struct ubifs_info *c, void *sbuf);
2029 int ubifs_rcvry_gc_commit(struct ubifs_info *c);
2030 int ubifs_recover_size_accum(struct ubifs_info *c, union ubifs_key *key,
2031                              int deletion, loff_t new_size);
2032 int ubifs_recover_size(struct ubifs_info *c);
2033 void ubifs_destroy_size_tree(struct ubifs_info *c);
2034
2035 /* ioctl.c */
2036 long ubifs_ioctl(struct file *file, unsigned int cmd, unsigned long arg);
2037 void ubifs_set_inode_flags(struct inode *inode);
2038 #ifdef CONFIG_COMPAT
2039 long ubifs_compat_ioctl(struct file *file, unsigned int cmd, unsigned long arg);
2040 #endif
2041
2042 /* compressor.c */
2043 int __init ubifs_compressors_init(void);
2044 void ubifs_compressors_exit(void);
2045 void ubifs_compress(const struct ubifs_info *c, const void *in_buf, int in_len,
2046                     void *out_buf, int *out_len, int *compr_type);
2047 int ubifs_decompress(const struct ubifs_info *c, const void *buf, int len,
2048                      void *out, int *out_len, int compr_type);
2049
2050 #include "debug.h"
2051 #include "misc.h"
2052 #include "key.h"
2053
2054 #ifndef CONFIG_UBIFS_FS_ENCRYPTION
2055 static inline int ubifs_encrypt(const struct inode *inode,
2056                                 struct ubifs_data_node *dn,
2057                                 unsigned int in_len, unsigned int *out_len,
2058                                 int block)
2059 {
2060         struct ubifs_info *c = inode->i_sb->s_fs_info;
2061         ubifs_assert(c, 0);
2062         return -EOPNOTSUPP;
2063 }
2064 static inline int ubifs_decrypt(const struct inode *inode,
2065                                 struct ubifs_data_node *dn,
2066                                 unsigned int *out_len, int block)
2067 {
2068         struct ubifs_info *c = inode->i_sb->s_fs_info;
2069         ubifs_assert(c, 0);
2070         return -EOPNOTSUPP;
2071 }
2072 #else
2073 /* crypto.c */
2074 int ubifs_encrypt(const struct inode *inode, struct ubifs_data_node *dn,
2075                   unsigned int in_len, unsigned int *out_len, int block);
2076 int ubifs_decrypt(const struct inode *inode, struct ubifs_data_node *dn,
2077                   unsigned int *out_len, int block);
2078 #endif
2079
2080 extern const struct fscrypt_operations ubifs_crypt_operations;
2081
2082 static inline bool ubifs_crypt_is_encrypted(const struct inode *inode)
2083 {
2084         const struct ubifs_inode *ui = ubifs_inode(inode);
2085
2086         return ui->flags & UBIFS_CRYPT_FL;
2087 }
2088
2089 /* Normal UBIFS messages */
2090 __printf(2, 3)
2091 void ubifs_msg(const struct ubifs_info *c, const char *fmt, ...);
2092 __printf(2, 3)
2093 void ubifs_err(const struct ubifs_info *c, const char *fmt, ...);
2094 __printf(2, 3)
2095 void ubifs_warn(const struct ubifs_info *c, const char *fmt, ...);
2096 /*
2097  * A conditional variant of 'ubifs_err()' which doesn't output anything
2098  * if probing (ie. SB_SILENT set).
2099  */
2100 #define ubifs_errc(c, fmt, ...)                                         \
2101 do {                                                                    \
2102         if (!(c)->probing)                                              \
2103                 ubifs_err(c, fmt, ##__VA_ARGS__);                       \
2104 } while (0)
2105
2106 #endif /* !__UBIFS_H__ */