drivers/gpu/drm/nouveau/nvkm/engine/fifo/priv.h

   1 /* SPDX-License-Identifier: MIT */
   2 #ifndef __NVKM_FIFO_PRIV_H__
   3 #define __NVKM_FIFO_PRIV_H__
   4 #define nvkm_fifo(p) container_of((p), struct nvkm_fifo, engine)
   5 #include <engine/fifo.h>
   6 struct nvkm_cgrp;
   7 struct nvkm_memory;
   8 struct gk104_fifo;
   9 struct gk104_fifo_chan;
  10
  11 void nvkm_fifo_uevent(struct nvkm_fifo *);
  12 void nvkm_fifo_kevent(struct nvkm_fifo *, int chid);
  13 void nvkm_fifo_recover_chan(struct nvkm_fifo *, int chid);
  14
  15 struct nvkm_fifo_chan *
  16 nvkm_fifo_chan_inst_locked(struct nvkm_fifo *, u64 inst);
  17
  18 struct nvkm_fifo_chan_oclass;
  19 struct nvkm_fifo_func {
  20         void *(*dtor)(struct nvkm_fifo *);
  21
  22         int (*oneinit)(struct nvkm_fifo *);
  23         int (*chid_nr)(struct nvkm_fifo *);
  24         int (*chid_ctor)(struct nvkm_fifo *, int nr);
  25         int (*runq_nr)(struct nvkm_fifo *);
  26
  27         int (*info)(struct nvkm_fifo *, u64 mthd, u64 *data);
  28         void (*init)(struct nvkm_fifo *);
  29         void (*fini)(struct nvkm_fifo *);
  30
  31         void (*intr)(struct nvkm_fifo *);
  32         void (*intr_mmu_fault_unit)(struct nvkm_fifo *, int unit);
  33
  34         const struct nvkm_fifo_func_mmu_fault {
  35                 void (*recover)(struct nvkm_fifo *, struct nvkm_fault_data *);
  36         } *mmu_fault;
  37
  38         struct {
  39                 const struct nvkm_enum *access;
  40                 const struct nvkm_enum *engine;
  41                 const struct nvkm_enum *reason;
  42                 const struct nvkm_enum *hubclient;
  43                 const struct nvkm_enum *gpcclient;
  44         } fault;
  45
  46         int (*engine_id)(struct nvkm_fifo *, struct nvkm_engine *);
  47         struct nvkm_engine *(*id_engine)(struct nvkm_fifo *, int engi);
  48         void (*pause)(struct nvkm_fifo *, unsigned long *);
  49         void (*start)(struct nvkm_fifo *, unsigned long *);
  50         void (*uevent_init)(struct nvkm_fifo *);
  51         void (*uevent_fini)(struct nvkm_fifo *);
  52         void (*recover_chan)(struct nvkm_fifo *, int chid);
  53
  54         const struct gk104_fifo_runlist_func {
  55                 u8 size;
  56                 void (*cgrp)(struct nvkm_fifo_cgrp *,
  57                              struct nvkm_memory *, u32 offset);
  58                 void (*chan)(struct gk104_fifo_chan *,
  59                              struct nvkm_memory *, u32 offset);
  60                 void (*commit)(struct gk104_fifo *, int runl,
  61                                struct nvkm_memory *, int entries);
  62         } *runlist;
  63
  64         const struct gk104_fifo_pbdma_func {
  65                 void (*init)(struct gk104_fifo *);
  66                 void (*init_timeout)(struct gk104_fifo *);
  67         } *pbdma;
  68
  69         const struct nvkm_runq_func *runq;
  70
  71         struct nvkm_fifo_func_cgrp {
  72                 struct nvkm_sclass user;
  73                 const struct nvkm_cgrp_func *func;
  74                 bool force;
  75         } cgrp;
  76
  77         struct nvkm_fifo_func_chan {
  78                 struct nvkm_sclass user;
  79                 const struct nvkm_chan_func *func;
  80                 const struct nvkm_fifo_chan_oclass {
  81                         int (*ctor)(struct nvkm_fifo *, const struct nvkm_oclass *,
  82                         void *data, u32 size, struct nvkm_object **);
  83                 } *oclass;
  84                 int (*ctor)(struct gk104_fifo *, const struct nvkm_oclass *, void *, u32,
  85                             struct nvkm_object **);
  86         } chan;
  87 };
  88
  89 int nvkm_fifo_ctor(const struct nvkm_fifo_func *, struct nvkm_device *, enum nvkm_subdev_type, int,
  90                    struct nvkm_fifo *);
  91
  92 int nv04_fifo_chid_ctor(struct nvkm_fifo *, int);
  93 void nv04_fifo_init(struct nvkm_fifo *);
  94 void nv04_fifo_intr(struct nvkm_fifo *);
  95 int nv04_fifo_engine_id(struct nvkm_fifo *, struct nvkm_engine *);
  96 struct nvkm_engine *nv04_fifo_id_engine(struct nvkm_fifo *, int);
  97 void nv04_fifo_pause(struct nvkm_fifo *, unsigned long *);
  98 void nv04_fifo_start(struct nvkm_fifo *, unsigned long *);
  99 extern const struct nvkm_cgrp_func nv04_cgrp;
 100
 101 int nv10_fifo_chid_nr(struct nvkm_fifo *);
 102
 103 int nv50_fifo_chid_nr(struct nvkm_fifo *);
 104 int nv50_fifo_chid_ctor(struct nvkm_fifo *, int);
 105
 106 extern const struct nvkm_chan_func g84_chan;
 107
 108 int gf100_fifo_chid_ctor(struct nvkm_fifo *, int);
 109 int gf100_fifo_runq_nr(struct nvkm_fifo *);
 110 void gf100_fifo_intr_mmu_fault_unit(struct nvkm_fifo *, int);
 111
 112 int gk104_fifo_chid_nr(struct nvkm_fifo *);
 113 void gk104_fifo_intr(struct nvkm_fifo *);
 114 extern const struct nvkm_fifo_func_mmu_fault gk104_fifo_mmu_fault;
 115 void gk104_fifo_fault(struct nvkm_fifo *, struct nvkm_fault_data *);
 116 void gk104_fifo_recover_chan(struct nvkm_fifo *, int);
 117 int gk104_fifo_engine_id(struct nvkm_fifo *, struct nvkm_engine *);
 118 struct nvkm_engine *gk104_fifo_id_engine(struct nvkm_fifo *, int);
 119 extern const struct nvkm_runq_func gk104_runq;
 120
 121 int gk110_fifo_chid_ctor(struct nvkm_fifo *, int);
 122 extern const struct nvkm_cgrp_func gk110_cgrp;
 123 extern const struct nvkm_chan_func gk110_chan;
 124
 125 extern const struct nvkm_runq_func gk208_runq;
 126
 127 void gm107_fifo_intr_mmu_fault_unit(struct nvkm_fifo *, int);
 128 extern const struct nvkm_fifo_func_mmu_fault gm107_fifo_mmu_fault;
 129 extern const struct nvkm_chan_func gm107_chan;
 130
 131 int gm200_fifo_chid_nr(struct nvkm_fifo *);
 132 int gm200_fifo_runq_nr(struct nvkm_fifo *);
 133
 134 void gp100_fifo_intr_mmu_fault_unit(struct nvkm_fifo *, int);
 135
 136 extern const struct nvkm_runq_func gv100_runq;
 137
 138 extern const struct nvkm_fifo_func_mmu_fault tu102_fifo_mmu_fault;
 139
 140 int nvkm_uchan_new(struct nvkm_fifo *, struct nvkm_cgrp *, const struct nvkm_oclass *,
 141                    void *argv, u32 argc, struct nvkm_object **);
 142 #endif