drivers/net/can/at91_can.c

   1 // SPDX-License-Identifier: GPL-2.0-only
   2 /*
   3  * at91_can.c - CAN network driver for AT91 SoC CAN controller
   4  *
   5  * (C) 2007 by Hans J. Koch <hjk@hansjkoch.de>
   6  * (C) 2008, 2009, 2010, 2011 by Marc Kleine-Budde <kernel@pengutronix.de>
   7  */
   8
   9 #include <linux/clk.h>
  10 #include <linux/errno.h>
  11 #include <linux/if_arp.h>
  12 #include <linux/interrupt.h>
  13 #include <linux/kernel.h>
  14 #include <linux/module.h>
  15 #include <linux/netdevice.h>
  16 #include <linux/of.h>
  17 #include <linux/platform_device.h>
  18 #include <linux/rtnetlink.h>
  19 #include <linux/skbuff.h>
  20 #include <linux/spinlock.h>
  21 #include <linux/string.h>
  22 #include <linux/types.h>
  23
  24 #include <linux/can/dev.h>
  25 #include <linux/can/error.h>
  26 #include <linux/can/led.h>
  27
  28 #define AT91_MB_MASK(i)         ((1 << (i)) - 1)
  29
  30 /* Common registers */
  31 enum at91_reg {
  32         AT91_MR         = 0x000,
  33         AT91_IER        = 0x004,
  34         AT91_IDR        = 0x008,
  35         AT91_IMR        = 0x00C,
  36         AT91_SR         = 0x010,
  37         AT91_BR         = 0x014,
  38         AT91_TIM        = 0x018,
  39         AT91_TIMESTP    = 0x01C,
  40         AT91_ECR        = 0x020,
  41         AT91_TCR        = 0x024,
  42         AT91_ACR        = 0x028,
  43 };
  44
  45 /* Mailbox registers (0 <= i <= 15) */
  46 #define AT91_MMR(i)             ((enum at91_reg)(0x200 + ((i) * 0x20)))
  47 #define AT91_MAM(i)             ((enum at91_reg)(0x204 + ((i) * 0x20)))
  48 #define AT91_MID(i)             ((enum at91_reg)(0x208 + ((i) * 0x20)))
  49 #define AT91_MFID(i)            ((enum at91_reg)(0x20C + ((i) * 0x20)))
  50 #define AT91_MSR(i)             ((enum at91_reg)(0x210 + ((i) * 0x20)))
  51 #define AT91_MDL(i)             ((enum at91_reg)(0x214 + ((i) * 0x20)))
  52 #define AT91_MDH(i)             ((enum at91_reg)(0x218 + ((i) * 0x20)))
  53 #define AT91_MCR(i)             ((enum at91_reg)(0x21C + ((i) * 0x20)))
  54
  55 /* Register bits */
  56 #define AT91_MR_CANEN           BIT(0)
  57 #define AT91_MR_LPM             BIT(1)
  58 #define AT91_MR_ABM             BIT(2)
  59 #define AT91_MR_OVL             BIT(3)
  60 #define AT91_MR_TEOF            BIT(4)
  61 #define AT91_MR_TTM             BIT(5)
  62 #define AT91_MR_TIMFRZ          BIT(6)
  63 #define AT91_MR_DRPT            BIT(7)
  64
  65 #define AT91_SR_RBSY            BIT(29)
  66
  67 #define AT91_MMR_PRIO_SHIFT     (16)
  68
  69 #define AT91_MID_MIDE           BIT(29)
  70
  71 #define AT91_MSR_MRTR           BIT(20)
  72 #define AT91_MSR_MABT           BIT(22)
  73 #define AT91_MSR_MRDY           BIT(23)
  74 #define AT91_MSR_MMI            BIT(24)
  75
  76 #define AT91_MCR_MRTR           BIT(20)
  77 #define AT91_MCR_MTCR           BIT(23)
  78
  79 /* Mailbox Modes */
  80 enum at91_mb_mode {
  81         AT91_MB_MODE_DISABLED   = 0,
  82         AT91_MB_MODE_RX         = 1,
  83         AT91_MB_MODE_RX_OVRWR   = 2,
  84         AT91_MB_MODE_TX         = 3,
  85         AT91_MB_MODE_CONSUMER   = 4,
  86         AT91_MB_MODE_PRODUCER   = 5,
  87 };
  88
  89 /* Interrupt mask bits */
  90 #define AT91_IRQ_ERRA           (1 << 16)
  91 #define AT91_IRQ_WARN           (1 << 17)
  92 #define AT91_IRQ_ERRP           (1 << 18)
  93 #define AT91_IRQ_BOFF           (1 << 19)
  94 #define AT91_IRQ_SLEEP          (1 << 20)
  95 #define AT91_IRQ_WAKEUP         (1 << 21)
  96 #define AT91_IRQ_TOVF           (1 << 22)
  97 #define AT91_IRQ_TSTP           (1 << 23)
  98 #define AT91_IRQ_CERR           (1 << 24)
  99 #define AT91_IRQ_SERR           (1 << 25)
 100 #define AT91_IRQ_AERR           (1 << 26)
 101 #define AT91_IRQ_FERR           (1 << 27)
 102 #define AT91_IRQ_BERR           (1 << 28)
 103
 104 #define AT91_IRQ_ERR_ALL        (0x1fff0000)
 105 #define AT91_IRQ_ERR_FRAME      (AT91_IRQ_CERR | AT91_IRQ_SERR | \
 106                                  AT91_IRQ_AERR | AT91_IRQ_FERR | AT91_IRQ_BERR)
 107 #define AT91_IRQ_ERR_LINE       (AT91_IRQ_ERRA | AT91_IRQ_WARN | \
 108                                  AT91_IRQ_ERRP | AT91_IRQ_BOFF)
 109
 110 #define AT91_IRQ_ALL            (0x1fffffff)
 111
 112 enum at91_devtype {
 113         AT91_DEVTYPE_SAM9263,
 114         AT91_DEVTYPE_SAM9X5,
 115 };
 116
 117 struct at91_devtype_data {
 118         unsigned int rx_first;
 119         unsigned int rx_split;
 120         unsigned int rx_last;
 121         unsigned int tx_shift;
 122         enum at91_devtype type;
 123 };
 124
 125 struct at91_priv {
 126         struct can_priv can;            /* must be the first member! */
 127         struct napi_struct napi;
 128
 129         void __iomem *reg_base;
 130
 131         u32 reg_sr;
 132         unsigned int tx_next;
 133         unsigned int tx_echo;
 134         unsigned int rx_next;
 135         struct at91_devtype_data devtype_data;
 136
 137         struct clk *clk;
 138         struct at91_can_data *pdata;
 139
 140         canid_t mb0_id;
 141 };
 142
 143 static const struct at91_devtype_data at91_at91sam9263_data = {
 144         .rx_first = 1,
 145         .rx_split = 8,
 146         .rx_last = 11,
 147         .tx_shift = 2,
 148         .type = AT91_DEVTYPE_SAM9263,
 149 };
 150
 151 static const struct at91_devtype_data at91_at91sam9x5_data = {
 152         .rx_first = 0,
 153         .rx_split = 4,
 154         .rx_last = 5,
 155         .tx_shift = 1,
 156         .type = AT91_DEVTYPE_SAM9X5,
 157 };
 158
 159 static const struct can_bittiming_const at91_bittiming_const = {
 160         .name           = KBUILD_MODNAME,
 161         .tseg1_min      = 4,
 162         .tseg1_max      = 16,
 163         .tseg2_min      = 2,
 164         .tseg2_max      = 8,
 165         .sjw_max        = 4,
 166         .brp_min        = 2,
 167         .brp_max        = 128,
 168         .brp_inc        = 1,
 169 };
 170
 171 #define AT91_IS(_model) \
 172 static inline int __maybe_unused at91_is_sam##_model(const struct at91_priv *priv) \
 173 { \
 174         return priv->devtype_data.type == AT91_DEVTYPE_SAM##_model; \
 175 }
 176
 177 AT91_IS(9263);
 178 AT91_IS(9X5);
 179
 180 static inline unsigned int get_mb_rx_first(const struct at91_priv *priv)
 181 {
 182         return priv->devtype_data.rx_first;
 183 }
 184
 185 static inline unsigned int get_mb_rx_last(const struct at91_priv *priv)
 186 {
 187         return priv->devtype_data.rx_last;
 188 }
 189
 190 static inline unsigned int get_mb_rx_split(const struct at91_priv *priv)
 191 {
 192         return priv->devtype_data.rx_split;
 193 }
 194
 195 static inline unsigned int get_mb_rx_num(const struct at91_priv *priv)
 196 {
 197         return get_mb_rx_last(priv) - get_mb_rx_first(priv) + 1;
 198 }
 199
 200 static inline unsigned int get_mb_rx_low_last(const struct at91_priv *priv)
 201 {
 202         return get_mb_rx_split(priv) - 1;
 203 }
 204
 205 static inline unsigned int get_mb_rx_low_mask(const struct at91_priv *priv)
 206 {
 207         return AT91_MB_MASK(get_mb_rx_split(priv)) &
 208                 ~AT91_MB_MASK(get_mb_rx_first(priv));
 209 }
 210
 211 static inline unsigned int get_mb_tx_shift(const struct at91_priv *priv)
 212 {
 213         return priv->devtype_data.tx_shift;
 214 }
 215
 216 static inline unsigned int get_mb_tx_num(const struct at91_priv *priv)
 217 {
 218         return 1 << get_mb_tx_shift(priv);
 219 }
 220
 221 static inline unsigned int get_mb_tx_first(const struct at91_priv *priv)
 222 {
 223         return get_mb_rx_last(priv) + 1;
 224 }
 225
 226 static inline unsigned int get_mb_tx_last(const struct at91_priv *priv)
 227 {
 228         return get_mb_tx_first(priv) + get_mb_tx_num(priv) - 1;
 229 }
 230
 231 static inline unsigned int get_next_prio_shift(const struct at91_priv *priv)
 232 {
 233         return get_mb_tx_shift(priv);
 234 }
 235
 236 static inline unsigned int get_next_prio_mask(const struct at91_priv *priv)
 237 {
 238         return 0xf << get_mb_tx_shift(priv);
 239 }
 240
 241 static inline unsigned int get_next_mb_mask(const struct at91_priv *priv)
 242 {
 243         return AT91_MB_MASK(get_mb_tx_shift(priv));
 244 }
 245
 246 static inline unsigned int get_next_mask(const struct at91_priv *priv)
 247 {
 248         return get_next_mb_mask(priv) | get_next_prio_mask(priv);
 249 }
 250
 251 static inline unsigned int get_irq_mb_rx(const struct at91_priv *priv)
 252 {
 253         return AT91_MB_MASK(get_mb_rx_last(priv) + 1) &
 254                 ~AT91_MB_MASK(get_mb_rx_first(priv));
 255 }
 256
 257 static inline unsigned int get_irq_mb_tx(const struct at91_priv *priv)
 258 {
 259         return AT91_MB_MASK(get_mb_tx_last(priv) + 1) &
 260                 ~AT91_MB_MASK(get_mb_tx_first(priv));
 261 }
 262
 263 static inline unsigned int get_tx_next_mb(const struct at91_priv *priv)
 264 {
 265         return (priv->tx_next & get_next_mb_mask(priv)) + get_mb_tx_first(priv);
 266 }
 267
 268 static inline unsigned int get_tx_next_prio(const struct at91_priv *priv)
 269 {
 270         return (priv->tx_next >> get_next_prio_shift(priv)) & 0xf;
 271 }
 272
 273 static inline unsigned int get_tx_echo_mb(const struct at91_priv *priv)
 274 {
 275         return (priv->tx_echo & get_next_mb_mask(priv)) + get_mb_tx_first(priv);
 276 }
 277
 278 static inline u32 at91_read(const struct at91_priv *priv, enum at91_reg reg)
 279 {
 280         return readl_relaxed(priv->reg_base + reg);
 281 }
 282
 283 static inline void at91_write(const struct at91_priv *priv, enum at91_reg reg,
 284                 u32 value)
 285 {
 286         writel_relaxed(value, priv->reg_base + reg);
 287 }
 288
 289 static inline void set_mb_mode_prio(const struct at91_priv *priv,
 290                 unsigned int mb, enum at91_mb_mode mode, int prio)
 291 {
 292         at91_write(priv, AT91_MMR(mb), (mode << 24) | (prio << 16));
 293 }
 294
 295 static inline void set_mb_mode(const struct at91_priv *priv, unsigned int mb,
 296                 enum at91_mb_mode mode)
 297 {
 298         set_mb_mode_prio(priv, mb, mode, 0);
 299 }
 300
 301 static inline u32 at91_can_id_to_reg_mid(canid_t can_id)
 302 {
 303         u32 reg_mid;
 304
 305         if (can_id & CAN_EFF_FLAG)
 306                 reg_mid = (can_id & CAN_EFF_MASK) | AT91_MID_MIDE;
 307         else
 308                 reg_mid = (can_id & CAN_SFF_MASK) << 18;
 309
 310         return reg_mid;
 311 }
 312
 313 static void at91_setup_mailboxes(struct net_device *dev)
 314 {
 315         struct at91_priv *priv = netdev_priv(dev);
 316         unsigned int i;
 317         u32 reg_mid;
 318
 319         /*
 320          * Due to a chip bug (errata 50.2.6.3 & 50.3.5.3) the first
 321          * mailbox is disabled. The next 11 mailboxes are used as a
 322          * reception FIFO. The last mailbox is configured with
 323          * overwrite option. The overwrite flag indicates a FIFO
 324          * overflow.
 325          */
 326         reg_mid = at91_can_id_to_reg_mid(priv->mb0_id);
 327         for (i = 0; i < get_mb_rx_first(priv); i++) {
 328                 set_mb_mode(priv, i, AT91_MB_MODE_DISABLED);
 329                 at91_write(priv, AT91_MID(i), reg_mid);
 330                 at91_write(priv, AT91_MCR(i), 0x0);     /* clear dlc */
 331         }
 332
 333         for (i = get_mb_rx_first(priv); i < get_mb_rx_last(priv); i++)
 334                 set_mb_mode(priv, i, AT91_MB_MODE_RX);
 335         set_mb_mode(priv, get_mb_rx_last(priv), AT91_MB_MODE_RX_OVRWR);
 336
 337         /* reset acceptance mask and id register */
 338         for (i = get_mb_rx_first(priv); i <= get_mb_rx_last(priv); i++) {
 339                 at91_write(priv, AT91_MAM(i), 0x0);
 340                 at91_write(priv, AT91_MID(i), AT91_MID_MIDE);
 341         }
 342
 343         /* The last 4 mailboxes are used for transmitting. */
 344         for (i = get_mb_tx_first(priv); i <= get_mb_tx_last(priv); i++)
 345                 set_mb_mode_prio(priv, i, AT91_MB_MODE_TX, 0);
 346
 347         /* Reset tx and rx helper pointers */
 348         priv->tx_next = priv->tx_echo = 0;
 349         priv->rx_next = get_mb_rx_first(priv);
 350 }
 351
 352 static int at91_set_bittiming(struct net_device *dev)
 353 {
 354         const struct at91_priv *priv = netdev_priv(dev);
 355         const struct can_bittiming *bt = &priv->can.bittiming;
 356         u32 reg_br;
 357
 358         reg_br = ((priv->can.ctrlmode & CAN_CTRLMODE_3_SAMPLES) ? 1 << 24 : 0) |
 359                 ((bt->brp - 1) << 16) | ((bt->sjw - 1) << 12) |
 360                 ((bt->prop_seg - 1) << 8) | ((bt->phase_seg1 - 1) << 4) |
 361                 ((bt->phase_seg2 - 1) << 0);
 362
 363         netdev_info(dev, "writing AT91_BR: 0x%08x\n", reg_br);
 364
 365         at91_write(priv, AT91_BR, reg_br);
 366
 367         return 0;
 368 }
 369
 370 static int at91_get_berr_counter(const struct net_device *dev,
 371                 struct can_berr_counter *bec)
 372 {
 373         const struct at91_priv *priv = netdev_priv(dev);
 374         u32 reg_ecr = at91_read(priv, AT91_ECR);
 375
 376         bec->rxerr = reg_ecr & 0xff;
 377         bec->txerr = reg_ecr >> 16;
 378
 379         return 0;
 380 }
 381
 382 static void at91_chip_start(struct net_device *dev)
 383 {
 384         struct at91_priv *priv = netdev_priv(dev);
 385         u32 reg_mr, reg_ier;
 386
 387         /* disable interrupts */
 388         at91_write(priv, AT91_IDR, AT91_IRQ_ALL);
 389
 390         /* disable chip */
 391         reg_mr = at91_read(priv, AT91_MR);
 392         at91_write(priv, AT91_MR, reg_mr & ~AT91_MR_CANEN);
 393
 394         at91_set_bittiming(dev);
 395         at91_setup_mailboxes(dev);
 396
 397         /* enable chip */
 398         if (priv->can.ctrlmode & CAN_CTRLMODE_LISTENONLY)
 399                 reg_mr = AT91_MR_CANEN | AT91_MR_ABM;
 400         else
 401                 reg_mr = AT91_MR_CANEN;
 402         at91_write(priv, AT91_MR, reg_mr);
 403
 404         priv->can.state = CAN_STATE_ERROR_ACTIVE;
 405
 406         /* Enable interrupts */
 407         reg_ier = get_irq_mb_rx(priv) | AT91_IRQ_ERRP | AT91_IRQ_ERR_FRAME;
 408         at91_write(priv, AT91_IDR, AT91_IRQ_ALL);
 409         at91_write(priv, AT91_IER, reg_ier);
 410 }
 411
 412 static void at91_chip_stop(struct net_device *dev, enum can_state state)
 413 {
 414         struct at91_priv *priv = netdev_priv(dev);
 415         u32 reg_mr;
 416
 417         /* disable interrupts */
 418         at91_write(priv, AT91_IDR, AT91_IRQ_ALL);
 419
 420         reg_mr = at91_read(priv, AT91_MR);
 421         at91_write(priv, AT91_MR, reg_mr & ~AT91_MR_CANEN);
 422
 423         priv->can.state = state;
 424 }
 425
 426 /*
 427  * theory of operation:
 428  *
 429  * According to the datasheet priority 0 is the highest priority, 15
 430  * is the lowest. If two mailboxes have the same priority level the
 431  * message of the mailbox with the lowest number is sent first.
 432  *
 433  * We use the first TX mailbox (AT91_MB_TX_FIRST) with prio 0, then
 434  * the next mailbox with prio 0, and so on, until all mailboxes are
 435  * used. Then we start from the beginning with mailbox
 436  * AT91_MB_TX_FIRST, but with prio 1, mailbox AT91_MB_TX_FIRST + 1
 437  * prio 1. When we reach the last mailbox with prio 15, we have to
 438  * stop sending, waiting for all messages to be delivered, then start
 439  * again with mailbox AT91_MB_TX_FIRST prio 0.
 440  *
 441  * We use the priv->tx_next as counter for the next transmission
 442  * mailbox, but without the offset AT91_MB_TX_FIRST. The lower bits
 443  * encode the mailbox number, the upper 4 bits the mailbox priority:
 444  *
 445  * priv->tx_next = (prio << get_next_prio_shift(priv)) |
 446  *                 (mb - get_mb_tx_first(priv));
 447  *
 448  */
 449 static netdev_tx_t at91_start_xmit(struct sk_buff *skb, struct net_device *dev)
 450 {
 451         struct at91_priv *priv = netdev_priv(dev);
 452         struct net_device_stats *stats = &dev->stats;
 453         struct can_frame *cf = (struct can_frame *)skb->data;
 454         unsigned int mb, prio;
 455         u32 reg_mid, reg_mcr;
 456
 457         if (can_dropped_invalid_skb(dev, skb))
 458                 return NETDEV_TX_OK;
 459
 460         mb = get_tx_next_mb(priv);
 461         prio = get_tx_next_prio(priv);
 462
 463         if (unlikely(!(at91_read(priv, AT91_MSR(mb)) & AT91_MSR_MRDY))) {
 464                 netif_stop_queue(dev);
 465
 466                 netdev_err(dev, "BUG! TX buffer full when queue awake!\n");
 467                 return NETDEV_TX_BUSY;
 468         }
 469         reg_mid = at91_can_id_to_reg_mid(cf->can_id);
 470         reg_mcr = ((cf->can_id & CAN_RTR_FLAG) ? AT91_MCR_MRTR : 0) |
 471                 (cf->len << 16) | AT91_MCR_MTCR;
 472
 473         /* disable MB while writing ID (see datasheet) */
 474         set_mb_mode(priv, mb, AT91_MB_MODE_DISABLED);
 475         at91_write(priv, AT91_MID(mb), reg_mid);
 476         set_mb_mode_prio(priv, mb, AT91_MB_MODE_TX, prio);
 477
 478         at91_write(priv, AT91_MDL(mb), *(u32 *)(cf->data + 0));
 479         at91_write(priv, AT91_MDH(mb), *(u32 *)(cf->data + 4));
 480
 481         /* This triggers transmission */
 482         at91_write(priv, AT91_MCR(mb), reg_mcr);
 483
 484         stats->tx_bytes += cf->len;
 485
 486         /* _NOTE_: subtract AT91_MB_TX_FIRST offset from mb! */
 487         can_put_echo_skb(skb, dev, mb - get_mb_tx_first(priv), 0);
 488
 489         /*
 490          * we have to stop the queue and deliver all messages in case
 491          * of a prio+mb counter wrap around. This is the case if
 492          * tx_next buffer prio and mailbox equals 0.
 493          *
 494          * also stop the queue if next buffer is still in use
 495          * (== not ready)
 496          */
 497         priv->tx_next++;
 498         if (!(at91_read(priv, AT91_MSR(get_tx_next_mb(priv))) &
 499               AT91_MSR_MRDY) ||
 500             (priv->tx_next & get_next_mask(priv)) == 0)
 501                 netif_stop_queue(dev);
 502
 503         /* Enable interrupt for this mailbox */
 504         at91_write(priv, AT91_IER, 1 << mb);
 505
 506         return NETDEV_TX_OK;
 507 }
 508
 509 /**
 510  * at91_activate_rx_low - activate lower rx mailboxes
 511  * @priv: a91 context
 512  *
 513  * Reenables the lower mailboxes for reception of new CAN messages
 514  */
 515 static inline void at91_activate_rx_low(const struct at91_priv *priv)
 516 {
 517         u32 mask = get_mb_rx_low_mask(priv);
 518
 519         at91_write(priv, AT91_TCR, mask);
 520 }
 521
 522 /**
 523  * at91_activate_rx_mb - reactive single rx mailbox
 524  * @priv: a91 context
 525  * @mb: mailbox to reactivate
 526  *
 527  * Reenables given mailbox for reception of new CAN messages
 528  */
 529 static inline void at91_activate_rx_mb(const struct at91_priv *priv,
 530                 unsigned int mb)
 531 {
 532         u32 mask = 1 << mb;
 533
 534         at91_write(priv, AT91_TCR, mask);
 535 }
 536
 537 /**
 538  * at91_rx_overflow_err - send error frame due to rx overflow
 539  * @dev: net device
 540  */
 541 static void at91_rx_overflow_err(struct net_device *dev)
 542 {
 543         struct net_device_stats *stats = &dev->stats;
 544         struct sk_buff *skb;
 545         struct can_frame *cf;
 546
 547         netdev_dbg(dev, "RX buffer overflow\n");
 548         stats->rx_over_errors++;
 549         stats->rx_errors++;
 550
 551         skb = alloc_can_err_skb(dev, &cf);
 552         if (unlikely(!skb))
 553                 return;
 554
 555         cf->can_id |= CAN_ERR_CRTL;
 556         cf->data[1] = CAN_ERR_CRTL_RX_OVERFLOW;
 557
 558         stats->rx_packets++;
 559         stats->rx_bytes += cf->len;
 560         netif_receive_skb(skb);
 561 }
 562
 563 /**
 564  * at91_read_mb - read CAN msg from mailbox (lowlevel impl)
 565  * @dev: net device
 566  * @mb: mailbox number to read from
 567  * @cf: can frame where to store message
 568  *
 569  * Reads a CAN message from the given mailbox and stores data into
 570  * given can frame. "mb" and "cf" must be valid.
 571  */
 572 static void at91_read_mb(struct net_device *dev, unsigned int mb,
 573                 struct can_frame *cf)
 574 {
 575         const struct at91_priv *priv = netdev_priv(dev);
 576         u32 reg_msr, reg_mid;
 577
 578         reg_mid = at91_read(priv, AT91_MID(mb));
 579         if (reg_mid & AT91_MID_MIDE)
 580                 cf->can_id = ((reg_mid >> 0) & CAN_EFF_MASK) | CAN_EFF_FLAG;
 581         else
 582                 cf->can_id = (reg_mid >> 18) & CAN_SFF_MASK;
 583
 584         reg_msr = at91_read(priv, AT91_MSR(mb));
 585         cf->len = can_cc_dlc2len((reg_msr >> 16) & 0xf);
 586
 587         if (reg_msr & AT91_MSR_MRTR)
 588                 cf->can_id |= CAN_RTR_FLAG;
 589         else {
 590                 *(u32 *)(cf->data + 0) = at91_read(priv, AT91_MDL(mb));
 591                 *(u32 *)(cf->data + 4) = at91_read(priv, AT91_MDH(mb));
 592         }
 593
 594         /* allow RX of extended frames */
 595         at91_write(priv, AT91_MID(mb), AT91_MID_MIDE);
 596
 597         if (unlikely(mb == get_mb_rx_last(priv) && reg_msr & AT91_MSR_MMI))
 598                 at91_rx_overflow_err(dev);
 599 }
 600
 601 /**
 602  * at91_read_msg - read CAN message from mailbox
 603  * @dev: net device
 604  * @mb: mail box to read from
 605  *
 606  * Reads a CAN message from given mailbox, and put into linux network
 607  * RX queue, does all housekeeping chores (stats, ...)
 608  */
 609 static void at91_read_msg(struct net_device *dev, unsigned int mb)
 610 {
 611         struct net_device_stats *stats = &dev->stats;
 612         struct can_frame *cf;
 613         struct sk_buff *skb;
 614
 615         skb = alloc_can_skb(dev, &cf);
 616         if (unlikely(!skb)) {
 617                 stats->rx_dropped++;
 618                 return;
 619         }
 620
 621         at91_read_mb(dev, mb, cf);
 622
 623         stats->rx_packets++;
 624         stats->rx_bytes += cf->len;
 625         netif_receive_skb(skb);
 626
 627         can_led_event(dev, CAN_LED_EVENT_RX);
 628 }
 629
 630 /**
 631  * at91_poll_rx - read multiple CAN messages from mailboxes
 632  * @dev: net device
 633  * @quota: max number of pkgs we're allowed to receive
 634  *
 635  * Theory of Operation:
 636  *
 637  * About 3/4 of the mailboxes (get_mb_rx_first()...get_mb_rx_last())
 638  * on the chip are reserved for RX. We split them into 2 groups. The
 639  * lower group ranges from get_mb_rx_first() to get_mb_rx_low_last().
 640  *
 641  * Like it or not, but the chip always saves a received CAN message
 642  * into the first free mailbox it finds (starting with the
 643  * lowest). This makes it very difficult to read the messages in the
 644  * right order from the chip. This is how we work around that problem:
 645  *
 646  * The first message goes into mb nr. 1 and issues an interrupt. All
 647  * rx ints are disabled in the interrupt handler and a napi poll is
 648  * scheduled. We read the mailbox, but do _not_ re-enable the mb (to
 649  * receive another message).
 650  *
 651  *    lower mbxs      upper
 652  *     ____^______    __^__
 653  *    /           \  /     \
 654  * +-+-+-+-+-+-+-+-++-+-+-+-+
 655  * | |x|x|x|x|x|x|x|| | | | |
 656  * +-+-+-+-+-+-+-+-++-+-+-+-+
 657  *  0 0 0 0 0 0  0 0 0 0 1 1  \ mail
 658  *  0 1 2 3 4 5  6 7 8 9 0 1  / box
 659  *  ^
 660  *  |
 661  *   \
 662  *     unused, due to chip bug
 663  *
 664  * The variable priv->rx_next points to the next mailbox to read a
 665  * message from. As long we're in the lower mailboxes we just read the
 666  * mailbox but not re-enable it.
 667  *
 668  * With completion of the last of the lower mailboxes, we re-enable the
 669  * whole first group, but continue to look for filled mailboxes in the
 670  * upper mailboxes. Imagine the second group like overflow mailboxes,
 671  * which takes CAN messages if the lower goup is full. While in the
 672  * upper group we re-enable the mailbox right after reading it. Giving
 673  * the chip more room to store messages.
 674  *
 675  * After finishing we look again in the lower group if we've still
 676  * quota.
 677  *
 678  */
 679 static int at91_poll_rx(struct net_device *dev, int quota)
 680 {
 681         struct at91_priv *priv = netdev_priv(dev);
 682         u32 reg_sr = at91_read(priv, AT91_SR);
 683         const unsigned long *addr = (unsigned long *)&reg_sr;
 684         unsigned int mb;
 685         int received = 0;
 686
 687         if (priv->rx_next > get_mb_rx_low_last(priv) &&
 688             reg_sr & get_mb_rx_low_mask(priv))
 689                 netdev_info(dev,
 690                         "order of incoming frames cannot be guaranteed\n");
 691
 692  again:
 693         for (mb = find_next_bit(addr, get_mb_tx_first(priv), priv->rx_next);
 694              mb < get_mb_tx_first(priv) && quota > 0;
 695              reg_sr = at91_read(priv, AT91_SR),
 696              mb = find_next_bit(addr, get_mb_tx_first(priv), ++priv->rx_next)) {
 697                 at91_read_msg(dev, mb);
 698
 699                 /* reactivate mailboxes */
 700                 if (mb == get_mb_rx_low_last(priv))
 701                         /* all lower mailboxed, if just finished it */
 702                         at91_activate_rx_low(priv);
 703                 else if (mb > get_mb_rx_low_last(priv))
 704                         /* only the mailbox we read */
 705                         at91_activate_rx_mb(priv, mb);
 706
 707                 received++;
 708                 quota--;
 709         }
 710
 711         /* upper group completed, look again in lower */
 712         if (priv->rx_next > get_mb_rx_low_last(priv) &&
 713             mb > get_mb_rx_last(priv)) {
 714                 priv->rx_next = get_mb_rx_first(priv);
 715                 if (quota > 0)
 716                         goto again;
 717         }
 718
 719         return received;
 720 }
 721
 722 static void at91_poll_err_frame(struct net_device *dev,
 723                 struct can_frame *cf, u32 reg_sr)
 724 {
 725         struct at91_priv *priv = netdev_priv(dev);
 726
 727         /* CRC error */
 728         if (reg_sr & AT91_IRQ_CERR) {
 729                 netdev_dbg(dev, "CERR irq\n");
 730                 dev->stats.rx_errors++;
 731                 priv->can.can_stats.bus_error++;
 732                 cf->can_id |= CAN_ERR_PROT | CAN_ERR_BUSERROR;
 733         }
 734
 735         /* Stuffing Error */
 736         if (reg_sr & AT91_IRQ_SERR) {
 737                 netdev_dbg(dev, "SERR irq\n");
 738                 dev->stats.rx_errors++;
 739                 priv->can.can_stats.bus_error++;
 740                 cf->can_id |= CAN_ERR_PROT | CAN_ERR_BUSERROR;
 741                 cf->data[2] |= CAN_ERR_PROT_STUFF;
 742         }
 743
 744         /* Acknowledgement Error */
 745         if (reg_sr & AT91_IRQ_AERR) {
 746                 netdev_dbg(dev, "AERR irq\n");
 747                 dev->stats.tx_errors++;
 748                 cf->can_id |= CAN_ERR_ACK;
 749         }
 750
 751         /* Form error */
 752         if (reg_sr & AT91_IRQ_FERR) {
 753                 netdev_dbg(dev, "FERR irq\n");
 754                 dev->stats.rx_errors++;
 755                 priv->can.can_stats.bus_error++;
 756                 cf->can_id |= CAN_ERR_PROT | CAN_ERR_BUSERROR;
 757                 cf->data[2] |= CAN_ERR_PROT_FORM;
 758         }
 759
 760         /* Bit Error */
 761         if (reg_sr & AT91_IRQ_BERR) {
 762                 netdev_dbg(dev, "BERR irq\n");
 763                 dev->stats.tx_errors++;
 764                 priv->can.can_stats.bus_error++;
 765                 cf->can_id |= CAN_ERR_PROT | CAN_ERR_BUSERROR;
 766                 cf->data[2] |= CAN_ERR_PROT_BIT;
 767         }
 768 }
 769
 770 static int at91_poll_err(struct net_device *dev, int quota, u32 reg_sr)
 771 {
 772         struct sk_buff *skb;
 773         struct can_frame *cf;
 774
 775         if (quota == 0)
 776                 return 0;
 777
 778         skb = alloc_can_err_skb(dev, &cf);
 779         if (unlikely(!skb))
 780                 return 0;
 781
 782         at91_poll_err_frame(dev, cf, reg_sr);
 783
 784         dev->stats.rx_packets++;
 785         dev->stats.rx_bytes += cf->len;
 786         netif_receive_skb(skb);
 787
 788         return 1;
 789 }
 790
 791 static int at91_poll(struct napi_struct *napi, int quota)
 792 {
 793         struct net_device *dev = napi->dev;
 794         const struct at91_priv *priv = netdev_priv(dev);
 795         u32 reg_sr = at91_read(priv, AT91_SR);
 796         int work_done = 0;
 797
 798         if (reg_sr & get_irq_mb_rx(priv))
 799                 work_done += at91_poll_rx(dev, quota - work_done);
 800
 801         /*
 802          * The error bits are clear on read,
 803          * so use saved value from irq handler.
 804          */
 805         reg_sr |= priv->reg_sr;
 806         if (reg_sr & AT91_IRQ_ERR_FRAME)
 807                 work_done += at91_poll_err(dev, quota - work_done, reg_sr);
 808
 809         if (work_done < quota) {
 810                 /* enable IRQs for frame errors and all mailboxes >= rx_next */
 811                 u32 reg_ier = AT91_IRQ_ERR_FRAME;
 812
 813                 reg_ier |= get_irq_mb_rx(priv) & ~AT91_MB_MASK(priv->rx_next);
 814
 815                 napi_complete_done(napi, work_done);
 816                 at91_write(priv, AT91_IER, reg_ier);
 817         }
 818
 819         return work_done;
 820 }
 821
 822 /*
 823  * theory of operation:
 824  *
 825  * priv->tx_echo holds the number of the oldest can_frame put for
 826  * transmission into the hardware, but not yet ACKed by the CAN tx
 827  * complete IRQ.
 828  *
 829  * We iterate from priv->tx_echo to priv->tx_next and check if the
 830  * packet has been transmitted, echo it back to the CAN framework. If
 831  * we discover a not yet transmitted package, stop looking for more.
 832  *
 833  */
 834 static void at91_irq_tx(struct net_device *dev, u32 reg_sr)
 835 {
 836         struct at91_priv *priv = netdev_priv(dev);
 837         u32 reg_msr;
 838         unsigned int mb;
 839
 840         /* masking of reg_sr not needed, already done by at91_irq */
 841
 842         for (/* nix */; (priv->tx_next - priv->tx_echo) > 0; priv->tx_echo++) {
 843                 mb = get_tx_echo_mb(priv);
 844
 845                 /* no event in mailbox? */
 846                 if (!(reg_sr & (1 << mb)))
 847                         break;
 848
 849                 /* Disable irq for this TX mailbox */
 850                 at91_write(priv, AT91_IDR, 1 << mb);
 851
 852                 /*
 853                  * only echo if mailbox signals us a transfer
 854                  * complete (MSR_MRDY). Otherwise it's a tansfer
 855                  * abort. "can_bus_off()" takes care about the skbs
 856                  * parked in the echo queue.
 857                  */
 858                 reg_msr = at91_read(priv, AT91_MSR(mb));
 859                 if (likely(reg_msr & AT91_MSR_MRDY &&
 860                            ~reg_msr & AT91_MSR_MABT)) {
 861                         /* _NOTE_: subtract AT91_MB_TX_FIRST offset from mb! */
 862                         can_get_echo_skb(dev, mb - get_mb_tx_first(priv), NULL);
 863                         dev->stats.tx_packets++;
 864                         can_led_event(dev, CAN_LED_EVENT_TX);
 865                 }
 866         }
 867
 868         /*
 869          * restart queue if we don't have a wrap around but restart if
 870          * we get a TX int for the last can frame directly before a
 871          * wrap around.
 872          */
 873         if ((priv->tx_next & get_next_mask(priv)) != 0 ||
 874             (priv->tx_echo & get_next_mask(priv)) == 0)
 875                 netif_wake_queue(dev);
 876 }
 877
 878 static void at91_irq_err_state(struct net_device *dev,
 879                 struct can_frame *cf, enum can_state new_state)
 880 {
 881         struct at91_priv *priv = netdev_priv(dev);
 882         u32 reg_idr = 0, reg_ier = 0;
 883         struct can_berr_counter bec;
 884
 885         at91_get_berr_counter(dev, &bec);
 886
 887         switch (priv->can.state) {
 888         case CAN_STATE_ERROR_ACTIVE:
 889                 /*
 890                  * from: ERROR_ACTIVE
 891                  * to  : ERROR_WARNING, ERROR_PASSIVE, BUS_OFF
 892                  * =>  : there was a warning int
 893                  */
 894                 if (new_state >= CAN_STATE_ERROR_WARNING &&
 895                     new_state <= CAN_STATE_BUS_OFF) {
 896                         netdev_dbg(dev, "Error Warning IRQ\n");
 897                         priv->can.can_stats.error_warning++;
 898
 899                         cf->can_id |= CAN_ERR_CRTL;
 900                         cf->data[1] = (bec.txerr > bec.rxerr) ?
 901                                 CAN_ERR_CRTL_TX_WARNING :
 902                                 CAN_ERR_CRTL_RX_WARNING;
 903                 }
 904                 fallthrough;
 905         case CAN_STATE_ERROR_WARNING:
 906                 /*
 907                  * from: ERROR_ACTIVE, ERROR_WARNING
 908                  * to  : ERROR_PASSIVE, BUS_OFF
 909                  * =>  : error passive int
 910                  */
 911                 if (new_state >= CAN_STATE_ERROR_PASSIVE &&
 912                     new_state <= CAN_STATE_BUS_OFF) {
 913                         netdev_dbg(dev, "Error Passive IRQ\n");
 914                         priv->can.can_stats.error_passive++;
 915
 916                         cf->can_id |= CAN_ERR_CRTL;
 917                         cf->data[1] = (bec.txerr > bec.rxerr) ?
 918                                 CAN_ERR_CRTL_TX_PASSIVE :
 919                                 CAN_ERR_CRTL_RX_PASSIVE;
 920                 }
 921                 break;
 922         case CAN_STATE_BUS_OFF:
 923                 /*
 924                  * from: BUS_OFF
 925                  * to  : ERROR_ACTIVE, ERROR_WARNING, ERROR_PASSIVE
 926                  */
 927                 if (new_state <= CAN_STATE_ERROR_PASSIVE) {
 928                         cf->can_id |= CAN_ERR_RESTARTED;
 929
 930                         netdev_dbg(dev, "restarted\n");
 931                         priv->can.can_stats.restarts++;
 932
 933                         netif_carrier_on(dev);
 934                         netif_wake_queue(dev);
 935                 }
 936                 break;
 937         default:
 938                 break;
 939         }
 940
 941         /* process state changes depending on the new state */
 942         switch (new_state) {
 943         case CAN_STATE_ERROR_ACTIVE:
 944                 /*
 945                  * actually we want to enable AT91_IRQ_WARN here, but
 946                  * it screws up the system under certain
 947                  * circumstances. so just enable AT91_IRQ_ERRP, thus
 948                  * the "fallthrough"
 949                  */
 950                 netdev_dbg(dev, "Error Active\n");
 951                 cf->can_id |= CAN_ERR_PROT;
 952                 cf->data[2] = CAN_ERR_PROT_ACTIVE;
 953                 fallthrough;
 954         case CAN_STATE_ERROR_WARNING:
 955                 reg_idr = AT91_IRQ_ERRA | AT91_IRQ_WARN | AT91_IRQ_BOFF;
 956                 reg_ier = AT91_IRQ_ERRP;
 957                 break;
 958         case CAN_STATE_ERROR_PASSIVE:
 959                 reg_idr = AT91_IRQ_ERRA | AT91_IRQ_WARN | AT91_IRQ_ERRP;
 960                 reg_ier = AT91_IRQ_BOFF;
 961                 break;
 962         case CAN_STATE_BUS_OFF:
 963                 reg_idr = AT91_IRQ_ERRA | AT91_IRQ_ERRP |
 964                         AT91_IRQ_WARN | AT91_IRQ_BOFF;
 965                 reg_ier = 0;
 966
 967                 cf->can_id |= CAN_ERR_BUSOFF;
 968
 969                 netdev_dbg(dev, "bus-off\n");
 970                 netif_carrier_off(dev);
 971                 priv->can.can_stats.bus_off++;
 972
 973                 /* turn off chip, if restart is disabled */
 974                 if (!priv->can.restart_ms) {
 975                         at91_chip_stop(dev, CAN_STATE_BUS_OFF);
 976                         return;
 977                 }
 978                 break;
 979         default:
 980                 break;
 981         }
 982
 983         at91_write(priv, AT91_IDR, reg_idr);
 984         at91_write(priv, AT91_IER, reg_ier);
 985 }
 986
 987 static int at91_get_state_by_bec(const struct net_device *dev,
 988                 enum can_state *state)
 989 {
 990         struct can_berr_counter bec;
 991         int err;
 992
 993         err = at91_get_berr_counter(dev, &bec);
 994         if (err)
 995                 return err;
 996
 997         if (bec.txerr < 96 && bec.rxerr < 96)
 998                 *state = CAN_STATE_ERROR_ACTIVE;
 999         else if (bec.txerr < 128 && bec.rxerr < 128)
1000                 *state = CAN_STATE_ERROR_WARNING;
1001         else if (bec.txerr < 256 && bec.rxerr < 256)
1002                 *state = CAN_STATE_ERROR_PASSIVE;
1003         else
1004                 *state = CAN_STATE_BUS_OFF;
1005
1006         return 0;
1007 }
1008
1009 static void at91_irq_err(struct net_device *dev)
1010 {
1011         struct at91_priv *priv = netdev_priv(dev);
1012         struct sk_buff *skb;
1013         struct can_frame *cf;
1014         enum can_state new_state;
1015         u32 reg_sr;
1016         int err;
1017
1018         if (at91_is_sam9263(priv)) {
1019                 reg_sr = at91_read(priv, AT91_SR);
1020
1021                 /* we need to look at the unmasked reg_sr */
1022                 if (unlikely(reg_sr & AT91_IRQ_BOFF))
1023                         new_state = CAN_STATE_BUS_OFF;
1024                 else if (unlikely(reg_sr & AT91_IRQ_ERRP))
1025                         new_state = CAN_STATE_ERROR_PASSIVE;
1026                 else if (unlikely(reg_sr & AT91_IRQ_WARN))
1027                         new_state = CAN_STATE_ERROR_WARNING;
1028                 else if (likely(reg_sr & AT91_IRQ_ERRA))
1029                         new_state = CAN_STATE_ERROR_ACTIVE;
1030                 else {
1031                         netdev_err(dev, "BUG! hardware in undefined state\n");
1032                         return;
1033                 }
1034         } else {
1035                 err = at91_get_state_by_bec(dev, &new_state);
1036                 if (err)
1037                         return;
1038         }
1039
1040         /* state hasn't changed */
1041         if (likely(new_state == priv->can.state))
1042                 return;
1043
1044         skb = alloc_can_err_skb(dev, &cf);
1045         if (unlikely(!skb))
1046                 return;
1047
1048         at91_irq_err_state(dev, cf, new_state);
1049
1050         dev->stats.rx_packets++;
1051         dev->stats.rx_bytes += cf->len;
1052         netif_rx(skb);
1053
1054         priv->can.state = new_state;
1055 }
1056
1057 /*
1058  * interrupt handler
1059  */
1060 static irqreturn_t at91_irq(int irq, void *dev_id)
1061 {
1062         struct net_device *dev = dev_id;
1063         struct at91_priv *priv = netdev_priv(dev);
1064         irqreturn_t handled = IRQ_NONE;
1065         u32 reg_sr, reg_imr;
1066
1067         reg_sr = at91_read(priv, AT91_SR);
1068         reg_imr = at91_read(priv, AT91_IMR);
1069
1070         /* Ignore masked interrupts */
1071         reg_sr &= reg_imr;
1072         if (!reg_sr)
1073                 goto exit;
1074
1075         handled = IRQ_HANDLED;
1076
1077         /* Receive or error interrupt? -> napi */
1078         if (reg_sr & (get_irq_mb_rx(priv) | AT91_IRQ_ERR_FRAME)) {
1079                 /*
1080                  * The error bits are clear on read,
1081                  * save for later use.
1082                  */
1083                 priv->reg_sr = reg_sr;
1084                 at91_write(priv, AT91_IDR,
1085                            get_irq_mb_rx(priv) | AT91_IRQ_ERR_FRAME);
1086                 napi_schedule(&priv->napi);
1087         }
1088
1089         /* Transmission complete interrupt */
1090         if (reg_sr & get_irq_mb_tx(priv))
1091                 at91_irq_tx(dev, reg_sr);
1092
1093         at91_irq_err(dev);
1094
1095  exit:
1096         return handled;
1097 }
1098
1099 static int at91_open(struct net_device *dev)
1100 {
1101         struct at91_priv *priv = netdev_priv(dev);
1102         int err;
1103
1104         err = clk_prepare_enable(priv->clk);
1105         if (err)
1106                 return err;
1107
1108         /* check or determine and set bittime */
1109         err = open_candev(dev);
1110         if (err)
1111                 goto out;
1112
1113         /* register interrupt handler */
1114         if (request_irq(dev->irq, at91_irq, IRQF_SHARED,
1115                         dev->name, dev)) {
1116                 err = -EAGAIN;
1117                 goto out_close;
1118         }
1119
1120         can_led_event(dev, CAN_LED_EVENT_OPEN);
1121
1122         /* start chip and queuing */
1123         at91_chip_start(dev);
1124         napi_enable(&priv->napi);
1125         netif_start_queue(dev);
1126
1127         return 0;
1128
1129  out_close:
1130         close_candev(dev);
1131  out:
1132         clk_disable_unprepare(priv->clk);
1133
1134         return err;
1135 }
1136
1137 /*
1138  * stop CAN bus activity
1139  */
1140 static int at91_close(struct net_device *dev)
1141 {
1142         struct at91_priv *priv = netdev_priv(dev);
1143
1144         netif_stop_queue(dev);
1145         napi_disable(&priv->napi);
1146         at91_chip_stop(dev, CAN_STATE_STOPPED);
1147
1148         free_irq(dev->irq, dev);
1149         clk_disable_unprepare(priv->clk);
1150
1151         close_candev(dev);
1152
1153         can_led_event(dev, CAN_LED_EVENT_STOP);
1154
1155         return 0;
1156 }
1157
1158 static int at91_set_mode(struct net_device *dev, enum can_mode mode)
1159 {
1160         switch (mode) {
1161         case CAN_MODE_START:
1162                 at91_chip_start(dev);
1163                 netif_wake_queue(dev);
1164                 break;
1165
1166         default:
1167                 return -EOPNOTSUPP;
1168         }
1169
1170         return 0;
1171 }
1172
1173 static const struct net_device_ops at91_netdev_ops = {
1174         .ndo_open       = at91_open,
1175         .ndo_stop       = at91_close,
1176         .ndo_start_xmit = at91_start_xmit,
1177         .ndo_change_mtu = can_change_mtu,
1178 };
1179
1180 static ssize_t mb0_id_show(struct device *dev,
1181                            struct device_attribute *attr, char *buf)
1182 {
1183         struct at91_priv *priv = netdev_priv(to_net_dev(dev));
1184
1185         if (priv->mb0_id & CAN_EFF_FLAG)
1186                 return snprintf(buf, PAGE_SIZE, "0x%08x\n", priv->mb0_id);
1187         else
1188                 return snprintf(buf, PAGE_SIZE, "0x%03x\n", priv->mb0_id);
1189 }
1190
1191 static ssize_t mb0_id_store(struct device *dev,
1192                             struct device_attribute *attr, const char *buf, size_t count)
1193 {
1194         struct net_device *ndev = to_net_dev(dev);
1195         struct at91_priv *priv = netdev_priv(ndev);
1196         unsigned long can_id;
1197         ssize_t ret;
1198         int err;
1199
1200         rtnl_lock();
1201
1202         if (ndev->flags & IFF_UP) {
1203                 ret = -EBUSY;
1204                 goto out;
1205         }
1206
1207         err = kstrtoul(buf, 0, &can_id);
1208         if (err) {
1209                 ret = err;
1210                 goto out;
1211         }
1212
1213         if (can_id & CAN_EFF_FLAG)
1214                 can_id &= CAN_EFF_MASK | CAN_EFF_FLAG;
1215         else
1216                 can_id &= CAN_SFF_MASK;
1217
1218         priv->mb0_id = can_id;
1219         ret = count;
1220
1221  out:
1222         rtnl_unlock();
1223         return ret;
1224 }
1225
1226 static DEVICE_ATTR_RW(mb0_id);
1227
1228 static struct attribute *at91_sysfs_attrs[] = {
1229         &dev_attr_mb0_id.attr,
1230         NULL,
1231 };
1232
1233 static const struct attribute_group at91_sysfs_attr_group = {
1234         .attrs = at91_sysfs_attrs,
1235 };
1236
1237 #if defined(CONFIG_OF)
1238 static const struct of_device_id at91_can_dt_ids[] = {
1239         {
1240                 .compatible = "atmel,at91sam9x5-can",
1241                 .data = &at91_at91sam9x5_data,
1242         }, {
1243                 .compatible = "atmel,at91sam9263-can",
1244                 .data = &at91_at91sam9263_data,
1245         }, {
1246                 /* sentinel */
1247         }
1248 };
1249 MODULE_DEVICE_TABLE(of, at91_can_dt_ids);
1250 #endif
1251
1252 static const struct at91_devtype_data *at91_can_get_driver_data(struct platform_device *pdev)
1253 {
1254         if (pdev->dev.of_node) {
1255                 const struct of_device_id *match;
1256
1257                 match = of_match_node(at91_can_dt_ids, pdev->dev.of_node);
1258                 if (!match) {
1259                         dev_err(&pdev->dev, "no matching node found in dtb\n");
1260                         return NULL;
1261                 }
1262                 return (const struct at91_devtype_data *)match->data;
1263         }
1264         return (const struct at91_devtype_data *)
1265                 platform_get_device_id(pdev)->driver_data;
1266 }
1267
1268 static int at91_can_probe(struct platform_device *pdev)
1269 {
1270         const struct at91_devtype_data *devtype_data;
1271         struct net_device *dev;
1272         struct at91_priv *priv;
1273         struct resource *res;
1274         struct clk *clk;
1275         void __iomem *addr;
1276         int err, irq;
1277
1278         devtype_data = at91_can_get_driver_data(pdev);
1279         if (!devtype_data) {
1280                 dev_err(&pdev->dev, "no driver data\n");
1281                 err = -ENODEV;
1282                 goto exit;
1283         }
1284
1285         clk = clk_get(&pdev->dev, "can_clk");
1286         if (IS_ERR(clk)) {
1287                 dev_err(&pdev->dev, "no clock defined\n");
1288                 err = -ENODEV;
1289                 goto exit;
1290         }
1291
1292         res = platform_get_resource(pdev, IORESOURCE_MEM, 0);
1293         irq = platform_get_irq(pdev, 0);
1294         if (!res || irq <= 0) {
1295                 err = -ENODEV;
1296                 goto exit_put;
1297         }
1298
1299         if (!request_mem_region(res->start,
1300                                 resource_size(res),
1301                                 pdev->name)) {
1302                 err = -EBUSY;
1303                 goto exit_put;
1304         }
1305
1306         addr = ioremap(res->start, resource_size(res));
1307         if (!addr) {
1308                 err = -ENOMEM;
1309                 goto exit_release;
1310         }
1311
1312         dev = alloc_candev(sizeof(struct at91_priv),
1313                            1 << devtype_data->tx_shift);
1314         if (!dev) {
1315                 err = -ENOMEM;
1316                 goto exit_iounmap;
1317         }
1318
1319         dev->netdev_ops = &at91_netdev_ops;
1320         dev->irq = irq;
1321         dev->flags |= IFF_ECHO;
1322
1323         priv = netdev_priv(dev);
1324         priv->can.clock.freq = clk_get_rate(clk);
1325         priv->can.bittiming_const = &at91_bittiming_const;
1326         priv->can.do_set_mode = at91_set_mode;
1327         priv->can.do_get_berr_counter = at91_get_berr_counter;
1328         priv->can.ctrlmode_supported = CAN_CTRLMODE_3_SAMPLES |
1329                 CAN_CTRLMODE_LISTENONLY;
1330         priv->reg_base = addr;
1331         priv->devtype_data = *devtype_data;
1332         priv->clk = clk;
1333         priv->pdata = dev_get_platdata(&pdev->dev);
1334         priv->mb0_id = 0x7ff;
1335
1336         netif_napi_add(dev, &priv->napi, at91_poll, get_mb_rx_num(priv));
1337
1338         if (at91_is_sam9263(priv))
1339                 dev->sysfs_groups[0] = &at91_sysfs_attr_group;
1340
1341         platform_set_drvdata(pdev, dev);
1342         SET_NETDEV_DEV(dev, &pdev->dev);
1343
1344         err = register_candev(dev);
1345         if (err) {
1346                 dev_err(&pdev->dev, "registering netdev failed\n");
1347                 goto exit_free;
1348         }
1349
1350         devm_can_led_init(dev);
1351
1352         dev_info(&pdev->dev, "device registered (reg_base=%p, irq=%d)\n",
1353                  priv->reg_base, dev->irq);
1354
1355         return 0;
1356
1357  exit_free:
1358         free_candev(dev);
1359  exit_iounmap:
1360         iounmap(addr);
1361  exit_release:
1362         release_mem_region(res->start, resource_size(res));
1363  exit_put:
1364         clk_put(clk);
1365  exit:
1366         return err;
1367 }
1368
1369 static int at91_can_remove(struct platform_device *pdev)
1370 {
1371         struct net_device *dev = platform_get_drvdata(pdev);
1372         struct at91_priv *priv = netdev_priv(dev);
1373         struct resource *res;
1374
1375         unregister_netdev(dev);
1376
1377         iounmap(priv->reg_base);
1378
1379         res = platform_get_resource(pdev, IORESOURCE_MEM, 0);
1380         release_mem_region(res->start, resource_size(res));
1381
1382         clk_put(priv->clk);
1383
1384         free_candev(dev);
1385
1386         return 0;
1387 }
1388
1389 static const struct platform_device_id at91_can_id_table[] = {
1390         {
1391                 .name = "at91sam9x5_can",
1392                 .driver_data = (kernel_ulong_t)&at91_at91sam9x5_data,
1393         }, {
1394                 .name = "at91_can",
1395                 .driver_data = (kernel_ulong_t)&at91_at91sam9263_data,
1396         }, {
1397                 /* sentinel */
1398         }
1399 };
1400 MODULE_DEVICE_TABLE(platform, at91_can_id_table);
1401
1402 static struct platform_driver at91_can_driver = {
1403         .probe = at91_can_probe,
1404         .remove = at91_can_remove,
1405         .driver = {
1406                 .name = KBUILD_MODNAME,
1407                 .of_match_table = of_match_ptr(at91_can_dt_ids),
1408         },
1409         .id_table = at91_can_id_table,
1410 };
1411
1412 module_platform_driver(at91_can_driver);
1413
1414 MODULE_AUTHOR("Marc Kleine-Budde <mkl@pengutronix.de>");
1415 MODULE_LICENSE("GPL v2");
1416 MODULE_DESCRIPTION(KBUILD_MODNAME " CAN netdevice driver");