RDMA/core: Expose pkeys sysfs files only if pkey_tbl_len is set
[linux-block.git] / drivers / infiniband / core / sysfs.c
1 /*
2  * Copyright (c) 2004, 2005 Topspin Communications.  All rights reserved.
3  * Copyright (c) 2005 Mellanox Technologies Ltd.  All rights reserved.
4  * Copyright (c) 2005 Sun Microsystems, Inc. All rights reserved.
5  *
6  * This software is available to you under a choice of one of two
7  * licenses.  You may choose to be licensed under the terms of the GNU
8  * General Public License (GPL) Version 2, available from the file
9  * COPYING in the main directory of this source tree, or the
10  * OpenIB.org BSD license below:
11  *
12  *     Redistribution and use in source and binary forms, with or
13  *     without modification, are permitted provided that the following
14  *     conditions are met:
15  *
16  *      - Redistributions of source code must retain the above
17  *        copyright notice, this list of conditions and the following
18  *        disclaimer.
19  *
20  *      - Redistributions in binary form must reproduce the above
21  *        copyright notice, this list of conditions and the following
22  *        disclaimer in the documentation and/or other materials
23  *        provided with the distribution.
24  *
25  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND,
26  * EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
27  * MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND
28  * NONINFRINGEMENT. IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS
29  * BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN
30  * ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN
31  * CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
32  * SOFTWARE.
33  */
34
35 #include "core_priv.h"
36
37 #include <linux/slab.h>
38 #include <linux/stat.h>
39 #include <linux/string.h>
40 #include <linux/netdevice.h>
41 #include <linux/ethtool.h>
42
43 #include <rdma/ib_mad.h>
44 #include <rdma/ib_pma.h>
45 #include <rdma/ib_cache.h>
46 #include <rdma/rdma_counter.h>
47
48 struct ib_port;
49
50 struct gid_attr_group {
51         struct ib_port          *port;
52         struct kobject          kobj;
53         struct attribute_group  ndev;
54         struct attribute_group  type;
55 };
56 struct ib_port {
57         struct kobject         kobj;
58         struct ib_device      *ibdev;
59         struct gid_attr_group *gid_attr_group;
60         struct attribute_group gid_group;
61         struct attribute_group *pkey_group;
62         struct attribute_group *pma_table;
63         struct attribute_group *hw_stats_ag;
64         struct rdma_hw_stats   *hw_stats;
65         u8                     port_num;
66 };
67
68 struct port_attribute {
69         struct attribute attr;
70         ssize_t (*show)(struct ib_port *, struct port_attribute *, char *buf);
71         ssize_t (*store)(struct ib_port *, struct port_attribute *,
72                          const char *buf, size_t count);
73 };
74
75 #define PORT_ATTR(_name, _mode, _show, _store) \
76 struct port_attribute port_attr_##_name = __ATTR(_name, _mode, _show, _store)
77
78 #define PORT_ATTR_RO(_name) \
79 struct port_attribute port_attr_##_name = __ATTR_RO(_name)
80
81 struct port_table_attribute {
82         struct port_attribute   attr;
83         char                    name[8];
84         int                     index;
85         __be16                  attr_id;
86 };
87
88 struct hw_stats_attribute {
89         struct attribute        attr;
90         ssize_t                 (*show)(struct kobject *kobj,
91                                         struct attribute *attr, char *buf);
92         ssize_t                 (*store)(struct kobject *kobj,
93                                          struct attribute *attr,
94                                          const char *buf,
95                                          size_t count);
96         int                     index;
97         u8                      port_num;
98 };
99
100 static ssize_t port_attr_show(struct kobject *kobj,
101                               struct attribute *attr, char *buf)
102 {
103         struct port_attribute *port_attr =
104                 container_of(attr, struct port_attribute, attr);
105         struct ib_port *p = container_of(kobj, struct ib_port, kobj);
106
107         if (!port_attr->show)
108                 return -EIO;
109
110         return port_attr->show(p, port_attr, buf);
111 }
112
113 static ssize_t port_attr_store(struct kobject *kobj,
114                                struct attribute *attr,
115                                const char *buf, size_t count)
116 {
117         struct port_attribute *port_attr =
118                 container_of(attr, struct port_attribute, attr);
119         struct ib_port *p = container_of(kobj, struct ib_port, kobj);
120
121         if (!port_attr->store)
122                 return -EIO;
123         return port_attr->store(p, port_attr, buf, count);
124 }
125
126 static const struct sysfs_ops port_sysfs_ops = {
127         .show   = port_attr_show,
128         .store  = port_attr_store
129 };
130
131 static ssize_t gid_attr_show(struct kobject *kobj,
132                              struct attribute *attr, char *buf)
133 {
134         struct port_attribute *port_attr =
135                 container_of(attr, struct port_attribute, attr);
136         struct ib_port *p = container_of(kobj, struct gid_attr_group,
137                                          kobj)->port;
138
139         if (!port_attr->show)
140                 return -EIO;
141
142         return port_attr->show(p, port_attr, buf);
143 }
144
145 static const struct sysfs_ops gid_attr_sysfs_ops = {
146         .show = gid_attr_show
147 };
148
149 static ssize_t state_show(struct ib_port *p, struct port_attribute *unused,
150                           char *buf)
151 {
152         struct ib_port_attr attr;
153         ssize_t ret;
154
155         static const char *state_name[] = {
156                 [IB_PORT_NOP]           = "NOP",
157                 [IB_PORT_DOWN]          = "DOWN",
158                 [IB_PORT_INIT]          = "INIT",
159                 [IB_PORT_ARMED]         = "ARMED",
160                 [IB_PORT_ACTIVE]        = "ACTIVE",
161                 [IB_PORT_ACTIVE_DEFER]  = "ACTIVE_DEFER"
162         };
163
164         ret = ib_query_port(p->ibdev, p->port_num, &attr);
165         if (ret)
166                 return ret;
167
168         return sprintf(buf, "%d: %s\n", attr.state,
169                        attr.state >= 0 && attr.state < ARRAY_SIZE(state_name) ?
170                        state_name[attr.state] : "UNKNOWN");
171 }
172
173 static ssize_t lid_show(struct ib_port *p, struct port_attribute *unused,
174                         char *buf)
175 {
176         struct ib_port_attr attr;
177         ssize_t ret;
178
179         ret = ib_query_port(p->ibdev, p->port_num, &attr);
180         if (ret)
181                 return ret;
182
183         return sprintf(buf, "0x%x\n", attr.lid);
184 }
185
186 static ssize_t lid_mask_count_show(struct ib_port *p,
187                                    struct port_attribute *unused,
188                                    char *buf)
189 {
190         struct ib_port_attr attr;
191         ssize_t ret;
192
193         ret = ib_query_port(p->ibdev, p->port_num, &attr);
194         if (ret)
195                 return ret;
196
197         return sprintf(buf, "%d\n", attr.lmc);
198 }
199
200 static ssize_t sm_lid_show(struct ib_port *p, struct port_attribute *unused,
201                            char *buf)
202 {
203         struct ib_port_attr attr;
204         ssize_t ret;
205
206         ret = ib_query_port(p->ibdev, p->port_num, &attr);
207         if (ret)
208                 return ret;
209
210         return sprintf(buf, "0x%x\n", attr.sm_lid);
211 }
212
213 static ssize_t sm_sl_show(struct ib_port *p, struct port_attribute *unused,
214                           char *buf)
215 {
216         struct ib_port_attr attr;
217         ssize_t ret;
218
219         ret = ib_query_port(p->ibdev, p->port_num, &attr);
220         if (ret)
221                 return ret;
222
223         return sprintf(buf, "%d\n", attr.sm_sl);
224 }
225
226 static ssize_t cap_mask_show(struct ib_port *p, struct port_attribute *unused,
227                              char *buf)
228 {
229         struct ib_port_attr attr;
230         ssize_t ret;
231
232         ret = ib_query_port(p->ibdev, p->port_num, &attr);
233         if (ret)
234                 return ret;
235
236         return sprintf(buf, "0x%08x\n", attr.port_cap_flags);
237 }
238
239 static ssize_t rate_show(struct ib_port *p, struct port_attribute *unused,
240                          char *buf)
241 {
242         struct ib_port_attr attr;
243         char *speed = "";
244         int rate;               /* in deci-Gb/sec */
245         ssize_t ret;
246
247         ret = ib_query_port(p->ibdev, p->port_num, &attr);
248         if (ret)
249                 return ret;
250
251         switch (attr.active_speed) {
252         case IB_SPEED_DDR:
253                 speed = " DDR";
254                 rate = 50;
255                 break;
256         case IB_SPEED_QDR:
257                 speed = " QDR";
258                 rate = 100;
259                 break;
260         case IB_SPEED_FDR10:
261                 speed = " FDR10";
262                 rate = 100;
263                 break;
264         case IB_SPEED_FDR:
265                 speed = " FDR";
266                 rate = 140;
267                 break;
268         case IB_SPEED_EDR:
269                 speed = " EDR";
270                 rate = 250;
271                 break;
272         case IB_SPEED_HDR:
273                 speed = " HDR";
274                 rate = 500;
275                 break;
276         case IB_SPEED_SDR:
277         default:                /* default to SDR for invalid rates */
278                 speed = " SDR";
279                 rate = 25;
280                 break;
281         }
282
283         rate *= ib_width_enum_to_int(attr.active_width);
284         if (rate < 0)
285                 return -EINVAL;
286
287         return sprintf(buf, "%d%s Gb/sec (%dX%s)\n",
288                        rate / 10, rate % 10 ? ".5" : "",
289                        ib_width_enum_to_int(attr.active_width), speed);
290 }
291
292 static const char *phys_state_to_str(enum ib_port_phys_state phys_state)
293 {
294         static const char * phys_state_str[] = {
295                 "<unknown>",
296                 "Sleep",
297                 "Polling",
298                 "Disabled",
299                 "PortConfigurationTraining",
300                 "LinkUp",
301                 "LinkErrorRecovery",
302                 "Phy Test",
303         };
304
305         if (phys_state < ARRAY_SIZE(phys_state_str))
306                 return phys_state_str[phys_state];
307         return "<unknown>";
308 }
309
310 static ssize_t phys_state_show(struct ib_port *p, struct port_attribute *unused,
311                                char *buf)
312 {
313         struct ib_port_attr attr;
314
315         ssize_t ret;
316
317         ret = ib_query_port(p->ibdev, p->port_num, &attr);
318         if (ret)
319                 return ret;
320
321         return sprintf(buf, "%d: %s\n", attr.phys_state,
322                        phys_state_to_str(attr.phys_state));
323 }
324
325 static ssize_t link_layer_show(struct ib_port *p, struct port_attribute *unused,
326                                char *buf)
327 {
328         switch (rdma_port_get_link_layer(p->ibdev, p->port_num)) {
329         case IB_LINK_LAYER_INFINIBAND:
330                 return sprintf(buf, "%s\n", "InfiniBand");
331         case IB_LINK_LAYER_ETHERNET:
332                 return sprintf(buf, "%s\n", "Ethernet");
333         default:
334                 return sprintf(buf, "%s\n", "Unknown");
335         }
336 }
337
338 static PORT_ATTR_RO(state);
339 static PORT_ATTR_RO(lid);
340 static PORT_ATTR_RO(lid_mask_count);
341 static PORT_ATTR_RO(sm_lid);
342 static PORT_ATTR_RO(sm_sl);
343 static PORT_ATTR_RO(cap_mask);
344 static PORT_ATTR_RO(rate);
345 static PORT_ATTR_RO(phys_state);
346 static PORT_ATTR_RO(link_layer);
347
348 static struct attribute *port_default_attrs[] = {
349         &port_attr_state.attr,
350         &port_attr_lid.attr,
351         &port_attr_lid_mask_count.attr,
352         &port_attr_sm_lid.attr,
353         &port_attr_sm_sl.attr,
354         &port_attr_cap_mask.attr,
355         &port_attr_rate.attr,
356         &port_attr_phys_state.attr,
357         &port_attr_link_layer.attr,
358         NULL
359 };
360
361 static size_t print_ndev(const struct ib_gid_attr *gid_attr, char *buf)
362 {
363         struct net_device *ndev;
364         size_t ret = -EINVAL;
365
366         rcu_read_lock();
367         ndev = rcu_dereference(gid_attr->ndev);
368         if (ndev)
369                 ret = sprintf(buf, "%s\n", ndev->name);
370         rcu_read_unlock();
371         return ret;
372 }
373
374 static size_t print_gid_type(const struct ib_gid_attr *gid_attr, char *buf)
375 {
376         return sprintf(buf, "%s\n", ib_cache_gid_type_str(gid_attr->gid_type));
377 }
378
379 static ssize_t _show_port_gid_attr(
380         struct ib_port *p, struct port_attribute *attr, char *buf,
381         size_t (*print)(const struct ib_gid_attr *gid_attr, char *buf))
382 {
383         struct port_table_attribute *tab_attr =
384                 container_of(attr, struct port_table_attribute, attr);
385         const struct ib_gid_attr *gid_attr;
386         ssize_t ret;
387
388         gid_attr = rdma_get_gid_attr(p->ibdev, p->port_num, tab_attr->index);
389         if (IS_ERR(gid_attr))
390                 return PTR_ERR(gid_attr);
391
392         ret = print(gid_attr, buf);
393         rdma_put_gid_attr(gid_attr);
394         return ret;
395 }
396
397 static ssize_t show_port_gid(struct ib_port *p, struct port_attribute *attr,
398                              char *buf)
399 {
400         struct port_table_attribute *tab_attr =
401                 container_of(attr, struct port_table_attribute, attr);
402         const struct ib_gid_attr *gid_attr;
403         ssize_t ret;
404
405         gid_attr = rdma_get_gid_attr(p->ibdev, p->port_num, tab_attr->index);
406         if (IS_ERR(gid_attr)) {
407                 const union ib_gid zgid = {};
408
409                 /* If reading GID fails, it is likely due to GID entry being
410                  * empty (invalid) or reserved GID in the table.  User space
411                  * expects to read GID table entries as long as it given index
412                  * is within GID table size.  Administrative/debugging tool
413                  * fails to query rest of the GID entries if it hits error
414                  * while querying a GID of the given index.  To avoid user
415                  * space throwing such error on fail to read gid, return zero
416                  * GID as before. This maintains backward compatibility.
417                  */
418                 return sprintf(buf, "%pI6\n", zgid.raw);
419         }
420
421         ret = sprintf(buf, "%pI6\n", gid_attr->gid.raw);
422         rdma_put_gid_attr(gid_attr);
423         return ret;
424 }
425
426 static ssize_t show_port_gid_attr_ndev(struct ib_port *p,
427                                        struct port_attribute *attr, char *buf)
428 {
429         return _show_port_gid_attr(p, attr, buf, print_ndev);
430 }
431
432 static ssize_t show_port_gid_attr_gid_type(struct ib_port *p,
433                                            struct port_attribute *attr,
434                                            char *buf)
435 {
436         return _show_port_gid_attr(p, attr, buf, print_gid_type);
437 }
438
439 static ssize_t show_port_pkey(struct ib_port *p, struct port_attribute *attr,
440                               char *buf)
441 {
442         struct port_table_attribute *tab_attr =
443                 container_of(attr, struct port_table_attribute, attr);
444         u16 pkey;
445         ssize_t ret;
446
447         ret = ib_query_pkey(p->ibdev, p->port_num, tab_attr->index, &pkey);
448         if (ret)
449                 return ret;
450
451         return sprintf(buf, "0x%04x\n", pkey);
452 }
453
454 #define PORT_PMA_ATTR(_name, _counter, _width, _offset)                 \
455 struct port_table_attribute port_pma_attr_##_name = {                   \
456         .attr  = __ATTR(_name, S_IRUGO, show_pma_counter, NULL),        \
457         .index = (_offset) | ((_width) << 16) | ((_counter) << 24),     \
458         .attr_id = IB_PMA_PORT_COUNTERS ,                               \
459 }
460
461 #define PORT_PMA_ATTR_EXT(_name, _width, _offset)                       \
462 struct port_table_attribute port_pma_attr_ext_##_name = {               \
463         .attr  = __ATTR(_name, S_IRUGO, show_pma_counter, NULL),        \
464         .index = (_offset) | ((_width) << 16),                          \
465         .attr_id = IB_PMA_PORT_COUNTERS_EXT ,                           \
466 }
467
468 /*
469  * Get a Perfmgmt MAD block of data.
470  * Returns error code or the number of bytes retrieved.
471  */
472 static int get_perf_mad(struct ib_device *dev, int port_num, __be16 attr,
473                 void *data, int offset, size_t size)
474 {
475         struct ib_mad *in_mad;
476         struct ib_mad *out_mad;
477         size_t mad_size = sizeof(*out_mad);
478         u16 out_mad_pkey_index = 0;
479         ssize_t ret;
480
481         if (!dev->ops.process_mad)
482                 return -ENOSYS;
483
484         in_mad = kzalloc(sizeof(*in_mad), GFP_KERNEL);
485         out_mad = kzalloc(sizeof(*out_mad), GFP_KERNEL);
486         if (!in_mad || !out_mad) {
487                 ret = -ENOMEM;
488                 goto out;
489         }
490
491         in_mad->mad_hdr.base_version  = 1;
492         in_mad->mad_hdr.mgmt_class    = IB_MGMT_CLASS_PERF_MGMT;
493         in_mad->mad_hdr.class_version = 1;
494         in_mad->mad_hdr.method        = IB_MGMT_METHOD_GET;
495         in_mad->mad_hdr.attr_id       = attr;
496
497         if (attr != IB_PMA_CLASS_PORT_INFO)
498                 in_mad->data[41] = port_num;    /* PortSelect field */
499
500         if ((dev->ops.process_mad(dev, IB_MAD_IGNORE_MKEY, port_num, NULL, NULL,
501                                   in_mad, out_mad, &mad_size,
502                                   &out_mad_pkey_index) &
503              (IB_MAD_RESULT_SUCCESS | IB_MAD_RESULT_REPLY)) !=
504             (IB_MAD_RESULT_SUCCESS | IB_MAD_RESULT_REPLY)) {
505                 ret = -EINVAL;
506                 goto out;
507         }
508         memcpy(data, out_mad->data + offset, size);
509         ret = size;
510 out:
511         kfree(in_mad);
512         kfree(out_mad);
513         return ret;
514 }
515
516 static ssize_t show_pma_counter(struct ib_port *p, struct port_attribute *attr,
517                                 char *buf)
518 {
519         struct port_table_attribute *tab_attr =
520                 container_of(attr, struct port_table_attribute, attr);
521         int offset = tab_attr->index & 0xffff;
522         int width  = (tab_attr->index >> 16) & 0xff;
523         ssize_t ret;
524         u8 data[8];
525
526         ret = get_perf_mad(p->ibdev, p->port_num, tab_attr->attr_id, &data,
527                         40 + offset / 8, sizeof(data));
528         if (ret < 0)
529                 return ret;
530
531         switch (width) {
532         case 4:
533                 ret = sprintf(buf, "%u\n", (*data >>
534                                             (4 - (offset % 8))) & 0xf);
535                 break;
536         case 8:
537                 ret = sprintf(buf, "%u\n", *data);
538                 break;
539         case 16:
540                 ret = sprintf(buf, "%u\n",
541                               be16_to_cpup((__be16 *)data));
542                 break;
543         case 32:
544                 ret = sprintf(buf, "%u\n",
545                               be32_to_cpup((__be32 *)data));
546                 break;
547         case 64:
548                 ret = sprintf(buf, "%llu\n",
549                                 be64_to_cpup((__be64 *)data));
550                 break;
551
552         default:
553                 ret = 0;
554         }
555
556         return ret;
557 }
558
559 static PORT_PMA_ATTR(symbol_error                   ,  0, 16,  32);
560 static PORT_PMA_ATTR(link_error_recovery            ,  1,  8,  48);
561 static PORT_PMA_ATTR(link_downed                    ,  2,  8,  56);
562 static PORT_PMA_ATTR(port_rcv_errors                ,  3, 16,  64);
563 static PORT_PMA_ATTR(port_rcv_remote_physical_errors,  4, 16,  80);
564 static PORT_PMA_ATTR(port_rcv_switch_relay_errors   ,  5, 16,  96);
565 static PORT_PMA_ATTR(port_xmit_discards             ,  6, 16, 112);
566 static PORT_PMA_ATTR(port_xmit_constraint_errors    ,  7,  8, 128);
567 static PORT_PMA_ATTR(port_rcv_constraint_errors     ,  8,  8, 136);
568 static PORT_PMA_ATTR(local_link_integrity_errors    ,  9,  4, 152);
569 static PORT_PMA_ATTR(excessive_buffer_overrun_errors, 10,  4, 156);
570 static PORT_PMA_ATTR(VL15_dropped                   , 11, 16, 176);
571 static PORT_PMA_ATTR(port_xmit_data                 , 12, 32, 192);
572 static PORT_PMA_ATTR(port_rcv_data                  , 13, 32, 224);
573 static PORT_PMA_ATTR(port_xmit_packets              , 14, 32, 256);
574 static PORT_PMA_ATTR(port_rcv_packets               , 15, 32, 288);
575 static PORT_PMA_ATTR(port_xmit_wait                 ,  0, 32, 320);
576
577 /*
578  * Counters added by extended set
579  */
580 static PORT_PMA_ATTR_EXT(port_xmit_data             , 64,  64);
581 static PORT_PMA_ATTR_EXT(port_rcv_data              , 64, 128);
582 static PORT_PMA_ATTR_EXT(port_xmit_packets          , 64, 192);
583 static PORT_PMA_ATTR_EXT(port_rcv_packets           , 64, 256);
584 static PORT_PMA_ATTR_EXT(unicast_xmit_packets       , 64, 320);
585 static PORT_PMA_ATTR_EXT(unicast_rcv_packets        , 64, 384);
586 static PORT_PMA_ATTR_EXT(multicast_xmit_packets     , 64, 448);
587 static PORT_PMA_ATTR_EXT(multicast_rcv_packets      , 64, 512);
588
589 static struct attribute *pma_attrs[] = {
590         &port_pma_attr_symbol_error.attr.attr,
591         &port_pma_attr_link_error_recovery.attr.attr,
592         &port_pma_attr_link_downed.attr.attr,
593         &port_pma_attr_port_rcv_errors.attr.attr,
594         &port_pma_attr_port_rcv_remote_physical_errors.attr.attr,
595         &port_pma_attr_port_rcv_switch_relay_errors.attr.attr,
596         &port_pma_attr_port_xmit_discards.attr.attr,
597         &port_pma_attr_port_xmit_constraint_errors.attr.attr,
598         &port_pma_attr_port_rcv_constraint_errors.attr.attr,
599         &port_pma_attr_local_link_integrity_errors.attr.attr,
600         &port_pma_attr_excessive_buffer_overrun_errors.attr.attr,
601         &port_pma_attr_VL15_dropped.attr.attr,
602         &port_pma_attr_port_xmit_data.attr.attr,
603         &port_pma_attr_port_rcv_data.attr.attr,
604         &port_pma_attr_port_xmit_packets.attr.attr,
605         &port_pma_attr_port_rcv_packets.attr.attr,
606         &port_pma_attr_port_xmit_wait.attr.attr,
607         NULL
608 };
609
610 static struct attribute *pma_attrs_ext[] = {
611         &port_pma_attr_symbol_error.attr.attr,
612         &port_pma_attr_link_error_recovery.attr.attr,
613         &port_pma_attr_link_downed.attr.attr,
614         &port_pma_attr_port_rcv_errors.attr.attr,
615         &port_pma_attr_port_rcv_remote_physical_errors.attr.attr,
616         &port_pma_attr_port_rcv_switch_relay_errors.attr.attr,
617         &port_pma_attr_port_xmit_discards.attr.attr,
618         &port_pma_attr_port_xmit_constraint_errors.attr.attr,
619         &port_pma_attr_port_rcv_constraint_errors.attr.attr,
620         &port_pma_attr_local_link_integrity_errors.attr.attr,
621         &port_pma_attr_excessive_buffer_overrun_errors.attr.attr,
622         &port_pma_attr_VL15_dropped.attr.attr,
623         &port_pma_attr_ext_port_xmit_data.attr.attr,
624         &port_pma_attr_ext_port_rcv_data.attr.attr,
625         &port_pma_attr_ext_port_xmit_packets.attr.attr,
626         &port_pma_attr_port_xmit_wait.attr.attr,
627         &port_pma_attr_ext_port_rcv_packets.attr.attr,
628         &port_pma_attr_ext_unicast_rcv_packets.attr.attr,
629         &port_pma_attr_ext_unicast_xmit_packets.attr.attr,
630         &port_pma_attr_ext_multicast_rcv_packets.attr.attr,
631         &port_pma_attr_ext_multicast_xmit_packets.attr.attr,
632         NULL
633 };
634
635 static struct attribute *pma_attrs_noietf[] = {
636         &port_pma_attr_symbol_error.attr.attr,
637         &port_pma_attr_link_error_recovery.attr.attr,
638         &port_pma_attr_link_downed.attr.attr,
639         &port_pma_attr_port_rcv_errors.attr.attr,
640         &port_pma_attr_port_rcv_remote_physical_errors.attr.attr,
641         &port_pma_attr_port_rcv_switch_relay_errors.attr.attr,
642         &port_pma_attr_port_xmit_discards.attr.attr,
643         &port_pma_attr_port_xmit_constraint_errors.attr.attr,
644         &port_pma_attr_port_rcv_constraint_errors.attr.attr,
645         &port_pma_attr_local_link_integrity_errors.attr.attr,
646         &port_pma_attr_excessive_buffer_overrun_errors.attr.attr,
647         &port_pma_attr_VL15_dropped.attr.attr,
648         &port_pma_attr_ext_port_xmit_data.attr.attr,
649         &port_pma_attr_ext_port_rcv_data.attr.attr,
650         &port_pma_attr_ext_port_xmit_packets.attr.attr,
651         &port_pma_attr_ext_port_rcv_packets.attr.attr,
652         &port_pma_attr_port_xmit_wait.attr.attr,
653         NULL
654 };
655
656 static struct attribute_group pma_group = {
657         .name  = "counters",
658         .attrs  = pma_attrs
659 };
660
661 static struct attribute_group pma_group_ext = {
662         .name  = "counters",
663         .attrs  = pma_attrs_ext
664 };
665
666 static struct attribute_group pma_group_noietf = {
667         .name  = "counters",
668         .attrs  = pma_attrs_noietf
669 };
670
671 static void ib_port_release(struct kobject *kobj)
672 {
673         struct ib_port *p = container_of(kobj, struct ib_port, kobj);
674         struct attribute *a;
675         int i;
676
677         if (p->gid_group.attrs) {
678                 for (i = 0; (a = p->gid_group.attrs[i]); ++i)
679                         kfree(a);
680
681                 kfree(p->gid_group.attrs);
682         }
683
684         if (p->pkey_group) {
685                 if (p->pkey_group->attrs) {
686                         for (i = 0; (a = p->pkey_group->attrs[i]); ++i)
687                                 kfree(a);
688
689                         kfree(p->pkey_group->attrs);
690                 }
691
692                 kfree(p->pkey_group);
693                 p->pkey_group = NULL;
694         }
695
696         kfree(p);
697 }
698
699 static void ib_port_gid_attr_release(struct kobject *kobj)
700 {
701         struct gid_attr_group *g = container_of(kobj, struct gid_attr_group,
702                                                 kobj);
703         struct attribute *a;
704         int i;
705
706         if (g->ndev.attrs) {
707                 for (i = 0; (a = g->ndev.attrs[i]); ++i)
708                         kfree(a);
709
710                 kfree(g->ndev.attrs);
711         }
712
713         if (g->type.attrs) {
714                 for (i = 0; (a = g->type.attrs[i]); ++i)
715                         kfree(a);
716
717                 kfree(g->type.attrs);
718         }
719
720         kfree(g);
721 }
722
723 static struct kobj_type port_type = {
724         .release       = ib_port_release,
725         .sysfs_ops     = &port_sysfs_ops,
726         .default_attrs = port_default_attrs
727 };
728
729 static struct kobj_type gid_attr_type = {
730         .sysfs_ops      = &gid_attr_sysfs_ops,
731         .release        = ib_port_gid_attr_release
732 };
733
734 static struct attribute **
735 alloc_group_attrs(ssize_t (*show)(struct ib_port *,
736                                   struct port_attribute *, char *buf),
737                   int len)
738 {
739         struct attribute **tab_attr;
740         struct port_table_attribute *element;
741         int i;
742
743         tab_attr = kcalloc(1 + len, sizeof(struct attribute *), GFP_KERNEL);
744         if (!tab_attr)
745                 return NULL;
746
747         for (i = 0; i < len; i++) {
748                 element = kzalloc(sizeof(struct port_table_attribute),
749                                   GFP_KERNEL);
750                 if (!element)
751                         goto err;
752
753                 if (snprintf(element->name, sizeof(element->name),
754                              "%d", i) >= sizeof(element->name)) {
755                         kfree(element);
756                         goto err;
757                 }
758
759                 element->attr.attr.name  = element->name;
760                 element->attr.attr.mode  = S_IRUGO;
761                 element->attr.show       = show;
762                 element->index           = i;
763                 sysfs_attr_init(&element->attr.attr);
764
765                 tab_attr[i] = &element->attr.attr;
766         }
767
768         return tab_attr;
769
770 err:
771         while (--i >= 0)
772                 kfree(tab_attr[i]);
773         kfree(tab_attr);
774         return NULL;
775 }
776
777 /*
778  * Figure out which counter table to use depending on
779  * the device capabilities.
780  */
781 static struct attribute_group *get_counter_table(struct ib_device *dev,
782                                                  int port_num)
783 {
784         struct ib_class_port_info cpi;
785
786         if (get_perf_mad(dev, port_num, IB_PMA_CLASS_PORT_INFO,
787                                 &cpi, 40, sizeof(cpi)) >= 0) {
788                 if (cpi.capability_mask & IB_PMA_CLASS_CAP_EXT_WIDTH)
789                         /* We have extended counters */
790                         return &pma_group_ext;
791
792                 if (cpi.capability_mask & IB_PMA_CLASS_CAP_EXT_WIDTH_NOIETF)
793                         /* But not the IETF ones */
794                         return &pma_group_noietf;
795         }
796
797         /* Fall back to normal counters */
798         return &pma_group;
799 }
800
801 static int update_hw_stats(struct ib_device *dev, struct rdma_hw_stats *stats,
802                            u8 port_num, int index)
803 {
804         int ret;
805
806         if (time_is_after_eq_jiffies(stats->timestamp + stats->lifespan))
807                 return 0;
808         ret = dev->ops.get_hw_stats(dev, stats, port_num, index);
809         if (ret < 0)
810                 return ret;
811         if (ret == stats->num_counters)
812                 stats->timestamp = jiffies;
813
814         return 0;
815 }
816
817 static ssize_t print_hw_stat(struct ib_device *dev, int port_num,
818                              struct rdma_hw_stats *stats, int index, char *buf)
819 {
820         u64 v = rdma_counter_get_hwstat_value(dev, port_num, index);
821
822         return sprintf(buf, "%llu\n", stats->value[index] + v);
823 }
824
825 static ssize_t show_hw_stats(struct kobject *kobj, struct attribute *attr,
826                              char *buf)
827 {
828         struct ib_device *dev;
829         struct ib_port *port;
830         struct hw_stats_attribute *hsa;
831         struct rdma_hw_stats *stats;
832         int ret;
833
834         hsa = container_of(attr, struct hw_stats_attribute, attr);
835         if (!hsa->port_num) {
836                 dev = container_of((struct device *)kobj,
837                                    struct ib_device, dev);
838                 stats = dev->hw_stats;
839         } else {
840                 port = container_of(kobj, struct ib_port, kobj);
841                 dev = port->ibdev;
842                 stats = port->hw_stats;
843         }
844         mutex_lock(&stats->lock);
845         ret = update_hw_stats(dev, stats, hsa->port_num, hsa->index);
846         if (ret)
847                 goto unlock;
848         ret = print_hw_stat(dev, hsa->port_num, stats, hsa->index, buf);
849 unlock:
850         mutex_unlock(&stats->lock);
851
852         return ret;
853 }
854
855 static ssize_t show_stats_lifespan(struct kobject *kobj,
856                                    struct attribute *attr,
857                                    char *buf)
858 {
859         struct hw_stats_attribute *hsa;
860         struct rdma_hw_stats *stats;
861         int msecs;
862
863         hsa = container_of(attr, struct hw_stats_attribute, attr);
864         if (!hsa->port_num) {
865                 struct ib_device *dev = container_of((struct device *)kobj,
866                                                      struct ib_device, dev);
867
868                 stats = dev->hw_stats;
869         } else {
870                 struct ib_port *p = container_of(kobj, struct ib_port, kobj);
871
872                 stats = p->hw_stats;
873         }
874
875         mutex_lock(&stats->lock);
876         msecs = jiffies_to_msecs(stats->lifespan);
877         mutex_unlock(&stats->lock);
878
879         return sprintf(buf, "%d\n", msecs);
880 }
881
882 static ssize_t set_stats_lifespan(struct kobject *kobj,
883                                   struct attribute *attr,
884                                   const char *buf, size_t count)
885 {
886         struct hw_stats_attribute *hsa;
887         struct rdma_hw_stats *stats;
888         int msecs;
889         int jiffies;
890         int ret;
891
892         ret = kstrtoint(buf, 10, &msecs);
893         if (ret)
894                 return ret;
895         if (msecs < 0 || msecs > 10000)
896                 return -EINVAL;
897         jiffies = msecs_to_jiffies(msecs);
898         hsa = container_of(attr, struct hw_stats_attribute, attr);
899         if (!hsa->port_num) {
900                 struct ib_device *dev = container_of((struct device *)kobj,
901                                                      struct ib_device, dev);
902
903                 stats = dev->hw_stats;
904         } else {
905                 struct ib_port *p = container_of(kobj, struct ib_port, kobj);
906
907                 stats = p->hw_stats;
908         }
909
910         mutex_lock(&stats->lock);
911         stats->lifespan = jiffies;
912         mutex_unlock(&stats->lock);
913
914         return count;
915 }
916
917 static void free_hsag(struct kobject *kobj, struct attribute_group *attr_group)
918 {
919         struct attribute **attr;
920
921         sysfs_remove_group(kobj, attr_group);
922
923         for (attr = attr_group->attrs; *attr; attr++)
924                 kfree(*attr);
925         kfree(attr_group);
926 }
927
928 static struct attribute *alloc_hsa(int index, u8 port_num, const char *name)
929 {
930         struct hw_stats_attribute *hsa;
931
932         hsa = kmalloc(sizeof(*hsa), GFP_KERNEL);
933         if (!hsa)
934                 return NULL;
935
936         hsa->attr.name = (char *)name;
937         hsa->attr.mode = S_IRUGO;
938         hsa->show = show_hw_stats;
939         hsa->store = NULL;
940         hsa->index = index;
941         hsa->port_num = port_num;
942
943         return &hsa->attr;
944 }
945
946 static struct attribute *alloc_hsa_lifespan(char *name, u8 port_num)
947 {
948         struct hw_stats_attribute *hsa;
949
950         hsa = kmalloc(sizeof(*hsa), GFP_KERNEL);
951         if (!hsa)
952                 return NULL;
953
954         hsa->attr.name = name;
955         hsa->attr.mode = S_IWUSR | S_IRUGO;
956         hsa->show = show_stats_lifespan;
957         hsa->store = set_stats_lifespan;
958         hsa->index = 0;
959         hsa->port_num = port_num;
960
961         return &hsa->attr;
962 }
963
964 static void setup_hw_stats(struct ib_device *device, struct ib_port *port,
965                            u8 port_num)
966 {
967         struct attribute_group *hsag;
968         struct rdma_hw_stats *stats;
969         int i, ret;
970
971         stats = device->ops.alloc_hw_stats(device, port_num);
972
973         if (!stats)
974                 return;
975
976         if (!stats->names || stats->num_counters <= 0)
977                 goto err_free_stats;
978
979         /*
980          * Two extra attribue elements here, one for the lifespan entry and
981          * one to NULL terminate the list for the sysfs core code
982          */
983         hsag = kzalloc(sizeof(*hsag) +
984                        sizeof(void *) * (stats->num_counters + 2),
985                        GFP_KERNEL);
986         if (!hsag)
987                 goto err_free_stats;
988
989         ret = device->ops.get_hw_stats(device, stats, port_num,
990                                        stats->num_counters);
991         if (ret != stats->num_counters)
992                 goto err_free_hsag;
993
994         stats->timestamp = jiffies;
995
996         hsag->name = "hw_counters";
997         hsag->attrs = (void *)hsag + sizeof(*hsag);
998
999         for (i = 0; i < stats->num_counters; i++) {
1000                 hsag->attrs[i] = alloc_hsa(i, port_num, stats->names[i]);
1001                 if (!hsag->attrs[i])
1002                         goto err;
1003                 sysfs_attr_init(hsag->attrs[i]);
1004         }
1005
1006         mutex_init(&stats->lock);
1007         /* treat an error here as non-fatal */
1008         hsag->attrs[i] = alloc_hsa_lifespan("lifespan", port_num);
1009         if (hsag->attrs[i])
1010                 sysfs_attr_init(hsag->attrs[i]);
1011
1012         if (port) {
1013                 struct kobject *kobj = &port->kobj;
1014                 ret = sysfs_create_group(kobj, hsag);
1015                 if (ret)
1016                         goto err;
1017                 port->hw_stats_ag = hsag;
1018                 port->hw_stats = stats;
1019                 if (device->port_data)
1020                         device->port_data[port_num].hw_stats = stats;
1021         } else {
1022                 struct kobject *kobj = &device->dev.kobj;
1023                 ret = sysfs_create_group(kobj, hsag);
1024                 if (ret)
1025                         goto err;
1026                 device->hw_stats_ag = hsag;
1027                 device->hw_stats = stats;
1028         }
1029
1030         return;
1031
1032 err:
1033         for (; i >= 0; i--)
1034                 kfree(hsag->attrs[i]);
1035 err_free_hsag:
1036         kfree(hsag);
1037 err_free_stats:
1038         kfree(stats);
1039         return;
1040 }
1041
1042 static int add_port(struct ib_core_device *coredev, int port_num)
1043 {
1044         struct ib_device *device = rdma_device_to_ibdev(&coredev->dev);
1045         bool is_full_dev = &device->coredev == coredev;
1046         struct ib_port *p;
1047         struct ib_port_attr attr;
1048         int i;
1049         int ret;
1050
1051         ret = ib_query_port(device, port_num, &attr);
1052         if (ret)
1053                 return ret;
1054
1055         p = kzalloc(sizeof *p, GFP_KERNEL);
1056         if (!p)
1057                 return -ENOMEM;
1058
1059         p->ibdev      = device;
1060         p->port_num   = port_num;
1061
1062         ret = kobject_init_and_add(&p->kobj, &port_type,
1063                                    coredev->ports_kobj,
1064                                    "%d", port_num);
1065         if (ret) {
1066                 goto err_put;
1067         }
1068
1069         p->gid_attr_group = kzalloc(sizeof(*p->gid_attr_group), GFP_KERNEL);
1070         if (!p->gid_attr_group) {
1071                 ret = -ENOMEM;
1072                 goto err_put;
1073         }
1074
1075         p->gid_attr_group->port = p;
1076         ret = kobject_init_and_add(&p->gid_attr_group->kobj, &gid_attr_type,
1077                                    &p->kobj, "gid_attrs");
1078         if (ret) {
1079                 goto err_put_gid_attrs;
1080         }
1081
1082         if (device->ops.process_mad && is_full_dev) {
1083                 p->pma_table = get_counter_table(device, port_num);
1084                 ret = sysfs_create_group(&p->kobj, p->pma_table);
1085                 if (ret)
1086                         goto err_put_gid_attrs;
1087         }
1088
1089         p->gid_group.name  = "gids";
1090         p->gid_group.attrs = alloc_group_attrs(show_port_gid, attr.gid_tbl_len);
1091         if (!p->gid_group.attrs) {
1092                 ret = -ENOMEM;
1093                 goto err_remove_pma;
1094         }
1095
1096         ret = sysfs_create_group(&p->kobj, &p->gid_group);
1097         if (ret)
1098                 goto err_free_gid;
1099
1100         p->gid_attr_group->ndev.name = "ndevs";
1101         p->gid_attr_group->ndev.attrs = alloc_group_attrs(show_port_gid_attr_ndev,
1102                                                           attr.gid_tbl_len);
1103         if (!p->gid_attr_group->ndev.attrs) {
1104                 ret = -ENOMEM;
1105                 goto err_remove_gid;
1106         }
1107
1108         ret = sysfs_create_group(&p->gid_attr_group->kobj,
1109                                  &p->gid_attr_group->ndev);
1110         if (ret)
1111                 goto err_free_gid_ndev;
1112
1113         p->gid_attr_group->type.name = "types";
1114         p->gid_attr_group->type.attrs = alloc_group_attrs(show_port_gid_attr_gid_type,
1115                                                           attr.gid_tbl_len);
1116         if (!p->gid_attr_group->type.attrs) {
1117                 ret = -ENOMEM;
1118                 goto err_remove_gid_ndev;
1119         }
1120
1121         ret = sysfs_create_group(&p->gid_attr_group->kobj,
1122                                  &p->gid_attr_group->type);
1123         if (ret)
1124                 goto err_free_gid_type;
1125
1126         if (attr.pkey_tbl_len) {
1127                 p->pkey_group = kzalloc(sizeof(*p->pkey_group), GFP_KERNEL);
1128                 if (!p->pkey_group) {
1129                         ret = -ENOMEM;
1130                         goto err_remove_gid_type;
1131                 }
1132
1133                 p->pkey_group->name  = "pkeys";
1134                 p->pkey_group->attrs = alloc_group_attrs(show_port_pkey,
1135                                                          attr.pkey_tbl_len);
1136                 if (!p->pkey_group->attrs) {
1137                         ret = -ENOMEM;
1138                         goto err_free_pkey_group;
1139                 }
1140
1141                 ret = sysfs_create_group(&p->kobj, p->pkey_group);
1142                 if (ret)
1143                         goto err_free_pkey;
1144         }
1145
1146
1147         if (device->ops.init_port && is_full_dev) {
1148                 ret = device->ops.init_port(device, port_num, &p->kobj);
1149                 if (ret)
1150                         goto err_remove_pkey;
1151         }
1152
1153         /*
1154          * If port == 0, it means hw_counters are per device and not per
1155          * port, so holder should be device. Therefore skip per port conunter
1156          * initialization.
1157          */
1158         if (device->ops.alloc_hw_stats && port_num && is_full_dev)
1159                 setup_hw_stats(device, p, port_num);
1160
1161         list_add_tail(&p->kobj.entry, &coredev->port_list);
1162
1163         kobject_uevent(&p->kobj, KOBJ_ADD);
1164         return 0;
1165
1166 err_remove_pkey:
1167         if (p->pkey_group)
1168                 sysfs_remove_group(&p->kobj, p->pkey_group);
1169
1170 err_free_pkey:
1171         if (p->pkey_group) {
1172                 for (i = 0; i < attr.pkey_tbl_len; ++i)
1173                         kfree(p->pkey_group->attrs[i]);
1174
1175                 kfree(p->pkey_group->attrs);
1176                 p->pkey_group->attrs = NULL;
1177         }
1178
1179 err_free_pkey_group:
1180         kfree(p->pkey_group);
1181
1182 err_remove_gid_type:
1183         sysfs_remove_group(&p->gid_attr_group->kobj,
1184                            &p->gid_attr_group->type);
1185
1186 err_free_gid_type:
1187         for (i = 0; i < attr.gid_tbl_len; ++i)
1188                 kfree(p->gid_attr_group->type.attrs[i]);
1189
1190         kfree(p->gid_attr_group->type.attrs);
1191         p->gid_attr_group->type.attrs = NULL;
1192
1193 err_remove_gid_ndev:
1194         sysfs_remove_group(&p->gid_attr_group->kobj,
1195                            &p->gid_attr_group->ndev);
1196
1197 err_free_gid_ndev:
1198         for (i = 0; i < attr.gid_tbl_len; ++i)
1199                 kfree(p->gid_attr_group->ndev.attrs[i]);
1200
1201         kfree(p->gid_attr_group->ndev.attrs);
1202         p->gid_attr_group->ndev.attrs = NULL;
1203
1204 err_remove_gid:
1205         sysfs_remove_group(&p->kobj, &p->gid_group);
1206
1207 err_free_gid:
1208         for (i = 0; i < attr.gid_tbl_len; ++i)
1209                 kfree(p->gid_group.attrs[i]);
1210
1211         kfree(p->gid_group.attrs);
1212         p->gid_group.attrs = NULL;
1213
1214 err_remove_pma:
1215         if (p->pma_table)
1216                 sysfs_remove_group(&p->kobj, p->pma_table);
1217
1218 err_put_gid_attrs:
1219         kobject_put(&p->gid_attr_group->kobj);
1220
1221 err_put:
1222         kobject_put(&p->kobj);
1223         return ret;
1224 }
1225
1226 static ssize_t node_type_show(struct device *device,
1227                               struct device_attribute *attr, char *buf)
1228 {
1229         struct ib_device *dev = rdma_device_to_ibdev(device);
1230
1231         switch (dev->node_type) {
1232         case RDMA_NODE_IB_CA:     return sprintf(buf, "%d: CA\n", dev->node_type);
1233         case RDMA_NODE_RNIC:      return sprintf(buf, "%d: RNIC\n", dev->node_type);
1234         case RDMA_NODE_USNIC:     return sprintf(buf, "%d: usNIC\n", dev->node_type);
1235         case RDMA_NODE_USNIC_UDP: return sprintf(buf, "%d: usNIC UDP\n", dev->node_type);
1236         case RDMA_NODE_UNSPECIFIED: return sprintf(buf, "%d: unspecified\n", dev->node_type);
1237         case RDMA_NODE_IB_SWITCH: return sprintf(buf, "%d: switch\n", dev->node_type);
1238         case RDMA_NODE_IB_ROUTER: return sprintf(buf, "%d: router\n", dev->node_type);
1239         default:                  return sprintf(buf, "%d: <unknown>\n", dev->node_type);
1240         }
1241 }
1242 static DEVICE_ATTR_RO(node_type);
1243
1244 static ssize_t sys_image_guid_show(struct device *device,
1245                                    struct device_attribute *dev_attr, char *buf)
1246 {
1247         struct ib_device *dev = rdma_device_to_ibdev(device);
1248
1249         return sprintf(buf, "%04x:%04x:%04x:%04x\n",
1250                        be16_to_cpu(((__be16 *) &dev->attrs.sys_image_guid)[0]),
1251                        be16_to_cpu(((__be16 *) &dev->attrs.sys_image_guid)[1]),
1252                        be16_to_cpu(((__be16 *) &dev->attrs.sys_image_guid)[2]),
1253                        be16_to_cpu(((__be16 *) &dev->attrs.sys_image_guid)[3]));
1254 }
1255 static DEVICE_ATTR_RO(sys_image_guid);
1256
1257 static ssize_t node_guid_show(struct device *device,
1258                               struct device_attribute *attr, char *buf)
1259 {
1260         struct ib_device *dev = rdma_device_to_ibdev(device);
1261
1262         return sprintf(buf, "%04x:%04x:%04x:%04x\n",
1263                        be16_to_cpu(((__be16 *) &dev->node_guid)[0]),
1264                        be16_to_cpu(((__be16 *) &dev->node_guid)[1]),
1265                        be16_to_cpu(((__be16 *) &dev->node_guid)[2]),
1266                        be16_to_cpu(((__be16 *) &dev->node_guid)[3]));
1267 }
1268 static DEVICE_ATTR_RO(node_guid);
1269
1270 static ssize_t node_desc_show(struct device *device,
1271                               struct device_attribute *attr, char *buf)
1272 {
1273         struct ib_device *dev = rdma_device_to_ibdev(device);
1274
1275         return sprintf(buf, "%.64s\n", dev->node_desc);
1276 }
1277
1278 static ssize_t node_desc_store(struct device *device,
1279                                struct device_attribute *attr,
1280                                const char *buf, size_t count)
1281 {
1282         struct ib_device *dev = rdma_device_to_ibdev(device);
1283         struct ib_device_modify desc = {};
1284         int ret;
1285
1286         if (!dev->ops.modify_device)
1287                 return -EOPNOTSUPP;
1288
1289         memcpy(desc.node_desc, buf, min_t(int, count, IB_DEVICE_NODE_DESC_MAX));
1290         ret = ib_modify_device(dev, IB_DEVICE_MODIFY_NODE_DESC, &desc);
1291         if (ret)
1292                 return ret;
1293
1294         return count;
1295 }
1296 static DEVICE_ATTR_RW(node_desc);
1297
1298 static ssize_t fw_ver_show(struct device *device, struct device_attribute *attr,
1299                            char *buf)
1300 {
1301         struct ib_device *dev = rdma_device_to_ibdev(device);
1302
1303         ib_get_device_fw_str(dev, buf);
1304         strlcat(buf, "\n", IB_FW_VERSION_NAME_MAX);
1305         return strlen(buf);
1306 }
1307 static DEVICE_ATTR_RO(fw_ver);
1308
1309 static struct attribute *ib_dev_attrs[] = {
1310         &dev_attr_node_type.attr,
1311         &dev_attr_node_guid.attr,
1312         &dev_attr_sys_image_guid.attr,
1313         &dev_attr_fw_ver.attr,
1314         &dev_attr_node_desc.attr,
1315         NULL,
1316 };
1317
1318 const struct attribute_group ib_dev_attr_group = {
1319         .attrs = ib_dev_attrs,
1320 };
1321
1322 void ib_free_port_attrs(struct ib_core_device *coredev)
1323 {
1324         struct ib_device *device = rdma_device_to_ibdev(&coredev->dev);
1325         bool is_full_dev = &device->coredev == coredev;
1326         struct kobject *p, *t;
1327
1328         list_for_each_entry_safe(p, t, &coredev->port_list, entry) {
1329                 struct ib_port *port = container_of(p, struct ib_port, kobj);
1330
1331                 list_del(&p->entry);
1332                 if (port->hw_stats_ag)
1333                         free_hsag(&port->kobj, port->hw_stats_ag);
1334                 kfree(port->hw_stats);
1335                 if (device->port_data && is_full_dev)
1336                         device->port_data[port->port_num].hw_stats = NULL;
1337
1338                 if (port->pma_table)
1339                         sysfs_remove_group(p, port->pma_table);
1340                 if (port->pkey_group)
1341                         sysfs_remove_group(p, port->pkey_group);
1342                 sysfs_remove_group(p, &port->gid_group);
1343                 sysfs_remove_group(&port->gid_attr_group->kobj,
1344                                    &port->gid_attr_group->ndev);
1345                 sysfs_remove_group(&port->gid_attr_group->kobj,
1346                                    &port->gid_attr_group->type);
1347                 kobject_put(&port->gid_attr_group->kobj);
1348                 kobject_put(p);
1349         }
1350
1351         kobject_put(coredev->ports_kobj);
1352 }
1353
1354 int ib_setup_port_attrs(struct ib_core_device *coredev)
1355 {
1356         struct ib_device *device = rdma_device_to_ibdev(&coredev->dev);
1357         unsigned int port;
1358         int ret;
1359
1360         coredev->ports_kobj = kobject_create_and_add("ports",
1361                                                      &coredev->dev.kobj);
1362         if (!coredev->ports_kobj)
1363                 return -ENOMEM;
1364
1365         rdma_for_each_port (device, port) {
1366                 ret = add_port(coredev, port);
1367                 if (ret)
1368                         goto err_put;
1369         }
1370
1371         return 0;
1372
1373 err_put:
1374         ib_free_port_attrs(coredev);
1375         return ret;
1376 }
1377
1378 int ib_device_register_sysfs(struct ib_device *device)
1379 {
1380         int ret;
1381
1382         ret = ib_setup_port_attrs(&device->coredev);
1383         if (ret)
1384                 return ret;
1385
1386         if (device->ops.alloc_hw_stats)
1387                 setup_hw_stats(device, NULL, 0);
1388
1389         return 0;
1390 }
1391
1392 void ib_device_unregister_sysfs(struct ib_device *device)
1393 {
1394         if (device->hw_stats_ag)
1395                 free_hsag(&device->dev.kobj, device->hw_stats_ag);
1396         kfree(device->hw_stats);
1397
1398         ib_free_port_attrs(&device->coredev);
1399 }
1400
1401 /**
1402  * ib_port_register_module_stat - add module counters under relevant port
1403  *  of IB device.
1404  *
1405  * @device: IB device to add counters
1406  * @port_num: valid port number
1407  * @kobj: pointer to the kobject to initialize
1408  * @ktype: pointer to the ktype for this kobject.
1409  * @name: the name of the kobject
1410  */
1411 int ib_port_register_module_stat(struct ib_device *device, u8 port_num,
1412                                  struct kobject *kobj, struct kobj_type *ktype,
1413                                  const char *name)
1414 {
1415         struct kobject *p, *t;
1416         int ret;
1417
1418         list_for_each_entry_safe(p, t, &device->coredev.port_list, entry) {
1419                 struct ib_port *port = container_of(p, struct ib_port, kobj);
1420
1421                 if (port->port_num != port_num)
1422                         continue;
1423
1424                 ret = kobject_init_and_add(kobj, ktype, &port->kobj, "%s",
1425                                            name);
1426                 if (ret) {
1427                         kobject_put(kobj);
1428                         return ret;
1429                 }
1430         }
1431
1432         return 0;
1433 }
1434 EXPORT_SYMBOL(ib_port_register_module_stat);
1435
1436 /**
1437  * ib_port_unregister_module_stat - release module counters
1438  * @kobj: pointer to the kobject to release
1439  */
1440 void ib_port_unregister_module_stat(struct kobject *kobj)
1441 {
1442         kobject_put(kobj);
1443 }
1444 EXPORT_SYMBOL(ib_port_unregister_module_stat);