Merge tag 'docs-6.4-2' of git://git.lwn.net/linux
[linux-block.git] / net / ipv6 / raw.c
1 // SPDX-License-Identifier: GPL-2.0-or-later
2 /*
3  *      RAW sockets for IPv6
4  *      Linux INET6 implementation
5  *
6  *      Authors:
7  *      Pedro Roque             <roque@di.fc.ul.pt>
8  *
9  *      Adapted from linux/net/ipv4/raw.c
10  *
11  *      Fixes:
12  *      Hideaki YOSHIFUJI       :       sin6_scope_id support
13  *      YOSHIFUJI,H.@USAGI      :       raw checksum (RFC2292(bis) compliance)
14  *      Kazunori MIYAZAWA @USAGI:       change process style to use ip6_append_data
15  */
16
17 #include <linux/errno.h>
18 #include <linux/types.h>
19 #include <linux/socket.h>
20 #include <linux/slab.h>
21 #include <linux/sockios.h>
22 #include <linux/net.h>
23 #include <linux/in6.h>
24 #include <linux/netdevice.h>
25 #include <linux/if_arp.h>
26 #include <linux/icmpv6.h>
27 #include <linux/netfilter.h>
28 #include <linux/netfilter_ipv6.h>
29 #include <linux/skbuff.h>
30 #include <linux/compat.h>
31 #include <linux/uaccess.h>
32 #include <asm/ioctls.h>
33
34 #include <net/net_namespace.h>
35 #include <net/ip.h>
36 #include <net/sock.h>
37 #include <net/snmp.h>
38
39 #include <net/ipv6.h>
40 #include <net/ndisc.h>
41 #include <net/protocol.h>
42 #include <net/ip6_route.h>
43 #include <net/ip6_checksum.h>
44 #include <net/addrconf.h>
45 #include <net/transp_v6.h>
46 #include <net/udp.h>
47 #include <net/inet_common.h>
48 #include <net/tcp_states.h>
49 #if IS_ENABLED(CONFIG_IPV6_MIP6)
50 #include <net/mip6.h>
51 #endif
52 #include <linux/mroute6.h>
53
54 #include <net/raw.h>
55 #include <net/rawv6.h>
56 #include <net/xfrm.h>
57
58 #include <linux/proc_fs.h>
59 #include <linux/seq_file.h>
60 #include <linux/export.h>
61
62 #define ICMPV6_HDRLEN   4       /* ICMPv6 header, RFC 4443 Section 2.1 */
63
64 struct raw_hashinfo raw_v6_hashinfo;
65 EXPORT_SYMBOL_GPL(raw_v6_hashinfo);
66
67 bool raw_v6_match(struct net *net, const struct sock *sk, unsigned short num,
68                   const struct in6_addr *loc_addr,
69                   const struct in6_addr *rmt_addr, int dif, int sdif)
70 {
71         if (inet_sk(sk)->inet_num != num ||
72             !net_eq(sock_net(sk), net) ||
73             (!ipv6_addr_any(&sk->sk_v6_daddr) &&
74              !ipv6_addr_equal(&sk->sk_v6_daddr, rmt_addr)) ||
75             !raw_sk_bound_dev_eq(net, sk->sk_bound_dev_if,
76                                  dif, sdif))
77                 return false;
78
79         if (ipv6_addr_any(&sk->sk_v6_rcv_saddr) ||
80             ipv6_addr_equal(&sk->sk_v6_rcv_saddr, loc_addr) ||
81             (ipv6_addr_is_multicast(loc_addr) &&
82              inet6_mc_check(sk, loc_addr, rmt_addr)))
83                 return true;
84
85         return false;
86 }
87 EXPORT_SYMBOL_GPL(raw_v6_match);
88
89 /*
90  *      0 - deliver
91  *      1 - block
92  */
93 static int icmpv6_filter(const struct sock *sk, const struct sk_buff *skb)
94 {
95         struct icmp6hdr _hdr;
96         const struct icmp6hdr *hdr;
97
98         /* We require only the four bytes of the ICMPv6 header, not any
99          * additional bytes of message body in "struct icmp6hdr".
100          */
101         hdr = skb_header_pointer(skb, skb_transport_offset(skb),
102                                  ICMPV6_HDRLEN, &_hdr);
103         if (hdr) {
104                 const __u32 *data = &raw6_sk(sk)->filter.data[0];
105                 unsigned int type = hdr->icmp6_type;
106
107                 return (data[type >> 5] & (1U << (type & 31))) != 0;
108         }
109         return 1;
110 }
111
112 #if IS_ENABLED(CONFIG_IPV6_MIP6)
113 typedef int mh_filter_t(struct sock *sock, struct sk_buff *skb);
114
115 static mh_filter_t __rcu *mh_filter __read_mostly;
116
117 int rawv6_mh_filter_register(mh_filter_t filter)
118 {
119         rcu_assign_pointer(mh_filter, filter);
120         return 0;
121 }
122 EXPORT_SYMBOL(rawv6_mh_filter_register);
123
124 int rawv6_mh_filter_unregister(mh_filter_t filter)
125 {
126         RCU_INIT_POINTER(mh_filter, NULL);
127         synchronize_rcu();
128         return 0;
129 }
130 EXPORT_SYMBOL(rawv6_mh_filter_unregister);
131
132 #endif
133
134 /*
135  *      demultiplex raw sockets.
136  *      (should consider queueing the skb in the sock receive_queue
137  *      without calling rawv6.c)
138  *
139  *      Caller owns SKB so we must make clones.
140  */
141 static bool ipv6_raw_deliver(struct sk_buff *skb, int nexthdr)
142 {
143         struct net *net = dev_net(skb->dev);
144         const struct in6_addr *saddr;
145         const struct in6_addr *daddr;
146         struct hlist_head *hlist;
147         struct sock *sk;
148         bool delivered = false;
149         __u8 hash;
150
151         saddr = &ipv6_hdr(skb)->saddr;
152         daddr = saddr + 1;
153
154         hash = raw_hashfunc(net, nexthdr);
155         hlist = &raw_v6_hashinfo.ht[hash];
156         rcu_read_lock();
157         sk_for_each_rcu(sk, hlist) {
158                 int filtered;
159
160                 if (!raw_v6_match(net, sk, nexthdr, daddr, saddr,
161                                   inet6_iif(skb), inet6_sdif(skb)))
162                         continue;
163                 delivered = true;
164                 switch (nexthdr) {
165                 case IPPROTO_ICMPV6:
166                         filtered = icmpv6_filter(sk, skb);
167                         break;
168
169 #if IS_ENABLED(CONFIG_IPV6_MIP6)
170                 case IPPROTO_MH:
171                 {
172                         /* XXX: To validate MH only once for each packet,
173                          * this is placed here. It should be after checking
174                          * xfrm policy, however it doesn't. The checking xfrm
175                          * policy is placed in rawv6_rcv() because it is
176                          * required for each socket.
177                          */
178                         mh_filter_t *filter;
179
180                         filter = rcu_dereference(mh_filter);
181                         filtered = filter ? (*filter)(sk, skb) : 0;
182                         break;
183                 }
184 #endif
185                 default:
186                         filtered = 0;
187                         break;
188                 }
189
190                 if (filtered < 0)
191                         break;
192                 if (filtered == 0) {
193                         struct sk_buff *clone = skb_clone(skb, GFP_ATOMIC);
194
195                         /* Not releasing hash table! */
196                         if (clone)
197                                 rawv6_rcv(sk, clone);
198                 }
199         }
200         rcu_read_unlock();
201         return delivered;
202 }
203
204 bool raw6_local_deliver(struct sk_buff *skb, int nexthdr)
205 {
206         return ipv6_raw_deliver(skb, nexthdr);
207 }
208
209 /* This cleans up af_inet6 a bit. -DaveM */
210 static int rawv6_bind(struct sock *sk, struct sockaddr *uaddr, int addr_len)
211 {
212         struct inet_sock *inet = inet_sk(sk);
213         struct ipv6_pinfo *np = inet6_sk(sk);
214         struct sockaddr_in6 *addr = (struct sockaddr_in6 *) uaddr;
215         __be32 v4addr = 0;
216         int addr_type;
217         int err;
218
219         if (addr_len < SIN6_LEN_RFC2133)
220                 return -EINVAL;
221
222         if (addr->sin6_family != AF_INET6)
223                 return -EINVAL;
224
225         addr_type = ipv6_addr_type(&addr->sin6_addr);
226
227         /* Raw sockets are IPv6 only */
228         if (addr_type == IPV6_ADDR_MAPPED)
229                 return -EADDRNOTAVAIL;
230
231         lock_sock(sk);
232
233         err = -EINVAL;
234         if (sk->sk_state != TCP_CLOSE)
235                 goto out;
236
237         rcu_read_lock();
238         /* Check if the address belongs to the host. */
239         if (addr_type != IPV6_ADDR_ANY) {
240                 struct net_device *dev = NULL;
241
242                 if (__ipv6_addr_needs_scope_id(addr_type)) {
243                         if (addr_len >= sizeof(struct sockaddr_in6) &&
244                             addr->sin6_scope_id) {
245                                 /* Override any existing binding, if another
246                                  * one is supplied by user.
247                                  */
248                                 sk->sk_bound_dev_if = addr->sin6_scope_id;
249                         }
250
251                         /* Binding to link-local address requires an interface */
252                         if (!sk->sk_bound_dev_if)
253                                 goto out_unlock;
254                 }
255
256                 if (sk->sk_bound_dev_if) {
257                         err = -ENODEV;
258                         dev = dev_get_by_index_rcu(sock_net(sk),
259                                                    sk->sk_bound_dev_if);
260                         if (!dev)
261                                 goto out_unlock;
262                 }
263
264                 /* ipv4 addr of the socket is invalid.  Only the
265                  * unspecified and mapped address have a v4 equivalent.
266                  */
267                 v4addr = LOOPBACK4_IPV6;
268                 if (!(addr_type & IPV6_ADDR_MULTICAST) &&
269                     !ipv6_can_nonlocal_bind(sock_net(sk), inet)) {
270                         err = -EADDRNOTAVAIL;
271                         if (!ipv6_chk_addr(sock_net(sk), &addr->sin6_addr,
272                                            dev, 0)) {
273                                 goto out_unlock;
274                         }
275                 }
276         }
277
278         inet->inet_rcv_saddr = inet->inet_saddr = v4addr;
279         sk->sk_v6_rcv_saddr = addr->sin6_addr;
280         if (!(addr_type & IPV6_ADDR_MULTICAST))
281                 np->saddr = addr->sin6_addr;
282         err = 0;
283 out_unlock:
284         rcu_read_unlock();
285 out:
286         release_sock(sk);
287         return err;
288 }
289
290 static void rawv6_err(struct sock *sk, struct sk_buff *skb,
291                struct inet6_skb_parm *opt,
292                u8 type, u8 code, int offset, __be32 info)
293 {
294         struct inet_sock *inet = inet_sk(sk);
295         struct ipv6_pinfo *np = inet6_sk(sk);
296         int err;
297         int harderr;
298
299         /* Report error on raw socket, if:
300            1. User requested recverr.
301            2. Socket is connected (otherwise the error indication
302               is useless without recverr and error is hard.
303          */
304         if (!np->recverr && sk->sk_state != TCP_ESTABLISHED)
305                 return;
306
307         harderr = icmpv6_err_convert(type, code, &err);
308         if (type == ICMPV6_PKT_TOOBIG) {
309                 ip6_sk_update_pmtu(skb, sk, info);
310                 harderr = (np->pmtudisc == IPV6_PMTUDISC_DO);
311         }
312         if (type == NDISC_REDIRECT) {
313                 ip6_sk_redirect(skb, sk);
314                 return;
315         }
316         if (np->recverr) {
317                 u8 *payload = skb->data;
318                 if (!inet->hdrincl)
319                         payload += offset;
320                 ipv6_icmp_error(sk, skb, err, 0, ntohl(info), payload);
321         }
322
323         if (np->recverr || harderr) {
324                 sk->sk_err = err;
325                 sk_error_report(sk);
326         }
327 }
328
329 void raw6_icmp_error(struct sk_buff *skb, int nexthdr,
330                 u8 type, u8 code, int inner_offset, __be32 info)
331 {
332         struct net *net = dev_net(skb->dev);
333         struct hlist_head *hlist;
334         struct sock *sk;
335         int hash;
336
337         hash = raw_hashfunc(net, nexthdr);
338         hlist = &raw_v6_hashinfo.ht[hash];
339         rcu_read_lock();
340         sk_for_each_rcu(sk, hlist) {
341                 /* Note: ipv6_hdr(skb) != skb->data */
342                 const struct ipv6hdr *ip6h = (const struct ipv6hdr *)skb->data;
343
344                 if (!raw_v6_match(net, sk, nexthdr, &ip6h->saddr, &ip6h->daddr,
345                                   inet6_iif(skb), inet6_iif(skb)))
346                         continue;
347                 rawv6_err(sk, skb, NULL, type, code, inner_offset, info);
348         }
349         rcu_read_unlock();
350 }
351
352 static inline int rawv6_rcv_skb(struct sock *sk, struct sk_buff *skb)
353 {
354         enum skb_drop_reason reason;
355
356         if ((raw6_sk(sk)->checksum || rcu_access_pointer(sk->sk_filter)) &&
357             skb_checksum_complete(skb)) {
358                 atomic_inc(&sk->sk_drops);
359                 kfree_skb_reason(skb, SKB_DROP_REASON_SKB_CSUM);
360                 return NET_RX_DROP;
361         }
362
363         /* Charge it to the socket. */
364         skb_dst_drop(skb);
365         if (sock_queue_rcv_skb_reason(sk, skb, &reason) < 0) {
366                 kfree_skb_reason(skb, reason);
367                 return NET_RX_DROP;
368         }
369
370         return 0;
371 }
372
373 /*
374  *      This is next to useless...
375  *      if we demultiplex in network layer we don't need the extra call
376  *      just to queue the skb...
377  *      maybe we could have the network decide upon a hint if it
378  *      should call raw_rcv for demultiplexing
379  */
380 int rawv6_rcv(struct sock *sk, struct sk_buff *skb)
381 {
382         struct inet_sock *inet = inet_sk(sk);
383         struct raw6_sock *rp = raw6_sk(sk);
384
385         if (!xfrm6_policy_check(sk, XFRM_POLICY_IN, skb)) {
386                 atomic_inc(&sk->sk_drops);
387                 kfree_skb_reason(skb, SKB_DROP_REASON_XFRM_POLICY);
388                 return NET_RX_DROP;
389         }
390         nf_reset_ct(skb);
391
392         if (!rp->checksum)
393                 skb->ip_summed = CHECKSUM_UNNECESSARY;
394
395         if (skb->ip_summed == CHECKSUM_COMPLETE) {
396                 skb_postpull_rcsum(skb, skb_network_header(skb),
397                                    skb_network_header_len(skb));
398                 if (!csum_ipv6_magic(&ipv6_hdr(skb)->saddr,
399                                      &ipv6_hdr(skb)->daddr,
400                                      skb->len, inet->inet_num, skb->csum))
401                         skb->ip_summed = CHECKSUM_UNNECESSARY;
402         }
403         if (!skb_csum_unnecessary(skb))
404                 skb->csum = ~csum_unfold(csum_ipv6_magic(&ipv6_hdr(skb)->saddr,
405                                                          &ipv6_hdr(skb)->daddr,
406                                                          skb->len,
407                                                          inet->inet_num, 0));
408
409         if (inet->hdrincl) {
410                 if (skb_checksum_complete(skb)) {
411                         atomic_inc(&sk->sk_drops);
412                         kfree_skb_reason(skb, SKB_DROP_REASON_SKB_CSUM);
413                         return NET_RX_DROP;
414                 }
415         }
416
417         rawv6_rcv_skb(sk, skb);
418         return 0;
419 }
420
421
422 /*
423  *      This should be easy, if there is something there
424  *      we return it, otherwise we block.
425  */
426
427 static int rawv6_recvmsg(struct sock *sk, struct msghdr *msg, size_t len,
428                          int flags, int *addr_len)
429 {
430         struct ipv6_pinfo *np = inet6_sk(sk);
431         DECLARE_SOCKADDR(struct sockaddr_in6 *, sin6, msg->msg_name);
432         struct sk_buff *skb;
433         size_t copied;
434         int err;
435
436         if (flags & MSG_OOB)
437                 return -EOPNOTSUPP;
438
439         if (flags & MSG_ERRQUEUE)
440                 return ipv6_recv_error(sk, msg, len, addr_len);
441
442         if (np->rxpmtu && np->rxopt.bits.rxpmtu)
443                 return ipv6_recv_rxpmtu(sk, msg, len, addr_len);
444
445         skb = skb_recv_datagram(sk, flags, &err);
446         if (!skb)
447                 goto out;
448
449         copied = skb->len;
450         if (copied > len) {
451                 copied = len;
452                 msg->msg_flags |= MSG_TRUNC;
453         }
454
455         if (skb_csum_unnecessary(skb)) {
456                 err = skb_copy_datagram_msg(skb, 0, msg, copied);
457         } else if (msg->msg_flags&MSG_TRUNC) {
458                 if (__skb_checksum_complete(skb))
459                         goto csum_copy_err;
460                 err = skb_copy_datagram_msg(skb, 0, msg, copied);
461         } else {
462                 err = skb_copy_and_csum_datagram_msg(skb, 0, msg);
463                 if (err == -EINVAL)
464                         goto csum_copy_err;
465         }
466         if (err)
467                 goto out_free;
468
469         /* Copy the address. */
470         if (sin6) {
471                 sin6->sin6_family = AF_INET6;
472                 sin6->sin6_port = 0;
473                 sin6->sin6_addr = ipv6_hdr(skb)->saddr;
474                 sin6->sin6_flowinfo = 0;
475                 sin6->sin6_scope_id = ipv6_iface_scope_id(&sin6->sin6_addr,
476                                                           inet6_iif(skb));
477                 *addr_len = sizeof(*sin6);
478         }
479
480         sock_recv_cmsgs(msg, sk, skb);
481
482         if (np->rxopt.all)
483                 ip6_datagram_recv_ctl(sk, msg, skb);
484
485         err = copied;
486         if (flags & MSG_TRUNC)
487                 err = skb->len;
488
489 out_free:
490         skb_free_datagram(sk, skb);
491 out:
492         return err;
493
494 csum_copy_err:
495         skb_kill_datagram(sk, skb, flags);
496
497         /* Error for blocking case is chosen to masquerade
498            as some normal condition.
499          */
500         err = (flags&MSG_DONTWAIT) ? -EAGAIN : -EHOSTUNREACH;
501         goto out;
502 }
503
504 static int rawv6_push_pending_frames(struct sock *sk, struct flowi6 *fl6,
505                                      struct raw6_sock *rp)
506 {
507         struct ipv6_txoptions *opt;
508         struct sk_buff *skb;
509         int err = 0;
510         int offset;
511         int len;
512         int total_len;
513         __wsum tmp_csum;
514         __sum16 csum;
515
516         if (!rp->checksum)
517                 goto send;
518
519         skb = skb_peek(&sk->sk_write_queue);
520         if (!skb)
521                 goto out;
522
523         offset = rp->offset;
524         total_len = inet_sk(sk)->cork.base.length;
525         opt = inet6_sk(sk)->cork.opt;
526         total_len -= opt ? opt->opt_flen : 0;
527
528         if (offset >= total_len - 1) {
529                 err = -EINVAL;
530                 ip6_flush_pending_frames(sk);
531                 goto out;
532         }
533
534         /* should be check HW csum miyazawa */
535         if (skb_queue_len(&sk->sk_write_queue) == 1) {
536                 /*
537                  * Only one fragment on the socket.
538                  */
539                 tmp_csum = skb->csum;
540         } else {
541                 struct sk_buff *csum_skb = NULL;
542                 tmp_csum = 0;
543
544                 skb_queue_walk(&sk->sk_write_queue, skb) {
545                         tmp_csum = csum_add(tmp_csum, skb->csum);
546
547                         if (csum_skb)
548                                 continue;
549
550                         len = skb->len - skb_transport_offset(skb);
551                         if (offset >= len) {
552                                 offset -= len;
553                                 continue;
554                         }
555
556                         csum_skb = skb;
557                 }
558
559                 skb = csum_skb;
560         }
561
562         offset += skb_transport_offset(skb);
563         err = skb_copy_bits(skb, offset, &csum, 2);
564         if (err < 0) {
565                 ip6_flush_pending_frames(sk);
566                 goto out;
567         }
568
569         /* in case cksum was not initialized */
570         if (unlikely(csum))
571                 tmp_csum = csum_sub(tmp_csum, csum_unfold(csum));
572
573         csum = csum_ipv6_magic(&fl6->saddr, &fl6->daddr,
574                                total_len, fl6->flowi6_proto, tmp_csum);
575
576         if (csum == 0 && fl6->flowi6_proto == IPPROTO_UDP)
577                 csum = CSUM_MANGLED_0;
578
579         BUG_ON(skb_store_bits(skb, offset, &csum, 2));
580
581 send:
582         err = ip6_push_pending_frames(sk);
583 out:
584         return err;
585 }
586
587 static int rawv6_send_hdrinc(struct sock *sk, struct msghdr *msg, int length,
588                         struct flowi6 *fl6, struct dst_entry **dstp,
589                         unsigned int flags, const struct sockcm_cookie *sockc)
590 {
591         struct ipv6_pinfo *np = inet6_sk(sk);
592         struct net *net = sock_net(sk);
593         struct ipv6hdr *iph;
594         struct sk_buff *skb;
595         int err;
596         struct rt6_info *rt = (struct rt6_info *)*dstp;
597         int hlen = LL_RESERVED_SPACE(rt->dst.dev);
598         int tlen = rt->dst.dev->needed_tailroom;
599
600         if (length > rt->dst.dev->mtu) {
601                 ipv6_local_error(sk, EMSGSIZE, fl6, rt->dst.dev->mtu);
602                 return -EMSGSIZE;
603         }
604         if (length < sizeof(struct ipv6hdr))
605                 return -EINVAL;
606         if (flags&MSG_PROBE)
607                 goto out;
608
609         skb = sock_alloc_send_skb(sk,
610                                   length + hlen + tlen + 15,
611                                   flags & MSG_DONTWAIT, &err);
612         if (!skb)
613                 goto error;
614         skb_reserve(skb, hlen);
615
616         skb->protocol = htons(ETH_P_IPV6);
617         skb->priority = sk->sk_priority;
618         skb->mark = sockc->mark;
619         skb->tstamp = sockc->transmit_time;
620
621         skb_put(skb, length);
622         skb_reset_network_header(skb);
623         iph = ipv6_hdr(skb);
624
625         skb->ip_summed = CHECKSUM_NONE;
626
627         skb_setup_tx_timestamp(skb, sockc->tsflags);
628
629         if (flags & MSG_CONFIRM)
630                 skb_set_dst_pending_confirm(skb, 1);
631
632         skb->transport_header = skb->network_header;
633         err = memcpy_from_msg(iph, msg, length);
634         if (err) {
635                 err = -EFAULT;
636                 kfree_skb(skb);
637                 goto error;
638         }
639
640         skb_dst_set(skb, &rt->dst);
641         *dstp = NULL;
642
643         /* if egress device is enslaved to an L3 master device pass the
644          * skb to its handler for processing
645          */
646         skb = l3mdev_ip6_out(sk, skb);
647         if (unlikely(!skb))
648                 return 0;
649
650         /* Acquire rcu_read_lock() in case we need to use rt->rt6i_idev
651          * in the error path. Since skb has been freed, the dst could
652          * have been queued for deletion.
653          */
654         rcu_read_lock();
655         IP6_UPD_PO_STATS(net, rt->rt6i_idev, IPSTATS_MIB_OUT, skb->len);
656         err = NF_HOOK(NFPROTO_IPV6, NF_INET_LOCAL_OUT, net, sk, skb,
657                       NULL, rt->dst.dev, dst_output);
658         if (err > 0)
659                 err = net_xmit_errno(err);
660         if (err) {
661                 IP6_INC_STATS(net, rt->rt6i_idev, IPSTATS_MIB_OUTDISCARDS);
662                 rcu_read_unlock();
663                 goto error_check;
664         }
665         rcu_read_unlock();
666 out:
667         return 0;
668
669 error:
670         IP6_INC_STATS(net, rt->rt6i_idev, IPSTATS_MIB_OUTDISCARDS);
671 error_check:
672         if (err == -ENOBUFS && !np->recverr)
673                 err = 0;
674         return err;
675 }
676
677 struct raw6_frag_vec {
678         struct msghdr *msg;
679         int hlen;
680         char c[4];
681 };
682
683 static int rawv6_probe_proto_opt(struct raw6_frag_vec *rfv, struct flowi6 *fl6)
684 {
685         int err = 0;
686         switch (fl6->flowi6_proto) {
687         case IPPROTO_ICMPV6:
688                 rfv->hlen = 2;
689                 err = memcpy_from_msg(rfv->c, rfv->msg, rfv->hlen);
690                 if (!err) {
691                         fl6->fl6_icmp_type = rfv->c[0];
692                         fl6->fl6_icmp_code = rfv->c[1];
693                 }
694                 break;
695         case IPPROTO_MH:
696                 rfv->hlen = 4;
697                 err = memcpy_from_msg(rfv->c, rfv->msg, rfv->hlen);
698                 if (!err)
699                         fl6->fl6_mh_type = rfv->c[2];
700         }
701         return err;
702 }
703
704 static int raw6_getfrag(void *from, char *to, int offset, int len, int odd,
705                        struct sk_buff *skb)
706 {
707         struct raw6_frag_vec *rfv = from;
708
709         if (offset < rfv->hlen) {
710                 int copy = min(rfv->hlen - offset, len);
711
712                 if (skb->ip_summed == CHECKSUM_PARTIAL)
713                         memcpy(to, rfv->c + offset, copy);
714                 else
715                         skb->csum = csum_block_add(
716                                 skb->csum,
717                                 csum_partial_copy_nocheck(rfv->c + offset,
718                                                           to, copy),
719                                 odd);
720
721                 odd = 0;
722                 offset += copy;
723                 to += copy;
724                 len -= copy;
725
726                 if (!len)
727                         return 0;
728         }
729
730         offset -= rfv->hlen;
731
732         return ip_generic_getfrag(rfv->msg, to, offset, len, odd, skb);
733 }
734
735 static int rawv6_sendmsg(struct sock *sk, struct msghdr *msg, size_t len)
736 {
737         struct ipv6_txoptions *opt_to_free = NULL;
738         struct ipv6_txoptions opt_space;
739         DECLARE_SOCKADDR(struct sockaddr_in6 *, sin6, msg->msg_name);
740         struct in6_addr *daddr, *final_p, final;
741         struct inet_sock *inet = inet_sk(sk);
742         struct ipv6_pinfo *np = inet6_sk(sk);
743         struct raw6_sock *rp = raw6_sk(sk);
744         struct ipv6_txoptions *opt = NULL;
745         struct ip6_flowlabel *flowlabel = NULL;
746         struct dst_entry *dst = NULL;
747         struct raw6_frag_vec rfv;
748         struct flowi6 fl6;
749         struct ipcm6_cookie ipc6;
750         int addr_len = msg->msg_namelen;
751         int hdrincl;
752         u16 proto;
753         int err;
754
755         /* Rough check on arithmetic overflow,
756            better check is made in ip6_append_data().
757          */
758         if (len > INT_MAX)
759                 return -EMSGSIZE;
760
761         /* Mirror BSD error message compatibility */
762         if (msg->msg_flags & MSG_OOB)
763                 return -EOPNOTSUPP;
764
765         /* hdrincl should be READ_ONCE(inet->hdrincl)
766          * but READ_ONCE() doesn't work with bit fields.
767          * Doing this indirectly yields the same result.
768          */
769         hdrincl = inet->hdrincl;
770         hdrincl = READ_ONCE(hdrincl);
771
772         /*
773          *      Get and verify the address.
774          */
775         memset(&fl6, 0, sizeof(fl6));
776
777         fl6.flowi6_mark = sk->sk_mark;
778         fl6.flowi6_uid = sk->sk_uid;
779
780         ipcm6_init(&ipc6);
781         ipc6.sockc.tsflags = sk->sk_tsflags;
782         ipc6.sockc.mark = sk->sk_mark;
783
784         if (sin6) {
785                 if (addr_len < SIN6_LEN_RFC2133)
786                         return -EINVAL;
787
788                 if (sin6->sin6_family && sin6->sin6_family != AF_INET6)
789                         return -EAFNOSUPPORT;
790
791                 /* port is the proto value [0..255] carried in nexthdr */
792                 proto = ntohs(sin6->sin6_port);
793
794                 if (!proto)
795                         proto = inet->inet_num;
796                 else if (proto != inet->inet_num)
797                         return -EINVAL;
798
799                 if (proto > 255)
800                         return -EINVAL;
801
802                 daddr = &sin6->sin6_addr;
803                 if (np->sndflow) {
804                         fl6.flowlabel = sin6->sin6_flowinfo&IPV6_FLOWINFO_MASK;
805                         if (fl6.flowlabel&IPV6_FLOWLABEL_MASK) {
806                                 flowlabel = fl6_sock_lookup(sk, fl6.flowlabel);
807                                 if (IS_ERR(flowlabel))
808                                         return -EINVAL;
809                         }
810                 }
811
812                 /*
813                  * Otherwise it will be difficult to maintain
814                  * sk->sk_dst_cache.
815                  */
816                 if (sk->sk_state == TCP_ESTABLISHED &&
817                     ipv6_addr_equal(daddr, &sk->sk_v6_daddr))
818                         daddr = &sk->sk_v6_daddr;
819
820                 if (addr_len >= sizeof(struct sockaddr_in6) &&
821                     sin6->sin6_scope_id &&
822                     __ipv6_addr_needs_scope_id(__ipv6_addr_type(daddr)))
823                         fl6.flowi6_oif = sin6->sin6_scope_id;
824         } else {
825                 if (sk->sk_state != TCP_ESTABLISHED)
826                         return -EDESTADDRREQ;
827
828                 proto = inet->inet_num;
829                 daddr = &sk->sk_v6_daddr;
830                 fl6.flowlabel = np->flow_label;
831         }
832
833         if (fl6.flowi6_oif == 0)
834                 fl6.flowi6_oif = sk->sk_bound_dev_if;
835
836         if (msg->msg_controllen) {
837                 opt = &opt_space;
838                 memset(opt, 0, sizeof(struct ipv6_txoptions));
839                 opt->tot_len = sizeof(struct ipv6_txoptions);
840                 ipc6.opt = opt;
841
842                 err = ip6_datagram_send_ctl(sock_net(sk), sk, msg, &fl6, &ipc6);
843                 if (err < 0) {
844                         fl6_sock_release(flowlabel);
845                         return err;
846                 }
847                 if ((fl6.flowlabel&IPV6_FLOWLABEL_MASK) && !flowlabel) {
848                         flowlabel = fl6_sock_lookup(sk, fl6.flowlabel);
849                         if (IS_ERR(flowlabel))
850                                 return -EINVAL;
851                 }
852                 if (!(opt->opt_nflen|opt->opt_flen))
853                         opt = NULL;
854         }
855         if (!opt) {
856                 opt = txopt_get(np);
857                 opt_to_free = opt;
858         }
859         if (flowlabel)
860                 opt = fl6_merge_options(&opt_space, flowlabel, opt);
861         opt = ipv6_fixup_options(&opt_space, opt);
862
863         fl6.flowi6_proto = proto;
864         fl6.flowi6_mark = ipc6.sockc.mark;
865
866         if (!hdrincl) {
867                 rfv.msg = msg;
868                 rfv.hlen = 0;
869                 err = rawv6_probe_proto_opt(&rfv, &fl6);
870                 if (err)
871                         goto out;
872         }
873
874         if (!ipv6_addr_any(daddr))
875                 fl6.daddr = *daddr;
876         else
877                 fl6.daddr.s6_addr[15] = 0x1; /* :: means loopback (BSD'ism) */
878         if (ipv6_addr_any(&fl6.saddr) && !ipv6_addr_any(&np->saddr))
879                 fl6.saddr = np->saddr;
880
881         final_p = fl6_update_dst(&fl6, opt, &final);
882
883         if (!fl6.flowi6_oif && ipv6_addr_is_multicast(&fl6.daddr))
884                 fl6.flowi6_oif = np->mcast_oif;
885         else if (!fl6.flowi6_oif)
886                 fl6.flowi6_oif = np->ucast_oif;
887         security_sk_classify_flow(sk, flowi6_to_flowi_common(&fl6));
888
889         if (hdrincl)
890                 fl6.flowi6_flags |= FLOWI_FLAG_KNOWN_NH;
891
892         if (ipc6.tclass < 0)
893                 ipc6.tclass = np->tclass;
894
895         fl6.flowlabel = ip6_make_flowinfo(ipc6.tclass, fl6.flowlabel);
896
897         dst = ip6_dst_lookup_flow(sock_net(sk), sk, &fl6, final_p);
898         if (IS_ERR(dst)) {
899                 err = PTR_ERR(dst);
900                 goto out;
901         }
902         if (ipc6.hlimit < 0)
903                 ipc6.hlimit = ip6_sk_dst_hoplimit(np, &fl6, dst);
904
905         if (ipc6.dontfrag < 0)
906                 ipc6.dontfrag = np->dontfrag;
907
908         if (msg->msg_flags&MSG_CONFIRM)
909                 goto do_confirm;
910
911 back_from_confirm:
912         if (hdrincl)
913                 err = rawv6_send_hdrinc(sk, msg, len, &fl6, &dst,
914                                         msg->msg_flags, &ipc6.sockc);
915         else {
916                 ipc6.opt = opt;
917                 lock_sock(sk);
918                 err = ip6_append_data(sk, raw6_getfrag, &rfv,
919                         len, 0, &ipc6, &fl6, (struct rt6_info *)dst,
920                         msg->msg_flags);
921
922                 if (err)
923                         ip6_flush_pending_frames(sk);
924                 else if (!(msg->msg_flags & MSG_MORE))
925                         err = rawv6_push_pending_frames(sk, &fl6, rp);
926                 release_sock(sk);
927         }
928 done:
929         dst_release(dst);
930 out:
931         fl6_sock_release(flowlabel);
932         txopt_put(opt_to_free);
933         return err < 0 ? err : len;
934 do_confirm:
935         if (msg->msg_flags & MSG_PROBE)
936                 dst_confirm_neigh(dst, &fl6.daddr);
937         if (!(msg->msg_flags & MSG_PROBE) || len)
938                 goto back_from_confirm;
939         err = 0;
940         goto done;
941 }
942
943 static int rawv6_seticmpfilter(struct sock *sk, int level, int optname,
944                                sockptr_t optval, int optlen)
945 {
946         switch (optname) {
947         case ICMPV6_FILTER:
948                 if (optlen > sizeof(struct icmp6_filter))
949                         optlen = sizeof(struct icmp6_filter);
950                 if (copy_from_sockptr(&raw6_sk(sk)->filter, optval, optlen))
951                         return -EFAULT;
952                 return 0;
953         default:
954                 return -ENOPROTOOPT;
955         }
956
957         return 0;
958 }
959
960 static int rawv6_geticmpfilter(struct sock *sk, int level, int optname,
961                                char __user *optval, int __user *optlen)
962 {
963         int len;
964
965         switch (optname) {
966         case ICMPV6_FILTER:
967                 if (get_user(len, optlen))
968                         return -EFAULT;
969                 if (len < 0)
970                         return -EINVAL;
971                 if (len > sizeof(struct icmp6_filter))
972                         len = sizeof(struct icmp6_filter);
973                 if (put_user(len, optlen))
974                         return -EFAULT;
975                 if (copy_to_user(optval, &raw6_sk(sk)->filter, len))
976                         return -EFAULT;
977                 return 0;
978         default:
979                 return -ENOPROTOOPT;
980         }
981
982         return 0;
983 }
984
985
986 static int do_rawv6_setsockopt(struct sock *sk, int level, int optname,
987                                sockptr_t optval, unsigned int optlen)
988 {
989         struct raw6_sock *rp = raw6_sk(sk);
990         int val;
991
992         if (optlen < sizeof(val))
993                 return -EINVAL;
994
995         if (copy_from_sockptr(&val, optval, sizeof(val)))
996                 return -EFAULT;
997
998         switch (optname) {
999         case IPV6_HDRINCL:
1000                 if (sk->sk_type != SOCK_RAW)
1001                         return -EINVAL;
1002                 inet_sk(sk)->hdrincl = !!val;
1003                 return 0;
1004         case IPV6_CHECKSUM:
1005                 if (inet_sk(sk)->inet_num == IPPROTO_ICMPV6 &&
1006                     level == IPPROTO_IPV6) {
1007                         /*
1008                          * RFC3542 tells that IPV6_CHECKSUM socket
1009                          * option in the IPPROTO_IPV6 level is not
1010                          * allowed on ICMPv6 sockets.
1011                          * If you want to set it, use IPPROTO_RAW
1012                          * level IPV6_CHECKSUM socket option
1013                          * (Linux extension).
1014                          */
1015                         return -EINVAL;
1016                 }
1017
1018                 /* You may get strange result with a positive odd offset;
1019                    RFC2292bis agrees with me. */
1020                 if (val > 0 && (val&1))
1021                         return -EINVAL;
1022                 if (val < 0) {
1023                         rp->checksum = 0;
1024                 } else {
1025                         rp->checksum = 1;
1026                         rp->offset = val;
1027                 }
1028
1029                 return 0;
1030
1031         default:
1032                 return -ENOPROTOOPT;
1033         }
1034 }
1035
1036 static int rawv6_setsockopt(struct sock *sk, int level, int optname,
1037                             sockptr_t optval, unsigned int optlen)
1038 {
1039         switch (level) {
1040         case SOL_RAW:
1041                 break;
1042
1043         case SOL_ICMPV6:
1044                 if (inet_sk(sk)->inet_num != IPPROTO_ICMPV6)
1045                         return -EOPNOTSUPP;
1046                 return rawv6_seticmpfilter(sk, level, optname, optval, optlen);
1047         case SOL_IPV6:
1048                 if (optname == IPV6_CHECKSUM ||
1049                     optname == IPV6_HDRINCL)
1050                         break;
1051                 fallthrough;
1052         default:
1053                 return ipv6_setsockopt(sk, level, optname, optval, optlen);
1054         }
1055
1056         return do_rawv6_setsockopt(sk, level, optname, optval, optlen);
1057 }
1058
1059 static int do_rawv6_getsockopt(struct sock *sk, int level, int optname,
1060                             char __user *optval, int __user *optlen)
1061 {
1062         struct raw6_sock *rp = raw6_sk(sk);
1063         int val, len;
1064
1065         if (get_user(len, optlen))
1066                 return -EFAULT;
1067
1068         switch (optname) {
1069         case IPV6_HDRINCL:
1070                 val = inet_sk(sk)->hdrincl;
1071                 break;
1072         case IPV6_CHECKSUM:
1073                 /*
1074                  * We allow getsockopt() for IPPROTO_IPV6-level
1075                  * IPV6_CHECKSUM socket option on ICMPv6 sockets
1076                  * since RFC3542 is silent about it.
1077                  */
1078                 if (rp->checksum == 0)
1079                         val = -1;
1080                 else
1081                         val = rp->offset;
1082                 break;
1083
1084         default:
1085                 return -ENOPROTOOPT;
1086         }
1087
1088         len = min_t(unsigned int, sizeof(int), len);
1089
1090         if (put_user(len, optlen))
1091                 return -EFAULT;
1092         if (copy_to_user(optval, &val, len))
1093                 return -EFAULT;
1094         return 0;
1095 }
1096
1097 static int rawv6_getsockopt(struct sock *sk, int level, int optname,
1098                           char __user *optval, int __user *optlen)
1099 {
1100         switch (level) {
1101         case SOL_RAW:
1102                 break;
1103
1104         case SOL_ICMPV6:
1105                 if (inet_sk(sk)->inet_num != IPPROTO_ICMPV6)
1106                         return -EOPNOTSUPP;
1107                 return rawv6_geticmpfilter(sk, level, optname, optval, optlen);
1108         case SOL_IPV6:
1109                 if (optname == IPV6_CHECKSUM ||
1110                     optname == IPV6_HDRINCL)
1111                         break;
1112                 fallthrough;
1113         default:
1114                 return ipv6_getsockopt(sk, level, optname, optval, optlen);
1115         }
1116
1117         return do_rawv6_getsockopt(sk, level, optname, optval, optlen);
1118 }
1119
1120 static int rawv6_ioctl(struct sock *sk, int cmd, unsigned long arg)
1121 {
1122         switch (cmd) {
1123         case SIOCOUTQ: {
1124                 int amount = sk_wmem_alloc_get(sk);
1125
1126                 return put_user(amount, (int __user *)arg);
1127         }
1128         case SIOCINQ: {
1129                 struct sk_buff *skb;
1130                 int amount = 0;
1131
1132                 spin_lock_bh(&sk->sk_receive_queue.lock);
1133                 skb = skb_peek(&sk->sk_receive_queue);
1134                 if (skb)
1135                         amount = skb->len;
1136                 spin_unlock_bh(&sk->sk_receive_queue.lock);
1137                 return put_user(amount, (int __user *)arg);
1138         }
1139
1140         default:
1141 #ifdef CONFIG_IPV6_MROUTE
1142                 return ip6mr_ioctl(sk, cmd, (void __user *)arg);
1143 #else
1144                 return -ENOIOCTLCMD;
1145 #endif
1146         }
1147 }
1148
1149 #ifdef CONFIG_COMPAT
1150 static int compat_rawv6_ioctl(struct sock *sk, unsigned int cmd, unsigned long arg)
1151 {
1152         switch (cmd) {
1153         case SIOCOUTQ:
1154         case SIOCINQ:
1155                 return -ENOIOCTLCMD;
1156         default:
1157 #ifdef CONFIG_IPV6_MROUTE
1158                 return ip6mr_compat_ioctl(sk, cmd, compat_ptr(arg));
1159 #else
1160                 return -ENOIOCTLCMD;
1161 #endif
1162         }
1163 }
1164 #endif
1165
1166 static void rawv6_close(struct sock *sk, long timeout)
1167 {
1168         if (inet_sk(sk)->inet_num == IPPROTO_RAW)
1169                 ip6_ra_control(sk, -1);
1170         ip6mr_sk_done(sk);
1171         sk_common_release(sk);
1172 }
1173
1174 static void raw6_destroy(struct sock *sk)
1175 {
1176         lock_sock(sk);
1177         ip6_flush_pending_frames(sk);
1178         release_sock(sk);
1179 }
1180
1181 static int rawv6_init_sk(struct sock *sk)
1182 {
1183         struct raw6_sock *rp = raw6_sk(sk);
1184
1185         switch (inet_sk(sk)->inet_num) {
1186         case IPPROTO_ICMPV6:
1187                 rp->checksum = 1;
1188                 rp->offset   = 2;
1189                 break;
1190         case IPPROTO_MH:
1191                 rp->checksum = 1;
1192                 rp->offset   = 4;
1193                 break;
1194         default:
1195                 break;
1196         }
1197         return 0;
1198 }
1199
1200 struct proto rawv6_prot = {
1201         .name              = "RAWv6",
1202         .owner             = THIS_MODULE,
1203         .close             = rawv6_close,
1204         .destroy           = raw6_destroy,
1205         .connect           = ip6_datagram_connect_v6_only,
1206         .disconnect        = __udp_disconnect,
1207         .ioctl             = rawv6_ioctl,
1208         .init              = rawv6_init_sk,
1209         .setsockopt        = rawv6_setsockopt,
1210         .getsockopt        = rawv6_getsockopt,
1211         .sendmsg           = rawv6_sendmsg,
1212         .recvmsg           = rawv6_recvmsg,
1213         .bind              = rawv6_bind,
1214         .backlog_rcv       = rawv6_rcv_skb,
1215         .hash              = raw_hash_sk,
1216         .unhash            = raw_unhash_sk,
1217         .obj_size          = sizeof(struct raw6_sock),
1218         .useroffset        = offsetof(struct raw6_sock, filter),
1219         .usersize          = sizeof_field(struct raw6_sock, filter),
1220         .h.raw_hash        = &raw_v6_hashinfo,
1221 #ifdef CONFIG_COMPAT
1222         .compat_ioctl      = compat_rawv6_ioctl,
1223 #endif
1224         .diag_destroy      = raw_abort,
1225 };
1226
1227 #ifdef CONFIG_PROC_FS
1228 static int raw6_seq_show(struct seq_file *seq, void *v)
1229 {
1230         if (v == SEQ_START_TOKEN) {
1231                 seq_puts(seq, IPV6_SEQ_DGRAM_HEADER);
1232         } else {
1233                 struct sock *sp = v;
1234                 __u16 srcp  = inet_sk(sp)->inet_num;
1235                 ip6_dgram_sock_seq_show(seq, v, srcp, 0,
1236                                         raw_seq_private(seq)->bucket);
1237         }
1238         return 0;
1239 }
1240
1241 static const struct seq_operations raw6_seq_ops = {
1242         .start =        raw_seq_start,
1243         .next =         raw_seq_next,
1244         .stop =         raw_seq_stop,
1245         .show =         raw6_seq_show,
1246 };
1247
1248 static int __net_init raw6_init_net(struct net *net)
1249 {
1250         if (!proc_create_net_data("raw6", 0444, net->proc_net, &raw6_seq_ops,
1251                         sizeof(struct raw_iter_state), &raw_v6_hashinfo))
1252                 return -ENOMEM;
1253
1254         return 0;
1255 }
1256
1257 static void __net_exit raw6_exit_net(struct net *net)
1258 {
1259         remove_proc_entry("raw6", net->proc_net);
1260 }
1261
1262 static struct pernet_operations raw6_net_ops = {
1263         .init = raw6_init_net,
1264         .exit = raw6_exit_net,
1265 };
1266
1267 int __init raw6_proc_init(void)
1268 {
1269         return register_pernet_subsys(&raw6_net_ops);
1270 }
1271
1272 void raw6_proc_exit(void)
1273 {
1274         unregister_pernet_subsys(&raw6_net_ops);
1275 }
1276 #endif  /* CONFIG_PROC_FS */
1277
1278 /* Same as inet6_dgram_ops, sans udp_poll.  */
1279 const struct proto_ops inet6_sockraw_ops = {
1280         .family            = PF_INET6,
1281         .owner             = THIS_MODULE,
1282         .release           = inet6_release,
1283         .bind              = inet6_bind,
1284         .connect           = inet_dgram_connect,        /* ok           */
1285         .socketpair        = sock_no_socketpair,        /* a do nothing */
1286         .accept            = sock_no_accept,            /* a do nothing */
1287         .getname           = inet6_getname,
1288         .poll              = datagram_poll,             /* ok           */
1289         .ioctl             = inet6_ioctl,               /* must change  */
1290         .gettstamp         = sock_gettstamp,
1291         .listen            = sock_no_listen,            /* ok           */
1292         .shutdown          = inet_shutdown,             /* ok           */
1293         .setsockopt        = sock_common_setsockopt,    /* ok           */
1294         .getsockopt        = sock_common_getsockopt,    /* ok           */
1295         .sendmsg           = inet_sendmsg,              /* ok           */
1296         .recvmsg           = sock_common_recvmsg,       /* ok           */
1297         .mmap              = sock_no_mmap,
1298         .sendpage          = sock_no_sendpage,
1299 #ifdef CONFIG_COMPAT
1300         .compat_ioctl      = inet6_compat_ioctl,
1301 #endif
1302 };
1303
1304 static struct inet_protosw rawv6_protosw = {
1305         .type           = SOCK_RAW,
1306         .protocol       = IPPROTO_IP,   /* wild card */
1307         .prot           = &rawv6_prot,
1308         .ops            = &inet6_sockraw_ops,
1309         .flags          = INET_PROTOSW_REUSE,
1310 };
1311
1312 int __init rawv6_init(void)
1313 {
1314         return inet6_register_protosw(&rawv6_protosw);
1315 }
1316
1317 void rawv6_exit(void)
1318 {
1319         inet6_unregister_protosw(&rawv6_protosw);
1320 }