Merge branch 'upstream' of git://git.linux-mips.org/pub/scm/ralf/upstream-linus
[linux-2.6-block.git] / net / l2tp / l2tp_ip6.c
1 /*
2  * L2TPv3 IP encapsulation support for IPv6
3  *
4  * Copyright (c) 2012 Katalix Systems Ltd
5  *
6  *      This program is free software; you can redistribute it and/or
7  *      modify it under the terms of the GNU General Public License
8  *      as published by the Free Software Foundation; either version
9  *      2 of the License, or (at your option) any later version.
10  */
11
12 #define pr_fmt(fmt) KBUILD_MODNAME ": " fmt
13
14 #include <linux/icmp.h>
15 #include <linux/module.h>
16 #include <linux/skbuff.h>
17 #include <linux/random.h>
18 #include <linux/socket.h>
19 #include <linux/l2tp.h>
20 #include <linux/in.h>
21 #include <linux/in6.h>
22 #include <net/sock.h>
23 #include <net/ip.h>
24 #include <net/icmp.h>
25 #include <net/udp.h>
26 #include <net/inet_common.h>
27 #include <net/inet_hashtables.h>
28 #include <net/inet6_hashtables.h>
29 #include <net/tcp_states.h>
30 #include <net/protocol.h>
31 #include <net/xfrm.h>
32
33 #include <net/transp_v6.h>
34 #include <net/addrconf.h>
35 #include <net/ip6_route.h>
36
37 #include "l2tp_core.h"
38
39 struct l2tp_ip6_sock {
40         /* inet_sock has to be the first member of l2tp_ip6_sock */
41         struct inet_sock        inet;
42
43         u32                     conn_id;
44         u32                     peer_conn_id;
45
46         /* ipv6_pinfo has to be the last member of l2tp_ip6_sock, see
47            inet6_sk_generic */
48         struct ipv6_pinfo       inet6;
49 };
50
51 static DEFINE_RWLOCK(l2tp_ip6_lock);
52 static struct hlist_head l2tp_ip6_table;
53 static struct hlist_head l2tp_ip6_bind_table;
54
55 static inline struct l2tp_ip6_sock *l2tp_ip6_sk(const struct sock *sk)
56 {
57         return (struct l2tp_ip6_sock *)sk;
58 }
59
60 static struct sock *__l2tp_ip6_bind_lookup(struct net *net,
61                                            struct in6_addr *laddr,
62                                            int dif, u32 tunnel_id)
63 {
64         struct sock *sk;
65
66         sk_for_each_bound(sk, &l2tp_ip6_bind_table) {
67                 const struct in6_addr *addr = inet6_rcv_saddr(sk);
68                 struct l2tp_ip6_sock *l2tp = l2tp_ip6_sk(sk);
69
70                 if (l2tp == NULL)
71                         continue;
72
73                 if ((l2tp->conn_id == tunnel_id) &&
74                     net_eq(sock_net(sk), net) &&
75                     !(addr && ipv6_addr_equal(addr, laddr)) &&
76                     !(sk->sk_bound_dev_if && sk->sk_bound_dev_if != dif))
77                         goto found;
78         }
79
80         sk = NULL;
81 found:
82         return sk;
83 }
84
85 static inline struct sock *l2tp_ip6_bind_lookup(struct net *net,
86                                                 struct in6_addr *laddr,
87                                                 int dif, u32 tunnel_id)
88 {
89         struct sock *sk = __l2tp_ip6_bind_lookup(net, laddr, dif, tunnel_id);
90         if (sk)
91                 sock_hold(sk);
92
93         return sk;
94 }
95
96 /* When processing receive frames, there are two cases to
97  * consider. Data frames consist of a non-zero session-id and an
98  * optional cookie. Control frames consist of a regular L2TP header
99  * preceded by 32-bits of zeros.
100  *
101  * L2TPv3 Session Header Over IP
102  *
103  *  0                   1                   2                   3
104  *  0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1
105  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
106  * |                           Session ID                          |
107  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
108  * |               Cookie (optional, maximum 64 bits)...
109  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
110  *                                                                 |
111  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
112  *
113  * L2TPv3 Control Message Header Over IP
114  *
115  *  0                   1                   2                   3
116  *  0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1 2 3 4 5 6 7 8 9 0 1
117  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
118  * |                      (32 bits of zeros)                       |
119  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
120  * |T|L|x|x|S|x|x|x|x|x|x|x|  Ver  |             Length            |
121  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
122  * |                     Control Connection ID                     |
123  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
124  * |               Ns              |               Nr              |
125  * +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
126  *
127  * All control frames are passed to userspace.
128  */
129 static int l2tp_ip6_recv(struct sk_buff *skb)
130 {
131         struct sock *sk;
132         u32 session_id;
133         u32 tunnel_id;
134         unsigned char *ptr, *optr;
135         struct l2tp_session *session;
136         struct l2tp_tunnel *tunnel = NULL;
137         int length;
138
139         if (!pskb_may_pull(skb, 4))
140                 goto discard;
141
142         /* Point to L2TP header */
143         optr = ptr = skb->data;
144         session_id = ntohl(*((__be32 *) ptr));
145         ptr += 4;
146
147         /* RFC3931: L2TP/IP packets have the first 4 bytes containing
148          * the session_id. If it is 0, the packet is a L2TP control
149          * frame and the session_id value can be discarded.
150          */
151         if (session_id == 0) {
152                 __skb_pull(skb, 4);
153                 goto pass_up;
154         }
155
156         /* Ok, this is a data packet. Lookup the session. */
157         session = l2tp_session_find(&init_net, NULL, session_id);
158         if (session == NULL)
159                 goto discard;
160
161         tunnel = session->tunnel;
162         if (tunnel == NULL)
163                 goto discard;
164
165         /* Trace packet contents, if enabled */
166         if (tunnel->debug & L2TP_MSG_DATA) {
167                 length = min(32u, skb->len);
168                 if (!pskb_may_pull(skb, length))
169                         goto discard;
170
171                 /* Point to L2TP header */
172                 optr = ptr = skb->data;
173                 ptr += 4;
174                 pr_debug("%s: ip recv\n", tunnel->name);
175                 print_hex_dump_bytes("", DUMP_PREFIX_OFFSET, ptr, length);
176         }
177
178         l2tp_recv_common(session, skb, ptr, optr, 0, skb->len,
179                          tunnel->recv_payload_hook);
180         return 0;
181
182 pass_up:
183         /* Get the tunnel_id from the L2TP header */
184         if (!pskb_may_pull(skb, 12))
185                 goto discard;
186
187         if ((skb->data[0] & 0xc0) != 0xc0)
188                 goto discard;
189
190         tunnel_id = ntohl(*(__be32 *) &skb->data[4]);
191         tunnel = l2tp_tunnel_find(&init_net, tunnel_id);
192         if (tunnel != NULL)
193                 sk = tunnel->sock;
194         else {
195                 struct ipv6hdr *iph = ipv6_hdr(skb);
196
197                 read_lock_bh(&l2tp_ip6_lock);
198                 sk = __l2tp_ip6_bind_lookup(&init_net, &iph->daddr,
199                                             0, tunnel_id);
200                 read_unlock_bh(&l2tp_ip6_lock);
201         }
202
203         if (sk == NULL)
204                 goto discard;
205
206         sock_hold(sk);
207
208         if (!xfrm6_policy_check(sk, XFRM_POLICY_IN, skb))
209                 goto discard_put;
210
211         nf_reset(skb);
212
213         return sk_receive_skb(sk, skb, 1);
214
215 discard_put:
216         sock_put(sk);
217
218 discard:
219         kfree_skb(skb);
220         return 0;
221 }
222
223 static int l2tp_ip6_open(struct sock *sk)
224 {
225         /* Prevent autobind. We don't have ports. */
226         inet_sk(sk)->inet_num = IPPROTO_L2TP;
227
228         write_lock_bh(&l2tp_ip6_lock);
229         sk_add_node(sk, &l2tp_ip6_table);
230         write_unlock_bh(&l2tp_ip6_lock);
231
232         return 0;
233 }
234
235 static void l2tp_ip6_close(struct sock *sk, long timeout)
236 {
237         write_lock_bh(&l2tp_ip6_lock);
238         hlist_del_init(&sk->sk_bind_node);
239         sk_del_node_init(sk);
240         write_unlock_bh(&l2tp_ip6_lock);
241
242         sk_common_release(sk);
243 }
244
245 static void l2tp_ip6_destroy_sock(struct sock *sk)
246 {
247         struct l2tp_tunnel *tunnel = l2tp_sock_to_tunnel(sk);
248
249         lock_sock(sk);
250         ip6_flush_pending_frames(sk);
251         release_sock(sk);
252
253         if (tunnel) {
254                 l2tp_tunnel_closeall(tunnel);
255                 sock_put(sk);
256         }
257
258         inet6_destroy_sock(sk);
259 }
260
261 static int l2tp_ip6_bind(struct sock *sk, struct sockaddr *uaddr, int addr_len)
262 {
263         struct inet_sock *inet = inet_sk(sk);
264         struct ipv6_pinfo *np = inet6_sk(sk);
265         struct sockaddr_l2tpip6 *addr = (struct sockaddr_l2tpip6 *) uaddr;
266         __be32 v4addr = 0;
267         int addr_type;
268         int err;
269
270         if (!sock_flag(sk, SOCK_ZAPPED))
271                 return -EINVAL;
272         if (addr->l2tp_family != AF_INET6)
273                 return -EINVAL;
274         if (addr_len < sizeof(*addr))
275                 return -EINVAL;
276
277         addr_type = ipv6_addr_type(&addr->l2tp_addr);
278
279         /* l2tp_ip6 sockets are IPv6 only */
280         if (addr_type == IPV6_ADDR_MAPPED)
281                 return -EADDRNOTAVAIL;
282
283         /* L2TP is point-point, not multicast */
284         if (addr_type & IPV6_ADDR_MULTICAST)
285                 return -EADDRNOTAVAIL;
286
287         err = -EADDRINUSE;
288         read_lock_bh(&l2tp_ip6_lock);
289         if (__l2tp_ip6_bind_lookup(&init_net, &addr->l2tp_addr,
290                                    sk->sk_bound_dev_if, addr->l2tp_conn_id))
291                 goto out_in_use;
292         read_unlock_bh(&l2tp_ip6_lock);
293
294         lock_sock(sk);
295
296         err = -EINVAL;
297         if (sk->sk_state != TCP_CLOSE)
298                 goto out_unlock;
299
300         /* Check if the address belongs to the host. */
301         rcu_read_lock();
302         if (addr_type != IPV6_ADDR_ANY) {
303                 struct net_device *dev = NULL;
304
305                 if (addr_type & IPV6_ADDR_LINKLOCAL) {
306                         if (addr_len >= sizeof(struct sockaddr_in6) &&
307                             addr->l2tp_scope_id) {
308                                 /* Override any existing binding, if another
309                                  * one is supplied by user.
310                                  */
311                                 sk->sk_bound_dev_if = addr->l2tp_scope_id;
312                         }
313
314                         /* Binding to link-local address requires an
315                            interface */
316                         if (!sk->sk_bound_dev_if)
317                                 goto out_unlock_rcu;
318
319                         err = -ENODEV;
320                         dev = dev_get_by_index_rcu(sock_net(sk),
321                                                    sk->sk_bound_dev_if);
322                         if (!dev)
323                                 goto out_unlock_rcu;
324                 }
325
326                 /* ipv4 addr of the socket is invalid.  Only the
327                  * unspecified and mapped address have a v4 equivalent.
328                  */
329                 v4addr = LOOPBACK4_IPV6;
330                 err = -EADDRNOTAVAIL;
331                 if (!ipv6_chk_addr(sock_net(sk), &addr->l2tp_addr, dev, 0))
332                         goto out_unlock_rcu;
333         }
334         rcu_read_unlock();
335
336         inet->inet_rcv_saddr = inet->inet_saddr = v4addr;
337         sk->sk_v6_rcv_saddr = addr->l2tp_addr;
338         np->saddr = addr->l2tp_addr;
339
340         l2tp_ip6_sk(sk)->conn_id = addr->l2tp_conn_id;
341
342         write_lock_bh(&l2tp_ip6_lock);
343         sk_add_bind_node(sk, &l2tp_ip6_bind_table);
344         sk_del_node_init(sk);
345         write_unlock_bh(&l2tp_ip6_lock);
346
347         sock_reset_flag(sk, SOCK_ZAPPED);
348         release_sock(sk);
349         return 0;
350
351 out_unlock_rcu:
352         rcu_read_unlock();
353 out_unlock:
354         release_sock(sk);
355         return err;
356
357 out_in_use:
358         read_unlock_bh(&l2tp_ip6_lock);
359         return err;
360 }
361
362 static int l2tp_ip6_connect(struct sock *sk, struct sockaddr *uaddr,
363                             int addr_len)
364 {
365         struct sockaddr_l2tpip6 *lsa = (struct sockaddr_l2tpip6 *) uaddr;
366         struct sockaddr_in6     *usin = (struct sockaddr_in6 *) uaddr;
367         struct in6_addr *daddr;
368         int     addr_type;
369         int rc;
370
371         if (sock_flag(sk, SOCK_ZAPPED)) /* Must bind first - autobinding does not work */
372                 return -EINVAL;
373
374         if (addr_len < sizeof(*lsa))
375                 return -EINVAL;
376
377         if (usin->sin6_family != AF_INET6)
378                 return -EINVAL;
379
380         addr_type = ipv6_addr_type(&usin->sin6_addr);
381         if (addr_type & IPV6_ADDR_MULTICAST)
382                 return -EINVAL;
383
384         if (addr_type & IPV6_ADDR_MAPPED) {
385                 daddr = &usin->sin6_addr;
386                 if (ipv4_is_multicast(daddr->s6_addr32[3]))
387                         return -EINVAL;
388         }
389
390         rc = ip6_datagram_connect(sk, uaddr, addr_len);
391
392         lock_sock(sk);
393
394         l2tp_ip6_sk(sk)->peer_conn_id = lsa->l2tp_conn_id;
395
396         write_lock_bh(&l2tp_ip6_lock);
397         hlist_del_init(&sk->sk_bind_node);
398         sk_add_bind_node(sk, &l2tp_ip6_bind_table);
399         write_unlock_bh(&l2tp_ip6_lock);
400
401         release_sock(sk);
402
403         return rc;
404 }
405
406 static int l2tp_ip6_disconnect(struct sock *sk, int flags)
407 {
408         if (sock_flag(sk, SOCK_ZAPPED))
409                 return 0;
410
411         return udp_disconnect(sk, flags);
412 }
413
414 static int l2tp_ip6_getname(struct socket *sock, struct sockaddr *uaddr,
415                             int *uaddr_len, int peer)
416 {
417         struct sockaddr_l2tpip6 *lsa = (struct sockaddr_l2tpip6 *)uaddr;
418         struct sock *sk = sock->sk;
419         struct ipv6_pinfo *np = inet6_sk(sk);
420         struct l2tp_ip6_sock *lsk = l2tp_ip6_sk(sk);
421
422         lsa->l2tp_family = AF_INET6;
423         lsa->l2tp_flowinfo = 0;
424         lsa->l2tp_scope_id = 0;
425         lsa->l2tp_unused = 0;
426         if (peer) {
427                 if (!lsk->peer_conn_id)
428                         return -ENOTCONN;
429                 lsa->l2tp_conn_id = lsk->peer_conn_id;
430                 lsa->l2tp_addr = sk->sk_v6_daddr;
431                 if (np->sndflow)
432                         lsa->l2tp_flowinfo = np->flow_label;
433         } else {
434                 if (ipv6_addr_any(&sk->sk_v6_rcv_saddr))
435                         lsa->l2tp_addr = np->saddr;
436                 else
437                         lsa->l2tp_addr = sk->sk_v6_rcv_saddr;
438
439                 lsa->l2tp_conn_id = lsk->conn_id;
440         }
441         if (ipv6_addr_type(&lsa->l2tp_addr) & IPV6_ADDR_LINKLOCAL)
442                 lsa->l2tp_scope_id = sk->sk_bound_dev_if;
443         *uaddr_len = sizeof(*lsa);
444         return 0;
445 }
446
447 static int l2tp_ip6_backlog_recv(struct sock *sk, struct sk_buff *skb)
448 {
449         int rc;
450
451         /* Charge it to the socket, dropping if the queue is full. */
452         rc = sock_queue_rcv_skb(sk, skb);
453         if (rc < 0)
454                 goto drop;
455
456         return 0;
457
458 drop:
459         IP_INC_STATS(&init_net, IPSTATS_MIB_INDISCARDS);
460         kfree_skb(skb);
461         return -1;
462 }
463
464 static int l2tp_ip6_push_pending_frames(struct sock *sk)
465 {
466         struct sk_buff *skb;
467         __be32 *transhdr = NULL;
468         int err = 0;
469
470         skb = skb_peek(&sk->sk_write_queue);
471         if (skb == NULL)
472                 goto out;
473
474         transhdr = (__be32 *)skb_transport_header(skb);
475         *transhdr = 0;
476
477         err = ip6_push_pending_frames(sk);
478
479 out:
480         return err;
481 }
482
483 /* Userspace will call sendmsg() on the tunnel socket to send L2TP
484  * control frames.
485  */
486 static int l2tp_ip6_sendmsg(struct sock *sk, struct msghdr *msg, size_t len)
487 {
488         struct ipv6_txoptions opt_space;
489         DECLARE_SOCKADDR(struct sockaddr_l2tpip6 *, lsa, msg->msg_name);
490         struct in6_addr *daddr, *final_p, final;
491         struct ipv6_pinfo *np = inet6_sk(sk);
492         struct ipv6_txoptions *opt_to_free = NULL;
493         struct ipv6_txoptions *opt = NULL;
494         struct ip6_flowlabel *flowlabel = NULL;
495         struct dst_entry *dst = NULL;
496         struct flowi6 fl6;
497         struct sockcm_cookie sockc_unused = {0};
498         struct ipcm6_cookie ipc6;
499         int addr_len = msg->msg_namelen;
500         int transhdrlen = 4; /* zero session-id */
501         int ulen = len + transhdrlen;
502         int err;
503
504         /* Rough check on arithmetic overflow,
505            better check is made in ip6_append_data().
506          */
507         if (len > INT_MAX)
508                 return -EMSGSIZE;
509
510         /* Mirror BSD error message compatibility */
511         if (msg->msg_flags & MSG_OOB)
512                 return -EOPNOTSUPP;
513
514         /*
515          *      Get and verify the address.
516          */
517         memset(&fl6, 0, sizeof(fl6));
518
519         fl6.flowi6_mark = sk->sk_mark;
520
521         ipc6.hlimit = -1;
522         ipc6.tclass = -1;
523         ipc6.dontfrag = -1;
524
525         if (lsa) {
526                 if (addr_len < SIN6_LEN_RFC2133)
527                         return -EINVAL;
528
529                 if (lsa->l2tp_family && lsa->l2tp_family != AF_INET6)
530                         return -EAFNOSUPPORT;
531
532                 daddr = &lsa->l2tp_addr;
533                 if (np->sndflow) {
534                         fl6.flowlabel = lsa->l2tp_flowinfo & IPV6_FLOWINFO_MASK;
535                         if (fl6.flowlabel&IPV6_FLOWLABEL_MASK) {
536                                 flowlabel = fl6_sock_lookup(sk, fl6.flowlabel);
537                                 if (flowlabel == NULL)
538                                         return -EINVAL;
539                         }
540                 }
541
542                 /*
543                  * Otherwise it will be difficult to maintain
544                  * sk->sk_dst_cache.
545                  */
546                 if (sk->sk_state == TCP_ESTABLISHED &&
547                     ipv6_addr_equal(daddr, &sk->sk_v6_daddr))
548                         daddr = &sk->sk_v6_daddr;
549
550                 if (addr_len >= sizeof(struct sockaddr_in6) &&
551                     lsa->l2tp_scope_id &&
552                     ipv6_addr_type(daddr) & IPV6_ADDR_LINKLOCAL)
553                         fl6.flowi6_oif = lsa->l2tp_scope_id;
554         } else {
555                 if (sk->sk_state != TCP_ESTABLISHED)
556                         return -EDESTADDRREQ;
557
558                 daddr = &sk->sk_v6_daddr;
559                 fl6.flowlabel = np->flow_label;
560         }
561
562         if (fl6.flowi6_oif == 0)
563                 fl6.flowi6_oif = sk->sk_bound_dev_if;
564
565         if (msg->msg_controllen) {
566                 opt = &opt_space;
567                 memset(opt, 0, sizeof(struct ipv6_txoptions));
568                 opt->tot_len = sizeof(struct ipv6_txoptions);
569                 ipc6.opt = opt;
570
571                 err = ip6_datagram_send_ctl(sock_net(sk), sk, msg, &fl6, &ipc6,
572                                             &sockc_unused);
573                 if (err < 0) {
574                         fl6_sock_release(flowlabel);
575                         return err;
576                 }
577                 if ((fl6.flowlabel & IPV6_FLOWLABEL_MASK) && !flowlabel) {
578                         flowlabel = fl6_sock_lookup(sk, fl6.flowlabel);
579                         if (flowlabel == NULL)
580                                 return -EINVAL;
581                 }
582                 if (!(opt->opt_nflen|opt->opt_flen))
583                         opt = NULL;
584         }
585
586         if (!opt) {
587                 opt = txopt_get(np);
588                 opt_to_free = opt;
589         }
590         if (flowlabel)
591                 opt = fl6_merge_options(&opt_space, flowlabel, opt);
592         opt = ipv6_fixup_options(&opt_space, opt);
593         ipc6.opt = opt;
594
595         fl6.flowi6_proto = sk->sk_protocol;
596         if (!ipv6_addr_any(daddr))
597                 fl6.daddr = *daddr;
598         else
599                 fl6.daddr.s6_addr[15] = 0x1; /* :: means loopback (BSD'ism) */
600         if (ipv6_addr_any(&fl6.saddr) && !ipv6_addr_any(&np->saddr))
601                 fl6.saddr = np->saddr;
602
603         final_p = fl6_update_dst(&fl6, opt, &final);
604
605         if (!fl6.flowi6_oif && ipv6_addr_is_multicast(&fl6.daddr))
606                 fl6.flowi6_oif = np->mcast_oif;
607         else if (!fl6.flowi6_oif)
608                 fl6.flowi6_oif = np->ucast_oif;
609
610         security_sk_classify_flow(sk, flowi6_to_flowi(&fl6));
611
612         dst = ip6_dst_lookup_flow(sk, &fl6, final_p);
613         if (IS_ERR(dst)) {
614                 err = PTR_ERR(dst);
615                 goto out;
616         }
617
618         if (ipc6.hlimit < 0)
619                 ipc6.hlimit = ip6_sk_dst_hoplimit(np, &fl6, dst);
620
621         if (ipc6.tclass < 0)
622                 ipc6.tclass = np->tclass;
623
624         if (ipc6.dontfrag < 0)
625                 ipc6.dontfrag = np->dontfrag;
626
627         if (msg->msg_flags & MSG_CONFIRM)
628                 goto do_confirm;
629
630 back_from_confirm:
631         lock_sock(sk);
632         err = ip6_append_data(sk, ip_generic_getfrag, msg,
633                               ulen, transhdrlen, &ipc6,
634                               &fl6, (struct rt6_info *)dst,
635                               msg->msg_flags, &sockc_unused);
636         if (err)
637                 ip6_flush_pending_frames(sk);
638         else if (!(msg->msg_flags & MSG_MORE))
639                 err = l2tp_ip6_push_pending_frames(sk);
640         release_sock(sk);
641 done:
642         dst_release(dst);
643 out:
644         fl6_sock_release(flowlabel);
645         txopt_put(opt_to_free);
646
647         return err < 0 ? err : len;
648
649 do_confirm:
650         dst_confirm(dst);
651         if (!(msg->msg_flags & MSG_PROBE) || len)
652                 goto back_from_confirm;
653         err = 0;
654         goto done;
655 }
656
657 static int l2tp_ip6_recvmsg(struct sock *sk, struct msghdr *msg, size_t len,
658                             int noblock, int flags, int *addr_len)
659 {
660         struct ipv6_pinfo *np = inet6_sk(sk);
661         DECLARE_SOCKADDR(struct sockaddr_l2tpip6 *, lsa, msg->msg_name);
662         size_t copied = 0;
663         int err = -EOPNOTSUPP;
664         struct sk_buff *skb;
665
666         if (flags & MSG_OOB)
667                 goto out;
668
669         if (addr_len)
670                 *addr_len = sizeof(*lsa);
671
672         if (flags & MSG_ERRQUEUE)
673                 return ipv6_recv_error(sk, msg, len, addr_len);
674
675         skb = skb_recv_datagram(sk, flags, noblock, &err);
676         if (!skb)
677                 goto out;
678
679         copied = skb->len;
680         if (len < copied) {
681                 msg->msg_flags |= MSG_TRUNC;
682                 copied = len;
683         }
684
685         err = skb_copy_datagram_msg(skb, 0, msg, copied);
686         if (err)
687                 goto done;
688
689         sock_recv_timestamp(msg, sk, skb);
690
691         /* Copy the address. */
692         if (lsa) {
693                 lsa->l2tp_family = AF_INET6;
694                 lsa->l2tp_unused = 0;
695                 lsa->l2tp_addr = ipv6_hdr(skb)->saddr;
696                 lsa->l2tp_flowinfo = 0;
697                 lsa->l2tp_scope_id = 0;
698                 lsa->l2tp_conn_id = 0;
699                 if (ipv6_addr_type(&lsa->l2tp_addr) & IPV6_ADDR_LINKLOCAL)
700                         lsa->l2tp_scope_id = inet6_iif(skb);
701         }
702
703         if (np->rxopt.all)
704                 ip6_datagram_recv_ctl(sk, msg, skb);
705
706         if (flags & MSG_TRUNC)
707                 copied = skb->len;
708 done:
709         skb_free_datagram(sk, skb);
710 out:
711         return err ? err : copied;
712 }
713
714 static struct proto l2tp_ip6_prot = {
715         .name              = "L2TP/IPv6",
716         .owner             = THIS_MODULE,
717         .init              = l2tp_ip6_open,
718         .close             = l2tp_ip6_close,
719         .bind              = l2tp_ip6_bind,
720         .connect           = l2tp_ip6_connect,
721         .disconnect        = l2tp_ip6_disconnect,
722         .ioctl             = udp_ioctl,
723         .destroy           = l2tp_ip6_destroy_sock,
724         .setsockopt        = ipv6_setsockopt,
725         .getsockopt        = ipv6_getsockopt,
726         .sendmsg           = l2tp_ip6_sendmsg,
727         .recvmsg           = l2tp_ip6_recvmsg,
728         .backlog_rcv       = l2tp_ip6_backlog_recv,
729         .hash              = inet6_hash,
730         .unhash            = inet_unhash,
731         .obj_size          = sizeof(struct l2tp_ip6_sock),
732 #ifdef CONFIG_COMPAT
733         .compat_setsockopt = compat_ipv6_setsockopt,
734         .compat_getsockopt = compat_ipv6_getsockopt,
735 #endif
736 };
737
738 static const struct proto_ops l2tp_ip6_ops = {
739         .family            = PF_INET6,
740         .owner             = THIS_MODULE,
741         .release           = inet6_release,
742         .bind              = inet6_bind,
743         .connect           = inet_dgram_connect,
744         .socketpair        = sock_no_socketpair,
745         .accept            = sock_no_accept,
746         .getname           = l2tp_ip6_getname,
747         .poll              = datagram_poll,
748         .ioctl             = inet6_ioctl,
749         .listen            = sock_no_listen,
750         .shutdown          = inet_shutdown,
751         .setsockopt        = sock_common_setsockopt,
752         .getsockopt        = sock_common_getsockopt,
753         .sendmsg           = inet_sendmsg,
754         .recvmsg           = sock_common_recvmsg,
755         .mmap              = sock_no_mmap,
756         .sendpage          = sock_no_sendpage,
757 #ifdef CONFIG_COMPAT
758         .compat_setsockopt = compat_sock_common_setsockopt,
759         .compat_getsockopt = compat_sock_common_getsockopt,
760 #endif
761 };
762
763 static struct inet_protosw l2tp_ip6_protosw = {
764         .type           = SOCK_DGRAM,
765         .protocol       = IPPROTO_L2TP,
766         .prot           = &l2tp_ip6_prot,
767         .ops            = &l2tp_ip6_ops,
768 };
769
770 static struct inet6_protocol l2tp_ip6_protocol __read_mostly = {
771         .handler        = l2tp_ip6_recv,
772 };
773
774 static int __init l2tp_ip6_init(void)
775 {
776         int err;
777
778         pr_info("L2TP IP encapsulation support for IPv6 (L2TPv3)\n");
779
780         err = proto_register(&l2tp_ip6_prot, 1);
781         if (err != 0)
782                 goto out;
783
784         err = inet6_add_protocol(&l2tp_ip6_protocol, IPPROTO_L2TP);
785         if (err)
786                 goto out1;
787
788         inet6_register_protosw(&l2tp_ip6_protosw);
789         return 0;
790
791 out1:
792         proto_unregister(&l2tp_ip6_prot);
793 out:
794         return err;
795 }
796
797 static void __exit l2tp_ip6_exit(void)
798 {
799         inet6_unregister_protosw(&l2tp_ip6_protosw);
800         inet6_del_protocol(&l2tp_ip6_protocol, IPPROTO_L2TP);
801         proto_unregister(&l2tp_ip6_prot);
802 }
803
804 module_init(l2tp_ip6_init);
805 module_exit(l2tp_ip6_exit);
806
807 MODULE_LICENSE("GPL");
808 MODULE_AUTHOR("Chris Elston <celston@katalix.com>");
809 MODULE_DESCRIPTION("L2TP IP encapsulation for IPv6");
810 MODULE_VERSION("1.0");
811
812 /* Use the value of SOCK_DGRAM (2) directory, because __stringify doesn't like
813  * enums
814  */
815 MODULE_ALIAS_NET_PF_PROTO_TYPE(PF_INET6, 2, IPPROTO_L2TP);
816 MODULE_ALIAS_NET_PF_PROTO(PF_INET6, IPPROTO_L2TP);