include/net/xfrm.h

   1 #ifndef _NET_XFRM_H
   2 #define _NET_XFRM_H
   3
   4 #include <linux/compiler.h>
   5 #include <linux/in.h>
   6 #include <linux/xfrm.h>
   7 #include <linux/spinlock.h>
   8 #include <linux/list.h>
   9 #include <linux/skbuff.h>
  10 #include <linux/socket.h>
  11 #include <linux/pfkeyv2.h>
  12 #include <linux/ipsec.h>
  13 #include <linux/in6.h>
  14 #include <linux/mutex.h>
  15
  16 #include <net/sock.h>
  17 #include <net/dst.h>
  18 #include <net/route.h>
  19 #include <net/ipv6.h>
  20 #include <net/ip6_fib.h>
  21
  22 #define XFRM_ALIGN8(len)        (((len) + 7) & ~7)
  23 #define MODULE_ALIAS_XFRM_MODE(family, encap) \
  24         MODULE_ALIAS("xfrm-mode-" __stringify(family) "-" __stringify(encap))
  25
  26 extern struct sock *xfrm_nl;
  27 extern u32 sysctl_xfrm_aevent_etime;
  28 extern u32 sysctl_xfrm_aevent_rseqth;
  29
  30 extern struct mutex xfrm_cfg_mutex;
  31
  32 /* Organization of SPD aka "XFRM rules"
  33    ------------------------------------
  34
  35    Basic objects:
  36    - policy rule, struct xfrm_policy (=SPD entry)
  37    - bundle of transformations, struct dst_entry == struct xfrm_dst (=SA bundle)
  38    - instance of a transformer, struct xfrm_state (=SA)
  39    - template to clone xfrm_state, struct xfrm_tmpl
  40
  41    SPD is plain linear list of xfrm_policy rules, ordered by priority.
  42    (To be compatible with existing pfkeyv2 implementations,
  43    many rules with priority of 0x7fffffff are allowed to exist and
  44    such rules are ordered in an unpredictable way, thanks to bsd folks.)
  45
  46    Lookup is plain linear search until the first match with selector.
  47
  48    If "action" is "block", then we prohibit the flow, otherwise:
  49    if "xfrms_nr" is zero, the flow passes untransformed. Otherwise,
  50    policy entry has list of up to XFRM_MAX_DEPTH transformations,
  51    described by templates xfrm_tmpl. Each template is resolved
  52    to a complete xfrm_state (see below) and we pack bundle of transformations
  53    to a dst_entry returned to requestor.
  54
  55    dst -. xfrm  .-> xfrm_state #1
  56     |---. child .-> dst -. xfrm .-> xfrm_state #2
  57                      |---. child .-> dst -. xfrm .-> xfrm_state #3
  58                                       |---. child .-> NULL
  59
  60    Bundles are cached at xrfm_policy struct (field ->bundles).
  61
  62
  63    Resolution of xrfm_tmpl
  64    -----------------------
  65    Template contains:
  66    1. ->mode            Mode: transport or tunnel
  67    2. ->id.proto        Protocol: AH/ESP/IPCOMP
  68    3. ->id.daddr        Remote tunnel endpoint, ignored for transport mode.
  69       Q: allow to resolve security gateway?
  70    4. ->id.spi          If not zero, static SPI.
  71    5. ->saddr           Local tunnel endpoint, ignored for transport mode.
  72    6. ->algos           List of allowed algos. Plain bitmask now.
  73       Q: ealgos, aalgos, calgos. What a mess...
  74    7. ->share           Sharing mode.
  75       Q: how to implement private sharing mode? To add struct sock* to
  76       flow id?
  77
  78    Having this template we search through SAD searching for entries
  79    with appropriate mode/proto/algo, permitted by selector.
  80    If no appropriate entry found, it is requested from key manager.
  81
  82    PROBLEMS:
  83    Q: How to find all the bundles referring to a physical path for
  84       PMTU discovery? Seems, dst should contain list of all parents...
  85       and enter to infinite locking hierarchy disaster.
  86       No! It is easier, we will not search for them, let them find us.
  87       We add genid to each dst plus pointer to genid of raw IP route,
  88       pmtu disc will update pmtu on raw IP route and increase its genid.
  89       dst_check() will see this for top level and trigger resyncing
  90       metrics. Plus, it will be made via sk->sk_dst_cache. Solved.
  91  */
  92
  93 /* Full description of state of transformer. */
  94 struct xfrm_state
  95 {
  96         /* Note: bydst is re-used during gc */
  97         struct list_head        bydst;
  98         struct list_head        bysrc;
  99         struct list_head        byspi;
 100
 101         atomic_t                refcnt;
 102         spinlock_t              lock;
 103
 104         struct xfrm_id          id;
 105         struct xfrm_selector    sel;
 106
 107         /* Key manger bits */
 108         struct {
 109                 u8              state;
 110                 u8              dying;
 111                 u32             seq;
 112         } km;
 113
 114         /* Parameters of this state. */
 115         struct {
 116                 u32             reqid;
 117                 u8              mode;
 118                 u8              replay_window;
 119                 u8              aalgo, ealgo, calgo;
 120                 u8              flags;
 121                 u16             family;
 122                 xfrm_address_t  saddr;
 123                 int             header_len;
 124                 int             trailer_len;
 125         } props;
 126
 127         struct xfrm_lifetime_cfg lft;
 128
 129         /* Data for transformer */
 130         struct xfrm_algo        *aalg;
 131         struct xfrm_algo        *ealg;
 132         struct xfrm_algo        *calg;
 133
 134         /* Data for encapsulator */
 135         struct xfrm_encap_tmpl  *encap;
 136
 137         /* Data for care-of address */
 138         xfrm_address_t  *coaddr;
 139
 140         /* IPComp needs an IPIP tunnel for handling uncompressed packets */
 141         struct xfrm_state       *tunnel;
 142
 143         /* If a tunnel, number of users + 1 */
 144         atomic_t                tunnel_users;
 145
 146         /* State for replay detection */
 147         struct xfrm_replay_state replay;
 148
 149         /* Replay detection state at the time we sent the last notification */
 150         struct xfrm_replay_state preplay;
 151
 152         /* internal flag that only holds state for delayed aevent at the
 153          * moment
 154         */
 155         u32                     xflags;
 156
 157         /* Replay detection notification settings */
 158         u32                     replay_maxage;
 159         u32                     replay_maxdiff;
 160
 161         /* Replay detection notification timer */
 162         struct timer_list       rtimer;
 163
 164         /* Statistics */
 165         struct xfrm_stats       stats;
 166
 167         struct xfrm_lifetime_cur curlft;
 168         struct timer_list       timer;
 169
 170         /* Last used time */
 171         u64                     lastused;
 172
 173         /* Reference to data common to all the instances of this
 174          * transformer. */
 175         struct xfrm_type        *type;
 176         struct xfrm_mode        *mode;
 177
 178         /* Security context */
 179         struct xfrm_sec_ctx     *security;
 180
 181         /* Private data of this transformer, format is opaque,
 182          * interpreted by xfrm_type methods. */
 183         void                    *data;
 184 };
 185
 186 /* xflags - make enum if more show up */
 187 #define XFRM_TIME_DEFER 1
 188
 189 enum {
 190         XFRM_STATE_VOID,
 191         XFRM_STATE_ACQ,
 192         XFRM_STATE_VALID,
 193         XFRM_STATE_ERROR,
 194         XFRM_STATE_EXPIRED,
 195         XFRM_STATE_DEAD
 196 };
 197
 198 /* callback structure passed from either netlink or pfkey */
 199 struct km_event
 200 {
 201         union {
 202                 u32 hard;
 203                 u32 proto;
 204                 u32 byid;
 205                 u32 aevent;
 206                 u32 type;
 207         } data;
 208
 209         u32     seq;
 210         u32     pid;
 211         u32     event;
 212 };
 213
 214 struct xfrm_type;
 215 struct xfrm_dst;
 216 struct xfrm_policy_afinfo {
 217         unsigned short          family;
 218         struct xfrm_type        *type_map[IPPROTO_MAX];
 219         struct xfrm_mode        *mode_map[XFRM_MODE_MAX];
 220         struct dst_ops          *dst_ops;
 221         void                    (*garbage_collect)(void);
 222         int                     (*dst_lookup)(struct xfrm_dst **dst, struct flowi *fl);
 223         struct dst_entry        *(*find_bundle)(struct flowi *fl, struct xfrm_policy *policy);
 224         int                     (*bundle_create)(struct xfrm_policy *policy,
 225                                                  struct xfrm_state **xfrm,
 226                                                  int nx,
 227                                                  struct flowi *fl,
 228                                                  struct dst_entry **dst_p);
 229         void                    (*decode_session)(struct sk_buff *skb,
 230                                                   struct flowi *fl);
 231 };
 232
 233 extern int xfrm_policy_register_afinfo(struct xfrm_policy_afinfo *afinfo);
 234 extern int xfrm_policy_unregister_afinfo(struct xfrm_policy_afinfo *afinfo);
 235 extern void km_policy_notify(struct xfrm_policy *xp, int dir, struct km_event *c);
 236 extern void km_state_notify(struct xfrm_state *x, struct km_event *c);
 237 #define XFRM_ACQ_EXPIRES        30
 238
 239 struct xfrm_tmpl;
 240 extern int km_query(struct xfrm_state *x, struct xfrm_tmpl *t, struct xfrm_policy *pol);
 241 extern void km_state_expired(struct xfrm_state *x, int hard, u32 pid);
 242 extern int __xfrm_state_delete(struct xfrm_state *x);
 243
 244 struct xfrm_state_afinfo {
 245         unsigned short          family;
 246         struct list_head        *state_bydst;
 247         struct list_head        *state_bysrc;
 248         struct list_head        *state_byspi;
 249         int                     (*init_flags)(struct xfrm_state *x);
 250         void                    (*init_tempsel)(struct xfrm_state *x, struct flowi *fl,
 251                                                 struct xfrm_tmpl *tmpl,
 252                                                 xfrm_address_t *daddr, xfrm_address_t *saddr);
 253         struct xfrm_state       *(*state_lookup)(xfrm_address_t *daddr, u32 spi, u8 proto);
 254         struct xfrm_state       *(*state_lookup_byaddr)(xfrm_address_t *daddr, xfrm_address_t *saddr, u8 proto);
 255         struct xfrm_state       *(*find_acq)(u8 mode, u32 reqid, u8 proto,
 256                                              xfrm_address_t *daddr, xfrm_address_t *saddr,
 257                                              int create);
 258         int                     (*tmpl_sort)(struct xfrm_tmpl **dst, struct xfrm_tmpl **src, int n);
 259         int                     (*state_sort)(struct xfrm_state **dst, struct xfrm_state **src, int n);
 260 };
 261
 262 extern int xfrm_state_register_afinfo(struct xfrm_state_afinfo *afinfo);
 263 extern int xfrm_state_unregister_afinfo(struct xfrm_state_afinfo *afinfo);
 264
 265 extern void xfrm_state_delete_tunnel(struct xfrm_state *x);
 266
 267 struct xfrm_type
 268 {
 269         char                    *description;
 270         struct module           *owner;
 271         __u8                    proto;
 272         __u8                    flags;
 273 #define XFRM_TYPE_NON_FRAGMENT  1
 274
 275         int                     (*init_state)(struct xfrm_state *x);
 276         void                    (*destructor)(struct xfrm_state *);
 277         int                     (*input)(struct xfrm_state *, struct sk_buff *skb);
 278         int                     (*output)(struct xfrm_state *, struct sk_buff *pskb);
 279         int                     (*reject)(struct xfrm_state *, struct sk_buff *, struct flowi *);
 280         int                     (*hdr_offset)(struct xfrm_state *, struct sk_buff *, u8 **);
 281         xfrm_address_t          *(*local_addr)(struct xfrm_state *, xfrm_address_t *);
 282         xfrm_address_t          *(*remote_addr)(struct xfrm_state *, xfrm_address_t *);
 283         /* Estimate maximal size of result of transformation of a dgram */
 284         u32                     (*get_max_size)(struct xfrm_state *, int size);
 285 };
 286
 287 extern int xfrm_register_type(struct xfrm_type *type, unsigned short family);
 288 extern int xfrm_unregister_type(struct xfrm_type *type, unsigned short family);
 289 extern struct xfrm_type *xfrm_get_type(u8 proto, unsigned short family);
 290 extern void xfrm_put_type(struct xfrm_type *type);
 291
 292 struct xfrm_mode {
 293         int (*input)(struct xfrm_state *x, struct sk_buff *skb);
 294         int (*output)(struct sk_buff *skb);
 295
 296         struct module *owner;
 297         unsigned int encap;
 298 };
 299
 300 extern int xfrm_register_mode(struct xfrm_mode *mode, int family);
 301 extern int xfrm_unregister_mode(struct xfrm_mode *mode, int family);
 302 extern struct xfrm_mode *xfrm_get_mode(unsigned int encap, int family);
 303 extern void xfrm_put_mode(struct xfrm_mode *mode);
 304
 305 struct xfrm_tmpl
 306 {
 307 /* id in template is interpreted as:
 308  * daddr - destination of tunnel, may be zero for transport mode.
 309  * spi   - zero to acquire spi. Not zero if spi is static, then
 310  *         daddr must be fixed too.
 311  * proto - AH/ESP/IPCOMP
 312  */
 313         struct xfrm_id          id;
 314
 315 /* Source address of tunnel. Ignored, if it is not a tunnel. */
 316         xfrm_address_t          saddr;
 317
 318         __u32                   reqid;
 319
 320 /* Mode: transport, tunnel etc. */
 321         __u8                    mode;
 322
 323 /* Sharing mode: unique, this session only, this user only etc. */
 324         __u8                    share;
 325
 326 /* May skip this transfomration if no SA is found */
 327         __u8                    optional;
 328
 329 /* Bit mask of algos allowed for acquisition */
 330         __u32                   aalgos;
 331         __u32                   ealgos;
 332         __u32                   calgos;
 333 };
 334
 335 #define XFRM_MAX_DEPTH          6
 336
 337 struct xfrm_policy
 338 {
 339         struct xfrm_policy      *next;
 340         struct list_head        list;
 341
 342         /* This lock only affects elements except for entry. */
 343         rwlock_t                lock;
 344         atomic_t                refcnt;
 345         struct timer_list       timer;
 346
 347         u8                      type;
 348         u32                     priority;
 349         u32                     index;
 350         struct xfrm_selector    selector;
 351         struct xfrm_lifetime_cfg lft;
 352         struct xfrm_lifetime_cur curlft;
 353         struct dst_entry       *bundles;
 354         __u16                   family;
 355         __u8                    action;
 356         __u8                    flags;
 357         __u8                    dead;
 358         __u8                    xfrm_nr;
 359         struct xfrm_sec_ctx     *security;
 360         struct xfrm_tmpl        xfrm_vec[XFRM_MAX_DEPTH];
 361 };
 362
 363 #define XFRM_KM_TIMEOUT                30
 364 /* which seqno */
 365 #define XFRM_REPLAY_SEQ         1
 366 #define XFRM_REPLAY_OSEQ        2
 367 #define XFRM_REPLAY_SEQ_MASK    3
 368 /* what happened */
 369 #define XFRM_REPLAY_UPDATE      XFRM_AE_CR
 370 #define XFRM_REPLAY_TIMEOUT     XFRM_AE_CE
 371
 372 /* default aevent timeout in units of 100ms */
 373 #define XFRM_AE_ETIME                   10
 374 /* Async Event timer multiplier */
 375 #define XFRM_AE_ETH_M                   10
 376 /* default seq threshold size */
 377 #define XFRM_AE_SEQT_SIZE               2
 378
 379 struct xfrm_mgr
 380 {
 381         struct list_head        list;
 382         char                    *id;
 383         int                     (*notify)(struct xfrm_state *x, struct km_event *c);
 384         int                     (*acquire)(struct xfrm_state *x, struct xfrm_tmpl *, struct xfrm_policy *xp, int dir);
 385         struct xfrm_policy      *(*compile_policy)(struct sock *sk, int opt, u8 *data, int len, int *dir);
 386         int                     (*new_mapping)(struct xfrm_state *x, xfrm_address_t *ipaddr, u16 sport);
 387         int                     (*notify_policy)(struct xfrm_policy *x, int dir, struct km_event *c);
 388         int                     (*report)(u8 proto, struct xfrm_selector *sel, xfrm_address_t *addr);
 389 };
 390
 391 extern int xfrm_register_km(struct xfrm_mgr *km);
 392 extern int xfrm_unregister_km(struct xfrm_mgr *km);
 393
 394
 395 extern struct xfrm_policy *xfrm_policy_list[XFRM_POLICY_MAX*2];
 396 #ifdef CONFIG_XFRM_SUB_POLICY
 397 extern struct xfrm_policy *xfrm_policy_list_sub[XFRM_POLICY_MAX*2];
 398
 399 static inline int xfrm_policy_lists_empty(int dir)
 400 {
 401         return (!xfrm_policy_list[dir] && !xfrm_policy_list_sub[dir]);
 402 }
 403 #else
 404 static inline int xfrm_policy_lists_empty(int dir)
 405 {
 406         return (!xfrm_policy_list[dir]);
 407 }
 408 #endif
 409
 410 static inline void xfrm_pol_hold(struct xfrm_policy *policy)
 411 {
 412         if (likely(policy != NULL))
 413                 atomic_inc(&policy->refcnt);
 414 }
 415
 416 extern void __xfrm_policy_destroy(struct xfrm_policy *policy);
 417
 418 static inline void xfrm_pol_put(struct xfrm_policy *policy)
 419 {
 420         if (atomic_dec_and_test(&policy->refcnt))
 421                 __xfrm_policy_destroy(policy);
 422 }
 423
 424 #ifdef CONFIG_XFRM_SUB_POLICY
 425 static inline void xfrm_pols_put(struct xfrm_policy **pols, int npols)
 426 {
 427         int i;
 428         for (i = npols - 1; i >= 0; --i)
 429                 xfrm_pol_put(pols[i]);
 430 }
 431 #else
 432 static inline void xfrm_pols_put(struct xfrm_policy **pols, int npols)
 433 {
 434         xfrm_pol_put(pols[0]);
 435 }
 436 #endif
 437
 438 #define XFRM_DST_HSIZE          1024
 439
 440 static __inline__
 441 unsigned __xfrm4_dst_hash(xfrm_address_t *addr)
 442 {
 443         unsigned h;
 444         h = ntohl(addr->a4);
 445         h = (h ^ (h>>16)) % XFRM_DST_HSIZE;
 446         return h;
 447 }
 448
 449 static __inline__
 450 unsigned __xfrm6_dst_hash(xfrm_address_t *addr)
 451 {
 452         unsigned h;
 453         h = ntohl(addr->a6[2]^addr->a6[3]);
 454         h = (h ^ (h>>16)) % XFRM_DST_HSIZE;
 455         return h;
 456 }
 457
 458 static __inline__
 459 unsigned xfrm_dst_hash(xfrm_address_t *addr, unsigned short family)
 460 {
 461         switch (family) {
 462         case AF_INET:
 463                 return __xfrm4_dst_hash(addr);
 464         case AF_INET6:
 465                 return __xfrm6_dst_hash(addr);
 466         }
 467         return 0;
 468 }
 469
 470 static __inline__
 471 unsigned __xfrm4_src_hash(xfrm_address_t *addr)
 472 {
 473         return __xfrm4_dst_hash(addr);
 474 }
 475
 476 static __inline__
 477 unsigned __xfrm6_src_hash(xfrm_address_t *addr)
 478 {
 479         return __xfrm6_dst_hash(addr);
 480 }
 481
 482 static __inline__
 483 unsigned xfrm_src_hash(xfrm_address_t *addr, unsigned short family)
 484 {
 485         switch (family) {
 486         case AF_INET:
 487                 return __xfrm4_src_hash(addr);
 488         case AF_INET6:
 489                 return __xfrm6_src_hash(addr);
 490         }
 491         return 0;
 492 }
 493
 494 static __inline__
 495 unsigned __xfrm4_spi_hash(xfrm_address_t *addr, u32 spi, u8 proto)
 496 {
 497         unsigned h;
 498         h = ntohl(addr->a4^spi^proto);
 499         h = (h ^ (h>>10) ^ (h>>20)) % XFRM_DST_HSIZE;
 500         return h;
 501 }
 502
 503 static __inline__
 504 unsigned __xfrm6_spi_hash(xfrm_address_t *addr, u32 spi, u8 proto)
 505 {
 506         unsigned h;
 507         h = ntohl(addr->a6[2]^addr->a6[3]^spi^proto);
 508         h = (h ^ (h>>10) ^ (h>>20)) % XFRM_DST_HSIZE;
 509         return h;
 510 }
 511
 512 static __inline__
 513 unsigned xfrm_spi_hash(xfrm_address_t *addr, u32 spi, u8 proto, unsigned short family)
 514 {
 515         switch (family) {
 516         case AF_INET:
 517                 return __xfrm4_spi_hash(addr, spi, proto);
 518         case AF_INET6:
 519                 return __xfrm6_spi_hash(addr, spi, proto);
 520         }
 521         return 0;       /*XXX*/
 522 }
 523
 524 extern void __xfrm_state_destroy(struct xfrm_state *);
 525
 526 static inline void __xfrm_state_put(struct xfrm_state *x)
 527 {
 528         atomic_dec(&x->refcnt);
 529 }
 530
 531 static inline void xfrm_state_put(struct xfrm_state *x)
 532 {
 533         if (atomic_dec_and_test(&x->refcnt))
 534                 __xfrm_state_destroy(x);
 535 }
 536
 537 static inline void xfrm_state_hold(struct xfrm_state *x)
 538 {
 539         atomic_inc(&x->refcnt);
 540 }
 541
 542 static __inline__ int addr_match(void *token1, void *token2, int prefixlen)
 543 {
 544         __u32 *a1 = token1;
 545         __u32 *a2 = token2;
 546         int pdw;
 547         int pbi;
 548
 549         pdw = prefixlen >> 5;     /* num of whole __u32 in prefix */
 550         pbi = prefixlen &  0x1f;  /* num of bits in incomplete u32 in prefix */
 551
 552         if (pdw)
 553                 if (memcmp(a1, a2, pdw << 2))
 554                         return 0;
 555
 556         if (pbi) {
 557                 __u32 mask;
 558
 559                 mask = htonl((0xffffffff) << (32 - pbi));
 560
 561                 if ((a1[pdw] ^ a2[pdw]) & mask)
 562                         return 0;
 563         }
 564
 565         return 1;
 566 }
 567
 568 static __inline__
 569 u16 xfrm_flowi_sport(struct flowi *fl)
 570 {
 571         u16 port;
 572         switch(fl->proto) {
 573         case IPPROTO_TCP:
 574         case IPPROTO_UDP:
 575         case IPPROTO_SCTP:
 576                 port = fl->fl_ip_sport;
 577                 break;
 578         case IPPROTO_ICMP:
 579         case IPPROTO_ICMPV6:
 580                 port = htons(fl->fl_icmp_type);
 581                 break;
 582 #ifdef CONFIG_IPV6_MIP6
 583         case IPPROTO_MH:
 584                 port = htons(fl->fl_mh_type);
 585                 break;
 586 #endif
 587         default:
 588                 port = 0;       /*XXX*/
 589         }
 590         return port;
 591 }
 592
 593 static __inline__
 594 u16 xfrm_flowi_dport(struct flowi *fl)
 595 {
 596         u16 port;
 597         switch(fl->proto) {
 598         case IPPROTO_TCP:
 599         case IPPROTO_UDP:
 600         case IPPROTO_SCTP:
 601                 port = fl->fl_ip_dport;
 602                 break;
 603         case IPPROTO_ICMP:
 604         case IPPROTO_ICMPV6:
 605                 port = htons(fl->fl_icmp_code);
 606                 break;
 607         default:
 608                 port = 0;       /*XXX*/
 609         }
 610         return port;
 611 }
 612
 613 static inline int
 614 __xfrm4_selector_match(struct xfrm_selector *sel, struct flowi *fl)
 615 {
 616         return  addr_match(&fl->fl4_dst, &sel->daddr, sel->prefixlen_d) &&
 617                 addr_match(&fl->fl4_src, &sel->saddr, sel->prefixlen_s) &&
 618                 !((xfrm_flowi_dport(fl) ^ sel->dport) & sel->dport_mask) &&
 619                 !((xfrm_flowi_sport(fl) ^ sel->sport) & sel->sport_mask) &&
 620                 (fl->proto == sel->proto || !sel->proto) &&
 621                 (fl->oif == sel->ifindex || !sel->ifindex);
 622 }
 623
 624 static inline int
 625 __xfrm6_selector_match(struct xfrm_selector *sel, struct flowi *fl)
 626 {
 627         return  addr_match(&fl->fl6_dst, &sel->daddr, sel->prefixlen_d) &&
 628                 addr_match(&fl->fl6_src, &sel->saddr, sel->prefixlen_s) &&
 629                 !((xfrm_flowi_dport(fl) ^ sel->dport) & sel->dport_mask) &&
 630                 !((xfrm_flowi_sport(fl) ^ sel->sport) & sel->sport_mask) &&
 631                 (fl->proto == sel->proto || !sel->proto) &&
 632                 (fl->oif == sel->ifindex || !sel->ifindex);
 633 }
 634
 635 static inline int
 636 xfrm_selector_match(struct xfrm_selector *sel, struct flowi *fl,
 637                     unsigned short family)
 638 {
 639         switch (family) {
 640         case AF_INET:
 641                 return __xfrm4_selector_match(sel, fl);
 642         case AF_INET6:
 643                 return __xfrm6_selector_match(sel, fl);
 644         }
 645         return 0;
 646 }
 647
 648 #ifdef CONFIG_SECURITY_NETWORK_XFRM
 649 /*      If neither has a context --> match
 650  *      Otherwise, both must have a context and the sids, doi, alg must match
 651  */
 652 static inline int xfrm_sec_ctx_match(struct xfrm_sec_ctx *s1, struct xfrm_sec_ctx *s2)
 653 {
 654         return ((!s1 && !s2) ||
 655                 (s1 && s2 &&
 656                  (s1->ctx_sid == s2->ctx_sid) &&
 657                  (s1->ctx_doi == s2->ctx_doi) &&
 658                  (s1->ctx_alg == s2->ctx_alg)));
 659 }
 660 #else
 661 static inline int xfrm_sec_ctx_match(struct xfrm_sec_ctx *s1, struct xfrm_sec_ctx *s2)
 662 {
 663         return 1;
 664 }
 665 #endif
 666
 667 /* A struct encoding bundle of transformations to apply to some set of flow.
 668  *
 669  * dst->child points to the next element of bundle.
 670  * dst->xfrm  points to an instanse of transformer.
 671  *
 672  * Due to unfortunate limitations of current routing cache, which we
 673  * have no time to fix, it mirrors struct rtable and bound to the same
 674  * routing key, including saddr,daddr. However, we can have many of
 675  * bundles differing by session id. All the bundles grow from a parent
 676  * policy rule.
 677  */
 678 struct xfrm_dst
 679 {
 680         union {
 681                 struct xfrm_dst         *next;
 682                 struct dst_entry        dst;
 683                 struct rtable           rt;
 684                 struct rt6_info         rt6;
 685         } u;
 686         struct dst_entry *route;
 687         u32 route_mtu_cached;
 688         u32 child_mtu_cached;
 689         u32 route_cookie;
 690         u32 path_cookie;
 691 };
 692
 693 static inline void xfrm_dst_destroy(struct xfrm_dst *xdst)
 694 {
 695         dst_release(xdst->route);
 696         if (likely(xdst->u.dst.xfrm))
 697                 xfrm_state_put(xdst->u.dst.xfrm);
 698 }
 699
 700 extern void xfrm_dst_ifdown(struct dst_entry *dst, struct net_device *dev);
 701
 702 struct sec_path
 703 {
 704         atomic_t                refcnt;
 705         int                     len;
 706         struct xfrm_state       *xvec[XFRM_MAX_DEPTH];
 707 };
 708
 709 static inline struct sec_path *
 710 secpath_get(struct sec_path *sp)
 711 {
 712         if (sp)
 713                 atomic_inc(&sp->refcnt);
 714         return sp;
 715 }
 716
 717 extern void __secpath_destroy(struct sec_path *sp);
 718
 719 static inline void
 720 secpath_put(struct sec_path *sp)
 721 {
 722         if (sp && atomic_dec_and_test(&sp->refcnt))
 723                 __secpath_destroy(sp);
 724 }
 725
 726 extern struct sec_path *secpath_dup(struct sec_path *src);
 727
 728 static inline void
 729 secpath_reset(struct sk_buff *skb)
 730 {
 731 #ifdef CONFIG_XFRM
 732         secpath_put(skb->sp);
 733         skb->sp = NULL;
 734 #endif
 735 }
 736
 737 static inline int
 738 __xfrm4_state_addr_cmp(struct xfrm_tmpl *tmpl, struct xfrm_state *x)
 739 {
 740         return  (tmpl->saddr.a4 &&
 741                  tmpl->saddr.a4 != x->props.saddr.a4);
 742 }
 743
 744 static inline int
 745 __xfrm6_state_addr_cmp(struct xfrm_tmpl *tmpl, struct xfrm_state *x)
 746 {
 747         return  (!ipv6_addr_any((struct in6_addr*)&tmpl->saddr) &&
 748                  ipv6_addr_cmp((struct in6_addr *)&tmpl->saddr, (struct in6_addr*)&x->props.saddr));
 749 }
 750
 751 static inline int
 752 xfrm_state_addr_cmp(struct xfrm_tmpl *tmpl, struct xfrm_state *x, unsigned short family)
 753 {
 754         switch (family) {
 755         case AF_INET:
 756                 return __xfrm4_state_addr_cmp(tmpl, x);
 757         case AF_INET6:
 758                 return __xfrm6_state_addr_cmp(tmpl, x);
 759         }
 760         return !0;
 761 }
 762
 763 #ifdef CONFIG_XFRM
 764
 765 extern int __xfrm_policy_check(struct sock *, int dir, struct sk_buff *skb, unsigned short family);
 766
 767 static inline int xfrm_policy_check(struct sock *sk, int dir, struct sk_buff *skb, unsigned short family)
 768 {
 769         if (sk && sk->sk_policy[XFRM_POLICY_IN])
 770                 return __xfrm_policy_check(sk, dir, skb, family);
 771
 772         return  (xfrm_policy_lists_empty(dir) && !skb->sp) ||
 773                 (skb->dst->flags & DST_NOPOLICY) ||
 774                 __xfrm_policy_check(sk, dir, skb, family);
 775 }
 776
 777 static inline int xfrm4_policy_check(struct sock *sk, int dir, struct sk_buff *skb)
 778 {
 779         return xfrm_policy_check(sk, dir, skb, AF_INET);
 780 }
 781
 782 static inline int xfrm6_policy_check(struct sock *sk, int dir, struct sk_buff *skb)
 783 {
 784         return xfrm_policy_check(sk, dir, skb, AF_INET6);
 785 }
 786
 787 extern int xfrm_decode_session(struct sk_buff *skb, struct flowi *fl, unsigned short family);
 788 extern int __xfrm_route_forward(struct sk_buff *skb, unsigned short family);
 789
 790 static inline int xfrm_route_forward(struct sk_buff *skb, unsigned short family)
 791 {
 792         return  xfrm_policy_lists_empty(XFRM_POLICY_OUT) ||
 793                 (skb->dst->flags & DST_NOXFRM) ||
 794                 __xfrm_route_forward(skb, family);
 795 }
 796
 797 static inline int xfrm4_route_forward(struct sk_buff *skb)
 798 {
 799         return xfrm_route_forward(skb, AF_INET);
 800 }
 801
 802 static inline int xfrm6_route_forward(struct sk_buff *skb)
 803 {
 804         return xfrm_route_forward(skb, AF_INET6);
 805 }
 806
 807 extern int __xfrm_sk_clone_policy(struct sock *sk);
 808
 809 static inline int xfrm_sk_clone_policy(struct sock *sk)
 810 {
 811         if (unlikely(sk->sk_policy[0] || sk->sk_policy[1]))
 812                 return __xfrm_sk_clone_policy(sk);
 813         return 0;
 814 }
 815
 816 extern int xfrm_policy_delete(struct xfrm_policy *pol, int dir);
 817
 818 static inline void xfrm_sk_free_policy(struct sock *sk)
 819 {
 820         if (unlikely(sk->sk_policy[0] != NULL)) {
 821                 xfrm_policy_delete(sk->sk_policy[0], XFRM_POLICY_MAX);
 822                 sk->sk_policy[0] = NULL;
 823         }
 824         if (unlikely(sk->sk_policy[1] != NULL)) {
 825                 xfrm_policy_delete(sk->sk_policy[1], XFRM_POLICY_MAX+1);
 826                 sk->sk_policy[1] = NULL;
 827         }
 828 }
 829
 830 #else
 831
 832 static inline void xfrm_sk_free_policy(struct sock *sk) {}
 833 static inline int xfrm_sk_clone_policy(struct sock *sk) { return 0; }
 834 static inline int xfrm6_route_forward(struct sk_buff *skb) { return 1; }
 835 static inline int xfrm4_route_forward(struct sk_buff *skb) { return 1; }
 836 static inline int xfrm6_policy_check(struct sock *sk, int dir, struct sk_buff *skb)
 837 {
 838         return 1;
 839 }
 840 static inline int xfrm4_policy_check(struct sock *sk, int dir, struct sk_buff *skb)
 841 {
 842         return 1;
 843 }
 844 static inline int xfrm_policy_check(struct sock *sk, int dir, struct sk_buff *skb, unsigned short family)
 845 {
 846         return 1;
 847 }
 848 #endif
 849
 850 static __inline__
 851 xfrm_address_t *xfrm_flowi_daddr(struct flowi *fl, unsigned short family)
 852 {
 853         switch (family){
 854         case AF_INET:
 855                 return (xfrm_address_t *)&fl->fl4_dst;
 856         case AF_INET6:
 857                 return (xfrm_address_t *)&fl->fl6_dst;
 858         }
 859         return NULL;
 860 }
 861
 862 static __inline__
 863 xfrm_address_t *xfrm_flowi_saddr(struct flowi *fl, unsigned short family)
 864 {
 865         switch (family){
 866         case AF_INET:
 867                 return (xfrm_address_t *)&fl->fl4_src;
 868         case AF_INET6:
 869                 return (xfrm_address_t *)&fl->fl6_src;
 870         }
 871         return NULL;
 872 }
 873
 874 static __inline__ int
 875 __xfrm4_state_addr_check(struct xfrm_state *x,
 876                          xfrm_address_t *daddr, xfrm_address_t *saddr)
 877 {
 878         if (daddr->a4 == x->id.daddr.a4 &&
 879             (saddr->a4 == x->props.saddr.a4 || !saddr->a4 || !x->props.saddr.a4))
 880                 return 1;
 881         return 0;
 882 }
 883
 884 static __inline__ int
 885 __xfrm6_state_addr_check(struct xfrm_state *x,
 886                          xfrm_address_t *daddr, xfrm_address_t *saddr)
 887 {
 888         if (!ipv6_addr_cmp((struct in6_addr *)daddr, (struct in6_addr *)&x->id.daddr) &&
 889             (!ipv6_addr_cmp((struct in6_addr *)saddr, (struct in6_addr *)&x->props.saddr)||
 890              ipv6_addr_any((struct in6_addr *)saddr) ||
 891              ipv6_addr_any((struct in6_addr *)&x->props.saddr)))
 892                 return 1;
 893         return 0;
 894 }
 895
 896 static __inline__ int
 897 xfrm_state_addr_check(struct xfrm_state *x,
 898                       xfrm_address_t *daddr, xfrm_address_t *saddr,
 899                       unsigned short family)
 900 {
 901         switch (family) {
 902         case AF_INET:
 903                 return __xfrm4_state_addr_check(x, daddr, saddr);
 904         case AF_INET6:
 905                 return __xfrm6_state_addr_check(x, daddr, saddr);
 906         }
 907         return 0;
 908 }
 909
 910 static __inline__ int
 911 xfrm_state_addr_flow_check(struct xfrm_state *x, struct flowi *fl,
 912                            unsigned short family)
 913 {
 914         switch (family) {
 915         case AF_INET:
 916                 return __xfrm4_state_addr_check(x,
 917                                                 (xfrm_address_t *)&fl->fl4_dst,
 918                                                 (xfrm_address_t *)&fl->fl4_src);
 919         case AF_INET6:
 920                 return __xfrm6_state_addr_check(x,
 921                                                 (xfrm_address_t *)&fl->fl6_dst,
 922                                                 (xfrm_address_t *)&fl->fl6_src);
 923         }
 924         return 0;
 925 }
 926
 927 static inline int xfrm_state_kern(struct xfrm_state *x)
 928 {
 929         return atomic_read(&x->tunnel_users);
 930 }
 931
 932 static inline int xfrm_id_proto_match(u8 proto, u8 userproto)
 933 {
 934         return (!userproto || proto == userproto ||
 935                 (userproto == IPSEC_PROTO_ANY && (proto == IPPROTO_AH ||
 936                                                   proto == IPPROTO_ESP ||
 937                                                   proto == IPPROTO_COMP)));
 938 }
 939
 940 /*
 941  * xfrm algorithm information
 942  */
 943 struct xfrm_algo_auth_info {
 944         u16 icv_truncbits;
 945         u16 icv_fullbits;
 946 };
 947
 948 struct xfrm_algo_encr_info {
 949         u16 blockbits;
 950         u16 defkeybits;
 951 };
 952
 953 struct xfrm_algo_comp_info {
 954         u16 threshold;
 955 };
 956
 957 struct xfrm_algo_desc {
 958         char *name;
 959         char *compat;
 960         u8 available:1;
 961         union {
 962                 struct xfrm_algo_auth_info auth;
 963                 struct xfrm_algo_encr_info encr;
 964                 struct xfrm_algo_comp_info comp;
 965         } uinfo;
 966         struct sadb_alg desc;
 967 };
 968
 969 /* XFRM tunnel handlers.  */
 970 struct xfrm_tunnel {
 971         int (*handler)(struct sk_buff *skb);
 972         int (*err_handler)(struct sk_buff *skb, __u32 info);
 973
 974         struct xfrm_tunnel *next;
 975         int priority;
 976 };
 977
 978 struct xfrm6_tunnel {
 979         int (*handler)(struct sk_buff *skb);
 980         int (*err_handler)(struct sk_buff *skb, struct inet6_skb_parm *opt,
 981                            int type, int code, int offset, __u32 info);
 982
 983         struct xfrm6_tunnel *next;
 984         int priority;
 985 };
 986
 987 extern void xfrm_init(void);
 988 extern void xfrm4_init(void);
 989 extern void xfrm6_init(void);
 990 extern void xfrm6_fini(void);
 991 extern void xfrm_state_init(void);
 992 extern void xfrm4_state_init(void);
 993 extern void xfrm6_state_init(void);
 994 extern void xfrm6_state_fini(void);
 995
 996 extern int xfrm_state_walk(u8 proto, int (*func)(struct xfrm_state *, int, void*), void *);
 997 extern struct xfrm_state *xfrm_state_alloc(void);
 998 extern struct xfrm_state *xfrm_state_find(xfrm_address_t *daddr, xfrm_address_t *saddr,
 999                                           struct flowi *fl, struct xfrm_tmpl *tmpl,
1000                                           struct xfrm_policy *pol, int *err,
1001                                           unsigned short family);
1002 extern int xfrm_state_check_expire(struct xfrm_state *x);
1003 extern void xfrm_state_insert(struct xfrm_state *x);
1004 extern int xfrm_state_add(struct xfrm_state *x);
1005 extern int xfrm_state_update(struct xfrm_state *x);
1006 extern struct xfrm_state *xfrm_state_lookup(xfrm_address_t *daddr, u32 spi, u8 proto, unsigned short family);
1007 extern struct xfrm_state *xfrm_state_lookup_byaddr(xfrm_address_t *daddr, xfrm_address_t *saddr, u8 proto, unsigned short family);
1008 #ifdef CONFIG_XFRM_SUB_POLICY
1009 extern int xfrm_tmpl_sort(struct xfrm_tmpl **dst, struct xfrm_tmpl **src,
1010                           int n, unsigned short family);
1011 extern int xfrm_state_sort(struct xfrm_state **dst, struct xfrm_state **src,
1012                            int n, unsigned short family);
1013 #else
1014 static inline int xfrm_tmpl_sort(struct xfrm_tmpl **dst, struct xfrm_tmpl **src,
1015                                  int n, unsigned short family)
1016 {
1017         return -ENOSYS;
1018 }
1019
1020 static inline int xfrm_state_sort(struct xfrm_state **dst, struct xfrm_state **src,
1021                                   int n, unsigned short family)
1022 {
1023         return -ENOSYS;
1024 }
1025 #endif
1026 extern struct xfrm_state *xfrm_find_acq_byseq(u32 seq);
1027 extern int xfrm_state_delete(struct xfrm_state *x);
1028 extern void xfrm_state_flush(u8 proto);
1029 extern int xfrm_replay_check(struct xfrm_state *x, u32 seq);
1030 extern void xfrm_replay_advance(struct xfrm_state *x, u32 seq);
1031 extern void xfrm_replay_notify(struct xfrm_state *x, int event);
1032 extern int xfrm_state_check(struct xfrm_state *x, struct sk_buff *skb);
1033 extern int xfrm_state_mtu(struct xfrm_state *x, int mtu);
1034 extern int xfrm_init_state(struct xfrm_state *x);
1035 extern int xfrm4_rcv(struct sk_buff *skb);
1036 extern int xfrm4_output(struct sk_buff *skb);
1037 extern int xfrm4_tunnel_register(struct xfrm_tunnel *handler);
1038 extern int xfrm4_tunnel_deregister(struct xfrm_tunnel *handler);
1039 extern int xfrm6_rcv_spi(struct sk_buff *skb, u32 spi);
1040 extern int xfrm6_rcv(struct sk_buff **pskb);
1041 extern int xfrm6_input_addr(struct sk_buff *skb, xfrm_address_t *daddr,
1042                             xfrm_address_t *saddr, u8 proto);
1043 extern int xfrm6_tunnel_register(struct xfrm6_tunnel *handler);
1044 extern int xfrm6_tunnel_deregister(struct xfrm6_tunnel *handler);
1045 extern u32 xfrm6_tunnel_alloc_spi(xfrm_address_t *saddr);
1046 extern void xfrm6_tunnel_free_spi(xfrm_address_t *saddr);
1047 extern u32 xfrm6_tunnel_spi_lookup(xfrm_address_t *saddr);
1048 extern int xfrm6_output(struct sk_buff *skb);
1049 extern int xfrm6_find_1stfragopt(struct xfrm_state *x, struct sk_buff *skb,
1050                                  u8 **prevhdr);
1051
1052 #ifdef CONFIG_XFRM
1053 extern int xfrm4_rcv_encap(struct sk_buff *skb, __u16 encap_type);
1054 extern int xfrm_user_policy(struct sock *sk, int optname, u8 __user *optval, int optlen);
1055 extern int xfrm_dst_lookup(struct xfrm_dst **dst, struct flowi *fl, unsigned short family);
1056 #else
1057 static inline int xfrm_user_policy(struct sock *sk, int optname, u8 __user *optval, int optlen)
1058 {
1059         return -ENOPROTOOPT;
1060 }
1061
1062 static inline int xfrm4_rcv_encap(struct sk_buff *skb, __u16 encap_type)
1063 {
1064         /* should not happen */
1065         kfree_skb(skb);
1066         return 0;
1067 }
1068 static inline int xfrm_dst_lookup(struct xfrm_dst **dst, struct flowi *fl, unsigned short family)
1069 {
1070         return -EINVAL;
1071 }
1072 #endif
1073
1074 struct xfrm_policy *xfrm_policy_alloc(gfp_t gfp);
1075 extern int xfrm_policy_walk(u8 type, int (*func)(struct xfrm_policy *, int, int, void*), void *);
1076 int xfrm_policy_insert(int dir, struct xfrm_policy *policy, int excl);
1077 struct xfrm_policy *xfrm_policy_bysel_ctx(u8 type, int dir,
1078                                           struct xfrm_selector *sel,
1079                                           struct xfrm_sec_ctx *ctx, int delete);
1080 struct xfrm_policy *xfrm_policy_byid(u8, int dir, u32 id, int delete);
1081 void xfrm_policy_flush(u8 type);
1082 u32 xfrm_get_acqseq(void);
1083 void xfrm_alloc_spi(struct xfrm_state *x, u32 minspi, u32 maxspi);
1084 struct xfrm_state * xfrm_find_acq(u8 mode, u32 reqid, u8 proto,
1085                                   xfrm_address_t *daddr, xfrm_address_t *saddr,
1086                                   int create, unsigned short family);
1087 extern void xfrm_policy_flush(u8 type);
1088 extern int xfrm_sk_policy_insert(struct sock *sk, int dir, struct xfrm_policy *pol);
1089 extern int xfrm_flush_bundles(void);
1090 extern void xfrm_flush_all_bundles(void);
1091 extern int xfrm_bundle_ok(struct xfrm_dst *xdst, struct flowi *fl, int family, int strict);
1092 extern void xfrm_init_pmtu(struct dst_entry *dst);
1093
1094 extern wait_queue_head_t km_waitq;
1095 extern int km_new_mapping(struct xfrm_state *x, xfrm_address_t *ipaddr, u16 sport);
1096 extern void km_policy_expired(struct xfrm_policy *pol, int dir, int hard, u32 pid);
1097 extern int km_report(u8 proto, struct xfrm_selector *sel, xfrm_address_t *addr);
1098
1099 extern void xfrm_input_init(void);
1100 extern int xfrm_parse_spi(struct sk_buff *skb, u8 nexthdr, u32 *spi, u32 *seq);
1101
1102 extern void xfrm_probe_algs(void);
1103 extern int xfrm_count_auth_supported(void);
1104 extern int xfrm_count_enc_supported(void);
1105 extern struct xfrm_algo_desc *xfrm_aalg_get_byidx(unsigned int idx);
1106 extern struct xfrm_algo_desc *xfrm_ealg_get_byidx(unsigned int idx);
1107 extern struct xfrm_algo_desc *xfrm_aalg_get_byid(int alg_id);
1108 extern struct xfrm_algo_desc *xfrm_ealg_get_byid(int alg_id);
1109 extern struct xfrm_algo_desc *xfrm_calg_get_byid(int alg_id);
1110 extern struct xfrm_algo_desc *xfrm_aalg_get_byname(char *name, int probe);
1111 extern struct xfrm_algo_desc *xfrm_ealg_get_byname(char *name, int probe);
1112 extern struct xfrm_algo_desc *xfrm_calg_get_byname(char *name, int probe);
1113
1114 struct hash_desc;
1115 struct scatterlist;
1116 typedef int (icv_update_fn_t)(struct hash_desc *, struct scatterlist *,
1117                               unsigned int);
1118
1119 extern int skb_icv_walk(const struct sk_buff *skb, struct hash_desc *tfm,
1120                         int offset, int len, icv_update_fn_t icv_update);
1121
1122 static inline int xfrm_addr_cmp(xfrm_address_t *a, xfrm_address_t *b,
1123                                 int family)
1124 {
1125         switch (family) {
1126         default:
1127         case AF_INET:
1128                 return a->a4 - b->a4;
1129         case AF_INET6:
1130                 return ipv6_addr_cmp((struct in6_addr *)a,
1131                                      (struct in6_addr *)b);
1132         }
1133 }
1134
1135 static inline int xfrm_policy_id2dir(u32 index)
1136 {
1137         return index & 7;
1138 }
1139
1140 static inline int xfrm_aevent_is_on(void)
1141 {
1142         struct sock *nlsk;
1143         int ret = 0;
1144
1145         rcu_read_lock();
1146         nlsk = rcu_dereference(xfrm_nl);
1147         if (nlsk)
1148                 ret = netlink_has_listeners(nlsk, XFRMNLGRP_AEVENTS);
1149         rcu_read_unlock();
1150         return ret;
1151 }
1152
1153 static inline void xfrm_aevent_doreplay(struct xfrm_state *x)
1154 {
1155         if (xfrm_aevent_is_on())
1156                 xfrm_replay_notify(x, XFRM_REPLAY_UPDATE);
1157 }
1158
1159
1160 #endif  /* _NET_XFRM_H */