Branch data Line data Source code
1 : : /* SPDX-License-Identifier: BSD-3-Clause
2 : : * Copyright(c) 2020 Intel Corporation
3 : : */
4 : :
5 : : #include <sys/queue.h>
6 : : #include <stdio.h>
7 : : #include <errno.h>
8 : : #include <stdint.h>
9 : : #include <string.h>
10 : : #include <unistd.h>
11 : : #include <stdarg.h>
12 : :
13 : : #include <rte_ether.h>
14 : : #include <ethdev_driver.h>
15 : : #include <rte_malloc.h>
16 : : #include <rte_tailq.h>
17 : :
18 : : #include "iavf.h"
19 : : #include "iavf_generic_flow.h"
20 : : #include "virtchnl.h"
21 : : #include "iavf_rxtx.h"
22 : :
23 : : #define IAVF_FDIR_MAX_QREGION_SIZE 128
24 : :
25 : : #define IAVF_FDIR_IPV6_TC_OFFSET 20
26 : : #define IAVF_IPV6_TC_MASK (0xFF << IAVF_FDIR_IPV6_TC_OFFSET)
27 : :
28 : : #define IAVF_GTPU_EH_DWLINK 0
29 : : #define IAVF_GTPU_EH_UPLINK 1
30 : :
31 : : #define IAVF_FDIR_INSET_ETH (\
32 : : IAVF_INSET_DMAC | IAVF_INSET_SMAC | IAVF_INSET_ETHERTYPE)
33 : :
34 : : #define IAVF_FDIR_INSET_ETH_IPV4 (\
35 : : IAVF_INSET_IPV4_SRC | IAVF_INSET_IPV4_DST | \
36 : : IAVF_INSET_IPV4_PROTO | IAVF_INSET_IPV4_TOS | \
37 : : IAVF_INSET_IPV4_TTL | IAVF_INSET_IPV4_ID)
38 : :
39 : : #define IAVF_FDIR_INSET_ETH_IPV4_UDP (\
40 : : IAVF_INSET_IPV4_SRC | IAVF_INSET_IPV4_DST | \
41 : : IAVF_INSET_IPV4_TOS | IAVF_INSET_IPV4_TTL | \
42 : : IAVF_INSET_UDP_SRC_PORT | IAVF_INSET_UDP_DST_PORT)
43 : :
44 : : #define IAVF_FDIR_INSET_ETH_IPV4_TCP (\
45 : : IAVF_INSET_IPV4_SRC | IAVF_INSET_IPV4_DST | \
46 : : IAVF_INSET_IPV4_TOS | IAVF_INSET_IPV4_TTL | \
47 : : IAVF_INSET_TCP_SRC_PORT | IAVF_INSET_TCP_DST_PORT)
48 : :
49 : : #define IAVF_FDIR_INSET_ETH_IPV4_SCTP (\
50 : : IAVF_INSET_IPV4_SRC | IAVF_INSET_IPV4_DST | \
51 : : IAVF_INSET_IPV4_TOS | IAVF_INSET_IPV4_TTL | \
52 : : IAVF_INSET_SCTP_SRC_PORT | IAVF_INSET_SCTP_DST_PORT)
53 : :
54 : : #define IAVF_FDIR_INSET_ETH_IPV6 (\
55 : : IAVF_INSET_IPV6_SRC | IAVF_INSET_IPV6_DST | \
56 : : IAVF_INSET_IPV6_NEXT_HDR | IAVF_INSET_IPV6_TC | \
57 : : IAVF_INSET_IPV6_HOP_LIMIT)
58 : :
59 : : #define IAVF_FDIR_INSET_ETH_IPV6_FRAG_EXT (\
60 : : IAVF_FDIR_INSET_ETH_IPV6 | IAVF_INSET_IPV6_ID)
61 : :
62 : : #define IAVF_FDIR_INSET_ETH_IPV6_UDP (\
63 : : IAVF_INSET_IPV6_SRC | IAVF_INSET_IPV6_DST | \
64 : : IAVF_INSET_IPV6_TC | IAVF_INSET_IPV6_HOP_LIMIT | \
65 : : IAVF_INSET_UDP_SRC_PORT | IAVF_INSET_UDP_DST_PORT)
66 : :
67 : : #define IAVF_FDIR_INSET_ETH_IPV6_TCP (\
68 : : IAVF_INSET_IPV6_SRC | IAVF_INSET_IPV6_DST | \
69 : : IAVF_INSET_IPV6_TC | IAVF_INSET_IPV6_HOP_LIMIT | \
70 : : IAVF_INSET_TCP_SRC_PORT | IAVF_INSET_TCP_DST_PORT)
71 : :
72 : : #define IAVF_FDIR_INSET_ETH_IPV6_SCTP (\
73 : : IAVF_INSET_IPV6_SRC | IAVF_INSET_IPV6_DST | \
74 : : IAVF_INSET_IPV6_TC | IAVF_INSET_IPV6_HOP_LIMIT | \
75 : : IAVF_INSET_SCTP_SRC_PORT | IAVF_INSET_SCTP_DST_PORT)
76 : :
77 : : #define IAVF_FDIR_INSET_IPV4_GTPU (\
78 : : IAVF_INSET_IPV4_SRC | IAVF_INSET_IPV4_DST | \
79 : : IAVF_INSET_GTPU_TEID)
80 : :
81 : : #define IAVF_FDIR_INSET_GTPU_IPV4 (\
82 : : IAVF_INSET_TUN_IPV4_SRC | IAVF_INSET_TUN_IPV4_DST | \
83 : : IAVF_INSET_TUN_IPV4_PROTO | IAVF_INSET_TUN_IPV4_TOS | \
84 : : IAVF_INSET_TUN_IPV4_TTL)
85 : :
86 : : #define IAVF_FDIR_INSET_GTPU_IPV4_UDP (\
87 : : IAVF_FDIR_INSET_GTPU_IPV4 | \
88 : : IAVF_INSET_TUN_UDP_SRC_PORT | IAVF_INSET_TUN_UDP_DST_PORT)
89 : :
90 : : #define IAVF_FDIR_INSET_GTPU_IPV4_TCP (\
91 : : IAVF_FDIR_INSET_GTPU_IPV4 | \
92 : : IAVF_INSET_TUN_TCP_SRC_PORT | IAVF_INSET_TUN_TCP_DST_PORT)
93 : :
94 : : #define IAVF_FDIR_INSET_IPV4_GTPU_EH (\
95 : : IAVF_INSET_IPV4_SRC | IAVF_INSET_IPV4_DST | \
96 : : IAVF_INSET_GTPU_TEID | IAVF_INSET_GTPU_QFI)
97 : :
98 : : #define IAVF_FDIR_INSET_IPV6_GTPU (\
99 : : IAVF_INSET_IPV6_SRC | IAVF_INSET_IPV6_DST | \
100 : : IAVF_INSET_GTPU_TEID)
101 : :
102 : : #define IAVF_FDIR_INSET_GTPU_IPV6 (\
103 : : IAVF_INSET_TUN_IPV6_SRC | IAVF_INSET_TUN_IPV6_DST | \
104 : : IAVF_INSET_TUN_IPV6_NEXT_HDR | IAVF_INSET_TUN_IPV6_TC | \
105 : : IAVF_INSET_TUN_IPV6_HOP_LIMIT)
106 : :
107 : : #define IAVF_FDIR_INSET_GTPU_IPV6_UDP (\
108 : : IAVF_FDIR_INSET_GTPU_IPV6 | \
109 : : IAVF_INSET_TUN_UDP_SRC_PORT | IAVF_INSET_TUN_UDP_DST_PORT)
110 : :
111 : : #define IAVF_FDIR_INSET_GTPU_IPV6_TCP (\
112 : : IAVF_FDIR_INSET_GTPU_IPV6 | \
113 : : IAVF_INSET_TUN_TCP_SRC_PORT | IAVF_INSET_TUN_TCP_DST_PORT)
114 : :
115 : : #define IAVF_FDIR_INSET_IPV6_GTPU_EH (\
116 : : IAVF_INSET_IPV6_SRC | IAVF_INSET_IPV6_DST | \
117 : : IAVF_INSET_GTPU_TEID | IAVF_INSET_GTPU_QFI)
118 : :
119 : : #define IAVF_FDIR_INSET_L2TPV3OIP (\
120 : : IAVF_L2TPV3OIP_SESSION_ID)
121 : :
122 : : #define IAVF_FDIR_INSET_IPV4_ESP (\
123 : : IAVF_INSET_IPV4_SRC | IAVF_INSET_IPV4_DST | \
124 : : IAVF_INSET_ESP_SPI)
125 : :
126 : : #define IAVF_FDIR_INSET_IPV6_ESP (\
127 : : IAVF_INSET_IPV6_SRC | IAVF_INSET_IPV6_DST | \
128 : : IAVF_INSET_ESP_SPI)
129 : :
130 : : #define IAVF_FDIR_INSET_AH (\
131 : : IAVF_INSET_AH_SPI)
132 : :
133 : : #define IAVF_FDIR_INSET_IPV4_NATT_ESP (\
134 : : IAVF_INSET_IPV4_SRC | IAVF_INSET_IPV4_DST | \
135 : : IAVF_INSET_ESP_SPI)
136 : :
137 : : #define IAVF_FDIR_INSET_IPV6_NATT_ESP (\
138 : : IAVF_INSET_IPV6_SRC | IAVF_INSET_IPV6_DST | \
139 : : IAVF_INSET_ESP_SPI)
140 : :
141 : : #define IAVF_FDIR_INSET_PFCP (\
142 : : IAVF_INSET_PFCP_S_FIELD)
143 : :
144 : : #define IAVF_FDIR_INSET_ECPRI (\
145 : : IAVF_INSET_ECPRI)
146 : :
147 : : #define IAVF_FDIR_INSET_GRE_IPV4 (\
148 : : IAVF_INSET_TUN_IPV4_SRC | IAVF_INSET_TUN_IPV4_DST | \
149 : : IAVF_INSET_TUN_IPV4_TOS | IAVF_INSET_TUN_IPV4_PROTO)
150 : :
151 : : #define IAVF_FDIR_INSET_GRE_IPV4_TCP (\
152 : : IAVF_FDIR_INSET_GRE_IPV4 | IAVF_INSET_TUN_TCP_SRC_PORT | \
153 : : IAVF_INSET_TUN_TCP_DST_PORT)
154 : :
155 : : #define IAVF_FDIR_INSET_GRE_IPV4_UDP (\
156 : : IAVF_FDIR_INSET_GRE_IPV4 | IAVF_INSET_TUN_UDP_SRC_PORT | \
157 : : IAVF_INSET_TUN_UDP_DST_PORT)
158 : :
159 : : #define IAVF_FDIR_INSET_GRE_IPV6 (\
160 : : IAVF_INSET_TUN_IPV6_SRC | IAVF_INSET_TUN_IPV6_DST | \
161 : : IAVF_INSET_TUN_IPV6_TC | IAVF_INSET_TUN_IPV6_NEXT_HDR)
162 : :
163 : : #define IAVF_FDIR_INSET_GRE_IPV6_TCP (\
164 : : IAVF_FDIR_INSET_GRE_IPV6 | IAVF_INSET_TUN_TCP_SRC_PORT | \
165 : : IAVF_INSET_TUN_TCP_DST_PORT)
166 : :
167 : : #define IAVF_FDIR_INSET_GRE_IPV6_UDP (\
168 : : IAVF_FDIR_INSET_GRE_IPV6 | IAVF_INSET_TUN_UDP_SRC_PORT | \
169 : : IAVF_INSET_TUN_UDP_DST_PORT)
170 : :
171 : : #define IAVF_FDIR_INSET_L2TPV2 (\
172 : : IAVF_INSET_SMAC | IAVF_INSET_DMAC | IAVF_INSET_L2TPV2)
173 : :
174 : : #define IAVF_FDIR_INSET_L2TPV2_PPP_IPV4 (\
175 : : IAVF_INSET_TUN_IPV4_SRC | IAVF_INSET_TUN_IPV4_DST)
176 : :
177 : : #define IAVF_FDIR_INSET_L2TPV2_PPP_IPV4_UDP (\
178 : : IAVF_FDIR_INSET_L2TPV2_PPP_IPV4 | IAVF_INSET_TUN_UDP_SRC_PORT | \
179 : : IAVF_INSET_TUN_UDP_DST_PORT)
180 : :
181 : : #define IAVF_FDIR_INSET_L2TPV2_PPP_IPV4_TCP (\
182 : : IAVF_FDIR_INSET_L2TPV2_PPP_IPV4 | IAVF_INSET_TUN_TCP_SRC_PORT | \
183 : : IAVF_INSET_TUN_TCP_DST_PORT)
184 : :
185 : : #define IAVF_FDIR_INSET_L2TPV2_PPP_IPV6 (\
186 : : IAVF_INSET_TUN_IPV6_SRC | IAVF_INSET_TUN_IPV6_DST)
187 : :
188 : : #define IAVF_FDIR_INSET_L2TPV2_PPP_IPV6_UDP (\
189 : : IAVF_FDIR_INSET_L2TPV2_PPP_IPV6 | IAVF_INSET_TUN_UDP_SRC_PORT | \
190 : : IAVF_INSET_TUN_UDP_DST_PORT)
191 : :
192 : : #define IAVF_FDIR_INSET_L2TPV2_PPP_IPV6_TCP (\
193 : : IAVF_FDIR_INSET_L2TPV2_PPP_IPV6 | IAVF_INSET_TUN_TCP_SRC_PORT | \
194 : : IAVF_INSET_TUN_TCP_DST_PORT)
195 : :
196 : : static struct iavf_pattern_match_item iavf_fdir_pattern[] = {
197 : : {iavf_pattern_raw, IAVF_INSET_NONE, IAVF_INSET_NONE},
198 : : {iavf_pattern_ethertype, IAVF_FDIR_INSET_ETH, IAVF_INSET_NONE},
199 : : {iavf_pattern_eth_ipv4, IAVF_FDIR_INSET_ETH_IPV4, IAVF_INSET_NONE},
200 : : {iavf_pattern_eth_ipv4_udp, IAVF_FDIR_INSET_ETH_IPV4_UDP, IAVF_INSET_NONE},
201 : : {iavf_pattern_eth_ipv4_tcp, IAVF_FDIR_INSET_ETH_IPV4_TCP, IAVF_INSET_NONE},
202 : : {iavf_pattern_eth_ipv4_sctp, IAVF_FDIR_INSET_ETH_IPV4_SCTP, IAVF_INSET_NONE},
203 : : {iavf_pattern_eth_ipv6, IAVF_FDIR_INSET_ETH_IPV6, IAVF_INSET_NONE},
204 : : {iavf_pattern_eth_ipv6_frag_ext, IAVF_FDIR_INSET_ETH_IPV6_FRAG_EXT, IAVF_INSET_NONE},
205 : : {iavf_pattern_eth_ipv6_udp, IAVF_FDIR_INSET_ETH_IPV6_UDP, IAVF_INSET_NONE},
206 : : {iavf_pattern_eth_ipv6_tcp, IAVF_FDIR_INSET_ETH_IPV6_TCP, IAVF_INSET_NONE},
207 : : {iavf_pattern_eth_ipv6_sctp, IAVF_FDIR_INSET_ETH_IPV6_SCTP, IAVF_INSET_NONE},
208 : : {iavf_pattern_eth_ipv4_gtpu, IAVF_FDIR_INSET_IPV4_GTPU, IAVF_INSET_NONE},
209 : : {iavf_pattern_eth_ipv4_gtpu_ipv4, IAVF_FDIR_INSET_GTPU_IPV4, IAVF_INSET_NONE},
210 : : {iavf_pattern_eth_ipv4_gtpu_ipv4_udp, IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
211 : : {iavf_pattern_eth_ipv4_gtpu_ipv4_tcp, IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
212 : : {iavf_pattern_eth_ipv4_gtpu_ipv6, IAVF_FDIR_INSET_GTPU_IPV6, IAVF_INSET_NONE},
213 : : {iavf_pattern_eth_ipv4_gtpu_ipv6_udp, IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
214 : : {iavf_pattern_eth_ipv4_gtpu_ipv6_tcp, IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
215 : : {iavf_pattern_eth_ipv4_gtpu_eh, IAVF_FDIR_INSET_IPV4_GTPU_EH, IAVF_INSET_NONE},
216 : : {iavf_pattern_eth_ipv4_gtpu_eh_ipv4, IAVF_FDIR_INSET_GTPU_IPV4, IAVF_INSET_NONE},
217 : : {iavf_pattern_eth_ipv4_gtpu_eh_ipv4_udp, IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
218 : : {iavf_pattern_eth_ipv4_gtpu_eh_ipv4_tcp, IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
219 : : {iavf_pattern_eth_ipv4_gtpu_eh_ipv6, IAVF_FDIR_INSET_GTPU_IPV6, IAVF_INSET_NONE},
220 : : {iavf_pattern_eth_ipv4_gtpu_eh_ipv6_udp, IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
221 : : {iavf_pattern_eth_ipv4_gtpu_eh_ipv6_tcp, IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
222 : : {iavf_pattern_eth_ipv4_gre_ipv4_gtpu, IAVF_FDIR_INSET_IPV4_GTPU, IAVF_INSET_NONE},
223 : : {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_ipv4, IAVF_FDIR_INSET_GTPU_IPV4, IAVF_INSET_NONE},
224 : : {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_ipv4_udp, IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
225 : : {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_ipv4_tcp, IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
226 : : {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_ipv6, IAVF_FDIR_INSET_GTPU_IPV6, IAVF_INSET_NONE},
227 : : {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_ipv6_udp, IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
228 : : {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_ipv6_tcp, IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
229 : : {iavf_pattern_eth_ipv4_gre_ipv6_gtpu, IAVF_FDIR_INSET_IPV4_GTPU, IAVF_INSET_NONE},
230 : : {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_ipv4, IAVF_FDIR_INSET_GTPU_IPV4, IAVF_INSET_NONE},
231 : : {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_ipv4_udp, IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
232 : : {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_ipv4_tcp, IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
233 : : {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_ipv6, IAVF_FDIR_INSET_GTPU_IPV6, IAVF_INSET_NONE},
234 : : {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_ipv6_udp, IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
235 : : {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_ipv6_tcp, IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
236 : : {iavf_pattern_eth_ipv6_gre_ipv4_gtpu, IAVF_FDIR_INSET_IPV6_GTPU, IAVF_INSET_NONE},
237 : : {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_ipv4, IAVF_FDIR_INSET_GTPU_IPV4, IAVF_INSET_NONE},
238 : : {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_ipv4_udp, IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
239 : : {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_ipv4_tcp, IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
240 : : {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_ipv6, IAVF_FDIR_INSET_GTPU_IPV6, IAVF_INSET_NONE},
241 : : {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_ipv6_udp, IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
242 : : {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_ipv6_tcp, IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
243 : : {iavf_pattern_eth_ipv6_gre_ipv6_gtpu, IAVF_FDIR_INSET_IPV6_GTPU, IAVF_INSET_NONE},
244 : : {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_ipv4, IAVF_FDIR_INSET_GTPU_IPV4, IAVF_INSET_NONE},
245 : : {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_ipv4_udp, IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
246 : : {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_ipv4_tcp, IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
247 : : {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_ipv6, IAVF_FDIR_INSET_GTPU_IPV6, IAVF_INSET_NONE},
248 : : {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_ipv6_udp, IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
249 : : {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_ipv6_tcp, IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
250 : : {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_eh, IAVF_FDIR_INSET_IPV4_GTPU_EH, IAVF_INSET_NONE},
251 : : {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_eh_ipv4, IAVF_FDIR_INSET_GTPU_IPV4, IAVF_INSET_NONE},
252 : : {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_eh_ipv4_udp, IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
253 : : {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_eh_ipv4_tcp, IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
254 : : {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_eh_ipv6, IAVF_FDIR_INSET_GTPU_IPV6, IAVF_INSET_NONE},
255 : : {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_eh_ipv6_udp, IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
256 : : {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_eh_ipv6_tcp, IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
257 : : {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_eh, IAVF_FDIR_INSET_IPV4_GTPU_EH, IAVF_INSET_NONE},
258 : : {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_eh_ipv4, IAVF_FDIR_INSET_GTPU_IPV4, IAVF_INSET_NONE},
259 : : {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_eh_ipv4_udp, IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
260 : : {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_eh_ipv4_tcp, IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
261 : : {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_eh_ipv6, IAVF_FDIR_INSET_GTPU_IPV6, IAVF_INSET_NONE},
262 : : {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_eh_ipv6_udp, IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
263 : : {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_eh_ipv6_tcp, IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
264 : : {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_eh, IAVF_FDIR_INSET_IPV6_GTPU_EH, IAVF_INSET_NONE},
265 : : {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_eh_ipv4, IAVF_FDIR_INSET_GTPU_IPV4, IAVF_INSET_NONE},
266 : : {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_eh_ipv4_udp, IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
267 : : {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_eh_ipv4_tcp, IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
268 : : {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_eh_ipv6, IAVF_FDIR_INSET_GTPU_IPV6, IAVF_INSET_NONE},
269 : : {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_eh_ipv6_udp, IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
270 : : {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_eh_ipv6_tcp, IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
271 : : {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_eh, IAVF_FDIR_INSET_IPV6_GTPU_EH, IAVF_INSET_NONE},
272 : : {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_eh_ipv4, IAVF_FDIR_INSET_GTPU_IPV4, IAVF_INSET_NONE},
273 : : {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_eh_ipv4_udp, IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
274 : : {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_eh_ipv4_tcp, IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
275 : : {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_eh_ipv6, IAVF_FDIR_INSET_GTPU_IPV6, IAVF_INSET_NONE},
276 : : {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_eh_ipv6_udp, IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
277 : : {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_eh_ipv6_tcp, IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
278 : : {iavf_pattern_eth_ipv6_gtpu, IAVF_FDIR_INSET_IPV6_GTPU, IAVF_INSET_NONE},
279 : : {iavf_pattern_eth_ipv6_gtpu_eh, IAVF_FDIR_INSET_IPV6_GTPU_EH, IAVF_INSET_NONE},
280 : : {iavf_pattern_eth_ipv4_l2tpv3, IAVF_FDIR_INSET_L2TPV3OIP, IAVF_INSET_NONE},
281 : : {iavf_pattern_eth_ipv6_l2tpv3, IAVF_FDIR_INSET_L2TPV3OIP, IAVF_INSET_NONE},
282 : : {iavf_pattern_eth_ipv4_esp, IAVF_FDIR_INSET_IPV4_ESP, IAVF_INSET_NONE},
283 : : {iavf_pattern_eth_ipv6_esp, IAVF_FDIR_INSET_IPV6_ESP, IAVF_INSET_NONE},
284 : : {iavf_pattern_eth_ipv4_ah, IAVF_FDIR_INSET_AH, IAVF_INSET_NONE},
285 : : {iavf_pattern_eth_ipv6_ah, IAVF_FDIR_INSET_AH, IAVF_INSET_NONE},
286 : : {iavf_pattern_eth_ipv4_udp_esp, IAVF_FDIR_INSET_IPV4_NATT_ESP, IAVF_INSET_NONE},
287 : : {iavf_pattern_eth_ipv6_udp_esp, IAVF_FDIR_INSET_IPV6_NATT_ESP, IAVF_INSET_NONE},
288 : : {iavf_pattern_eth_ipv4_pfcp, IAVF_FDIR_INSET_PFCP, IAVF_INSET_NONE},
289 : : {iavf_pattern_eth_ipv6_pfcp, IAVF_FDIR_INSET_PFCP, IAVF_INSET_NONE},
290 : : {iavf_pattern_eth_ecpri, IAVF_FDIR_INSET_ECPRI, IAVF_INSET_NONE},
291 : : {iavf_pattern_eth_ipv4_ecpri, IAVF_FDIR_INSET_ECPRI, IAVF_INSET_NONE},
292 : : {iavf_pattern_eth_ipv4_gre_ipv4, IAVF_FDIR_INSET_GRE_IPV4, IAVF_INSET_NONE},
293 : : {iavf_pattern_eth_ipv4_gre_ipv4_tcp, IAVF_FDIR_INSET_GRE_IPV4_TCP, IAVF_INSET_NONE},
294 : : {iavf_pattern_eth_ipv4_gre_ipv4_udp, IAVF_FDIR_INSET_GRE_IPV4_UDP, IAVF_INSET_NONE},
295 : : {iavf_pattern_eth_ipv4_gre_ipv6, IAVF_FDIR_INSET_GRE_IPV6, IAVF_INSET_NONE},
296 : : {iavf_pattern_eth_ipv4_gre_ipv6_tcp, IAVF_FDIR_INSET_GRE_IPV6_TCP, IAVF_INSET_NONE},
297 : : {iavf_pattern_eth_ipv4_gre_ipv6_udp, IAVF_FDIR_INSET_GRE_IPV6_UDP, IAVF_INSET_NONE},
298 : : {iavf_pattern_eth_ipv6_gre_ipv4, IAVF_FDIR_INSET_GRE_IPV4, IAVF_INSET_NONE},
299 : : {iavf_pattern_eth_ipv6_gre_ipv4_tcp, IAVF_FDIR_INSET_GRE_IPV4_TCP, IAVF_INSET_NONE},
300 : : {iavf_pattern_eth_ipv6_gre_ipv4_udp, IAVF_FDIR_INSET_GRE_IPV4_UDP, IAVF_INSET_NONE},
301 : : {iavf_pattern_eth_ipv6_gre_ipv6, IAVF_FDIR_INSET_GRE_IPV6, IAVF_INSET_NONE},
302 : : {iavf_pattern_eth_ipv6_gre_ipv6_tcp, IAVF_FDIR_INSET_GRE_IPV6_TCP, IAVF_INSET_NONE},
303 : : {iavf_pattern_eth_ipv6_gre_ipv6_udp, IAVF_FDIR_INSET_GRE_IPV6_UDP, IAVF_INSET_NONE},
304 : :
305 : : {iavf_pattern_eth_ipv4_udp_l2tpv2, IAVF_FDIR_INSET_L2TPV2, IAVF_INSET_NONE},
306 : : {iavf_pattern_eth_ipv4_udp_l2tpv2_ppp, IAVF_FDIR_INSET_L2TPV2, IAVF_INSET_NONE},
307 : : {iavf_pattern_eth_ipv6_udp_l2tpv2, IAVF_FDIR_INSET_L2TPV2, IAVF_INSET_NONE},
308 : : {iavf_pattern_eth_ipv6_udp_l2tpv2_ppp, IAVF_FDIR_INSET_L2TPV2, IAVF_INSET_NONE},
309 : : {iavf_pattern_eth_ipv4_udp_l2tpv2_ppp_ipv4, IAVF_FDIR_INSET_L2TPV2_PPP_IPV4, IAVF_INSET_NONE},
310 : : {iavf_pattern_eth_ipv4_udp_l2tpv2_ppp_ipv4_udp, IAVF_FDIR_INSET_L2TPV2_PPP_IPV4_UDP, IAVF_INSET_NONE},
311 : : {iavf_pattern_eth_ipv4_udp_l2tpv2_ppp_ipv4_tcp, IAVF_FDIR_INSET_L2TPV2_PPP_IPV4_TCP, IAVF_INSET_NONE},
312 : : {iavf_pattern_eth_ipv6_udp_l2tpv2_ppp_ipv4, IAVF_FDIR_INSET_L2TPV2_PPP_IPV4, IAVF_INSET_NONE},
313 : : {iavf_pattern_eth_ipv6_udp_l2tpv2_ppp_ipv4_udp, IAVF_FDIR_INSET_L2TPV2_PPP_IPV4_UDP, IAVF_INSET_NONE},
314 : : {iavf_pattern_eth_ipv6_udp_l2tpv2_ppp_ipv4_tcp, IAVF_FDIR_INSET_L2TPV2_PPP_IPV4_TCP, IAVF_INSET_NONE},
315 : : {iavf_pattern_eth_ipv4_udp_l2tpv2_ppp_ipv6, IAVF_FDIR_INSET_L2TPV2_PPP_IPV6, IAVF_INSET_NONE},
316 : : {iavf_pattern_eth_ipv4_udp_l2tpv2_ppp_ipv6_udp, IAVF_FDIR_INSET_L2TPV2_PPP_IPV6_UDP, IAVF_INSET_NONE},
317 : : {iavf_pattern_eth_ipv4_udp_l2tpv2_ppp_ipv6_tcp, IAVF_FDIR_INSET_L2TPV2_PPP_IPV6_TCP, IAVF_INSET_NONE},
318 : : {iavf_pattern_eth_ipv6_udp_l2tpv2_ppp_ipv6, IAVF_FDIR_INSET_L2TPV2_PPP_IPV6, IAVF_INSET_NONE},
319 : : {iavf_pattern_eth_ipv6_udp_l2tpv2_ppp_ipv6_udp, IAVF_FDIR_INSET_L2TPV2_PPP_IPV6_UDP, IAVF_INSET_NONE},
320 : : {iavf_pattern_eth_ipv6_udp_l2tpv2_ppp_ipv6_tcp, IAVF_FDIR_INSET_L2TPV2_PPP_IPV6_TCP, IAVF_INSET_NONE},
321 : : };
322 : :
323 : : static struct iavf_flow_parser iavf_fdir_parser;
324 : :
325 : : static int
326 : 0 : iavf_fdir_init(struct iavf_adapter *ad)
327 : : {
328 : : struct iavf_info *vf = IAVF_DEV_PRIVATE_TO_VF(ad);
329 : : struct iavf_flow_parser *parser;
330 : :
331 [ # # ]: 0 : if (!vf->vf_res)
332 : : return -EINVAL;
333 : :
334 [ # # ]: 0 : if (vf->vf_res->vf_cap_flags & VIRTCHNL_VF_OFFLOAD_FDIR_PF)
335 : : parser = &iavf_fdir_parser;
336 : : else
337 : : return -ENOTSUP;
338 : :
339 : 0 : return iavf_register_parser(parser, ad);
340 : : }
341 : :
342 : : static void
343 : 0 : iavf_fdir_uninit(struct iavf_adapter *ad)
344 : : {
345 : 0 : iavf_unregister_parser(&iavf_fdir_parser, ad);
346 : 0 : }
347 : :
348 : : static int
349 : 0 : iavf_fdir_create(struct iavf_adapter *ad,
350 : : struct rte_flow *flow,
351 : : void *meta,
352 : : struct rte_flow_error *error)
353 : : {
354 : : struct iavf_fdir_conf *filter = meta;
355 : : struct iavf_fdir_conf *rule;
356 : : int ret;
357 : :
358 : 0 : rule = rte_zmalloc("fdir_entry", sizeof(*rule), 0);
359 [ # # ]: 0 : if (!rule) {
360 : 0 : rte_flow_error_set(error, ENOMEM,
361 : : RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
362 : : "Failed to allocate memory for fdir rule");
363 : 0 : return -rte_errno;
364 : : }
365 : :
366 : 0 : ret = iavf_fdir_add(ad, filter);
367 [ # # ]: 0 : if (ret) {
368 : 0 : rte_flow_error_set(error, -ret,
369 : : RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
370 : : "Failed to add filter rule.");
371 : 0 : goto free_entry;
372 : : }
373 : :
374 [ # # ]: 0 : if (filter->mark_flag == 1)
375 : 0 : iavf_fdir_rx_proc_enable(ad, 1);
376 : :
377 : : memcpy(rule, filter, sizeof(*rule));
378 : 0 : flow->rule = rule;
379 : :
380 : 0 : return 0;
381 : :
382 : : free_entry:
383 : 0 : rte_free(rule);
384 : 0 : return -rte_errno;
385 : : }
386 : :
387 : : static int
388 : 0 : iavf_fdir_destroy(struct iavf_adapter *ad,
389 : : struct rte_flow *flow,
390 : : struct rte_flow_error *error)
391 : : {
392 : : struct iavf_fdir_conf *filter;
393 : : int ret;
394 : :
395 : 0 : filter = (struct iavf_fdir_conf *)flow->rule;
396 : :
397 : 0 : ret = iavf_fdir_del(ad, filter);
398 [ # # ]: 0 : if (ret) {
399 : 0 : rte_flow_error_set(error, -ret,
400 : : RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
401 : : "Failed to delete filter rule.");
402 : 0 : return -rte_errno;
403 : : }
404 : :
405 [ # # ]: 0 : if (filter->mark_flag == 1)
406 : 0 : iavf_fdir_rx_proc_enable(ad, 0);
407 : :
408 : 0 : flow->rule = NULL;
409 : 0 : rte_free(filter);
410 : :
411 : 0 : return 0;
412 : : }
413 : :
414 : : static int
415 : 0 : iavf_fdir_validation(struct iavf_adapter *ad,
416 : : __rte_unused struct rte_flow *flow,
417 : : void *meta,
418 : : struct rte_flow_error *error)
419 : : {
420 : : struct iavf_fdir_conf *filter = meta;
421 : : int ret;
422 : :
423 : 0 : ret = iavf_fdir_check(ad, filter);
424 [ # # ]: 0 : if (ret) {
425 : 0 : rte_flow_error_set(error, -ret,
426 : : RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
427 : : "Failed to validate filter rule.");
428 : 0 : return -rte_errno;
429 : : }
430 : :
431 : : return 0;
432 : : };
433 : :
434 : : static struct iavf_flow_engine iavf_fdir_engine = {
435 : : .init = iavf_fdir_init,
436 : : .uninit = iavf_fdir_uninit,
437 : : .create = iavf_fdir_create,
438 : : .destroy = iavf_fdir_destroy,
439 : : .validation = iavf_fdir_validation,
440 : : .name = "fdir",
441 : : .type = IAVF_FLOW_ENGINE_FDIR,
442 : : .rule_size = sizeof(struct iavf_fdir_conf),
443 : : };
444 : :
445 : : static int
446 : 0 : iavf_fdir_parse_action_qregion(struct iavf_adapter *ad,
447 : : struct rte_flow_error *error,
448 : : const struct rte_flow_action *act,
449 : : struct virtchnl_filter_action *filter_action)
450 : : {
451 : : struct iavf_info *vf = IAVF_DEV_PRIVATE_TO_VF(ad);
452 : 0 : const struct rte_flow_action_rss *rss = act->conf;
453 : : uint32_t i;
454 : :
455 [ # # ]: 0 : if (act->type != RTE_FLOW_ACTION_TYPE_RSS) {
456 : 0 : rte_flow_error_set(error, EINVAL,
457 : : RTE_FLOW_ERROR_TYPE_ACTION, act,
458 : : "Invalid action.");
459 : 0 : return -rte_errno;
460 : : }
461 : :
462 [ # # ]: 0 : if (rss->queue_num <= 1) {
463 : 0 : rte_flow_error_set(error, EINVAL,
464 : : RTE_FLOW_ERROR_TYPE_ACTION, act,
465 : : "Queue region size can't be 0 or 1.");
466 : 0 : return -rte_errno;
467 : : }
468 : :
469 : : /* check if queue index for queue region is continuous */
470 [ # # ]: 0 : for (i = 0; i < rss->queue_num - 1; i++) {
471 [ # # ]: 0 : if (rss->queue[i + 1] != rss->queue[i] + 1) {
472 : 0 : rte_flow_error_set(error, EINVAL,
473 : : RTE_FLOW_ERROR_TYPE_ACTION, act,
474 : : "Discontinuous queue region");
475 : 0 : return -rte_errno;
476 : : }
477 : : }
478 : :
479 [ # # ]: 0 : if (rss->queue[rss->queue_num - 1] >= ad->dev_data->nb_rx_queues) {
480 : 0 : rte_flow_error_set(error, EINVAL,
481 : : RTE_FLOW_ERROR_TYPE_ACTION, act,
482 : : "Invalid queue region indexes.");
483 : 0 : return -rte_errno;
484 : : }
485 : :
486 [ # # ]: 0 : if (!(rte_is_power_of_2(rss->queue_num) &&
487 : : rss->queue_num <= IAVF_FDIR_MAX_QREGION_SIZE)) {
488 : 0 : rte_flow_error_set(error, EINVAL,
489 : : RTE_FLOW_ERROR_TYPE_ACTION, act,
490 : : "The region size should be any of the following values:"
491 : : "1, 2, 4, 8, 16, 32, 64, 128 as long as the total number "
492 : : "of queues do not exceed the VSI allocation.");
493 : 0 : return -rte_errno;
494 : : }
495 : :
496 [ # # ]: 0 : if (rss->queue_num > vf->max_rss_qregion) {
497 : 0 : rte_flow_error_set(error, EINVAL,
498 : : RTE_FLOW_ERROR_TYPE_ACTION, act,
499 : : "The region size cannot be large than the supported max RSS queue region");
500 : 0 : return -rte_errno;
501 : : }
502 : :
503 : 0 : filter_action->act_conf.queue.index = rss->queue[0];
504 : 0 : filter_action->act_conf.queue.region = rte_fls_u32(rss->queue_num) - 1;
505 : :
506 : 0 : return 0;
507 : : }
508 : :
509 : : static int
510 : 0 : iavf_fdir_parse_action(struct iavf_adapter *ad,
511 : : const struct rte_flow_action actions[],
512 : : struct rte_flow_error *error,
513 : : struct iavf_fdir_conf *filter)
514 : : {
515 : : const struct rte_flow_action_queue *act_q;
516 : : const struct rte_flow_action_mark *mark_spec = NULL;
517 : : uint32_t dest_num = 0;
518 : : uint32_t mark_num = 0;
519 : : int ret;
520 : :
521 : : int number = 0;
522 : : struct virtchnl_filter_action *filter_action;
523 : :
524 [ # # ]: 0 : for (; actions->type != RTE_FLOW_ACTION_TYPE_END; actions++) {
525 [ # # # # : 0 : switch (actions->type) {
# # # ]
526 : : case RTE_FLOW_ACTION_TYPE_VOID:
527 : : break;
528 : :
529 : 0 : case RTE_FLOW_ACTION_TYPE_PASSTHRU:
530 : 0 : dest_num++;
531 : :
532 : : filter_action = &filter->add_fltr.rule_cfg.action_set.actions[number];
533 : :
534 : 0 : filter_action->type = VIRTCHNL_ACTION_PASSTHRU;
535 : :
536 : 0 : filter->add_fltr.rule_cfg.action_set.count = ++number;
537 : 0 : break;
538 : :
539 : 0 : case RTE_FLOW_ACTION_TYPE_DROP:
540 : 0 : dest_num++;
541 : :
542 : : filter_action = &filter->add_fltr.rule_cfg.action_set.actions[number];
543 : :
544 : 0 : filter_action->type = VIRTCHNL_ACTION_DROP;
545 : :
546 : 0 : filter->add_fltr.rule_cfg.action_set.count = ++number;
547 : 0 : break;
548 : :
549 : 0 : case RTE_FLOW_ACTION_TYPE_QUEUE:
550 : 0 : dest_num++;
551 : :
552 : 0 : act_q = actions->conf;
553 : : filter_action = &filter->add_fltr.rule_cfg.action_set.actions[number];
554 : :
555 : 0 : filter_action->type = VIRTCHNL_ACTION_QUEUE;
556 : 0 : filter_action->act_conf.queue.index = act_q->index;
557 : :
558 : 0 : if (filter_action->act_conf.queue.index >=
559 [ # # ]: 0 : ad->dev_data->nb_rx_queues) {
560 : 0 : rte_flow_error_set(error, EINVAL,
561 : : RTE_FLOW_ERROR_TYPE_ACTION,
562 : : actions, "Invalid queue for FDIR.");
563 : 0 : return -rte_errno;
564 : : }
565 : :
566 : 0 : filter->add_fltr.rule_cfg.action_set.count = ++number;
567 : 0 : break;
568 : :
569 : 0 : case RTE_FLOW_ACTION_TYPE_RSS:
570 : 0 : dest_num++;
571 : :
572 : 0 : filter_action = &filter->add_fltr.rule_cfg.action_set.actions[number];
573 : :
574 : 0 : filter_action->type = VIRTCHNL_ACTION_Q_REGION;
575 : :
576 : 0 : ret = iavf_fdir_parse_action_qregion(ad,
577 : : error, actions, filter_action);
578 [ # # ]: 0 : if (ret)
579 : 0 : return ret;
580 : :
581 : 0 : filter->add_fltr.rule_cfg.action_set.count = ++number;
582 : 0 : break;
583 : :
584 : 0 : case RTE_FLOW_ACTION_TYPE_MARK:
585 : 0 : mark_num++;
586 : :
587 : 0 : filter->mark_flag = 1;
588 : 0 : mark_spec = actions->conf;
589 : : filter_action = &filter->add_fltr.rule_cfg.action_set.actions[number];
590 : :
591 : 0 : filter_action->type = VIRTCHNL_ACTION_MARK;
592 : 0 : filter_action->act_conf.mark_id = mark_spec->id;
593 : :
594 : 0 : filter->add_fltr.rule_cfg.action_set.count = ++number;
595 : 0 : break;
596 : :
597 : 0 : default:
598 : 0 : rte_flow_error_set(error, EINVAL,
599 : : RTE_FLOW_ERROR_TYPE_ACTION, actions,
600 : : "Invalid action.");
601 : 0 : return -rte_errno;
602 : : }
603 : : }
604 : :
605 [ # # ]: 0 : if (number > VIRTCHNL_MAX_NUM_ACTIONS) {
606 : 0 : rte_flow_error_set(error, EINVAL,
607 : : RTE_FLOW_ERROR_TYPE_ACTION, actions,
608 : : "Action numbers exceed the maximum value");
609 : 0 : return -rte_errno;
610 : : }
611 : :
612 [ # # ]: 0 : if (dest_num >= 2) {
613 : 0 : rte_flow_error_set(error, EINVAL,
614 : : RTE_FLOW_ERROR_TYPE_ACTION, actions,
615 : : "Unsupported action combination");
616 : 0 : return -rte_errno;
617 : : }
618 : :
619 [ # # ]: 0 : if (mark_num >= 2) {
620 : 0 : rte_flow_error_set(error, EINVAL,
621 : : RTE_FLOW_ERROR_TYPE_ACTION, actions,
622 : : "Too many mark actions");
623 : 0 : return -rte_errno;
624 : : }
625 : :
626 [ # # ]: 0 : if (dest_num + mark_num == 0) {
627 : 0 : rte_flow_error_set(error, EINVAL,
628 : : RTE_FLOW_ERROR_TYPE_ACTION, actions,
629 : : "Empty action");
630 : 0 : return -rte_errno;
631 : : }
632 : :
633 : : /* Mark only is equal to mark + passthru. */
634 [ # # ]: 0 : if (dest_num == 0) {
635 : : filter_action = &filter->add_fltr.rule_cfg.action_set.actions[number];
636 : 0 : filter_action->type = VIRTCHNL_ACTION_PASSTHRU;
637 : 0 : filter->add_fltr.rule_cfg.action_set.count = ++number;
638 : : }
639 : :
640 : : return 0;
641 : : }
642 : :
643 : : static bool
644 : 0 : iavf_fdir_refine_input_set(const uint64_t input_set,
645 : : const uint64_t input_set_mask,
646 : : struct iavf_fdir_conf *filter)
647 : : {
648 : : struct virtchnl_proto_hdr *hdr, *hdr_last;
649 : : struct rte_flow_item_ipv4 ipv4_spec;
650 : : struct rte_flow_item_ipv6 ipv6_spec;
651 : : int last_layer;
652 : : uint8_t proto_id;
653 : :
654 [ # # ]: 0 : if (input_set & ~input_set_mask)
655 : : return false;
656 [ # # ]: 0 : else if (input_set)
657 : : return true;
658 : :
659 : 0 : last_layer = filter->add_fltr.rule_cfg.proto_hdrs.count - 1;
660 : : /* Last layer of TCP/UDP pattern isn't less than 2. */
661 [ # # ]: 0 : if (last_layer < 2)
662 : : return false;
663 : : hdr_last = &filter->add_fltr.rule_cfg.proto_hdrs.proto_hdr[last_layer];
664 [ # # ]: 0 : if (hdr_last->type == VIRTCHNL_PROTO_HDR_TCP)
665 : : proto_id = 6;
666 [ # # ]: 0 : else if (hdr_last->type == VIRTCHNL_PROTO_HDR_UDP)
667 : : proto_id = 17;
668 : : else
669 : : return false;
670 : :
671 : 0 : hdr = &filter->add_fltr.rule_cfg.proto_hdrs.proto_hdr[last_layer - 1];
672 [ # # # ]: 0 : switch (hdr->type) {
673 : 0 : case VIRTCHNL_PROTO_HDR_IPV4:
674 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV4, PROT);
675 : : memset(&ipv4_spec, 0, sizeof(ipv4_spec));
676 : 0 : ipv4_spec.hdr.next_proto_id = proto_id;
677 : 0 : memcpy(hdr->buffer, &ipv4_spec.hdr,
678 : : sizeof(ipv4_spec.hdr));
679 : 0 : return true;
680 : 0 : case VIRTCHNL_PROTO_HDR_IPV6:
681 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV6, PROT);
682 : : memset(&ipv6_spec, 0, sizeof(ipv6_spec));
683 : 0 : ipv6_spec.hdr.proto = proto_id;
684 : 0 : memcpy(hdr->buffer, &ipv6_spec.hdr,
685 : : sizeof(ipv6_spec.hdr));
686 : 0 : return true;
687 : : default:
688 : : return false;
689 : : }
690 : : }
691 : :
692 : : static void
693 : 0 : iavf_fdir_add_fragment_hdr(struct virtchnl_proto_hdrs *hdrs, int layer)
694 : : {
695 : : struct virtchnl_proto_hdr *hdr1;
696 : : struct virtchnl_proto_hdr *hdr2;
697 : : int i;
698 : :
699 [ # # # # ]: 0 : if (layer < 0 || layer > hdrs->count)
700 : : return;
701 : :
702 : : /* shift headers layer */
703 [ # # ]: 0 : for (i = hdrs->count; i >= layer; i--) {
704 : : hdr1 = &hdrs->proto_hdr[i];
705 : 0 : hdr2 = &hdrs->proto_hdr[i - 1];
706 : 0 : *hdr1 = *hdr2;
707 : : }
708 : :
709 : : /* adding dummy fragment header */
710 : : hdr1 = &hdrs->proto_hdr[layer];
711 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr1, IPV4_FRAG);
712 : 0 : hdr1->field_selector = 0;
713 : 0 : hdrs->count = ++layer;
714 : : }
715 : :
716 : : static int
717 : 0 : iavf_fdir_parse_pattern(__rte_unused struct iavf_adapter *ad,
718 : : const struct rte_flow_item pattern[],
719 : : const uint64_t input_set_mask,
720 : : struct rte_flow_error *error,
721 : : struct iavf_fdir_conf *filter)
722 : : {
723 : 0 : struct virtchnl_proto_hdrs *hdrs =
724 : : &filter->add_fltr.rule_cfg.proto_hdrs;
725 : : enum rte_flow_item_type l3 = RTE_FLOW_ITEM_TYPE_END;
726 : : const struct rte_flow_item_raw *raw_spec, *raw_mask;
727 : : const struct rte_flow_item_eth *eth_spec, *eth_mask;
728 : : const struct rte_flow_item_ipv4 *ipv4_spec, *ipv4_last, *ipv4_mask;
729 : : const struct rte_flow_item_ipv6 *ipv6_spec, *ipv6_mask;
730 : : const struct rte_flow_item_ipv6_frag_ext *ipv6_frag_spec;
731 : : const struct rte_flow_item_ipv6_frag_ext *ipv6_frag_mask;
732 : : const struct rte_flow_item_udp *udp_spec, *udp_mask;
733 : : const struct rte_flow_item_tcp *tcp_spec, *tcp_mask;
734 : : const struct rte_flow_item_sctp *sctp_spec, *sctp_mask;
735 : : const struct rte_flow_item_gtp *gtp_spec, *gtp_mask;
736 : : const struct rte_flow_item_gtp_psc *gtp_psc_spec, *gtp_psc_mask;
737 : : const struct rte_flow_item_l2tpv3oip *l2tpv3oip_spec, *l2tpv3oip_mask;
738 : : const struct rte_flow_item_esp *esp_spec, *esp_mask;
739 : : const struct rte_flow_item_ah *ah_spec, *ah_mask;
740 : : const struct rte_flow_item_pfcp *pfcp_spec, *pfcp_mask;
741 : : const struct rte_flow_item_ecpri *ecpri_spec, *ecpri_mask;
742 : : const struct rte_flow_item_gre *gre_spec, *gre_mask;
743 : : const struct rte_flow_item_l2tpv2 *l2tpv2_spec, *l2tpv2_mask;
744 : : const struct rte_flow_item_ppp *ppp_spec, *ppp_mask;
745 : : const struct rte_flow_item *item = pattern;
746 : : struct virtchnl_proto_hdr *hdr, *hdr1 = NULL;
747 : : struct rte_ecpri_common_hdr ecpri_common;
748 : : uint64_t input_set = IAVF_INSET_NONE;
749 : : enum rte_flow_item_type item_type;
750 : : enum rte_flow_item_type next_type;
751 : : uint8_t tun_inner = 0;
752 : : uint16_t ether_type, flags_version;
753 : : uint8_t item_num = 0;
754 : : int layer = 0;
755 : :
756 : 0 : uint8_t ipv6_addr_mask[16] = {
757 : : 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF,
758 : : 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF
759 : : };
760 : :
761 [ # # ]: 0 : for (item = pattern; item->type != RTE_FLOW_ITEM_TYPE_END; item++) {
762 : : item_type = item->type;
763 : :
764 [ # # ]: 0 : if (item->last && !(item_type == RTE_FLOW_ITEM_TYPE_IPV4 ||
765 [ # # ]: 0 : item_type ==
766 : : RTE_FLOW_ITEM_TYPE_IPV6_FRAG_EXT)) {
767 : 0 : rte_flow_error_set(error, EINVAL,
768 : : RTE_FLOW_ERROR_TYPE_ITEM, item,
769 : : "Not support range");
770 : : }
771 : 0 : item_num++;
772 : :
773 [ # # # # : 0 : switch (item_type) {
# # # # #
# # # # #
# # # # #
# ]
774 : 0 : case RTE_FLOW_ITEM_TYPE_RAW: {
775 : 0 : raw_spec = item->spec;
776 : 0 : raw_mask = item->mask;
777 : :
778 [ # # ]: 0 : if (!raw_spec || !raw_mask) {
779 : 0 : PMD_DRV_LOG(ERR, "NULL RAW spec/mask");
780 : 0 : rte_flow_error_set(error, EINVAL,
781 : : RTE_FLOW_ERROR_TYPE_ITEM,
782 : : item,
783 : : "NULL RAW spec/mask");
784 : 0 : return -rte_errno;
785 : : }
786 : :
787 [ # # ]: 0 : if (item_num != 1)
788 : 0 : return -rte_errno;
789 : :
790 [ # # ]: 0 : if (raw_spec->length != raw_mask->length)
791 : 0 : return -rte_errno;
792 : :
793 : : uint16_t pkt_len = 0;
794 : : uint16_t tmp_val = 0;
795 : : uint8_t tmp = 0;
796 : : int i, j;
797 : :
798 : : pkt_len = raw_spec->length;
799 : :
800 [ # # ]: 0 : for (i = 0, j = 0; i < pkt_len; i += 2, j++) {
801 : 0 : tmp = raw_spec->pattern[i];
802 [ # # ]: 0 : if (tmp >= 'a' && tmp <= 'f')
803 : 0 : tmp_val = tmp - 'a' + 10;
804 [ # # ]: 0 : if (tmp >= 'A' && tmp <= 'F')
805 : 0 : tmp_val = tmp - 'A' + 10;
806 [ # # ]: 0 : if (tmp >= '0' && tmp <= '9')
807 : 0 : tmp_val = tmp - '0';
808 : :
809 : 0 : tmp_val *= 16;
810 : 0 : tmp = raw_spec->pattern[i + 1];
811 [ # # ]: 0 : if (tmp >= 'a' && tmp <= 'f')
812 : 0 : tmp_val += (tmp - 'a' + 10);
813 [ # # ]: 0 : if (tmp >= 'A' && tmp <= 'F')
814 : 0 : tmp_val += (tmp - 'A' + 10);
815 [ # # ]: 0 : if (tmp >= '0' && tmp <= '9')
816 : 0 : tmp_val += (tmp - '0');
817 : :
818 : 0 : hdrs->raw.spec[j] = tmp_val;
819 : :
820 : 0 : tmp = raw_mask->pattern[i];
821 [ # # ]: 0 : if (tmp >= 'a' && tmp <= 'f')
822 : 0 : tmp_val = tmp - 'a' + 10;
823 [ # # ]: 0 : if (tmp >= 'A' && tmp <= 'F')
824 : 0 : tmp_val = tmp - 'A' + 10;
825 [ # # ]: 0 : if (tmp >= '0' && tmp <= '9')
826 : 0 : tmp_val = tmp - '0';
827 : :
828 : 0 : tmp_val *= 16;
829 : 0 : tmp = raw_mask->pattern[i + 1];
830 [ # # ]: 0 : if (tmp >= 'a' && tmp <= 'f')
831 : 0 : tmp_val += (tmp - 'a' + 10);
832 [ # # ]: 0 : if (tmp >= 'A' && tmp <= 'F')
833 : 0 : tmp_val += (tmp - 'A' + 10);
834 [ # # ]: 0 : if (tmp >= '0' && tmp <= '9')
835 : 0 : tmp_val += (tmp - '0');
836 : :
837 : 0 : hdrs->raw.mask[j] = tmp_val;
838 : : }
839 : :
840 : 0 : hdrs->raw.pkt_len = pkt_len / 2;
841 : 0 : hdrs->tunnel_level = 0;
842 : 0 : hdrs->count = 0;
843 : 0 : return 0;
844 : : }
845 : :
846 : 0 : case RTE_FLOW_ITEM_TYPE_ETH:
847 : 0 : eth_spec = item->spec;
848 : 0 : eth_mask = item->mask;
849 : 0 : next_type = (item + 1)->type;
850 : :
851 : 0 : hdr1 = &hdrs->proto_hdr[layer];
852 : :
853 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr1, ETH);
854 : :
855 [ # # ]: 0 : if (next_type == RTE_FLOW_ITEM_TYPE_END &&
856 [ # # ]: 0 : (!eth_spec || !eth_mask)) {
857 : 0 : rte_flow_error_set(error, EINVAL,
858 : : RTE_FLOW_ERROR_TYPE_ITEM,
859 : : item, "NULL eth spec/mask.");
860 : 0 : return -rte_errno;
861 : : }
862 : :
863 [ # # ]: 0 : if (eth_spec && eth_mask) {
864 [ # # ]: 0 : if (!rte_is_zero_ether_addr(ð_mask->hdr.dst_addr)) {
865 : 0 : input_set |= IAVF_INSET_DMAC;
866 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr1,
867 : : ETH,
868 : : DST);
869 [ # # ]: 0 : } else if (!rte_is_zero_ether_addr(ð_mask->hdr.src_addr)) {
870 : 0 : input_set |= IAVF_INSET_SMAC;
871 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr1,
872 : : ETH,
873 : : SRC);
874 : : }
875 : :
876 [ # # ]: 0 : if (eth_mask->hdr.ether_type) {
877 [ # # ]: 0 : if (eth_mask->hdr.ether_type != RTE_BE16(0xffff)) {
878 : 0 : rte_flow_error_set(error, EINVAL,
879 : : RTE_FLOW_ERROR_TYPE_ITEM,
880 : : item, "Invalid type mask.");
881 : 0 : return -rte_errno;
882 : : }
883 : :
884 [ # # ]: 0 : ether_type = rte_be_to_cpu_16(eth_spec->hdr.ether_type);
885 : 0 : if (ether_type == RTE_ETHER_TYPE_IPV4 ||
886 [ # # ]: 0 : ether_type == RTE_ETHER_TYPE_IPV6) {
887 : 0 : rte_flow_error_set(error, EINVAL,
888 : : RTE_FLOW_ERROR_TYPE_ITEM,
889 : : item,
890 : : "Unsupported ether_type.");
891 : 0 : return -rte_errno;
892 : : }
893 : :
894 : 0 : input_set |= IAVF_INSET_ETHERTYPE;
895 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr1, ETH,
896 : : ETHERTYPE);
897 : : }
898 : :
899 : 0 : memcpy(hdr1->buffer, eth_spec,
900 : : sizeof(struct rte_ether_hdr));
901 : : }
902 : :
903 : 0 : hdrs->count = ++layer;
904 : 0 : break;
905 : :
906 : 0 : case RTE_FLOW_ITEM_TYPE_IPV4:
907 : : l3 = RTE_FLOW_ITEM_TYPE_IPV4;
908 : 0 : ipv4_spec = item->spec;
909 : 0 : ipv4_last = item->last;
910 : 0 : ipv4_mask = item->mask;
911 : : next_type = (item + 1)->type;
912 : :
913 : : hdr = &hdrs->proto_hdr[layer];
914 : :
915 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, IPV4);
916 : :
917 [ # # ]: 0 : if (!(ipv4_spec && ipv4_mask)) {
918 : 0 : hdrs->count = ++layer;
919 : 0 : break;
920 : : }
921 : :
922 [ # # ]: 0 : if (ipv4_mask->hdr.version_ihl ||
923 [ # # ]: 0 : ipv4_mask->hdr.total_length ||
924 [ # # ]: 0 : ipv4_mask->hdr.hdr_checksum) {
925 : 0 : rte_flow_error_set(error, EINVAL,
926 : : RTE_FLOW_ERROR_TYPE_ITEM,
927 : : item, "Invalid IPv4 mask.");
928 : 0 : return -rte_errno;
929 : : }
930 : :
931 [ # # ]: 0 : if (ipv4_last &&
932 [ # # ]: 0 : (ipv4_last->hdr.version_ihl ||
933 : 0 : ipv4_last->hdr.type_of_service ||
934 [ # # ]: 0 : ipv4_last->hdr.time_to_live ||
935 : 0 : ipv4_last->hdr.total_length |
936 [ # # ]: 0 : ipv4_last->hdr.next_proto_id ||
937 [ # # ]: 0 : ipv4_last->hdr.hdr_checksum ||
938 [ # # ]: 0 : ipv4_last->hdr.src_addr ||
939 [ # # ]: 0 : ipv4_last->hdr.dst_addr)) {
940 : 0 : rte_flow_error_set(error, EINVAL,
941 : : RTE_FLOW_ERROR_TYPE_ITEM,
942 : : item, "Invalid IPv4 last.");
943 : 0 : return -rte_errno;
944 : : }
945 : :
946 : : /* Mask for IPv4 src/dst addrs not supported */
947 [ # # ]: 0 : if (ipv4_mask->hdr.src_addr &&
948 : : ipv4_mask->hdr.src_addr != UINT32_MAX)
949 : 0 : return -rte_errno;
950 [ # # ]: 0 : if (ipv4_mask->hdr.dst_addr &&
951 : : ipv4_mask->hdr.dst_addr != UINT32_MAX)
952 : 0 : return -rte_errno;
953 : :
954 [ # # ]: 0 : if (ipv4_mask->hdr.type_of_service ==
955 : : UINT8_MAX) {
956 : 0 : input_set |= IAVF_INSET_IPV4_TOS;
957 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV4,
958 : : DSCP);
959 : : }
960 : :
961 [ # # ]: 0 : if (ipv4_mask->hdr.next_proto_id == UINT8_MAX) {
962 : 0 : input_set |= IAVF_INSET_IPV4_PROTO;
963 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV4,
964 : : PROT);
965 : : }
966 : :
967 [ # # ]: 0 : if (ipv4_mask->hdr.time_to_live == UINT8_MAX) {
968 : 0 : input_set |= IAVF_INSET_IPV4_TTL;
969 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV4,
970 : : TTL);
971 : : }
972 : :
973 [ # # ]: 0 : if (ipv4_mask->hdr.src_addr == UINT32_MAX) {
974 : 0 : input_set |= IAVF_INSET_IPV4_SRC;
975 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV4,
976 : : SRC);
977 : : }
978 : :
979 [ # # ]: 0 : if (ipv4_mask->hdr.dst_addr == UINT32_MAX) {
980 : 0 : input_set |= IAVF_INSET_IPV4_DST;
981 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV4,
982 : : DST);
983 : : }
984 : :
985 [ # # ]: 0 : if (tun_inner) {
986 : 0 : input_set &= ~IAVF_PROT_IPV4_OUTER;
987 : 0 : input_set |= IAVF_PROT_IPV4_INNER;
988 : : }
989 : :
990 [ # # ]: 0 : memcpy(hdr->buffer, &ipv4_spec->hdr,
991 : : sizeof(ipv4_spec->hdr));
992 : :
993 : 0 : hdrs->count = ++layer;
994 : :
995 : : /* fragment Ipv4:
996 : : * spec is 0x2000, mask is 0x2000
997 : : */
998 [ # # ]: 0 : if (ipv4_spec->hdr.fragment_offset ==
999 : 0 : rte_cpu_to_be_16(RTE_IPV4_HDR_MF_FLAG) &&
1000 [ # # ]: 0 : ipv4_mask->hdr.fragment_offset ==
1001 : : rte_cpu_to_be_16(RTE_IPV4_HDR_MF_FLAG)) {
1002 : : /* all IPv4 fragment packet has the same
1003 : : * ethertype, if the spec and mask is valid,
1004 : : * set ethertype into input set.
1005 : : */
1006 : 0 : input_set |= IAVF_INSET_ETHERTYPE;
1007 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr1, ETH,
1008 : : ETHERTYPE);
1009 : :
1010 : : /* add dummy header for IPv4 Fragment */
1011 : 0 : iavf_fdir_add_fragment_hdr(hdrs, layer);
1012 [ # # ]: 0 : } else if (ipv4_mask->hdr.packet_id == UINT16_MAX) {
1013 : 0 : rte_flow_error_set(error, EINVAL,
1014 : : RTE_FLOW_ERROR_TYPE_ITEM,
1015 : : item, "Invalid IPv4 mask.");
1016 : 0 : return -rte_errno;
1017 : : }
1018 : :
1019 : : break;
1020 : :
1021 : 0 : case RTE_FLOW_ITEM_TYPE_IPV6:
1022 : : l3 = RTE_FLOW_ITEM_TYPE_IPV6;
1023 : 0 : ipv6_spec = item->spec;
1024 : 0 : ipv6_mask = item->mask;
1025 : :
1026 : : hdr = &hdrs->proto_hdr[layer];
1027 : :
1028 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, IPV6);
1029 : :
1030 [ # # ]: 0 : if (!(ipv6_spec && ipv6_mask)) {
1031 : 0 : hdrs->count = ++layer;
1032 : 0 : break;
1033 : : }
1034 : :
1035 [ # # ]: 0 : if (ipv6_mask->hdr.payload_len) {
1036 : 0 : rte_flow_error_set(error, EINVAL,
1037 : : RTE_FLOW_ERROR_TYPE_ITEM,
1038 : : item, "Invalid IPv6 mask");
1039 : 0 : return -rte_errno;
1040 : : }
1041 : :
1042 [ # # ]: 0 : if ((ipv6_mask->hdr.vtc_flow &
1043 : : rte_cpu_to_be_32(IAVF_IPV6_TC_MASK))
1044 : : == rte_cpu_to_be_32(IAVF_IPV6_TC_MASK)) {
1045 : 0 : input_set |= IAVF_INSET_IPV6_TC;
1046 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV6,
1047 : : TC);
1048 : : }
1049 : :
1050 [ # # ]: 0 : if (ipv6_mask->hdr.proto == UINT8_MAX) {
1051 : 0 : input_set |= IAVF_INSET_IPV6_NEXT_HDR;
1052 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV6,
1053 : : PROT);
1054 : : }
1055 : :
1056 [ # # ]: 0 : if (ipv6_mask->hdr.hop_limits == UINT8_MAX) {
1057 : 0 : input_set |= IAVF_INSET_IPV6_HOP_LIMIT;
1058 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV6,
1059 : : HOP_LIMIT);
1060 : : }
1061 : :
1062 [ # # ]: 0 : if (!memcmp(&ipv6_mask->hdr.src_addr, ipv6_addr_mask,
1063 : : sizeof(ipv6_mask->hdr.src_addr))) {
1064 : 0 : input_set |= IAVF_INSET_IPV6_SRC;
1065 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV6,
1066 : : SRC);
1067 : : }
1068 [ # # ]: 0 : if (!memcmp(&ipv6_mask->hdr.dst_addr, ipv6_addr_mask,
1069 : : sizeof(ipv6_mask->hdr.dst_addr))) {
1070 : 0 : input_set |= IAVF_INSET_IPV6_DST;
1071 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV6,
1072 : : DST);
1073 : : }
1074 : :
1075 [ # # ]: 0 : if (tun_inner) {
1076 : 0 : input_set &= ~IAVF_PROT_IPV6_OUTER;
1077 : 0 : input_set |= IAVF_PROT_IPV6_INNER;
1078 : : }
1079 : :
1080 : 0 : memcpy(hdr->buffer, &ipv6_spec->hdr,
1081 : : sizeof(ipv6_spec->hdr));
1082 : :
1083 : 0 : hdrs->count = ++layer;
1084 : 0 : break;
1085 : :
1086 : 0 : case RTE_FLOW_ITEM_TYPE_IPV6_FRAG_EXT:
1087 : 0 : ipv6_frag_spec = item->spec;
1088 : 0 : ipv6_frag_mask = item->mask;
1089 : : next_type = (item + 1)->type;
1090 : :
1091 : : hdr = &hdrs->proto_hdr[layer];
1092 : :
1093 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, IPV6_EH_FRAG);
1094 : :
1095 [ # # ]: 0 : if (!(ipv6_frag_spec && ipv6_frag_mask)) {
1096 : 0 : hdrs->count = ++layer;
1097 : 0 : break;
1098 : : }
1099 : :
1100 : : /* fragment Ipv6:
1101 : : * spec is 0x1, mask is 0x1
1102 : : */
1103 [ # # ]: 0 : if (ipv6_frag_spec->hdr.frag_data ==
1104 : 0 : rte_cpu_to_be_16(1) &&
1105 [ # # ]: 0 : ipv6_frag_mask->hdr.frag_data ==
1106 : : rte_cpu_to_be_16(1)) {
1107 : : /* all IPv6 fragment packet has the same
1108 : : * ethertype, if the spec and mask is valid,
1109 : : * set ethertype into input set.
1110 : : */
1111 : 0 : input_set |= IAVF_INSET_ETHERTYPE;
1112 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr1, ETH,
1113 : : ETHERTYPE);
1114 : :
1115 : 0 : memcpy(hdr->buffer, &ipv6_frag_spec->hdr,
1116 : : sizeof(ipv6_frag_spec->hdr));
1117 [ # # ]: 0 : } else if (ipv6_frag_mask->hdr.id == UINT32_MAX) {
1118 : 0 : rte_flow_error_set(error, EINVAL,
1119 : : RTE_FLOW_ERROR_TYPE_ITEM,
1120 : : item, "Invalid IPv6 mask.");
1121 : 0 : return -rte_errno;
1122 : : }
1123 : :
1124 : 0 : hdrs->count = ++layer;
1125 : 0 : break;
1126 : :
1127 : 0 : case RTE_FLOW_ITEM_TYPE_UDP:
1128 : 0 : udp_spec = item->spec;
1129 : 0 : udp_mask = item->mask;
1130 : :
1131 : : hdr = &hdrs->proto_hdr[layer];
1132 : :
1133 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, UDP);
1134 : :
1135 [ # # ]: 0 : if (udp_spec && udp_mask) {
1136 [ # # ]: 0 : if (udp_mask->hdr.dgram_len ||
1137 [ # # ]: 0 : udp_mask->hdr.dgram_cksum) {
1138 : 0 : rte_flow_error_set(error, EINVAL,
1139 : : RTE_FLOW_ERROR_TYPE_ITEM, item,
1140 : : "Invalid UDP mask");
1141 : 0 : return -rte_errno;
1142 : : }
1143 : :
1144 : : /* Mask for UDP src/dst ports not supported */
1145 [ # # ]: 0 : if (udp_mask->hdr.src_port &&
1146 : : udp_mask->hdr.src_port != UINT16_MAX)
1147 : 0 : return -rte_errno;
1148 [ # # ]: 0 : if (udp_mask->hdr.dst_port &&
1149 : : udp_mask->hdr.dst_port != UINT16_MAX)
1150 : 0 : return -rte_errno;
1151 : :
1152 [ # # ]: 0 : if (udp_mask->hdr.src_port == UINT16_MAX) {
1153 : 0 : input_set |= IAVF_INSET_UDP_SRC_PORT;
1154 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, UDP, SRC_PORT);
1155 : : }
1156 [ # # ]: 0 : if (udp_mask->hdr.dst_port == UINT16_MAX) {
1157 : 0 : input_set |= IAVF_INSET_UDP_DST_PORT;
1158 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, UDP, DST_PORT);
1159 : : }
1160 : :
1161 [ # # ]: 0 : if (tun_inner) {
1162 : 0 : input_set &= ~IAVF_PROT_UDP_OUTER;
1163 : 0 : input_set |= IAVF_PROT_UDP_INNER;
1164 : : }
1165 : :
1166 [ # # ]: 0 : if (l3 == RTE_FLOW_ITEM_TYPE_IPV4)
1167 : 0 : memcpy(hdr->buffer,
1168 : 0 : &udp_spec->hdr,
1169 : : sizeof(udp_spec->hdr));
1170 [ # # ]: 0 : else if (l3 == RTE_FLOW_ITEM_TYPE_IPV6)
1171 : 0 : memcpy(hdr->buffer,
1172 : 0 : &udp_spec->hdr,
1173 : : sizeof(udp_spec->hdr));
1174 : : }
1175 : :
1176 : 0 : hdrs->count = ++layer;
1177 : 0 : break;
1178 : :
1179 : 0 : case RTE_FLOW_ITEM_TYPE_TCP:
1180 : 0 : tcp_spec = item->spec;
1181 : 0 : tcp_mask = item->mask;
1182 : :
1183 : : hdr = &hdrs->proto_hdr[layer];
1184 : :
1185 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, TCP);
1186 : :
1187 [ # # ]: 0 : if (tcp_spec && tcp_mask) {
1188 [ # # ]: 0 : if (tcp_mask->hdr.sent_seq ||
1189 [ # # ]: 0 : tcp_mask->hdr.recv_ack ||
1190 [ # # ]: 0 : tcp_mask->hdr.data_off ||
1191 [ # # ]: 0 : tcp_mask->hdr.tcp_flags ||
1192 [ # # ]: 0 : tcp_mask->hdr.rx_win ||
1193 [ # # ]: 0 : tcp_mask->hdr.cksum ||
1194 [ # # ]: 0 : tcp_mask->hdr.tcp_urp) {
1195 : 0 : rte_flow_error_set(error, EINVAL,
1196 : : RTE_FLOW_ERROR_TYPE_ITEM, item,
1197 : : "Invalid TCP mask");
1198 : 0 : return -rte_errno;
1199 : : }
1200 : :
1201 : : /* Mask for TCP src/dst ports not supported */
1202 [ # # ]: 0 : if (tcp_mask->hdr.src_port &&
1203 : : tcp_mask->hdr.src_port != UINT16_MAX)
1204 : 0 : return -rte_errno;
1205 [ # # ]: 0 : if (tcp_mask->hdr.dst_port &&
1206 : : tcp_mask->hdr.dst_port != UINT16_MAX)
1207 : 0 : return -rte_errno;
1208 : :
1209 [ # # ]: 0 : if (tcp_mask->hdr.src_port == UINT16_MAX) {
1210 : 0 : input_set |= IAVF_INSET_TCP_SRC_PORT;
1211 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, TCP, SRC_PORT);
1212 : : }
1213 [ # # ]: 0 : if (tcp_mask->hdr.dst_port == UINT16_MAX) {
1214 : 0 : input_set |= IAVF_INSET_TCP_DST_PORT;
1215 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, TCP, DST_PORT);
1216 : : }
1217 : :
1218 [ # # ]: 0 : if (tun_inner) {
1219 : 0 : input_set &= ~IAVF_PROT_TCP_OUTER;
1220 : 0 : input_set |= IAVF_PROT_TCP_INNER;
1221 : : }
1222 : :
1223 [ # # ]: 0 : if (l3 == RTE_FLOW_ITEM_TYPE_IPV4)
1224 : 0 : memcpy(hdr->buffer,
1225 : 0 : &tcp_spec->hdr,
1226 : : sizeof(tcp_spec->hdr));
1227 [ # # ]: 0 : else if (l3 == RTE_FLOW_ITEM_TYPE_IPV6)
1228 : 0 : memcpy(hdr->buffer,
1229 : 0 : &tcp_spec->hdr,
1230 : : sizeof(tcp_spec->hdr));
1231 : : }
1232 : :
1233 : 0 : hdrs->count = ++layer;
1234 : 0 : break;
1235 : :
1236 : 0 : case RTE_FLOW_ITEM_TYPE_SCTP:
1237 : 0 : sctp_spec = item->spec;
1238 : 0 : sctp_mask = item->mask;
1239 : :
1240 : : hdr = &hdrs->proto_hdr[layer];
1241 : :
1242 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, SCTP);
1243 : :
1244 [ # # ]: 0 : if (sctp_spec && sctp_mask) {
1245 [ # # ]: 0 : if (sctp_mask->hdr.cksum) {
1246 : 0 : rte_flow_error_set(error, EINVAL,
1247 : : RTE_FLOW_ERROR_TYPE_ITEM, item,
1248 : : "Invalid UDP mask");
1249 : 0 : return -rte_errno;
1250 : : }
1251 : :
1252 : : /* Mask for SCTP src/dst ports not supported */
1253 [ # # ]: 0 : if (sctp_mask->hdr.src_port &&
1254 : : sctp_mask->hdr.src_port != UINT16_MAX)
1255 : 0 : return -rte_errno;
1256 [ # # ]: 0 : if (sctp_mask->hdr.dst_port &&
1257 : : sctp_mask->hdr.dst_port != UINT16_MAX)
1258 : 0 : return -rte_errno;
1259 : :
1260 [ # # ]: 0 : if (sctp_mask->hdr.src_port == UINT16_MAX) {
1261 : 0 : input_set |= IAVF_INSET_SCTP_SRC_PORT;
1262 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, SCTP, SRC_PORT);
1263 : : }
1264 [ # # ]: 0 : if (sctp_mask->hdr.dst_port == UINT16_MAX) {
1265 : 0 : input_set |= IAVF_INSET_SCTP_DST_PORT;
1266 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, SCTP, DST_PORT);
1267 : : }
1268 : :
1269 [ # # ]: 0 : if (l3 == RTE_FLOW_ITEM_TYPE_IPV4)
1270 : 0 : memcpy(hdr->buffer,
1271 : 0 : &sctp_spec->hdr,
1272 : : sizeof(sctp_spec->hdr));
1273 [ # # ]: 0 : else if (l3 == RTE_FLOW_ITEM_TYPE_IPV6)
1274 : 0 : memcpy(hdr->buffer,
1275 : 0 : &sctp_spec->hdr,
1276 : : sizeof(sctp_spec->hdr));
1277 : : }
1278 : :
1279 : 0 : hdrs->count = ++layer;
1280 : 0 : break;
1281 : :
1282 : 0 : case RTE_FLOW_ITEM_TYPE_GTPU:
1283 : 0 : gtp_spec = item->spec;
1284 : 0 : gtp_mask = item->mask;
1285 : :
1286 : : hdr = &hdrs->proto_hdr[layer];
1287 : :
1288 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, GTPU_IP);
1289 : :
1290 [ # # ]: 0 : if (gtp_spec && gtp_mask) {
1291 : 0 : if (gtp_mask->hdr.gtp_hdr_info ||
1292 [ # # ]: 0 : gtp_mask->hdr.msg_type ||
1293 : : gtp_mask->hdr.plen) {
1294 : 0 : rte_flow_error_set(error, EINVAL,
1295 : : RTE_FLOW_ERROR_TYPE_ITEM,
1296 : : item, "Invalid GTP mask");
1297 : 0 : return -rte_errno;
1298 : : }
1299 : :
1300 [ # # ]: 0 : if (gtp_mask->hdr.teid == UINT32_MAX) {
1301 : 0 : input_set |= IAVF_INSET_GTPU_TEID;
1302 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, GTPU_IP, TEID);
1303 : : }
1304 : :
1305 : 0 : memcpy(hdr->buffer,
1306 : : gtp_spec, sizeof(*gtp_spec));
1307 : : }
1308 : :
1309 : : tun_inner = 1;
1310 : :
1311 : 0 : hdrs->count = ++layer;
1312 : 0 : break;
1313 : :
1314 : 0 : case RTE_FLOW_ITEM_TYPE_GTP_PSC:
1315 : 0 : gtp_psc_spec = item->spec;
1316 : 0 : gtp_psc_mask = item->mask;
1317 : :
1318 : : hdr = &hdrs->proto_hdr[layer];
1319 : :
1320 [ # # ]: 0 : if (!gtp_psc_spec)
1321 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, GTPU_EH);
1322 [ # # ]: 0 : else if ((gtp_psc_mask->hdr.qfi) &&
1323 [ # # ]: 0 : !(gtp_psc_mask->hdr.type))
1324 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, GTPU_EH);
1325 [ # # ]: 0 : else if (gtp_psc_spec->hdr.type == IAVF_GTPU_EH_UPLINK)
1326 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, GTPU_EH_PDU_UP);
1327 [ # # ]: 0 : else if (gtp_psc_spec->hdr.type == IAVF_GTPU_EH_DWLINK)
1328 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, GTPU_EH_PDU_DWN);
1329 : :
1330 [ # # ]: 0 : if (gtp_psc_spec && gtp_psc_mask) {
1331 [ # # ]: 0 : if (gtp_psc_mask->hdr.qfi == 0x3F) {
1332 : 0 : input_set |= IAVF_INSET_GTPU_QFI;
1333 [ # # ]: 0 : if (!gtp_psc_mask->hdr.type)
1334 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr,
1335 : : GTPU_EH, QFI);
1336 [ # # ]: 0 : else if (gtp_psc_spec->hdr.type ==
1337 : : IAVF_GTPU_EH_UPLINK)
1338 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr,
1339 : : GTPU_UP, QFI);
1340 [ # # ]: 0 : else if (gtp_psc_spec->hdr.type ==
1341 : : IAVF_GTPU_EH_DWLINK)
1342 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr,
1343 : : GTPU_DWN, QFI);
1344 : : }
1345 : :
1346 : : /*
1347 : : * New structure to fix gap between kernel driver and
1348 : : * rte_gtp_psc_generic_hdr.
1349 : : */
1350 : : struct iavf_gtp_psc_spec_hdr {
1351 : : uint8_t len;
1352 : : uint8_t qfi:6;
1353 : : uint8_t type:4;
1354 : : uint8_t next;
1355 : : } psc;
1356 : 0 : psc.len = gtp_psc_spec->hdr.ext_hdr_len;
1357 : 0 : psc.qfi = gtp_psc_spec->hdr.qfi;
1358 : 0 : psc.type = gtp_psc_spec->hdr.type;
1359 : 0 : psc.next = 0;
1360 : 0 : memcpy(hdr->buffer, &psc,
1361 : : sizeof(struct iavf_gtp_psc_spec_hdr));
1362 : : }
1363 : :
1364 : 0 : hdrs->count = ++layer;
1365 : 0 : break;
1366 : :
1367 : 0 : case RTE_FLOW_ITEM_TYPE_L2TPV3OIP:
1368 : 0 : l2tpv3oip_spec = item->spec;
1369 : 0 : l2tpv3oip_mask = item->mask;
1370 : :
1371 : : hdr = &hdrs->proto_hdr[layer];
1372 : :
1373 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, L2TPV3);
1374 : :
1375 [ # # ]: 0 : if (l2tpv3oip_spec && l2tpv3oip_mask) {
1376 [ # # ]: 0 : if (l2tpv3oip_mask->session_id == UINT32_MAX) {
1377 : 0 : input_set |= IAVF_L2TPV3OIP_SESSION_ID;
1378 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, L2TPV3, SESS_ID);
1379 : : }
1380 : :
1381 : 0 : memcpy(hdr->buffer, l2tpv3oip_spec,
1382 : : sizeof(*l2tpv3oip_spec));
1383 : : }
1384 : :
1385 : 0 : hdrs->count = ++layer;
1386 : 0 : break;
1387 : :
1388 : 0 : case RTE_FLOW_ITEM_TYPE_ESP:
1389 : 0 : esp_spec = item->spec;
1390 : 0 : esp_mask = item->mask;
1391 : :
1392 : : hdr = &hdrs->proto_hdr[layer];
1393 : :
1394 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, ESP);
1395 : :
1396 [ # # ]: 0 : if (esp_spec && esp_mask) {
1397 [ # # ]: 0 : if (esp_mask->hdr.spi == UINT32_MAX) {
1398 : 0 : input_set |= IAVF_INSET_ESP_SPI;
1399 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, ESP, SPI);
1400 : : }
1401 : :
1402 : 0 : memcpy(hdr->buffer, &esp_spec->hdr,
1403 : : sizeof(esp_spec->hdr));
1404 : : }
1405 : :
1406 : 0 : hdrs->count = ++layer;
1407 : 0 : break;
1408 : :
1409 : 0 : case RTE_FLOW_ITEM_TYPE_AH:
1410 : 0 : ah_spec = item->spec;
1411 : 0 : ah_mask = item->mask;
1412 : :
1413 : : hdr = &hdrs->proto_hdr[layer];
1414 : :
1415 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, AH);
1416 : :
1417 [ # # ]: 0 : if (ah_spec && ah_mask) {
1418 [ # # ]: 0 : if (ah_mask->spi == UINT32_MAX) {
1419 : 0 : input_set |= IAVF_INSET_AH_SPI;
1420 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, AH, SPI);
1421 : : }
1422 : :
1423 : 0 : memcpy(hdr->buffer, ah_spec,
1424 : : sizeof(*ah_spec));
1425 : : }
1426 : :
1427 : 0 : hdrs->count = ++layer;
1428 : 0 : break;
1429 : :
1430 : 0 : case RTE_FLOW_ITEM_TYPE_PFCP:
1431 : 0 : pfcp_spec = item->spec;
1432 : 0 : pfcp_mask = item->mask;
1433 : :
1434 : : hdr = &hdrs->proto_hdr[layer];
1435 : :
1436 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, PFCP);
1437 : :
1438 [ # # ]: 0 : if (pfcp_spec && pfcp_mask) {
1439 [ # # ]: 0 : if (pfcp_mask->s_field == UINT8_MAX) {
1440 : 0 : input_set |= IAVF_INSET_PFCP_S_FIELD;
1441 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, PFCP, S_FIELD);
1442 : : }
1443 : :
1444 : 0 : memcpy(hdr->buffer, pfcp_spec,
1445 : : sizeof(*pfcp_spec));
1446 : : }
1447 : :
1448 : 0 : hdrs->count = ++layer;
1449 : 0 : break;
1450 : :
1451 : 0 : case RTE_FLOW_ITEM_TYPE_ECPRI:
1452 : 0 : ecpri_spec = item->spec;
1453 : 0 : ecpri_mask = item->mask;
1454 : :
1455 [ # # ]: 0 : ecpri_common.u32 = rte_be_to_cpu_32(ecpri_spec->hdr.common.u32);
1456 : :
1457 : : hdr = &hdrs->proto_hdr[layer];
1458 : :
1459 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, ECPRI);
1460 : :
1461 [ # # ]: 0 : if (ecpri_spec && ecpri_mask) {
1462 [ # # ]: 0 : if (ecpri_common.type == RTE_ECPRI_MSG_TYPE_IQ_DATA &&
1463 [ # # ]: 0 : ecpri_mask->hdr.type0.pc_id == UINT16_MAX) {
1464 : 0 : input_set |= IAVF_ECPRI_PC_RTC_ID;
1465 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, ECPRI,
1466 : : PC_RTC_ID);
1467 : : }
1468 : :
1469 : 0 : memcpy(hdr->buffer, ecpri_spec,
1470 : : sizeof(*ecpri_spec));
1471 : : }
1472 : :
1473 : 0 : hdrs->count = ++layer;
1474 : 0 : break;
1475 : :
1476 : 0 : case RTE_FLOW_ITEM_TYPE_GRE:
1477 : 0 : gre_spec = item->spec;
1478 : 0 : gre_mask = item->mask;
1479 : :
1480 : : hdr = &hdrs->proto_hdr[layer];
1481 : :
1482 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, GRE);
1483 : :
1484 [ # # ]: 0 : if (gre_spec && gre_mask) {
1485 : 0 : memcpy(hdr->buffer, gre_spec,
1486 : : sizeof(*gre_spec));
1487 : : }
1488 : :
1489 : : tun_inner = 1;
1490 : :
1491 : 0 : hdrs->count = ++layer;
1492 : 0 : break;
1493 : :
1494 : 0 : case RTE_FLOW_ITEM_TYPE_L2TPV2:
1495 : 0 : l2tpv2_spec = item->spec;
1496 : 0 : l2tpv2_mask = item->mask;
1497 : :
1498 : : hdr = &hdrs->proto_hdr[layer];
1499 : :
1500 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, L2TPV2);
1501 : :
1502 [ # # ]: 0 : if (l2tpv2_spec && l2tpv2_mask) {
1503 : : flags_version =
1504 [ # # ]: 0 : rte_be_to_cpu_16(l2tpv2_spec->hdr.common.flags_version);
1505 [ # # ]: 0 : if ((flags_version == RTE_L2TPV2_MSG_TYPE_CONTROL &&
1506 [ # # # # ]: 0 : l2tpv2_mask->hdr.type3.session_id == UINT16_MAX) ||
1507 : 0 : (flags_version == RTE_L2TPV2_MSG_TYPE_DATA &&
1508 [ # # # # ]: 0 : l2tpv2_mask->hdr.type7.session_id == UINT16_MAX) ||
1509 : 0 : (flags_version == RTE_L2TPV2_MSG_TYPE_DATA_L &&
1510 [ # # # # ]: 0 : l2tpv2_mask->hdr.type6.session_id == UINT16_MAX) ||
1511 : 0 : (flags_version == RTE_L2TPV2_MSG_TYPE_DATA_S &&
1512 [ # # # # ]: 0 : l2tpv2_mask->hdr.type5.session_id == UINT16_MAX) ||
1513 : 0 : (flags_version == RTE_L2TPV2_MSG_TYPE_DATA_O &&
1514 [ # # # # ]: 0 : l2tpv2_mask->hdr.type4.session_id == UINT16_MAX) ||
1515 : 0 : (flags_version == RTE_L2TPV2_MSG_TYPE_DATA_L_S &&
1516 [ # # # # ]: 0 : l2tpv2_mask->hdr.type3.session_id == UINT16_MAX) ||
1517 : 0 : (flags_version == RTE_L2TPV2_MSG_TYPE_DATA_L_O &&
1518 [ # # # # ]: 0 : l2tpv2_mask->hdr.type2.session_id == UINT16_MAX) ||
1519 : 0 : (flags_version == RTE_L2TPV2_MSG_TYPE_DATA_S_O &&
1520 [ # # # # ]: 0 : l2tpv2_mask->hdr.type1.session_id == UINT16_MAX) ||
1521 : 0 : (flags_version == RTE_L2TPV2_MSG_TYPE_DATA_L_S_O &&
1522 [ # # ]: 0 : l2tpv2_mask->hdr.type0.session_id == UINT16_MAX)) {
1523 : 0 : input_set |= IAVF_L2TPV2_SESSION_ID;
1524 [ # # ]: 0 : if (flags_version & IAVF_L2TPV2_FLAGS_LEN)
1525 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr,
1526 : : L2TPV2,
1527 : : LEN_SESS_ID);
1528 : : else
1529 : 0 : VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr,
1530 : : L2TPV2,
1531 : : SESS_ID);
1532 : : }
1533 : :
1534 : 0 : memcpy(hdr->buffer, l2tpv2_spec,
1535 : : sizeof(*l2tpv2_spec));
1536 : : }
1537 : :
1538 : : tun_inner = 1;
1539 : :
1540 : 0 : hdrs->count = ++layer;
1541 : 0 : break;
1542 : :
1543 : 0 : case RTE_FLOW_ITEM_TYPE_PPP:
1544 : 0 : ppp_spec = item->spec;
1545 : 0 : ppp_mask = item->mask;
1546 : :
1547 : : hdr = &hdrs->proto_hdr[layer];
1548 : :
1549 : 0 : VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, PPP);
1550 : :
1551 [ # # ]: 0 : if (ppp_spec && ppp_mask) {
1552 : 0 : memcpy(hdr->buffer, ppp_spec,
1553 : : sizeof(*ppp_spec));
1554 : : }
1555 : :
1556 : 0 : hdrs->count = ++layer;
1557 : 0 : break;
1558 : :
1559 : : case RTE_FLOW_ITEM_TYPE_VOID:
1560 : : break;
1561 : :
1562 : 0 : default:
1563 : 0 : rte_flow_error_set(error, EINVAL,
1564 : : RTE_FLOW_ERROR_TYPE_ITEM, item,
1565 : : "Invalid pattern item.");
1566 : 0 : return -rte_errno;
1567 : : }
1568 : : }
1569 : :
1570 [ # # ]: 0 : if (layer > VIRTCHNL_MAX_NUM_PROTO_HDRS) {
1571 : 0 : rte_flow_error_set(error, EINVAL,
1572 : : RTE_FLOW_ERROR_TYPE_ITEM, item,
1573 : : "Protocol header layers exceed the maximum value");
1574 : 0 : return -rte_errno;
1575 : : }
1576 : :
1577 [ # # ]: 0 : if (!iavf_fdir_refine_input_set(input_set,
1578 : 0 : input_set_mask | IAVF_INSET_ETHERTYPE,
1579 : : filter)) {
1580 : 0 : rte_flow_error_set(error, EINVAL,
1581 : : RTE_FLOW_ERROR_TYPE_ITEM_SPEC, pattern,
1582 : : "Invalid input set");
1583 : 0 : return -rte_errno;
1584 : : }
1585 : :
1586 : 0 : filter->input_set = input_set;
1587 : :
1588 : 0 : return 0;
1589 : : }
1590 : :
1591 : : static int
1592 : 0 : iavf_fdir_parse(struct iavf_adapter *ad,
1593 : : struct iavf_pattern_match_item *array,
1594 : : uint32_t array_len,
1595 : : const struct rte_flow_item pattern[],
1596 : : const struct rte_flow_action actions[],
1597 : : uint32_t priority,
1598 : : void **meta,
1599 : : struct rte_flow_error *error)
1600 : : {
1601 : : struct iavf_info *vf = IAVF_DEV_PRIVATE_TO_VF(ad);
1602 [ # # ]: 0 : struct iavf_fdir_conf *filter = &vf->fdir.conf;
1603 : : struct iavf_pattern_match_item *item = NULL;
1604 : : int ret;
1605 : :
1606 : : memset(filter, 0, sizeof(*filter));
1607 : :
1608 [ # # ]: 0 : if (priority >= 1)
1609 : 0 : return -rte_errno;
1610 : :
1611 : 0 : item = iavf_search_pattern_match_item(pattern, array, array_len, error);
1612 [ # # ]: 0 : if (!item)
1613 : 0 : return -rte_errno;
1614 : :
1615 : 0 : ret = iavf_fdir_parse_pattern(ad, pattern, item->input_set_mask,
1616 : : error, filter);
1617 [ # # ]: 0 : if (ret)
1618 : 0 : goto error;
1619 : :
1620 : 0 : ret = iavf_fdir_parse_action(ad, actions, error, filter);
1621 [ # # ]: 0 : if (ret)
1622 : 0 : goto error;
1623 : :
1624 [ # # ]: 0 : if (meta)
1625 : 0 : *meta = filter;
1626 : :
1627 : 0 : error:
1628 : 0 : rte_free(item);
1629 : 0 : return ret;
1630 : : }
1631 : :
1632 : : static struct iavf_flow_parser iavf_fdir_parser = {
1633 : : .engine = &iavf_fdir_engine,
1634 : : .array = iavf_fdir_pattern,
1635 : : .array_len = RTE_DIM(iavf_fdir_pattern),
1636 : : .parse_pattern_action = iavf_fdir_parse,
1637 : : };
1638 : :
1639 : 286 : RTE_INIT(iavf_fdir_engine_register)
1640 : : {
1641 : 286 : iavf_register_flow_engine(&iavf_fdir_engine);
1642 : 286 : }
|
