Branch data Line data Source code
1 : : /* SPDX-License-Identifier: BSD-3-Clause
2 : : * Copyright(c) 2018 Vladimir Medvedkin <medvedkinv@gmail.com>
3 : : * Copyright(c) 2019 Intel Corporation
4 : : */
5 : :
6 : : #include <stdint.h>
7 : : #include <string.h>
8 : : #include <sys/queue.h>
9 : :
10 : : #include <eal_export.h>
11 : : #include <rte_eal_memconfig.h>
12 : : #include <rte_errno.h>
13 : : #include <rte_malloc.h>
14 : : #include <rte_string_fns.h>
15 : : #include <rte_tailq.h>
16 : :
17 : : #include <rte_rib.h>
18 : : #include <rte_fib.h>
19 : :
20 : : #include "dir24_8.h"
21 : : #include "fib_log.h"
22 : :
23 [ - + ]: 252 : RTE_LOG_REGISTER_DEFAULT(fib_logtype, INFO);
24 : :
25 : : TAILQ_HEAD(rte_fib_list, rte_tailq_entry);
26 : : static struct rte_tailq_elem rte_fib_tailq = {
27 : : .name = "RTE_FIB",
28 : : };
29 [ - + ]: 252 : EAL_REGISTER_TAILQ(rte_fib_tailq)
30 : :
31 : : /* Maximum length of a FIB name. */
32 : : #define RTE_FIB_NAMESIZE 64
33 : :
34 : : #if defined(RTE_LIBRTE_FIB_DEBUG)
35 : : #define FIB_RETURN_IF_TRUE(cond, retval) do { \
36 : : if (cond) \
37 : : return retval; \
38 : : } while (0)
39 : : #else
40 : : #define FIB_RETURN_IF_TRUE(cond, retval)
41 : : #endif
42 : :
43 : : struct rte_fib {
44 : : char name[RTE_FIB_NAMESIZE];
45 : : enum rte_fib_type type; /**< Type of FIB struct */
46 : : unsigned int flags; /**< Flags */
47 : : struct rte_rib *rib; /**< RIB helper datastructure */
48 : : void *dp; /**< pointer to the dataplane struct*/
49 : : rte_fib_lookup_fn_t lookup; /**< FIB lookup function */
50 : : rte_fib_modify_fn_t modify; /**< modify FIB datastructure */
51 : : uint64_t def_nh;
52 : : };
53 : :
54 : : static void
55 : 258 : dummy_lookup(void *fib_p, const uint32_t *ips, uint64_t *next_hops,
56 : : const unsigned int n)
57 : : {
58 : : unsigned int i;
59 : : struct rte_fib *fib = fib_p;
60 : : struct rte_rib_node *node;
61 : :
62 [ + + ]: 4515 : for (i = 0; i < n; i++) {
63 : 4257 : node = rte_rib_lookup(fib->rib, ips[i]);
64 [ + + ]: 4257 : if (node != NULL)
65 : 3040 : rte_rib_get_nh(node, &next_hops[i]);
66 : : else
67 : 1217 : next_hops[i] = fib->def_nh;
68 : : }
69 : 258 : }
70 : :
71 : : static int
72 : 128 : dummy_modify(struct rte_fib *fib, uint32_t ip, uint8_t depth,
73 : : uint64_t next_hop, int op)
74 : : {
75 : : struct rte_rib_node *node;
76 [ + - ]: 128 : if ((fib == NULL) || (depth > RTE_FIB_MAXDEPTH))
77 : : return -EINVAL;
78 : :
79 : 128 : node = rte_rib_lookup_exact(fib->rib, ip, depth);
80 : :
81 [ + + - ]: 128 : switch (op) {
82 : 64 : case RTE_FIB_ADD:
83 [ + - ]: 64 : if (node == NULL)
84 : 64 : node = rte_rib_insert(fib->rib, ip, depth);
85 [ - + ]: 64 : if (node == NULL)
86 : 0 : return -rte_errno;
87 : 64 : return rte_rib_set_nh(node, next_hop);
88 : 64 : case RTE_FIB_DEL:
89 [ + - ]: 64 : if (node == NULL)
90 : : return -ENOENT;
91 : 64 : rte_rib_remove(fib->rib, ip, depth);
92 : 64 : return 0;
93 : : }
94 : : return -EINVAL;
95 : : }
96 : :
97 : : static int
98 [ + + - ]: 12 : init_dataplane(struct rte_fib *fib, __rte_unused int socket_id,
99 : : struct rte_fib_conf *conf)
100 : : {
101 : : char dp_name[sizeof(void *)];
102 : :
103 : : snprintf(dp_name, sizeof(dp_name), "%p", fib);
104 [ + + - ]: 12 : switch (conf->type) {
105 : 4 : case RTE_FIB_DUMMY:
106 : 4 : fib->dp = fib;
107 : 4 : fib->lookup = dummy_lookup;
108 : 4 : fib->modify = dummy_modify;
109 : 4 : return 0;
110 : 8 : case RTE_FIB_DIR24_8:
111 : 8 : fib->dp = dir24_8_create(dp_name, socket_id, conf);
112 [ + + ]: 8 : if (fib->dp == NULL)
113 : 2 : return -rte_errno;
114 : 12 : fib->lookup = dir24_8_get_lookup_fn(fib->dp,
115 : 6 : RTE_FIB_LOOKUP_DEFAULT, !!(fib->flags & RTE_FIB_F_LOOKUP_NETWORK_ORDER));
116 : 6 : fib->modify = dir24_8_modify;
117 : 6 : return 0;
118 : : default:
119 : : return -EINVAL;
120 : : }
121 : : return 0;
122 : : }
123 : :
124 : : RTE_EXPORT_SYMBOL(rte_fib_add)
125 : : int
126 : 835 : rte_fib_add(struct rte_fib *fib, uint32_t ip, uint8_t depth, uint64_t next_hop)
127 : : {
128 [ + + + - : 835 : if ((fib == NULL) || (fib->modify == NULL) ||
+ + ]
129 : : (depth > RTE_FIB_MAXDEPTH))
130 : : return -EINVAL;
131 : 833 : return fib->modify(fib, ip, depth, next_hop, RTE_FIB_ADD);
132 : : }
133 : :
134 : : RTE_EXPORT_SYMBOL(rte_fib_delete)
135 : : int
136 : 834 : rte_fib_delete(struct rte_fib *fib, uint32_t ip, uint8_t depth)
137 : : {
138 [ + + + - : 834 : if ((fib == NULL) || (fib->modify == NULL) ||
+ + ]
139 : : (depth > RTE_FIB_MAXDEPTH))
140 : : return -EINVAL;
141 : 832 : return fib->modify(fib, ip, depth, 0, RTE_FIB_DEL);
142 : : }
143 : :
144 : : RTE_EXPORT_SYMBOL(rte_fib_lookup_bulk)
145 : : int
146 : 528650 : rte_fib_lookup_bulk(struct rte_fib *fib, uint32_t *ips,
147 : : uint64_t *next_hops, int n)
148 : : {
149 : : FIB_RETURN_IF_TRUE(((fib == NULL) || (ips == NULL) ||
150 : : (next_hops == NULL) || (fib->lookup == NULL)), -EINVAL);
151 : :
152 : 528650 : fib->lookup(fib->dp, ips, next_hops, n);
153 : 528650 : return 0;
154 : : }
155 : :
156 : : RTE_EXPORT_SYMBOL(rte_fib_create)
157 : : struct rte_fib *
158 : 17 : rte_fib_create(const char *name, int socket_id, struct rte_fib_conf *conf)
159 : : {
160 : : char mem_name[RTE_FIB_NAMESIZE];
161 : : int ret;
162 : : struct rte_fib *fib = NULL;
163 : : struct rte_rib *rib = NULL;
164 : : struct rte_tailq_entry *te;
165 : : struct rte_fib_list *fib_list;
166 : : struct rte_rib_conf rib_conf;
167 : :
168 : : /* Check user arguments. */
169 [ + + + - ]: 17 : if ((name == NULL) || (conf == NULL) || (conf->max_routes < 0) ||
170 [ + - ]: 15 : (conf->flags & ~RTE_FIB_ALLOWED_FLAGS) ||
171 [ + + ]: 15 : (conf->type > RTE_FIB_DIR24_8)) {
172 : 3 : rte_errno = EINVAL;
173 : 3 : return NULL;
174 : : }
175 : :
176 : 14 : rib_conf.ext_sz = conf->rib_ext_sz;
177 : 14 : rib_conf.max_nodes = conf->max_routes * 2;
178 : :
179 : 14 : rib = rte_rib_create(name, socket_id, &rib_conf);
180 [ + + ]: 14 : if (rib == NULL) {
181 : 2 : FIB_LOG(ERR,
182 : : "Can not allocate RIB %s", name);
183 : 2 : return NULL;
184 : : }
185 : :
186 : : snprintf(mem_name, sizeof(mem_name), "FIB_%s", name);
187 : 12 : fib_list = RTE_TAILQ_CAST(rte_fib_tailq.head, rte_fib_list);
188 : :
189 : 12 : rte_mcfg_tailq_write_lock();
190 : :
191 : : /* guarantee there's no existing */
192 [ - + ]: 12 : TAILQ_FOREACH(te, fib_list, next) {
193 : 0 : fib = (struct rte_fib *)te->data;
194 [ # # ]: 0 : if (strncmp(name, fib->name, RTE_FIB_NAMESIZE) == 0)
195 : : break;
196 : : }
197 : : fib = NULL;
198 [ - + ]: 12 : if (te != NULL) {
199 : 0 : rte_errno = EEXIST;
200 : 0 : goto exit;
201 : : }
202 : :
203 : : /* allocate tailq entry */
204 : 12 : te = rte_zmalloc("FIB_TAILQ_ENTRY", sizeof(*te), 0);
205 [ - + ]: 12 : if (te == NULL) {
206 : 0 : FIB_LOG(ERR,
207 : : "Can not allocate tailq entry for FIB %s", name);
208 : 0 : rte_errno = ENOMEM;
209 : 0 : goto exit;
210 : : }
211 : :
212 : : /* Allocate memory to store the FIB data structures. */
213 : 12 : fib = rte_zmalloc_socket(mem_name,
214 : : sizeof(struct rte_fib), RTE_CACHE_LINE_SIZE, socket_id);
215 [ - + ]: 12 : if (fib == NULL) {
216 : 0 : FIB_LOG(ERR, "FIB %s memory allocation failed", name);
217 : 0 : rte_errno = ENOMEM;
218 : 0 : goto free_te;
219 : : }
220 : :
221 : 12 : rte_strlcpy(fib->name, name, sizeof(fib->name));
222 : 12 : fib->rib = rib;
223 : 12 : fib->type = conf->type;
224 : 12 : fib->flags = conf->flags;
225 : 12 : fib->def_nh = conf->default_nh;
226 : 12 : ret = init_dataplane(fib, socket_id, conf);
227 [ + + ]: 12 : if (ret < 0) {
228 : 2 : FIB_LOG(ERR,
229 : : "FIB dataplane struct %s memory allocation failed "
230 : : "with err %d", name, ret);
231 : 2 : rte_errno = -ret;
232 : 2 : goto free_fib;
233 : : }
234 : :
235 : 10 : te->data = (void *)fib;
236 : 10 : TAILQ_INSERT_TAIL(fib_list, te, next);
237 : :
238 : 10 : rte_mcfg_tailq_write_unlock();
239 : :
240 : 10 : return fib;
241 : :
242 : : free_fib:
243 : 2 : rte_free(fib);
244 : 2 : free_te:
245 : 2 : rte_free(te);
246 : 2 : exit:
247 : 2 : rte_mcfg_tailq_write_unlock();
248 : 2 : rte_rib_free(rib);
249 : :
250 : 2 : return NULL;
251 : : }
252 : :
253 : : RTE_EXPORT_SYMBOL(rte_fib_find_existing)
254 : : struct rte_fib *
255 : 0 : rte_fib_find_existing(const char *name)
256 : : {
257 : : struct rte_fib *fib = NULL;
258 : : struct rte_tailq_entry *te;
259 : : struct rte_fib_list *fib_list;
260 : :
261 : 0 : fib_list = RTE_TAILQ_CAST(rte_fib_tailq.head, rte_fib_list);
262 : :
263 : 0 : rte_mcfg_tailq_read_lock();
264 [ # # ]: 0 : TAILQ_FOREACH(te, fib_list, next) {
265 : 0 : fib = (struct rte_fib *) te->data;
266 [ # # ]: 0 : if (strncmp(name, fib->name, RTE_FIB_NAMESIZE) == 0)
267 : : break;
268 : : }
269 : 0 : rte_mcfg_tailq_read_unlock();
270 : :
271 [ # # ]: 0 : if (te == NULL) {
272 : 0 : rte_errno = ENOENT;
273 : 0 : return NULL;
274 : : }
275 : :
276 : : return fib;
277 : : }
278 : :
279 : : static void
280 : : free_dataplane(struct rte_fib *fib)
281 : : {
282 [ + + ]: 10 : switch (fib->type) {
283 : : case RTE_FIB_DUMMY:
284 : : return;
285 : 6 : case RTE_FIB_DIR24_8:
286 : 6 : dir24_8_free(fib->dp);
287 : : default:
288 : : return;
289 : : }
290 : : }
291 : :
292 : : RTE_EXPORT_SYMBOL(rte_fib_free)
293 : : void
294 : 11 : rte_fib_free(struct rte_fib *fib)
295 : : {
296 : : struct rte_tailq_entry *te;
297 : : struct rte_fib_list *fib_list;
298 : :
299 [ + + ]: 11 : if (fib == NULL)
300 : : return;
301 : :
302 : 10 : fib_list = RTE_TAILQ_CAST(rte_fib_tailq.head, rte_fib_list);
303 : :
304 : 10 : rte_mcfg_tailq_write_lock();
305 : :
306 : : /* find our tailq entry */
307 [ + - ]: 10 : TAILQ_FOREACH(te, fib_list, next) {
308 [ - + ]: 10 : if (te->data == (void *)fib)
309 : : break;
310 : : }
311 [ + - ]: 10 : if (te != NULL)
312 [ - + ]: 10 : TAILQ_REMOVE(fib_list, te, next);
313 : :
314 : 10 : rte_mcfg_tailq_write_unlock();
315 : :
316 : : free_dataplane(fib);
317 : 10 : rte_rib_free(fib->rib);
318 : 10 : rte_free(fib);
319 : 10 : rte_free(te);
320 : : }
321 : :
322 : : RTE_EXPORT_SYMBOL(rte_fib_get_dp)
323 : : void *
324 : 1538 : rte_fib_get_dp(struct rte_fib *fib)
325 : : {
326 [ + + ]: 1538 : return (fib == NULL) ? NULL : fib->dp;
327 : : }
328 : :
329 : : RTE_EXPORT_SYMBOL(rte_fib_get_rib)
330 : : struct rte_rib *
331 : 1538 : rte_fib_get_rib(struct rte_fib *fib)
332 : : {
333 [ + + ]: 1538 : return (fib == NULL) ? NULL : fib->rib;
334 : : }
335 : :
336 : : RTE_EXPORT_SYMBOL(rte_fib_select_lookup)
337 : : int
338 : 0 : rte_fib_select_lookup(struct rte_fib *fib,
339 : : enum rte_fib_lookup_type type)
340 : : {
341 : : rte_fib_lookup_fn_t fn;
342 : :
343 [ # # ]: 0 : switch (fib->type) {
344 : 0 : case RTE_FIB_DIR24_8:
345 : 0 : fn = dir24_8_get_lookup_fn(fib->dp, type,
346 : 0 : !!(fib->flags & RTE_FIB_F_LOOKUP_NETWORK_ORDER));
347 [ # # ]: 0 : if (fn == NULL)
348 : : return -EINVAL;
349 : 0 : fib->lookup = fn;
350 : 0 : return 0;
351 : : default:
352 : : return -EINVAL;
353 : : }
354 : : }
355 : :
356 : : RTE_EXPORT_EXPERIMENTAL_SYMBOL(rte_fib_rcu_qsbr_add, 24.11)
357 : : int
358 : 7 : rte_fib_rcu_qsbr_add(struct rte_fib *fib, struct rte_fib_rcu_config *cfg)
359 : : {
360 [ + + ]: 7 : if (fib == NULL)
361 : : return -EINVAL;
362 : :
363 [ + + ]: 6 : switch (fib->type) {
364 : 5 : case RTE_FIB_DIR24_8:
365 : 5 : return dir24_8_rcu_qsbr_add(fib->dp, cfg, fib->name);
366 : : default:
367 : : return -ENOTSUP;
368 : : }
369 : : }
|