In 2021 hebben we een project gelanceerd om de BNIX-infrastructuur te vervangen. Deze beslissing werd ingegeven door een aantal factoren. Ten eerste is het vanzelfsprekend dat hardware op een gegeven moment het einde van zijn levensduur bereikt. Maar we hebben die kans aangegrepen om meer te doen dan een eenvoudige copy-paste met nieuwe switches.
We wilden een flexibel, schaalbaar en eenvoudig te beheren platform creëren. Bovendien was er nood aan een update van de diensten; dit gaf aanleiding tot de ontwikkeling van een nieuw portaal, gebaseerd op IXP Manager.
De nieuwe switches
Momenteel bestaat het BNIX-platform uit Pure Layer 2-toestellen en is de configuratie opgezet als een eenvoudig broadcastdomein met twee VLAN's: het peering VLAN en het Quarantine VLAN. Het is eenvoudig en doeltreffend, maar komt niet overeen met de moderne standaard die bij andere Internet Exchanges wordt gebruikt.
Eerst hebben we besloten om verder te gaan met EVPN en VXLAN als het overlaynetwerk om de broadcastdomeinen op te zetten. Dit betekent dat de verbinding tussen de verschillende switches niet langer een trunk is, maar een gerouteerde poort. Dit vermindert de Layer 2-problemen aanzienlijk (loops en broadcast storms, iemand?). Een ander groot voordeel is het feit dat men zich geen zorgen hoeft te maken over een Layer 2-redundantieprotocol of loops bij het uitrollen en uitbreiden van het platform. De redundantie wordt gewaarborgd door een IP-onderlaag zoals OSPF, ISIS of BGP.
Er is voor OSPF als underlaynetwerk gekozen. Dit zal ervoor zorgen dat alle switches in het netwerk de route naar elkaars loopback-adres zullen leren. Deze loopbacks zullen dan gebruikt worden om te fungeren als bron- en bestemmings-IP voor een volledig vermaasde iBGP. Het is de BGP-signalering die ervoor zal zorgen dat we over het hele platform een EVPN-instantie hebben.
We zullen niet langer met grote switches werken om aan de vraag van onze peering community te voldoen. In plaats daarvan zullen we verschillende 1RU-switches stapelen in een EVPN-instantie Er kunnen snel nieuwe toestellen worden toegevoegd en de architectuur geeft ons het voordeel schaalbaar te zijn en gemakkelijk uitbreidbaar naar andere locaties.
Op dit moment hebben we het ontwerp getest met Juniper QFX5120 32c- en 48Y-switches. Dankzij deze technologie kunnen we een hybride architectuur opzetten. Aangezien EVPN/VXLAN leveranciersonafhankelijk is, is een uitbreiding van het BNIX-platform met andere routers of switches mogelijk.
Om redundantie te garanderen voor een klant die verbonden is met een LAGG, wordt multi-chassis lagging ondersteund via EVPN. De meervoudige poorten zullen op verschillende chassis worden aangesloten, maar voor de klant is dit volledig transparant.
Op dit moment hebben we te maken met een enorme vertraging in de levering, waardoor het onmogelijk is om een migratiedatum voorop te stellen. De wereldwijde toeleveringsketen is (zoals jullie waarschijnlijk allemaal weten) een puinhoop. We hebben de hardware in juni besteld, maar de levering is gepland voor april 2022.