Enfabrica vient muscler les clusters IA avec son switch CXL 2.0
Avec son switch CXL 2.0 spécifiquement conçu pour accélérer les traitements dans les clusters dédiés à l'IA, Enfabrica vient concurrencer des stars-ups comme Liqid et Unifrabix sur un marché fort prometteur : l'informatique désagrégée.
Sortie du mode furtif il y a peu, la start-up californienne Enfabrica a dévoilé une plateforme baptisée Accelerated Compute Fabric Switch (ACF-S), pour accélérer la circulation des flux de données dans les serveurs dédiés au calcul intensif et à l'IA. Selon cette jeune pousse, ce circuit, spécifiquement conçut pour l'IA, l'apprentissage machine, le HPC et les bases de données en mémoire, améliorent l'évolutivité, les performances et le coût total de possession dans les datacenters. Fondée en 2020 par des ingénieurs de Broadcom, Google, Cisco, AWS et Intel avec le soutien de Sutter Hill Ventures, Enfabrica est dirigé par Rochan Sankar (CEO et cofondateur de la start-up avec Shrijeet Mukherjee).
Sur le même sujetDes accélérateurs IPU pour doper les traitements IANvidiai vante les performances MLPerf de son accélérateur H100Sur le blog d'Enfabrica, ce dernier explique que « les solutions actuelles d'E/S et de mise en réseau des serveurs présentent de sérieux goulets d'étranglement qui les feront plier face à l'ampleur de la demande, ou sous-utiliseront largement les ressources de calcul coûteuses déployées pour y répondre. Nous pensons avoir trouvé la solution pour concevoir une structure d'E/S qui permettra d'adapter les charges de travail d'IA à haute performance et à faible latence ». Enfabrica suggère que l'inférence des grands modèles de langage (LLM) pourrait utiliser la moitié du nombre de GPU.
Une date de sortie qui se fait encore attendre
Le premier silicium d'Enfabrica, l'Accelerated Compute Fabric Switch (ACF-S), développée par l'entreprise depuis 2020, utilise le protocole CXL 2.0 associé à une interface réseau 800 Gigabits. La jeune pousse affirme qu'avec ses boîtiers ACF-S, le flux de données entre les GPU, les CPU, les accélérateurs, la mémoire (DDR et HBM) et les cartes réseau (Ethernet et Infiniband) est évolutif, continu et peut atteindre plusieurs térabits par seconde. Toujours selon la société, son switch CXL supprime les niveaux de latence et optimise les goulets d'étranglement dans les commutateurs réseau Top-of-Rack, les serveurs NIC, les commutateurs PCIe et la DRAM contrôlée par le CPU. Comme les très prometteurs Liquid et Unifrabix,
Enfabrica propose avec ACF-S une approche désagrégée via Compute Express Link 2.0, le protocole à haute vitesse et faible latence pour le partage des composants (RAM, GPU, DPU et Flash) entre serveurs hautes performances. Enfabrica n'a pas encore fixé de date de sortie, mais la start-up indique qu'elle sera en mesure de fournir cette information prochainement.