Scality annonce la disponibilité de Scality AI Inference Factory, une stack logicielle permettant de déployer et d’exploiter l’inférence IA sur une infrastructure détenue par l’entreprise. La solution offre aux entreprises, aux administrations et aux fournisseurs neo cloud une alternative aux services supportés dans dans des clouds IA existants, sans avoir à assembler, intégrer et maintenir eux-mêmes l’ensemble de la stack logicielle. Scality AI Inference Factory réunit des modèles open-weight validés, une couche de service d’inférence désagrégée, un niveau de contrôle qui assure l’authentification, la supervision, le routage et l’ordonnancement, ainsi que Scality AI Data Infrastructure (ADI), qui s’appuie sur des opérations autonomes selon des process précis pour gérer des volumes de données massifs tout au long du cycle de vie de la donnée. Scality valide, livre et maintient l’ensemble de la stack intégrée sous forme de solution supportée.

« Avec l’arrivée de l’IA dans des environnements de production critiques, les organisations ont besoin de mieux maîtriser l’endroit où s’exécute l’inférence, la manière dont leurs modèles sont gérés et ce qu’il advient de leurs données” déclare Jérôme Lecat, CEO de Scality. “Depuis 15 ans, Scality conçoit des infrastructures de données sur lesquelles des milliers de clients dans le monde s’appuient pour fonctionner 24h/24, 7j/7. Scality AI Inference Factory met cette expérience au service de l’IA sur site, en offrant aux organisations la fiabilité et la souveraineté dont elles ont besoin pour exécuter leurs tâches d’IA critiques selon leurs propres conditions. »

Scality AI Inference Factory est conçue pour les organisations qui souhaitent exécuter leurs workloads d’IA critiques sur une infrastructure qu’elles contrôlent, tout en conservant leur liberté de choix en matière de modèles, de matériel et de logiciels. La stack prend en charge les chatbots spécialisés, le développement logiciel assisté par l’IA, les applications basées sur des agents IA et d’autres workloads à forte intensité d’inférence.

Scality AI Inference Factory associe :

●        des modèles open-weight validés, maintenus dans le cadre de la stack supportée ;

●        un service d’inférence désagrégé, qui sépare le prefill du decode afin que chacun puisse évoluer indépendamment ;

●        un niveau de contrôle qui authentifie et comptabilise les requêtes, les achemine vers les GPU qui détiennent déjà le contexte pertinent et répartit les workloads en fonction des objectifs de SLA;

●        Scality ADI, qui fournit un stockage objet haute performance pour les poids des modèles, les données de l’entreprise et le contexte de l’inférence.

Scality ADI étend l’inférence IA au-delà des limites de la mémoire GPU

Scality ADI constitue la couche de stockage partagée de Scality AI Inference Factory et étend le cache clé-valeur (KV cache) au-delà de la mémoire à haute bande passante (HBM), dont la capacité est limitée sur les GPU. L’infrastructure d’inférence peut ainsi stocker et récupérer les poids des modèles et le contexte des sessions plus précisément le contexte des modèles au lieu d’obliger les GPU à le recalculer, ce qui améliore l’utilisation des GPU et réduit les coûts d’inférence.

C’est particulièrement important pour les modèles de raisonnement et les workloads agentiques, pour lesquels le KV cache peut rapidement dépasser la mémoire GPU disponible. Scality ADI fournit un cache partagé de plusieurs pétaoctets que les GPU lisent avec une latence du même ordre de grandeur que celle de la mémoire GPU, ce qui leur permet de récupérer le contexte existant et de rester concentrés sur l’inférence.

Les tests réalisés par Scality ont démontré que Scality ADI permet de réduire la consommation de GPU tout en maintenant le même niveau de performance :

●        Un temps de chargement de 1,9 seconde pour Gemma-3 27B, soit près de 10 fois plus rapide qu’un NVMe local, le modèle étant téléchargé en parallèle sur l’ensemble du cluster via RDMA ;

●        166 ms de time-to-first-token à chaud pour la restauration depuis Scality ADI d’un contexte de 14 000 tokens, soit seulement 83 ms de plus par rapport à la HBM ;

●        La récupération du KV cache est 14 fois plus rapide que son recalcul sur un contexte de 14 000 tokens, et jusqu’à 72 fois plus rapide sur un contexte de 439 000 tokens ;

●        un KV cache plus de 80 fois plus grand que la mémoire d’un seul GPU, permettant de reprendre jusqu’à 1 000 sessions simultanées sans recalcul ;

●        Pas de dégradation de la latence inter-tokens, le contexte ayant été entièrement restauré avant l’émission du premier token 

●        97 % du réseau disponible saturé pour les transferts de données entre les GPU et le stockage Scality ADI.

L’architecture sépare le prefill du decode, Scality ADI jouant le rôle de cache partagé entre les serveurs GPU. Les GPU de decode disponibles peuvent ainsi accéder au contexte existant sans que celui-ci soit lié à un serveur GPU spécifique. Les gains liés à la séparation du prefill et du decode sont documentés : DistServe (OSDI 2024) a mesuré jusqu’à 7,4 fois plus de requêtes servies dans les mêmes objectifs de latence. En ajoutant un service de KV cache partagé, Mooncake de Moonshot AI a fait état de 75 % de requêtes supplémentaires sur le trafic de production de Kimi.

Une architecture ouverte pour plus de flexibilité sur les modèles, les frameworks et le matériel

Scality AI Inference Factory est conçu pour préserver la liberté de choix des clients sur tous les niveaux de la stack d’infrastructure d’IA. Il est compatible avec des harness open source et des frameworks pour agents IA tels qu’OpenCode, Hermes, Goose, LangGraph et Pydantic AI, et exécute des modèles open-weight validés tels que Mistral, Gemma, gpt-oss, Qwen, Kimi, GLM et DeepSeek. Le logiciel se déploie sur des serveurs standard de Dell, HPE, Lenovo et Supermicro. Chaque composant livré par Scality est fourni à la demande, ce qui permet aux clients d’examiner la manière dont l’état de l’inférence est stocké et déplacé, et de soumettre des contributions à l’examen de Scality. Pour les organisations qui exécutent des workloads d’IA sensibles, réglementées ou souveraines, cela apporte de la transparence sur les logiciels qui traitent leurs modèles et leurs données, au lieu de devoir s’en remettre à un service externe fermé.

Scality ADI s’intègre aux stacks d’IA standard et se déploie à l’échelle de plusieurs pétaoctets à travers RDMA, que ce soit sur des drives NVMe ou disques HDD, pour une capacité de KV cache pratiquement illimitée. Un namespace unique hiérarchise automatiquement les données entre TLC, HDD et, en option, bande magnétique, ce qui permet aux organisations d’aligner les performances et l’économie du stockage sur les différentes étapes du cycle de vie des données d’IA.

Squad annonce le référencement des solutions Exabeam, spécialiste de la détection, de l’investigation et de la réponse aux menaces (TDIR) et pionnier de l’analyse comportementale (UEBA).

Un marché du SIEM en pleine recomposition

Rachats d’éditeurs, consolidation des plateformes, irruption de l’intelligence artificielle : en trois ans, le marché du SIEM s’est profondément transformé. De nombreuses organisations doivent aujourd’hui réévaluer le socle de leur détection, une décision structurante, difficile à défaire, qui engage l’efficacité de leur SOC pour plusieurs années.

C’est précisément sur ce terrain qu’interviennent les experts de Squad, sur l’ensemble de la chaîne : qualifier les cas d’usage de détection, dimensionner l’architecture cible, conduire les projets de déploiement ou de migration (reprise des sources de données, reconstruction des règles de détection, montée en compétence des équipes), puis opérer le SOC dans la durée pour les clients grands comptes du Groupe. Cette exploitation repose sur l’expertise de Next’Gen Analysts, formés à l’analyse comportementale et à l’IA, en mesure d’interpréter un signal et de le contextualiser, pas seulement de le qualifier.

L’analyse comportementale au cœur de la détection

La plateforme New-Scale d’Exabeam combine un SIEM cloud-native et l’analyse comportementale des utilisateurs et des entités (UEBA), dont Exabeam est l’un des pionniers. Les agents d’IA Exabeam Nova automatisent le triage, la classification des menaces et la synthèse des investigations. La plateforme applique désormais cette même analyse comportementale aux agents d’IA eux-mêmes (Agent Behavior Analytics), afin de détecter la compromission ou le détournement de ces nouvelles identités non humaines. 
L’offre d’Exabeam couvre par ailleurs les deux trajectoires de modernisation rencontrées sur le terrain : compléter un SIEM existant par cette couche d’analyse comportementale et d’automatisation, ou basculer vers la plateforme complète, en cloud comme en environnement on-premise pour les organisations soumises à des exigences de souveraineté.

Là où les approches classiques reposent sur des règles, l’analyse comportementale établit une référence des usages normaux et détecte les écarts : compromission de comptes, menaces internes, mouvements latéraux. Les analystes disposent de chronologies d’investigation déjà contextualisées et hiérarchisées par niveau de risque : moins de bruit, plus de décisions.

Un référencement au service des clients de Squad 

Pour les clients de Squad, l’intérêt est direct : leurs projets SOC se décident désormais sur un éventail plus large de plateformes de référence, comparées sur leurs cas d’usage réels plutôt que sur des fiches produit. Avant tout engagement, les experts de Squad peuvent maquetter les scénarios de détection prioritaires sur la plateforme Exabeam, mesurer la couverture obtenue et chiffrer les coûts, à commencer par l’ingestion, premier poste de coût des projets SIEM.

Ouverte et interopérable, la plateforme se connecte par ailleurs aux solutions de sécurité et d’infrastructure déjà en place : les organisations renforcent leur détection en capitalisant sur l’existant, plutôt qu’en remplaçant leur écosystème.

« En trois ans, le marché du SIEM s’est entièrement recomposé. Nos clients ne nous demandent pas un logo de plus dans un catalogue : ils nous demandent de les aider à trancher : quelle plateforme, pour quels cas d’usage, avec quelle trajectoire de migration. Exabeam apporte une réponse singulière, fondée sur le comportement plutôt que sur la seule règle, et ce référencement nous permet de la proposer chaque fois qu’elle est la bonne réponse au contexte du client », commente Yann Bruneau, Chief Solutions Officer chez Squad.

« Le marché français est à un point de bascule : les organisations réévaluent leur socle de détection et attendent de l’analyse comportementale et de l’IA des résultats opérationnels, pas des promesses. Cette transition se gagne sur le terrain : architecture cible, migration des données et des règles de détection, adoption par les équipes. Avec Squad, nous disposons d’un partenaire dont l’expertise SOC et la proximité avec les grands comptes français transforment notre plateforme en résultats », conclut Egon Kando, Vice President Sales Europe & UKI chez Exabeam.

Le nouveau SIEM de Cribl peut analyser la télémétrie répartie entre pipelines, lacs de données, stockages objet et outils existants. Cette architecture fédérée doit éviter la duplication préalable des données historiques.

De nombreux SIEM reposent sur la centralisation des données de sécurité au sein d’un environnement unique. Cette organisation simplifie certaines analyses, mais elle oblige aussi les entreprises à déplacer ou à dupliquer des volumes importants de télémétrie avant de pouvoir les exploiter. Avec Cribl Detect, Cribl propose une autre architecture : rapprocher les fonctions de sécurité des données, quel que soit l’endroit où elles résident. Le produit s’appuie sur la plateforme de données ouverte de Cribl. Ses alertes, analyses et fonctions d’investigation peuvent accéder aux informations déjà présentes dans les pipelines, les lacs de données, les stockages objet et les outils utilisés par l’entreprise. Les équipes de sécurité peuvent ainsi commencer leurs recherches sans transférer au préalable l’ensemble de leurs données historiques vers un nouveau référentiel.

Détecter pendant le transport des données

Cribl Detect ne se limite pas à interroger plusieurs espaces de stockage. La solution peut également appliquer des détections aux flux de télémétrie pendant leur acheminement dans les pipelines. Cette analyse en amont doit permettre d’identifier plus tôt les signaux pertinents et de les transmettre aux fonctions de corrélation et d’investigation. Cette approche répond à une difficulté rencontrée par les équipes de sécurité : les données utiles à une enquête sont rarement réunies au même endroit. Un incident peut nécessiter de rapprocher des événements issus d’une infrastructure cloud, d’un équipement réseau, d’une application et d’un système de gestion des identités. La fédération permet aux analystes de consulter ces différentes sources sans imposer leur copie dans une plateforme unique.

Un accès commun pour les fonctions du SOC

Les fonctions de détection, de gestion de la posture de détection, de triage assisté par l’IA, d’orchestration et d’automatisation de la réponse, ainsi que de conformité et de gouvernance, peuvent accéder aux données disponibles sur la plateforme Cribl. L’entreprise entend ainsi éviter que chaque fonction du SOC repose sur son propre pipeline ou sur une nouvelle copie des mêmes informations. « Cribl Detect réunit deux capacités essentielles pour les professionnels de la sécurité : mener des investigations à partir de données qu’ils contrôlent déjà et identifier les lacunes de détection, les règles défaillantes et les données de télémétrie manquantes », déclare Francis Odum, chercheur en cybersécurité chez Software Analyst Cyber Research. « L’intégration de ces capacités à sa plateforme de données existante constitue une orientation particulièrement pertinente pour Cribl et offre aux équipes de sécurité un moyen de moderniser leur SOC sans créer un nouveau silo de données propriétaire. »

Cribl Detect est disponible pour les clients de Cribl.Cloud. Cette arrivée étend le portefeuille de Cribl au SIEM, en conservant l’architecture ouverte et le contrôle des données qui structurent déjà sa plateforme.