Le logiciel open source optimise la recherche vectorielle sur SSD
Le logiciel open source AiSAQ de Kioxia permet l'optimisation de la recherche vectorielle au sein des systèmes de génération augmentée par récupération (RAG) en optimisant l’utilisation des disques SSD.
europe.kioxia.com
Dans le cadre d’un effort continu visant à améliorer la facilité d’utilisation des recherches de bases de données vectorielles par IA au sein des systèmes de génération augmentée par récupération (RAG) en optimisant l’utilisation des disques SSD (Solid-State Drives), Kioxia annonce une mise à jour de son logiciel Kioxia AiSAQ™ (All-in-Storage ANNS with Product Quantization). Cette nouvelle version open source introduit des contrôles permettant aux architectes système de définir le point d’équilibre entre les performances de recherche et le nombre de vecteurs, qui sont des facteurs opposés dans la capacité fixe du stockage SSD dans le système. L’avantage qui en résulte permet aux architectes de systèmes RAG d’affiner l’équilibre optimal entre des charges de travail spécifiques et leurs exigences, sans aucune modification matérielle.
Lancé en janvier 2025, le logiciel Kioxia AiSAQ utilise un nouvel algorithme de recherche du voisin le plus proche (ANNS) optimisé pour les SSD et élimine le besoin de stocker les données d’index dans la mémoire DRAM. En permettant les recherches vectorielles directement sur les SSD et en réduisant les besoins en mémoire hôte, la technologie Kioxia AiSAQ vise à permettre aux bases de données vectorielles d’évoluer, en grande partie sans les restrictions causées par la capacité DRAM limitée.
Lorsque la capacité installée du SSD dans le système est fixe, l’augmentation des performances de recherche (requêtes par seconde) nécessite une plus grande capacité SSD consommée par vecteur. Il en résulte un plus petit nombre de vecteurs. À l’inverse, pour maximiser le nombre de vecteurs, la consommation de capacité SSD par vecteur doit être réduite. Ce qui entraîne une baisse des performances. L’équilibre optimal entre ces deux conditions opposées varie en fonction de la charge de travail spécifique. Pour trouver le bon équilibre, le logiciel Kioxia AiSAQ introduit des options de configuration flexibles. Cette dernière mise à jour permet aux administrateurs de sélectionner l’équilibre optimal pour une variété de charges de travail contrastées au sein du système RAG. Cette mise à jour fait de la technologie Kioxia AiSAQ un ANNS basé sur un SSD adapté non seulement aux applications RAG, mais également à d’autres applications gourmandes en vecteurs, telles que les recherches sémantiques hors ligne.
Avec la demande croissante de services d’IA évolutifs, les SSD offrent une alternative pratique à la DRAM pour gérer le débit élevé et la faible latence requis par les systèmes RAG. Le logiciel Kioxia AiSAQ permet de répondre à ces demandes, grâce à l’utilisation d’une IA générative sans être limitée par des ressources mémoire restreintes.
www.kioxia.com
