Kioxia lansează tehnologia AISAQ ca software open-source pentru a reduce cerințele DRAM pentru sistemele AI generative

Kioxia Corporation, un furnizor de soluții de memorie de lider mondial, a anunțat astăzi lansarea open-source a noii sale tehnologii de cuantificare a produselor ANNS All-Storage Anns (AISAQ) (1).Software-ul Kioxia AISAQ ™ introduce un nou algoritm de căutare a vecinului cel mai apropiat (ANNS), optimizat pentru unități de stare solidă (SSD), oferind performanțe scalabile pentru generarea (RAG) în vârstă de regăsire (RAG)Căutările sunt efectuate direct pe SSD.

Sistemele AI generative necesită resurse semnificative de calcul, memorie și stocare.În timp ce AI are potențialul de a conduce descoperiri transformatoare în industrii, desfășurarea sa vine adesea cu costuri mari.Rag este o etapă crucială în dezvoltarea AI, rafinarea modelelor de limbaj mare (LLMS) prin utilizarea datelor specifice aplicației sau a întreprinderii.

La baza RAG se află o bază de date vectorială, care acumulează și transformă datele specifice domeniului în vectori de caracteristici.Rag se bazează, de asemenea, pe algoritmi ANN pentru a identifica vectorii care îmbunătățesc modelul prin evaluarea asemănării dintre vectorii acumulați și țintă.Pentru a fi eficient, Rag trebuie să recupereze rapid cele mai relevante informații.În mod tradițional, algoritmii ANN-urilor au fost implementați în DRAM pentru a obține performanța necesară de mare viteză.

Tehnologia Kioxia AISAQ oferă o soluție ANN-uri scalabile și eficiente, capabilă să gestioneze seturi de date la scară de miliarde cu o utilizare minimă a memoriei și capacități de comutare rapidă a indexului.