Kioxia mengeluarkan teknologi AISAQ sebagai perisian sumber terbuka untuk mengurangkan keperluan DRAM untuk sistem AI generatif

Kioxia Corporation, penyedia penyelesaian memori terkemuka di dunia, hari ini mengumumkan pelepasan sumber terbuka teknologi kuantiti produk Anns (AISAQ) All-Storage (1) yang baru.Perisian Kioxia AISAQ ™ memperkenalkan novel anggaran algoritma carian jiran terdekat (ANNS) yang dioptimumkan untuk pemacu keadaan pepejal (SSD), yang menyampaikan prestasi berskala untuk penjanaan semula pengambilan semula (RAG) sambil menghapuskan keperluan untuk menyimpan data indeks dalam dram-ditangguhkan,Carian dilakukan secara langsung pada SSD.

Sistem AI generatif memerlukan sumber pengiraan, ingatan, dan penyimpanan yang signifikan.Walaupun AI mempunyai potensi untuk memacu kejayaan transformatif di seluruh industri, penggunaannya sering datang dengan kos yang tinggi.RAG adalah tahap penting dalam pembangunan AI, penapisan model bahasa besar (LLMS) dengan memanfaatkan data aplikasi atau perusahaan.

Pada teras RAG adalah pangkalan data vektor, yang mengumpulkan dan menukarkan data khusus domain ke dalam vektor ciri.RAG juga bergantung pada algoritma ANNS untuk mengenal pasti vektor yang meningkatkan model dengan menilai persamaan antara vektor terkumpul dan sasaran.Untuk menjadi berkesan, RAG mesti mengambil maklumat yang paling relevan dengan cepat.Secara tradisinya, algoritma ANNS telah digunakan dalam DRAM untuk mencapai prestasi berkelajuan tinggi yang diperlukan.

Teknologi Kioxia AISAQ menyampaikan penyelesaian ANNS berskala dan cekap yang mampu mengendalikan dataset skala bilion dengan penggunaan memori yang minimum dan keupayaan penukaran indeks pantas.