Sumber Terbuka Nemotron-Mini-4B-Instructi

Pada 15 September, MarktechPost, sebuah saluran media teknologi, melaporkan bahawa Nvidia telah membuka sumber model AI Nemotron-Mini-4B, menandakan satu lagi peristiwa penting dalam inovasi syarikat di ruang AI.

Model Nemotron-Mini-4B-Instruction AI direka khusus untuk tugas-tugas seperti bermain peranan, generasi pengambilan semula (RAG), dan panggilan fungsi.Ia adalah model bahasa kecil (SLM), disuling dan dioptimumkan dari model Nemotron-4 15B yang lebih besar.

NVIDIA menggunakan teknik AI canggih seperti pemangkasan, kuantisasi, dan penyulingan untuk mencipta model yang lebih kecil dan lebih cekap, menjadikannya sangat sesuai untuk penggunaan peranti.

Walaupun saiznya yang dikurangkan, prestasi model dalam senario tertentu seperti bermain peranan dan fungsi panggilan tetap tidak dikompromi, menjadikannya pilihan praktikal untuk aplikasi yang memerlukan respons yang cepat, atas permintaan.

Dilarmakan dengan model Minitron-4B-Base, model AI Nemotron-Mini-4B-Instruksi menggabungkan teknologi pemampatan LLM.Salah satu ciri yang paling ketara ialah keupayaannya untuk mengendalikan tetingkap konteks 4096, membolehkannya menjana tindak balas yang lebih lama dan lebih koheren.