Rakan kongsi lengan dan alibaba untuk meningkatkan AI multimodal di Kleidiai di Kleidiai

ARM Holdings plc (NASDAQ: ARM), selepas ini disebut sebagai "ARM," hari ini mengumumkan kerjasama baru dengan kumpulan Taotian Alibaba mengenai rangka kerja pembelajaran yang ringan, MNN.Melalui penyepaduan ARM Kleidiai, kedua-dua syarikat telah berjaya mengaktifkan beban kerja kecerdasan buatan multimodal (AI) untuk menjalankan peranti mudah alih yang berkuasa CPU menggunakan model QWEN2-VL-2B-Instruction yang disesuaikan dengan ARM.Versi model multimodal Qwen ini direka khusus untuk pemahaman imej pada peranti, penalaran teks-ke-imej, dan generasi multimodal merentasi pelbagai bahasa.Kerjasama ini dengan ketara meningkatkan prestasi beban kerja AI multimodal di tepi, menyampaikan pengalaman pengguna yang sama sekali baru.

Stefan Rosinger, pengarah kanan pengurusan produk di perniagaan pelanggan ARM, menyatakan: "Kami berada di tengah -tengah revolusi AI, menyaksikan kebangkitan model AI multimodal yang dapat memproses dan memahami pelbagai jenis data, termasuk data teks, imej, audio, video, dan sensor.Walau bagaimanapun, penggunaan model multimodal canggih ini pada peranti kelebihan memberikan cabaran yang signifikan disebabkan oleh kekangan perkakasan seperti penggunaan kuasa dan batasan memori, serta kerumitan mengendalikan pelbagai modaliti data secara serentak. "

ARM Kleidi menyediakan penyelesaian yang ideal untuk menangani cabaran -cabaran ini, memberikan pengoptimuman prestasi lancar untuk beban kerja kesimpulan AI yang berjalan pada CPU ARM.Kleidiai adalah koleksi rutin ARM yang ringan, berprestasi tinggi dan terbuka yang direka khusus untuk pecutan AI.Ia telah diintegrasikan ke dalam versi terkini Rangka Kerja AI Utama Utama, termasuk Executorch, Llama.cpp, Litert (melalui Xnnpack), dan MediaPipe.Ini membolehkan berjuta -juta pemaju untuk mencapai keuntungan prestasi AI yang signifikan secara automatik -tanpa memerlukan usaha tambahan.