Kilang Pelayan: Menunggu lebih dari 6 bulan untuk mendapatkan GPU NVIDIA terkini

Menurut Wall Street Journal, hampir semua pemproses grafik (GPU) yang digunakan untuk AI dihasilkan oleh Nvidia, tetapi dengan wabak ChatGPT, permintaan untuk mereka telah melonjak jauh melebihi bekalan.

Keadaan ini mengehadkan kuasa pemprosesan yang disediakan oleh penyedia perkhidmatan awan seperti Amazon dan Microsoft kepada pelanggan seperti CHATGPT, dan pemaju AI memerlukan keupayaan pelayan untuk membangun dan mengendalikan model yang semakin kompleks dan membantu syarikat lain membina perkhidmatan AI.

Ketua Pegawai Eksekutif Terbuka Sam Altman menyatakan bahawa kerana kesesakan pemproses, lebih baik jika lebih sedikit orang menggunakan chatgpt.

Bagi syarikat yang melatih model kecerdasan buatan yang besar yang mampu menghasilkan teks dan analisis mentah, mendapatkan puluhan ribu GPU maju adalah penting.GPU lanjutan NVIDIA boleh melakukan banyak pengiraan secara serentak, yang penting untuk kerja AI.

Penganalisis UBS menganggarkan bahawa versi terdahulu ChATGPT memerlukan kira -kira 10000 GPU, sementara Musk menganggarkan bahawa versi yang dikemas kini memerlukan tiga hingga lima kali gpus asal.

Nvidia baru -baru ini menyatakan bahawa ia memperluaskan bekalannya untuk memenuhi permintaan yang semakin meningkat.Ketua Pegawai Eksekutif Nvidia Huang Renxun menyatakan bahawa syarikat itu telah meningkatkan pengeluaran H100, yang merupakan cip perdana baru untuk AI generasi.

Kos cip berbeza -beza, tetapi cip kecerdasan buatan nvidia dijual oleh beberapa peruncit untuk kira -kira $ 33000, walaupun mereka dapat memperoleh harga yang lebih tinggi di pasaran sekunder di bawah permintaan yang tinggi.

Menurut pelabur dan pemula AI, mereka mengecilkan model AI mereka untuk meningkatkan kecekapan, membeli pelayan mereka sendiri dengan GPU yang relevan, atau beralih kepada penyedia awan yang kurang popular seperti Oracle sehingga kekurangan diselesaikan.

Jurucakap OpenAI berkata, "Permintaan untuk GPU dalam industri sangat kuat."Ramai pengasas AI mengharapkan kekurangan itu akan berterusan sekurang -kurangnya sehingga tahun depan.

Sesetengah syarikat menyekat kapasiti awan kerana mereka bimbang mereka tidak akan dapat mengaksesnya pada masa akan datang.

Pengasas dan pelabur telah menyatakan bahawa syarikat yang boleh memperoleh kuasa pengkomputeran masih perlu menunggu selama beberapa minggu untuk menggunakan GPU NVIDIA.Walaupun anda telah membayar yuran terlebih dahulu, ini tidak bermakna bahawa GPU akan tiba di tangan anda pada hari berikutnya atau minggu, anda hanya perlu menunggu."Kata Aravind Srinivas, Ketua Pegawai Eksekutif Permlexity AI, yang telah membangunkan alat carian perbualan yang didorong oleh kecerdasan manusia.

Pengilang pelayan dan pelanggan langsung mereka telah menyatakan bahawa mereka perlu menunggu lebih daripada enam bulan untuk mendapatkan GPU terbaru NVIDIA.

Ketua Pegawai Eksekutif AMD, salah satu pengeluar pelayan terbesar, menyatakan bahawa penghantaran GPU yang tertunda telah mencapai tahap tinggi sepanjang masa, dan syarikat itu bersemangat untuk meningkatkan kapasiti pengeluaran.