Permintaan untuk kerepek kecerdasan buatan melambung tinggi, dengan perdana Nvidia H100 berharga lebih dari $ 40000

Menurut CNBC, dengan permintaan yang melambung tinggi untuk cip yang diperlukan untuk latihan dan mengerahkan perisian kecerdasan buatan, cip high-end NVIDIA H100 berharga lebih dari $ 40000.

John Kamak, perintis dalam permainan 3D dan bekas ketua teknologi perundingan meta, menyebut harga pemproses Nvidia H100 di Twitter.Jumaat lepas, sekurang -kurangnya 8 H100s disenaraikan untuk dijual di eBay, dengan harga antara $ 39995 hingga sedikit di bawah $ 46000.Sesetengah peruncit telah menawarkan sekitar $ 36000 pada masa lalu.

H100 yang dikeluarkan tahun lepas adalah cip kecerdasan buatan utama Nvidia, menggantikan A100.A100 adalah cip bernilai kira -kira $ 10000 dan dikenali sebagai "tulang belakang" aplikasi kecerdasan buatan.

Pemaju membina apa yang dipanggil model bahasa besar (LLMS) menggunakan H100, yang merupakan teras aplikasi kecerdasan buatan seperti CHATGPT di OpenAI.Menjalankan sistem ini mahal dan memerlukan komputer yang berkuasa untuk memproses beribu -ribu bait data dalam masa beberapa hari atau minggu.Mereka juga bergantung kepada kuasa pengkomputeran yang besar untuk membolehkan model kecerdasan buatan menghasilkan teks, imej, atau ramalan.

Latihan model kecerdasan buatan, terutamanya model besar seperti GPT, memerlukan beratus-ratus GPU NVIDIA mewah untuk bekerjasama.

Microsoft membelanjakan beratus -ratus juta dolar untuk membeli puluhan ribu cip Nvidia A100 untuk membantu menubuhkan ChatGPT.Nvidia mengawal sebahagian besar pasaran untuk cip kecerdasan buatan.

NVIDIA juga menyediakan superkomputer yang dipanggil DGX, yang terdiri daripada lapan GPU yang bekerja bersama -sama.Awal tahun ini, syarikat itu mengumumkan perkhidmatan baru yang membolehkan syarikat menyewa komputer DGX untuk $ 37000 sebulan.Pada harga ini, sistem akan menggunakan pemproses A100 sebelumnya NVIDIA.

Nvidia menyatakan bahawa H100 adalah cip pertama yang dioptimumkan untuk menyokong seni bina AI tertentu untuk banyak kemajuan AI baru -baru ini, yang dipanggil Transformer.Pakar industri mengatakan bahawa untuk menubuhkan model yang lebih besar dan memerlukan lebih banyak data daripada yang ada sekarang, cip yang lebih kuat diperlukan.