Sam Altman: GPU Openai habis, pelancaran GPT-4.5 akan bertahap

OpenAI baru-baru ini melancarkan model terbarunya, GPT-4.5.Walau bagaimanapun, akses kini terhad kepada pengguna Pro yang membayar $ 200 sebulan.Pada 28 Februari, Ketua Pegawai Eksekutif OpenAI Sam Altman menyatakan bahawa pelepasan model itu perlu ditangguhkan kerana "... (OpenAI) berkembang begitu cepat sehingga kami kehabisan GPU."Dia kemudian menambah, "Kami akan menambah puluhan ribu GPU minggu depan dan akan melancarkannya kepada pengguna selepas itu."Ini bermakna tidak lama lagi, pengguna hanya perlu membayar $ 20 untuk mengakses model OpenAI yang paling maju.

Khabar angin mencadangkan bahawa kekurangan GPU yang berterusan boleh mendorong OpenAI untuk bekerjasama dengan Broadcom dalam membangunkan cip AI sendiri.Walau bagaimanapun, kerana ia mengambil masa bertahun -tahun untuk syarikat itu menghasilkan perkakasan sendiri, OpenAI kini harus bergantung kepada NVIDIA dan pembekal lain untuk memenuhi tuntutannya yang semakin meningkat.

Ini meletakkan Nvidia dalam kedudukan yang kuat.Pembuat Chip telah menyatakan bahawa GPU Blackwell terkini tidak akan disampaikan sepenuhnya sehingga Oktober tahun ini.Oleh kerana institusi dan individu merancang untuk mengembangkan pusat data secara besar -besaran, Nvidia dijangka kekal dominan pada tahun -tahun akan datang.Sebagai contoh, Openai dan Microsoft sedang mengusahakan superkomputer AI $ 100 bilion, sementara Elon Musk berhasrat untuk mengembangkan superkomputer Colossusnya di Memphis, Tennessee, kepada lebih satu juta GPU.

Pelabur lain juga menyertai perlumbaan pusat data.Kemudahan 3GW telah diluluskan oleh kerajaan Korea Selatan, sementara pasukan lain bahkan meneroka idea menyimpan data di bulan.Walau bagaimanapun, dengan infrastruktur AI berkembang pada kadar yang agresif, Ketua Pegawai Eksekutif Microsoft Satya Nadella telah memberi amaran bahawa industri itu mungkin sudah overbuilding sistem AI -walaupun peningkatan kecanggihan model AI dan tuntutan pengiraan mereka yang semakin meningkat.

GPT-4.5 berfungsi sebagai contoh utama.Menurut Sam Altman, "Ini adalah model yang besar dan mahal."Kos untuk GPT-4.5 ialah $ 75 per juta token input dan token output $ 150 per juta.Sebaliknya, GPT-4O berharga hanya $ 2.50 per juta token input dan token output $ 10 per juta.Walaupun harga yang curam, Altman menyatakan bahawa ia adalah "bukan model penalaran, dan tidak akan mencapai hasil yang luar biasa dalam tanda aras."Walau bagaimanapun, beliau menambah, "Ia adalah jenis kecerdasan yang berbeza -ia mempunyai sejenis sihir yang saya tidak pernah merasakan sebelum ini."