Intel telah meninggalkan perlombaan AI bersama NVIDIA & kini mengejar peluncuran solusi hemat biaya dengan penawaran Gaudi 3 AI yang baru.
GPU Intel AI Gaudi 3 Akan Menampilkan Performa Per Dolar Terdepan di Industri, Namun Tidak Akan Bersaing Dengan NVIDIA Saat Tim Biru Menggeser Target Pasar
Tampaknya Tim Biru akhirnya menyadari bahwa bersaing dalam perlombaan “kekuatan komputasi” dengan NVIDIA bukanlah jalan yang tepat bagi mereka untuk memiliki bisnis yang berkelanjutan.
Sebaliknya, perusahaan tersebut saat ini memanfaatkan segmen bisnis AI yang relatif tidak berpenghuni, yang merupakan penerapan akselerator AI yang hemat biaya, yang kemungkinan akan menghibur sebagian besar industri. Berdasarkan laporan oleh CRNIntel menghadirkan GPU Gaudi 3 AI terbarunya sebagai proposisi nilai, hadir dengan beberapa rasio harga terhadap kinerja terbaik yang tersedia di pasar.
Nanduri mengatakan bahwa meskipun Gaudi 3 “tidak bisa mengejar” GPU terbaru Nvidia dari perspektif kinerja head-to-head, chip akselerator sangat cocok untuk memungkinkan sistem ekonomi menjalankan model berbasis tugas dan sumber terbuka atas nama perusahaan, di mana perusahaan tersebut memiliki “kekuatan tradisional”.
Intel mengklaim bahwa lini Gaudi 3 menawarkan kinerja yang setara dengan akselerator AI H100 NVIDIA yang populer, terutama dalam beban kerja inferensi, yang telah mengalami peningkatan besar-besaran setelah munculnya model LLM yang “berfokus pada penalaran”. Dalam hal angka sebenarnya, Intel mengklaim bahwa akselerator AI Gaudi 3 memberikan nilai kinerja per dolar 80% lebih baik jika dibandingkan dengan NVIDIA H100, dan ketika melakukan benchmark pada Llama-2, perbedaan kinerja per dolar meningkat sebesar 2x. , yang sungguh menakjubkan.
Perusahaan ini hanya menawarkan jajaran AI barunya sebagai solusi terbaik untuk startup skala kecil dan individu yang ingin mendapatkan kekuatan komputasi AI. Namun, ketika diuji dalam operasi floating point, GPU AI Gaudi 3 terasa kurang dibandingkan alternatif NVIDIA, yang menunjukkan bahwa performa hard AI bukanlah hal yang disukai Intel saat ini.
Tim Biru menyadari bahwa mereka tidak dapat bersaing dengan NVIDIA dalam hal dominasi perangkat keras. Yang mengejutkan, perusahaan tersebut mengklaim bahwa mereka tidak berupaya memanfaatkan permintaan dari pelaku pasar arus utama. Dalam jangka panjang, mereka percaya bahwa model LLM yang lebih kecil akan melihat adopsi yang lebih luas seiring dengan meredanya kegilaan AI dan kegilaan di balik pusat data skala besar.
Dunia yang mulai kita lihat adalah orang-orang yang bertanya-tanya [return on investment]biaya, tenaga, dan segalanya. Masalahnya—saya tidak punya bola kristal—tetapi dari cara kita memikirkannya, apakah Anda menginginkan model raksasa yang mengetahui segalanya.
Kami merasakan posisi kami saat ini dengan produk, pelanggan yang terlibat, masalah yang kami selesaikan, itulah jalur renang kami. Taruhannya adalah pasar akan terbuka di ruang tersebut, dan akan ada banyak orang yang membangun solusi inferensi mereka sendiri.
– Anil Nanduri dari Intel melalui CRN
Solusi Intel Gaudi 3 AI telah diadopsi dengan baik oleh industri, khususnya oleh IBM Cloud, Hewlett Packard Enterprise, dan bahkan Dell pada produk pusat data masing-masing untuk pasar. Kita tidak bisa mengatakan bahwa Gaudi 3 tidak melihat fokus pasar, namun pertaruhan Team Blue pada pasar AI tidak berjalan dengan baik, dengan CEO perusahaan Pat Gelsinger sebelumnya menyebut CUDA NVIDIA sebagai sebuah parit, namun ternyata menjadi sebuah parit. tumpukan komputasi yang dominan.
Akan menarik untuk melihat bagaimana situasi AI bagi Intel di masa depan karena perusahaan sangat membutuhkan bantuan mengingat situasi keuangan yang mereka alami.
Produk yang disebutkan dalam posting ini
