Postingan Tamu HodlX Kirimkan Postingan Anda
Lonjakan permintaan aplikasi yang didukung AI secara eksponensial dalam beberapa tahun terakhir memerlukan pendekatan baru dalam desain, konfigurasi, dan manajemen pusat data.
Jurnal Wall Street memperkirakan sekitar 20% kapasitas pusat data global kini digunakan untuk tujuan AI.
Namun, dengan lebih banyak lagi 77% dari perusahaan sudah menggunakan atau mengeksplorasi teknologi AI, pusat data tradisional mungkin sudah ketinggalan zaman cepat
kebuntuan AI
Karena algoritma dan model yang kompleks, aplikasi AI biasanya memerlukan lebih banyak daya komputasi dan sumber daya dibandingkan yang lain.
Misalnya, kueri sederhana di ChatGPT memerlukan hampir 10 kali listrik sebanyak yang diperlukan untuk memproses pencarian Google dengan cepat.
Pusat data tradisional dirancang dengan kepadatan rata-rata lima hingga 10 kilowatt per rak, namun kepadatan ini meningkat menjadi 60 kilowatt atau lebih per rak untuk menangani aplikasi AI.
Lebih banyak beban kerja dan kebutuhan energi berarti biaya overhead yang lebih tinggi.
Selain itu, pusat data perlu menemukan cara-cara alternatif dan canggih untuk mengatasi masalah pendinginan, kerentanan, tantangan keamanan, dan masalah pemeliharaan yang dapat timbul karena kekurangan staf.
Kemudian muncul isu kelestarian lingkungan hidup. Peneliti memperkirakan bahwa GPT-3 menghasilkan lebih dari 552 ton CO2 sebelum dilepaskan untuk kepentingan umum pada tahun 2020.
Angka ini setara dengan CO2 yang dihasilkan oleh 123 kendaraan berbahan bakar bensin selama satu tahun kalender penuh.
Sayangnya, jika tantangan-tantangan ini tidak diatasi secara strategis dan dinamis, kita mungkin akan menghadapi hambatan infrastruktur yang serupa dengan defisit pasokan GPU.
Kurangnya pusat data yang dilengkapi dengan baik untuk menangani permintaan besar akan teknologi AI pada akhirnya dapat memperlambat pertumbuhan, mendorong monopoli infrastruktur AI, dan mempunyai dampak serius terhadap lingkungan.
Membangun masa kini dan masa depan
Untuk mengatasi masalah ini secara berkelanjutan, banyak perusahaan telah menerapkan langkah-langkah baru.
Hal ini termasuk penggunaan pusat data terkonsolidasi untuk mengurangi biaya operasional, meningkatkan skalabilitas, dan memastikan ketersediaan pemeliharaan terampil di lokasi.
Pusat data juga menggunakan teknik pendinginan yang lebih canggih seperti pendinginan cair, pendinginan langsung ke chip, dan pendinginan imersif, dibandingkan dengan sistem pendingin udara konvensional.
Untuk pusat baru, desain adalah yang terpenting. Misalnya, pada tahun 2022, Meta menghentikan pembangunan pusat data senilai $800 juta di Texas untuk mempertimbangkan mendesain ulang fasilitas seluas 900.000 kaki persegi.
Namun, selain berfungsi sebagai pusat infrastruktur dan komputasi untuk aplikasi dan produk yang didukung AI, pusat data juga dapat memanfaatkan AI yang sama untuk mengoptimalkan kinerja, mengelola biaya, dan memastikan efisiensi operasional dalam berbagai cara.
Mari kita lihat beberapa di antaranya.
Manajemen beban kerja
Alat AI dan otomatisasi dapat secara akurat memprediksi dan mengalokasikan beban kerja dengan lebih efisien di pusat data, memastikan penerapan sesuai dengan kebutuhan sumber daya.
Hal ini mengurangi limbah dengan meminimalkan penggunaan perangkat keras komputasi dan mengurangi konsumsi energi. Selesai 32% dari pembelanjaan cloud sebagian besar terbuang karena alokasi yang berlebihan.
Namun, sistem AI dapat mengalokasikan kembali sumber daya ke proyek yang paling membutuhkannya, sehingga mengoptimalkan kinerja dan memaksimalkan perangkat keras yang menganggur.
Tugas yang berulang dan rutin dapat dengan mudah diotomatisasi, sehingga menghemat waktu, energi, dan tenaga kerja terampil.
AI juga dapat memproses data dan metrik kinerja, sehingga memungkinkan tindakan strategis dan proaktif untuk mengatasi potensi masalah manajemen beban kerja sebelum masalah tersebut terjadi.
Sistem pendingin yang digerakkan oleh AI
Selain memperkenalkan fasilitas pendinginan yang lebih baik, AI dapat memainkan peran penting dalam mendeteksi dan menyesuaikan suhu secara dinamis.
Alih-alih mendinginkan perangkat keras secara statis di pusat data, AI dapat menganalisis dan bertindak berdasarkan data suhu untuk memasok jumlah pendinginan yang tepat ke setiap perangkat keras.
Hal ini dapat mengontrol kondisi kelembapan untuk kinerja optimal, meningkatkan efisiensi daya, dan memperpanjang umur peralatan.
Penggunaan kekuatan dinamis secara efektif
Pemantauan real-time dan analisis prediktif oleh sistem AI dapat memberikan wawasan penting mengenai pola dan inefisiensi penggunaan daya, sehingga memungkinkan para manajer untuk membuat keputusan berdasarkan data dan menerapkan strategi manajemen daya yang diperlukan.
Meskipun fakta obyektifnya adalah bahwa kebutuhan daya untuk pusat data yang menjalankan beban kerja AI akan selalu lebih tinggi dibandingkan pusat data tradisional, upaya sinergis dari manajemen berbasis AI dan desain pusat data dapat memberikan dampak yang signifikan.
Pusat data juga dapat meminimalkan jejak karbon dan mengurangi dampak lingkungan dengan memprioritaskan sistem manajemen energi yang efisien dan mengadopsi teknik manajemen daya seperti DVFS (penskalaan tegangan dan frekuensi dinamis).
Mengumpulkan
Harga untuk masa depan digital yang sangat canggih terletak pada inti infrastruktur.
Pusat data harus mengadopsi perubahan fisik, operasional, dan perangkat lunak untuk mengimbangi dunia modern dan tuntutan AI-nya.
Untungnya, tantangan AI juga dapat diatasi dengan solusi AI.
Ketika industri teknologi secara bertahap beradaptasi dan meningkatkan teknologi, manajemen dan optimalisasi beban kerja berbasis AI akan menjadi arus utama, yang mengarah pada pusat data yang kuat dan siap untuk mendukung masa depan.
Inovasi dari alternatif lain seperti infrastruktur komputasi yang terdesentralisasi juga akan menciptakan persaingan yang sehat dan meningkatkan efisiensi.
Daniel Keller adalah CEO-nya Teknologi MasukFlux. Ia memiliki lebih dari 25 tahun pengalaman TI di bidang teknologi, perawatan kesehatan, dan pekerjaan nirlaba/amal. Daniel berhasil mengelola infrastruktur, menjembatani kesenjangan operasional, dan menggunakan proyek teknologi secara efektif.
Ikuti Kami di Twitter Facebook Telegram
Penafian: Pendapat yang diungkapkan di The Daily Hodl bukanlah nasihat investasi. Investor harus melakukan uji tuntas sebelum melakukan investasi berisiko tinggi pada Bitcoin, mata uang kripto, atau aset digital. Harap dicatat bahwa transfer dan perdagangan Anda adalah risiko Anda sendiri, dan segala kerugian yang mungkin Anda alami adalah tanggung jawab Anda. The Daily Hodl tidak merekomendasikan pembelian atau penjualan mata uang kripto atau aset digital apa pun, begitu pula The Daily Hodl sebagai penasihat investasi. Harap dicatat bahwa The Daily Hodl berpartisipasi dalam pemasaran afiliasi.
Gambar yang Dihasilkan: Tengah perjalanan
