“Hilangnya kendali manusia atau penggunaan sistem AI yang jahat dapat menyebabkan akibat yang sangat buruk.”
Para ahli mengatakan
Dalam pertemuan pemikiran internasional, beberapa pakar kecerdasan buatan terkemuka di dunia berkumpul untuk menulis laporan definitif mengenai bahayanya.
“Kemajuan pesat dalam kemampuan sistem kecerdasan buatan mendorong manusia lebih dekat ke dunia di mana AI bertemu dan melampaui kecerdasan manusia,” ungkapnya. pernyataan dari Dialog Internasional tentang Keamanan AI (IDAIS), sebuah konsorsium ilmuwan lintas budaya yang bertujuan untuk mengurangi risiko AI.
Dengan orang-orang seperti ilmuwan komputer Turing Institute Geoffrey Hinton berkumpul dengan orang-orang seperti Zhang Ya-Qin, mantan presiden konglomerat teknologi Tiongkok Baidu, berbagai penandatangan surat tersebut mewakili para pemikir AI terkemuka di seluruh dunia.
“Para ahli sepakat bahwa sistem AI ini mungkin akan dikembangkan pada dekade berikutnya, dan banyak dari mereka yakin sistem ini akan segera hadir,” lanjut pernyataan IDAIS. “Hilangnya kendali manusia atau penggunaan sistem AI yang jahat dapat menyebabkan dampak yang sangat buruk bagi seluruh umat manusia.”
Ditulis dalam kelompok pertemuan konklaf ketiga di Venesia“Pernyataan konsensus” ini tidak hanya ditujukan untuk menguraikan risiko AI, namun juga menyelaraskannya demi “kepentingan masyarakat global”. Pada pertemuan ini, puluhan pakar telah berkumpul untuk menyerukan peringatan mengenai risiko AI yang sedang kita hadapi.
Berpikir Secara Lokal, Rencanakan Secara Global
Karena AI tidak mengenal batas internasional, memikirkan teknologi ini dan risikonya secara global, seperti pendapat para penandatangan IDAIS, adalah hal yang sangat penting. Meskipun ada “langkah awal yang menjanjikan dari komunitas internasional” menuju kerja sama keamanan AI pertemuan puncak antar pemerintahtulis mereka, upaya-upaya ini harus dilanjutkan demi mengembangkan “rencana darurat global” ketika dan jika risiko-risiko ini memburuk.
Rencana darurat tersebut akan mencakup pembentukan badan internasional untuk menciptakan kesiapsiagaan darurat – tidak diketahui apakah hal ini akan terjadi di dalam atau di luar organisasi yang sudah mapan seperti PBB – serta konsensus yang saling meyakinkan mengenai “garis merah” dan apa yang perlu dilakukan. lakukan ketika mereka menyeberang.
Dengan tambahan penandatangan termasuk mantan presiden Irlandia Mary Robinson, pemenang Turing Award Andrew Yao, dan sejumlah peneliti dan pejabat dari institusi akademis di Quebec dan Beijing, pernyataan ini penting mengenai apa yang perlu dilakukan untuk mengurangi risiko, namun agak kabur mengenai hal ini. titik. risiko dan bagaimana hal tersebut dapat terjadi.
Namun, usulan IDAIS mungkin bagus, dan mendorong dialog internasional mengenai topik penting tersebut adalah hal yang penting dalam menghadapi masa depan. perlombaan AI militer di antara Amerika Serikat dan Tiongkok.
Lebih lanjut tentang masa depan AI: Ilmuwan Mempersiapkan “Ujian Terakhir Kemanusiaan” untuk Menguji AI yang Kuat
