Ini adalah bencana.
Perahu Buruk
ChatGPT OpenAI kedapatan menyebarkan informasi pemungutan suara palsu untuk negara bagian yang menjadi medan pertempuran, Berita CBS ditemukansebuah tanda suram lainnya tentang bagaimana AI siap untuk mengacaukan pemilu.
Kesalahan itu terungkap setelah reporter di CBS menanyakan informasi dasar tentang persyaratan pemungutan suara, lokasi pemungutan suara, dan pertanyaan lain yang rata-rata akan ditanyakan oleh pemilih jika mereka tinggal di negara bagian seperti Michigan, Pennsylvania, North Carolina, dan Wisconsin — semua tempat yang dapat menentukan hasil pemilihan presiden AS mendatang pada musim gugur. .
Saat reporter di CBS menanyakan pertanyaan ChatGPT seperti batas waktu pengiriman surat suara di negara bagian tertentu, ini akan memberikan keluaran yang berbeda namun tetap salah pada perangkat terpisah.
Meskipun OpenAI dirilis pernyataan pada bulan Januari mengatakan bahwa siapa pun yang memasukkan pertanyaan dasar pemilih ke ChatGPT akan diarahkan ke situs pemungutan suara non-partisan CanIVote.org, seorang reporter di CBS terkadang tidak mendapatkan tautan ke situs ini saat mengajukan pertanyaan jajak pendapat.
Fakta vs. Fiksi
“Kami juga telah mengembangkan kemitraan untuk memastikan bahwa orang-orang yang menggunakan ChatGPT untuk informasi mengenai pemungutan suara diarahkan ke sumber yang berwenang,” kata juru bicara OpenAI. Berita CBS. “Kami memantau dengan cermat bagaimana teknologi kami digunakan dalam konteks pemilu dan terus mengembangkan pendekatan kami.”
Berdasarkan CBS‘ Diberitakan, perusahaan yang dipimpin Sam Altman itu masih jauh dari melanjutkan upayanya.
Hal ini mungkin tampak seperti sebuah hal yang tidak masuk akal untuk dikeluhkan, namun calon pemilih yang datang ke tempat pemungutan suara setelah mendapatkan informasi yang salah dari ChatGPT dapat menentukan hasil pemilu presiden — terutama jika selisihnya sangat tipis, seperti pada pemilu presiden mendatang.
Situasi dengan ChatGPT juga menyoroti bahwa model bahasanya besar rentan terhadap halusinasinamun banyak orang sudah menggunakan chatbot seolah-olah itu adalah mesin pencari.
Lebih lanjut tentang halusinasi AI: Diminta Merumuskan Halaman Web, Kebingungan Malah Ciptakan Cerita Tentang Gadis yang Mengikuti Jejak Jamur Bercahaya di Hutan Ajaib
