“Jika sumbernya adalah halusinasi AI, maka keluarannya juga.”
Sumber yang Tidak Dapat Diandalkan
Baru laporan dari Forbes mengungkapkan bahwa Perplexity, alat pencarian AI yang sibuk dan didanai besar-besaran telah tertangkap plagiat Dan dugaan pengikisan web rahasiamengutip spam berkualitas rendah yang dihasilkan AI dari blog yang tidak dikenal dan postingan LinkedIn yang kurang informasi.
ForbesPelaporan sebagian besar didasarkan pada penyelaman ke dalam Perplexity yang dilakukan oleh GPTZero, sebuah startup yang berspesialisasi dalam mendeteksi konten yang dihasilkan AI. Di dalam blog diterbitkan awal bulan ini, CEO GPTZero Edward Tian menyatakan bahwa dia telah melihat “peningkatan jumlah sumber yang dihubungkan oleh Perplexity yang dihasilkan AI itu sendiri.” Ketika Tian kemudian menyelidiki tindakan AI yang menutupi informasi tersebut, dia memperhatikan bahwa, dalam beberapa kasus, Perplexity bahkan tampaknya mengambil informasi yang ketinggalan jaman dan salah dari sumber yang dihasilkan AI ini.
Dengan kata lain, ini adalah lingkaran misinformasi yang digerakkan oleh AI, di mana kesalahan dan rekayasa AI menemukan jalannya ke dalam jawaban-jawaban AI Perplexity yang berputar-putar. Dan untuk itu sudah mulai berjuang mengeklaim untuk “merevolusi cara Anda menemukan informasi” dengan menawarkan “pengetahuan akurat” melalui informasi “terkini” dari “sumber yang dapat dipercaya”, itu adalah pandangan yang buruk.
“Kebingungan hanya akan terlihat jika sumbernya,” kata Tian Forbes. “Jika sumbernya adalah halusinasi AI, maka keluarannya juga.”
Sumber Buruk
Misalnya, tanggapan langsung Perplexity terhadap “Festival Budaya di Kyoto, Jepang”. Sebagai tanggapan, Perplexity menyusun daftar atraksi budaya yang tampaknya koheren di kota-kota Jepang. Tapi itu hanya dikutip satu sumber: postingan blog tidak jelas yang dipublikasikan ke LinkedIn pada November 2023 yang tampaknya dibuat oleh AI itu sendiri — jauh dari “umpan berita, makalah akademis, dan blog yang sudah mapan” yang menurut Perplexity digunakan untuk mendapatkan jawabannya .
Tapi blog ini adalah salah satu yang tidak terlalu menjadi perhatian Perplexity. Dalam contoh terkait lainnya, Forbes dan Tian menemukan bahwa Perplexity, sebagai tanggapan terhadap permintaan mendesak untuk “beberapa alternatif selain penisilin untuk mengobati infeksi bakteri,” mengutip kemungkinan blog yang dibuat oleh AI dari sebuah klinik medis yang mengklaim sebagai bagian dari jaringan Penn Medicine. Entri blog ini berisi informasi medis yang bertentangan – baca: tidak dapat diandalkan – tentang bagaimana obat-obatan yang berbeda dapat berinteraksi satu sama lain, yang masing-masing Forbestercermin dalam jawaban Perplexity.
Jika Anda hati-hati dengan alat pendeteksi AI, itu sangat adil. Namun sumber Kebingungan diambil oleh Tian dan Forbes disebut sebagai informasi rotasi AI yang lemah memiliki tanda-tanda pembentukan AI, dan perlu diperhatikan hal itu Forbes mendukung penemuan GPTZero melalui alat deteksi AI kedua, DetectGPT, juga.
Kata Chief Business Officer Kebingungan Dmitry Shevelenko Forbes bahwa perusahaan pencarian AI telah mengembangkan “algoritme internal mereka sendiri untuk mendeteksi apakah konten yang dihasilkan AI memang benar,” namun “sistem ini tidak sempurna dan perlu terus disempurnakan, terutama karena konten yang dihasilkan AI menjadi lebih canggih.”
untuk ya Namun ketika Anda secara terbuka berjanji kepada pengguna bahwa produk Anda hanya berisi informasi berkualitas tinggi dari sumber resmi untuk memberikan jawaban yang “dapat diakses, dapat diajak bicara, dan dapat diverifikasi”, apakah algoritme Anda benar-benar dapat memilih informasi yang baik dari yang buruk, sangatlah penting.
“Kebingungan,” demikian bunyi FAQ perusahaan, “adalah sumber informasi pasti Anda.”
Lebih lanjut tentang Kebingungan: Diminta Merumuskan Halaman Web, Kebingungan Malah Ciptakan Cerita Tentang Gadis yang Mengikuti Jejak Jamur Bercahaya di Hutan Ajaib
