Sebuah situs berita lokal kontroversial yang didukung AI benar-benar mengambil tindakan minggu ini – dengan secara tidak sengaja menuduh seorang jaksa wilayah melakukan pembunuhan.
Sebagai kotoran teknis pertama kali dilaporkansebuah artikel muncul pada Garis Hood San Jose — salah satu dari banyak situs berita lokal yang tersebar di Amerika Serikat — awal bulan ini dengan judul yang mengerikan: “SAN MATEO COUNTY DA DITUNTAS DENGAN PEMBUNUHAN DALAM MELANJUTKAN PENCARIAN KORBAN.”
Itu hal yang suram, belum lagi kejahatan yang mungkin akan menjadi berita nasional. Namun ada alasan penting mengapa hal itu terjadi TIDAK mengudara secara nasional: ada pembunuhan, tapi DA tidak melakukannya. Mereka hanya menuntut orang-orang yang diduga melakukannya.
Sebagai kotoran teknologi ditemukan, garis hoodlineAI tampaknya telah mengambil postingan X-sebelumnya Twitter dari akun resmi kantor San Mateo DA, di mana kantor tersebut membagikan siaran pers terbaru tentang seorang pria lokal — yang bukan DA — akhirnya dikenakan biaya oleh kantor Kejaksaan atas kejahatan keji tersebut dan membuatnya semakin parah sehingga dikatakan bahwa DA sendiri yang melakukan pembunuhan keji tersebut. Kita semua tidak bersalah sampai dituduh oleh AI melakukan kejahatan.
Setelah kotoran teknis ditelepon garis hoodline keluar untuk kesalahan besar, kata sup an catatan editor muncul di bagian atas artikel. Mereka menghubungkan kesalahan tersebut dengan sebuah “kesalahan ketik” sederhana yang “sayangnya mengubah makna” konten, “sehingga menciptakan ambiguitas tentang fakta bahwa Jaksa dan terdakwa adalah dua orang yang berbeda.”
Kesalahan terjadi dalam jurnalisme. Namun jika menyangkut kesalahan jurnalistik, dengan berani menuduh orang yang salah melakukan pembunuhan – apalagi menuduh pejabat tinggi daerah – adalah tindakan yang tidak pantas. cantik tinggi di sana dalam hal keseriusan.
Tambahkan itu garis hoodlineyang saat ini dimiliki oleh media bernama Impress3, secara terbuka menggunakan AI untuk menemukan dan melawan “berita” sintetik, dan ini adalah kesalahan mencolok terbaru yang dilakukan oleh organisasi media atau penyedia pihak ketiga berbayar yang mencoba menggunakan AI dengan harga murah. menghapus konten.
Kesalahan juga menimbulkan pertanyaan garis hoodlinejanji indah bahwa konten editorialnya dibuat dengan tingkat pengawasan manusia yang tinggi.
“Kami melihat jurnalisme sebagai ilmu kreatif dan seni yang membutuhkan sentuhan manusia,” membaca penafian AI perusahaan. “Dalam upaya kami untuk menyajikan konten yang informatif dan menarik, kami mengintegrasikan kecerdasan buatan (AI) untuk mendukung dan meningkatkan proses editorial kami.”
Artikel tersebut ditautkan ke byline Eileen Vargas, salah satu dari banyak persona jurnalis palsu yang dihasilkan AI di situs tersebut. Sebagai Lab Nieman dilaporkan awal tahun ini, garis hoodlineSederet jurnalis yang berpura-pura mendapat perhatian luas karena berpura-pura menampilkan keberagaman ras di industri yang, pada kenyataannya, didominasi oleh kaum kulit putih dan laki-laki.
Mungkin ada beberapa implikasi bagi Google – sebuah perusahaan AI yang dilaporkan sedang menguji produk berita AI-nya sendiri – juga. mengikuti kotoran teknologiMike Masnick, dia menemukan tuduhan AI palsu ketika garis hoodline potongan di tab Google Berita miliknya. Sekali lagi, bahkan ketika jurnalis melakukan kesalahan, algoritme Google yang melontarkan tuduhan pembunuhan palsu yang disajikan oleh jaringan berita yang didukung AI jelas menimbulkan kontroversi.
Seberapa besar pengaruh yang harus diberikan pada situs berita AI dengan standar editorial yang jelas rendah? Dan bisakah kita memercayai algoritme penyortiran berita untuk menyaring aliran konten yang dihasilkan algoritme yang terus meningkat?
Apa yang dapat kami katakan dengan pasti adalah: kesalahan seperti ini, yang tidak mungkin dilakukan oleh seorang jurnalis yang bekerja dengan proses editorial yang baik, kemungkinan akan menjadi semakin umum karena penerbit memberikan kendali atas AI yang murah dan hampir tidak diawasi. sistem.
Lebih lanjut tentang AI dan media: Temui AdVon, Raksasa Konten Bertenaga AI yang Menginfeksi Industri Media
