Karyawan Snap sangat menyadari masalah keselamatan anak pada aplikasi tersebut, demikian isi pengaduan yang baru dibuka

“Pada bulan November 2022, karyawan Snap telah mendiskusikan 10.000 laporan pengguna tentang pelecehan seksual setiap bulannya, dan mengakui bahwa laporan-laporan ini ‘mungkin mewakili sebagian kecil dari pelanggaran ini’ mengingat rasa malu dan hambatan lain dalam pelaporan,” kata versi gugatan yang baru diajukan. . diajukan oleh Jaksa Agung New Mexico terhadap Snap. Versi pengajuan yang tidak terlalu disunting ini, yang pertama kali kita lihat sebulan yang lalu, menambahkan rincian baru tentang apa yang diduga diketahui oleh karyawan Snap tentang cakupan masalah pemerasan seks yang dituduh difasilitasi di platformnya.

Dalam satu dugaan, karyawan tersebut merujuk pada sebuah kasus dengan 75 laporan yang memberatkannya “mengacu pada ketelanjangan, anak di bawah umur, dan pemerasan, namun akun tersebut masih aktif.” Dan pada tahun 2022, penelitian internal Snap diduga menemukan bahwa lebih dari sepertiga remaja perempuan dan 30 persen remaja laki-laki di aplikasinya telah terpapar “kontak yang tidak diinginkan di platformnya.” kata pengaduan itu.

Rincian baru ini memberikan gambaran tentang sebuah perusahaan yang menyadari dugaan kelemahannya dalam melindungi anak-anak dalam layanannya, namun tidak cukup fokus untuk memperbaikinya. “Mantan karyawan kepercayaan dan keamanan Snap mengeluh bahwa ‘mereka memiliki sedikit kontak dengan manajemen tingkat atas, dibandingkan dengan pekerjaan mereka di perusahaan media sosial lainnya, dan ada penolakan dalam upaya menambahkan mekanisme keamanan di aplikasi karena [Snap CEO] Evan Spiegel mengutamakan desain,'” kata pengaduan tersebut.

Dalam sebuah pernyataan yang diposting di ruang redaksinya, Snap mengatakan aplikasinya dirancang “sebagai tempat untuk berkomunikasi dengan teman dekat, dengan pagar pengaman bawaan, dan telah membuat pilihan desain yang disengaja untuk mempersulit orang asing menemukan layanan kami.” . Kami terus mengembangkan mekanisme dan kebijakan keamanan kami, mulai dari memanfaatkan teknologi canggih untuk mendeteksi dan memblokir aktivitas tertentu, hingga memblokir akun yang mencurigakan, hingga bekerja sama dengan penegak hukum dan lembaga pemerintah, dan banyak lagi lainnya.”

Berdasarkan pengaduan tersebut, karyawan Snap menyebarkan laporan eksternal pada tahun 2021 yang mencakup contoh dugaan predator yang menghubungi anak-anak berusia delapan tahun melalui Snapchat dan memperoleh materi pelecehan seksual terhadap anak. Namun mereka khawatir bahwa tindakan untuk menangkap perilaku semacam ini akan membebani privasi pengguna dan “menimbulkan biaya administrasi yang tidak proporsional,” demikian klaim pengaduan tersebut.

Karyawan juga diduga mengidentifikasi risiko pada fitur Snapchat tertentu, seperti Quick Add, yang menyarankan pengguna lain untuk terhubung. “Kami perlu menemukan pendekatan baru yang melindungi pengguna kami yang paling rentan (anak di bawah umur) dan mempersulit pengguna predator untuk menemukan mereka melalui penambahan cepat, pencarian, dll.,” tulis seorang eksekutif, menurut pengaduan tersebut. “Kami yakin kami dapat mencapai hal ini tanpa secara berarti menurunkan pengalaman produk bagi para pengguna ini jika kami menerapkan strategi baru dalam pembuatan inventaris/batasan dan teknik lain agar lebih efektif menyasar anak di bawah umur dibandingkan orang-orang di luar jaringan mereka.” Snap kemudian membuat fitur Tambah Cepat hanya akan muncul untuk akun berusia 13 hingga 17 tahun ketika mereka memiliki “jumlah teman yang sama dengan orang tersebut”. Namun secara internal, menurut pengaduan tersebut, karyawan menyadari bahwa pendekatan tersebut masih memiliki kelemahan yang signifikan.

Pengaduan yang tidak tersegel ini juga mencakup rincian lebih lanjut tentang bagaimana Snap diduga memfasilitasi penjualan senjata api ilegal. Dalam presentasi yang tidak bertanggal, perusahaan tersebut mengakui bahwa platformnya melihat “50 postingan terkait dengan penjualan senjata api ilegal per hari dan 9.000 penayangan per hari dari senjata yang dipasarkan tersebut.” Dan meskipun isinya dilaporkan, “[r]konten yang diekspor biasanya dilihat ratusan kali sebelum dilaporkan.”

Ini juga mencakup komunikasi internal yang mengakui kecanduan Snapstreaks, di mana pengguna diberi tahu berapa hari mereka terus berkomunikasi dengan pengguna lain. “Wow, kita seharusnya memiliki lebih banyak fitur adiktif seperti ini,” salah satu karyawan diduga menulis, menurut email pada bulan Januari 2017. “Sebagian besar pencela adalah demografi inti kami,” tulis yang lain. Presentasi pada bulan Oktober 2019 dikatakan menyatakan bahwa “Garis-garis membuat rooting tidak mungkin dilakukan bahkan untuk sehari.”