Para eksekutif dan karyawan TikTok menyadari bahwa fitur-fiturnya mendorong penggunaan aplikasi secara kompulsif, serta dampak negatifnya terhadap kesehatan mental, menurut NPR. Organisasi penyiaran meninjau dokumen yang belum disunting dari gugatan yang diajukan oleh Kantor Kejaksaan Agung Kentucky sebagaimana diterbitkan oleh Radio Publik Kentucky. Lebih dari selusin negara bagian menggugat TikTok dalam beberapa hari terakhir, menuduhnya “membuat klaim palsu [that it’s] aman bagi generasi muda.” Jaksa Agung Kentucky Russell Coleman mengatakan aplikasi itu “dirancang secara khusus untuk menjadi mesin yang membuat ketagihan, menargetkan anak-anak yang masih dalam proses mengembangkan pengendalian diri yang tepat.”
Sebagian besar dokumen yang diserahkan untuk gugatan tersebut telah menyunting informasinya, tetapi Kentucky telah membatalkan redaksinya. Rupanya, penelitian TikTok sendiri menemukan bahwa “penggunaan kompulsif berkorelasi dengan banyak efek negatif terhadap kesehatan mental seperti hilangnya keterampilan analitis, pembentukan memori, pemikiran kontekstual, kedalaman percakapan, empati, dan peningkatan kecemasan.” Para eksekutif TikTok juga tahu bahwa penggunaan kompulsif dapat mengganggu tanggung jawab tidur, pekerjaan dan sekolah, dan bahkan “hubungan dengan orang-orang terkasih.”
Mereka dilaporkan juga mengetahui bahwa alat manajemen waktu pada aplikasi tersebut tidak membantu dalam menjauhkan pengguna muda dari aplikasi tersebut. Meskipun alat ini menetapkan batas default penggunaan aplikasi menjadi 60 menit per hari, remaja masih menghabiskan 107 menit di aplikasi meskipun aplikasi diaktifkan. Itu hanya 1,5 menit lebih pendek dari rata-rata penggunaan 108,5 menit sehari sebelum alat ini diluncurkan. Menurut dokumen internal, TikTok mendasarkan keberhasilan alat tersebut pada “peningkatannya[ed] kepercayaan publik terhadap platform TikTok melalui liputan media.” Perusahaan mengetahui bahwa alat tersebut tidak akan berfungsi, dengan satu dokumen mengatakan bahwa “[m]Orang-orang di dalam tidak memiliki fungsi eksekutif untuk mengontrol waktu pemakaian perangkat mereka, sedangkan orang dewasa muda memilikinya.” Dokumen lain dilaporkan mengatakan bahwa “di sebagian besar metrik keterlibatan, semakin muda pengguna, semakin baik kinerja mereka.”
Selain itu, TikTok dilaporkan mengetahui adanya “gelembung filter” dan memahami betapa berbahayanya hal tersebut. Para karyawan melakukan studi internal, menurut dokumen tersebut, di mana mereka mendapati diri mereka tersedot ke dalam gelembung filter negatif segera setelah mengikuti akun tertentu, seperti akun yang berfokus pada konten yang menyakitkan (“painhub”) dan sedih (“catatan sedih”) . Mereka juga mengetahui konten dan akun yang mempromosikan “penurunan berat badan”, yang dikaitkan dengan gangguan makan. Karena cara kerja algoritma TikTok, para peneliti menemukan bahwa pengguna dimasukkan ke dalam busa filter setelah 30 menit digunakan dalam sekali duduk.
TikTok juga kesulitan dengan moderasi, menurut dokumen tersebut. Investigasi internal menemukan bahwa gadis-gadis di bawah umur di aplikasi tersebut mendapatkan “hadiah” dan “koin” sebagai imbalan atas penari telanjang secara langsung. Dan petinggi di perusahaan tersebut dilaporkan telah menginstruksikan moderator mereka untuk tidak menghapus pengguna yang dilaporkan berusia di bawah 13 tahun kecuali akun mereka menyatakan bahwa mereka memang berusia di bawah 13 tahun. NPR kata TikTok juga mengakui bahwa sejumlah besar konten melanggar aturannya melalui teknik moderasi, termasuk video yang menormalkan pedofilia, mengagungkan kekerasan seksual ringan, dan kekerasan fisik.
Juru bicara TikTok Alex Haurek membela perusahaan tersebut dan mengatakan kepada organisasi tersebut bahwa pengaduan Kentucky AG “memilih kutipan yang menyesatkan dan mengambil dokumen usang di luar konteks untuk menggambarkan secara keliru komitmen kami terhadap keselamatan komunitas.” Dia juga mengatakan bahwa TikTok memiliki “perlindungan yang kuat, termasuk secara proaktif menghapus pengguna yang dicurigai di bawah umur” dan bahwa TikTok “secara sukarela meluncurkan fitur keamanan seperti batas waktu pemakaian perangkat, pasangan keluarga, dan privasi default untuk anak-anak di bawah 16 tahun.”
