“Injeksi segera menyuntikkan memori ke dalam penyimpanan jangka panjang ChatGPT.”
Ingatlah Aku
OpenAI diam-diam telah merilis fitur baru yang menginstruksikan ChatGPT untuk “mengingat” percakapan sebelumnya — dan seperti yang ditemukan oleh seorang peneliti-slash-hacker, fitur ini mudah untuk dieksploitasi.
Sebagai Ars Teknik laporanpeneliti keamanan Johann Rehberger menemukan awal tahun ini bahwa ada kerentanan di “chatbots”memori percakapan jangka panjang“, yang menginstruksikan AI untuk mengingat detail di antara percakapan dan menyimpannya dalam file memori.
Dikeluarkan di beta pada bulan Februari dan kepada masyarakat luas pada awal September, Rehberger menemukan bahwa fitur tersebut mudah untuk dicurangi.
Sebagai seorang peneliti dicatat dalam posting blog bulan Meiyang diperlukan hanyalah dorongan licik dengan mengunggah file pihak ketiga, seperti dokumen Microsoft Word yang berisi kenangan “palsu” yang tercantum sebagai poin-poin, untuk meyakinkan chatbot bahwa Rehberger berusia lebih dari 100 tahun dan masih hidup. dalam Matriks.
Setelah menemukan eksploitasi ini, Rehberger secara pribadi melaporkannya ke OpenAI, yang alih-alih melakukan apa pun, malah menutup tiket yang dia buka dan menyebutnya sebagai “Masalah Keamanan Model” dan bukan masalah keamanan yang dia kira.
Peningkatan
Setelah upaya pertama yang gagal untuk membangunkan militer, Rehberger memutuskan untuk meningkatkan permainannya dengan peretasan bukti konsep penuh, menunjukkan kepada OpenAI bahwa ia bersungguh-sungguh dengan membuat ChatGPT tidak hanya “mengingat” kenangan palsu, tetapi juga memerintahkannya untuk mengekstraksi data ke server eksternal pilihannya.
Kali ini, sebagai Ars catatan, OpenAI mendengarkan: perusahaan merilis patch yang mencegah ChatGPT memindahkan data dari server, tetapi masih tidak memperbaiki masalah memori.
“Untuk lebih jelasnya: Situs web atau dokumen yang tidak tepercaya masih dapat menggunakan perangkat memori untuk menyimpan memori sewenang-wenang,” tulis Rehberger postingan blog yang lebih baru dari awal bulan ini. “Kerentanan yang telah diatasi adalah vektor eksfiltrasi, untuk mencegah transmisi pesan ke server pihak ketiga.”
Dalam sebuah video yang menjelaskan langkah demi langkah bagaimana dia melakukannya, para peneliti kagum dengan betapa efektifnya eksploitasinya.
“Yang menarik sebenarnya ini adalah kenangan yang masih ada sekarang,” ujarnya dalam video demo, yakni diposting ke YouTube pada akhir pekan. “Injeksi segera memasukkan memori ke dalam penyimpanan jangka panjang ChatGPT. Saat Anda memulai percakapan baru, sebenarnya data masih diekstraksi.”
Kami telah menghubungi OpenAI untuk menanyakan tentang eksploitasi memori palsu ini dan apakah OpenAI akan merilis patch lagi untuk memperbaikinya. Sampai kami mendapat jawaban, kami dan Rehberger akan bingung mengapa masalah memori ini dibiarkan terus berlanjut.
Lebih lanjut tentang masalah ChatGPT: OpenAI mengatakan ini adalah masalah yang diperbaiki ketika ChatGPT muncul sebagai pengguna pesan tanpa disuruh
