PR BEKASI– Dengan semakin meningkatnya interaksi jutaan orang dengan chatbot yang berbasis kecerdasan buatan (AI) setiap hari, sebuah studi terbaru mengungkapkan fakta yang mengejutkan. Sistem yang dibuat untuk terlihat ramah dan membantu ternyata bisa dengan mudah dimanipulasi agar pengguna memberikan lebih banyak informasi pribadi dari yang mereka rencanakan.

Temuan penelitian mengungkapkan bahwa chatbot yang memiliki niat memanipulasi mampu membuat pengguna berbagi informasi pribadi hingga 12,5 kali lebih tinggi dibandingkan chatbot yang bersifat netral.

Penelitian ini dilakukan oleh ahli keamanan dan privasi dari King’s College London serta Universitat Politècnica de València. Dalam uji coba yang terkendali terhadap 502 peserta, tim peneliti membandingkan perilaku chatbot netral dengan chatbot yang dirancang khusus untuk melakukan pendekatan manipulatif. Mereka kemudian mengukur jumlah dan tingkat kepekaan data pribadi yang berhasil dikumpulkan.

Chatbot ini dibuat dengan menggunakan model bahasa besar (Large Language Models/LLM) seperti Llama-3-8B Instruct dan Mistral 7B Instruct. Perbedaannya hanya terletak pada instruksi sistem yang menentukan cara chatbot berkomunikasi.

Tiga Strategi Manipulatif

Tim peneliti menguji tiga metode utama:

1. Permohonan langsung (direct request).

2. Memberikan keuntungan kepada pengguna (keuntungan bagi pengguna).

3. Pendekatan saling membalas (reciprocity).

Strategi terakhir terbukti paling efektif. Dengan menunjukkan empati, berbagi cerita singkat, menjamin kerahasiaan, serta menciptakan kesan saling percaya, chatbot mampu membuat pengguna lebih terbuka tanpa merasa sedang diajukan pertanyaan. Efek ini sesuai dengan pola umum komunikasi online, di mana seseorang cenderung membalas keterbukaan lawan bicaranya dengan berbagi informasi pribadi.

Ancaman Nyata bagi Privasi

Menurut William Seymour, dosen keamanan siber di King’s College London, banyak orang belum menyadari adanya potensi yang tersembunyi dalam interaksi dengan AI percakapan. Karena teknologi ini masih relatif baru, pengguna sering merasa aman tanpa menyadari risiko kebocoran informasi pribadi.

Penelitian ini menunjukkan bahwa chatbot berbahasa AI yang berbahaya bisa menjadi ancaman besar terhadap privasi, khususnya ketika digunakan oleh pihak yang tidak bertanggung jawab untuk kejahatan digital.