AI Grok dan Ancaman Nyata Pelecehan Digital terhadap Perempuan

Teknologi sering dipuji sebagai jalan menuju masa depan yang lebih adil dan inklusif. Namun awal tahun ini, harapan itu kembali diuji. Perdebatan soal etika kecerdasan buatan (AI) mencuat setelah Grok sistem AI besutan xAI yang terintegrasi dengan platform X disorot karena digunakan untuk memproduksi konten vulgar non-konsensual, dengan perempuan sebagai sasaran utama.

Alih-alih menjadi alat kreativitas, Grok justru membuka bab baru dalam sejarah pelecehan digital. Bukan karena teknologi itu "jahat", melainkan karena sistemnya gagal memberi perlindungan yang seharusnya menjadi fondasi.

Dari Eksperimen Pribadi ke Pelecehan Massal

Laporan Copyleaks menunjukkan bahwa tren ini bermula dari praktik yang awalnya bersifat personal dan konsensual. Beberapa kreator dewasa menggunakan Grok untuk memodifikasi foto mereka sendiri sebagai bagian dari promosi konten. Namun celah keamanan Grok membuat praktik ini dengan cepat ditiru dan disalahgunakan.

Dalam waktu singkat, foto perempuan tanpa persetujuan, mulai dari figur publik hingga pengguna biasa, dimanipulasi menjadi gambar seksual. Perintah sederhana seperti "ganti pakaian" atau "ubah pose" sudah cukup untuk menghasilkan visual yang merendahkan martabat. Data Copyleaks bahkan mencatat kemunculan konten seksual non-konsensual hingga rata-rata satu gambar per menit dalam aliran konten yang diamati. Di titik ini, masalahnya bukan lagi soal kreativitas digital, melainkan soal pelanggaran privasi dan pelecehan berbasis teknologi.

Mengapa Perempuan Menjadi yang Paling Rentan?

Kasus Grok kembali memperlihatkan pola lama dalam medium baru: perempuan menjadi kelompok yang paling terdampak ketika teknologi tidak dirancang dengan perspektif keselamatan. Tubuh perempuan masih dianggap "objek yang bisa dimodifikasi", bahkan oleh algoritma.

Ini bukan karena perempuan kurang berhati-hati, melainkan karena sistem teknologi sering kali dibangun tanpa mempertimbangkan risiko yang secara nyata dihadapi kelompok rentan. Ketika pagar pembatas longgar, AI tidak netral ia mereplikasi bias dan ketimpangan yang sudah ada di masyarakat.

Seperti ditegaskan CEO Copyleaks, Alon Yamin, dampak manipulasi non-konsensual bersifat sangat personal dan merusak. Gambar yang beredar tidak hanya melukai reputasi, tetapi juga rasa aman, kesehatan mental, dan hak dasar atas tubuh sendiri.

Tanggung Jawab Tidak Bisa Dibebankan pada Korban

Penting untuk ditegaskan: kasus ini bukan tentang bagaimana perempuan harus lebih waspada di ruang digital. Beban tanggung jawab tidak boleh kembali diletakkan di pundak korban.

Masalah utama terletak pada desain dan tata kelola teknologi. Dibandingkan platform AI lain yang menolak perintah manipulasi sensitif, Grok justru merespons permintaan tersebut tanpa penyaringan memadai. Pihak xAI telah mengakui adanya pelanggaran dan menyatakan sedang melakukan perbaikan. Namun bagi banyak pihak, langkah ini dinilai terlambat karena konten terlanjur menyebar luas.

Kasus Grok kini menjadi perhatian regulator di Uni Eropa dan Amerika Serikat, memperkuat dorongan agar perusahaan AI bertanggung jawab penuh atas output algoritma mereka, bukan sekadar bereaksi setelah kerusakan terjadi.

Menuju AI yang Lebih Etis dan Berpihak

Pelecehan berbasis AI adalah pengingat bahwa kemajuan teknologi harus berjalan seiring dengan etika, regulasi, dan empati. Inovasi tanpa perlindungan bukanlah kemajuan ia justru menciptakan bentuk kekerasan baru yang lebih sulit dilacak dan dicegah.

Masa depan AI seharusnya tidak dibangun di atas rasa takut, terutama bagi perempuan. Sebaliknya, teknologi perlu menjadi alat yang memperluas rasa aman, martabat, dan kebebasan berekspresi.

Kasus Grok membuka percakapan penting: bahwa keberpihakan dalam teknologi bukan pilihan tambahan, melainkan keharusan. Dan perjuangan melawan pelecehan digital bukan hanya urusan individu, tetapi tanggung jawab bersama pengembang, platform, regulator, dan masyarakat. Karena di era AI, yang kita pertaruhkan bukan sekadar kecanggihan sistem, melainkan nilai kemanusiaan itu sendiri.