MALANGPARIWARA.COM – Mahasiswa Universitas Brawijaya (UB) mengungkap sisi gelap pemanfaatan kecerdasan buatan (AI) di media sosial X. Melalui riset sosial humaniora, tim mahasiswa UB menemukan pola pelecehan seksual digital berbasis AI yang memanfaatkan interaksi dengan chatbot generatif, termasuk Grok AI, untuk memproduksi narasi dan objektifikasi seksual secara non-konsensual.
Fenomena tersebut dikaji dalam kerangka Technology-Facilitated Sexual Violence (TFSV), yakni kekerasan seksual yang difasilitasi teknologi.
Penelitian ini berangkat dari keresahan mahasiswa terhadap maraknya manipulasi narasi, eksploitasi identitas digital, serta objektifikasi tubuh kelompok rentan yang kemudian dibungkus sebagai candaan atau hiburan berbasis teknologi.
Anggota tim dari Program Studi Sosiologi UB, Fairuz Mumtazah, mengatakan perkembangan AI generatif menghadirkan persoalan etika baru ketika teknologi tersebut digunakan untuk menghasilkan konten yang merendahkan atau melecehkan seseorang.
“Di balik keseruan publik berinteraksi dengan AI generatif, terdapat krisis etika ketika oknum mendelegasikan perintah spesifik untuk memproduksi narasi pelecehan seksual secara terbuka,” ujar Fairuz.
Menurut dia, integrasi fitur interaktif AI dengan basis data real-time tanpa mekanisme penyaringan etika yang memadai dapat membuka ruang eksploitasi secara sistematis.
Temuan tersebut kemudian diperkuat melalui observasi digital terhadap aktivitas di platform X. Anggota tim dari Program Studi Teknik Informatika FILKOM UB, Fajar Okta Ramadan, menjelaskan penelitian dilakukan dengan menyaring 390 unit interaksi hingga mencapai titik saturasi data.
Proses pengumpulan dan pengolahan data dilakukan dengan memperhatikan etika riset siber melalui anonimisasi identitas. Tim menggunakan pra-pemrosesan dengan skrip Python serta pemetaan Social Network Analysis menggunakan Gephi.
“Hasil observasi menunjukkan interaksi agresi terpusat pada sistem Grok AI sebagai penerima mention terbanyak. Kami juga menemukan klaster akun yang berperan sebagai aktor jembatan atau penggerak utama dalam mengarahkan perintah pelecehan ke dalam sistem tersebut,” jelas Fajar.
Tidak berhenti pada pemetaan jaringan digital, tim juga membedah bagaimana pelaku membangun narasi untuk membenarkan perilaku tersebut.
Anggota tim dari Program Studi Psikologi UB, Safinatun Naja Handayani, mengatakan analisis kualitatif dilakukan melalui double coding independen dengan tingkat reliabilitas yang sangat tinggi, ditunjukkan melalui nilai kappa 0,974.
Dari Analisis Wacana Kritis (AWK), tim menemukan adanya pola moral disengagement atau pelepasan moral. Salah satu bentuknya adalah euphemistic labeling, ketika tindakan agresif dibungkus dengan istilah atau narasi yang terdengar lebih ringan seperti “candaan AI”.
“Pelaku menggunakan AI untuk melunturkan rasa bersalah. Melalui mekanisme moral disengagement, pelaku membungkus agresi seksual ke dalam ‘candaan AI’, padahal secara gramatikal mereka secara aktif mereduksi subjek menjadi sekadar komoditas visual,” terang Safin.
Temuan tersebut menjadi dasar bagi tim untuk tidak sekadar memetakan persoalan, tetapi juga menyusun rekomendasi kebijakan.
Melalui penelitian tersebut, tim menghasilkan policy brief bertajuk “SAFE AI: Intervensi Kebijakan Moderasi Platform Interaktif Guna Mencegah Objektifikasi Seksual Generatif di Ruang Digital”.
Rekomendasi itu ditujukan kepada Kementerian Komunikasi dan Digital (Komdigi) serta pengembang teknologi global agar memperkuat mekanisme moderasi konten, khususnya terhadap potensi kekerasan dan objektifikasi seksual yang difasilitasi AI.
Ketua tim peneliti dari Program Studi Ilmu Komunikasi FISIP UB, Wahyu Najwan Iqbal, mengatakan riset tersebut juga dilengkapi video edukasi interaktif melalui pendekatan Curated Visual Storytelling.
“Sebagai langkah nyata menyelamatkan ekosistem siber nasional, riset ini menghasilkan Policy Brief berperspektif gender serta video edukasi interaktif Curated Visual Storytelling,” kata Wahyu.
Tim juga melakukan diskusi bersama Balai Pelatihan Sumber Daya Manusia (BLSDM) Komdigi Surabaya untuk menyelaraskan rekomendasi penelitian dengan kebutuhan kebijakan di lapangan.
Penelitian ini turut melibatkan Rama Caesario Anugrah dari Program Studi Sosiologi UB yang berperan memastikan kepatuhan terhadap etika riset siber KERIS-UB.
Riset tersebut didanai melalui Program Kreativitas Mahasiswa Riset Sosial Humaniora (PKM-RSH) 2026. Penelitian berada di bawah bimbingan dosen Sosiologi UB Ayu Kusumastuti, S.Sos., M.Sc., Ph.D. dan dosen Psikologi UB Prof. Cleoputri Al Yusainy, S.Psi., M.Psi., Ph.D.
Melalui temuan tersebut, tim mahasiswa UB mendorong masyarakat agar semakin kritis dalam menggunakan teknologi AI dan media sosial. Mereka juga menilai pengembang platform perlu memperkuat standar moderasi yang responsif terhadap risiko kekerasan berbasis gender.
Bagi tim peneliti, perkembangan AI tidak cukup hanya diukur dari kecanggihan teknologinya. Persoalan etika, perlindungan identitas, dan keamanan pengguna harus menjadi bagian penting dalam membangun ruang digital yang aman dan berkeadilan.(Djoko W)
