KETIK, YOGYAKARTA – Masyarakat dunia dihebohkan oleh Grok, AI yang disebut-sebut bisa disalahgunakan untuk membuat konten pornografi artifisial. Akibatnya, sejumlah negara termasuk Indonesia, melarang penggunaan AI buatan Elon Musk tersebut.
Fitur tersebut menuai kritik keras dan memicu pembatasan penggunaan di sejumlah negara serta pengawasan ketat di berbagai platform, termasuk di Indonesia. Polemik ini membuka kembali diskusi serius tentang bahaya kecerdasan buatan ketika digunakan tanpa kendali etis, terutama dalam produksi konten seksual palsu.
Grok bukan satu-satunya AI yang disebut-sebut bisa disalahgunakan untuk membuat konten pornografi artifisial. Di Indonesia, penyalahgunaan teknologi AI untuk memanipulasi foto dan video bermuatan seksual kian meresahkan. Teknologi ini memungkinkan pembuatan konten pornografi palsu secara instan, masif, dan sulit dilacak. Praktik tersebut tidak hanya melanggar privasi, tetapi juga memperparah objektifikasi tubuh, dengan perempuan dan anak sebagai korban utama.
Data tahun 2024 mencatat Indonesia menempati peringkat ketiga dunia dalam kasus pornografi daring, dengan 1.450.403 laporan. Angka ini mencerminkan eskalasi serius eksploitasi seksual di ruang digital, termasuk yang melibatkan teknologi kecerdasan buatan.
Akademisi pemerhati gender dari Sekolah Pascasarjana Universitas Gadjah Mada, Ratna Noviani, menilai kecanggihan AI tidak bisa dipandang semata sebagai kemajuan teknologi. Menurutnya, teknologi ini telah menjadi alat baru untuk mereproduksi dan memperluas kekerasan berbasis gender secara sistemik.
“Ruang digital yang sering diglorifikasi sebagai ruang ‘kebebasan’ pada akhirnya menjadi medan baru bagi reproduksi kekerasan berbasis gender, termasuk kekerasan seksual yang menargetkan perempuan. Ini bukan hanya melanggengkan kekerasan lama, tetapi juga menjadi ruang bentuk-bentuk kekerasan baru, seperti kekerasan berbasis gender online yang bersifat masif, anonim, dan cenderung sulit dihentikan,” jelasnya seperti dikutip dari laman UGM, Sabtu, 17 Januari 2026.
Ratna menjelaskan bahwa ruang digital bekerja sebagai pisau bermata dua bagi perempuan. Di satu sisi, media digital memberi ruang untuk tampil, bersuara, dan membangun visibilitas. Namun di sisi lain, visibilitas tersebut justru membuka celah bagi kekerasan seksual berbasis teknologi.
“Di sini terlihat kontradiksi mendasar, perempuan didorong untuk hadir dan visible di ruang digital, tetapi visibilitas itu justru membuat tubuh dan citra mereka menjadi objek untuk dikontrol, dieksploitasi, dan diserang,” tegasnya.
Ia menilai maraknya praktik manipulasi visual berbasis AI sebagai kelanjutan dari budaya mengintip yang telah lama hidup dalam relasi kuasa berbasis gender. Menurut Ratna, perempuan sejak awal diposisikan dalam kerangka male gaze, sebagai objek tatapan dan konsumsi visual.
“Praktik morphing tidak mengubah logika male gaze ini, ia memperhalus dan melanggengkannya dalam bentuk visual digital yang semakin rapi, realistis, dan invasif,” ujarnya.
Ratna juga menekankan bahwa teknologi dan AI tidak pernah sepenuhnya netral. Sistem AI dibangun dari data, desain, dan imajinasi sosial yang sarat bias, termasuk bias maskulin. Dalam praktik sehari-hari, banyak asisten AI bahkan digenderisasi sebagai feminin, dengan karakter yang merepresentasikan kepatuhan dan pelayanan.
“Hal ini menunjukkan bahwa logika teknologi itu sendiri telah lama mereproduksi posisi perempuan sebagai objek. Oleh karena itu, kekerasan visual digital seperti morphing tidak sekadar evolusi dari voyeurisme, tetapi kelanjutan dari problem struktural yang sama,” jelasnya.
Untuk memutus rantai kekerasan ini, Ratna menekankan pentingnya membangun kesadaran kolektif di ruang digital. Ia mengingatkan bahwa tindakan sederhana seperti menyukai, mengomentari, atau membagikan konten manipulasi AI dapat menjadikan seseorang sebagai pelaku sekunder kekerasan seksual digital.
“Membangun kesadaran kolektif berarti menggeser posisi kita, dari penonton pasif menjadi bagian aktif dari solusi. Kita perlu bersama-sama menjadi pengguna teknologi digital dan AI yang kritis, yang sadar bahwa setiap klik, like, dan share punya konsekuensi etis dan politis,” pungkasnya. (*)
