diajeng.id - Dunia digital mengalami semakin banyak perubahan sejak Sam Altman dan OpenAI meluncurkan ChatGPT pada November 2022.
Seiring ChatGPT mendulang popularitas, penggunaan Akal Imitasi (AI) dalam berbagai aktivitas sehari-hari menjadi kian wajar; pegawai, mahasiswa, bahkan anak-anak yang masih duduk di bangku sekolah memanfaatkannya sebagai alat bantu untuk menyelesaikan tugas dan pekerjaan.
Melansir The Conversation, survei terhadap 32.352 pekerja di 47 negara menunjukkan bahwa penggunaan AI di tempat kerja dinilai meningkatkan efisiensi, akses informasi, inovasi dan kualitas kerja. Meski begitu, sebanyak 47 persen pekerja mengaku pernah menyalahgunakan AI, sementara 63 persen lainnya mengaku pernah melihat rekan kerja melakukan hal serupa.
Di media sosial, maraknya konten buatan AI menimbulkan kekhawatiran tentang mana yang nyata, mana yang deepfake atau hasil manipulasi oleh AI. Ketika disalahgunakan, deepfake dapat menjadi sarana penyebaran informasi palsu, pencemaran reputasi, hingga pelecehan seksual di ruang digital.
Tubuh dan Wajah Dimanipulasi Tanpa Persetujuan
Baru-baru ini model dan kreator konten Indonesia Tamara Dai mengungkapkan kekecewaannya di media sosial setelah mengetahui bahwa wajah dan tubuhnya digunakan dalam sebuah video promosi produk skincare yang menggunakan AI tanpa persetujuannya.
Melalui unggahan di Instagram, Tamara menjelaskan bahwa video tersebut menampilkan sosok yang menyerupai dirinya, tetapi dengan bentuk tubuh yang telah dimanipulasi.
Persoalannya tidak berhenti pada penggunaan wajah Tamara tanpa izin. Konten tersebut berpotensi menimbulkan kesan bahwa Tamara ikut serta mendukung produk yang dipromosikan, padahal Tamara tidak pernah menyetujui penggunaan identitasnya untuk kepentingan tersebut.
Kasus serupa pernah terjadi pada bintang film Hollywood, Jenna Ortega. Pada 2024 silam, NBC News mewartakan bahwa foto Ortega saat berusia 16 tahun digunakan dalam iklan aplikasi Perky AI. Aplikasi ini menawarkan fitur untuk memanipulasi foto perempuan agar terlihat telanjang.
Siapa pun berisiko jadi korban pelecehan dari penyalahgunaan deepfake. Melansir liputan The Guardian yang terbit Januari 2025, perempuan berusia 27 tahun asal Cambridgeshire, Inggris dengan nama samaran Jodie menemukan ratusan gambar dan video seksual palsu yang menampilkan wajahnya di sebuah forum pornografi pada tahun 2021.
Foto-foto tersebut, termasuk foto Jodie yang mengenakan pakaian lengkap dan diambil dari akun Instagram pribadinya, diolah sedemikian rupa untuk membuat konten seksual.
Pengalaman itu semakin menyakitkan setelah Jodie menyadari bahwa salah satu orang yang terlibat dalam kejahatan tersebut adalah teman dekatnya sendiri. Teman tersebut mengunggah foto Jodie dan mengajak pengguna forum lainnya untuk meng-generate gambar seksual palsu menggunakan wajah Jodie.
Meski konten tersebut akhirnya dihapus, dampaknya tidak serta-merta hilang. Bertahun-tahun setelah kejadian, Jodie masih khawatir gambar-gambar itu akan kembali beredar. Jodie juga memilih menggunakan nama samaran karena takut menjadi korban lagi.
Deepfake abuse, demikian istilah untuk menyebut penyalahgunaan AI yang memanipulasi gambar, video maupun audio sehingga orang di dalamnya terlihat melakukan sesuatu yang sebenarnya tidak pernah terjadi. Salah satu bentuk deepfake abuse yang ekstrem adalah penciptaan gambar dan video seksual dengan menampilkan sosok telanjang di dalamnya.
Sementara melansir UNICEF, konten seksual anak yang dibuat atau dimanipulasi menggunakan AI bahkan dapat digolongkan sebagai child sexual abuse material (CSAM) sekaligus merupakan bentuk kejahatan seksual parah.
Dengan beredarnya foto dan video hasil manipulasi AI yang menampilkan wajah-wajah perempuan dari dunia nyata, perempuan pun mulai kehilangan rasa aman, privasi dan kebebasannya untuk menampilkan diri di ruang publik.
Di platform media sosial populer seperti X, TikTok, dan Instagram, upaya platform untuk menghapus (takedown) akun yang melanggar aturan keamanan belum sepenuhnya berhasil menghentikan penyebaran konten pornografi yang dibuat menggunakan AI. Sebagian pemilik akun masih dapat mengakali sistem moderasi untuk mengunggah kembali atau menyebarkan konten semacam ini.
Sebut salah satunya akun yang mengunggah gambar atau video perempuan berhijab dengan bagian tubuh yang dimanipulasi sedemikian rupa menjadi sangat seksual, dilengkapi caption yang bernada seksual pula. Wajah yang ditampilkan bisa jadi wajah orang asli, bisa juga wajah ciptaan AI.
Sementara di aplikasi penyimpanan aset-aset visual untuk ideasi kreatif, Pinterest, penyalahgunaan AI juga terjadi melalui proses edit foto-foto idol K-pop. Pada beberapa contoh, foto-foto idol dimanipulasi dengan menggabungkan wajah mereka dengan tubuh yang berbeda sehingga menghasilkan foto yang lebih sensual.
Pinterest sebenarnya telah menyediakan "penanda" untuk konten yang dimodifikasi menggunakan AI. Namun begitu, label tersebut tidak serta-merta menyelesaikan masalah terkait konsen atau persetujuan. Konten yang telah diberi label AI tetap bisa menggunakan wajah atau identitas seseorang tanpa persetujuan orang tersebut.
Tantangan dalam Penanganan Deepfake Abuse
Mengutip jurnal Computers in Human Behavior (2026), penelitian terhadap 7.231 responden dewasa di Australia, Inggris, dan Amerika Serikat menemukan bahwa 3,2 persen responden mengaku pernah membuat dan membagikan gambar seksual hasil AI, sementara 18 persen lainnya mengaku dengan sengaja melihat gambar seksual buatan AI.
Dalam penelitian yang dilakukan oleh Rebecca Umbach dan rekan-rekannya tersebut, diketahui bahwa gambar seksual yang dibuat tanpa persetujuan tersebut awalnya hanya dianggap sebagai lelucon, sehingga pelaku merasa tidak melakukan sesuatu yang salah. Padahal, korban sampai harus melalui dampak-dampak psikologis yang berkepanjangan.
Mengutip UN Women, belum ada separuh negara di dunia ini yang memiliki undang-undang untuk mengatur pelecehan seksual di ruang digital, sementara aturan khusus mengenai konten deepfake seksual jauh lebih terbatas penerapannya di beberapa negara saja.
Dampaknya pun tidak berhenti di ruang digital. Survei UN Women menunjukkan bahwa 41 persen perempuan yang mengalami kekerasan digital juga menghadapi serangan di dunia nyata akibat dari kekerasan digital yang mereka alami.
Selain itu, korban masih rentan menghadapi hambatan ketika melapor. Alih-alih mendapat perlindungan, mereka kerap harus menceritakan kembali pengalaman yang menyakitkan, menghadapi pertanyaan-pertanyaan yang menyudutkan, bahkan disalahkan atas pelecehan yang mereka alami.
Proses pelaporan di platform digital pun tidak selalu mudah terutama bagi kondisi mental korban. Korban masih harus mengumpulkan bukti-bukti konten yang tersebar, melaporkannya berulang kali, dan terombang-ambing dalam limbo alias ketidakpastian; apakah konten-kontennya benar-benar bisa hilang dari semesta digital.
Kita punya tanggung jawab bersama untuk menciptakan ruang digital yang aman bagi semua. Pemerintah perlu memastikan adanya perlindungan hukum dan mekanisme penanganan yang berpihak pada korban, sementara platform digital perlu memperkuat sistem pelaporan dan penanganan konten bermasalah.
Perubahan juga harus dimulai dari cara kita memperlakukan korban dan memilih untuk tidak ikut memperpanjang penyebaran konten yang merugikan mereka.
Berhenti mempertanyakan pilihan-pilihan korban, apalagi sampai menyalahkan mereka. Ingatkan orang di sekitar kita yang masih menganggap konten seksual hasil deepfake AI sebagai lelucon untuk konsumsi publik. Di balik celetukan seperti, “Ah, cuma lucu-lucuan gitu kok,” ada privasi dan martabat manusia yang dilanggar.
Penulis: Arrazani Hafidza
Editor: Sekar Kinasih
