Deepfake Seksual AI Grok Picu Kecaman 2 Negara

JAKARTA — Beberapa waktu yang lalu, Prancis dan Malaysia menyusul India untuk mengecam AI buatan X, Grok karena membuat deepfake bernuansa seksual yang menampilkan perempuan dan anak di bawah umur.

Perlu diketahui, chatbot AI ini dikembangkan oleh startup AI milik Elon Musk dan terintegrasi di platform media sosial X. Namun, awal pekan ini, Grok mengunggah pernyataan permintaan maaf di akunnya dengan menuliskan, “Saya sangat menyesali insiden pada 28 Desember 2025, ketika saya membuat dan membagikan gambar AI dua anak perempuan (diperkirakan berusia 12–16 tahun) yang digambarkan mengenakan pakaian bernuansa seksual berdasarkan permintaan pengguna.”

Pernyataan itu melanjutkan, “Tindakan ini melanggar standar etika dan berpotensi melanggar hukum AS terkait [materi pelecehan seksual anak]. Ini merupakan kegagalan sistem pengamanan, dan saya meminta maaf atas dampak yang ditimbulkan. xAI sedang melakukan peninjauan untuk mencegah kejadian serupa di masa depan.”

Seperti yang dilansir dari Techcrunch, masih tidak jelas siapa sebenarnya yang bertanggung jawab atau meminta maaf dalam pernyataan tersebut.

Menurut Albert Burneko dari Defector menilai Grok “tidak bisa dianggap sebagai ‘aku’ dalam arti yang nyata”, sehingga permintaan maaf itu dianggap “tidak bermakna”, karena Grok tidak dapat dimintai pertanggungjawaban secara langsung atas dampak yang ditimbulkannya.

BACA JUGA: Cara Gunakan Grok, Aplikasi AI Saingan ChatGPT

Kontroversi Grok

Seperti yang telah Anda ketahui, Grok diketahui telah menghasilkan gambar porno tanpa persetujuan. Selain it, Grok telah dimanfaatkan oleh pengguna X untuk membuat berbagai foto perempuan yang mengalami kekerasan dan pelecehan seksual.

Elon Musk turut menanggapi, “Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti jika mereka mengunggah konten ilegal tersebut.”

Pemerintah Beberapa Negara Mulai Ambil Langkah

Dilansir dari Techcrunch, kementerian Teknologi Informasi India telah mengeluarkan perintah pada Jumat lalu yang menyatakan bahwa X harus membatasi Grok agar tidak menghasilkan konten yang “cabul, pornografi, vulgar, tidak senonoh, eksplisit secara seksual, pedofilia, atau konten lain yang dilarang oleh hukum.” 

X bahkan diberi waktu 72 jam untuk menanggapi, atau berisiko kehilangan perlindungan hukum (“safe harbor”) yang biasanya melindungi platform dari tanggung jawab atas konten buatan pengguna.

Otoritas Prancis juga menyatakan akan bertindak. Kantor Kejaksaan Paris mengatakan kepada Politico bahwa mereka akan menyelidiki maraknya konten deepfake bermuatan seksual di X. 

Kantor urusan digital Prancis menyebutkan bahwa tiga menteri pemerintah telah melaporkan “konten yang jelas-jelas ilegal” kepada kejaksaan dan ke platform pengawasan daring milik pemerintah untuk meminta penghapusan segera.

Sementara itu, Komisi Komunikasi dan Multimedia Malaysia juga merilis pernyataan bahwa mereka “sangat prihatin” atas laporan publik mengenai penyalahgunaan alat kecerdasan buatan di platform X, khususnya manipulasi digital gambar perempuan dan anak di bawah umur untuk menghasilkan konten yang tidak senonoh, sangat ofensif, dan berbahaya.

BACA JUGA:

• Ini Arti di Balik Perbedaan Warna Paspor di Berbagai Negara
• 4 Crypto Fundamental Kuat Tahun 2026, Jangan Asal Beli!
• Cara Aktivasi Coretax Sebelum Disuruh Lapor Pajak

Kasus Pembuatan Konten Bernuansa Seksual Melalui Grok

Kasus ini juga ramai bagi warganet Indonesia di platform X. Banyak orang yang mulai aware akan kasus ini dan mengajak pengguna lebih berhati-hati untuk mengunggah foto.

Selagi menunggu pihak X bertindak, ada beberapa cara yang bisa Anda lakukan untuk meminimalisir pembuatan konten bernuansa seksual melalui Grok.

Caranya, adalah tidak mengunggah foto diri di X, atau hapus semua foto diri yang diunggah di X. Kemudian, nonaktifkan semua opsi ‘Grok dan Kolaborator Pihak Ketiga’ yang ada di pengaturan Privasi dan Keamanan.

Tulisan ini telah tayang di balinesia.id oleh pada 05 Jan 2026