SUARAGONG.COM – Kementerian Komunikasi dan Digital (Kemkomdigi) tengah mendalami dugaan penyalahgunaan fitur kecerdasan buatan Grok AI di platform media sosial X. Teknologi tersebut diduga dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi atau deepfake bermuatan sensitif tanpa persetujuan pemilik foto.
Kemkomdigi Selidiki Dugaan Penyalahgunaan Grok AI di Platform X
Pemerintah menegaskan tidak akan ragu menjatuhkan sanksi tegas. Mulai dari sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X dapat diberlakukan. Jika para pengelola dinilai tidak patuh terhadap peraturan perundang-undangan di Indonesia atau bersikap tidak kooperatif.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang memadai untuk mencegah produksi dan distribusi konten pornografi berbasis foto nyata warga Indonesia.
“Kami menemukan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah penyalahgunaan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Ini berisiko melanggar hak privasi dan hak atas citra diri warga,” ujar Alexander Sabar dalam keterangan tertulis, Rabu (7/1/2026).
Konten Deepfake Asusila Marak Dibuat Grok AI
Menurutnya, manipulasi digital terhadap foto pribadi tidak bisa dipandang semata sebagai pelanggaran kesusilaan. Praktik tersebut dinilai sebagai bentuk perampasan kendali individu atas identitas visualnya. Di mana berpotensi menimbulkan dampak serius, mulai dari tekanan psikologis, stigma sosial, hingga kerugian reputasi.
“Ini bukan sekadar soal moral, tapi menyangkut hak dasar seseorang atas citra dirinya,” tegasnya.
Dilansir dari Rilis Komdigi. Saat ini, Kemkomdigi tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya mekanisme perlindungan yang efektif. Langkah tersebut mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila. Serta prosedur penanganan cepat terhadap laporan pelanggaran privasi.
Alexander menegaskan, seluruh PSE yang beroperasi di Indonesia wajib memastikan teknologi yang mereka sediakan tidak menjadi sarana eksploitasi seksual, pelanggaran privasi, maupun perusakan martabat manusia.
“Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, Kemkomdigi dapat menjatuhkan sanksi administratif. Bahkan pemutusan akses layanan Grok AI dan platform X,” pungkasnya. (Aye/sg)