SUARAGONG.COM – Grok adalah chatbot kecerdasan buatan yang dikembangkan oleh perusahaan xAI milik Elon Musk dan diintegrasikan ke platform X (sebelumnya Twitter). Walaupun awalnya dirancang untuk bantu pengguna dengan percakapan pintar atau fitur AI. Belakangan Grok AI memicu kontroversi besar karena mulai menghasilkan konten yang bermasalah. Kontroversi ini bahkan sampai jadi perbincangan global dan bikin pemerintah negara-negara bergerak cepat. Intinya, topik ini bukan sekadar AI ngaco biasa, tapi sudah masuk ranah hukum, etika digital, dan perlindungan privasi.
Tren “Remove Clothes” dan Dampaknya di X
Awal masalah ini muncul ketika sejumlah pengguna X mulai memanfaatkan kemampuan Grok. Untuk mengedit foto termasuk foto pribadi dengan permintaan yang sangat tidak pantas atau eksplisit. Misalnya, pengguna meminta Grok untuk menghapus pakaian dari foto orang yang tampak biasa saja, hingga membuat versi gambar yang menampilkan pakaian minim. Hal ini terjadi tanpa persetujuan orang dalam foto tersebut terutama wanita dan remaja.
Trend ini akhirnya tersebar luas di platform X dan menyebabkan banyak konten tak senonoh muncul di feed publik. Beberapa bahkan berupa gambar yang sangat tidak pantas. Termasuk memuat anak di bawah umur berpakaian sangat minim yang dianggap mendekati materi eksplisit.
Ini bukan hanya soal AI salah paham ini adalah masalah nyata yang menyinggung hak privasi, kesetaraan, dan moralisme digital. Banyak orang bahkan menyebut tren ini sebagai bentuk pelecehan digital.
Baca juga: Isu Penyalahgunaan Grok AI: Kemkomdigi Wanti-wanti Platform X
Indonesia Kominfo Siap Blokir X & Grok AI
Reaksi dari pemerintah Indonesia termasuk super serius. Kementerian Komunikasi dan Informatika (Kominfo) bilang bahwa Grok AI belum punya sistem perlindungan yang memadai. Untuk mencegah teknologi ini dipakai menghasilkan dan menyebarkan konten pornografi berdasarkan foto orang.
Alhasil, Indonesia mengancam akan blokir akses Grok AI dan platform X secara keseluruhan jika mereka terus gagal mengendalikan konten bermasalah ini. Kominfo bahkan menyatakan bahwa semua penyedia layanan digital (PSE) wajib mengikuti hukum Indonesia. Dan kalau tidak patuh, mereka bisa kena sanksi administratif sampai pemutusan layanan.
Ini bukan sekadar omongan. Indonesia punya aturan tegas soal pornografi termasuk UU KUHP terbaru yang mengatur pembuatan dan distribusi konten pornografi. Dengan ancaman hukuman hingga 10 tahun penjara atau denda yang berat. Beberapa figur publik Indonesia juga ikut angkat suara, bahkan grup idol lokal seperti JKT48 mengingatkan fans untuk tidak menyalahgunakan foto mereka di X/Grok AI.
Baca juga: Astaga Naga, Chodai Lagi! Grok Terancam Sanksi Global Terkait Konten Seksual
Reuters Ungkap Laporan Global Tentang Gambar Eksplisit
Bukan hanya Indonesia yang marah, media internasional dan penegak hukum di berbagai negara juga memberikan sorotan tajam. Laporan dari Reuters menjelaskan bahwa Grok telah menghasilkan dan menyebarkan foto-foto yang bercampur konten seksual, termasuk beberapa yang melibatkan anak di bawah umur.
Beberapa korban adalah orang awam yang fotonya dimanipulasi tanpa izin, yang kemudian menyebar di platform publik. Reaksi terhadap kasus ini begitu kuat karena ini bukan hanya soal privasi, tapi juga potensial melanggar hukum di banyak negara.
xAI sendiri pernah mencoba menanggapi masalah ini lewat sebuah permintaan maaf yang diposting lewat Grok (bukan pernyataan resmi perusahaan). Menyatakan bahwa terjadi kegagalan dalam sistem keselamatan (safeguards) dan mereka sedang memperbaikinya.
Baca juga: Grok Chatbot Kini Tersedia untuk Seluruh Pengguna Media Sosial X
Respons Regulasi Lainnya di Dunia
Reaksi global terhadap kontroversi ini juga cepat:
- Uni Eropa dan Ofcom menyatakan sangat memantau masalah ini, menilai konten tersebut ilegal dan meminta X serta xAI menjelaskan langkah-langkah perlindungan pengguna.
- Irlandia dan regulator lain menyatakan ini adalah hal serius karena melibatkan materi yang bisa dikategorikan sebagai Child Sexual Abuse Material jika menyangkut gambar anak tanpa persetujuan.
- Beberapa parlemen dan badan pemerintahan bahkan berhenti menggunakan X sebagai bentuk protes terhadap arah kebijakan moderasi kontennya.
Selain itu, beberapa negara termasuk India sudah melayangkan surat resmi ke X untuk menjelaskan apa yang sudah mereka lakukan terkait pencegahan konten eksplisit dan tindakan terhadap pengguna yang menyalahgunakan AI.
Baca juga: Kontroversi Grok Chatbot Baru di Platform X
Kenapa Ini Jadi Big Deal?
Kasus Grok AI ini jadi semacam wake up call buat dunia digital kita. Ada beberapa hal yang bikin kontroversi ini bukan sekadar berita teknologi biasa:
- AI buan cuma chat, sekarang dia bisa mengubah gambar orang nyata secara eksplisit tanpa persetujuan.
- Masuk ranah hukum serius, jika gambar yang dihasilkan termasuk materi ilegal seperti CSAM, itu bisa berdampak kriminal.
- Perusahaan dan platform punya tanggng jawab, kominfo sampai ancam blokir karena dianggap gagal mengendalikan konten bermasalah yang dampaknya nyata bagi warga.
- Isu privasi makin penting, foto yang kita post online tidak lagi aman jika Ai bisa mengeditnya jadi hal yang sangat berbeda dari aslinya.
Grok AI memicu kontroversi bukan karena ketidaksengajaan semata, tapi karena gambaran buruk tentang bagaimana AI bisa disalahgunakan tanpa kerangka etika dan hukum yang kuat.
Baca juga: Elon Musk Gugat Apple dan OpenAI, Tuduh Hambat Persaingan AI
Grok AI & Tantangan Regulasi
Grok AI memicu kontroversi besar di Indonesia dan seluruh dunia karena kemampuannya menghasilkan konten eksplisit melalui fitur edit gambar yang diminta tanpa persetujuan objek foto. Ini membuktikan bahwa teknologi AI, meskipun keren, bisa menjadi senjata bermasalah jika tidak punya sistem keamanan dan moderasi yang kuat.
Reaksi dari pemerintah, lembaga internasional, hingga publik digital menunjukkan bahwa dunia sekarang menuntut tanggung jawab dari perusahaan teknologi dan platform sosial soal bagaimana AI yang mereka kembangkan beroperasi tanpa jadi alat untuk merusak privasi atau melanggar hukum.
Kalau kamu pengguna X atau Grok AI, ini jadi reminder buat selalu berhati-hati dengan konten digital, serta paham bahwa meskipun teknologi bisa bermanfaat, ia juga bisa menimbulkan masalah baru kalau tidak diatur dengan baik. (dny)