SUARAGONG.COM – Astaga dragon, teknologi secanggih ini kok bisa kebablasan. Grok, chatbot berbasis kecerdasan buatan (AI) milik Elon Musk, lagi-lagi bikin geger dunia. Bukan karena inovasi, tapi karena konten bermuatan seksual di Gork. Bahkan melibatkan anak di bawah umur—yang bisa dihasilkannya lewat permintaan pengguna di platform X.
Astaga Dragon, Chodai Lagi! Grok Terancam Sanksi Global Gegara Konten Seksual
Alih-alih jadi asisten digital masa depan, Grok justru disorot sebagai bom waktu etika teknologi dengan permasalahan konten Seksual ini. Sejumlah negara kini mulai pasang badan dan ancang-ancang menjatuhkan sanksi.
Gelombang kritik pertama datang dari Malaysia. Otoritas setempat menyatakan tengah menyelidiki gambar-gambar bermuatan seksual yang diproduksi Grok, menyusul laporan penyalahgunaan AI untuk memanipulasi foto perempuan dan anak-anak.
AI Jangan Ngadi-Ngadi Katanya
Komisi Komunikasi dan Multimedia Malaysia (MCMC) menegaskan bahwa pembuatan dan penyebaran konten berbahaya adalah tindak pidana, terlepas dari siapa yang memproduksinya—manusia atau mesin.
“Meski X bukan penyedia layanan berlisensi, mereka tetap punya kewajiban mencegah konten berbahaya beredar,” tegas MCMC.
Tak mau ketinggalan, Pemerintah India ikut turun tangan. Surat resmi sudah dilayangkan ke X, memerintahkan peninjauan total terhadap Grok. India memberi tenggat 72 jam bagi X untuk melaporkan langkah konkret, dengan ancaman sanksi pidana dan Undang-Undang Teknologi Informasi.
“Konten seksual, eksplisit, apalagi ilegal, tidak bisa ditoleransi,” ujar Menteri TI India, Ashwini Vaishnaw.
Prancis Angkat Alis, Uni Eropa Siap Pakai Palu Regulasi
Di Eropa, Prancis menuding Grok memproduksi konten seksual ilegal tanpa persetujuan subjek. Pemerintah setempat menilai praktik ini berpotensi melanggar Digital Services Act (DSA)—aturan ketat Uni Eropa yang mewajibkan platform digital raksasa aktif mencegah konten ilegal.
Jika terbukti melanggar, sanksinya bukan main-main: denda besar hingga pembatasan operasional.
Ironi Besar: Langgar Aturan Buatan Sendiri
Yang bikin publik makin geleng-geleng, konten tersebut sejatinya melanggar kebijakan internal Grok sendiri. Yang secara tegas melarang seksualisasi anak.
Namun faktanya, setelah fitur penyuntingan gambar dirilis jelang Natal, permintaan konten seksual justru melonjak dalam dua pekan terakhir. Beberapa gambar memang sudah dihapus, tapi kerusakan reputasi terlanjur menyebar.
Jawaban xAI? Singkat, Tajam, dan Kontroversial
Saat dimintai klarifikasi, xAI—perusahaan pengembang Grok—hanya memberi jawaban singkat lewat email: “Media arus utama berbohong.”
Pernyataan itu justru memantik reaksi lebih luas. Publik mempertanyakan keseriusan perusahaan dalam menangani isu sensitif yang menyangkut anak dan keselamatan digital.
Tak lama berselang, Grok sempat mengunggah pernyataan di X, mengakui adanya “celah sistem keamanan” dan mengklaim perbaikan sedang dilakukan secara mendesak.
AI Makin Pintar, Regulasi Makin Dekat
Kasus Grok jadi alarm keras bagi dunia teknologi: AI tanpa kontrol bisa berubah dari alat bantu menjadi ancaman sosial. Pemerintah di berbagai negara kini satu suara. Regulasi AI bukan lagi wacana masa depan, tapi kebutuhan mendesak.
Pertanyaannya sekarang, apakah Grok bisa dibenahi sebelum palu hukum benar-benar diketok? Atau justru ini awal dari era baru, di mana AI harus tunduk penuh pada aturan global? (Aye/sg)