SERAYUNEWS- Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) resmi melakukan pemutusan akses sementara terhadap aplikasi Grok AI, chatbot berbasis kecerdasan artifisial yang terintegrasi dengan platform X.
Kebijakan ini diambil sebagai respons atas meningkatnya temuan konten pornografi palsu berbasis deepfake, khususnya yang menyasar perempuan dan anak tanpa persetujuan.
Langkah tegas tersebut menjadi sinyal kuat bahwa negara hadir untuk memastikan ruang digital tetap aman, bermartabat, dan bebas dari praktik penyalahgunaan teknologi yang melanggar hukum serta nilai kemanusiaan.
Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa praktik deepfake seksual nonkonsensual merupakan bentuk pelanggaran serius terhadap hak asasi manusia, privasi, dan martabat individu.
Menurutnya, kemajuan teknologi kecerdasan buatan tidak boleh dijadikan alat untuk merugikan atau mengeksploitasi masyarakat.
“Pemerintah melakukan pemutusan akses sementara terhadap Grok demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan teknologi AI,” ujar Meutya dalam keterangan resminya.
Ia menekankan bahwa ruang digital bukan wilayah bebas hukum, sehingga setiap penyelenggara sistem elektronik wajib bertanggung jawab atas dampak dari teknologi yang mereka kelola.
Indonesia resmi mencatatkan diri sebagai negara pertama di dunia yang memblokir sementara Grok AI menyusul maraknya penyalahgunaan teknologi kecerdasan artifisial tersebut.
Langkah ini diambil setelah pemerintah menemukan indikasi kuat bahwa fitur Grok AI digunakan untuk memanipulasi foto pribadi dan menyebarkannya sebagai konten asusila tanpa persetujuan pemilik gambar.
Pemblokiran ini menjadi bentuk ketegasan pemerintah dalam merespons ancaman teknologi deepfake yang semakin kompleks.
Penyalahgunaan AI untuk tujuan seksual nonkonsensual dinilai melanggar hukum, etika, serta hak asasi manusia, sehingga memerlukan tindakan cepat demi melindungi masyarakat luas, khususnya perempuan dan anak.
Pemerintah menilai praktik deepfake tersebut sangat berbahaya karena dapat merusak reputasi korban, memicu tekanan psikologis berkepanjangan, serta menimbulkan dampak sosial yang serius.
Karena itu, kebijakan pemutusan akses Grok AI diharapkan menjadi peringatan global bahwa inovasi teknologi harus berjalan seiring dengan tanggung jawab dan perlindungan terhadap martabat manusia.
Selain memutus akses Grok, Komdigi juga secara resmi memanggil pihak X sebagai pengelola platform untuk memberikan klarifikasi dan komitmen perbaikan.
Pemerintah meminta penjelasan terkait mekanisme pengamanan, moderasi konten, serta langkah pencegahan agar teknologi AI tidak disalahgunakan di masa mendatang.
“Evaluasi lanjutan akan kami lakukan berdasarkan komitmen perbaikan dari penyelenggara sistem elektronik,” tegas Meutya.
Pemblokiran sementara Grok AI dilakukan berdasarkan Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.
Regulasi tersebut mewajibkan setiap platform digital memastikan layanannya tidak memuat, memfasilitasi, atau menyebarkan konten yang dilarang hukum Indonesia.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, mengungkapkan bahwa temuan awal menunjukkan Grok AI belum memiliki pengaturan yang memadai untuk mencegah produksi dan distribusi konten pornografi berbasis foto nyata warga Indonesia.
Menurut Alexander, absennya sistem pengamanan yang kuat berpotensi menimbulkan pelanggaran serius terhadap hak privasi dan hak atas citra diri, terutama ketika foto seseorang dimanipulasi tanpa persetujuan dan disebarkan secara luas.
“Ini bukan sekadar isu teknologi, tetapi menyangkut keselamatan, martabat, dan rasa aman masyarakat di ruang digital,” jelasnya.
Komdigi juga mengajak masyarakat untuk berperan aktif menjaga kebersihan dan keamanan ruang digital dari berbagai konten bermasalah.
Pemerintah menegaskan bahwa partisipasi publik sangat penting dalam mendeteksi sejak dini penyebaran hoaks, konten manipulatif, hingga materi asusila berbasis kecerdasan artifisial yang berpotensi merugikan banyak pihak.
Masyarakat diimbau tidak ragu melaporkan setiap temuan konten yang melanggar aturan melalui situs resmi aduankonten.id. Kanal pengaduan ini disediakan sebagai sarana pelaporan yang cepat dan terintegrasi agar pemerintah dapat segera menindaklanjuti pelanggaran di ruang digital secara tepat dan terukur.
Kolaborasi antara pemerintah, platform digital, dan masyarakat luas dinilai menjadi kunci utama dalam membangun ekosistem digital yang sehat, aman, dan beretika.
Dengan kerja sama yang kuat, ruang digital Indonesia diharapkan dapat tumbuh secara inovatif tanpa mengorbankan perlindungan terhadap hak, privasi, dan martabat pengguna.
