Kemkomdigi: X pastikan Grok tidak digunakan untuk konten pornografi

Kementerian Komunikasi dan Digital (Komdigi) telah memanggil platform X untuk meminta klarifikasi terkait fitur kecerdasan artifisial (AI) Grok.

Dirjen Pengawasan Ruang Digital Kemkomdigi Alexander Sabar mengatakan pihak X dalam pertemuan tersebut menyatakan komitmennya untuk mematuhi ketentuan hukum yang berlaku di Indonesia, serta meningkatkan perlindungan terhadap perempuan dan anak-anak di platformnya.

“X menegaskan akan memastikan fitur AI Grok tidak dapat digunakan untuk menghasilkan konten bermuatan pornografi, serta akan melakukan penindakan terhadap akun-akun yang terbukti melanggar kebijakan dan peraturan perundang-undangan,” kata Alexander kepada ANTARA di Jakarta, Selasa.

Komdigi akan terus melakukan pengawasan dan evaluasi atas komitmen platform X tersebut untuk memastikan perlindungan ruang digital berjalan secara nyata dan berkelanjutan.

Alexander menyampaikan langkah tindakan Komdigi dalam menangani platform yang membuat dan menyebarkan konten pornografi menggunakan AI, termasuk menegaskan bahwa setiap Penyelenggara Sistem Elektronik (PSE) wajib mematuhi seluruh ketentuan peraturan perundang-undangan yang berlaku di Indonesia.

Ketentuan yang wajib dipatuhi PSE termasuk kewajiban pendaftaran, kepatuhan terhadap moderasi konten, serta respons cepat atas perintah pemutusan akses terhadap konten yang dilarang.

“Apabila ditemukan pelanggaran atau ketidakpatuhan, Komdigi memiliki kewenangan untuk menjatuhkan sanksi administratif hingga pemutusan akses layanan,” ujar Alexander.

Lebih lanjut, Alexander mengatakan Komdigi secara aktif melakukan pengawasan serta berkoordinasi dengan aparat penegak hukum guna memastikan teknologi AI tidak disalahgunakan.

“Apabila penyedia layanan maupun pengguna terbukti memproduksi dan/atau menyebarkan konten pornografi dapat dikenakan sanksi administratif dan/atau pidana sesuai dengan ketentuan hukum yang berlaku,” tutur dia.

Sebelumnya, Indonesia melalui Kementerian Komunikasi dan Digital (Kemkomdigi) melakukan pemutusan akses sementara terhadap aplikasi chatbot berbasis kecerdasan artifisial (AI) Grok dalam menjaga ruang digital yang aman dan beretika.

Hal ini lantaran praktik deepfake bermuatan seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara.

"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid.

Seperti diketahui, Grok mengundang kritik keras berbagai kalangan dari seluruh dunia karena memungkinkan pengguna untuk membuat gambar yang berbau pornografi.