Komdigi Blokir Akses Grok AI Elon Musk: Diduga Sebarkan Deepfake Seksual
Depok, Stapo.id - Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) secara resmi mengambil tindakan tegas dengan melakukan pemutusan akses sementara terhadap aplikasi kecerdasan artifisial, Grok. Aplikasi yang berafiliasi dengan platform X milik Elon Musk ini diblokir karena dinilai berisiko tinggi memproduksi dan menyebarkan konten pornografi palsu atau deepfake seksual nonkonsensual.
Langkah krusial ini diambil pada Sabtu, 10 Januari 2025, sebagai upaya preventif untuk melindungi hak asasi manusia, martabat, dan keamanan seluruh warga negara, khususnya perempuan dan anak, di ruang digital Indonesia. Menteri Komunikasi dan Digital, Meutya Hafid, menyatakan bahwa praktik deepfake seksual nonkonsensual merupakan pelanggaran serius terhadap keamanan warga negara. Pemerintah juga telah meminta klarifikasi langsung dari platform X terkait dampak negatif yang timbul akibat penggunaan Grok AI.
Keputusan pemutusan akses ini berlandaskan pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020, khususnya Pasal 9. Regulasi ini secara eksplisit mewajibkan Penyelenggara Sistem Elektronik (PSE) untuk memastikan sistem yang mereka kelola tidak memuat atau memfasilitasi penyebarluasan informasi elektronik yang dilarang. Komdigi menekankan pentingnya kepatuhan terhadap regulasi digital di yurisdiksi Indonesia.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menjelaskan temuan awal menunjukkan kelemahan mendasar dalam sistem Grok AI. Ia menyebutkan bahwa Grok AI belum memiliki pengaturan yang memadai dan eksplisit untuk mencegah produksi serta distribusi konten pornografi yang dimanipulasi dari foto nyata warga Indonesia. Menurut Alexander, kondisi ini menimbulkan potensi serius pelanggaran terhadap hak privasi dan citra diri, terutama ketika foto seseorang disebarluaskan tanpa persetujuan yang sah.
FAQ:
1. Apa alasan utama Komdigi memblokir sementara Grok AI?
Alasan utamanya adalah untuk melindungi masyarakat dari risiko konten pornografi palsu (deepfake seksual nonkonsensual) yang dihasilkan menggunakan teknologi AI. Komdigi menilai sistem Grok belum memiliki pengaturan spesifik untuk mencegah manipulasi foto nyata warga.
2. Dasar hukum apa yang digunakan Komdigi untuk mengambil tindakan pemutusan akses ini?
Tindakan tersebut didasarkan pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9. Pasal ini mewajibkan PSE untuk tidak memfasilitasi atau menyebarluaskan informasi elektronik yang dilarang.
