Indonesia Blokir Grok AI Elon Musk: Kekhawatiran Deepfake Seksual dan Pelanggaran HAM Digital

 

Depok, Stapo.id - Pemerintah Indonesia telah mengambil langkah tegas dengan memblokir sementara akses ke Grok, chatbot kecerdasan buatan (AI) milik Elon Musk. Keputusan ini menjadikan Indonesia sebagai negara pertama di dunia yang secara resmi menutup akses Grok karena temuan adanya risiko serius penyebaran konten pornografi deepfake seksual non-konsensual yang dihasilkan oleh AI tersebut.

Langkah pemblokiran ini didasarkan pada laporan bahwa Grok memungkinkan pembuatan dan penyuntingan gambar seksual, termasuk visualisasi perempuan dan anak-anak dalam pose seksual tanpa persetujuan subjek. Menteri Komunikasi dan Digital Republik Indonesia, Meutya Hafid, menegaskan bahwa praktik pembuatan deepfake seksual non-konsensual adalah pelanggaran berat terhadap hak asasi manusia, martabat warga negara, dan keamanan di ruang digital.

“Kami memandang praktik pornografi berbasis AI tanpa persetujuan sebagai pelanggaran serius terhadap HAM, martabat manusia, dan keamanan warga di ruang digital,” ujar Meutya, menekankan bahwa tindakan ini selaras dengan regulasi nasional yang melarang distribusi konten asusila. Kemenkominfo (Komdigi) juga telah memanggil perwakilan platform X untuk meminta klarifikasi mendalam dan membahas langkah pengamanan teknologi AI yang lebih ketat, terutama demi melindungi kelompok rentan seperti anak-anak.

Perusahaan rintisan di balik Grok, xAI, mengakui adanya celah pengamanan yang memungkinkan keluarnya konten seksual tersebut. Sebagai respons, xAI menyatakan telah membatasi fitur pembuatan dan penyuntingan gambar hanya untuk pelanggan berbayar sembari berupaya keras memperbaiki kegagalan sistem tersebut. Elon Musk sendiri telah memperingatkan bahwa pengguna yang membuat konten ilegal melalui Grok akan menghadapi konsekuensi hukum yang sama seperti mengunggahnya secara langsung.

Isu ini bukan hanya menjadi sorotan di Asia. Kritik terhadap Grok juga menguat di Eropa, di mana Komisi Eropa telah memerintahkan X untuk menyimpan semua dokumen terkait Grok demi memastikan kepatuhan terhadap aturan Uni Eropa. Bahkan Perdana Menteri Swedia, Ulf Kristersson, mengecam keras praktik ini, menyebutnya sebagai bentuk kekerasan seksual digital yang tidak dapat diterima, menegaskan bahwa tindakan Indonesia sejalan dengan gelombang kekhawatiran global terhadap etika dan keamanan AI.

FAQ:

1. Apa alasan utama Pemerintah Indonesia memblokir Grok AI?

Pemblokiran dilakukan karena temuan risiko Grok menghasilkan dan menyebarkan konten pornografi deepfake seksual tanpa persetujuan, yang dianggap melanggar hak asasi manusia dan regulasi kesusilaan nasional.

2. Bagaimana respons perusahaan di balik Grok, xAI, mengenai pemblokiran ini?

xAI mengakui adanya kegagalan sistem pengamanan yang memungkinkan keluarnya konten seksual. Perusahaan tersebut menyatakan telah membatasi fitur pembuatan dan penyuntingan gambar hanya untuk pelanggan berbayar sambil memperbaiki celah keamanan yang ada.