Konten Vape Libatkan Anak Jadi Sorotan, Ujian bagi Regulasi Platform Digital dan Moderasi AI
Depok, Stapo.id – Viralnya konten promosi rokok elektronik (vape) yang melibatkan anak di bawah umur kembali memunculkan perdebatan mengenai tanggung jawab platform digital di era ekonomi kreator. Isu ini bukan hanya berkaitan dengan etika pembuatan konten, tetapi juga menjadi ujian bagi sistem moderasi berbasis kecerdasan buatan (AI), regulasi platform digital, hingga efektivitas perlindungan anak di ruang siber.
Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) merespons persoalan tersebut dengan melayangkan surat teguran kepada YouTube. Dalam keterangannya, Komdigi meminta platform segera meninjau konten yang dimaksud, memperkuat sistem moderasi secara proaktif, meningkatkan kecepatan penanganan laporan, serta memastikan mekanisme pembatasan usia berjalan lebih efektif. Langkah tersebut menunjukkan bahwa pemerintah tidak hanya menyoroti kreator konten, tetapi juga menempatkan platform digital sebagai pihak yang memiliki tanggung jawab dalam menjaga keamanan ruang digital.
Kasus tersebut memperlihatkan tantangan yang semakin kompleks dalam ekosistem media sosial modern. Berbeda dengan televisi yang seluruh tayangannya melalui proses penyuntingan sebelum dipublikasikan, platform seperti YouTube, TikTok, Instagram, maupun layanan live streaming mengandalkan kombinasi algoritma, AI, dan laporan pengguna untuk mendeteksi konten yang melanggar kebijakan.
Pendekatan tersebut memang memungkinkan miliaran konten diproses setiap hari. Namun, sistem otomatis masih memiliki keterbatasan dalam memahami konteks. AI relatif mudah mengenali gambar rokok elektronik atau wajah anak, tetapi jauh lebih sulit menentukan apakah seorang anak sedang menjadi objek eksploitasi dalam sebuah promosi, sekadar muncul di latar belakang, atau terlibat dalam situasi lain yang tidak melanggar aturan.
Di sinilah tantangan utama moderasi konten modern.
Algoritma computer vision dan machine learning mampu mendeteksi objek, suara, maupun teks secara cepat, tetapi penilaian mengenai eksploitasi, persuasi terselubung, atau promosi yang melibatkan kelompok rentan masih sering membutuhkan verifikasi manusia.
Selain kemampuan AI, persoalan juga berkaitan dengan desain algoritma rekomendasi. Platform digital pada dasarnya mengoptimalkan distribusi konten berdasarkan berbagai sinyal seperti tingkat interaksi, durasi menonton, komentar, hingga kecepatan penyebaran. Konten yang memancing rasa penasaran atau memicu diskusi cenderung memperoleh distribusi lebih luas. Karena itu, semakin cepat sebuah video menjadi viral, semakin besar pula peluangnya menjangkau audiens baru sebelum proses moderasi selesai dilakukan.
Fenomena tersebut mendorong regulator di berbagai negara untuk menggeser fokus pengawasan. Jika sebelumnya perhatian lebih banyak diarahkan kepada kreator atau pengunggah konten, kini platform digital juga diminta bertanggung jawab terhadap desain sistem rekomendasi, mekanisme deteksi otomatis, hingga perlindungan pengguna di bawah umur.
Di Indonesia, kewajiban tersebut sejalan dengan aturan mengenai Penyelenggara Sistem Elektronik (PSE) yang mewajibkan platform melakukan moderasi terhadap konten yang melanggar hukum maupun membahayakan masyarakat. Dalam kasus terbaru, Komdigi menegaskan bahwa perlindungan anak merupakan prioritas dan meminta YouTube memperkuat sistem deteksi serta pembatasan usia terhadap konten promosi rokok elektronik.
Dari sisi teknologi, sejumlah platform global sebenarnya telah mengembangkan berbagai lapisan perlindungan. Mulai dari age estimation berbasis AI untuk memperkirakan usia pengguna, klasifikasi konten otomatis, pembatasan iklan berdasarkan kategori produk, hingga sistem machine learning yang mendeteksi potensi pelanggaran sebelum konten memperoleh distribusi luas. Namun, efektivitasnya sangat bergantung pada kualitas data pelatihan, kecepatan peninjauan, serta konsistensi penerapan kebijakan.
Tantangan berikutnya adalah munculnya konten yang berada di area abu-abu.
Promosi tidak selalu dilakukan melalui format iklan resmi, tetapi sering muncul dalam bentuk siaran langsung, endorsement, ulasan produk, hingga percakapan yang tampak spontan. Format seperti ini jauh lebih sulit dikenali sistem otomatis dibanding iklan konvensional karena unsur promosinya tidak selalu eksplisit.
Bagi industri teknologi, kasus ini menjadi pengingat bahwa inovasi AI tidak hanya dituntut mampu menghasilkan konten, tetapi juga semakin cerdas dalam memahami konteks sosial dan risiko terhadap kelompok rentan. Sistem moderasi masa depan diperkirakan akan menggabungkan analisis visual, audio, teks, serta konteks interaksi secara bersamaan agar mampu mendeteksi pelanggaran dengan tingkat akurasi yang lebih tinggi.
Di sisi lain, keberhasilan menciptakan ruang digital yang aman tidak hanya bergantung pada teknologi. Platform, regulator, kreator, pengiklan, orang tua, hingga masyarakat memiliki peran yang saling melengkapi. Algoritma memang dapat membantu menyaring jutaan konten setiap hari, tetapi keputusan mengenai batas etika dan perlindungan anak tetap membutuhkan tata kelola digital yang kuat, transparan, dan mampu mengikuti perkembangan pola komunikasi di era media sosial.