YouTube Kids Tak Cukup Saring Konten Negatif, Dosen Unair Sebut AI Bisa Dimanfaatkan

Jakarta – Kementerian Komunikasi dan Digital (Kemkomdigi) telah membentuk Tim Penguatan Regulasi Perlindungan Anak di Ranah Digital sebagai upaya percepatan pembentukan regulasi dalam melindungi anak-anak di ruang digital.
Dosen Fakultas Teknologi Maju dan Multidisiplin (FTMM) Universitas Airlangga (Unair), Dr Maryamah sepakat ancaman digital terhadap anak-anak memang sangat besar. Menurutnya, penggunaan internet yang luas memang mempunyai manfaat edukatif, tetapi anak-anak yang belum matang secara emosional dapat dengan mudah meniru perilaku negatif yang mereka lihat secara online.

Maka Dr Maryamah menilai tim yang dibentuk Kementerian Komdigi ini merupakan tindakan yang tepat. Menurutnya keputusan tersebut menanggapi status Indonesia yang terdata di National Center for Missing and Exploited Children (NCMEC) sebagai negara keempat di dunia dan kedua di ASEAN yang memiliki penyebaran konten pornografi anak terbanyak.

Manfaatkan AI untuk Saring Konten Berbahaya
Dr Maryamah mengatakan teknologi akal imitasi atau kecerdasan buatan (AI) dan big data berperan signifikan dalam mengidentifikasi dan memblokir ancaman digital bagi anak. Sekarang ini AI bisa digunakan untuk mendeteksi dan menyaring konten berbahaya secara otomatis.

Ia menyebut bahkan mahasiswa Unair di bidang data science telah mengembangkan sistem pendeteksi konten berbahaya berbasis AI.

“AI dapat mengenali dan menyaring konten eksplisit di media sosial, termasuk tren ‘Elsagate’ di YouTube yang semakin marak,” ujarnya, dikutip dari laman Unair pada Jumat (14/2/2025).

Berbagai aplikasi Google Safe Search, YouTube Kids, dan Apple Parental Control telah menawarkan pilihan penyaringan konten. Walau begitu, efektivitasnya masih terbatas tanpa sosialisasi yang memadai dari orang tua.

Dr Maryamah berharap pembentukan Tim Penguatan Regulasi Perlindungan Anak di Ranah Digital menjadi langkah awal untuk menciptakan ruang digital yang aman untuk anak-anak. Meski begitu, keberhasilannya sangat bergantung pada penerapan regulasi, keterlibatan aktif orang tua, institusi pendidikan, serta Lembaga Swadaya Masyarakat anak.

Ia mengatakan, semoga tim tersebut tidak hanya terbentuk sebagai simbol perlindungan, melainkan benar-benar bekerja secara nyata untuk menciptakan ekosistem digital yang aman dan kondusif untuk anak-anak Indonesia.