Menjaga Anak dari Predator di Ruang Siber

Di ruang siber, Indonesia—sebagaimana ditegaskan secara imperatif dalam alinea keempat Pembukaan Undang-Undang Dasar Negara Republik Indonesia Tahun 1945—dibentuk untuk “melindungi segenap bangsa Indonesia dan seluruh tumpah darah Indonesia.”

Rumusan ini bukan sekadar deklarasi normatif, melainkan juga mandat konstitusional yang hidup, mengikat, dan menuntut aktualisasi konkret dalam setiap bentuk ancaman terhadap warga negara—termasuk ancaman yang kini bermigrasi ke ruang siber.

Ketika wajah dan identitas anak-anak Indonesia direkayasa oleh kecerdasan buatan menjadi komoditas pornografi sintetis, kegagalan negara untuk bertindak tegas bukan sekadar kelalaian kebijakan, melainkan juga pengingkaran terhadap tujuan fundamental berdirinya negara hukum.

Ancaman ini bukan spekulasi teoritis. Kasus kecerdasan buatan Grok—yang dilaporkan mampu menghasilkan konten seksual non-konsensual berbasis manipulasi wajah dan identitas—menunjukkan bagaimana teknologi generatif dapat dengan mudah melampaui batas etika dan hukum.

Dalam ekosistem digital tanpa sekat yurisdiksi, tidak ada mekanisme yang secara inheren mencegah wajah anak-anak Indonesia menjadi bahan mentah eksploitasi algoritmik. Hari ini korbannya orang dewasa, berikutnya bisa menimpa anak-anak, selama supply demand terjadi.

Ketika sebuah sistem AI mampu memproduksi citra seksual sintetis hanya dari data visual yang tersedia di ruang publik, setiap anak dengan jejak digital minimal sekalipun berada dalam posisi rentan. Negara tidak dapat berkilah bahwa ancaman tersebut berasal dari platform asing; justru di situlah kewajiban konstitusional negara diuji.

Ironisnya, negara terjebak dalam ilusi regulatif—tanpa tindakan teknis preventif—dengan menganggap pengesahan Undang-Undang Pelindungan Data Pribadi (UU PDP) sebagai jawaban final. Padahal, kedaulatan digital Indonesia dibiarkan rapuh, sementara teknologi AI berkembang jauh melampaui daya kejar hukum positif.

Kasus Grok AI menjadi contoh konkret bahwa tanpa ex ante safeguards dan mekanisme pertanggungjawaban yang keras, kecerdasan buatan dapat berfungsi sebagai mesin kekerasan seksual digital. Ketika hukum berjalan lamban dan reaktif, negara secara de facto menyerahkan anak-anak sebagai subjek hukum paling rentan ke dalam mekanisme eksploitasi yang beroperasi secara otomatis dan masif.

Secara normatif, UU PDP telah menempatkan anak sebagai subjek data pribadi spesifik yang memperoleh pelindungan hukum tertinggi. Pasal 52 UU PDP mewajibkan Penyelenggara Sistem Elektronik (PSE) untuk menerapkan pelindungan khusus dalam setiap tahapan pemrosesan data anak. Namun, pengalaman global menunjukkan bahwa kewajiban normatif ini akan runtuh apabila tidak disertai dengan konstruksi yurisprudensial yang tegas.

Dalam konteks teknologi seperti Grok AI, kegagalan PSE untuk membangun filter, pembatasan, dan pengamanan berbasis risiko bukan sekadar pelanggaran administratif, melainkan juga kelalaian sistemik yang berpotensi melahirkan kejahatan seksual terhadap anak.

Oleh karena itu, pembacaan UU PDP harus diarahkan pada penerapan strict liability. PSE—baik yang beroperasi langsung di Indonesia maupun yang layanannya dapat diakses oleh warga negara Indonesia—harus diposisikan sebagai pihak yang bertanggung jawab atas risiko yang melekat pada teknologi yang mereka kelola.

Dalam doktrin liability based on risk, tidak diperlukan pembuktian niat jahat. Cukup ditunjukkan bahwa sistem tersebut secara rasional dapat diprediksi disalahgunakan, sebagaimana telah dibuktikan oleh kasus Grok AI.

Pendekatan ini memperoleh legitimasi kuat dalam Undang-Undang Perlindungan Anak. UU tersebut mewajibkan negara dan setiap pihak untuk melindungi anak dari segala bentuk kekerasan, termasuk kekerasan seksual.