- California menjadi negara bagian AS pertama yang melarang fitur-fitur seperti 'infinite scroll' atau autoplay untuk anak di bawah umur.
- Undang-undang baru ini juga memberlakukan kontrol ketat terhadap chatbot kecerdasan buatan, dengan apa yang disebut 'Hukum Adam' sebagai fokus utamanya.
- Denda dapat mencapai hingga satu juta dolar per anak di bawah umur yang dirugikan dalam kasus kelalaian dari pihak platform.
- Langkah ini diambil di tengah tekanan global dan menyusul kesepakatan Meta dengan beberapa negara terkait desain jaringan mereka yang bersifat adiktif.
California telah mengambil langkah bersejarah dalam mengatur platform digital dengan memberlakukan paket hukum komprehensif yang melarang jejaring media sosial menawarkan fitur yang dirancang untuk menciptakan kecanduan di kalangan pengguna di bawah usia 16 tahun. Langkah ini, yang ditandatangani oleh Gubernur Gavin Newsom, adalah undang-undang pertama sejenisnya di Amerika Serikat dan muncul di tengah meningkatnya kekhawatiran tentang dampak teknologi terhadap kesehatan mental kaum muda.
Undang-undang yang dikenal sebagai AB-1709 ini menargetkan mekanisme seperti pengguliran tanpa batas (infinite scrolling), pemutaran otomatis video, dan algoritma yang mendefinisikan ulang pengalaman media sosial . Menurut para pendukungnya, teknik eksploitasi psikologis ini dirancang untuk memaksimalkan interaksi dan mendorong penggunaan kompulsif, yang sangat berbahaya pada usia muda.
Fungsi apa saja yang dilarang untuk anak di bawah umur?
Undang-undang California menetapkan bahwa platform tidak boleh menawarkan kepada pengguna di bawah usia 16 tahun konten yang membuat ketagihan berdasarkan rekomendasi yang dipersonalisasi, pengguliran tanpa batas yang terus memuat konten, atau video yang diputar otomatis. Yang disebut "halaman untuk Anda," yang dibangun berdasarkan perilaku pengguna, juga berada di bawah pengawasan. Perusahaan harus menerapkan alternatif yang wajar untuk kelompok usia ini, atau bahkan memblokir akses mereka jika mereka tidak dapat menonaktifkan fitur-fitur ini.
Undang-undang tersebut, yang merupakan bagian dari paket 13 peraturan yang ditandatangani pada hari yang sama, juga menetapkan sistem verifikasi usia yang wajib diterapkan oleh platform mulai Januari 2027. Sistem operasi akan diwajibkan untuk mengirimkan rentang usia pengguna ke aplikasi agar aplikasi tersebut dapat menyesuaikan fungsinya. Namun, perusahaan teknologi besar diperkirakan akan menggugat langkah ini di pengadilan, dengan alasan bahwa hal itu melanggar kebebasan berekspresi, seperti yang telah ditunjukkan oleh The New York Times.
Denda hingga satu juta dolar per anak di bawah umur
Konsekuensi ekonomi bagi perusahaan yang melanggar peraturan sangat berat. Undang-undang menetapkan hukuman hingga $25.000 untuk pelanggaran karena kelalaian dan $50.000 per anak yang terdampak dalam kasus pelanggaran yang disengaja. Lebih lanjut, undang-undang pelengkap, AB 2, memperluas tanggung jawab perdata: perusahaan dapat menghadapi denda hingga satu juta dolar untuk setiap anak yang platformnya telah menyebabkan kerugian yang dapat dibuktikan, seperti kecemasan, depresi, atau masalah kesehatan mental lainnya. Kompensasi ini akan dihitung sebagai yang lebih besar antara $5.000 per pelanggaran (dibatasi hingga satu juta) atau tiga kali lipat dari kerugian aktual yang terbukti.
Besarnya denda ini menjadikan California salah satu wilayah dengan kekuatan paksaan terbesar terhadap platform digital, dan mengirimkan pesan yang jelas kepada industri ini: keselamatan anak di bawah umur bukanlah hal tambahan, melainkan kewajiban yang terintegrasi ke dalam desain.
'Hukum Adam': kontrol ketat terhadap chatbot AI
Unsur penting lainnya dari paket legislatif ini adalah apa yang disebut 'Hukum Adam' (SB 1119), yang dinamai untuk mengenang Adam Raine, seorang remaja berusia 16 tahun yang meninggal karena bunuh diri pada tahun 2025 setelah berinteraksi selama berbulan-bulan dengan chatbot AI. Undang-undang ini menetapkan bahwa chatbot pendamping—sistem yang dirancang untuk mempertahankan percakapan berkelanjutan dengan pengguna—harus menjalani audit keamanan anak independen sebelum diluncurkan, serta penilaian risiko tahunan.
Perusahaan yang mengoperasikan layanan ini harus menerapkan kontrol orang tua aktif, protokol krisis yang memberi tahu wali tentang tanda-tanda melukai diri sendiri atau pikiran untuk bunuh diri, dan batasan waktu untuk anak di bawah umur. Undang-undang ini juga melarang, selama empat tahun, pembuatan dan penjualan mainan dengan kemampuan AI percakapan yang ditujukan untuk anak-anak di bawah usia 16 tahun, sebuah langkah perintis di negara tersebut.
Langkah-langkah perlindungan lainnya: privasi dan konten
Paket yang ditandatangani oleh Newsom melampaui media sosial dan AI. Paket ini memperluas definisi hukum eksploitasi seksual anak untuk mencakup gambar yang dihasilkan atau diubah secara digital oleh kecerdasan buatan yang menggambarkan individu di bawah usia 18 tahun. Paket ini juga memperkuat privasi data siswa dalam sistem AI, melarang sekolah mewajibkan siswa prasekolah dan taman kanak-kanak untuk membawa perangkat elektronik ke rumah, dan memperkenalkan ketentuan untuk melaporkan materi pelecehan seksual anak.
Undang-undang lain memprioritaskan kesejahteraan digital dalam kurikulum pendidikan, dan Dewan Teknologi Pemuda sedang dibentuk untuk memberikan suara kepada kaum muda dalam kebijakan negara. Semua langkah ini memperkuat California sebagai laboratorium legislatif untuk perlindungan digital, dengan pendekatan preventif yang berupaya mengatasi risiko sebelum menimbulkan kerugian.
Konteks Spanyol dan Eropa
Keputusan California ini muncul pada saat yurisdiksi lain juga mengambil tindakan. Di Spanyol, Perdana Menteri Pedro Sánchez mengumumkan pada bulan Februari niatnya untuk melarang akses ke media sosial bagi mereka yang berusia di bawah 16 tahun, meskipun langkah tersebut belum diimplementasikan. Kantor Kejaksaan Umum Spanyol telah memperingatkan tentang peningkatan kekerasan siber di kalangan remaja: 28% anak perempuan berusia 16 dan 17 tahun melaporkan pernah mengalaminya, menurut laporan dari Yayasan ANAR dan Mutua Madrileña, yang juga mengungkapkan peningkatan perundungan di sekolah dan perundungan siber, yang memengaruhi 14,1% siswa.
Di tingkat Eropa, Undang-Undang Layanan Digital sudah mencakup kewajiban desain yang aman, dan Komisi Eropa telah menuduh platform seperti TikTok melanggar aturan karena desainnya yang adiktif. Australia adalah negara pertama di dunia yang melarang media sosial bagi mereka yang berusia di bawah 16 tahun , sebuah langkah yang telah menginspirasi lebih dari 40 negara di seluruh dunia.
Preseden Meta dan tekanan pada platform
Persetujuan paket ini datang hanya beberapa minggu setelah Meta, pemilik Instagram dan Facebook, mencapai kesepakatan dengan koalisi negara bagian di seluruh negeri untuk menyelesaikan gugatan class-action yang menuduhnya merancang platformnya untuk menciptakan kecanduan di kalangan anak di bawah umur dan menyesatkan konsumen tentang keamanannya. Kesepakatan tersebut menetapkan bahwa perusahaan dapat membayar hingga $18.000 miliar dan menerapkan perubahan substansial pada layanannya: membatasi penggunaan oleh remaja hingga dua jam per hari, pembatasan waktu malam, verifikasi usia, dan kontrol orang tua.
Kesepakatan tersebut mencegah persidangan federal di California, tetapi belum meredakan tekanan pada industri tersebut. Ribuan keluarga masih mengajukan gugatan terhadap platform lain seperti Snap, TikTok, dan YouTube. Dengan undang-undang baru ini, California menandai titik balik: sekadar memperingatkan risiko saja tidak lagi cukup; aplikasi sekarang diharuskan dirancang agar aman bagi anak-anak dan remaja secara default.
Singkatnya, undang-undang California tidak hanya melarang teknik yang menimbulkan kecanduan tetapi juga memberlakukan perubahan paradigma: platform harus memprioritaskan kesejahteraan anak di bawah umur daripada model bisnis mereka sendiri. Sementara negara dan wilayah lain mempertimbangkan langkah-langkah serupa, California berada di garis depan pertempuran yang baru saja dimulai: perjuangan untuk mendapatkan kembali kendali atas layar kita dan, yang terpenting, atas pikiran-pikiran yang paling rentan.
