Inggris terapkan UU larang penggunaan AI untuk gambar pelecehan anak

Pemerintah Inggris pada Rabu mengumumkan pemberlakuan undang-undang (UU) baru yang bertujuan mencegah penyalahgunaan kecerdasan buatan (AI) untuk menghasilkan materi pelecehan seksual anak.

Langkah tersebut digambarkan oleh para pejabat dari negara kerajaan itu sebagai langkah terdepan di dunia untuk melindungi anak-anak secara daring.

Berdasarkan rencana tersebut, Menteri Teknologi dan Menteri Dalam Negeri akan mendapatkan wewenang baru untuk membuat para pengembang AI dan organisasi pelindungan anak, termasuk Internet Watch Foundation (IWF), agar dapat menguji model AI guna memastikan model tersebut tidak dieksploitasi untuk menghasilkan konten ilegal.

Langkah itu muncul ketika data terbaru dari IWF yang mengungkapkan peningkatan tajam dalam laporan materi pelecehan seksual anak yang dihasilkan AI. Laporan itu meningkat lebih dari dua kali lipat dalam setahun terakhir, dari 199 pada 2024, menjadi 426 pada 2025.

Yang paling mengkhawatirkan, terjadi lonjakan penggambaran bayi. Laporan yang melibatkan anak berusia 0–2 tahun meningkat drastis dari lima menjadi 92 kasus.

Analisis berdasarkan jenis kelamin menunjukkan bahwa anak perempuan tetap menjadi target utama, mencakup 94 persen dari seluruh gambar ilegal yang dihasilkan AI pada 2025, meskipun terdapat sedikit peningkatan dalam kasus yang melibatkan anak laki-laki.

Saat ini, hukum pidana Inggris melarang pembuatan atau kepemilikan materi semacam itu, yang berarti pengembang tidak dapat menguji sistem AI secara aman untuk mendeteksi potensi penyalahgunaan sebelum terjadi eksploitasi.

Undang-undang baru tersebut akan memungkinkan penguji resmi untuk meneliti model dalam lingkungan yang terkendali, memastikan pelindungan yang terintegrasi sejak awal.

"Kami tidak akan membiarkan kemajuan teknologi melampaui kemampuan kami untuk menjaga keamanan anak-anak. Undang-undang baru ini akan memastikan sistem AI dapat diamankan sejak awal, mencegah kerentanan yang dapat membahayakan anak-anak," ujar Menteri Teknologi Liz Kendall dalam sebuah pernyataan.

"Dengan memberdayakan organisasi terpercaya untuk meneliti model AI mereka, kami memastikan keselamatan anak dirancang ke dalam sistem AI, bukan sekadar pelengkap," katanya.