Sebuah situs chatbot yang menampilkan skenario eksplisit dengan karakter anak di bawah umur disertai gambar ilegal kembali menimbulkan kekhawatiran soal penyalahgunaan kecerdasan buatan (AI).
Laporan Internet Watch Foundation (IWF) menemukan chatbot tersebut menawarkan skenario menjijikkan seperti “anak dijadikan pekerja seks di hotel” atau “hubungan seksual dengan anak saat istri sedang bepergian”. Bahkan, beberapa ikon chatbot berubah menjadi gambar eksplisit berformat foto realistis yang tergolong child sexual abuse material (CSAM) menurut Undang-Undang Perlindungan Anak di Inggris.
IWF mencatat sedikitnya 17 gambar AI yang jelas termasuk kategori CSAM. Situs tersebut juga memberi opsi kepada pengguna untuk membuat lebih banyak gambar sejenis.
Seruan Aturan AI Lebih Ketat
IWF menekankan pentingnya regulasi AI yang sejak awal memasukkan panduan perlindungan anak. Pemerintah Inggris memang telah menyiapkan RUU AI serta menambahkan larangan keras terkait pembuatan dan distribusi model yang menghasilkan konten pelecehan anak dalam rancangan Undang-Undang Kejahatan dan Kepolisian.
Kepala eksekutif IWF, Kerry Smith, menyebut langkah pemerintah positif, tetapi masih perlu percepatan. Sementara itu, NSPCC mendesak penerapan kewajiban hukum bagi pengembang AI agar keselamatan anak tidak terabaikan.
Di bawah Undang-Undang Keamanan Online, situs yang membiarkan konten buatan pengguna berisi pelecehan anak dapat dikenai denda besar atau diblokir. Ofcom sebagai regulator menyatakan penindakan terhadap eksploitasi anak menjadi prioritas utama.
Lonjakan Konten AI Berbahaya
IWF melaporkan kenaikan 400% dalam laporan CSAM berbasis AI pada paruh pertama tahun ini dibanding periode sama tahun lalu. Konten video juga meningkat pesat seiring kemajuan teknologi gambar.
Situs chatbot bermasalah ini tercatat menerima puluhan ribu kunjungan, termasuk 60 ribu pada Juli lalu. Layanan tersebut dilaporkan ke National Center for Missing and Exploited Children (NCMEC) di AS karena dihosting di server Amerika, meski pemilik situs diduga berbasis di Tiongkok.
Pemerintah Inggris menegaskan hukum sudah jelas: membuat, memiliki, atau menyebarkan gambar pelecehan anak—termasuk hasil AI—merupakan tindak pidana.
Masih banyak artikel menarik lainnya yang bisa Anda baca. Temukan pilihan topik terbaik kami di roledu.com/artikel.
