Chatbot AI buatan Elon Musk, Grok, kini menjadi sorotan internasional setelah mampu membuat gambar bernuansa seksual di platform X, termasuk melibatkan anak di bawah umur. Di Malaysia, Komisi Komunikasi dan Multimedia tengah menelusuri kasus ini menyusul keluhan mengenai penyalahgunaan AI untuk menghasilkan konten ofensif dan berbahaya bagi perempuan serta anak-anak. Regulator menegaskan, pembuatan dan penyebaran materi seperti ini melanggar hukum setempat.
“Walaupun X belum memiliki lisensi resmi di Malaysia, platform tetap berkewajiban mencegah penyebaran konten berbahaya,” jelas pihak regulator.
Tindakan X dan Pernyataan Elon Musk
Elon Musk menegaskan X mengambil langkah tegas terhadap konten ilegal. Langkah ini meliputi penghapusan materi, pemblokiran akun secara permanen, serta kerja sama dengan pihak berwenang. Semua pengguna yang memanfaatkan Grok untuk membuat konten ilegal, termasuk yang melibatkan anak di bawah umur, akan menghadapi sanksi serius.
India juga ikut menyuarakan kekhawatiran. Pemerintah India meminta X meninjau sistem Grok agar tidak menghasilkan konten seksual, eksplisit, atau melanggar hukum. X diminta menyerahkan laporan tindakannya dalam 72 jam, dengan peringatan kemungkinan sanksi hukum. Sementara di Eropa, Prancis menuding Grok membuat konten seksual ilegal yang berpotensi melanggar Digital Services Act Uni Eropa, yang mewajibkan platform besar menekan risiko konten berbahaya.
Masalah Konten dan Upaya Perbaikan
Konten yang menimbulkan kontroversi juga bertentangan dengan aturan Grok sendiri, yang melarang seksualisasi anak. Beberapa materi telah dihapus. Dalam dua pekan terakhir, permintaan pengguna untuk membuat atau mengubah gambar perempuan dan anak dalam konteks seksual meningkat pesat, terutama setelah X menambahkan fitur pengeditan gambar menjelang Natal.
Grok mengakui adanya celah keamanan dalam sistem dan menyatakan tengah memperbaikinya secara mendesak agar insiden serupa tidak terulang.
Masih banyak artikel menarik lainnya yang bisa Anda baca. Temukan pilihan topik terbaik kami di roledu.com/artikel.
