Pengadilan di Amsterdam memerintahkan xAI dan chatbot Grok milik Elon Musk untuk menghentikan pembuatan dan penyebaran gambar yang menampilkan orang dewasa atau anak-anak dalam posisi seksual atau hampir telanjang tanpa persetujuan mereka. Pelanggaran terhadap putusan ini akan dikenakan denda €100.000 per hari.
Larangan ini muncul setelah organisasi nonprofit Belanda, Offlimits, mengajukan kasus untuk melindungi korban pelecehan seksual online. Demonstrasi di persidangan pada 9 Maret menunjukkan Grok masih mampu “mengundress” gambar digital tanpa izin, sehingga hakim menilai langkah pengamanan xAI belum memadai.
xAI berargumen bahwa mereka tidak bisa menghentikan seluruh penyalahgunaan alatnya dan telah membatasi kemampuan generasi gambar untuk pengguna berbayar. Namun, pengadilan menekankan tanggung jawab perusahaan memastikan alat mereka tidak digunakan untuk membuat gambar seksual tanpa persetujuan, termasuk terhadap anak-anak.
Keputusan ini menjadi preseden penting di Eropa, di tengah meningkatnya pengawasan regulator terhadap AI tools di bawah Digital Services Act Uni Eropa. Komisi Eropa telah membuka penyelidikan formal terhadap platform X terkait risiko manipulasi gambar seksual oleh Grok, sementara Parlemen Eropa mendukung larangan aplikasi “nudifier” yang membuat atau memanipulasi gambar seksual.
Masih banyak artikel menarik lainnya yang bisa Anda baca. Temukan pilihan topik terbaik kami di roledu.com
