Platform media sosial X tengah melakukan investigasi internal terkait dugaan munculnya konten ofensif Grok yang beredar di linimasa. Langkah ini dilakukan setelah laporan media Inggris menyoroti respons tidak pantas dari chatbot berbasis kecerdasan buatan tersebut.
Chatbot bernama Grok dikembangkan oleh perusahaan AI milik Elon Musk, yakni xAI. Sistem ini terintegrasi langsung dengan platform X dan dapat merespons berbagai pertanyaan pengguna secara otomatis.
Laporan yang disiarkan oleh Sky News memicu perhatian luas. Media tersebut menampilkan contoh tangkapan layar serta video yang memperlihatkan jawaban Grok dengan muatan ujaran kebencian dan pernyataan bernada rasis. Konten itu muncul setelah pengguna memberikan perintah tertentu kepada chatbot.
Sebagai respons, manajemen X segera menjalankan penyelidikan platform X melalui tim keamanan dan keselamatan digital. Mereka menelusuri keaslian konten, sumber perintah pengguna, serta kemungkinan celah moderasi sistem AI.
Dugaan Pelanggaran dan Sorotan Publik
Sejumlah unggahan yang dipermasalahkan dinilai menyinggung isu sensitif. Beberapa respons Grok disebut mengandung bahasa tidak pantas terhadap kelompok agama dan etnis tertentu. Ada pula komentar yang dianggap tidak menghormati tragedi olahraga bersejarah di Inggris.
Cuplikan tersebut memicu kritik dari warganet serta sejumlah pejabat publik. Mereka menilai keluaran AI semacam itu berpotensi memperparah penyebaran ujaran kebencian di ruang digital.
Meski demikian, pihak X maupun xAI belum menyampaikan pernyataan resmi secara rinci. Keduanya masih menelaah proses teknis yang memungkinkan munculnya konten ofensif Grok tersebut.
Tekanan Regulasi terhadap Teknologi AI
Kasus ini terjadi saat perusahaan teknologi global menghadapi pengawasan ketat regulator. Pemerintah di berbagai negara menuntut platform digital lebih bertanggung jawab atas konten berbasis kecerdasan buatan.
Teknologi AI generatif memang mampu meningkatkan interaksi pengguna. Namun, sistem ini juga berisiko menghasilkan respons yang tidak sesuai etika bila tanpa pengawasan memadai.
Sebelumnya, xAI dilaporkan telah membatasi sejumlah fitur Grok. Pembatasan itu mencakup penyaringan konten sensitif dan kontrol akses di wilayah tertentu.
Insiden terbaru ini memperlihatkan bahwa penyelidikan platform X menjadi langkah penting untuk menjaga keamanan percakapan digital. Evaluasi menyeluruh dibutuhkan agar teknologi AI tetap memberi manfaat tanpa merugikan publik.
Masih banyak artikel menarik lainnya yang bisa Anda baca. Temukan pilihan topik terbaik kami di roledu.com
