Dewan pengawas independen Meta atau Meta Oversight Board menilai perusahaan perlu mengambil langkah lebih serius untuk mengatasi penyebaran konten AI palsu di platformnya. Penilaian tersebut muncul setelah Meta membiarkan sebuah video buatan kecerdasan buatan tetap beredar tanpa label penjelasan.
Video tersebut menggambarkan kerusakan besar di Haifa, Israel, yang diklaim akibat serangan Iran. Padahal, konten itu merupakan rekayasa AI. Dewan pengawas menyebut keputusan Meta untuk tidak memberikan label pada video tersebut sebagai langkah yang kurang tepat.
Menurut mereka, meningkatnya penyebaran video palsu berbasis AI terkait konflik militer global dapat membuat publik kesulitan membedakan fakta dan rekayasa. Situasi ini berpotensi memicu ketidakpercayaan terhadap berbagai informasi yang beredar di internet.
Meta menyatakan akan menambahkan label pada video tersebut dalam waktu tujuh hari.
Dewan Pengawas Desak Perubahan Kebijakan
Meta Oversight Board dibentuk pada 2020 sebagai lembaga semi-independen yang mengawasi kebijakan moderasi konten di platform Meta, termasuk Facebook, Instagram, dan WhatsApp.
Dalam banyak kasus, lembaga ini sering memberikan keputusan yang berbeda dengan kebijakan internal Meta. Hal tersebut memunculkan pertanyaan mengenai seberapa besar pengaruh dewan tersebut terhadap kebijakan perusahaan.
Dalam laporan terbarunya, dewan menyebut penanganan video Haifa memperlihatkan kelemahan dalam sistem moderasi konten Meta, terutama saat terjadi konflik bersenjata.
Saat ini, Meta sebagian besar bergantung pada pengguna untuk menyatakan sendiri apakah konten yang mereka unggah dibuat menggunakan AI. Jika tidak ada pengakuan dari pengguna, perusahaan biasanya menunggu laporan atau keluhan dari pengguna lain sebelum meninjau konten tersebut.
Pendekatan ini dinilai tidak memadai. Meta Oversight Board menilai perusahaan seharusnya lebih aktif memberi label pada konten AI palsu, terutama ketika konten tersebut berkaitan dengan konflik global yang sensitif.
Video AI Konflik Perang Raih Jutaan Penonton
Kasus ini bermula dari sebuah video yang diunggah akun Facebook yang berbasis di Filipina pada Juni tahun lalu. Akun tersebut mengaku sebagai sumber berita.
Video tersebut menjadi bagian dari gelombang konten AI palsu yang beredar di media sosial setelah konflik memanas. Beberapa konten bahkan menampilkan narasi yang mendukung pihak Israel maupun Iran.
Analisis BBC saat itu menunjukkan rangkaian video serupa berhasil mengumpulkan sedikitnya 100 juta penayangan di berbagai platform.
Meski video Haifa tersebut terbukti dibuat menggunakan AI dan telah menerima beberapa laporan dari pengguna, Meta tidak segera memberikan label atau menurunkannya.
Perusahaan baru menanggapi kasus tersebut setelah seorang pengguna mengajukan banding langsung kepada Meta Oversight Board.
Saat merespons, Meta menyatakan video itu tidak memerlukan label karena dianggap tidak menimbulkan risiko bahaya fisik secara langsung.
Namun, dewan pengawas menilai standar tersebut terlalu tinggi untuk kasus konten AI palsu, terutama ketika menyangkut isu konflik bersenjata. Mereka menyatakan video tersebut seharusnya diberi label “AI berisiko tinggi”.
Dewan juga menegaskan bahwa Meta perlu meningkatkan sistem deteksi serta pelabelan konten AI agar pengguna dapat membedakan informasi yang nyata dan yang direkayasa.
Menanggapi rekomendasi tersebut, Meta menyatakan akan mengikuti saran dewan jika menemukan konten yang identik dan berada dalam konteks yang sama di masa mendatang.
Masih banyak artikel menarik lainnya yang bisa Anda baca. Temukan pilihan topik terbaik kami di roledu.com
