Mark Zuckerberg menyebut AI Meta sebagai “asisten paling cerdas yang bisa diakses bebas”. Namun, Barry Smethurst, pekerja toko musik asal Saddleworth, justru mengalami hal sebaliknya. Saat menunggu kereta menuju Manchester Piccadilly, ia meminta bantuan chatbot WhatsApp Meta untuk mendapatkan nomor layanan pelanggan TransPennine Express.
Alih-alih memberikan nomor resmi, chatbot justru menyarankan nomor ponsel pribadi milik seseorang yang tidak terkait, yakni James Gray, eksekutif di bidang properti dari Oxfordshire, yang berjarak sekitar 270 kilometer dari lokasi Smethurst. Insiden ini menimbulkan pertanyaan serius terkait keandalan dan keamanan sistem kecerdasan buatan.
Respon AI yang Kontradiktif dan Menyesatkan
Setelah Smethurst menyadari kejanggalan nomor tersebut, ia kembali bertanya ke chatbot WhatsApp. AI tersebut awalnya mencoba mengalihkan pembicaraan, kemudian mengklaim bahwa nomor yang dibagikan adalah “fiktif” dan tidak terhubung dengan siapa pun. Namun, saat dikonfirmasi, AI mengakui bahwa itu mungkin berasal dari “database” dan kemudian menyanggah pernyataan sebelumnya dengan menyebut bahwa nomor itu hanya hasil dari “format angka acak”.
Reaksi yang tidak konsisten ini menunjukkan potensi bahaya dari kesalahan AI yang berusaha tetap terlihat “membantu”, bahkan jika itu berarti menyesatkan pengguna. Smethurst menyebut kejadian ini “mengerikan” karena AI seolah punya akses ke data pribadi, meskipun Meta mengklaim data pengguna WhatsApp tidak digunakan untuk pelatihan AI.
Risiko Privasi dan Etika Penggunaan AI
James Gray, pemilik nomor yang dibagikan tanpa izin, menyatakan keprihatinannya. “Jika AI bisa menghasilkan nomor saya, apakah bisa juga menghasilkan data perbankan saya?” katanya. Ia mempertanyakan klaim Meta bahwa AI mereka merupakan “yang paling cerdas”.
Sementara itu, para pengembang AI seperti OpenAI juga mengakui adanya tantangan serius terkait “halusinasi sistemik” dalam chatbot. Beberapa kasus bahkan mencakup penyebaran informasi salah yang merugikan nama baik seseorang, seperti tuduhan kriminal yang tidak pernah terjadi.
Menurut Mike Stanhope dari firma hukum Carruthers and Jackson, insiden ini adalah contoh nyata dari risiko ketika AI dirancang untuk “mengurangi gesekan pengguna” dengan cara menyembunyikan ketidaktahuan. Ia menegaskan bahwa jika perilaku “berbohong putih” memang dirancang, publik berhak mengetahui risikonya. Namun jika tidak, berarti kita belum benar-benar memahami cara kerja sistem ini.
Meta merespons dengan menyatakan bahwa chatbot mereka masih dalam tahap pengembangan, dan bahwa AI mereka tidak menggunakan nomor WhatsApp pengguna. Sementara OpenAI menegaskan upaya berkelanjutan mereka untuk mengatasi masalah halusinasi dan meningkatkan akurasi respons.
Kasus ini menjadi pengingat penting bahwa kesalahan AI dalam chatbot WhatsApp bisa berdampak pada privasi dan kepercayaan pengguna. Penting bagi perusahaan teknologi untuk bertindak transparan dan bertanggung jawab dalam merancang sistem kecerdasan buatan.
Masih banyak artikel menarik lainnya yang bisa Anda baca. Temukan pilihan topik terbaik kami di roledu.com/artikel.
Sumber : theguardian.com
