Perusahaan kecerdasan artifisial OpenAI memperkenalkan fitur Trusted Contact ChatGPT yang dirancang untuk meningkatkan keamanan mental pengguna. Fitur ini memungkinkan sistem mengirim pemberitahuan kepada kontak darurat apabila percakapan terdeteksi mengarah pada krisis psikologis.
Peluncuran tersebut berlangsung di tengah tekanan hukum yang dihadapi perusahaan. Startup AI yang dipimpin Sam Altman itu kini menghadapi sedikitnya 13 gugatan di Amerika Serikat. Gugatan tersebut berkaitan dengan perlindungan konsumen dan dampak psikologis penggunaan chatbot.
Data internal perusahaan menunjukkan ChatGPT memiliki lebih dari 900 juta pengguna aktif setiap pekan. Mayoritas pengguna memanfaatkan teknologi ini untuk membantu navigasi layanan kesehatan yang kompleks. Kondisi itu membuat tanggung jawab terhadap keamanan mental pengguna menjadi semakin besar.
Kolaborasi Pakar dan Peningkatan Sistem Deteksi
Pengembangan Trusted Contact ChatGPT melibatkan kolaborasi dengan dua kelompok ahli internal, yakni Council on Well-Being and AI dan Global Physicians Network. Keduanya dibentuk untuk merespons laporan krisis kesehatan mental yang berkaitan dengan interaksi AI.
OpenAI menyatakan terus meningkatkan kemampuan teknis modelnya. Sistem kini dikembangkan agar mampu mengenali tanda-tanda tekanan emosional secara lebih presisi. Metode evaluasi baru juga dirancang melalui simulasi percakapan panjang untuk mendeteksi potensi risiko dalam situasi sensitif.
Dalam pernyataan resmi, manajemen OpenAI menegaskan komitmen perusahaan. Mereka menyebut terus menyempurnakan cara model merespons indikasi kesulitan emosional pengguna.
Sorotan Risiko dan Tekanan Hukum
Meski begitu, perusahaan belum memaparkan ambang batas percakapan yang memicu notifikasi darurat. Kebijakan ini menimbulkan pertanyaan etis. Salah satunya terkait kemungkinan pelacakan gejala delusi, mania, atau psikosis yang tidak disampaikan secara eksplisit.
Laporan media Futurism menyoroti potensi risiko interaksi intens dengan chatbot. Beberapa temuan menunjukkan pengguna dapat terjebak dalam lingkaran delusi. Dalam kasus tertentu, ChatGPT bahkan disebut pernah memberi saran berbahaya, termasuk anjuran menghentikan obat resep.
Salah satu penggugat, John Jacquez, menyampaikan kekecewaannya. Ia merupakan penyandang gangguan skizoafektif yang merasa kondisinya memburuk akibat interaksi dengan AI. Jacquez menyatakan tidak akan menggunakan produk tersebut jika mengetahui risikonya sejak awal.
Tekanan hukum terhadap OpenAI juga semakin terpusat. Pengadilan di California menggabungkan sejumlah gugatan ke dalam satu proses terpadu. Hakim koordinator dijadwalkan segera ditunjuk untuk memimpin persidangan.
OpenAI memastikan akan menghadapi proses litigasi secara terbuka. Perusahaan juga menegaskan komitmen menjaga privasi individu yang terlibat. Di saat yang sama, pengumpulan fakta terus dilakukan guna menyempurnakan sistem perlindungan dan keamanan mental pengguna.
Masih banyak artikel menarik lainnya yang bisa Anda baca. Temukan pilihan topik terbaik kami di roledu.com
