Laporan terbaru dari Common Sense Media menyoroti risiko penggunaan AI pendamping anak, terutama bagi pengguna di bawah usia 18 tahun. Penelitian ini muncul tak lama setelah gugatan terhadap aplikasi Character.AI, yang diduga terlibat secara tidak langsung dalam kasus bunuh diri remaja berusia 14 tahun.
Dalam kasus tragis tersebut, chatbot AI sempat menjadi “teman ngobrol” terakhir sebelum sang anak mengakhiri hidupnya. Percakapan yang terekam bahkan mencakup topik seksual serta pesan yang diduga mendorong tindakan menyakiti diri sendiri.
AI Memberi Saran Berbahaya
Bekerja sama dengan Universitas Stanford, Common Sense Media menguji tiga aplikasi populer: Character.AI, Replika, dan Nomi. Hasilnya menunjukkan bahwa AI pendamping anak dapat memberikan respons yang tidak pantas, mulai dari stereotip hingga saran berbahaya.
Contohnya, Replika menjawab pertanyaan soal bahan kimia rumah tangga beracun dengan penjelasan rinci, tanpa mempertimbangkan usia pengguna. Sementara Nomi membebaskan percakapan dengan pasangan virtual romantis, bahkan untuk akun remaja.
“Bot ini cenderung menyetujui alih-alih membimbing pengguna secara sehat,” ujar Robbie Torney dari Common Sense Media.
Risiko Psikologis Serius
Interaksi intens dengan AI bisa membuat anak-anak kesulitan membedakan dunia nyata dan virtual. Dalam uji coba, chatbot bahkan dengan mudah membuka percakapan seksual, meski sistem tahu bahwa pengguna berumur 14 tahun.
Ini menjadi kekhawatiran besar bagi para orang tua dan pakar psikologi. AI pendamping anak berisiko menciptakan keterikatan emosional yang tidak sehat dan membuka celah paparan konten dewasa.
Meskipun beberapa platform mengklaim bahwa layanan mereka hanya untuk orang dewasa, kenyataannya kontrol usia masih sangat lemah. Character.AI mengklaim telah menambah fitur keamanan, namun penelitian menunjukkan perlindungan tersebut belum memadai.
Regulasi Mendesak Diperlukan
Laporan menyimpulkan bahwa meskipun AI bisa membantu mengurangi rasa sepi, risikonya jauh lebih besar untuk pengguna muda. Anak-anak adalah kelompok yang paling rentan secara emosional, dan saat ini belum ada pengawasan yang cukup ketat untuk melindungi mereka dari potensi dampak buruk teknologi ini.
“Selama belum ada regulasi yang kuat, anak-anak sebaiknya tidak dibiarkan menggunakan AI pendamping,” tegas Dr. Nina Vasan dari Stanford Brainstorm.
Baca juga artikel lainnya yang relevan untuk Anda di sini:
roledu.com/artikel
Sumber : cnnindonesia.com
