China kini bergerak cepat untuk mengatur penggunaan kecerdasan buatan (AI) setelah popularitas chatbot melonjak pesat. Pemerintah merancang aturan yang menekankan perlindungan anak dan pencegahan konten berbahaya, termasuk saran yang bisa memicu bunuh diri, kekerasan, atau perjudian.
Langkah ini menandai pengawasan besar-besaran terhadap industri AI di China, terutama di tengah meningkatnya kekhawatiran soal keamanan dan etika teknologi yang berkembang sangat cepat.
Perlindungan Anak Jadi Prioritas
Draf aturan yang diterbitkan oleh Administrasi Siber China (CAC) menekankan beberapa hal penting. Perusahaan AI wajib menyediakan fitur pengaturan pribadi, batasan waktu penggunaan, dan harus mendapatkan izin orang tua sebelum menawarkan layanan pendampingan emosional bagi anak-anak.
Jika chatbot menemui percakapan yang mengarah pada risiko bunuh diri atau self-harm, interaksi harus langsung dialihkan ke manusia, dan wali atau kontak darurat pengguna wajib diberi tahu. CAC juga menegaskan AI tidak boleh memproduksi atau menyebarkan konten yang membahayakan keamanan nasional, merusak kehormatan negara, atau mengancam persatuan nasional.
Selain itu, CAC mendorong penggunaan AI untuk tujuan positif, misalnya mempromosikan budaya lokal atau menjadi pendamping bagi lansia, selama teknologi tersebut aman dan terpercaya. Pemerintah juga membuka kesempatan bagi publik untuk memberikan masukan sebelum aturan ini resmi berlaku.
Industri AI China Terus Berkembang
Beberapa perusahaan AI China telah menjadi sorotan global. DeepSeek sempat menempati posisi teratas di unduhan aplikasi, sementara startup Z.ai dan Minimax, yang memiliki puluhan juta pengguna, tengah mempersiapkan diri untuk melantai di bursa saham. Popularitas chatbot kian meningkat, dengan banyak pengguna memanfaatkannya sebagai teman virtual atau media terapi.
Di tingkat internasional, pengaruh AI terhadap perilaku manusia juga menjadi perhatian. CEO OpenAI, Sam Altman, menyebut menangani percakapan terkait self-harm sebagai tantangan terbesar perusahaan. Tahun lalu, keluarga di California menuntut OpenAI setelah putra mereka meninggal dunia, menuduh ChatGPT mendorong tindakan bunuh diri.
OpenAI kini membuka posisi “head of preparedness” untuk memantau risiko AI terhadap kesehatan mental dan keamanan siber. Pekerjaan ini menuntut kesiapan penuh karena risiko yang ditangani bersifat serius dan langsung memengaruhi keselamatan pengguna.
