Pemanfaatan kecerdasan buatan atau adopsi AI Indonesia terus meningkat, namun belum diimbangi dengan kematangan implementasi. Studi Katadata 2025 mencatat lebih dari 80% bisnis telah menggunakan AI, tetapi hanya 13% yang mencapai tahap lanjutan. Kondisi ini menunjukkan bahwa hambatan utama bukan pada teknologi, melainkan lemahnya kerangka etika dan tata kelola.
Risiko tersebut mulai terlihat dalam penggunaan Conversational AI. Salah satu isu utama adalah bias data, ketika sistem dilatih dengan data yang tidak merepresentasikan populasi secara menyeluruh. Dampaknya, hasil yang dihasilkan bisa tidak akurat hingga berpotensi diskriminatif, yang pada akhirnya membatasi akses layanan dan mempersempit pasar.
Selain itu, aspek privasi dan keamanan data menjadi sorotan. Sistem AI yang memproses percakapan pengguna menyimpan data dalam jumlah besar, termasuk informasi sensitif. Tanpa pengamanan yang memadai, risiko kebocoran data hingga penyalahgunaan informasi sangat mungkin terjadi, terutama di sektor seperti layanan kesehatan.
Tantangan Baru dari Agentic AI
Perkembangan teknologi juga melahirkan konsep Agentic AI, yakni sistem yang mampu mengambil keputusan secara mandiri lintas fungsi bisnis seperti pemasaran hingga layanan pelanggan. Namun, tingkat otonomi ini justru menambah kompleksitas.
Sistem yang bekerja dengan berbagai tujuan dan dataset berisiko menghasilkan keputusan yang bias atau bahkan bertentangan. Tanpa batasan yang jelas, konsekuensi yang muncul bisa berdampak langsung pada reputasi dan kepatuhan hukum perusahaan.
Kukuh Prayogi, Enterprise Business Director Infobip Indonesia, menegaskan bahwa tantangan terbesar saat ini terletak pada kendali dan akuntabilitas. Menurutnya, perusahaan perlu memperkuat tiga aspek utama, yakni analisis pemangku kepentingan, asesmen risiko teknis, serta tata kelola yang jelas agar AI tetap berjalan sesuai regulasi.
Fondasi Etika Jadi Kunci
Dalam praktiknya, penerapan etika penggunaan AI menjadi syarat utama agar teknologi ini dapat berkembang secara berkelanjutan. Infobip menekankan beberapa prinsip penting yang perlu diperhatikan perusahaan.
Pertama, perlindungan data pelanggan harus menjadi prioritas. Pengumpulan data perlu berbasis tujuan yang jelas dan proporsional, disertai sistem keamanan yang kuat. Pengujian terhadap potensi serangan siber, seperti prompt injection, juga menjadi langkah penting.
Kedua, menjaga akurasi hasil AI. Pendekatan seperti Retrieval-Augmented Generation (RAG) dinilai efektif karena menggabungkan data internal terverifikasi dengan kemampuan AI, sehingga mengurangi risiko kesalahan atau halusinasi.
Ketiga, transparansi kepada pengguna. Perusahaan perlu menjelaskan bagaimana data digunakan dan memastikan pengguna memahami peran AI dalam layanan yang mereka terima.
Keempat, seleksi ketat terhadap mitra dan vendor. Setiap pihak yang terlibat dalam pengolahan data harus memenuhi standar privasi dan keamanan yang sama, serta transparan terhadap perubahan kerja sama.
Pada akhirnya, keberhasilan adopsi AI Indonesia tidak hanya ditentukan oleh kecanggihan teknologi, tetapi juga oleh tingkat kepercayaan publik. Pendekatan human-in-the-loop, di mana manusia tetap menjadi pengawas utama, menjadi solusi untuk menjaga kontrol dan meminimalkan risiko.
Masih banyak artikel menarik lainnya yang bisa Anda baca. Temukan pilihan topik terbaik kami di roledu.com
