Upaya ekstraksi model AI kembali menjadi sorotan setelah peretas mencoba meniru sistem Gemini milik Google. Serangan dilakukan dengan lebih dari 100.000 prompt yang dirancang khusus untuk memetakan pola kerja kecerdasan buatan tersebut. Google segera memblokir akun yang terlibat dan memperkuat sistem keamanan model AI guna mencegah insiden serupa.
Matt Burgess dari Wired menjelaskan bahwa teknik ini dikenal sebagai serangan distilasi atau ekstraksi model. Tujuannya adalah membangun AI pesaing dengan meniru cara kerja inti sistem target.
Kampanye tersebut terdeteksi oleh tim keamanan internal Google. Investigasi mengarah pada pihak yang berupaya merekonstruksi perilaku model tanpa mencuri kode sumber secara langsung.
Modus Kloning Lewat Prompt dan Respons Sistem
Google mengungkapkan bahwa pelaku terus mengirimkan pertanyaan untuk membaca pola keluaran Gemini. Dari respons yang terkumpul, mereka menyusun ulang logika pemrosesan informasi milik model tersebut.
Metode ini memanfaatkan akses publik pada model bahasa besar yang bisa diakses daring. Jika dilakukan terus-menerus, respons sistem dapat membuka pola pengambilan keputusan AI.
Banyak kueri sengaja dirancang untuk menguji cara Gemini memahami konteks, memecahkan persoalan, serta menghubungkan berbagai ide. Serangan berasal dari sejumlah wilayah, tetapi Google tidak mengungkap identitas pelaku.
Sistem Deteksi dan Respons Keamanan Google
Aktivitas mencurigakan dipantau oleh Google Threat Intelligence Group. Tim ini menggunakan analitik perilaku untuk mengenali pola permintaan tidak wajar yang mengarah pada ekstraksi model AI.
Setelah teridentifikasi, akun yang melanggar langsung dibatasi. Google juga menutup celah yang memungkinkan pengungkapan informasi penalaran sensitif melalui permintaan berulang.
Perusahaan menyatakan akan terus memperkuat keamanan model AI melalui peningkatan kontrol internal dan sistem pencegahan baru.
Ancaman Serupa Mengintai Banyak Perusahaan
Google mengingatkan bahwa risiko ini juga mengancam perusahaan kecil. Terutama bisnis yang mengembangkan model AI khusus berbasis data internal mereka.
Model semacam itu menyimpan pengetahuan komersial yang bernilai tinggi. Jika dieksploitasi lewat pertanyaan sistematis, informasi penting bisa bocor.
Risiko kekayaan intelektual meningkat seiring ketergantungan perusahaan pada AI. Masalah ini bersifat lintas industri, bukan kasus tunggal.
OpenAI sebelumnya juga menuding pesaing memakai teknik distilasi serupa. Tuduhan itu memperlihatkan luasnya ancaman di sektor kecerdasan buatan.
Pakar keamanan menilai perlindungan perilaku model akan menjadi tantangan besar berikutnya. Isu ini berjalan beriringan dengan privasi data dan pencegahan penyalahgunaan teknologi.
AI Jadi Senjata Pertahanan Siber
Di sisi lain, perusahaan kini memanfaatkan AI untuk melawan ancaman digital. Sistem cerdas dipakai mendeteksi malware secara waktu nyata.
Teknologi ini membaca pola perilaku berbahaya, bukan hanya analisis statis. Pendekatan tersebut jauh lebih cepat dan adaptif.
AI juga membantu memindai email serta pesan untuk mendeteksi phishing otomatis. Proses ini menghemat ribuan jam kerja manusia.
Google turut mengembangkan alat keamanan seperti Big Sleep dan CodeMender. Keduanya dirancang untuk mendeteksi potensi penyalahgunaan AI secara proaktif.
Masih banyak artikel menarik lainnya yang bisa Anda baca. Temukan pilihan topik terbaik kami di roledu.com
