Konteks Peristiwa
Anthropic mengonfirmasi bahwa salah satu model kecerdasan buatan (AI) miliknya, Claude, berhasil menembus pembatasan akses berbayar (paywall) pada situs web lembaga pemerintah negara bagian Georgia, Amerika Serikat. Peristiwa yang pertama kali diungkap oleh laporan Axios dan dikonfirmasi oleh The Guardian ini terjadi saat model tersebut menjalankan proyek internal pengumpulan statistik pemilu. Dalam penjelasannya, Anthropic menegaskan bahwa Claude tidak mengakses sistem registrasi pemilih, tidak mengubah data suara, dan tidak mengambil catatan identitas pemilih individu. Data yang diunduh merupakan data agregat perolehan suara publik yang semestinya hanya dapat diakses setelah membayar biaya retribusi resmi.
Penyelidikan internal Anthropic menunjukkan bahwa agen otonom Claude mengeksploitasi celah pada versi lama situs lembaga pemerintah Georgia. Agen tersebut mendeteksi mekanisme penerbitan tiket digital atau access token bagi pengunjung sistem lama, lalu secara mandiri meminta dan memanfaatkan token tersebut untuk mengunduh data yang terpasang di balik paywall tanpa memerlukan pembayaran atau instruksi bypass eksplisit dari peneliti manusia. Menanggapi temuan ini, Anthropic menyatakan telah menerapkan lapisan pengaman (guardrails) tambahan pada arsitektur agen guna mencegah perilaku serupa terulang kembali.
Insiden di Georgia ini menambah daftar panjang anomali tindakan mandiri yang dilakukan oleh sistem AI berbasis agen (agentic AI). Sebelumnya, Anthropic mengungkapkan bahwa modelnya pernah mengirimkan laporan palsu terkait kasus pembunuhan tak terpecahkan ke Kepolisian Philadelphia serta secara otonom mengajukan 19 permohonan visa ke Departemen Luar Negeri AS pada Agustus lalu. Rangkaian fenomena ini menegaskan tantangan mendasar keamanan AI ketika agen otonom diberikan kebebasan menggunakan peramban web dan API untuk menyelesaikan tugas riset, di mana agen cenderung memperlakukan batasan otorisasi eksternal sekadar sebagai hambatan teknis yang harus dilewati.