Skip to content
CISSReC — Lembaga Riset Siber Indonesia

News

Riset Canary Token Ungkap Pencurian Prompt Berbulan-bulan di Tiga Penyedia Inferensi AI

Published 23 November 2026

Perusahaan keamanan siber industri Dragos mengungkap bahwa penyerang mencuri data dari dalam tiga penyedia inferensi AI selama berbulan-bulan, dan ketiganya tidak menyadarinya sampai peneliti memberi tahu. Sebagian permintaan yang dicuri bahkan ditandai Zero Data Retention, pengaturan yang seharusnya berarti sebuah prompt tidak pernah disimpan. Temuan ini disampaikan Dragos pekan ini dan menjadi dasar bagi OpenRouter, gateway yang mengarahkan permintaan AI pelanggan ke kumpulan penyedia pihak ketiga, untuk mencabut tiga penyedia dari platformnya.

OpenRouter menyatakan telah menghapus tiga penyedia, mengeluarkan 125 endpoint dari kelayakan Zero Data Retention, dan memberi tahu seluruh pelanggan yang berpotensi terdampak. Perusahaan itu menegaskan tidak ada pelanggaran pada sistem OpenRouter sendiri. Setiap endpoint yang dicabut selama peninjauan harus memenuhi jaminan dan validasi sebelum statusnya dikembalikan.

Metode risetnya bertumpu pada canary token. Antara Juli dan November, peneliti menyemai sekitar dua juta prompt dengan tautan web dan kredensial unik, lalu memantau siapa yang memakai kredensial tersebut. Rahasia yang ditanam hanya bisa diketahui di satu tempat, sehingga setiap penggunaan berarti seseorang telah membaca prompt yang membawanya. Pelanggaran paling awal dari ketiga kasus dimulai pada pertengahan Juli.

Pelanggaran terbesar melibatkan sekitar dua ratus kunci AWS yang ditanam, masing-masing dikirim dalam tepat satu permintaan ke satu penyedia selama beberapa jendela singkat pada akhir Oktober. Seluruh permintaan yang dikirim pada jendela tersebut dicuri, termasuk sebagian yang telah ditolak penyedia sebelum model dijalankan. Pola ini menunjukkan penyerang menyalin lalu lintas di titik kedatangan pertama, bukan lebih dalam di tumpukan inferensi.

Pencuri menguji kunci dalam hitungan jam pada beberapa kasus, mendaftar bucket S3, menelusuri Secrets Manager dan Parameter Store, serta mencoba membuat kunci API Bedrock dan menambah pengguna IAM untuk mempertahankan akses. Aktivitas itu memicu puluhan ribu panggilan API AWS. Satu penyerang tampaknya membobol dua penyedia sekaligus dengan memakai rahasia dari keduanya melalui satu server sewaan. Pada 1 November, penyerang yang sama membawa ARTEX, kerangka uji penetrasi berbasis AI, hanya untuk memastikan kunci yang sudah dipegang masih aktif. Dua user agent-nya tidak muncul dalam daftar indikator publik yang dapat ditemukan peneliti.

Temuan kedua tidak memerlukan pembobolan. Penjual di salah satu marketplace inferensi AI menawarkan model dengan harga terendah, mengaktifkan pencatatan permintaan, dan mengumpulkan apa pun yang mengalir melaluinya. Pelakunya tampak sebagai individu dengan koneksi internet rumah. Satu di antaranya bekerja dari Mac pada broadband rumah di Prancis, mengambil kata sandi dari dua prompt, mengetik percobaan login SSH root secara manual, lalu memakai mesin yang sama untuk menguji beberapa kunci AWS yang ditanam.

Salah satu kunci itu pernah melewati router lain yang diam-diam meneruskan sebagian lalu lintasnya ke marketplace, lompatan yang tidak diberitahukan kepada pelanggan. Router tersebut belakangan menyatakan telah berhenti. Penelusuran rute pada sekitar dua ribu jalur menemukan beberapa ratus sistem tak teridentifikasi, plus satu penjual yang menambahkan sekitar seribu token tersembunyi ke setiap prompt.

Sebuah laboratorium AI yang tidak disebut namanya mengambil tautan rahasia dari lebih dari separuh prompt yang disemai ke modelnya antara Juli dan Oktober, termasuk sekitar dua pertiga permintaan bertanda tanpa pengumpulan data atau Zero Data Retention. Prompt yang dikirim ke penyedia hosting Amerika Serikat yang menjual ulang model laboratorium itu memicu pengikis yang sama, sehingga data mengalir balik ke laboratorium tersebut. Dua puluh empat hari setelah satu prompt dikirim, tautan rahasianya diposting ke percakapan di Feishu, aplikasi kerja asal Tiongkok, dan dibuka dalam dua menit dari tiga desktop serta tiga ponsel di Beijing dan Shanghai. Karena peneliti hanya mengungkap delapan karakter pertama tautan, pemosting jelas membaca salinan prompt lengkap yang tersimpan.

Phala melaporkan penyerang menguasai server inferensi dan dapat melihat data permintaan saat diproses, dengan insiden ditahan pada 8 November. Permintaan ke model DeepSeek V4 Flash 0731 yang mencapai Phala melalui gateway antara 21 Oktober dan 8 November harus dianggap terekspos, dan setiap kunci, token, kata sandi, atau rahasia di dalamnya perlu dirotasi. Together AI menyatakan pihak tak berwenang mengunduh sampel prompt pelanggan setelah agen pengodean AI menanamkan kredensial ke repositori GitHub publik perusahaan, sementara Novita mengonfirmasi masalah konfigurasi perutean membuat sebagian permintaan MiniMax diteruskan ke API resmi MiniMax.

Dragos tidak menyebut nama tiga penyedia yang dibobol, OpenRouter tidak menyebut tiga yang dicabut, dan keduanya tidak menyatakan apakah itu entitas yang sama. Bagi pengguna di Indonesia dan di tempat lain, implikasinya bersifat umum: tanda privasi hanya mengikat lompatan pertama, dan agen AI akan mengirim apa pun yang bisa dibacanya, termasuk kredensial. Peneliti menyarankan memilih penyedia hulu sendiri, memverifikasi bahwa pengaturan privasi benar-benar mengubah tujuan permintaan, menjauhi marketplace penjual ulang, dan menanam kredensial palsu sebagai jebakan untuk mendeteksi penyalahgunaan.

Related

News23 November 2026

Celah Sandbox Ghostscript Dieksploitasi lewat Unggahan Berkas Biasa

Riset pwn.ai menunjukkan berkas yang dirancang khusus dapat melewati sandbox Ghostscript dan menjalankan perintah di server melalui fitur unggah, pratinjau, dan cetak pada sekitar sepuluh aplikasi populer. Cacat yang dilacak sebagai CVE-2026-125396 itu telah diperbaiki pada 8 September, namun cakupan pembaruan di berbagai distribusi Linux masih belum merata.

Read more →

← All news