FACTORY ZERO

FZ-009 · KEAMANAN

promptdecode

Menemukan teks tak terlihat dalam tinjauan kode yang akan terlewat oleh peninjau manusia.

Alpha VALIDASI FZ stackPenyaringan teks tersembunyiOpen source
Kunjungi promptdeco.de Diluncurkan: BELUM
Status
Alpha
Tahap pipeline
VALIDASI
Sektor
KEAMANAN
Target otonomi
TINGKAT 4 · OPTIMASI MANDIRI
Dibangun dengan
3 aktif · 1 direncanakan

Masalahnya

Teks tersembunyi dalam pull request atau issue dapat menyuruh agen pemrograman untuk melakukan merge, dan peninjau tidak pernah melihatnya.

Fungsinya

promptdecode mendekode teks Unicode tersembunyi di browser Anda, tidak mengirim apa pun, dan menunjukkan isinya.

Cara kerjanya

  1. Tempel teks apa pun dan ia mengungkap karakter tersembunyi serta mendekodekan pesannya
  2. Berjalan sepenuhnya di browser Anda; tidak ada yang dikirim ke mana pun
  3. Pemindai konfigurasi memeriksa workflow GitHub Anda untuk mencari langkah agen yang dapat dijangkau oleh input tak tepercaya

Gratis dipakai hari ini di promptdeco.de.

Tangkap instruksi tersembunyi sebelum agen Anda bertindak.

Hari iniDecoder sudah berfungsi hari ini di browser. promptdecode-core 0.1.0 ada di crates.io; scanner dan GitHub Action belum dirilis.

Tujuan

Operasi otonom
Tinjauan adalah target otomatisasi. Agen pemrograman dengan token tulis membaca pull request yang sudah disetujui peninjau manusia, dan keduanya tidak membaca dokumen yang sama: karakter tag-block, override bidi, dan variation selector dirender sebagai kosong dan di-tokenisasi secara normal. Pemindai dimaksudkan berjalan di CI pada setiap perubahan, mendekodekan apa yang ditemukan alih-alih sekadar menandai, dan memposting teks biasanya kembali ke pull request, tanpa model dalam loop dan tanpa ada yang meninggalkan runner.
Kecerdasan
Sengaja tidak ada bila tidak diperlukan. Kedua mesin yang direncanakan bersifat deterministik: satu melacak input workflow tak tepercaya hingga langkah agen yang memegang token tulis, satu mencocokkan kelas Unicode bernama di seluruh isi repositori. Detektor yang membutuhkan model untuk memutuskan apa yang mencurigakan tidak dapat menyatakan cakupannya sendiri, dan cakupan yang dapat dinyatakan itulah produknya.
Pertumbuhan
Berbasis bukti, dan karena itu lebih lambat. Tidak ada persentase serangan yang diblokir yang dipublikasikan, karena tingkat penghindaran di tingkat karakter berubah terlalu jauh menurut teknik sehingga satu angka tidak bermakna. Yang dipublikasikan adalah cakupan deterministik atas daftar kelas Unicode bernama dan recall pada tingkat positif palsu yang dinyatakan pada korpus bernama, dengan korpus dan harness terbuka. Pertumbuhan adalah repositori yang dipindai per minggu setelah Action ada.
Rincian teknis

Menemukan teks yang tidak terlihat oleh peninjau manusia tetapi terbaca penuh oleh model bahasa, lalu mendekodekannya. Instruksi tersembunyi di judul pull request, isi isu, atau berkas repositori dapat menyuruh agen pemrograman menyetujui, menggabungkan, atau berkomentar, sementara diff tidak menunjukkan hal yang janggal. Dua bagian berfungsi hari ini. Dekoder di situs, yang membaca tiga kelas code point bernama (blok tag Unicode, kontrol dan override bidi, variation selector), merekonstruksi payload yang dikodekannya, dan berjalan sepenuhnya di browser pembaca tanpa mengirim apa pun ke mana pun. Serta pemindai konfigurasi, yang melacak input workflow tak tepercaya hingga langkah agen yang memegang token tulis, dan berjalan dari source tanpa rilis. Sisanya sudah dirancang tetapi belum ditulis: mesin konten yang mendekodekan payload di seluruh repositori, pemindai baris perintah, GitHub Action, dan benchmark terbuka. Jika sebuah kelas tidak ada dalam daftar yang dipublikasikan, kelas itu tidak terdeteksi; daftar itulah klaimnya.

Terkait

Dari fondasi yang sama.

Semua venture