Prompt Injection untuk Aplikasi AI — Instruksi Bukanlah Pembatas Keamanan
Sebuah aplikasi kecil membaca email yang masuk, meminta model bahasa untuk merangkumnya, lalu — jika ringkasannya menyebut sebuah tugas — membiarkan model memicu tindak lanjut. Email itu datang dari orang yang tidak kamu kontrol. Teks di dalamnya bisa berisi …
Read article