Prompt-Injection bei KI-Anwendungen — Eine Anweisung ist keine Sicherheitsgrenze
Eine kleine Anwendung liest eine eingehende E-Mail, bittet ein Sprachmodell um eine Zusammenfassung und lässt das Modell, falls diese Zusammenfassung eine Aufgabe erwähnt, eine Folgeaktion anstoßen. Die E-Mail stammt von jemandem, den du nicht kontrollierst. …
Read article