Świadek wydał sprawcę jednym zdaniem. Prompt injection w naszej grze i co to znaczy dla agentów AI w firmie
Prawdziwa próba prompt injection w grze Tajemnice Miast: jedna wypowiedź gracza wyciągnęła z postaci cały prompt razem z nazwiskiem sprawcy. Dlaczego zasada w prompcie to prośba, a nie zamek, jak zabezpieczyliśmy grę trzema warstwami i jakie ryzyko niesie wystawienie w internecie agenta AI z dostępem do poczty, plików i danych klientów.
Michał Feliksik
Read More
8 min