Безопасность5 мин чтения
Prompt injection: прямые и непрямые атаки и защита
Prompt injection заставляет ИИ выполнять инструкции атакующего, спрятанные во вводе или документах. Прямые и непрямые атаки и защита, которая работает.
Категория
Prompt injection и другие риски при разработке на LLM, а также архитектуры, ограничивающие ущерб.
Prompt injection заставляет ИИ выполнять инструкции атакующего, спрятанные во вводе или документах. Прямые и непрямые атаки и защита, которая работает.
Короткие тесты о реальных решениях при составлении промптов, с объяснением к каждому ответу. Начать можно бесплатно на iPhone и Android.