Объяснение prompt-инъекций
Прямая и косвенная инъекция — вредоносные инструкции, спрятанные в контенте, который читает ИИ.
Защита агентов и инструментов
Минимальные привилегии, песочница, проблема «запутавшегося заместителя» и человек в контуре.
Усиление защиты автономных запусков
Заблокируйте headless/CI-запуски так, чтобы агент не мог получить доступ к секретам или продакшену.
Проверка стороннего кода
Плагины, навыки и MCP-серверы могут поставлять исполняемый код — проверяйте, прежде чем доверять.
Ответственное использование, этика и проверка
Лестница автономии, установка на проверку, предвзятость и удержание человека в контуре.