보안 및 책임 있는 사용

AI가 신뢰할 수 없는 데이터를 다루거나 작업을 수행하기 시작하면 더는 무시할 수 없는 안전 모델입니다. 프롬프트 인젝션, 에이전트 보안, 책임 있는 사용을 다룹니다.

📄️프롬프트 인젝션 설명

직접 및 간접 인젝션 — AI가 읽는 콘텐츠에 숨겨진 악성 지시문.

최소 권한, 샌드박싱, 혼란스러운 대리인 문제, 그리고 휴먼 인 더 루프.

헤드리스/CI 실행을 잠금 처리하여 에이전트가 시크릿이나 프로덕션에 손대지 못하도록 합니다.

플러그인, 스킬, MCP 서버는 실행 가능한 코드를 포함할 수 있습니다 — 신뢰하기 전에 검토하세요.

자율성 사다리, 검증 마인드셋, 편향, 그리고 사람을 루프 안에 두기.