외부 문서를 읽는 AI, 문서 속 지시문은 어디까지 따라야 할까
문서 요약 AI가 본문 속 지시를 사용자 명령으로 받아들이면 업무와 권한이 바뀔 수 있다. 간접 프롬프트 인젝션을 구별하고 입력·도구·결과 확인에서 대응하는 방법을 설명한다.
문서 요약 AI가 본문 속 지시를 사용자 명령으로 받아들이면 업무와 권한이 바뀔 수 있다. 간접 프롬프트 인젝션을 구별하고 입력·도구·결과 확인에서 대응하는 방법을 설명한다.
AI 에이전트 운영에서 approval point, action limit, rollback path를 어떻게 설계할지 정리합니다.