외부 문서를 읽는 AI, 문서 속 지시문은 어디까지 따라야 할까
문서 요약 AI가 본문 속 지시를 사용자 명령으로 받아들이면 업무와 권한이 바뀔 수 있다. 간접 프롬프트 인젝션을 구별하고 입력·도구·결과 확인에서 대응하는 방법을 설명한다.
문서 요약 AI가 본문 속 지시를 사용자 명령으로 받아들이면 업무와 권한이 바뀔 수 있다. 간접 프롬프트 인젝션을 구별하고 입력·도구·결과 확인에서 대응하는 방법을 설명한다.
RAG 운영에서 권한 반영은 보안 설정의 부속 문제가 아니라 품질 사고를 줄이는 핵심 운영 설계다. 검색 결과에 무엇이 보여야 하는지보다 누가 무엇을 보면 안 되는지가 늦게 반영되면 서비스 신뢰는 빠르게 무너진다. 접근 권한 변경, 문서 공개 범위 수정, 예외 처리 흐름을 검색 파이프라인과 따로 놓고 보면 품질 사고를 반복하기 쉽다. 운영 대응은 “문제가 생기면 고친다”가 … 더 읽기