외부 문서를 읽는 AI, 문서 속 지시문은 어디까지 따라야 할까
문서 요약 AI가 본문 속 지시를 사용자 명령으로 받아들이면 업무와 권한이 바뀔 수 있다. 간접 프롬프트 인젝션을 구별하고 입력·도구·결과 확인에서 대응하는 방법을 설명한다.
문서 요약 AI가 본문 속 지시를 사용자 명령으로 받아들이면 업무와 권한이 바뀔 수 있다. 간접 프롬프트 인젝션을 구별하고 입력·도구·결과 확인에서 대응하는 방법을 설명한다.
JSON이 정상적으로 읽힌다는 사실과 업무에 써도 된다는 판단은 다르다. 필수값·허용값·원문 근거·실행 권한을 나눠 확인하고 오류에 맞춰 보류하는 방법을 설명한다.