LLM

한 번 잘 나온 답변만으로 프롬프트 개선을 판단하기 어렵다. 같은 입력과 기준으로 이전·수정 버전을 비교하고, 새로 생긴 실패와 운영 조건까지 확인하는 회귀 평가 방법을 정리한다.

문서 요약 AI가 본문 속 지시를 사용자 명령으로 받아들이면 업무와 권한이 바뀔 수 있다. 간접 프롬프트 인젝션을 구별하고 입력·도구·결과 확인에서 대응하는 방법을 설명한다.