💡 에이전톤 Q&A : 26
응답의 할루시네이션을 제거하는 지침이나, 팁이 있을까요?
특히 응답의 정확성이 매우 중요한 에이전트의 경우 질의응답시 잘못된 내용을 말하지 않도록 하고 싶습니다.
또한 Excel 파일을 업로드했을 때 분석 정확도가 떨어지는 경우가 있습니다.
이런 경우, 정확도를 높이기 위해 Excel 파일을 가공하는 팁 문의드립니다.
📝 답변
할루시네이션 관련해서는 귀찮아서 프롬프트를 좀 더 보강해서 말해줄 필요가 있습니다.
다음은 요청하신 “할루시네이션 방지 프롬프트 치트시트”를 한 페이지로 정리한 내용입니다.
✅ 코파일럿 할루시네이션 방지 치트시트 (1 Page)
핵심 원칙
근거 고정: “이 자료만 사용”, “모르면 모른다고” 명시
맥락·제약 명확화: 목적, 대상, 톤, 기간, 범위 지정
출처 요구: 숫자·날짜·고유명사 옆에 [출처] 표기
불확실성 표시: 확실치 않으면 ‘불확실’ 또는 TBD
질의 루프: 정보 부족 시 먼저 질문
최신성 기준: “정보 기준일” 명시
생성 대신 변환: 요약·정리 중심
프롬프트 템플릿
리서치/사실 확인
다음 출처만 사용: [링크/파일]
- 범위: (예) 2024-01-01 ~ 2025-09-03
요구:
1) 주장마다 [근거: 파일명/페이지]
2) 불확실 시 ‘불확실’ 표시
3) 마지막에 누락 위험 3가지
요약/회의록
이 회의 대화록+공유 파일만 사용
- 핵심 결정/액션/오픈 이슈 분리
- 각 항목에 [스피커, 타임스탬프]
- 불명확 항목 ‘불확실’ 태그
이메일 초안
대상/톤: 고객 임원, 정중
근거: [링크/파일]
금지: 추정/창작
요구: 각 문장에 [출처], 불확실은 TBD
체크리스트
[ ] 모든 숫자·날짜·고유명사에 출처 있음?
[ ] 불확실/추정 라벨링?
[ ] 범위·최신성 준수?
[ ] 누락 가능성 언급?
바로 쓰는 문구
“이 자료만 사용, 출처 없는 내용 삭제”
“모르면 모른다고 말해”
“불확실은 불확실로 표시”
“답하기 전 필요한 추가정보 3가지 질문”
👉 TIP: 팀 공용 템플릿으로 저장해 반복 사용하세요.
원하시면 PDF 다운로드용 디자인 버전이나 PowerPoint 슬라이드 버전으로도 만들어 드릴게요. 어떤 형식으로 드릴까요? PDF, PPT, 아니면 Word 문서?
엑셀 파일 관련해서는 앞서 답변한 내용을 그대로 … 🙂
정형데이터에 쿼리 날리듯 정보를 집계해서 가져오려면 코파일럿의 코드인터프리터 기능을 사용하시면 됩니다. 코드인터프리터는 사용자가 원하는 기능을 달성하기 위해 파이썬 등의 코드를 작성하여 직접 구동하는 기능입니다. 엑셀이나 CSV, JSON 등의 데이터를 효과적으로 활용할 수 있습니다.
- 코파일럿 - 코드인터프리터 기능이 켜져 있습니다
- 에이전트 빌더 - 에이전트를 만들때 토글 버튼으로 “코드 해석기” 를 켜줘야 합니다
- 프로코드 선언적 에이전트 - 매니페스트에 설정 추가 (Code Interpreter Capability for Declarative Agents for Microsoft 365 Copilot - Microsoft Learn)
- 코파일럿 스튜디오 커스텀 에이전트 - AI 프롬프트에서 활용 가능 (Use code interpreter to generate and execute Python code - Microsoft Copilot Studio - Microsoft Learn)
- 코파일럿 스튜디오 선언적 에이전트 - 활성화하는 기능이 없습니다. 수동으로 매니페스트에 설정을 추가하면 동작합니다.
또 다른 방향으로는 Azure AI Search + Vector DB 쪽으로 개발의 방향을 트는 것을 추천드리고, Copilot Studio 내에서 해결하고 싶다면 아래의 방법이 있겠습니다. (Microsoft Copilot Studio - Microsoft Learn )
또한 엑셀 자체가 피봇, 계산식 등이 있는 것이 아니라 ‘평평한’ 데이터 인 것이 가장 좋습니다.
우선은 셀 병합이나 피봇 등이 들어간 테이블이라면 평평한 데이터로 가공하시면 정확도가 높아질 가능성이 있습니다.