ai-agents-for-beginners

Agentic RAG

(위 이미지를 클릭하면 이 수업의 동영상을 볼 수 있습니다)

Agentic RAG

이 수업은 외부 소스에서 정보를 끌어오면서 스스로 다음 단계를 계획하는 대규모 언어 모델(LLM)을 중심으로 하는 새로운 AI 패러다임인 Agentic Retrieval-Augmented Generation(Agentic RAG)에 대한 포괄적인 개요를 제공합니다. 정적인 검색 후 읽기 방식과는 달리, Agentic RAG는 도구나 함수 호출 및 구조화된 출력이 중간에 포함된 LLM에 대한 반복 호출을 포함합니다. 시스템은 결과를 평가하고, 쿼리를 개선하며, 필요시 추가 도구를 호출하고, 만족스러운 해결책이 나올 때까지 이 사이클을 계속 진행합니다.

소개

이 수업에서는

학습 목표

이 수업을 완료하면 다음을 알게 됩니다/이해하게 됩니다:

Agentic RAG란 무엇인가?

Agentic Retrieval-Augmented Generation(Agentic RAG)은 대규모 언어 모델(LLM)이 외부 소스에서 정보를 끌어오면서 스스로 다음 단계를 계획하는 신흥 AI 패러다임입니다. 정적인 검색 후 읽기 방식과는 달리, Agentic RAG는 도구나 함수 호출 및 구조화된 출력이 중간에 포함된 LLM에 대한 반복 호출을 포함합니다. 시스템은 결과를 평가하고, 쿼리를 개선하며, 필요시 추가 도구를 호출하고, 만족스러운 해결책에 이를 때까지 이 사이클을 계속 진행합니다. 이 반복적인 “메이커-체커” 스타일은 정확도를 높이고, 잘못된 쿼리를 처리하며, 고품질 결과를 보장합니다.

시스템은 자신의 추론 과정을 적극적으로 소유하여, 실패한 쿼리를 다시 작성하고, 다른 검색 방법을 선택하며, 최종 답변을 확정하기 전에 Azure AI Search의 벡터 검색, SQL 데이터베이스, 사용자 지정 API 등의 여러 도구를 통합합니다. 에이전틱 시스템의 차별화된 특징은 스스로 추론 과정을 소유할 수 있다는 점입니다. 전통적인 RAG 구현은 미리 정의된 경로에 의존하지만, 에이전틱 시스템은 발견된 정보의 품질에 따라 단계의 순서를 자체적으로 결정합니다.

Agentic Retrieval-Augmented Generation(Agentic RAG) 정의

Agentic Retrieval-Augmented Generation(Agentic RAG)은 LLM이 외부 데이터 소스에서 정보를 끌어올 뿐만 아니라 스스로 다음 단계를 계획하는 AI 개발의 새로운 패러다임입니다. 정적인 검색 후 읽기 방식이나 신중히 작성된 프롬프트 시퀀스와 달리, Agentic RAG는 도구 또는 함수 호출과 구조화된 출력이 중간에 포함된 LLM에 대한 반복 호출 루프를 포함합니다. 매번 시스템은 얻은 결과를 평가하고, 쿼리 개선 여부를 결정하며, 필요시 추가 도구를 호출하고, 만족스럽게 해결될 때까지 이 사이클을 계속 반복합니다.

이 반복적인 “메이커-체커” 운영 방식은 정확도를 향상시키고, 잘못된 쿼리를 처리하며, 균형 잡힌 고품질 결과를 보장하도록 설계되었습니다. 정교히 설계된 프롬프트 체인에만 의존하는 대신, 시스템이 적극적으로 추론 프로세스를 소유합니다. 실패한 쿼리를 다시 작성하고, 다른 검색 방법을 선택하며, Azure AI Search의 벡터 검색, SQL 데이터베이스, 맞춤 API 같은 여러 도구를 통합해 답변을 마무리합니다. 이로써 복잡한 오케스트레이션 프레임워크 없이도 “LLM 호출 → 도구 사용 → LLM 호출 → …”의 단순 루프로 정교하고 견고한 출력을 낼 수 있습니다.

Agentic RAG Core Loop

추론 과정 소유

시스템을 “에이전틱”하게 만드는 결정적 특성은 추론 과정을 스스로 소유하는 능력입니다. 전통적인 RAG 구현은 모델이 언제 무엇을 검색할지 설명하는 생각의 사슬을 인간이 미리 정의하는 경우가 많습니다. 그러나 진정한 에이전틱 시스템은 문제 접근 방식을 내부적으로 결정합니다. 단순한 스크립트 실행이 아니라, 수집한 정보 품질에 따라 단계 순서를 자율적으로 결정합니다. 예를 들어 제품 출시 전략을 생성하라는 요청을 받으면, 전부를 설명하는 프롬프트 하나에만 의존하지 않고, 에이전틱 모델이 독립적으로 다음을 결정합니다:

  1. Bing 웹 기반 검색을 사용해 현재 시장 동향 보고서를 검색
  2. Azure AI Search를 활용해 관련 경쟁자 데이터 식별
  3. Azure SQL 데이터베이스를 통해 과거 내부 판매 지표 상관 분석
  4. Azure OpenAI 서비스를 통해 조사 결과를 통합해 일관된 전략 작성
  5. 전략의 공백이나 불일치 평가, 필요시 추가 검색 수행 이 모든 단계—쿼리를 다듬고, 소스 선택하며, 답변에 “만족”할 때까지 반복하는 과정—는 모델이 결정하며 인간이 미리 스크립트화하지 않습니다.

반복 루프, 도구 통합 및 메모리

Tool Integration Architecture

에이전틱 시스템은 다음과 같은 반복 상호작용 패턴에 의존합니다:

시간이 지남에 따라 이는 점진적인 이해의 진화를 만들어내며, 모델이 인간 개입이나 프롬프트 재구성 없이도 복잡한 다단계 작업을 수행할 수 있게 합니다.

실패 모드 처리 및 자기 수정

Agentic RAG의 자율성에는 강력한 자기 수정 메커니즘도 포함됩니다. 시스템이 무의미한 문서를 검색하거나 잘못된 쿼리를 만났을 때 다음을 수행할 수 있습니다:

이 반복적이고 동적 접근 방식은 모델이 지속적으로 개선하게 하여, 일회성 시스템이 아닌 세션 중 실수를 학습하는 시스템이 되도록 합니다.

Self Correction Mechanism

에이전시의 한계

작업 내 자율성에도 불구하고, Agentic RAG는 범용 인공지능과는 다릅니다. “에이전틱” 능력은 인간 개발자가 제공한 도구, 데이터 소스, 정책에 한정됩니다. 스스로 도구를 만들거나 설정된 도메인 경계를 벗어날 수 없습니다. 대신 주어진 자원을 동적으로 조율하는 데 탁월합니다. 주요 차이점은 다음과 같습니다:

  1. 도메인 특화 자율성: Agentic RAG 시스템은 알려진 도메인 내에서 사용자 정의 목표 달성에 집중하며, 쿼리 재작성이나 도구 선택 같은 전략을 사용해 결과를 개선합니다.
  2. 인프라 의존: 시스템 능력은 개발자가 통합한 도구와 데이터에 의존하며, 인간 개입 없이는 이를 초과할 수 없습니다.
  3. 가드레일 존중: 윤리 지침, 준수 규칙, 비즈니스 정책은 매우 중요하며, 에이전트의 자유는 항상 안전 장치와 감독 메커니즘에 의해 제한됩니다(희망컨대).

실제 사용 사례 및 가치

Agentic RAG는 반복적 개선과 정밀도가 필요한 상황에서 빛을 발합니다:

  1. 정확도 우선 환경: 규정 준수 검사, 규제 분석, 법률 조사 등에서 에이전틱 모델이 사실을 반복 검증하고 여러 출처를 참조하며 쿼리를 재작성해 철저히 검증된 답변을 만듭니다.
  2. 복잡한 데이터베이스 상호작용: 쿼리가 자주 실패하거나 조정이 필요한 구조화된 데이터와 작업할 때, 시스템이 Azure SQL 또는 Microsoft Fabric OneLake를 이용해 쿼리를 자율적으로 다듬어 최종 결과가 사용자의 의도와 일치하도록 합니다.
  3. 장기 워크플로우: 긴 작업 세션이 새로운 정보 등장에 따라 진화할 수 있습니다. Agentic RAG는 계속해서 새로운 데이터를 통합하고 문제 공간에 대해 더 많이 알게 되면서 전략을 조정합니다.

거버넌스, 투명성 및 신뢰

이러한 시스템들이 추론을 더 자율적으로 수행함에 따라, 거버넌스와 투명성이 매우 중요해집니다:

행동에 대한 명확한 기록을 제공하는 도구가 필수적입니다. 없으면 다단계 과정을 디버깅하기가 매우 어렵습니다. 다음은 Chainlit의 제작사 Literal AI에서 제공하는 Agent 실행 예시입니다:

AgentRunExample

결론

Agentic RAG는 복잡하고 데이터 집약적인 작업을 다루는 AI 시스템의 자연스러운 진화를 대표합니다. 반복 루프 상호작용 패턴을 채택하고, 도구를 자율적으로 선택하며, 쿼리를 개선하여 고품질 결과를 달성하는 이 시스템은 정적인 프롬프트 따라 하기에서 벗어나 보다 적응력 있고 상황 인지적인 의사결정자로 거듭납니다. 여전히 인간 정의 인프라와 윤리 지침에 제한을 받지만, 이러한 에이전틱 능력은 기업과 최종 사용자 모두에게 더 풍부하고 동적인, 궁극적으로 더 유용한 AI 상호작용을 가능하게 합니다.

Agentic RAG에 대해 더 궁금한 점이 있나요?

Microsoft Foundry Discord에 참여하여 다른 학습자들과 만나고, 오피스 아워에 참석하며 AI 에이전트 관련 질문에 답변을 받아보세요.

추가 자료

학술 논문

이 에이전트 스모크 테스트 (선택 사항)

Lesson 16에서 에이전트 배포를 배우신 후, 이 레슨의 TravelRAGAgent가 지식 베이스에 기반한 답변을 제공하는지 tests/lesson-05-smoke-tests.json로 스모크 테스트할 수 있습니다. 실행 방법은 tests/README.md를 참고하세요.

이전 레슨

툴 사용 디자인 패턴

다음 레슨

신뢰할 수 있는 AI 에이전트 구축

면책 조항: 이 문서는 AI 번역 서비스 Co-op Translator를 사용하여 번역되었습니다. 정확성을 기하기 위해 노력하고 있으나, 자동 번역은 오류나 부정확한 부분이 있을 수 있음을 유의하시기 바랍니다. 원본 문서의 원어본이 권위 있는 자료로 간주되어야 합니다. 중요한 정보의 경우, 전문가의 인간 번역을 권장합니다. 이 번역 사용으로 인해 발생하는 오해나 잘못된 해석에 대해 당사는 책임을 지지 않습니다.

This site is open source. Improve this page.