ai-agents-for-beginners

Agentic RAG

(위 이미지를 클릭하면 이 강의의 동영상을 볼 수 있습니다)

Agentic RAG

이 강의는 Agentic Retrieval-Augmented Generation (Agentic RAG)에 대한 포괄적인 개요를 제공합니다. Agentic RAG는 대규모 언어 모델(LLM)이 외부 소스에서 정보를 가져오면서 다음 단계를 자율적으로 계획하는 새로운 AI 패러다임입니다. 정적인 정보 검색 후 읽기 패턴과 달리, Agentic RAG는 LLM에 반복적으로 호출하며 도구 또는 함수 호출과 구조화된 출력을 교차적으로 사용합니다. 시스템은 결과를 평가하고, 쿼리를 수정하며, 필요시 추가 도구를 호출하고, 만족스러운 솔루션이 나올 때까지 이 과정을 반복합니다.

소개

이 강의에서는 다음을 다룹니다:

학습 목표

이 강의를 완료한 후, 다음을 이해하거나 수행할 수 있습니다:

Agentic RAG란 무엇인가?

Agentic Retrieval-Augmented Generation (Agentic RAG)은 대규모 언어 모델(LLM)이 외부 소스에서 정보를 가져오면서 다음 단계를 자율적으로 계획하는 새로운 AI 패러다임입니다. 정적인 정보 검색 후 읽기 패턴과 달리, Agentic RAG는 LLM에 반복적으로 호출하며 도구 또는 함수 호출과 구조화된 출력을 교차적으로 사용합니다. 시스템은 결과를 평가하고, 쿼리를 수정하며, 필요시 추가 도구를 호출하고, 만족스러운 솔루션이 나올 때까지 이 과정을 반복합니다. 이러한 반복적인 “Maker-Checker” 스타일은 정확성을 개선하고, 잘못된 쿼리를 처리하며, 고품질 결과를 보장합니다.

시스템은 추론 과정을 적극적으로 소유하며, 실패한 쿼리를 다시 작성하고, 다른 검색 방법을 선택하며, 여러 도구를 통합합니다. 예를 들어 Azure AI Search의 벡터 검색, SQL 데이터베이스 또는 사용자 지정 API를 사용하여 최종 답변을 완성합니다. 에이전트 시스템의 차별화된 특징은 추론 과정을 소유하는 능력입니다. 기존 RAG 구현은 사전 정의된 경로에 의존하지만, 에이전트 시스템은 발견한 정보의 품질에 따라 단계 순서를 자율적으로 결정합니다.

Agentic Retrieval-Augmented Generation (Agentic RAG)의 정의

Agentic Retrieval-Augmented Generation (Agentic RAG)은 LLM이 외부 데이터 소스에서 정보를 가져오는 것뿐만 아니라 다음 단계를 자율적으로 계획하는 AI 개발의 새로운 패러다임입니다. 정적인 정보 검색 후 읽기 패턴이나 신중하게 스크립트된 프롬프트 시퀀스와 달리, Agentic RAG는 LLM에 반복적으로 호출하며 도구 또는 함수 호출과 구조화된 출력을 교차적으로 사용합니다. 매 단계에서 시스템은 얻은 결과를 평가하고, 쿼리를 수정할지 여부를 결정하며, 필요시 추가 도구를 호출하고, 만족스러운 솔루션이 나올 때까지 이 과정을 반복합니다.

이 반복적인 “Maker-Checker” 스타일의 운영은 정확성을 개선하고, 구조화된 데이터베이스(NL2SQL 등)에 대한 잘못된 쿼리를 처리하며, 균형 잡힌 고품질 결과를 보장하도록 설계되었습니다. 신중하게 설계된 프롬프트 체인에만 의존하는 대신, 시스템은 추론 과정을 적극적으로 소유합니다. 실패한 쿼리를 다시 작성하고, 다른 검색 방법을 선택하며, 여러 도구를 통합합니다. 예를 들어 Azure AI Search의 벡터 검색, SQL 데이터베이스 또는 사용자 지정 API를 사용하여 최종 답변을 완성합니다. 이를 통해 복잡한 오케스트레이션 프레임워크가 필요하지 않습니다. 대신 비교적 간단한 “LLM 호출 → 도구 사용 → LLM 호출 → …” 루프를 통해 정교하고 근거 있는 출력을 생성할 수 있습니다.

Agentic RAG Core Loop

추론 과정 소유하기

시스템을 “에이전트적”으로 만드는 차별화된 특징은 추론 과정을 소유하는 능력입니다. 기존 RAG 구현은 모델이 무엇을 검색하고 언제 검색할지를 인간이 사전에 정의한 경로에 의존합니다. 하지만 시스템이 진정으로 에이전트적일 때는 문제를 접근하는 방법을 내부적으로 결정합니다. 단순히 스크립트를 실행하는 것이 아니라, 발견한 정보의 품질에 따라 단계 순서를 자율적으로 결정합니다.

예를 들어, 제품 출시 전략을 생성하라는 요청을 받았을 때, 전체 연구 및 의사 결정 워크플로우를 명시하는 프롬프트에만 의존하지 않습니다. 대신, 에이전트 모델은 독립적으로 다음을 결정합니다:

  1. Bing Web Grounding을 사용하여 현재 시장 동향 보고서를 검색합니다.
  2. Azure AI Search를 사용하여 관련 경쟁사 데이터를 식별합니다.
  3. Azure SQL Database를 사용하여 과거 내부 판매 지표를 연관시킵니다.
  4. Azure OpenAI Service를 통해 결과를 종합하여 일관된 전략을 만듭니다.
  5. 전략의 격차나 불일치를 평가하고, 필요시 또 다른 검색 라운드를 진행합니다.

이 모든 단계—쿼리 수정, 소스 선택, 답변에 만족할 때까지 반복—은 모델이 결정하며, 인간이 사전에 스크립트하지 않습니다.

반복 루프, 도구 통합 및 메모리

Tool Integration Architecture

에이전트 시스템은 반복 상호작용 패턴에 의존합니다:

시간이 지남에 따라 이는 진화하는 이해의 감각을 만들어내며, 모델이 복잡하고 다단계 작업을 인간의 지속적인 개입이나 프롬프트 재구성이 필요 없이 탐색할 수 있게 합니다.

실패 모드 처리 및 자기 수정

Agentic RAG의 자율성은 강력한 자기 수정 메커니즘도 포함합니다. 시스템이 막다른 길에 도달했을 때—예를 들어 관련 없는 문서를 검색하거나 잘못된 쿼리를 만났을 때—다음과 같은 작업을 수행할 수 있습니다:

이 반복적이고 역동적인 접근 방식은 모델이 지속적으로 개선되도록 하며, 단순히 한 번의 시도로 끝나는 시스템이 아니라 주어진 세션 동안 실수를 통해 학습하는 시스템이 되도록 합니다.

Self Correction Mechanism

에이전시의 한계

작업 내에서의 자율성에도 불구하고, Agentic RAG는 인공지능 일반 지능(AGI)과 동일하지 않습니다. 그 “에이전트적” 능력은 인간 개발자가 제공한 도구, 데이터 소스, 정책에 제한됩니다. 자체 도구를 발명하거나 설정된 도메인 경계를 벗어날 수 없습니다. 대신, 제공된 자원을 동적으로 조율하는 데 뛰어납니다.

더 발전된 AI 형태와의 주요 차이점은 다음과 같습니다:

  1. 도메인별 자율성: Agentic RAG 시스템은 알려진 도메인 내에서 사용자 정의 목표를 달성하는 데 초점을 맞추며, 쿼리 재작성이나 도구 선택과 같은 전략을 사용하여 결과를 개선합니다.
  2. 인프라 의존성: 시스템의 능력은 개발자가 통합한 도구와 데이터에 달려 있습니다. 인간의 개입 없이는 이러한 경계를 초과할 수 없습니다.
  3. 안전 장치 준수: 윤리적 지침, 규정 준수 규칙, 비즈니스 정책은 여전히 매우 중요합니다. 에이전트의 자유는 항상 안전 조치와 감독 메커니즘에 의해 제한됩니다.

실용적 사용 사례 및 가치

Agentic RAG는 반복적 정제와 정확성이 요구되는 시나리오에서 빛을 발합니다:

  1. 정확성 우선 환경: 규정 준수 검사, 규제 분석, 법률 연구에서 에이전트 모델은 사실을 반복적으로 확인하고, 여러 소스를 참조하며, 철저히 검증된 답변을 생성할 때까지 쿼리를 다시 작성할 수 있습니다.
  2. 복잡한 데이터베이스 상호작용: 구조화된 데이터와 작업할 때 쿼리가 자주 실패하거나 조정이 필요한 경우, 시스템은 Azure SQL 또는 Microsoft Fabric OneLake를 사용하여 쿼리를 자율적으로 수정하여 최종 검색이 사용자의 의도와 일치하도록 합니다.
  3. 확장된 워크플로우: 새로운 정보가 나타남에 따라 세션이 진화할 수 있습니다. Agentic RAG는 지속적으로 새로운 데이터를 통합하고, 문제 공간에 대해 더 많이 학습하면서 전략을 변경할 수 있습니다.

거버넌스, 투명성 및 신뢰

이러한 시스템이 추론에서 더 자율적이 됨에 따라, 거버넌스와 투명성이 중요합니다:

행동 기록을 명확히 제공하는 도구가 필수적입니다. 그렇지 않으면 다단계 프로세스를 디버깅하는 것이 매우 어려울 수 있습니다. Chainlit을 개발한 Literal AI의 에이전트 실행 예제를 참조하세요:

AgentRunExample

AgentRunExample2

결론

Agentic RAG는 AI 시스템이 복잡하고 데이터 집약적인 작업을 처리하는 방식에서 자연스러운 진화를 나타냅니다. 반복 상호작용 패턴을 채택하고, 도구를 자율적으로 선택하며, 고품질 결과를 얻을 때까지 쿼리를 정제함으로써, 시스템은 정적인 프롬프트 추종을 넘어 더 적응적이고 컨텍스트를 인식하는 의사 결정자로 발전합니다. 여전히 인간이 정의한 인프라와 윤리적 지침에 의해 제한되지만, 이러한 에이전트적 능력은 기업과 최종 사용자 모두에게 더 풍부하고 역동적이며 궁극적으로 더 유용한 AI 상호작용을 가능하게 합니다.

Agentic RAG에 대해 더 궁금한 점이 있으신가요?

Azure AI Foundry Discord에 참여하여 다른 학습자들과 만나고, 오피스 아워에 참석하며 AI 에이전트에 대한 질문에 답변을 받을 수 있습니다.

추가 자료

- Azure OpenAI 서비스를 활용한 검색 증강 생성(RAG) 구현: Azure OpenAI 서비스를 사용하여 자신의 데이터를 활용하는 방법을 배워보세요. 이 Microsoft Learn 모듈은 RAG 구현에 대한 포괄적인 가이드를 제공합니다

학술 논문

이전 강의

도구 사용 디자인 패턴

다음 강의

신뢰할 수 있는 AI 에이전트 구축

면책 조항:
이 문서는 AI 번역 서비스 Co-op Translator를 사용하여 번역되었습니다. 정확성을 위해 최선을 다하고 있지만, 자동 번역에는 오류나 부정확성이 포함될 수 있습니다. 원본 문서의 원어 버전을 권위 있는 자료로 간주해야 합니다. 중요한 정보의 경우, 전문 번역가에 의한 번역을 권장합니다. 이 번역 사용으로 인해 발생하는 오해나 잘못된 해석에 대해 당사는 책임을 지지 않습니다.

This site is open source. Improve this page.