ai-agents-for-beginners

(Натисніть на зображення вище, щоб переглянути відео цього уроку)

Agentic RAG

Цей урок надає всебічний огляд Agentic Retrieval-Augmented Generation (Agentic RAG) — нової парадигми ШІ, де великі мовні моделі (LLM) автономно планують свої наступні кроки, одночасно витягуючи інформацію з зовнішніх джерел. На відміну від статичних схем «витягнути — прочитати», Agentic RAG включає ітеративні виклики до LLM, чергуючись із викликами інструментів або функцій та структурованими виходами. Система оцінює результати, уточнює запити, за потреби викликає додаткові інструменти і продовжує цей цикл, доки не досягне задовільного результату.

Вступ

У цьому уроці буде розглянуто

• Розуміння Agentic RAG: Дізнайтеся про нову парадигму в ШІ, де великі мовні моделі (LLM) автономно планують свої наступні кроки, отримуючи інформацію з зовнішніх джерел даних.
• Опанування ітеративного стилю maker-checker: Зрозумійте цикл ітеративних викликів до LLM, що чергуються з викликами інструментів або функцій і структурованими результатами, який покликаний підвищувати коректність і працювати з некоректно сформованими запитами.
• Дослідження практичних застосувань: Визначте випадки, де Agentic RAG ефективний, наприклад, в середовищах, орієнтованих на правильність, складних взаємодіях з базами даних і розширених робочих процесах.

Навчальні цілі

Після проходження цього уроку ви знатимете/розумітимете:

• Розуміння Agentic RAG: Дізнайтеся про нову парадигму в ШІ, де великі мовні моделі (LLM) автономно планують свої наступні кроки, отримуючи інформацію з зовнішніх джерел даних.
• Ітеративний стиль maker-checker: Засвойте концепцію циклу ітеративних викликів до LLM, що чергуються з викликами інструментів або функцій і структурованими виходами, спрямовану на підвищення коректності та роботу з некоректними запитами.
• Володіння процесом розуміння: Зрозумійте здатність системи керувати власним процесом міркування, приймаючи рішення щодо підходу до завдань без покладення на заздалегідь визначені шляхи.
• Робочий процес: Усвідомте, як агентська модель самостійно приймає рішення відносно отримання звітів про ринкові тренди, ідентифікації даних конкурентів, кореляції внутрішніх продажів, синтезу висновків та оцінки стратегії.
• Ітеративні цикли, інтеграція інструментів і пам’ять: Дізнайтеся про залежність системи від циклічної взаємодії, збереження стану та пам’яті між кроками задля уникнення повторюваних циклів і прийняття обґрунтованих рішень.
• Обробка режимів відмов та самокорекція: Оцініть надійні механізми самокорекції системи, включаючи ітерації і повторні запити, використання діагностичних інструментів і звернення до людського контролю.
• Межі агентності: Зрозумійте обмеження Agentic RAG, сфокусовані на автономії в доменній області, залежності від інфраструктури та дотриманні обмежень.
• Практичні випадки використання та цінність: Визначте ситуації, де Agentic RAG ефективний, наприклад, в середовищах, орієнтованих на правильність, складних взаємодіях з базами даних та розширених робочих процесах.
• Управління, прозорість і довіра: Ознайомтеся з важливістю управління та прозорості, включаючи пояснюване міркування, контроль упереджень і людський нагляд.

Що таке Agentic RAG?

Agentic Retrieval-Augmented Generation (Agentic RAG) — нова парадигма ШІ, у якій великі мовні моделі (LLM) автономно планують свої наступні кроки, отримуючи інформацію з зовнішніх джерел. На відміну від статичних схем «витягнути — прочитати», Agentic RAG включає ітеративні виклики до LLM, що чергуються з викликами інструментів або функцій і структурованими виходами. Система оцінює результати, уточнює запити, за потреби викликає додаткові інструменти й продовжує цей цикл, доки не досягне задовільного результату. Цей ітеративний стиль «maker-checker» підвищує коректність, працює з некоректними запитами та забезпечує високоякісні результати.

Система активно керує процесом міркування, переписує невдалі запити, обирає різні методи пошуку і інтегрує кілька інструментів — таких як пошук векторами в Azure AI Search, бази даних SQL або кастомні API — перед остаточним формуванням відповіді. Відмінна риса агентської системи — це здатність володіти процесом міркування. Традиційні реалізації RAG покладаються на заздалегідь визначені шляхи, а агентська система автономно визначає послідовність кроків на основі якості знайденої інформації.

Визначення Agentic Retrieval-Augmented Generation (Agentic RAG)

Agentic Retrieval-Augmented Generation (Agentic RAG) — це нова парадигма у розвитку ШІ, де LLM не лише отримують інформацію з зовнішніх джерел даних, але й автономно планують свої наступні кроки. На відміну від статичних схем «витягнути — прочитати» або ретельно прописаних послідовностей підказок, Agentic RAG включає цикл ітеративних викликів до LLM, що чергуються з викликами інструментів або функцій і структурованими результатами. На кожному кроці система оцінює отримані результати, вирішує, чи потрібно уточнити запити, за потреби викликає додаткові інструменти і продовжує цей цикл, доки не досягне задовільного рішення.

Цей ітеративний стиль «maker-checker» призначений для підвищення коректності, обробки некоректно сформованих запитів до структурованих баз даних (наприклад, NL2SQL) та забезпечення збалансованих, високоякісних результатів. Замість того, щоб покладатися виключно на ретельно сконструйовані ланцюжки підказок, система активно керує процесом міркування. Вона може переписувати невдалі запити, обирати різні методи пошуку та інтегрувати кілька інструментів — таких як пошук векторами в Azure AI Search, бази даних SQL або власні API — перед фіналізацією відповіді. Це усуває потребу в надто складних схемах оркестрації. Натомість, відносно простий цикл «виклик LLM → використання інструменту → виклик LLM → …» може давати складні та добре обґрунтовані результати.

Володіння процесом міркування

Відмінна риса, яка робить систему «агентською», — це здатність керувати власним процесом міркування. Традиційні реалізації RAG часто залежать від заздалегідь визначених людьми шляхів для моделі: ланцюга думок, що описує, що і коли отримувати. Але коли система справді агентська, вона внутрішньо вирішує, як підходити до проблеми. Вона не просто виконує скрипт; вона автономно визначає послідовність кроків на основі якості інформації, яку знаходить. Наприклад, якщо їй потрібно створити стратегію запуску продукту, вона не покладається виключно на підказку, що докладно описує весь процес дослідження та ухвалення рішень. Натомість агентська модель самостійно вирішує:

1. Отримати звіти про поточні ринкові тренди за допомогою Bing Web Grounding
2. Виявити релевантні дані конкурентів за допомогою Azure AI Search.
3. Корелювати історичні внутрішні метрики продажів за допомогою Azure SQL Database.
4. Синтезувати висновки у цілісну стратегію, організовану через Azure OpenAI Service.
5. Оцінити стратегію на предмет прогалин або невідповідностей, ініціюючи ще один раунд отримання інформації за потреби. Всі ці кроки — уточнення запитів, вибір джерел, повтор ітерацій доти, доки відповідь не буде «задовільною» — вирішує модель, а не людина заздалегідь визначає сценарій.

Ітеративні цикли, інтеграція інструментів і пам’ять

Агентська система базується на циклічній схемі взаємодії:

• Початковий виклик: Мета користувача (також відома як підказка користувача) подається до LLM.
• Виклик інструменту: Якщо модель виявляє відсутню інформацію або неоднозначні інструкції, вона обирає інструмент або метод пошуку — наприклад, запит до векторної бази даних (наприклад, гібридний пошук Azure AI Search по приватних даних) або структурований SQL-запит — щоб отримати більше контексту.
• Оцінка та уточнення: Після огляду повернених даних модель вирішує, чи достатньо інформації. Якщо ні — вона уточнює запит, пробує інший інструмент або коригує підхід.
• Повторювати доти, доки не буде задоволено: Цикл повторюється, поки модель не визначить, що має достатню ясність і докази, щоб надати остаточну, обґрунтовану відповідь.
• Пам’ять і стан: Оскільки система зберігає стан і пам’ять між кроками, вона може згадувати попередні спроби та їх результати, уникаючи повторюваних циклів і приймаючи більш обґрунтовані рішення в процесі.

З часом це створює відчуття еволюції розуміння, дозволяючи моделі виконувати складні багатокрокові завдання без необхідності постійного втручання людини або переформатування підказки.

Обробка режимів відмов та самокорекція

Автономність Agentic RAG також включає надійні механізми самокорекції. Коли система натрапляє на глухий кут — наприклад, отримує нерелевантні документи або стикається з некоректними запитами — вона може:

• Ітерації та повторні запити: Замість повернення відповідей низької якості модель пробує нові стратегії пошуку, переписує запити до баз даних або переглядає альтернативні набори даних.
• Використання діагностичних інструментів: Система може викликати додаткові функції, що допомагають налагоджувати кроки міркування або підтверджувати коректність отриманих даних. Інструменти, як Azure AI Tracing, будуть важливими для забезпечення надійної спостережуваності та моніторингу.
• Звернення до людського контролю: Для сценаріїв із високою важливістю або постійними помилками модель може позначати невизначеність і запитувати людську допомогу. Після надання коректив людиною модель може враховувати цей досвід надалі.

Такий ітеративний і динамічний підхід дозволяє моделі постійно вдосконалюватися, гарантуючи, що це не просто «один раз» система, а така, що вчиться на своїх помилках у межах сесії.

Межі Агентності

Незважаючи на автономність у межах завдання, Agentic RAG не є аналогом штучного загального інтелекту. Його «агентські» можливості обмежені інструментами, джерелами даних і політиками, заданими людьми-розробниками. Вона не може вигадувати власні інструменти чи виходити за межі встановлених доменних меж. Натомість вона відмінно справляється з динамічним оркеструванням наявних ресурсів. Ключові відмінності від більш просунутих форм ШІ включають:

1. Автономія в конкретному домені: Системи Agentic RAG орієнтовані на досягнення цілей користувача в рамках відомої доменної області, використовуючи стратегії, такі як переписування запитів або вибір інструментів для покращення результатів.
2. Залежність від інфраструктури: Можливості системи залежать від інтегрованих інструментів і даних, наданих розробниками. Вона не може перевищити ці межі без втручання людини.
3. Дотримання обмежень: Етичні настанови, правила відповідності і бізнес-політики залишаються дуже важливими. Свобода агента завжди обмежена заходами безпеки і механізмами нагляду (сподіваємося).

Практичні випадки використання та цінність

Agentic RAG відзначається в ситуаціях, що потребують ітеративного уточнення і точності:

1. Середовища, орієнтовані на правильність: У перевірках відповідності, нормативному аналізі чи юридичних дослідженнях агентська модель може багаторазово перевіряти факти, консультуватися з кількома джерелами і переписувати запити, доки не отримає ретельно перевірену відповідь.
2. Складні взаємодії з базами даних: При роботі зі структурованими даними, де запити часто можуть давати збій або потребувати корекції, система може автономно уточнювати свої запити, використовуючи Azure SQL або Microsoft Fabric OneLake, забезпечуючи відповідність кінцевого отримання намірам користувача.
3. Розширені робочі процеси: Сесії з тривалим виконанням можуть розвиватися у міру надходження нової інформації. Agentic RAG може безперервно інтегрувати нові дані, змінюючи стратегії у міру поглиблення розуміння проблемної сфери.

Управління, прозорість і довіра

У міру того, як ці системи стають більш автономними у міркуванні, управління і прозорість набувають критичного значення:

• Пояснюване міркування: Модель може надати слід аудиту запитів, які вона зробила, джерел, які вона консультувала, та кроків міркування, які вона здійснила, щоб дійти до висновку. Інструменти, як Azure AI Content Safety і Azure AI Tracing / GenAIOps, допомагають забезпечити прозорість та знизити ризики.
• Контроль упереджень і збалансоване отримання: Розробники можуть налаштовувати стратегії пошуку, щоб забезпечити розгляд збалансованих, репрезентативних джерел даних, і регулярно перевіряти результати на предмет упередженості або перекосів за допомогою спеціалізованих моделей для організацій, що займаються передовою наукою про дані з Azure Machine Learning.
• Людський нагляд і відповідність: Для чутливих завдань людський огляд залишається необхідним. Agentic RAG не замінює людський судження у випадках з високими ставками — він доповнює його, надаючи більш ретельно перевірені варіанти.

Наявність інструментів, що забезпечують чіткий запис дій, є необхідним. Без них налагодження багатокрокового процесу може бути дуже складним. Дивіться наступний приклад від Literal AI (компанія, що стоїть за Chainlit) для запуску агента:

Висновок

Agentic RAG представляє собою природний розвиток того, як системи ШІ вирішують складні, насичені даними завдання. Завдяки циклічній схемі взаємодії, автономному вибору інструментів і уточненню запитів до досягнення високоякісного результату, система виходить за межі статичного виконання підказок у більш адаптивного, контекстно-залежного приймача рішень. Водночас, залишаючись обмеженою інфраструктурою, визначеною людиною, і етичними настановами, ці агентські можливості дозволяють більш насичену, динамічну та, врешті-решт, кориснішу взаємодію ШІ як для підприємств, так і для кінцевих користувачів.

Є ще запитання про Agentic RAG?

Приєднуйтеся до Microsoft Foundry Discord, щоб зустрітися з іншими учнями, відвідати години консультацій і отримати відповіді на ваші запитання щодо AI Агентів.

Додаткові ресурси

• Реалізація Retrieval Augmented Generation (RAG) з Azure OpenAI Service: Дізнайтеся, як використовувати власні дані з Azure OpenAI Service. Цей модуль Microsoft Learn надає всебічний посібник з впровадження RAG
• Оцінка застосунків генеративного ШІ з Microsoft Foundry: У цій статті розглядається оцінка та порівняння моделей за публічно доступними наборами даних, включно із застосуваннями Agentic AI та архітектурами RAG
• Що таке Agentic RAG | Weaviate

• Agentic RAG: Повний посібник з агентського Retrieval Augmented Generation – Новини генерації RAG

• Agentic RAG: прискорте свій RAG за допомогою переформулювання запитів і самозапитів! Відкрите джерело AI Cookbook від Hugging Face
• Додавання агентних шарів до RAG
• Майбутнє асистентів знань: Джеррі Лю
• Як побудувати агентні системи RAG
• Використання Microsoft Foundry Agent Service для масштабування ваших AI агентів

Академічні статті

• 2303.17651 Self-Refine: ітеративне покращення з самозворотним зв’язком
• 2303.11366 Reflexion: мовні агенти з вербальним підкріплювальним навчанням
• 2305.11738 CRITIC: великі мовні моделі можуть самокоригуватися за допомогою інтерактивного критичного аналізу з інструментами
• 2501.09136 Agentic Retrieval-Augmented Generation: огляд агентного RAG

Попереднє тестування цього агента (необов’язково)

Після того, як ви навчитесь розгортати агентів у Уроці 16, ви можете попередньо протестувати TravelRAGAgent цього уроку — перевірити, що його відповіді залишаються обґрунтованими базою знань — за допомогою tests/lesson-05-smoke-tests.json. Подивіться tests/README.md, як його запустити.

Попередній урок

Патерн використання інструментів

Наступний урок

Побудова надійних AI агентів

---

Відмова від відповідальності: Цей документ було перекладено за допомогою сервісу штучного інтелекту для перекладу Co-op Translator. Хоча ми прагнемо до точності, будь ласка, майте на увазі, що автоматичні переклади можуть містити помилки або неточності. Оригінальний документ рідною мовою слід вважати авторитетним джерелом. Для критично важливої інформації рекомендується професійний людський переклад. Ми не несемо відповідальності за будь-які непорозуміння або неправильні тлумачення, що виникли внаслідок використання цього перекладу.

This site is open source. Improve this page.