ai-agents-for-beginners
Geheugen voor AI-agenten
Bij het bespreken van de unieke voordelen van het creëren van AI-agenten worden vooral twee dingen besproken: de mogelijkheid om tools te gebruiken om taken uit te voeren en de mogelijkheid om in de loop van de tijd te verbeteren. Geheugen vormt de basis voor het creëren van zelfverbeterende agenten die betere ervaringen voor onze gebruikers kunnen bieden.
In deze les bekijken we wat geheugen is voor AI-agenten en hoe we het kunnen beheren en gebruiken voor het voordeel van onze applicaties.
Introductie
Deze les behandelt:
• Begrijpen van AI-agentgeheugen: Wat geheugen is en waarom het essentieel is voor agenten.
• Implementeren en opslaan van geheugen: Praktische methoden om geheugenfunctionaliteit toe te voegen aan je AI-agenten, met focus op kortetermijn- en langetermijngeheugen.
• AI-agenten zelfverbeterend maken: Hoe geheugen agenten in staat stelt te leren van eerdere interacties en in de loop van de tijd te verbeteren.
Beschikbare implementaties
Deze les bevat twee uitgebreide notebook-tutorials:
• 13-agent-memory.ipynb: Implementeert geheugen met Mem0 en Azure AI Search binnen het Semantic Kernel-framework.
• 13-agent-memory-cognee.ipynb: Implementeert gestructureerd geheugen met Cognee, waarbij automatisch een kennisgrafiek wordt opgebouwd ondersteund door embeddings, grafieken worden gevisualiseerd en intelligent wordt opgehaald.
Leerdoelen
Na het voltooien van deze les weet je hoe je:
• Verschillende soorten AI-agentgeheugen kunt onderscheiden, waaronder werkgeheugen, kortetermijn- en langetermijngeheugen, evenals gespecialiseerde vormen zoals persona- en episodisch geheugen.
• Kortetermijn- en langetermijngeheugen voor AI-agenten kunt implementeren en beheren met behulp van het Semantic Kernel-framework, waarbij tools zoals Mem0, Cognee, Whiteboard-geheugen en integratie met Azure AI Search worden benut.
• De principes achter zelfverbeterende AI-agenten begrijpt en hoe robuuste geheugenbeheersystemen bijdragen aan continu leren en aanpassen.
Begrijpen van AI-agentgeheugen
In essentie verwijst geheugen voor AI-agenten naar de mechanismen waarmee ze informatie kunnen onthouden en oproepen. Deze informatie kan specifieke details over een gesprek, gebruikersvoorkeuren, eerdere acties of zelfs geleerde patronen omvatten.
Zonder geheugen zijn AI-toepassingen vaak stateless, wat betekent dat elke interactie opnieuw begint. Dit leidt tot een repetitieve en frustrerende gebruikerservaring waarbij de agent eerdere context of voorkeuren “vergeet”.
Waarom is geheugen belangrijk?
De intelligentie van een agent is nauw verbonden met zijn vermogen om eerdere informatie te onthouden en te gebruiken. Geheugen stelt agenten in staat om:
• Reflectief te zijn: Leren van eerdere acties en resultaten.
• Interactief te zijn: Context behouden tijdens een lopend gesprek.
• Proactief en reactief te zijn: Behoeften anticiperen of passend reageren op basis van historische gegevens.
• Autonoom te zijn: Meer zelfstandig opereren door gebruik te maken van opgeslagen kennis.
Het doel van het implementeren van geheugen is om agenten meer betrouwbaar en capabel te maken.
Soorten geheugen
Werkgeheugen
Zie dit als een stukje kladpapier dat een agent gebruikt tijdens een enkele, lopende taak of denkproces. Het bevat directe informatie die nodig is om de volgende stap te berekenen.
Voor AI-agenten vangt werkgeheugen vaak de meest relevante informatie uit een gesprek op, zelfs als de volledige chatgeschiedenis lang of ingekort is. Het richt zich op het extraheren van belangrijke elementen zoals vereisten, voorstellen, beslissingen en acties.
Voorbeeld werkgeheugen
Bij een reisboekingsagent kan werkgeheugen de huidige aanvraag van de gebruiker vastleggen, zoals “Ik wil een reis naar Parijs boeken”. Deze specifieke vereiste wordt in de directe context van de agent gehouden om de huidige interactie te sturen.
Kortetermijngeheugen
Dit type geheugen bewaart informatie gedurende een enkel gesprek of sessie. Het is de context van het huidige gesprek, waardoor de agent kan verwijzen naar eerdere beurten in de dialoog.
Voorbeeld kortetermijngeheugen
Als een gebruiker vraagt: “Hoeveel kost een vlucht naar Parijs?” en vervolgens vraagt: “Wat zijn de mogelijkheden voor accommodatie daar?”, zorgt kortetermijngeheugen ervoor dat de agent weet dat “daar” verwijst naar “Parijs” binnen hetzelfde gesprek.
Langetermijngeheugen
Dit is informatie die blijft bestaan over meerdere gesprekken of sessies. Het stelt agenten in staat om gebruikersvoorkeuren, historische interacties of algemene kennis over langere perioden te onthouden. Dit is belangrijk voor personalisatie.
Voorbeeld langetermijngeheugen
Een langetermijngeheugen kan opslaan dat “Ben houdt van skiën en buitenactiviteiten, drinkt graag koffie met uitzicht op de bergen en wil geavanceerde skipistes vermijden vanwege een eerdere blessure”. Deze informatie, geleerd uit eerdere interacties, beïnvloedt aanbevelingen in toekomstige reisplanningssessies, waardoor ze sterk gepersonaliseerd worden.
Persona-geheugen
Dit gespecialiseerde type geheugen helpt een agent een consistente “persoonlijkheid” of “persona” te ontwikkelen. Het stelt de agent in staat om details over zichzelf of zijn beoogde rol te onthouden, waardoor interacties vloeiender en gerichter worden.
Voorbeeld persona-geheugen Als de reisagent is ontworpen als een “expert ski-planner”, kan persona-geheugen deze rol versterken, waardoor de antwoorden van de agent aansluiten bij de toon en kennis van een expert.
Workflow/Episodisch geheugen
Dit geheugen slaat de reeks stappen op die een agent neemt tijdens een complexe taak, inclusief successen en mislukkingen. Het is alsof specifieke “episodes” of eerdere ervaringen worden onthouden om ervan te leren.
Voorbeeld episodisch geheugen
Als de agent probeerde een specifieke vlucht te boeken, maar dit mislukte vanwege onbeschikbaarheid, kan episodisch geheugen deze mislukking registreren, waardoor de agent alternatieve vluchten kan proberen of de gebruiker op een meer geïnformeerde manier kan informeren tijdens een volgende poging.
Entiteit-geheugen
Dit omvat het extraheren en onthouden van specifieke entiteiten (zoals mensen, plaatsen of dingen) en gebeurtenissen uit gesprekken. Het stelt de agent in staat om een gestructureerd begrip van belangrijke elementen te ontwikkelen.
Voorbeeld entiteit-geheugen
Uit een gesprek over een eerdere reis kan de agent “Parijs,” “Eiffeltoren,” en “diner bij Le Chat Noir restaurant” als entiteiten extraheren. In een toekomstige interactie kan de agent “Le Chat Noir” herinneren en aanbieden om daar een nieuwe reservering te maken.
Gestructureerde RAG (Retrieval Augmented Generation)
Hoewel RAG een bredere techniek is, wordt “Gestructureerde RAG” benadrukt als een krachtige geheugentechnologie. Het haalt dense, gestructureerde informatie uit verschillende bronnen (gesprekken, e-mails, afbeeldingen) en gebruikt dit om precisie, recall en snelheid in antwoorden te verbeteren. In tegenstelling tot klassieke RAG, die uitsluitend vertrouwt op semantische overeenkomsten, werkt Gestructureerde RAG met de inherente structuur van informatie.
Voorbeeld gestructureerde RAG
In plaats van alleen trefwoorden te matchen, kan Gestructureerde RAG vluchtgegevens (bestemming, datum, tijd, luchtvaartmaatschappij) uit een e-mail halen en deze op een gestructureerde manier opslaan. Dit maakt precieze vragen mogelijk zoals “Welke vlucht heb ik geboekt naar Parijs op dinsdag?”
Implementeren en opslaan van geheugen
Het implementeren van geheugen voor AI-agenten omvat een systematisch proces van geheugenbeheer, waaronder het genereren, opslaan, ophalen, integreren, bijwerken en zelfs “vergeten” (of verwijderen) van informatie. Het ophalen is een bijzonder cruciaal aspect.
Gespecialiseerde geheugentools
Mem0
Een manier om agentgeheugen op te slaan en te beheren is door gebruik te maken van gespecialiseerde tools zoals Mem0. Mem0 werkt als een persistent geheugenniveau, waardoor agenten relevante interacties kunnen onthouden, gebruikersvoorkeuren en feitelijke context kunnen opslaan en kunnen leren van successen en mislukkingen in de loop van de tijd. Het idee hier is dat stateless agenten stateful worden.
Het werkt via een twee-fasen geheugenpijplijn: extractie en update. Eerst worden berichten die aan de thread van een agent worden toegevoegd naar de Mem0-service gestuurd, die een Large Language Model (LLM) gebruikt om gespreksgeschiedenis samen te vatten en nieuwe herinneringen te extraheren. Vervolgens bepaalt een LLM-gestuurde updatefase of deze herinneringen moeten worden toegevoegd, gewijzigd of verwijderd, en slaat ze op in een hybride datastore die vector-, grafiek- en key-value-databases kan omvatten. Dit systeem ondersteunt ook verschillende geheugentypes en kan grafiekgeheugen opnemen voor het beheren van relaties tussen entiteiten.
Cognee
Een andere krachtige benadering is het gebruik van Cognee, een open-source semantisch geheugen voor AI-agenten dat gestructureerde en ongestructureerde gegevens transformeert in querybare kennisgrafieken ondersteund door embeddings. Cognee biedt een dual-store architectuur die vector-similariteitszoekopdrachten combineert met grafiekrelaties, waardoor agenten niet alleen begrijpen welke informatie vergelijkbaar is, maar ook hoe concepten met elkaar verbonden zijn.
Het blinkt uit in hybride retrieval die vector-similariteit, grafiekstructuur en LLM-redenering combineert - van ruwe chunk-opzoeking tot grafiekbewuste vraagbeantwoording. Het systeem onderhoudt levend geheugen dat evolueert en groeit terwijl het querybaar blijft als één verbonden grafiek, en ondersteunt zowel kortetermijnsessiecontext als langetermijnpersistent geheugen.
De Cognee notebook-tutorial (13-agent-memory-cognee.ipynb) demonstreert het bouwen van deze uniforme geheugenslaag, met praktische voorbeelden van het opnemen van diverse gegevensbronnen, het visualiseren van de kennisgrafiek en het uitvoeren van zoekopdrachten met verschillende strategieën afgestemd op specifieke behoeften van agenten.
Geheugen opslaan met RAG
Naast gespecialiseerde geheugentools zoals Mem0 kun je robuuste zoekservices zoals Azure AI Search gebruiken als backend voor het opslaan en ophalen van herinneringen, vooral voor gestructureerde RAG.
Dit stelt je in staat om de antwoorden van je agent te baseren op je eigen gegevens, waardoor relevantere en nauwkeurigere antwoorden worden gegarandeerd. Azure AI Search kan worden gebruikt om gebruikersspecifieke reisherinneringen, productcatalogi of andere domeinspecifieke kennis op te slaan.
Azure AI Search ondersteunt mogelijkheden zoals Gestructureerde RAG, die uitblinkt in het extraheren en ophalen van dense, gestructureerde informatie uit grote datasets zoals gespreksgeschiedenissen, e-mails of zelfs afbeeldingen. Dit biedt “supermenselijke precisie en recall” vergeleken met traditionele tekstchunking- en embeddingbenaderingen.
AI-agenten zelfverbeterend maken
Een veelvoorkomend patroon voor zelfverbeterende agenten is het introduceren van een “kennisagent”. Deze aparte agent observeert het hoofdgesprek tussen de gebruiker en de primaire agent. Zijn rol is om:
-
Waardevolle informatie te identificeren: Bepalen of een deel van het gesprek de moeite waard is om op te slaan als algemene kennis of een specifieke gebruikersvoorkeur.
-
Extraheren en samenvatten: De essentiële leerpunten of voorkeuren uit het gesprek destilleren.
-
Opslaan in een kennisbank: Deze geëxtraheerde informatie bewaren, vaak in een vectordatabase, zodat deze later kan worden opgehaald.
-
Toekomstige vragen aanvullen: Wanneer de gebruiker een nieuwe vraag stelt, haalt de kennisagent relevante opgeslagen informatie op en voegt deze toe aan de prompt van de gebruiker, waardoor cruciale context aan de primaire agent wordt geboden (vergelijkbaar met RAG).
Optimalisaties voor geheugen
• Latentiebeheer: Om vertragingen in gebruikersinteracties te voorkomen, kan aanvankelijk een goedkoper, sneller model worden gebruikt om snel te controleren of informatie waardevol is om op te slaan of op te halen, waarbij het complexere extractie-/ophaalproces alleen wordt ingeschakeld wanneer nodig.
• Onderhoud van de kennisbank: Voor een groeiende kennisbank kan minder vaak gebruikte informatie naar “koude opslag” worden verplaatst om kosten te beheren.
Meer vragen over agentgeheugen?
Word lid van de Azure AI Foundry Discord om andere leerlingen te ontmoeten, spreekuren bij te wonen en je vragen over AI-agenten beantwoord te krijgen.
Disclaimer:
Dit document is vertaald met behulp van de AI-vertalingsservice Co-op Translator. Hoewel we streven naar nauwkeurigheid, dient u zich ervan bewust te zijn dat geautomatiseerde vertalingen fouten of onnauwkeurigheden kunnen bevatten. Het originele document in de oorspronkelijke taal moet worden beschouwd als de gezaghebbende bron. Voor kritieke informatie wordt professionele menselijke vertaling aanbevolen. Wij zijn niet aansprakelijk voor misverstanden of verkeerde interpretaties die voortvloeien uit het gebruik van deze vertaling.