ai-agents-for-beginners
Hukommelse for AI-agenter
Når man diskuterer de unikke fordele ved at skabe AI-agenter, fokuseres der primært på to ting: evnen til at bruge værktøjer til at udføre opgaver og evnen til at forbedre sig over tid. Hukommelse er fundamentet for at skabe selvforbedrende agenter, der kan levere bedre oplevelser til vores brugere.
I denne lektion vil vi se på, hvad hukommelse er for AI-agenter, og hvordan vi kan administrere og bruge den til fordel for vores applikationer.
Introduktion
Denne lektion vil dække:
• Forståelse af AI-agenters hukommelse: Hvad hukommelse er, og hvorfor det er essentielt for agenter.
• Implementering og lagring af hukommelse: Praktiske metoder til at tilføje hukommelsesfunktioner til dine AI-agenter med fokus på kort- og langtidshukommelse.
• At gøre AI-agenter selvforbedrende: Hvordan hukommelse gør det muligt for agenter at lære af tidligere interaktioner og forbedre sig over tid.
Læringsmål
Efter at have gennemført denne lektion vil du kunne:
• Skelne mellem forskellige typer af AI-agenters hukommelse, herunder arbejdshukommelse, korttidshukommelse og langtidshukommelse samt specialiserede former som persona- og episodisk hukommelse.
• Implementere og administrere kort- og langtidshukommelse for AI-agenter ved hjælp af Semantic Kernel-frameworket, værktøjer som Mem0 og Whiteboard-hukommelse samt integration med Azure AI Search.
• Forstå principperne bag selvforbedrende AI-agenter, og hvordan robuste hukommelsessystemer bidrager til kontinuerlig læring og tilpasning.
Forståelse af AI-agenters hukommelse
Grundlæggende refererer hukommelse for AI-agenter til de mekanismer, der gør det muligt for dem at gemme og genkalde information. Denne information kan være specifikke detaljer om en samtale, brugerpræferencer, tidligere handlinger eller endda lærte mønstre.
Uden hukommelse er AI-applikationer ofte tilstandsløse, hvilket betyder, at hver interaktion starter fra bunden. Dette fører til en gentagende og frustrerende brugeroplevelse, hvor agenten “glemmer” tidligere kontekst eller præferencer.
Hvorfor er hukommelse vigtig?
En agents intelligens er tæt knyttet til dens evne til at genkalde og bruge tidligere information. Hukommelse gør det muligt for agenter at være:
• Reflekterende: Lære af tidligere handlinger og resultater.
• Interaktive: Bevare konteksten i en igangværende samtale.
• Proaktive og reaktive: Forudse behov eller reagere passende baseret på historiske data.
• Autonome: Operere mere selvstændigt ved at trække på lagret viden.
Målet med at implementere hukommelse er at gøre agenter mere pålidelige og kompetente.
Typer af hukommelse
Arbejdshukommelse
Tænk på dette som et stykke kladdepapir, som en agent bruger under en enkelt, igangværende opgave eller tankeproces. Det indeholder umiddelbar information, der er nødvendig for at beregne det næste skridt.
For AI-agenter fanger arbejdshukommelse ofte de mest relevante oplysninger fra en samtale, selv hvis hele chat-historikken er lang eller afkortet. Den fokuserer på at udtrække nøgleelementer som krav, forslag, beslutninger og handlinger.
Eksempel på arbejdshukommelse
I en rejsebooking-agent kan arbejdshukommelsen fange brugerens aktuelle anmodning, såsom “Jeg vil gerne booke en rejse til Paris”. Dette specifikke krav holdes i agentens umiddelbare kontekst for at styre den aktuelle interaktion.
Korttidshukommelse
Denne type hukommelse bevarer information i løbet af en enkelt samtale eller session. Det er konteksten for den aktuelle chat, der gør det muligt for agenten at referere til tidligere vendinger i dialogen.
Eksempel på korttidshukommelse
Hvis en bruger spørger, “Hvor meget koster en flybillet til Paris?” og derefter følger op med “Hvad med overnatning der?”, sikrer korttidshukommelsen, at agenten ved, at “der” refererer til “Paris” inden for den samme samtale.
Langtidshukommelse
Dette er information, der vedvarer på tværs af flere samtaler eller sessioner. Det gør det muligt for agenter at huske brugerpræferencer, historiske interaktioner eller generel viden over længere perioder. Dette er vigtigt for personalisering.
Eksempel på langtidshukommelse
En langtidshukommelse kan gemme, at “Ben nyder skiløb og udendørs aktiviteter, kan lide kaffe med udsigt til bjerge og ønsker at undgå avancerede skipister på grund af en tidligere skade”. Denne information, lært fra tidligere interaktioner, påvirker anbefalinger i fremtidige rejseplanlægningssessioner, hvilket gør dem meget personlige.
Persona-hukommelse
Denne specialiserede hukommelsestype hjælper en agent med at udvikle en konsistent “personlighed” eller “persona”. Det gør det muligt for agenten at huske detaljer om sig selv eller sin tilsigtede rolle, hvilket gør interaktioner mere flydende og fokuserede.
Eksempel på persona-hukommelse
Hvis rejseagenten er designet til at være en “ekspert i skiplanlægning”, kan persona-hukommelsen styrke denne rolle og påvirke dens svar, så de stemmer overens med en eksperts tone og viden.
Workflow/episodisk hukommelse
Denne hukommelse gemmer rækkefølgen af trin, en agent tager under en kompleks opgave, inklusive succeser og fejl. Det er som at huske specifikke “episoder” eller tidligere oplevelser for at lære af dem.
Eksempel på episodisk hukommelse
Hvis agenten forsøgte at booke en specifik flyrejse, men det mislykkedes på grund af manglende tilgængelighed, kunne episodisk hukommelse registrere denne fejl, så agenten kan prøve alternative flyrejser eller informere brugeren om problemet på en mere informeret måde under et efterfølgende forsøg.
Enhedshukommelse
Dette indebærer at udtrække og huske specifikke enheder (som personer, steder eller ting) og begivenheder fra samtaler. Det gør det muligt for agenten at opbygge en struktureret forståelse af nøgleelementer, der er blevet diskuteret.
Eksempel på enhedshukommelse
Fra en samtale om en tidligere rejse kan agenten udtrække “Paris”, “Eiffeltårnet” og “middag på Le Chat Noir restaurant” som enheder. I en fremtidig interaktion kunne agenten huske “Le Chat Noir” og tilbyde at lave en ny reservation der.
Struktureret RAG (Retrieval Augmented Generation)
Mens RAG er en bredere teknik, fremhæves “Struktureret RAG” som en kraftfuld hukommelsesteknologi. Det udtrækker tæt, struktureret information fra forskellige kilder (samtaler, e-mails, billeder) og bruger det til at forbedre præcision, genkaldelse og hastighed i svar. I modsætning til klassisk RAG, der udelukkende er afhængig af semantisk lighed, arbejder Struktureret RAG med den iboende struktur af information.
Eksempel på struktureret RAG
I stedet for blot at matche nøgleord kunne Struktureret RAG analysere flydetaljer (destination, dato, tid, flyselskab) fra en e-mail og gemme dem på en struktureret måde. Dette muliggør præcise forespørgsler som “Hvilket fly bookede jeg til Paris på tirsdag?”
Implementering og lagring af hukommelse
Implementering af hukommelse for AI-agenter indebærer en systematisk proces med hukommelsesstyring, som inkluderer generering, lagring, genkaldelse, integration, opdatering og endda “glemsel” (eller sletning) af information. Genkaldelse er en særlig vigtig aspekt.
Specialiserede hukommelsesværktøjer
En måde at lagre og administrere agenthukommelse på er ved at bruge specialiserede værktøjer som Mem0. Mem0 fungerer som et vedvarende hukommelseslag, der gør det muligt for agenter at genkalde relevante interaktioner, lagre brugerpræferencer og faktuel kontekst samt lære af succeser og fejl over tid. Ideen her er, at tilstandsløse agenter bliver til tilstandsfulde.
Det fungerer gennem en to-faset hukommelsespipeline: udtrækning og opdatering. Først sendes meddelelser, der tilføjes til en agents tråd, til Mem0-tjenesten, som bruger en Large Language Model (LLM) til at opsummere samtalehistorik og udtrække nye minder. Derefter bestemmer en LLM-drevet opdateringsfase, om disse minder skal tilføjes, ændres eller slettes, og gemmer dem i en hybrid datalager, der kan inkludere vektor-, graf- og nøgle-værdidatabaser. Dette system understøtter også forskellige hukommelsestyper og kan inkorporere grafhukommelse til at administrere relationer mellem enheder.
Lagring af hukommelse med RAG
Ud over specialiserede hukommelsesværktøjer som Mem0 kan du udnytte robuste søgetjenester som Azure AI Search som backend til lagring og genkaldelse af minder, især for struktureret RAG.
Dette gør det muligt at forankre agentens svar med dine egne data, hvilket sikrer mere relevante og præcise svar. Azure AI Search kan bruges til at lagre bruger-specifikke rejseminder, produktkataloger eller enhver anden domænespecifik viden.
Azure AI Search understøtter funktioner som Struktureret RAG, der udmærker sig ved at udtrække og genkalde tæt, struktureret information fra store datasæt som samtalehistorikker, e-mails eller endda billeder. Dette giver “supermenneskelig præcision og genkaldelse” sammenlignet med traditionelle tekstchunking- og indlejringsmetoder.
At gøre AI-agenter selvforbedrende
Et almindeligt mønster for selvforbedrende agenter indebærer introduktion af en “vidensagent”. Denne separate agent observerer hovedsamtalen mellem brugeren og den primære agent. Dens rolle er at:
-
Identificere værdifuld information: Bestemme, om nogen del af samtalen er værd at gemme som generel viden eller en specifik brugerpræference.
-
Udtrække og opsummere: Destillere den essentielle læring eller præference fra samtalen.
-
Lagre i en vidensbase: Gemme denne udtrukne information, ofte i en vektordatabase, så den kan genkaldes senere.
-
Forstærke fremtidige forespørgsler: Når brugeren starter en ny forespørgsel, genkalder vidensagenten relevant lagret information og tilføjer det til brugerens prompt, hvilket giver vigtig kontekst til den primære agent (svarende til RAG).
Optimeringer for hukommelse
• Latensstyring: For at undgå at forsinke brugerinteraktioner kan en billigere, hurtigere model bruges først til hurtigt at tjekke, om information er værd at lagre eller genkalde, og kun aktivere den mere komplekse udtræknings-/genkaldelsesproces, når det er nødvendigt.
• Vedligeholdelse af vidensbase: For en voksende vidensbase kan mindre ofte brugt information flyttes til “kold lagring” for at styre omkostninger.
Har du flere spørgsmål om agenthukommelse?
Deltag i Azure AI Foundry Discord for at møde andre lærende, deltage i kontortid og få svar på dine spørgsmål om AI-agenter.
Ansvarsfraskrivelse:
Dette dokument er blevet oversat ved hjælp af AI-oversættelsestjenesten Co-op Translator. Selvom vi bestræber os på nøjagtighed, skal det bemærkes, at automatiserede oversættelser kan indeholde fejl eller unøjagtigheder. Det originale dokument på dets oprindelige sprog bør betragtes som den autoritative kilde. For kritisk information anbefales professionel menneskelig oversættelse. Vi er ikke ansvarlige for misforståelser eller fejltolkninger, der opstår som følge af brugen af denne oversættelse.