ai-agents-for-beginners

Multi-Agent Design

(Klik på billedet ovenfor for at se video af denne lektion)

Metakognition i AI-agenter

Introduktion

Velkommen til lektionen om metakognition i AI-agenter! Dette kapitel er designet til begyndere, der er nysgerrige efter, hvordan AI-agenter kan tænke over deres egne tankeprocesser. Ved slutningen af denne lektion vil du forstå nøglebegreber og være udstyret med praktiske eksempler til at anvende metakognition i design af AI-agenter.

Læringsmål

Efter at have gennemført denne lektion vil du kunne:

  1. Forstå konsekvenserne af ræsonnements-sløjfer i agentdefinitioner.
  2. Bruge planlægnings- og vurderingsteknikker til at hjælpe selvkorrigerende agenter.
  3. Skabe dine egne agenter, der er i stand til at manipulere kode for at udføre opgaver.

Introduktion til Metakognition

Metakognition henviser til højereordens kognitive processer, der involverer at tænke over sin egen tænkning. For AI-agenter betyder dette at kunne evaluere og justere deres handlinger baseret på selvbevidsthed og tidligere erfaringer. Metakognition, eller “tænkning om tænkning,” er et vigtigt koncept i udviklingen af agentiske AI-systemer. Det involverer, at AI-systemer er bevidste om deres egne interne processer og er i stand til at overvåge, regulere og tilpasse deres adfærd derefter. Ligesom vi gør, når vi læser rummet eller ser på et problem. Denne selvbevidsthed kan hjælpe AI-systemer med at træffe bedre beslutninger, identificere fejl og forbedre deres præstation over tid – hvilket igen knytter sig til Turing-testen og debatten om, hvorvidt AI vil overtage.

I konteksten af agentiske AI-systemer kan metakognition hjælpe med at løse flere udfordringer, såsom:

Hvad er Metakognition?

Metakognition, eller “tænkning om tænkning,” er en højereordens kognitiv proces, der involverer selvbevidsthed og selvregulering af ens kognitive processer. Indenfor AI-verdenen giver metakognition agenter mulighed for at evaluere og tilpasse deres strategier og handlinger, hvilket fører til forbedret problemløsning og beslutningstagning. Ved at forstå metakognition kan du designe AI-agenter, der ikke blot er mere intelligente, men også mere tilpasningsdygtige og effektive. I ægte metakognition ville du se AI’en eksplicit ræsonnere over sit eget ræsonnement.

Eksempel: “Jeg prioriterede billigere flyrejser fordi… jeg måske går glip af direkte fly, så lad mig tjekke igen.” Holde styr på, hvordan eller hvorfor den valgte en bestemt rute.

Vigtigheden af Metakognition i AI-agenter

Metakognition spiller en afgørende rolle i design af AI-agenter af flere grunde:

Vigtigheden af Metakognition

Komponenter i en AI-Agent

Før vi dykker ned i metakognitive processer, er det vigtigt at forstå de grundlæggende komponenter i en AI-agent. En AI-agent består typisk af:

Disse komponenter arbejder sammen for at skabe en “ekspertiseenhed,” der kan udføre specifikke opgaver.

Eksempel: Overvej en rejseagent, en agentservice der ikke blot planlægger din ferie, men også justerer sin rute baseret på realtidsdata og tidligere kunderejseoplevelser.

Eksempel: Metakognition i en Rejseagent-service

Forestil dig, at du designer en rejseagent-service drevet af AI. Denne agent, “Rejseagent,” assisterer brugere med at planlægge deres ferier. For at inkorporere metakognition skal Rejseagent evaluere og tilpasse sine handlinger baseret på selvbevidsthed og tidligere erfaringer. Sådan kan metakognition spille en rolle:

Nuværende Opgave

Den aktuelle opgave er at hjælpe en bruger med at planlægge en tur til Paris.

Trin for at Fuldføre Opgaven

  1. Indsamle Brugerpræferencer: Spørge brugeren om deres rejsedatoer, budget, interesser (fx museer, mad, shopping) og eventuelle specifikke krav.
  2. Hente Information: Søge efter flymuligheder, indkvartering, attraktioner og restauranter, der matcher brugerens præferencer.
  3. Generere Anbefalinger: Give en personlig rejseplan med flyoplysninger, hotelreservationer og foreslåede aktiviteter.
  4. Justere Baseret på Feedback: Spørge brugeren om feedback på anbefalingerne og foretage nødvendige justeringer.

Krævede Ressourcer

Erfaring og Selvrefleksion

Rejseagent bruger metakognition til at evaluere sin præstation og lære af tidligere erfaringer. For eksempel:

  1. Analysere Brugerfeedback: Rejseagent gennemgår brugerfeedback for at afgøre, hvilke anbefalinger der blev godt modtaget og hvilke ikke. Den justerer sine fremtidige forslag derefter.
  2. Tilpasningsevne: Hvis en bruger tidligere har nævnt, at de ikke kan lide overfyldte steder, undgår Rejseagent at anbefale populære turiststeder i myldretiden i fremtiden.
  3. Fejlretning: Hvis Rejseagent begik en fejl ved en tidligere booking, som fx at foreslå et hotel, der var fuldt booket, lærer den at tjekke tilgængelighed mere grundigt inden anbefaling.

Praktisk Udvikler-eksempel

Her er et forenklet eksempel på, hvordan koden for Rejseagent kunne se ud, når metakognition integreres:

class Travel_Agent:
    def __init__(self):
        self.user_preferences = {}
        self.experience_data = []

    def gather_preferences(self, preferences):
        self.user_preferences = preferences

    def retrieve_information(self):
        # Søg efter fly, hoteller og attraktioner baseret på præferencer
        flights = search_flights(self.user_preferences)
        hotels = search_hotels(self.user_preferences)
        attractions = search_attractions(self.user_preferences)
        return flights, hotels, attractions

    def generate_recommendations(self):
        flights, hotels, attractions = self.retrieve_information()
        itinerary = create_itinerary(flights, hotels, attractions)
        return itinerary

    def adjust_based_on_feedback(self, feedback):
        self.experience_data.append(feedback)
        # Analyser feedback og juster fremtidige anbefalinger
        self.user_preferences = adjust_preferences(self.user_preferences, feedback)

# Eksempel på brug
travel_agent = Travel_Agent()
preferences = {
    "destination": "Paris",
    "dates": "2025-04-01 to 2025-04-10",
    "budget": "moderate",
    "interests": ["museums", "cuisine"]
}
travel_agent.gather_preferences(preferences)
itinerary = travel_agent.generate_recommendations()
print("Suggested Itinerary:", itinerary)
feedback = {"liked": ["Louvre Museum"], "disliked": ["Eiffel Tower (too crowded)"]}
travel_agent.adjust_based_on_feedback(feedback)

Hvorfor Metakognition Betyder Noget

Ved at integrere metakognition kan Rejseagent tilbyde mere personlige og præcise rejseanbefalinger, hvilket forbedrer den samlede brugeroplevelse.


2. Planlægning i Agenter

Planlægning er en kritisk komponent af AI-agenters adfærd. Det indebærer at skitsere de nødvendige trin for at nå et mål, med vægt på den nuværende tilstand, ressourcer og mulige forhindringer.

Elementer i Planlægning

Eksempel: Her er de trin, Rejseagent skal følge for effektivt at hjælpe en bruger med at planlægge deres tur:

Trin for Rejseagent

  1. Indsamle Brugerpræferencer
    • Spørg brugeren om detaljer vedrørende deres rejsedatoer, budget, interesser og specifikke krav.
    • Eksempler: “Hvornår planlægger du at rejse?” “Hvad er dit budget?” “Hvilke aktiviteter nyder du på ferie?”
  2. Hente Information
    • Søg efter relevante rejsemuligheder baseret på brugerens præferencer.
    • Fly: Find tilgængelige fly inden for brugerens budget og ønskede rejsedatoer.
    • Indkvartering: Find hoteller eller lejeboliger, der matcher brugerens præferencer for beliggenhed, pris og faciliteter.
    • Attraktioner og Restauranter: Identificer populære attraktioner, aktiviteter og spisesteder, der falder i tråd med brugerens interesser.
  3. Generere Anbefalinger
    • Saml de hentede oplysninger til en personlig rejseplan.
    • Giv detaljer som flymuligheder, hotelreservationer og foreslåede aktiviteter, og sørg for at tilpasse anbefalingerne til brugerens præferencer.
  4. Præsentere Rejseplan for Brugeren
    • Del det foreslåede rejseprogram med brugeren til gennemgang.
    • Eksempel: “Her er et foreslået rejseprogram til din tur til Paris. Det indeholder flyinformationer, hotelbookinger samt en liste over anbefalede aktiviteter og restauranter. Lad mig høre, hvad du synes!”
  5. Indsamle Feedback
    • Spørg brugeren om feedback på det foreslåede rejseprogram.
    • Eksempler: “Kan du lide flymulighederne?” “Passer hotellet til dine behov?” “Er der aktiviteter, du gerne vil tilføje eller fjerne?”
  6. Justere Baseret på Feedback
    • Tilpas rejseprogrammet ud fra brugerens feedback.
    • Foretag nødvendige ændringer i anbefalingerne for fly, indkvartering og aktiviteter for bedre at matche brugerens ønsker.
  7. Endelig Bekræftelse
    • Præsenter den opdaterede rejseplan for brugeren til endelig godkendelse.
    • Eksempel: “Jeg har lavet justeringerne baseret på din feedback. Her er den opdaterede rejseplan. Ser det hele godt ud for dig?”
  8. Booke og Bekræfte Reservationer
    • Når brugeren godkender rejseplanen, fortsæt med at booke fly, indkvartering og eventuelle planlagte aktiviteter.
    • Send bekræftelsesdetaljer til brugeren.
  9. Give Løbende Support
    • Vær tilgængelig for at hjælpe brugeren med ændringer eller yderligere ønsker før og under deres tur.
    • Eksempel: “Hvis du har brug for yderligere hjælp under din rejse, er du altid velkommen til at kontakte mig!”

Eksempel på Interaktion

class Travel_Agent:
    def __init__(self):
        self.user_preferences = {}
        self.experience_data = []

    def gather_preferences(self, preferences):
        self.user_preferences = preferences

    def retrieve_information(self):
        flights = search_flights(self.user_preferences)
        hotels = search_hotels(self.user_preferences)
        attractions = search_attractions(self.user_preferences)
        return flights, hotels, attractions

    def generate_recommendations(self):
        flights, hotels, attractions = self.retrieve_information()
        itinerary = create_itinerary(flights, hotels, attractions)
        return itinerary

    def adjust_based_on_feedback(self, feedback):
        self.experience_data.append(feedback)
        self.user_preferences = adjust_preferences(self.user_preferences, feedback)

# Eksempel på brug inden for en bookinganmodning
travel_agent = Travel_Agent()
preferences = {
    "destination": "Paris",
    "dates": "2025-04-01 to 2025-04-10",
    "budget": "moderate",
    "interests": ["museums", "cuisine"]
}
travel_agent.gather_preferences(preferences)
itinerary = travel_agent.generate_recommendations()
print("Suggested Itinerary:", itinerary)
feedback = {"liked": ["Louvre Museum"], "disliked": ["Eiffel Tower (too crowded)"]}
travel_agent.adjust_based_on_feedback(feedback)

3. Korrigerende RAG-System

Lad os først forstå forskellen mellem RAG-værktøj og Pre-emptive Context Load.

RAG vs Context Loading

Retrieval-Augmented Generation (RAG)

RAG kombinerer et hentningssystem med en generativ model. Når der stilles en forespørgsel, henter hentningssystemet relevante dokumenter eller data fra en ekstern kilde, og denne hentede information bruges til at supplere input til den generative model. Dette hjælper modellen med at generere mere præcise og kontekstuelle relevante svar.

I et RAG-system henter agenten relevant information fra en vidensbase og bruger den til at generere passende svar eller handlinger.

Korrigerende RAG-Tilgang

Den korrigerende RAG-tilgang fokuserer på at bruge RAG-teknikker til at rette fejl og forbedre nøjagtigheden af AI-agenter. Dette involverer:

  1. Prompting Teknik: Brug af specifikke prompts til at guide agenten i at hente relevant information.
  2. Værktøj: Implementering af algoritmer og mekanismer, der gør agenten i stand til at evaluere relevansen af den hentede information og generere korrekte svar.
  3. Evaluering: Løbende vurdering af agentens præstation og justeringer for at forbedre nøjagtighed og effektivitet.

Eksempel: Korrigerende RAG i en Søgeagent

Overvej en søgeagent, der henter information fra nettet for at besvare brugerforespørgsler. Den korrigerende RAG-tilgang kunne involvere:

  1. Prompting Teknik: Formulere søgeforespørgsler baseret på brugerens input.
  2. Værktøj: Brug af naturlig sprogbehandling og maskinlæringsalgoritmer til at rangere og filtrere søgeresultater.
  3. Evaluering: Analysere brugerfeedback for at identificere og rette unøjagtigheder i den hentede information.

Korrigerende RAG i Rejseagent

Korrigerende RAG (Retrieval-Augmented Generation) forbedrer AI’s evne til at hente og generere information samtidig med at den retter eventuelle unøjagtigheder. Lad os se, hvordan Rejseagent kan bruge den korrigerende RAG-tilgang til at give mere præcise og relevante rejseanbefalinger.

Dette involverer:

Trin til Implementering af Korrigerende RAG i Rejseagent

  1. Initial Brugerinteraktion
    • Rejseagent indsamler brugerens indledende præferencer, såsom destination, rejsedatoer, budget og interesser.
    • Eksempel:

      preferences = {
          "destination": "Paris",
          "dates": "2025-04-01 to 2025-04-10",
          "budget": "moderate",
          "interests": ["museums", "cuisine"]
      }
      
  2. Hentning af Information
    • Rejseagent henter information om fly, indkvartering, attraktioner og restauranter baseret på brugerpræferencer.
    • Eksempel:

      flights = search_flights(preferences)
      hotels = search_hotels(preferences)
      attractions = search_attractions(preferences)
      
  3. Generering af Indledende Anbefalinger
    • Rejseagent bruger den hentede information til at generere en personlig rejseplan.
    • Eksempel:

      itinerary = create_itinerary(flights, hotels, attractions)
      print("Suggested Itinerary:", itinerary)
      
  4. Indsamling af Brugerfeedback
    • Rejseagent spørger brugeren om feedback på de indledende anbefalinger.
    • Eksempel:

      feedback = {
          "liked": ["Louvre Museum"],
          "disliked": ["Eiffel Tower (too crowded)"]
      }
      
  5. Korrigerende RAG-Proces
    • Prompting Teknik: Rejseagent formulerer nye søgeforespørgsler baseret på brugerfeedback.
      • Eksempel:

        if "disliked" in feedback:
            preferences["avoid"] = feedback["disliked"]
        
    • Værktøj: Rejseagent bruger algoritmer til at rangere og filtrere nye søgeresultater med vægt på relevans baseret på brugerfeedback.
      • Eksempel:

        new_attractions = search_attractions(preferences)
        new_itinerary = create_itinerary(flights, hotels, new_attractions)
        print("Updated Itinerary:", new_itinerary)
        
    • Evaluering: Rejseagent vurderer løbende relevansen og nøjagtigheden af sine anbefalinger ved at analysere brugerfeedback og foretage nødvendige justeringer.
      • Eksempel:

        def adjust_preferences(preferences, feedback):
            if "liked" in feedback:
                preferences["favorites"] = feedback["liked"]
            if "disliked" in feedback:
                preferences["avoid"] = feedback["disliked"]
            return preferences
        
        preferences = adjust_preferences(preferences, feedback)
        

Praktisk Eksempel

Her er et forenklet Python-kodeeksempel, der inkorporerer den korrigerende RAG-tilgang i Rejseagent:

class Travel_Agent:
    def __init__(self):
        self.user_preferences = {}
        self.experience_data = []

    def gather_preferences(self, preferences):
        self.user_preferences = preferences

    def retrieve_information(self):
        flights = search_flights(self.user_preferences)
        hotels = search_hotels(self.user_preferences)
        attractions = search_attractions(self.user_preferences)
        return flights, hotels, attractions

    def generate_recommendations(self):
        flights, hotels, attractions = self.retrieve_information()
        itinerary = create_itinerary(flights, hotels, attractions)
        return itinerary

    def adjust_based_on_feedback(self, feedback):
        self.experience_data.append(feedback)
        self.user_preferences = adjust_preferences(self.user_preferences, feedback)
        new_itinerary = self.generate_recommendations()
        return new_itinerary

# Eksempel på anvendelse
travel_agent = Travel_Agent()
preferences = {
    "destination": "Paris",
    "dates": "2025-04-01 to 2025-04-10",
    "budget": "moderate",
    "interests": ["museums", "cuisine"]
}
travel_agent.gather_preferences(preferences)
itinerary = travel_agent.generate_recommendations()
print("Suggested Itinerary:", itinerary)
feedback = {"liked": ["Louvre Museum"], "disliked": ["Eiffel Tower (too crowded)"]}
new_itinerary = travel_agent.adjust_based_on_feedback(feedback)
print("Updated Itinerary:", new_itinerary)

Pre-emptive Context Load

Forhåndsindlæsning af kontekst involverer at indlæse relevant kontekst eller baggrundsinformation i modellen, før den behandler en forespørgsel. Det betyder, at modellen har adgang til denne information fra starten, hvilket kan hjælpe den med at generere mere informerede svar uden at skulle hente yderligere data under processen.

Her er et forenklet eksempel på, hvordan en forhåndsindlæsning af kontekst kunne se ud for en rejseagent-applikation i Python:

class TravelAgent:
    def __init__(self):
        # Forindlæs populære destinationer og deres information
        self.context = {
            "Paris": {"country": "France", "currency": "Euro", "language": "French", "attractions": ["Eiffel Tower", "Louvre Museum"]},
            "Tokyo": {"country": "Japan", "currency": "Yen", "language": "Japanese", "attractions": ["Tokyo Tower", "Shibuya Crossing"]},
            "New York": {"country": "USA", "currency": "Dollar", "language": "English", "attractions": ["Statue of Liberty", "Times Square"]},
            "Sydney": {"country": "Australia", "currency": "Dollar", "language": "English", "attractions": ["Sydney Opera House", "Bondi Beach"]}
        }

    def get_destination_info(self, destination):
        # Hent destinationsinformation fra forindlæst kontekst
        info = self.context.get(destination)
        if info:
            return f"{destination}:\nCountry: {info['country']}\nCurrency: {info['currency']}\nLanguage: {info['language']}\nAttractions: {', '.join(info['attractions'])}"
        else:
            return f"Sorry, we don't have information on {destination}."

# Eksempel på brug
travel_agent = TravelAgent()
print(travel_agent.get_destination_info("Paris"))
print(travel_agent.get_destination_info("Tokyo"))

Forklaring

  1. Initialisering (__init__ metode): TravelAgent-klassen forindlæser en ordbog, der indeholder information om populære destinationer såsom Paris, Tokyo, New York og Sydney. Denne ordbog inkluderer detaljer som land, valuta, sprog og større seværdigheder for hver destination.

  2. Hentning af information (get_destination_info metode): Når en bruger spørger om en specifik destination, henter get_destination_info-metoden den relevante information fra den forhåndsindlæste kontekstordbog.

Ved at forindlæse konteksten kan rejseagent-applikationen hurtigt svare på brugerspørgsmål uden at skulle hente denne information fra en ekstern kilde i realtid. Dette gør applikationen mere effektiv og responsiv.

Udvikling af planen med et mål før iteration

At udvikle en plan med et mål indebærer at starte med et klart mål eller ønsket resultat for øje. Ved at definere dette mål på forhånd kan modellen bruge det som en ledestjerne gennem hele den iterative proces. Dette hjælper med at sikre, at hver iteration bevæger sig tættere på at nå det ønskede resultat, hvilket gør processen mere effektiv og fokuseret.

Her er et eksempel på, hvordan du kan udvikle en rejseplan med et mål, før du itererer, for en rejseagent i Python:

Scenarie

En rejseagent ønsker at planlægge en skræddersyet ferie til en klient. Målet er at skabe en rejseplan, der maksimerer klientens tilfredshed baseret på deres præferencer og budget.

Trin

  1. Definer klientens præferencer og budget.
  2. Udvikl den indledende plan baseret på disse præferencer.
  3. Iterer for at forfine planen og optimere for klientens tilfredshed.

Python-kode

class TravelAgent:
    def __init__(self, destinations):
        self.destinations = destinations

    def bootstrap_plan(self, preferences, budget):
        plan = []
        total_cost = 0

        for destination in self.destinations:
            if total_cost + destination['cost'] <= budget and self.match_preferences(destination, preferences):
                plan.append(destination)
                total_cost += destination['cost']

        return plan

    def match_preferences(self, destination, preferences):
        for key, value in preferences.items():
            if destination.get(key) != value:
                return False
        return True

    def iterate_plan(self, plan, preferences, budget):
        for i in range(len(plan)):
            for destination in self.destinations:
                if destination not in plan and self.match_preferences(destination, preferences) and self.calculate_cost(plan, destination) <= budget:
                    plan[i] = destination
                    break
        return plan

    def calculate_cost(self, plan, new_destination):
        return sum(destination['cost'] for destination in plan) + new_destination['cost']

# Eksempel på brug
destinations = [
    {"name": "Paris", "cost": 1000, "activity": "sightseeing"},
    {"name": "Tokyo", "cost": 1200, "activity": "shopping"},
    {"name": "New York", "cost": 900, "activity": "sightseeing"},
    {"name": "Sydney", "cost": 1100, "activity": "beach"},
]

preferences = {"activity": "sightseeing"}
budget = 2000

travel_agent = TravelAgent(destinations)
initial_plan = travel_agent.bootstrap_plan(preferences, budget)
print("Initial Plan:", initial_plan)

refined_plan = travel_agent.iterate_plan(initial_plan, preferences, budget)
print("Refined Plan:", refined_plan)

Forklaring af kode

  1. Initialisering (__init__ metode): TravelAgent-klassen initialiseres med en liste over potentielle destinationer, hver med attributter som navn, pris og aktivitetstype.

  2. Udvikling af plan (bootstrap_plan metode): Denne metode skaber en indledende rejseplan baseret på klientens præferencer og budget. Den itererer gennem listen over destinationer og tilføjer dem til planen, hvis de matcher klientens præferencer og passer inden for budgettet.

  3. Matchning af præferencer (match_preferences metode): Denne metode tjekker, om en destination matcher klientens præferencer.

  4. Iteration af plan (iterate_plan metode): Denne metode forfiner den indledende plan ved at forsøge at erstatte hver destination i planen med en bedre match, under hensyntagen til klientens præferencer og budgetbegrænsninger.

  5. Beregning af pris (calculate_cost metode): Denne metode beregner den samlede pris for den nuværende plan, inklusive en potentiel ny destination.

Eksempel på brug

Ved at udvikle planen med et klart mål (f.eks. at maksimere klienttilfredsheden) og iterere for at forfine planen, kan rejseagenten skabe en skræddersyet og optimeret rejseplan til klienten. Denne tilgang sikrer, at rejseplanen stemmer overens med klientens præferencer og budget fra starten og forbedres med hver iteration.

Udnyttelse af LLM til omrangering og scoring

Store sprogmodeller (LLMs) kan bruges til omrangering og scoring ved at vurdere relevansen og kvaliteten af hentede dokumenter eller genererede svar. Sådan fungerer det:

Hentning: Det indledende hentetrin henter et sæt af kandidatdokumenter eller svar baseret på forespørgslen.

Omrangering: LLM’en vurderer disse kandidater og omarrangerer dem baseret på deres relevans og kvalitet. Dette trin sikrer, at den mest relevante og højkvalitetsinformation præsenteres først.

Scoring: LLM’en tildeler hver kandidat en score, som afspejler deres relevans og kvalitet. Dette hjælper med at vælge det bedste svar eller dokument til brugeren.

Ved at udnytte LLM’er til omrangering og scoring kan systemet levere mere præcis og kontekstrelevant information, hvilket forbedrer brugeroplevelsen.

Her er et eksempel på, hvordan en rejseagent kan bruge en stor sprogmodel (LLM) til omrangering og scoring af rejsedestinationer baseret på brugerpræferencer i Python:

Scenarie – Rejser baseret på præferencer

En rejseagent ønsker at anbefale de bedste rejsedestinationer til en klient baseret på deres præferencer. LLM’en vil hjælpe med at omrangere og score destinationerne for at sikre, at de mest relevante muligheder præsenteres.

Trin:

  1. Indsaml brugerpræferencer.
  2. Hent en liste over potentielle rejsedestinationer.
  3. Brug LLM til at omrangere og score destinationerne baseret på brugerpræferencer.

Her er hvordan du kan opdatere det tidligere eksempel til at bruge Azure OpenAI Services:

Krav

  1. Du skal have et Azure-abonnement.
  2. Opret en Azure OpenAI-ressource og få din API-nøgle.

Eksempel på Python-kode

import requests
import json

class TravelAgent:
    def __init__(self, destinations):
        self.destinations = destinations

    def get_recommendations(self, preferences, api_key, endpoint):
        # Generer en prompt til Azure OpenAI
        prompt = self.generate_prompt(preferences)
        
        # Definer headers og payload til forespørgslen
        headers = {
            'Content-Type': 'application/json',
            'Authorization': f'Bearer {api_key}'
        }
        payload = {
            "prompt": prompt,
            "max_tokens": 150,
            "temperature": 0.7
        }
        
        # Kald Azure OpenAI API'en for at få de omrangordnede og scorerede destinationer
        response = requests.post(endpoint, headers=headers, json=payload)
        response_data = response.json()
        
        # Ekstraher og returner anbefalingerne
        recommendations = response_data['choices'][0]['text'].strip().split('\n')
        return recommendations

    def generate_prompt(self, preferences):
        prompt = "Here are the travel destinations ranked and scored based on the following user preferences:\n"
        for key, value in preferences.items():
            prompt += f"{key}: {value}\n"
        prompt += "\nDestinations:\n"
        for destination in self.destinations:
            prompt += f"- {destination['name']}: {destination['description']}\n"
        return prompt

# Eksempel på brug
destinations = [
    {"name": "Paris", "description": "City of lights, known for its art, fashion, and culture."},
    {"name": "Tokyo", "description": "Vibrant city, famous for its modernity and traditional temples."},
    {"name": "New York", "description": "The city that never sleeps, with iconic landmarks and diverse culture."},
    {"name": "Sydney", "description": "Beautiful harbour city, known for its opera house and stunning beaches."},
]

preferences = {"activity": "sightseeing", "culture": "diverse"}
api_key = 'your_azure_openai_api_key'
endpoint = 'https://your-endpoint.com/openai/deployments/your-deployment-name/completions?api-version=2022-12-01'

travel_agent = TravelAgent(destinations)
recommendations = travel_agent.get_recommendations(preferences, api_key, endpoint)
print("Recommended Destinations:")
for rec in recommendations:
    print(rec)

Forklaring af kode – Præferencebogholder

  1. Initialisering: TravelAgent-klassen initialiseres med en liste over potentielle rejsedestinationer, hver med attributter som navn og beskrivelse.

  2. Hentning af anbefalinger (get_recommendations metode): Denne metode genererer et prompt for Azure OpenAI-tjenesten baseret på brugerens præferencer og foretager en HTTP POST-anmodning til Azure OpenAI API for at få områngerede og scorede destinationer.

  3. Generering af prompt (generate_prompt metode): Denne metode opbygger et prompt til Azure OpenAI, som inkluderer brugerens præferencer og listen over destinationer. Promptet guider modellen til at omrangere og score destinationerne baseret på de angivne præferencer.

  4. API-kald: requests-biblioteket bruges til at foretage en HTTP POST-anmodning til Azure OpenAI API-endpointet. Svaret indeholder de omrangede og scorede destinationer.

  5. Eksempel på brug: Rejseagenten indsamler brugerpræferencer (f.eks. interesse i sightseeing og varieret kultur) og bruger Azure OpenAI-tjenesten til at få omrangede og scorede anbefalinger for rejsedestinationer.

Sørg for at erstatte your_azure_openai_api_key med din faktiske Azure OpenAI API-nøgle og https://your-endpoint.com/... med den faktiske endpoint-URL for din Azure OpenAI-udrulning.

Ved at udnytte LLM til omrangering og scoring kan rejseagenten levere mere personlige og relevante rejseanbefalinger til klienter og forbedre deres samlede oplevelse.

RAG: Prompting-teknik vs. værktøj

Retrieval-Augmented Generation (RAG) kan være både en prompting-teknik og et værktøj i udviklingen af AI-agenter. At forstå forskellen mellem de to kan hjælpe dig med at udnytte RAG mere effektivt i dine projekter.

RAG som prompting-teknik

Hvad er det?

Hvordan det fungerer:

  1. Formuler prompts: Skab veldesignede prompts eller forespørgsler baseret på opgaven eller brugerens input.
  2. Hent information: Brug prompts til at søge efter relevant data i en eksisterende videnbase eller dataset.
  3. Generer svar: Kombiner den hentede information med generative AI-modeller for at producere et fyldestgørende og sammenhængende svar.

Eksempel i rejseagent:

RAG som værktøj

Hvad er det?

Hvordan det fungerer:

  1. Integration: Indbyg RAG i AI-agentens arkitektur, så den automatisk håndterer hentnings- og genereringsopgaver.
  2. Automatisering: Værktøjet styrer hele processen, fra modtagelse af brugerinput til generering af det endelige svar, uden at kræve eksplicitte prompts for hvert trin.
  3. Effektivitet: Forbedrer agentens ydeevne ved at strømline hentnings- og genereringsprocessen, hvilket muliggør hurtigere og mere præcise svar.

Eksempel i rejseagent:

Sammenligning

Aspekt Prompting-teknik Værktøj
Manuel vs Automatisk Manuel formulering af prompts for hver forespørgsel. Automatisk proces for hentning og generering.
Kontrol Tilbyder mere kontrol over hentningsprocessen. Strømliner og automatiserer hentning og generering.
Fleksibilitet Muliggør tilpassede prompts baseret på specifikke behov. Mere effektiv til storskala-implementeringer.
Kompleksitet Kræver formulering og justering af prompts. Lettere at integrere i AI-agentens arkitektur.

Praktiske eksempler

Prompting-teknik eksempel:

def search_museums_in_paris():
    prompt = "Find top museums in Paris"
    search_results = search_web(prompt)
    return search_results

museums = search_museums_in_paris()
print("Top Museums in Paris:", museums)

Værktøjseksempel:

class Travel_Agent:
    def __init__(self):
        self.rag_tool = RAGTool()

    def get_museums_in_paris(self):
        user_input = "I want to visit museums in Paris."
        response = self.rag_tool.retrieve_and_generate(user_input)
        return response

travel_agent = Travel_Agent()
museums = travel_agent.get_museums_in_paris()
print("Top Museums in Paris:", museums)

Evaluering af relevans

Evaluering af relevans er et afgørende aspekt af AI-agenters ydeevne. Det sikrer, at den information, som agenten henter og genererer, er passende, nøjagtig og brugbar for brugeren. Lad os se på, hvordan man evaluerer relevans i AI-agenter, inklusive praktiske eksempler og teknikker.

Centrale begreber i relevanseevaluering

  1. Kontekstbevidsthed:
    • Agenten skal forstå konteksten i brugerens forespørgsel for at hente og generere relevant information.
    • Eksempel: Hvis en bruger spørger efter “bedste restauranter i Paris,” bør agenten tage højde for brugerens præferencer som fx køkkentype og budget.
  2. Nøjagtighed:
    • Den information, agenten leverer, skal være faktuelt korrekt og opdateret.
    • Eksempel: Anbefale restauranter, der aktuelt er åbne og har gode anmeldelser, frem for forældede eller lukkede steder.
  3. Brugerintention:
    • Agenten bør kunne udlede brugerens intention bag forespørgslen for at levere den mest relevante information.
    • Eksempel: Hvis en bruger spørger efter “budgetvenlige hoteller,” bør agenten prioritere overkommelige muligheder.
  4. Feedback-loop:
    • Kontinuerlig indsamling og analyse af brugerfeedback hjælper agenten med at forfine sin relevanseevalueringsproces.
    • Eksempel: Indarbejde brugervurderinger og feedback om tidligere anbefalinger for at forbedre fremtidige svar.

Praktiske teknikker til evaluering af relevans

  1. Relevansscoring:
    • Tilknyt en relevansscore til hvert hentet element baseret på, hvor godt det matcher brugerens forespørgsel og præferencer.
    • Eksempel:

      def relevance_score(item, query):
          score = 0
          if item['category'] in query['interests']:
              score += 1
          if item['price'] <= query['budget']:
              score += 1
          if item['location'] == query['destination']:
              score += 1
          return score
      
  2. Filtrering og rangering:
    • Filtrer irrelevante elementer fra og ranger de resterende baseret på deres relevansscore.
    • Eksempel:

      def filter_and_rank(items, query):
          ranked_items = sorted(items, key=lambda item: relevance_score(item, query), reverse=True)
          return ranked_items[:10]  # Returner de 10 mest relevante elementer
      
  3. Natural Language Processing (NLP):
    • Brug NLP-teknikker til at forstå brugerens forespørgsel og hente relevant information.
    • Eksempel:

      def process_query(query):
          # Brug NLP til at udtrække nøgleinformation fra brugerens forespørgsel
          processed_query = nlp(query)
          return processed_query
      
  4. Integration af brugerfeedback:
    • Indsaml brugerfeedback på de givne anbefalinger og brug den til at justere fremtidige relevanseevalueringer.
    • Eksempel:

      def adjust_based_on_feedback(feedback, items):
          for item in items:
              if item['name'] in feedback['liked']:
                  item['relevance'] += 1
              if item['name'] in feedback['disliked']:
                  item['relevance'] -= 1
          return items
      

Eksempel: Evaluering af relevans i Travel Agent

Her er et praktisk eksempel på, hvordan Travel Agent kan evaluere relevansen af rejseanbefalinger:

class Travel_Agent:
    def __init__(self):
        self.user_preferences = {}
        self.experience_data = []

    def gather_preferences(self, preferences):
        self.user_preferences = preferences

    def retrieve_information(self):
        flights = search_flights(self.user_preferences)
        hotels = search_hotels(self.user_preferences)
        attractions = search_attractions(self.user_preferences)
        return flights, hotels, attractions

    def generate_recommendations(self):
        flights, hotels, attractions = self.retrieve_information()
        ranked_hotels = self.filter_and_rank(hotels, self.user_preferences)
        itinerary = create_itinerary(flights, ranked_hotels, attractions)
        return itinerary

    def filter_and_rank(self, items, query):
        ranked_items = sorted(items, key=lambda item: self.relevance_score(item, query), reverse=True)
        return ranked_items[:10]  # Returner top 10 relevante elementer

    def relevance_score(self, item, query):
        score = 0
        if item['category'] in query['interests']:
            score += 1
        if item['price'] <= query['budget']:
            score += 1
        if item['location'] == query['destination']:
            score += 1
        return score

    def adjust_based_on_feedback(self, feedback, items):
        for item in items:
            if item['name'] in feedback['liked']:
                item['relevance'] += 1
            if item['name'] in feedback['disliked']:
                item['relevance'] -= 1
        return items

# Eksempel på brug
travel_agent = Travel_Agent()
preferences = {
    "destination": "Paris",
    "dates": "2025-04-01 to 2025-04-10",
    "budget": "moderate",
    "interests": ["museums", "cuisine"]
}
travel_agent.gather_preferences(preferences)
itinerary = travel_agent.generate_recommendations()
print("Suggested Itinerary:", itinerary)
feedback = {"liked": ["Louvre Museum"], "disliked": ["Eiffel Tower (too crowded)"]}
updated_items = travel_agent.adjust_based_on_feedback(feedback, itinerary['hotels'])
print("Updated Itinerary with Feedback:", updated_items)

Søge med intention

At søge med intention indebærer at forstå og tolke det underliggende formål eller mål bag en brugers forespørgsel for at hente og generere den mest relevante og nyttige information. Denne tilgang går ud over blot at matche nøgleord og fokuserer på at opfange brugerens egentlige behov og kontekst.

Centrale begreber i søgning med intention

  1. Forståelse af brugerens intention:
    • Brugerintention kan kategoriseres i tre hovedtyper: informationssøgning, navigationssøging og transaktionssøgning.
      • Informationssøgning: Brugeren søger information om et emne (f.eks. “Hvad er de bedste museer i Paris?”).
      • Navigationssøgning: Brugeren ønsker at navigere til en bestemt hjemmeside eller side (f.eks. “Louvre Museums officielle hjemmeside”).
      • Transaktionssøgning: Brugeren ønsker at udføre en handling, såsom at booke en flyrejse eller foretage et køb (f.eks. “Book en flybillet til Paris”).
  2. Kontekstbevidsthed:
    • Analyse af konteksten i brugerens forespørgsel hjælper med præcist at identificere deres intention. Dette inkluderer tidligere interaktioner, brugerpræferencer og de konkrete detaljer i den aktuelle forespørgsel.
  3. Natural Language Processing (NLP):
    • NLP-teknikker anvendes til at forstå og fortolke de naturlige sprogforespørgsler, som brugerne giver. Dette omfatter opgaver som entity-genkendelse, sentimentanalyse og forespørgselsparsing.
  4. Personalisering:
    • Personliggørelse af søgeresultater baseret på brugerens historik, præferencer og feedback forbedrer relevansen af den hentede information.

Praktisk eksempel: Søge med intention i Travel Agent

Lad os tage Travel Agent som eksempel og se, hvordan søgning med intention kan implementeres.

  1. Indsamling af brugerpræferencer

    class Travel_Agent:
        def __init__(self):
            self.user_preferences = {}
    
        def gather_preferences(self, preferences):
            self.user_preferences = preferences
    
  2. Forståelse af brugerintention

    def identify_intent(query):
        if "book" in query or "purchase" in query:
            return "transactional"
        elif "website" in query or "official" in query:
            return "navigational"
        else:
            return "informational"
    
  3. Kontekstbevidsthed
    def analyze_context(query, user_history):
        # Kombiner den aktuelle forespørgsel med brugerens historik for at forstå konteksten
        context = {
            "current_query": query,
            "user_history": user_history
        }
        return context
    
  4. Søg og personaliser resultater

    def search_with_intent(query, preferences, user_history):
        intent = identify_intent(query)
        context = analyze_context(query, user_history)
        if intent == "informational":
            search_results = search_information(query, preferences)
        elif intent == "navigational":
            search_results = search_navigation(query)
        elif intent == "transactional":
            search_results = search_transaction(query, preferences)
        personalized_results = personalize_results(search_results, user_history)
        return personalized_results
    
    def search_information(query, preferences):
        # Eksempelsøgelogik for informativ hensigt
        results = search_web(f"best {preferences['interests']} in {preferences['destination']}")
        return results
    
    def search_navigation(query):
        # Eksempelsøgelogik for navigationshensigt
        results = search_web(query)
        return results
    
    def search_transaction(query, preferences):
        # Eksempelsøgelogik for transaktionel hensigt
        results = search_web(f"book {query} to {preferences['destination']}")
        return results
    
    def personalize_results(results, user_history):
        # Eksempel på personaliseringslogik
        personalized = [result for result in results if result not in user_history]
        return personalized[:10]  # Returner de 10 bedste personaliserede resultater
    
  5. Eksempel på brug

    travel_agent = Travel_Agent()
    preferences = {
        "destination": "Paris",
        "interests": ["museums", "cuisine"]
    }
    travel_agent.gather_preferences(preferences)
    user_history = ["Louvre Museum website", "Book flight to Paris"]
    query = "best museums in Paris"
    results = search_with_intent(query, preferences, user_history)
    print("Search Results:", results)
    

4. Generering af kode som værktøj

Kodegenererende agenter bruger AI-modeller til at skrive og køre kode, løse komplekse problemer og automatisere opgaver.

Kodegenererende agenter

Kodegenererende agenter bruger generative AI-modeller til at skrive og køre kode. Disse agenter kan løse komplekse problemer, automatisere opgaver og levere værdifulde indsigter ved at generere og køre kode i forskellige programmeringssprog.

Praktiske anvendelser

  1. Automatiseret kodegenerering: Generer kodeudsnit til specifikke opgaver, som dataanalyse, web scraping eller maskinlæring.
  2. SQL som en RAG: Brug SQL-forespørgsler til at hente og manipulere data fra databaser.
  3. Problemløsning: Opret og kør kode for at løse specifikke problemer, som at optimere algoritmer eller analysere data.

Eksempel: Kodegenererende agent til dataanalyse

Forestil dig, at du designer en kodegenererende agent. Sådan kan den fungere:

  1. Opgave: Analysere et datasæt for at identificere trends og mønstre.
  2. Trin:
    • Indlæs datasættet i et dataanalysetool.
    • Generer SQL-forespørgsler til at filtrere og aggregere data.
    • Kør forespørgslerne og hent resultaterne.
    • Brug resultaterne til at generere visualiseringer og indsigter.
  3. Nødvendige ressourcer: Adgang til datasættet, dataanalysetools og SQL-kapaciteter.
  4. Erfaring: Brug tidligere analyseresultater til at forbedre nøjagtighed og relevans af fremtidige analyser.

Eksempel: Kodegenererende agent til rejseagent

I dette eksempel designer vi en kodegenererende agent, Rejseagent, som hjælper brugere med at planlægge deres rejse ved at generere og køre kode. Denne agent kan håndtere opgaver som at hente rejsemuligheder, filtrere resultater og samle en rejseplan ved hjælp af generativ AI.

Oversigt over kodegenererende agent

  1. Indsamling af brugerpræferencer: Indsamler brugerinput som destination, rejsedatoer, budget og interesser.
  2. Generering af kode til at hente data: Genererer kodeudsnit til at hente data om fly, hoteller og seværdigheder.
  3. Udførelse af genereret kode: Kører den genererede kode for at hente realtidsinformation.
  4. Generering af rejseplan: Samler de hentede data til en personlig rejseplan.
  5. Tilpasning baseret på feedback: Modtager brugerfeedback og genererer koden igen om nødvendigt for at forbedre resultaterne.

Skridt-for-skridt implementering

  1. Indsamling af brugerpræferencer

    class Travel_Agent:
        def __init__(self):
            self.user_preferences = {}
    
        def gather_preferences(self, preferences):
            self.user_preferences = preferences
    
  2. Generering af kode til at hente data

    def generate_code_to_fetch_data(preferences):
        # Eksempel: Generer kode til at søge efter fly baseret på brugerpræferencer
        code = f"""
        def search_flights():
            import requests
            response = requests.get('https://api.example.com/flights', params={preferences})
            return response.json()
        """
        return code
    
    def generate_code_to_fetch_hotels(preferences):
        # Eksempel: Generer kode til at søge efter hoteller
        code = f"""
        def search_hotels():
            import requests
            response = requests.get('https://api.example.com/hotels', params={preferences})
            return response.json()
        """
        return code
    
  3. Udførelse af genereret kode

    def execute_code(code):
        # Udfør den genererede kode ved hjælp af exec
        exec(code)
        result = locals()
        return result
    
    travel_agent = Travel_Agent()
    preferences = {
        "destination": "Paris",
        "dates": "2025-04-01 to 2025-04-10",
        "budget": "moderate",
        "interests": ["museums", "cuisine"]
    }
    travel_agent.gather_preferences(preferences)
       
    flight_code = generate_code_to_fetch_data(preferences)
    hotel_code = generate_code_to_fetch_hotels(preferences)
       
    flights = execute_code(flight_code)
    hotels = execute_code(hotel_code)
    
    print("Flight Options:", flights)
    print("Hotel Options:", hotels)
    
  4. Generering af rejseplan

    def generate_itinerary(flights, hotels, attractions):
        itinerary = {
            "flights": flights,
            "hotels": hotels,
            "attractions": attractions
        }
        return itinerary
    
    attractions = search_attractions(preferences)
    itinerary = generate_itinerary(flights, hotels, attractions)
    print("Suggested Itinerary:", itinerary)
    
  5. Tilpasning baseret på feedback

    def adjust_based_on_feedback(feedback, preferences):
        # Juster præferencer baseret på brugerfeedback
        if "liked" in feedback:
            preferences["favorites"] = feedback["liked"]
        if "disliked" in feedback:
            preferences["avoid"] = feedback["disliked"]
        return preferences
    
    feedback = {"liked": ["Louvre Museum"], "disliked": ["Eiffel Tower (too crowded)"]}
    updated_preferences = adjust_based_on_feedback(feedback, preferences)
       
    # Generer og udfør kode igen med opdaterede præferencer
    updated_flight_code = generate_code_to_fetch_data(updated_preferences)
    updated_hotel_code = generate_code_to_fetch_hotels(updated_preferences)
       
    updated_flights = execute_code(updated_flight_code)
    updated_hotels = execute_code(updated_hotel_code)
       
    updated_itinerary = generate_itinerary(updated_flights, updated_hotels, attractions)
    print("Updated Itinerary:", updated_itinerary)
    

Udnyttelse af miljøbevidsthed og ræsonnering

Baseret på skemaet for tabellen kan man forbedre forespørgselsgenereringsprocessen ved at udnytte miljøbevidsthed og ræsonnering.

Her er et eksempel på, hvordan dette kan gøres:

  1. Forståelse af skemaet: Systemet forstår skemaet for tabellen og bruger denne information til at forankre forespørgselsgenereringen.
  2. Tilpasning baseret på feedback: Systemet tilpasser brugerpræferencer baseret på feedback og ræsonnerer om, hvilke felter i skemaet der skal opdateres.
  3. Generering og udførelse af forespørgsler: Systemet genererer og udfører forespørgsler for at hente opdaterede fly- og hoteldata baseret på de nye præferencer.

Her er et opdateret Python-eksempel, der inkorporerer disse koncepter:

def adjust_based_on_feedback(feedback, preferences, schema):
    # Juster præferencer baseret på brugerfeedback
    if "liked" in feedback:
        preferences["favorites"] = feedback["liked"]
    if "disliked" in feedback:
        preferences["avoid"] = feedback["disliked"]
    # Ræsonnere baseret på skema for at justere andre relaterede præferencer
    for field in schema:
        if field in preferences:
            preferences[field] = adjust_based_on_environment(feedback, field, schema)
    return preferences

def adjust_based_on_environment(feedback, field, schema):
    # Brugerdefineret logik til at justere præferencer baseret på skema og feedback
    if field in feedback["liked"]:
        return schema[field]["positive_adjustment"]
    elif field in feedback["disliked"]:
        return schema[field]["negative_adjustment"]
    return schema[field]["default"]

def generate_code_to_fetch_data(preferences):
    # Generer kode til at hente flydata baseret på opdaterede præferencer
    return f"fetch_flights(preferences={preferences})"

def generate_code_to_fetch_hotels(preferences):
    # Generer kode til at hente hoteldata baseret på opdaterede præferencer
    return f"fetch_hotels(preferences={preferences})"

def execute_code(code):
    # Simuler eksekvering af kode og returner mock-data
    return {"data": f"Executed: {code}"}

def generate_itinerary(flights, hotels, attractions):
    # Generer rejseplan baseret på fly, hoteller og attraktioner
    return {"flights": flights, "hotels": hotels, "attractions": attractions}

# Eksempelskema
schema = {
    "favorites": {"positive_adjustment": "increase", "negative_adjustment": "decrease", "default": "neutral"},
    "avoid": {"positive_adjustment": "decrease", "negative_adjustment": "increase", "default": "neutral"}
}

# Eksempel på anvendelse
preferences = {"favorites": "sightseeing", "avoid": "crowded places"}
feedback = {"liked": ["Louvre Museum"], "disliked": ["Eiffel Tower (too crowded)"]}
updated_preferences = adjust_based_on_feedback(feedback, preferences, schema)

# Generer og eksekver kode med opdaterede præferencer igen
updated_flight_code = generate_code_to_fetch_data(updated_preferences)
updated_hotel_code = generate_code_to_fetch_hotels(updated_preferences)

updated_flights = execute_code(updated_flight_code)
updated_hotels = execute_code(updated_hotel_code)

updated_itinerary = generate_itinerary(updated_flights, updated_hotels, feedback["liked"])
print("Updated Itinerary:", updated_itinerary)

Forklaring - Booking baseret på feedback

  1. Skema-bevidsthed: schema-ordbogen definerer, hvordan præferencer skal justeres baseret på feedback. Den inkluderer felter som favorites og avoid med tilhørende justeringer.
  2. Tilpasning af præferencer (adjust_based_on_feedback metode): Denne metode justerer præferencer baseret på brugerfeedback og skemaet.
  3. Miljøbaserede justeringer (adjust_based_on_environment metode): Denne metode tilpasser justeringerne baseret på skemaet og feedback.
  4. Generering og udførelse af forespørgsler: Systemet genererer kode til at hente opdaterede fly- og hoteldata baseret på de justerede præferencer og simulerer udførelsen af disse forespørgsler.
  5. Generering af rejseplan: Systemet opretter en opdateret rejseplan baseret på de nye fly-, hotel- og attraktiondata.

Ved at gøre systemet miljøbevidst og ræsonnere baseret på skemaet kan det generere mere præcise og relevante forespørgsler, hvilket fører til bedre rejseanbefalinger og en mere personlig brugeroplevelse.

Brug af SQL som Retrieval-Augmented Generation (RAG) teknik

SQL (Structured Query Language) er et kraftfuldt værktøj til interaktion med databaser. Når det bruges som en del af en Retrieval-Augmented Generation (RAG) tilgang, kan SQL hente relevante data fra databaser for at informere og generere svar eller handlinger i AI-agenter. Lad os undersøge, hvordan SQL kan bruges som en RAG-teknik i konteksten af Rejseagent.

Nøglebegreber

  1. Databaseinteraktion:
    • SQL bruges til at forespørge databaser, hente relevante informationer og manipulere data.
    • Eksempel: Hentning af flydetaljer, hotelinformation og seværdigheder fra en rejse database.
  2. Integration med RAG:
    • SQL-forespørgsler genereres baseret på brugerinput og præferencer.
    • De hentede data bruges derefter til at generere personlige anbefalinger eller handlinger.
  3. Dynamisk forespørgselsgenerering:
    • AI-agenten genererer dynamiske SQL-forespørgsler baseret på kontekst og brugerbehov.
    • Eksempel: Tilpasning af SQL-forespørgsler til at filtrere resultater baseret på budget, datoer og interesser.

Anvendelser

Eksempel: En dataanalyse-agent:

  1. Opgave: Analysere et datasæt for at finde trends.
  2. Trin:
    • Indlæs datasættet.
    • Generer SQL-forespørgsler til at filtrere data.
    • Udfør forespørgsler og hent resultater.
    • Generer visualiseringer og indsigter.
  3. Ressourcer: Adgang til datasæt, SQL-kapaciteter.
  4. Erfaring: Brug tidligere resultater til at forbedre fremtidige analyser.

Praktisk eksempel: Brug af SQL i Rejseagent

  1. Indsamling af brugerpræferencer

    class Travel_Agent:
        def __init__(self):
            self.user_preferences = {}
    
        def gather_preferences(self, preferences):
            self.user_preferences = preferences
    
  2. Generering af SQL-forespørgsler

    def generate_sql_query(table, preferences):
        query = f"SELECT * FROM {table} WHERE "
        conditions = []
        for key, value in preferences.items():
            conditions.append(f"{key}='{value}'")
        query += " AND ".join(conditions)
        return query
    
  3. Udførelse af SQL-forespørgsler

    import sqlite3
    
    def execute_sql_query(query, database="travel.db"):
        connection = sqlite3.connect(database)
        cursor = connection.cursor()
        cursor.execute(query)
        results = cursor.fetchall()
        connection.close()
        return results
    
  4. Generering af anbefalinger

    def generate_recommendations(preferences):
        flight_query = generate_sql_query("flights", preferences)
        hotel_query = generate_sql_query("hotels", preferences)
        attraction_query = generate_sql_query("attractions", preferences)
           
        flights = execute_sql_query(flight_query)
        hotels = execute_sql_query(hotel_query)
        attractions = execute_sql_query(attraction_query)
           
        itinerary = {
            "flights": flights,
            "hotels": hotels,
            "attractions": attractions
        }
        return itinerary
    
    travel_agent = Travel_Agent()
    preferences = {
        "destination": "Paris",
        "dates": "2025-04-01 to 2025-04-10",
        "budget": "moderate",
        "interests": ["museums", "cuisine"]
    }
    travel_agent.gather_preferences(preferences)
    itinerary = generate_recommendations(preferences)
    print("Suggested Itinerary:", itinerary)
    

Eksempel på SQL-forespørgsler

  1. Flyforespørgsel

    SELECT * FROM flights WHERE destination='Paris' AND dates='2025-04-01 to 2025-04-10' AND budget='moderate';
    
  2. Hotelforespørgsel

    SELECT * FROM hotels WHERE destination='Paris' AND budget='moderate';
    
  3. Attraktionsforespørgsel

    SELECT * FROM attractions WHERE destination='Paris' AND interests='museums, cuisine';
    

Ved at udnytte SQL som en del af Retrieval-Augmented Generation (RAG) teknikken kan AI-agenter som Rejseagent dynamisk hente og anvende relevante data for at give præcise og personlige anbefalinger.

Eksempel på metakognition

For at demonstrere en implementering af metakognition, lad os skabe en simpel agent, der reflekterer over sin beslutningsproces mens den løser et problem. Til dette eksempel bygger vi et system, hvor en agent forsøger at optimere valget af et hotel, men derefter evaluerer sin egen ræsonnering og justerer sin strategi, når den laver fejl eller suboptimale valg.

Vi simulerer dette ved hjælp af et grundlæggende eksempel, hvor agenten vælger hoteller baseret på en kombination af pris og kvalitet, men den vil “reflektere” over sine beslutninger og justere sig derefter.

Hvordan dette illustrerer metakognition:

  1. Indledende beslutning: Agenten vælger det billigste hotel uden at forstå kvalitetens betydning.
  2. Refleksion og evaluering: Efter det indledende valg tjekker agenten, om hotellet var et “dårligt” valg baseret på brugerfeedback. Finder den, at hotellets kvalitet var for lav, reflekterer den over sin ræsonnering.
  3. Justering af strategi: Agenten tilpasser sin strategi baseret på refleksionen og skifter fra “billigst” til “højeste_kvalitet”, hvilket forbedrer beslutningsprocessen i fremtidige iterationer.

Her er et eksempel:

class HotelRecommendationAgent:
    def __init__(self):
        self.previous_choices = []  # Gemmer de tidligere valgte hoteller
        self.corrected_choices = []  # Gemmer de korrigerede valg
        self.recommendation_strategies = ['cheapest', 'highest_quality']  # Tilgængelige strategier

    def recommend_hotel(self, hotels, strategy):
        """
        Recommend a hotel based on the chosen strategy.
        The strategy can either be 'cheapest' or 'highest_quality'.
        """
        if strategy == 'cheapest':
            recommended = min(hotels, key=lambda x: x['price'])
        elif strategy == 'highest_quality':
            recommended = max(hotels, key=lambda x: x['quality'])
        else:
            recommended = None
        self.previous_choices.append((strategy, recommended))
        return recommended

    def reflect_on_choice(self):
        """
        Reflect on the last choice made and decide if the agent should adjust its strategy.
        The agent considers if the previous choice led to a poor outcome.
        """
        if not self.previous_choices:
            return "No choices made yet."

        last_choice_strategy, last_choice = self.previous_choices[-1]
        # Lad os antage, at vi har noget brugerfeedback, der fortæller os, om det sidste valg var godt eller ej
        user_feedback = self.get_user_feedback(last_choice)

        if user_feedback == "bad":
            # Juster strategi, hvis det forrige valg var utilfredsstillende
            new_strategy = 'highest_quality' if last_choice_strategy == 'cheapest' else 'cheapest'
            self.corrected_choices.append((new_strategy, last_choice))
            return f"Reflecting on choice. Adjusting strategy to {new_strategy}."
        else:
            return "The choice was good. No need to adjust."

    def get_user_feedback(self, hotel):
        """
        Simulate user feedback based on hotel attributes.
        For simplicity, assume if the hotel is too cheap, the feedback is "bad".
        If the hotel has quality less than 7, feedback is "bad".
        """
        if hotel['price'] < 100 or hotel['quality'] < 7:
            return "bad"
        return "good"

# Simuler en liste over hoteller (pris og kvalitet)
hotels = [
    {'name': 'Budget Inn', 'price': 80, 'quality': 6},
    {'name': 'Comfort Suites', 'price': 120, 'quality': 8},
    {'name': 'Luxury Stay', 'price': 200, 'quality': 9}
]

# Opret en agent
agent = HotelRecommendationAgent()

# Trin 1: Agenten anbefaler et hotel ved hjælp af "billigste" strategi
recommended_hotel = agent.recommend_hotel(hotels, 'cheapest')
print(f"Recommended hotel (cheapest): {recommended_hotel['name']}")

# Trin 2: Agenten reflekterer over valget og justerer strategien om nødvendigt
reflection_result = agent.reflect_on_choice()
print(reflection_result)

# Trin 3: Agenten anbefaler igen, denne gang med den justerede strategi
adjusted_recommendation = agent.recommend_hotel(hotels, 'highest_quality')
print(f"Adjusted hotel recommendation (highest_quality): {adjusted_recommendation['name']}")

Agenters metakognitive evner

Nøglen her er agentens evne til at:

Dette er en simpel form for metakognition, hvor systemet er i stand til at tilpasse sin ræsonneringsproces baseret på intern feedback.

Konklusion

Metakognition er et kraftfuldt værktøj, som markant kan forbedre AI-agenters evner. Ved at inkorporere metakognitive processer kan du designe agenter, der er mere intelligente, tilpasningsdygtige og effektive. Brug de ekstra ressourcer til yderligere at udforske den fascinerende verden af metakognition i AI-agenter.

Har du flere spørgsmål om Metakognition-designmønsteret?

Deltag i Microsoft Foundry Discord for at møde andre lærende, deltage i åbningstimer og få svar på dine AI Agent-spørgsmål.

Forrige lektion

Multi-Agent Design Pattern

Næste lektion

AI Agents in Production


Ansvarsfraskrivelse: Dette dokument er blevet oversat ved hjælp af AI-oversættelsestjenesten Co-op Translator. Selvom vi stræber efter nøjagtighed, bedes du være opmærksom på, at automatiserede oversættelser kan indeholde fejl eller unøjagtigheder. Det oprindelige dokument på originalsproget bør betragtes som den autoritative kilde. For vigtig information anbefales professionel menneskelig oversættelse. Vi påtager os intet ansvar for misforståelser eller fejltolkninger, som måtte opstå ved brug af denne oversættelse.