ai-agents-for-beginners

(Kliknite zgornjo sliko za ogled videa te lekcije)

Vzorec oblikovanja uporabe orodij

Orodja so zanimiva, ker omogočajo AI agentom širši nabor zmožnosti. Namesto da bi agent imel omejen nabor dejanj, ki jih lahko izvede, mu dodatek orodja omogoča izvajanje širokega spektra dejanj. V tem poglavju bomo obravnavali vzorec oblikovanja uporabe orodij, ki opisuje, kako lahko AI agenti uporabljajo specifična orodja za dosego svojih ciljev.

Uvod

V tej lekciji bomo poskušali odgovoriti na naslednja vprašanja:

Kaj je vzorec oblikovanja uporabe orodij?
Na katere primere uporabe ga lahko uporabimo?
Kateri so elementi/gradniki, potrebni za implementacijo vzorca oblikovanja?
Katere posebne vidike je treba upoštevati pri uporabi vzorca oblikovanja uporabe orodij za gradnjo zaupanja vrednih AI agentov?

Cilji učenja

Po zaključku te lekcije boste lahko:

Opredelili vzorec oblikovanja uporabe orodij in njegov namen.
Prepoznali primere uporabe, kjer je vzorec oblikovanja uporabe orodij primeren.
Razumeli ključne elemente, potrebne za implementacijo vzorca oblikovanja.
Prepoznali vidike za zagotavljanje zaupanja vrednosti AI agentov, ki uporabljajo ta vzorec oblikovanja.

Kaj je vzorec oblikovanja uporabe orodij?

Vzorec oblikovanja uporabe orodij se osredotoča na omogočanje LLM-jem interakcije z zunanjimi orodji za dosego specifičnih ciljev. Orodja so koda, ki jo lahko agent izvede za izvajanje dejanj. Orodje je lahko preprosta funkcija, kot je kalkulator, ali klic API-ja do storitve tretje osebe, kot je iskanje cen delnic ali vremenska napoved. V kontekstu AI agentov so orodja zasnovana tako, da jih agenti izvajajo kot odziv na funkcijske klice, ki jih generira model.

Na katere primere uporabe ga lahko uporabimo?

AI agenti lahko uporabljajo orodja za dokončanje kompleksnih nalog, pridobivanje informacij ali sprejemanje odločitev. Vzorec oblikovanja uporabe orodij se pogosto uporablja v scenarijih, ki zahtevajo dinamično interakcijo z zunanjimi sistemi, kot so baze podatkov, spletne storitve ali tolmači kode. Ta sposobnost je uporabna za številne primere uporabe, vključno z:

Dinamično pridobivanje informacij: Agenti lahko poizvedujejo zunanje API-je ali baze podatkov za pridobivanje ažurnih podatkov (npr. poizvedovanje SQLite baze podatkov za analizo podatkov, pridobivanje cen delnic ali vremenskih informacij).
Izvajanje in interpretacija kode: Agenti lahko izvajajo kodo ali skripte za reševanje matematičnih problemov, generiranje poročil ali izvajanje simulacij.
Avtomatizacija delovnih procesov: Avtomatizacija ponavljajočih se ali večstopenjskih delovnih procesov z integracijo orodij, kot so načrtovalniki nalog, storitve e-pošte ali podatkovni tokovi.
Podpora strankam: Agenti lahko komunicirajo s CRM sistemi, platformami za obravnavo zahtevkov ali bazami znanja za reševanje uporabniških poizvedb.
Generiranje in urejanje vsebine: Agenti lahko uporabljajo orodja, kot so preverjalniki slovnice, povzemalniki besedil ali ocenjevalci varnosti vsebine za pomoč pri nalogah ustvarjanja vsebine.

Kateri so elementi/gradniki, potrebni za implementacijo vzorca oblikovanja uporabe orodij?

Ti gradniki omogočajo AI agentu izvajanje širokega spektra nalog. Poglejmo ključne elemente, potrebne za implementacijo vzorca oblikovanja uporabe orodij:

Sheme funkcij/orodij: Podrobne definicije razpoložljivih orodij, vključno z imenom funkcije, namenom, zahtevanimi parametri in pričakovanimi izhodi. Te sheme omogočajo LLM-ju razumevanje, katera orodja so na voljo in kako sestaviti veljavne zahteve.
Logika izvajanja funkcij: Določa, kako in kdaj se orodja uporabljajo glede na uporabnikovo namero in kontekst pogovora. To lahko vključuje module načrtovalca, mehanizme usmerjanja ali pogojne tokove, ki dinamično določajo uporabo orodij.
Sistem za obravnavo sporočil: Komponente, ki upravljajo tok pogovora med uporabniškimi vnosi, odgovori LLM-ja, klici orodij in izhodi orodij.
Okvir za integracijo orodij: Infrastruktura, ki povezuje agenta z različnimi orodji, bodisi preprostimi funkcijami ali kompleksnimi zunanjimi storitvami.
Obravnava napak in validacija: Mehanizmi za obravnavo neuspehov pri izvajanju orodij, validacijo parametrov in upravljanje nepričakovanih odgovorov.
Upravljanje stanja: Sledi kontekstu pogovora, prejšnjim interakcijam z orodji in trajnim podatkom za zagotavljanje doslednosti pri večkratnih interakcijah.

Naslednje poglavje podrobneje obravnava klicanje funkcij/orodij.

Klicanje funkcij/orodij

Klicanje funkcij je primarni način, kako omogočimo velikim jezikovnim modelom (LLM-jem) interakcijo z orodji. Pogosto boste videli, da se izraza ‘funkcija’ in ‘orodje’ uporabljata izmenično, ker so ‘funkcije’ (bloki ponovno uporabne kode) ‘orodja’, ki jih agenti uporabljajo za izvajanje nalog. Da bi se koda funkcije izvedla, mora LLM primerjati uporabnikovo zahtevo z opisom funkcije. Za to se LLM-ju pošlje shema, ki vsebuje opise vseh razpoložljivih funkcij. LLM nato izbere najbolj primerno funkcijo za nalogo in vrne njeno ime ter argumente. Izbrana funkcija se izvede, njen odgovor pa se pošlje nazaj LLM-ju, ki uporabi informacije za odgovor na uporabnikovo zahtevo.

Za implementacijo klicanja funkcij za agente razvijalci potrebujejo:

LLM model, ki podpira klicanje funkcij
Shemo, ki vsebuje opise funkcij
Kodo za vsako opisano funkcijo

Poglejmo primer pridobivanja trenutnega časa v mestu:

Inicializacija LLM-ja, ki podpira klicanje funkcij:

Vsi modeli ne podpirajo klicanja funkcij, zato je pomembno preveriti, ali LLM, ki ga uporabljate, to omogoča. Azure OpenAI podpira klicanje funkcij. Začnemo lahko z inicializacijo odjemalca Azure OpenAI.
```
 # Initialize the Azure OpenAI client
 client = AzureOpenAI(
     azure_endpoint = os.getenv("AZURE_OPENAI_ENDPOINT"), 
     api_key=os.getenv("AZURE_OPENAI_API_KEY"),  
     api_version="2024-05-01-preview"
 )
```

Ustvarjanje sheme funkcij:

Nato definiramo JSON shemo, ki vsebuje ime funkcije, opis funkcije in imena ter opise parametrov funkcije. To shemo nato posredujemo prej ustvarjenemu odjemalcu skupaj z uporabnikovo zahtevo za iskanje časa v San Franciscu. Pomembno je opaziti, da se vrne klic orodja, ne končni odgovor na vprašanje. Kot je bilo že omenjeno, LLM vrne ime funkcije, ki jo je izbral za nalogo, in argumente, ki bodo posredovani funkciji.

 # Function description for the model to read
 tools = [
     {
         "type": "function",
         "function": {
             "name": "get_current_time",
             "description": "Get the current time in a given location",
             "parameters": {
                 "type": "object",
                 "properties": {
                     "location": {
                         "type": "string",
                         "description": "The city name, e.g. San Francisco",
                     },
                 },
                 "required": ["location"],
             },
         }
     }
 ]

  
 # Initial user message
 messages = [{"role": "user", "content": "What's the current time in San Francisco"}] 
  
 # First API call: Ask the model to use the function
   response = client.chat.completions.create(
       model=deployment_name,
       messages=messages,
       tools=tools,
       tool_choice="auto",
   )
  
   # Process the model's response
   response_message = response.choices[0].message
   messages.append(response_message)
  
   print("Model's response:")  

   print(response_message)
  

 Model's response:
 ChatCompletionMessage(content=None, role='assistant', function_call=None, tool_calls=[ChatCompletionMessageToolCall(id='call_pOsKdUlqvdyttYB67MOj434b', function=Function(arguments='{"location":"San Francisco"}', name='get_current_time'), type='function')])

Koda funkcije, potrebna za izvedbo naloge:

Zdaj, ko je LLM izbral, katero funkcijo je treba izvesti, je treba implementirati in izvesti kodo, ki opravi nalogo. Kodo za pridobivanje trenutnega časa lahko implementiramo v Pythonu. Prav tako moramo napisati kodo za ekstrakcijo imena in argumentov iz response_message, da dobimo končni rezultat.

   def get_current_time(location):
     """Get the current time for a given location"""
     print(f"get_current_time called with location: {location}")  
     location_lower = location.lower()
        
     for key, timezone in TIMEZONE_DATA.items():
         if key in location_lower:
             print(f"Timezone found for {key}")  
             current_time = datetime.now(ZoneInfo(timezone)).strftime("%I:%M %p")
             return json.dumps({
                 "location": location,
                 "current_time": current_time
             })
      
     print(f"No timezone data found for {location_lower}")  
     return json.dumps({"location": location, "current_time": "unknown"})

  # Handle function calls
   if response_message.tool_calls:
       for tool_call in response_message.tool_calls:
           if tool_call.function.name == "get_current_time":
     
               function_args = json.loads(tool_call.function.arguments)
     
               time_response = get_current_time(
                   location=function_args.get("location")
               )
     
               messages.append({
                   "tool_call_id": tool_call.id,
                   "role": "tool",
                   "name": "get_current_time",
                   "content": time_response,
               })
   else:
       print("No tool calls were made by the model.")  
  
   # Second API call: Get the final response from the model
   final_response = client.chat.completions.create(
       model=deployment_name,
       messages=messages,
   )
  
   return final_response.choices[0].message.content

   get_current_time called with location: San Francisco
   Timezone found for san francisco
   The current time in San Francisco is 09:24 AM.

Klicanje funkcij je osrednji del večine, če ne vseh, oblikovanj uporabe orodij agentov, vendar je lahko njegova implementacija od začetka včasih zahtevna. Kot smo se naučili v Lekciji 2, nam agentni okvirji zagotavljajo že pripravljene gradnike za implementacijo uporabe orodij.

Primeri uporabe orodij z agentnimi okvirji

Tukaj je nekaj primerov, kako lahko implementirate vzorec oblikovanja uporabe orodij z različnimi agentnimi okvirji:

Semantic Kernel

Semantic Kernel je odprtokodni AI okvir za razvijalce .NET, Python in Java, ki delajo z velikimi jezikovnimi modeli (LLM-ji). Poenostavi proces uporabe klicanja funkcij z avtomatskim opisovanjem vaših funkcij in njihovih parametrov modelu skozi proces, imenovan serializacija. Prav tako upravlja komunikacijo med modelom in vašo kodo. Druga prednost uporabe agentnega okvirja, kot je Semantic Kernel, je, da omogoča dostop do že pripravljenih orodij, kot sta Iskanje datotek in Tolmač kode.

Naslednji diagram prikazuje proces klicanja funkcij z uporabo Semantic Kernel:

klicanje funkcij

V Semantic Kernel se funkcije/orodja imenujejo Vtičniki. Funkcijo get_current_time, ki smo jo videli prej, lahko spremenimo v vtičnik tako, da jo spremenimo v razred, ki vsebuje funkcijo. Prav tako lahko uvozimo dekorator kernel_function, ki sprejme opis funkcije. Ko nato ustvarite jedro z vtičnikom GetCurrentTimePlugin, bo jedro samodejno serializiralo funkcijo in njene parametre ter ustvarilo shemo za pošiljanje LLM-ju v procesu.

from semantic_kernel.functions import kernel_function

class GetCurrentTimePlugin:
    async def __init__(self, location):
        self.location = location

    @kernel_function(
        description="Get the current time for a given location"
    )
    def get_current_time(location: str = ""):
        ...

from semantic_kernel import Kernel

# Create the kernel
kernel = Kernel()

# Create the plugin
get_current_time_plugin = GetCurrentTimePlugin(location)

# Add the plugin to the kernel
kernel.add_plugin(get_current_time_plugin)

Azure AI Agent Service

Azure AI Agent Service je novejši agentni okvir, zasnovan za omogočanje razvijalcem, da varno gradijo, uvajajo in skalirajo visokokakovostne ter razširljive AI agente, ne da bi morali upravljati osnovne računalniške in shranjevalne vire. Posebej je uporaben za poslovne aplikacije, saj je popolnoma upravljana storitev z varnostjo na ravni podjetja.

V primerjavi z razvojem z uporabo LLM API-ja neposredno Azure AI Agent Service ponuja nekaj prednosti, vključno z:

Samodejno klicanje orodij – ni potrebe po razčlenjevanju klica orodja, izvajanju orodja in obravnavi odgovora; vse to se zdaj izvaja na strežniški strani
Varno upravljanje podatkov – namesto da bi sami upravljali stanje pogovora, se lahko zanesete na niti za shranjevanje vseh potrebnih informacij
Že pripravljena orodja – Orodja, ki jih lahko uporabite za interakcijo z vašimi viri podatkov, kot so Bing, Azure AI Search in Azure Functions.

Orodja, ki so na voljo v Azure AI Agent Service, lahko razdelimo v dve kategoriji:

Orodja za znanje:
Orodja za dejanja:

Agent Service nam omogoča uporabo teh orodij skupaj kot toolset. Prav tako uporablja threads, ki sledijo zgodovini sporočil iz določenega pogovora.

Predstavljajte si, da ste prodajni agent v podjetju Contoso. Želite razviti pogovornega agenta, ki lahko odgovarja na vprašanja o vaših prodajnih podatkih.

Naslednja slika prikazuje, kako bi lahko uporabili Azure AI Agent Service za analizo vaših prodajnih podatkov:

Agentna storitev v akciji

Za uporabo katerega koli od teh orodij s storitvijo lahko ustvarimo odjemalca in definiramo orodje ali nabor orodij. Za praktično implementacijo lahko uporabimo naslednjo Python kodo. LLM bo lahko pogledal nabor orodij in se odločil, ali bo uporabil funkcijo, ki jo je ustvaril uporabnik, fetch_sales_data_using_sqlite_query, ali že pripravljeni Tolmač kode, odvisno od uporabnikove zahteve.

import os
from azure.ai.projects import AIProjectClient
from azure.identity import DefaultAzureCredential
from fetch_sales_data_functions import fetch_sales_data_using_sqlite_query # fetch_sales_data_using_sqlite_query function which can be found in a fetch_sales_data_functions.py file.
from azure.ai.projects.models import ToolSet, FunctionTool, CodeInterpreterTool

project_client = AIProjectClient.from_connection_string(
    credential=DefaultAzureCredential(),
    conn_str=os.environ["PROJECT_CONNECTION_STRING"],
)

# Initialize function calling agent with the fetch_sales_data_using_sqlite_query function and adding it to the toolset
fetch_data_function = FunctionTool(fetch_sales_data_using_sqlite_query)
toolset = ToolSet()
toolset.add(fetch_data_function)

# Initialize Code Interpreter tool and adding it to the toolset. 
code_interpreter = code_interpreter = CodeInterpreterTool()
toolset = ToolSet()
toolset.add(code_interpreter)

agent = project_client.agents.create_agent(
    model="gpt-4o-mini", name="my-agent", instructions="You are helpful agent", 
    toolset=toolset
)

Katere posebne vidike je treba upoštevati pri uporabi vzorca oblikovanja uporabe orodij za gradnjo zaupanja vrednih AI agentov?

Pogosta skrb pri SQL, ki ga dinamično generirajo LLM-ji, je varnost, zlasti tveganje SQL injekcij ali zlonamernih dejanj, kot je brisanje ali spreminjanje baze podatkov. Čeprav so te skrbi upravičene, jih je mogoče učinkovito omiliti z ustrezno konfiguracijo dovoljenj za dostop do baze podatkov. Za večino baz podatkov to vključuje konfiguracijo baze kot samo za branje. Za storitve baz podatkov, kot sta PostgreSQL ali Azure SQL, je treba aplikaciji dodeliti vlogo samo za branje (SELECT). Zagon aplikacije v varnem okolju dodatno povečuje zaščito. V poslovnih scenarijih se podatki običajno pridobivajo in preoblikujejo iz operativnih sistemov v bazo podatkov ali podatkovno skladišče, ki je samo za branje in ima uporabniku prijazno shemo. Ta pristop zagotavlja, da so podatki varni, optimizirani za zmogljivost in dostopnost, ter da ima aplikacija omejen dostop samo za branje.

Imate več vprašanj o uporabi vzorcev oblikovanja orodij?

Pridružite se Azure AI Foundry Discord, kjer lahko spoznate druge učence, se udeležite uradnih ur in dobite odgovore na vprašanja o AI Agents.

Dodatni viri

Prejšnja lekcija

Razumevanje vzorcev agentnega oblikovanja

Naslednja lekcija

Agentni RAG

Omejitev odgovornosti:
Ta dokument je bil preveden z uporabo storitve AI za prevajanje Co-op Translator. Čeprav si prizadevamo za natančnost, vas prosimo, da upoštevate, da lahko avtomatizirani prevodi vsebujejo napake ali netočnosti. Izvirni dokument v njegovem maternem jeziku je treba obravnavati kot avtoritativni vir. Za ključne informacije priporočamo profesionalni človeški prevod. Ne prevzemamo odgovornosti za morebitna nesporazumevanja ali napačne razlage, ki izhajajo iz uporabe tega prevoda.

This site is open source. Improve this page.