ai-agents-for-beginners

(Kliknite na zgornjo sliko za ogled videoposnetka te lekcije)

Vzorec oblikovanja uporabe orodij

Orodja so zanimiva, ker omogočajo AI agentom širši spekter zmogljivosti. Namesto da bi agent imel omejen nabor dejanj, ki jih lahko izvede, lahko z dodajanjem orodja agent zdaj izvede širok spekter dejanj. V tem poglavju si bomo ogledali vzorec oblikovanja uporabe orodij, ki opisuje, kako lahko AI agenti uporabljajo posebna orodja za dosego svojih ciljev.

Uvod

V tej lekciji želimo odgovoriti na naslednja vprašanja:

Kaj je vzorec oblikovanja uporabe orodij?
Za katere primere uporabe ga lahko uporabimo?
Kateri elementi/gradniki so potrebni za implementacijo tega vzorca oblikovanja?
Kateri so posebni premisleki za uporabo vzorca oblikovanja uporabe orodij za gradnjo zanesljivih AI agentov?

Cilji učenja

Po zaključku te lekcije boste znali:

Določiti vzorec oblikovanja uporabe orodij in njegov namen.
Prepoznati primere uporabe, kjer je vzorec uporabe orodij uporaben.
Razumeti ključne elemente, potrebne za implementacijo vzorca oblikovanja.
Prepoznati premisleke za zagotovitev zanesljivosti AI agentov, ki uporabljajo ta vzorec oblikovanja.

Kaj je vzorec oblikovanja uporabe orodij?

Vzorec oblikovanja uporabe orodij se osredotoča na dajanje zmožnosti večjim jezikovnim modelom (LLM), da komunicirajo z zunanjimi orodji za doseganje določenih ciljev. Orodja so koda, ki jo lahko agent izvede za izvajanje dejanj. Orodje je lahko preprosta funkcija, kot je kalkulator, ali pa klic API-ja tretje osebe, kot je iskanje cene delnic ali vremenska napoved. V kontekstu AI agentov so orodja zasnovana tako, da jih agenti izvajajo kot odziv na funkcijske klice, ki jih generira model.

Za katere primere uporabe ga lahko uporabimo?

AI agenti lahko izkoristijo orodja za dokončanje zapletenih opravil, pridobivanje informacij ali sprejemanje odločitev. Vzorec oblikovanja uporabe orodij se pogosto uporablja v scenarijih, ki zahtevajo dinamično interakcijo z zunanjimi sistemi, kot so podatkovne baze, spletne storitve ali tolmači kode. Ta zmožnost je uporabna za različne primere uporabe, vključno z:

Dinamično pridobivanje informacij: Agenti lahko poizvedujejo zunanje API-je ali podatkovne baze za pridobitev ažurnih podatkov (npr. poizvedba SQLite baze za analizo podatkov, pridobivanje cen delnic ali vremenskih informacij).
Izvajanje in tolmačenje kode: Agenti lahko izvajajo kodo ali skripte za reševanje matematičnih problemov, generiranje poročil ali izvajanje simulacij.
Avtomatizacija potekov dela: Avtomatizacija ponavljajočih se ali večstopenjskih potekov dela z integracijo orodij, kot so urniki opravil, storitve e-pošte ali podatkovne cevi.
Podpora strankam: Agenti lahko komunicirajo s CRM sistemi, platformami za upravljanje zahtevkov ali bazo znanja za reševanje poizvedb uporabnikov.
Generiranje in urejanje vsebine: Agenti lahko uporabijo orodja, kot so preverjevalniki slovnice, povzemalniki besedil ali ocenjevalci varnosti vsebine, za pomoč pri ustvarjanju vsebine.

Kateri elementi/gradniki so potrebni za implementacijo vzorca oblikovanja uporabe orodij?

Ti gradniki omogočajo AI agentu izvajanje širokega nabora nalog. Oglejmo si ključne elemente, potrebne za implementacijo vzorca oblikovanja uporabe orodij:

Sheme funkcij/orodij: Podrobne definicije razpoložljivih orodij, vključno z imenom funkcije, namenom, potrebnimi parametri in pričakovanimi izhodi. Te sheme omogočajo LLM-u, da razume, katera orodja so na voljo in kako sestaviti veljavne zahteve.
Logika izvajanja funkcij: Določa, kako in kdaj se orodja kličejo glede na uporabnikovo namero in kontekst pogovora. To lahko vključuje module za načrtovanje, mehanizme usmerjanja ali pogojne poti, ki dinamično določajo uporabo orodij.
Sistem za upravljanje sporočil: Komponente, ki upravljajo pogovorni tok med uporabniškimi vnosi, odzivi LLM, klici orodij in izhodi orodij.
Okvir za integracijo orodij: Infrastruktura, ki povezuje agenta z različnimi orodji, ne glede na to, ali gre za preproste funkcije ali kompleksne zunanje storitve.
Ravnanje z napakami in validacija: Mehanizmi za obravnavo neuspehov pri izvrševanju orodij, preverjanje parametrov in upravljanje nepričakovanih odgovorov.
Upravljanje stanja: Sledi kontekstu pogovora, prejšnjim interakcijam z orodji in trajnim podatkom za zagotavljanje doslednosti preko večkrokovnih interakcij.

Nato si podrobneje poglejmo klicanje funkcij/orodij.

Klicanje funkcij/orodij

Klicanje funkcij je glavni način, s katerim omogočamo velikim jezikovnim modelom (LLM) interakcijo z orodji. Pogosto boste videli izraze ‘funkcija’ in ‘orodje’ uporabljene zamenjavo, saj so ‘funkcije’ (bloki večkrat uporabne kode) ta ‘orodja’, ki jih agenti uporabljajo za opravljanje nalog. Da se koda funkcije izvede, mora LLM primerjati uporabnikovo zahtevo z opisom funkcije. Za to pošljemo shemo, ki vsebuje opise vseh razpoložljivih funkcij LLM-u. LLM potom izbere najprimernejšo funkcijo za nalogo in vrne njeno ime ter argumente. Izbrana funkcija se izvede, njen odziv se pošlje nazaj LLM-u, ki nato uporabi informacije za odgovor na uporabnikovo zahtevo.

Za razvijalce, ki želijo implementirati klicanje funkcij za agente, boste potrebovali:

Model LLM, ki podpira klicanje funkcij
Shemo, ki vsebuje opise funkcij
Kodo za vsako opisano funkcijo

Uporabimo primer pridobitve trenutnega časa v mestu:

Inicializirajte LLM, ki podpira klicanje funkcij:

Ne vsi modeli podpirajo klicanje funkcij, zato je pomembno preveriti, ali vaš LLM to omogoča. Azure OpenAI podpira klicanje funkcij. Začnemo lahko z inicializacijo Azure OpenAI klienta.

 # Inicializirajte Azure OpenAI odjemalca
 client = AzureOpenAI(
     azure_endpoint = os.getenv("AZURE_OPENAI_ENDPOINT"), 
     api_key=os.getenv("AZURE_OPENAI_API_KEY"),  
     api_version="2024-05-01-preview"
 )

Ustvarite shemo funkcije:

Nato bomo definirali JSON shemo, ki vsebuje ime funkcije, opis tega, kaj funkcija počne, ter imena in opise njenih parametrov. Nato bomo to shemo poslali prejšnje ustvarjenemu klientu skupaj z uporabnikovo zahtevo o iskanju časa v San Franciscu. Pomembno je opozoriti, da je vrnjen rezultat klic orodja, ne končni odgovor na vprašanje. Kot že omenjeno, LLM vrne ime funkcije, ki jo je izbral za nalogo, in argumente, ki bodo posredovani funkciji.

 # Opis funkcije za model za branje
 tools = [
     {
         "type": "function",
         "function": {
             "name": "get_current_time",
             "description": "Get the current time in a given location",
             "parameters": {
                 "type": "object",
                 "properties": {
                     "location": {
                         "type": "string",
                         "description": "The city name, e.g. San Francisco",
                     },
                 },
                 "required": ["location"],
             },
         }
     }
 ]

  
 # Začetno uporabniško sporočilo
 messages = [{"role": "user", "content": "What's the current time in San Francisco"}] 
  
 # Prvi klic API: Prosite model, da uporabi funkcijo
   response = client.chat.completions.create(
       model=deployment_name,
       messages=messages,
       tools=tools,
       tool_choice="auto",
   )
  
   # Obdelava odgovora modela
   response_message = response.choices[0].message
   messages.append(response_message)
  
   print("Model's response:")  

   print(response_message)
  

 Model's response:
 ChatCompletionMessage(content=None, role='assistant', function_call=None, tool_calls=[ChatCompletionMessageToolCall(id='call_pOsKdUlqvdyttYB67MOj434b', function=Function(arguments='{"location":"San Francisco"}', name='get_current_time'), type='function')])

Koda funkcije, ki izvaja nalogo:

Ko LLM izbere, katera funkcija se mora izvesti, je treba implementirati in zagnati kodo, ki opravi nalogo. Kodo za pridobitev trenutnega časa lahko implementiramo v Pythonu. Prav tako moramo napisati kodo, ki iz odziva (response_message) izlušči ime funkcije in argumente, da dobimo končni rezultat.

   def get_current_time(location):
     """Get the current time for a given location"""
     print(f"get_current_time called with location: {location}")  
     location_lower = location.lower()
        
     for key, timezone in TIMEZONE_DATA.items():
         if key in location_lower:
             print(f"Timezone found for {key}")  
             current_time = datetime.now(ZoneInfo(timezone)).strftime("%I:%M %p")
             return json.dumps({
                 "location": location,
                 "current_time": current_time
             })
      
     print(f"No timezone data found for {location_lower}")  
     return json.dumps({"location": location, "current_time": "unknown"})

  # Obravnavaj klice funkcij
   if response_message.tool_calls:
       for tool_call in response_message.tool_calls:
           if tool_call.function.name == "get_current_time":
     
               function_args = json.loads(tool_call.function.arguments)
     
               time_response = get_current_time(
                   location=function_args.get("location")
               )
     
               messages.append({
                   "tool_call_id": tool_call.id,
                   "role": "tool",
                   "name": "get_current_time",
                   "content": time_response,
               })
   else:
       print("No tool calls were made by the model.")  
  
   # Drugi klic API-ja: Dobi končni odgovor iz modela
   final_response = client.chat.completions.create(
       model=deployment_name,
       messages=messages,
   )
  
   return final_response.choices[0].message.content

   get_current_time called with location: San Francisco
   Timezone found for san francisco
   The current time in San Francisco is 09:24 AM.

Klicanje funkcij je jedro večine, če ne vseh, vzorcev uporabe orodij agentov, vendar je včasih implementacija od začetka lahko zahtevna. Kot smo se naučili v Lekcija 2 agentni okviri nam nudijo vnaprej pripravljene gradnike za implementacijo uporabe orodij.

Primeri uporabe orodij z agentnimi okviri

Tukaj je nekaj primerov, kako lahko implementirate vzorec oblikovanja uporabe orodij z različnimi agentnimi okviri:

Semantic Kernel

Semantic Kernel je odprtokodni AI okvir za razvijalce .NET, Python in Java, ki delajo z velikimi jezikovnimi modeli (LLM). Poenostavlja proces klicanja funkcij tako, da avtomatično opisuje vaše funkcije in njihove parametre modelu prek postopka seralizacije. Prav tako upravlja dvosmerno komunikacijo med modelom in vašo kodo. Ena od prednosti uporabe agentnega okvira, kot je Semantic Kernel, je, da omogoča dostop do vnaprej pripravljenih orodij, kot sta File Search in Code Interpreter.

Naslednji diagram ponazarja postopek klicanja funkcij s Semantic Kernel:

function calling

V Semantic Kernel so funkcije/orodja imenovane Plugins. Funkcijo get_current_time, ki smo jo videli prej, lahko spremenimo v razširitev s tem, da jo naredimo razred, ki vsebuje funkcijo. Prav tako lahko uvozimo dekorator kernel_function, ki sprejema opis funkcije. Ko nato ustvarite kernel z GetCurrentTimePlugin, kernel samodejno seralizira funkcijo in njene parametre ter v postopku ustvari shemo za pošiljanje LLM-u.

from semantic_kernel.functions import kernel_function

class GetCurrentTimePlugin:
    async def __init__(self, location):
        self.location = location

    @kernel_function(
        description="Get the current time for a given location"
    )
    def get_current_time(location: str = ""):
        ...

from semantic_kernel import Kernel

# Ustvari jedro
kernel = Kernel()

# Ustvari vtičnik
get_current_time_plugin = GetCurrentTimePlugin(location)

# Dodaj vtičnik v jedro
kernel.add_plugin(get_current_time_plugin)

Azure AI Agent Service

Azure AI Agent Service je novejši agentni okvir, zasnovan za omogočanje razvijalcem, da varno gradijo, uvajajo in razširjajo kakovostne ter prilagodljive AI agente, brez potrebe po upravljanju osnovnih računalniških in podatkovnih virov. Še posebej uporaben je za podjetniške aplikacije, saj gre za v celoti upravljano storitev s podjetniško varnostjo.

V primerjavi z razvojem neposredno z LLM API-jem Azure AI Agent Service ponuja nekaj prednosti, med drugim:

Avtomatsko klicanje orodij – ni potrebe po ročnem razčlenjevanju klica orodja, izvajanju orodja in obravnavi odziva; vse to je zdaj opravljeno na strežniški strani
Varno upravljani podatki – namesto da upravljate lasten pogovorni kontekst, lahko zanesete na “threads” (niti), ki shranjujejo vse informacije, ki jih potrebujete
Orodja takoj pripravna za uporabo – orodja, ki jih lahko uporabite za interakcijo z viri podatkov kot so Bing, Azure AI Search in Azure Functions.

Orodja, ki so na voljo v Azure AI Agent Service, lahko razdelimo v dve kategoriji:

Orodja za znanje:
Orodja za dejanja:

Storitev Agent nam omogoča, da ta orodja uporabljamo skupaj kot toolset (nabor orodij). Prav tako uporablja threads (niti), ki spremljajo zgodovino sporočil iz določenega pogovora.

Predstavljajte si, da ste prodajni agent v podjetju Contoso. Želite razviti pogovornega agenta, ki lahko odgovarja na vprašanja o vaših prodajnih podatkih.

Naslednja slika ponazarja, kako bi lahko uporabili Azure AI Agent Service za analizo vaših prodajnih podatkov:

Agentic Service In Action

Če želite katerokoli od teh orodij uporabiti s storitvijo, lahko ustvarimo klienta in definiramo orodje ali nabor orodij. Za praktično implementacijo lahko uporabimo naslednjo Python kodo. LLM bo lahko pregledal nabor orodij in se odločil, ali bo uporabil funkcijo, ki jo je ustvaril uporabnik, fetch_sales_data_using_sqlite_query, ali predhodno zgrajeni tolmač kode, glede na uporabnikovo zahtevo.

import os
from azure.ai.projects import AIProjectClient
from azure.identity import DefaultAzureCredential
from fetch_sales_data_functions import fetch_sales_data_using_sqlite_query # funkcija fetch_sales_data_using_sqlite_query, ki jo lahko najdete v datoteki fetch_sales_data_functions.py.
from azure.ai.projects.models import ToolSet, FunctionTool, CodeInterpreterTool

project_client = AIProjectClient.from_connection_string(
    credential=DefaultAzureCredential(),
    conn_str=os.environ["PROJECT_CONNECTION_STRING"],
)

# Inicializirajte orodjarno
toolset = ToolSet()

# Inicializirajte agenta za klic funkcij s funkcijo fetch_sales_data_using_sqlite_query in jo dodajte v orodjarno
fetch_data_function = FunctionTool(fetch_sales_data_using_sqlite_query)
toolset.add(fetch_data_function)

# Inicializirajte orodje Code Interpreter in ga dodajte v orodjarno.
code_interpreter = code_interpreter = CodeInterpreterTool()
toolset.add(code_interpreter)

agent = project_client.agents.create_agent(
    model="gpt-4o-mini", name="my-agent", instructions="You are helpful agent", 
    toolset=toolset
)

Kateri so posebni premisleki za uporabo vzorca oblikovanja uporabe orodij za gradnjo zanesljivih AI agentov?

Pogosta skrb pri dinamično generiranem SQL-ju s strani LLM-ov je varnost, zlasti tveganje SQL injekcije ali zlonamernih dejanj, kot so brisanje ali spreminjanje baze podatkov. Čeprav so te skrbi upravičene, jih je mogoče učinkovito ublažiti z ustrezno konfiguracijo dovoljenj za dostop do baze podatkov. Za večino podatkovnih baz to vključuje konfiguracijo baze kot samo za branje. Za storitve podatkovnih baz, kot sta PostgreSQL ali Azure SQL, je treba aplikaciji dodeliti vlogo le za branje (SELECT). Zagon aplikacije v varnem okolju dodatno izboljša zaščito. V podjetniških scenarijih se podatki običajno izločajo in preoblikujejo iz operativnih sistemov v bazo podatkov samo za branje ali skladišče podatkov s prijazno shemo. Ta pristop zagotavlja, da so podatki varni, optimizirani za zmogljivost in dostopnost ter da ima aplikacija omejen, samo za branje dostop.

Primeri kode

Python: Agent Framework
.NET: Agent Framework

Imate več vprašanj o uporabi oblikovalskih vzorcev orodja?

Pridružite se Azure AI Foundry Discord, da se srečate z drugimi učenci, spremljate pisarne in dobite odgovore na vaša vprašanja o AI agentih.

Dodatni viri

Prejšnja lekcija

Razumevanje agentnih oblikovalskih vzorcev

Naslednja lekcija

Agentic RAG

Omejitev odgovornosti: Ta dokument je bil preveden z uporabo storitve umetne inteligence za prevajanje Co-op Translator. Čeprav si prizadevamo za natančnost, upoštevajte, da lahko avtomatizirani prevodi vsebujejo napake ali netočnosti. Izvirni dokument v njegovem maternem jeziku velja za uradni vir. Za kritične informacije priporočamo strokovni človeški prevod. Za morebitna nesporazume ali napačne interpretacije, ki izhajajo iz uporabe tega prevoda, ne odgovarjamo.

This site is open source. Improve this page.