Pelajaran ini akan mencakup:
Setelah menyelesaikan pelajaran ini, Anda akan dapat:
Contoh kode untuk Microsoft Agent Framework (MAF) dapat ditemukan di repositori ini dalam file xx-python-agent-framework
dan xx-dotnet-agent-framework
.
Microsoft Agent Framework (MAF) dibangun berdasarkan pengalaman dan pembelajaran dari Semantic Kernel dan AutoGen. Framework ini menawarkan fleksibilitas untuk menangani berbagai kasus penggunaan berbasis agen yang ditemukan di lingkungan produksi maupun penelitian, termasuk:
Untuk menghadirkan Agen AI dalam Produksi, MAF juga menyertakan fitur untuk:
Microsoft Agent Framework juga berfokus pada interoperabilitas dengan:
Mari kita lihat bagaimana fitur-fitur ini diterapkan pada beberapa konsep inti Microsoft Agent Framework.
Membuat Agen
Pembuatan agen dilakukan dengan mendefinisikan layanan inferensi (Penyedia LLM), satu set instruksi untuk diikuti oleh Agen AI, dan name
yang ditetapkan:
agent = AzureOpenAIChatClient(credential=AzureCliCredential()).create_agent( instructions="You are good at recommending trips to customers based on their preferences.", name="TripRecommender" )
Kode di atas menggunakan Azure OpenAI
, tetapi agen dapat dibuat menggunakan berbagai layanan termasuk Azure AI Foundry Agent Service
:
AzureAIAgentClient(async_credential=credential).create_agent( name="HelperAgent", instructions="You are a helpful assistant." ) as agent
API Responses
dan ChatCompletion
dari OpenAI
agent = OpenAIResponsesClient().create_agent( name="WeatherBot", instructions="You are a helpful weather assistant.", )
agent = OpenAIChatClient().create_agent( name="HelpfulAssistant", instructions="You are a helpful assistant.", )
atau agen jarak jauh menggunakan protokol A2A:
agent = A2AAgent( name=agent_card.name, description=agent_card.description, agent_card=agent_card, url="https://your-a2a-agent-host" )
Menjalankan Agen
Agen dijalankan menggunakan metode .run
atau .run_stream
untuk respons non-streaming atau streaming.
result = await agent.run("What are good places to visit in Amsterdam?")
print(result.text)
async for update in agent.run_stream("What are the good places to visit in Amsterdam?"):
if update.text:
print(update.text, end="", flush=True)
Setiap eksekusi agen juga dapat memiliki opsi untuk menyesuaikan parameter seperti max_tokens
yang digunakan oleh agen, tools
yang dapat dipanggil oleh agen, dan bahkan model
yang digunakan oleh agen.
Ini berguna dalam kasus di mana model atau alat tertentu diperlukan untuk menyelesaikan tugas pengguna.
Alat
Alat dapat didefinisikan baik saat mendefinisikan agen:
def get_attractions( location: Annotated[str, Field(description="The location to get the top tourist attractions for")], ) -> str: """Get the top tourist attractions for a given location.""" return f"The top attractions for {location} are."
# When creating a ChatAgent directly
agent = ChatAgent( chat_client=OpenAIChatClient(), instructions="You are a helpful assistant", tools=[get_attractions]
dan juga saat menjalankan agen:
result1 = await agent.run( "What's the best place to visit in Seattle?", tools=[get_attractions] # Tool provided for this run only )
Thread Agen
Thread Agen digunakan untuk menangani percakapan multi-putaran. Thread dapat dibuat dengan:
get_new_thread()
yang memungkinkan thread disimpan dari waktu ke waktuUntuk membuat thread, kode terlihat seperti ini:
# Create a new thread.
thread = agent.get_new_thread() # Run the agent with the thread.
response = await agent.run("Hello, I am here to help you book travel. Where would you like to go?", thread=thread)
Anda kemudian dapat menyerialkan thread untuk disimpan dan digunakan nanti:
# Create a new thread.
thread = agent.get_new_thread()
# Run the agent with the thread.
response = await agent.run("Hello, how are you?", thread=thread)
# Serialize the thread for storage.
serialized_thread = await thread.serialize()
# Deserialize the thread state after loading from storage.
resumed_thread = await agent.deserialize_thread(serialized_thread)
Middleware Agen
Agen berinteraksi dengan alat dan LLM untuk menyelesaikan tugas pengguna. Dalam skenario tertentu, kita ingin mengeksekusi atau melacak interaksi di antara keduanya. Middleware agen memungkinkan kita melakukan ini melalui:
Function Middleware
Middleware ini memungkinkan kita mengeksekusi tindakan antara agen dan fungsi/alat yang akan dipanggilnya. Contoh penggunaannya adalah ketika Anda ingin melakukan logging pada pemanggilan fungsi.
Dalam kode di bawah ini, next
mendefinisikan apakah middleware berikutnya atau fungsi sebenarnya yang harus dipanggil.
async def logging_function_middleware(
context: FunctionInvocationContext,
next: Callable[[FunctionInvocationContext], Awaitable[None]],
) -> None:
"""Function middleware that logs function execution."""
# Pre-processing: Log before function execution
print(f"[Function] Calling {context.function.name}")
# Continue to next middleware or function execution
await next(context)
# Post-processing: Log after function execution
print(f"[Function] {context.function.name} completed")
Chat Middleware
Middleware ini memungkinkan kita mengeksekusi atau mencatat tindakan antara agen dan permintaan yang dikirimkan ke LLM.
Ini berisi informasi penting seperti messages
yang dikirim ke layanan AI.
async def logging_chat_middleware(
context: ChatContext,
next: Callable[[ChatContext], Awaitable[None]],
) -> None:
"""Chat middleware that logs AI interactions."""
# Pre-processing: Log before AI call
print(f"[Chat] Sending {len(context.messages)} messages to AI")
# Continue to next middleware or AI service
await next(context)
# Post-processing: Log after AI response
print("[Chat] AI response received")
Memori Agen
Seperti yang dibahas dalam pelajaran Agentic Memory
, memori adalah elemen penting untuk memungkinkan agen beroperasi dalam berbagai konteks. MAF menawarkan beberapa jenis memori:
Penyimpanan Dalam Memori
Ini adalah memori yang disimpan dalam thread selama runtime aplikasi.
# Create a new thread.
thread = agent.get_new_thread() # Run the agent with the thread.
response = await agent.run("Hello, I am here to help you book travel. Where would you like to go?", thread=thread)
Pesan Persisten
Memori ini digunakan saat menyimpan riwayat percakapan di berbagai sesi. Memori ini didefinisikan menggunakan chat_message_store_factory
:
from agent_framework import ChatMessageStore
# Create a custom message store
def create_message_store():
return ChatMessageStore()
agent = ChatAgent(
chat_client=OpenAIChatClient(),
instructions="You are a Travel assistant.",
chat_message_store_factory=create_message_store
)
Memori Dinamis
Memori ini ditambahkan ke konteks sebelum agen dijalankan. Memori ini dapat disimpan di layanan eksternal seperti mem0:
from agent_framework.mem0 import Mem0Provider
# Using Mem0 for advanced memory capabilities
memory_provider = Mem0Provider(
api_key="your-mem0-api-key",
user_id="user_123",
application_id="my_app"
)
agent = ChatAgent(
chat_client=OpenAIChatClient(),
instructions="You are a helpful assistant with memory.",
context_providers=memory_provider
)
Observabilitas Agen
Observabilitas penting untuk membangun sistem berbasis agen yang andal dan dapat dipelihara. MAF terintegrasi dengan OpenTelemetry untuk menyediakan tracing dan meteran untuk observabilitas yang lebih baik.
from agent_framework.observability import get_tracer, get_meter
tracer = get_tracer()
meter = get_meter()
with tracer.start_as_current_span("my_custom_span"):
# do something
pass
counter = meter.create_counter("my_custom_counter")
counter.add(1, {"key": "value"})
MAF menawarkan alur kerja yang merupakan langkah-langkah yang telah ditentukan untuk menyelesaikan tugas dan mencakup agen AI sebagai komponen dalam langkah-langkah tersebut.
Alur kerja terdiri dari berbagai komponen yang memungkinkan kontrol alur yang lebih baik. Alur kerja juga memungkinkan orkestrasi multi-agen dan checkpointing untuk menyimpan status alur kerja.
Komponen inti dari alur kerja adalah:
Eksekutor
Eksekutor menerima pesan input, melakukan tugas yang ditugaskan, dan kemudian menghasilkan pesan output. Ini menggerakkan alur kerja menuju penyelesaian tugas yang lebih besar. Eksekutor dapat berupa agen AI atau logika khusus.
Edges
Edges digunakan untuk mendefinisikan alur pesan dalam alur kerja. Edges dapat berupa:
Direct Edges - Koneksi sederhana satu-ke-satu antara eksekutor:
from agent_framework import WorkflowBuilder
builder = WorkflowBuilder()
builder.add_edge(source_executor, target_executor)
builder.set_start_executor(source_executor)
workflow = builder.build()
Conditional Edges - Diaktifkan setelah kondisi tertentu terpenuhi. Misalnya, ketika kamar hotel tidak tersedia, eksekutor dapat menyarankan opsi lain.
Switch-case Edges - Mengarahkan pesan ke eksekutor yang berbeda berdasarkan kondisi yang ditentukan. Misalnya, jika pelanggan perjalanan memiliki akses prioritas, tugas mereka akan ditangani melalui alur kerja lain.
Fan-out Edges - Mengirim satu pesan ke beberapa target.
Fan-in Edges - Mengumpulkan beberapa pesan dari eksekutor yang berbeda dan mengirimkannya ke satu target.
Events
Untuk memberikan observabilitas yang lebih baik ke dalam alur kerja, MAF menawarkan event bawaan untuk eksekusi, termasuk:
WorkflowStartedEvent
- Eksekusi alur kerja dimulaiWorkflowOutputEvent
- Alur kerja menghasilkan outputWorkflowErrorEvent
- Alur kerja mengalami kesalahanExecutorInvokeEvent
- Eksekutor mulai memprosesExecutorCompleteEvent
- Eksekutor selesai memprosesRequestInfoEvent
- Permintaan dikeluarkanPembuatan Agen yang Disederhanakan
Semantic Kernel mengandalkan pembuatan instance Kernel untuk setiap agen. MAF menggunakan pendekatan yang disederhanakan dengan menggunakan ekstensi untuk penyedia utama.
agent = AzureOpenAIChatClient(credential=AzureCliCredential()).create_agent( instructions="You are good at reccomending trips to customers based on their preferences.", name="TripRecommender" )
Pembuatan Thread Agen
Semantic Kernel mengharuskan thread dibuat secara manual. Dalam MAF, agen langsung ditugaskan ke thread.
thread = agent.get_new_thread() # Run the agent with the thread.
Registrasi Alat
Dalam Semantic Kernel, alat didaftarkan ke Kernel dan Kernel kemudian diteruskan ke agen. Dalam MAF, alat didaftarkan langsung selama proses pembuatan agen.
agent = ChatAgent( chat_client=OpenAIChatClient(), instructions="You are a helpful assistant", tools=[get_attractions]
Teams vs Workflows
Teams
adalah struktur event untuk aktivitas berbasis event dengan agen di AutoGen. MAF menggunakan Workflows
yang mengarahkan data ke eksekutor melalui arsitektur berbasis graf.
Pembuatan Alat
AutoGen menggunakan FunctionTool
untuk membungkus fungsi yang dapat dipanggil oleh agen. MAF menggunakan @ai_function yang beroperasi serupa tetapi juga secara otomatis menyimpulkan skema untuk setiap fungsi.
Perilaku Agen
Agen adalah agen satu putaran secara default di AutoGen kecuali max_tool_iterations
diatur ke nilai yang lebih tinggi. Dalam MAF, ChatAgent
adalah multi-putaran secara default, yang berarti akan terus memanggil alat hingga tugas pengguna selesai.
Contoh kode untuk Microsoft Agent Framework dapat ditemukan di repositori ini dalam file xx-python-agent-framework
dan xx-dotnet-agent-framework
.
Bergabunglah dengan Azure AI Foundry Discord untuk bertemu dengan pelajar lainnya, menghadiri jam kantor, dan mendapatkan jawaban atas pertanyaan Anda tentang Agen AI.
Penafian:
Dokumen ini telah diterjemahkan menggunakan layanan penerjemahan AI Co-op Translator. Meskipun kami berupaya untuk memberikan hasil yang akurat, harap diketahui bahwa terjemahan otomatis dapat mengandung kesalahan atau ketidakakuratan. Dokumen asli dalam bahasa aslinya harus dianggap sebagai sumber yang otoritatif. Untuk informasi yang bersifat kritis, disarankan menggunakan jasa penerjemahan manusia profesional. Kami tidak bertanggung jawab atas kesalahpahaman atau penafsiran yang keliru yang timbul dari penggunaan terjemahan ini.