![]()
Hadi hatua hii katika kozi umetengeneza makala za mawakala zinazotumia kompyuta yako kibao, ndani ya daftari, zinazoendeshwa na az login na baadhi ya vigezo vya mazingira. Hiyo ndio njia sahihi ya kujifunza. Sio njia sahihi ya kuendesha wakala ambaye maelfu ya wateja wanategemea saa 3 asubuhi.
Somo hili linahusu pengo kati ya “inavyofanya kazi kwenye kompyuta yangu” na “inavyofanya kazi, kwa kuaminika na kwa gharama nafuu, katika uzalishaji.” Tunafunga pengo hilo kutumia Microsoft Foundry na Huduma ya Wakala ya Microsoft Foundry, na tunafanya hivyo kwa kuunda wakala halisi wa msaada kwa wateja ambaye ana zana, utafutaji, kumbukumbu, tathmini, na ufuatiliaji.
Somo hili litashughulikia:
Baada ya kumaliza somo hili, utajua jinsi ya:
Somo hili linadhani umehitimisha masomo ya awali na umeeleweka kwa:
Pia utahitaji:
az login).requirements.txt.Wakala mfano na wakala wa uzalishaji wanashiriki mzunguko wa msingi — kufikiri, kuitisha zana, kujibu. Kinachobadilika ni kila kitu kilicho karibu na mzunguko huo. Mfano inaweza kuwa asilimia 20% ya wakala wa uzalishaji; asilimia 80% ni mfupa wa uendeshaji.
| Mambo | Mfano | Uzalishaji |
|---|---|---|
| Ukaribishaji | Hufanya kazi ndani ya daftari lako | Hufanya kazi kama huduma yenyeji, ina toleo na inasambazwa |
| Utambulisho | Tokeni yako ya az login |
Utambulisho uliodhibitiwa na RBAC inayozingatia mazingira |
| Hali | Kwenye kumbukumbu, hupotea baada ya kuanzisha tena | Imehamishwa (hifadhi ya minyororo, huduma ya kumbukumbu) |
| Kushindwa | Unaona kipindi cha hitilafu | Jaribu tena, kurudi nyuma, barua za kosa, tahadhari |
| Gharama | “Ni senti chache” | Inafuatiliwa kwa kila ombi, inapangwa njia, inahifadhiwa, ina bajeti |
| Ubora | Unatazama matokeo kwa jicho | Inathaminiwa kwa moja kwa moja kabla ya kila toleo |
| Uaminifu | Unathibitisha kila kitendo | Sera + binadamu katika mzunguko kwa vitendo vyenye hatari |
Kumbuka jedwali hili. Kila sehemu hapa chini inalingana na mstari mmoja wa meza hii.
Kuna mitindo mitatu utakayotumia, mara nyingi kwa mchanganyiko.
Kitu cha wakala kiko ndani ya mchakato wa programu yako. Msimbo wako unaita msambazaji wa mfano moja kwa moja; mzunguko wa kufikiri unakimbia katika huduma yako. Hii ndio somo lolote lililopita lililofanya.
Wakala hurekebishwa kama rasilimali katika Microsoft Foundry. Foundry inakuja na mzunguko wa kufikiri, huhifadhi minyororo, hutekeleza usalama wa maudhui na RBAC, na huweka wakala wazi katika lango la Foundry. Programu yako inakuwa mteja mwembamba anayetengeneza minyororo na kusoma majibu.
Mawakala wengi (na zana) huundwa kuwa grafu yenye mtiririko wa udhibiti ulio wazi — hatua mfululizo, matawi, nodi za idhini ya binadamu, na alama za kudumu zinazoweza kusimamishwa na kuanzishwa tena. Hii ni kipengele cha Microsoft Agent Framework Mtiririko wa Kazi kinachotumika kwenye kiwango cha uwekaji.
flowchart TB
subgraph P1[Iliko Hifadhiwa na Mteja]
A1[Mchakato wa Programu Yako] --> M1[Mtoa Mfano]
end
subgraph P2[Wakili Aliyohifadhiwa]
A2[Mteja Mwembamba] --> F2[Huduma ya Wakili wa Foundry]
F2 --> M2[Mfano + Zana + Hifadhi ya Mfululizo]
end
subgraph P3[Mtiririko wa Kazi wa Wakili]
A3[Mpangaji] --> S1[Wakili wa Triage]
S1 --> S2[Wakili wa Suluhisho]
S2 --> H[Nodii ya Idhini ya Binadamu]
H --> S3[Wakili wa Hatua]
end
Kuweka wakala sio push mara moja tu. Ni mzunguko, na inaonekana kama mzunguko wa toleo la programu kwa sababu hiyo ndilo haswa jinsi ilivyo.
flowchart LR
Create[Unda / Mwandishi] --> Version[Toleo]
Version --> Evaluate[Tathmini bila mtandao]
Evaluate -->|pita lango| Deploy[Sambaza mwenyeji]
Evaluate -->|shindikana lango| Create
Deploy --> Observe[Chunguza mtandaoni]
Observe --> Improve[Kusanya kushindwa]
Improve --> Create
Deploy --> Retire[Punguza toleo la zamani]
Wazo kuu, lililoletwa kutoka Somo la 10: tathmini ya nje ya mtandao ni mlango, sio jambo la mawazo tu. Toleo jipya la wakala halipelekwi isipokuwa litafikia vizingiti vya tathmini. Ufuatiliaji wa mtandaoni basi unarejesha makosa ya dunia halisi kwenye seti yako ya majaribio ya nje ya mtandao. Huo ndio mzunguko mzima.
Kupanua wakala ni tofauti na kupanua API isiyo na hali ya mtandao wa wavuti, kwa sababu kila ombi linaweza kusababisha miito ya mfano na zana ghali. Mbinu nne zinafanya mzigo mkubwa.
Usimamizi wa ombi usio na hali. Usihifadhi hali ya mtumiaji binafsi ndani ya kumbukumbu za mchakato wako. Hifadhi minyororo ya mazungumzo kwenye hifadhi ya minyororo ya Foundry au huduma ya kumbukumbu ili mfano wowote uweze kushughulikia ombi lolote. Hii ndio inakuwezesha kupanua kwa usawa — ongeza mifano, hakuna vikao vya kubana.
Kuongoza mfano. Sio kila ombi linahitaji mfano wako mwenye uwezo mkubwa (na gharama kubwa). Elekeza maombi rahisi — utofautishaji wa nia, majibu mafupi ya ukweli — kwa mfano mdogo, haraka, na uhifadhi mfano mkubwa kwa kufikiri halisi. Model Router ya Foundry inaweza kufanya hili kwa ajili yako, au unaweza kutekeleza kitambulisho cha mwanga mwenyewe. Utajenga toleo la DIY katika maabara.
Kuweka majibu kwenye kumbukumbu. Maswali mengi ya msaada ni karibu nakala (“jinsi ya kuweka upya nenosiri langu?”). Hifadhi majibu ya maswali ya kawaida na uyahudumie bila kuhitaji kuhitaji mfano kabisa. Hata viwango vya wastani vya kufikia kumbukumbu hupunguza gharama na ucheleweshaji kwa maana.
Mfululizo na shinikizo la nyuma. Watoa mfano wana mipaka ya viwango. Ziba mfululizo wako, tumia jaribio upya na kuongezeka kwa mvutano, na shindwa kwa heshima (jibu la queued “tuko kwenye hili” ni bora kuliko kosa la 500).
flowchart LR
Q[Swali la mtumiaji] --> C{Je, cache imepatikana?}
C -->|ndiyo| R[Rudisha jibu lililohifadhiwa]
C -->|hapana| Router{Ugumu?}
Router -->|rahisi| SLM[Mfano mdogo]
Router -->|mgumu| LLM[Mfano mkubwa]
SLM --> Out[Jibu]
LLM --> Out
Out --> Store[Cache + ufuatiliaji]
Huwezi kuendesha kile usichokiona. Kama ilivyofunikwa katika Somo la 10, Microsoft Agent Framework hutoa OpenTelemetry utaalamu moja kwa moja — kila wito wa mfano, mwitikio wa zana, na hatua ya upangaji huwa sehemu ya picha. Katika uzalishaji unaongoza picha hizo kwa Microsoft Foundry (au backend yoyote inayoungwa mkono na OTel) ili uweze:
from agent_framework.observability import get_tracer
tracer = get_tracer()
with tracer.start_as_current_span("support_request") as span:
span.set_attribute("customer.tier", "enterprise")
span.set_attribute("routed.model", "gpt-5-nano")
# utekelezaji wa wakala unafuatiliwa kiotomatiki ndani ya kipindi hiki
Sifa kama customer.tier na routed.model ndizo zinazofanya kuta za picha kuwa maswali yanayojibiwa (“je, wateja wa biashara wanaelekezwa kwa mfano mdogo sana mara nyingi?”).
Gharama katika mawakala wa uzalishaji inatawaliwa na tokens. Vifunguo vitatu, kwa mpangilio wa athari:
Milango ya tathmini na udhibiti wa gharama ni nidhamu sawa inayotazamwa kutoka mwelekeo miwili: tathmini inakuambia kifundo cha ubora, njia na kuweka kumbukumbu zinakusogeza karibu na gharama ya msingi huo iwezekanavyo.
Usimamizi. Mawakala Wenyeji waletewa maeneo ya RBAC, usalama wa maudhui, na kumbukumbu za ukaguzi za Foundry. Mpa kila wakala utambulisho unaosimamiwa uliyo na njia ndogo inayohitajika — ufikiaji wa kusoma tu kwa hifadhi ya maarifa, ufikiaji wa kanda kwa API ya tiketi, hakuna zaidi.
Binadamu katika mzunguko. Vitendo vingine ni muhimu mno kufanya moja kwa moja — kutoa marejesho, kufuta akaunti, kuhamisha kwa timu ya sheria. Microsoft Agent Framework inaunga mkono zana za inazohitaji idhini: wakala hupendekeza kitendo, utekelezaji unasimamishwa, binadamu anathibitisha au kukataa, na mtiririko wa kazi unaendelea. Uliiona dhahiri katika Somo 6; hapa unaweka.
MCP katika uzalishaji. MCP inaruhusu wakala wako kutumia zana za nje kupitia kiolesura cha kawaida. Katika uzalishaji, chukulia seva yoyote ya MCP kama mpaka usio na kuaminika: weka toleo la seva, iendeshe na utambulisho wa kanda, hakikisha matokeo yake, na usiichulishe siri. Seva ya MCP ni tegemezi, na tegemezi hupata marekebisho, ukaguzi, na mipaka ya viwango.
flowchart TB
subgraph Dev[Miundo ya Maendeleo]
D1[Daftari] --> D2[Mfumo wa Wakala]
D2 --> D3[Mtoa Mfano]
D2 --> D4[Vyombo vya ndani]
end
subgraph Deploy[Miundo ya Uwasilishaji]
E1[Mlolongo wa CI] --> E2[Mlango wa Tathmini]
E2 -->|pita| E3[Huduma ya Wakala ya Foundry]
E3 --> E4[Wakala mwenye toleo lililotangazwa]
end
subgraph Run[Muundo wa Muda wa Uendeshaji]
F1[Programu ya mteja] --> F2[Wakala aliyeandaliwa]
F2 --> F3[Kituo cha Mfano]
F2 --> F4[Azure AI Search RAG]
F2 --> F5[Huduma ya Kumbukumbu]
F2 --> F6[Vyombo vya MCP]
F2 --> F7[OTel -> Ufuatiliaji wa Foundry]
F2 --> F8[Idhini ya binadamu]
end
Mchoro huo tatu — maendeleo, kuweka, wakati wa kuendesha — ni wakala mmoja katika hatua tatu za maisha yake. Maabara inayofuata itakuongoza unavyomjenga.
Fungua code_samples/16-python-agent-framework.ipynb na fanya kazi yake kutoka mwanzo hadi mwisho. Utaunganisha wakala wa msaada wa wateja wa Contoso na kila jambo la uzalishaji limeunganishwa:
Daftari limepangwa hivyo kila jambo la uzalishaji ni sehemu huru yenyeweza kuendeshwa. Msingi wake ni msimamizi wa ombi wa njia na kumbukumbu:
async def handle_support_request(query: str, customer_id: str) -> str:
# 1. Hudumia kutoka kwenye cache tunapoweza.
cached = response_cache.get(normalize(query))
if cached:
return cached
# 2. Pitia kwa ugumu ili kudhibiti gharama.
model = "gpt-5-nano" if is_simple(query) else "gpt-5-mini"
# 3. Endesha wakala ndani ya eneo la kufuatilia kwa uangalifu.
with tracer.start_as_current_span("support_request") as span:
span.set_attribute("routed.model", model)
span.set_attribute("customer.id", customer_id)
response = await support_agent.run(query, model=model)
# 4. Hifadhi kwenye cache na rudisha.
response_cache.set(normalize(query), response.text)
return response.text
Mlango wa tathmini unaolinda toleo unaonekana hivi:
async def evaluation_gate(agent, test_cases, threshold: float = 0.8) -> bool:
passed = 0
for case in test_cases:
result = await agent.run(case["input"])
if score_response(result.text, case["expected"]) >= 0.8:
passed += 1
pass_rate = passed / len(test_cases)
print(f"Evaluation pass rate: {pass_rate:.0%} (gate: {threshold:.0%})")
return pass_rate >= threshold # tuma tu ikiwa lango linafaa
Soma kila mstari — daftari linahifadhi vitu vya msingi kwa ukubwa mdogo ili hakuna kitu kifikie nyuma ya wito wa fremu.
Mlango wa tathmini hapo juu unafanyika nje ya mtandao dhidi ya kitu cha wakala wako. Mara wakala anapowekwa kama Wakala Mwenyeji, unahitaji ukaguzi mwingine wa gharama nafuu zaidi: je, sehemu ya kuweka ni kujibu kweli?
Kuweka “kwa mafanikio” kunathibitisha tu kuwa bodi ya udhibiti ilikubali ufafanuzi — hakuthibitishi wakala anajibu. Kutokuwepo kwa tegemezi, njia mbaya ya mfano, au muunganisho uliokufa unaweza kuacha uwekaji wa kijani usilorejeshe chochote. Jaribio la moshi linakamata hilo kwa sekunde, kila kuweka, bila gharama ya tathmini kamili.
Hifadhi hii inaleta mtiririko wa jaribio la moshi tayari kutumika uliojengwa kwa Njia ya AI Smoke Test GitHub:
tests/lesson-16-smoke-tests.json ina maelekezo na masharti kwa wakala wa msaada wa Contoso (majibu ya sera zilizo thibitishwa, utaftaji wa oda, kubaki katika mada, na mfululizo wa mazungumzo ya mizunguko mingi). Katalogi kwa mawakala wa masomo mengine zipo karibu nayo — angalia tests/README.md..github/workflows/smoke-test.yml inaingia kwa Azure OIDC na POSTs kila maelekezo kwenye sehemu ya Majibu ya wakala, na kufeli kazi yoyote ikikosea katika masharti.- name: Smoke-test hosted agent
uses: JFolberth/ai-smoketest@v1
with:
project_endpoint: $
agent_name: ContosoSupportAgent
tests_file: tests/lesson-16-smoke-tests.json
Endesha kutoka kwenye kichupo cha Actions mara tu wakala wako anapowekwa, ukitoa endpoint ya mradi wa Foundry na jina la wakala. Kitambulisho cha kidemokrasia kinahitaji jukumu la Azure AI User katika muktadha wa mradi wa Foundry. Fikiria tabaka kama piramidi: majaribio ya moshi (yanafikika na kuyajibu?) yanaendeshwa kila mara kupelekwa, tathmini za nje ya mtandao (za kutosha kupeleka?) zinaendeshwa kabla ya kupandishwa hadhi, na tathmini za mtandao (inaendaje katika mazingira halisi?) zinaendeshwa mara kwa mara.
Jaribu uelewa wako kabla ya kuhamia kwenye kazi.
1. Takriban wakala wa uzalishaji una kiasi gani cha “mfano,” na sehemu nyingine ni nini?
2. Ungechagua lini Wakala Aliyehifadhiwa kwa mwenyeji kuliko wakala anayeendeshwa na mteja?
3. Kwa nini wakala anayeweza kupanuka lazima awe hawezi kuhifadhi hali (stateless) kwenye kumbukumbu ya mchakato wake?
4. Nguvu gani ya kuongoza mfano (model routing) hutatua, na inahusishwaje na tathmini?
5. Ni nini “mlango wa tathmini” na unaekea wapi katika mzunguko wa maisha?
6. Kwa nini seva ya MCP inapaswa kutendewa kama mpaka usioaminika katika uzalishaji?
7. Mabadiliko gani moja kwa moja mara nyingi huathiri zaidi gharama ya wakala wa uzalishaji, na kwa nini?
8. Je, sifa za spani kama customer.tier na routed.model zina jukumu gani katika ufuatiliaji?
Chukua wakala wa msaada wa wateja kutoka lab na uimarishe kwa hali maalum: wakala wa msaada wa bili kwa kampuni ya SaaS.
Usambazaji wako unapaswa:
get_subscription_status, get_invoice, na issue_credit (mikopo zaidi ya $50 inahitaji idhini ya binadamu).Andika aya fupi (katika seli ya markdown) ikielezea kanuni gani ya kuongoza mfano uliyochagua na jinsi unavyothibitisha na trafiki halisi. Hakuna jibu moja sahihi — unakaguliwa kama masuala ya uzalishaji yameunganishwa kwa usahihi.
Katika somo hili umehamisha wakala kutoka toleo la jaribio hadi uzalishaji kwa Microsoft Foundry:
Somo lijalo linaelekea kinyume: badala ya kupanua mawakala hadi wingu, utaweka chini kwenye mashine ya mendeleaji mmoja na kuendesha kikamilifu kwa karibu.
Kujenga Mawakala wa Matumizi ya Kompyuta (CUA)
Kuumba Mawakala wa AI Wananchi
Kionyozo: Hati hii imetafsiriwa kwa kutumia huduma ya tafsiri ya AI Co-op Translator. Ingawa tunajitahidi kupata usahihi, tafadhali fahamu kwamba tafsiri za kiotomatiki zinaweza kuwa na makosa au upungufu wa usahihi. Hati ya asili katika lugha yake halisi inapaswa kuchukuliwa kama chanzo cha mamlaka. Kwa taarifa muhimu, tafsiri ya kitaalamu inayofanywa na binadamu inapendekezwa. Hatutojibu kwa kuelewa vibaya au tafsiri potofu zinazotokea kutokana na matumizi ya tafsiri hii.