ai-agents-for-beginners
ထုတ်လုပ်မှုရှိ AI ကိုယ်စားပြုသူများ - အမြင်ရခြင်းနှင့် တန်ဖိုးသုံးသပ်ခြင်း
AI ကိုယ်စားပြုသူများသည် စမ်းသပ်ပြုလုပ်မှုစူးစမ်းမှုမှ တကယ့်ကမ္ဘာလက်တွေ့အသုံးချမှုများသို့ ရွေ့လျားလာသည်နှင့်အမျှ၊ ၎င်းတို့၏အပြုအမူကို နားလည်ခြင်း၊ ဆောင်ရွက်မှုကို စောင့်ကြည့်ခြင်းနှင့် ထွက်ရှိမှုများကို စနစ်တကျတန်ဖိုးသုံးသပ်ခြင်းတို့သည် အရေးကြီးလာသည်။
သင်ယူလိုသည့် ရည်မှန်းချက်များ
ဒီသင်ခန်းစာပြီးဆုံးသွားသည်နှင့်အတူ၊ သင်သည် နားလည်သွားမည့်အရာများမှာ-
- ကိုယ်စားပြုသူအမြင်ရခြင်းနှင့် တန်ဖိုးသုံးသပ်ခြင်း၏ မူမမှန်အယူအဆများ
- ကိုယ်စားပြုသူများ၏ ဆောင်ရွက်မှု၊ ကုန်ကျစရိတ်နှင့် ထိရောက်မှု တိုးတက်စေရန် နည်းလမ်းများ
- သင့် AI ကိုယ်စားပြုသူများအား စနစ်တကျ မည်သည့်အရာကို နည်းလမ်းဖြင့် တန်ဖိုးသုံးသပ်ရမည်နည်း
- AI ကိုယ်စားပြုသူများကို ထုတ်လုပ်မှုတွင် တပ်ဆင်စဉ် ကုန်ကျစရိတ် ထိန်းချုပ်နည်း
- Microsoft Agent Framework ဖြင့် တည်ဆောက်ထားသော ကိုယ်စားပြုသူများကို ကိရိယာတပ်ဆင်နည်း
ရည်ရွယ်ချက်မှာ သင့်ရဲ့ “အနက်မှန်သေတ္တာ” ကိုယ်စားပြုသူများကို မျက်မြင်မြင်သာသာ၊ စီမံခန့်ခွဲနိုင်ပြီး ယုံကြည်စိတ်ချရသော စနစ်များ အဖြစ် ပြောင်းလဲပေးဖို့ အတွက် အသိပညာ ပေးပို့ခြင်း ဖြစ်သည်။
မှတ်ချက် - လုံခြုံသည့်၊ ယုံကြည်စိတ်ချရသော AI ကိုယ်စားပြုသူများ ထုတ်လုပ်မှုတွင် တပ်ဆင်ခြင်းမှာ အရေးကြီးပါသည်။ Building Trustworthy AI Agents သင်ခန်းစာကိုလည်း ကြည့်ရှုပါ။
လမ်းကြောင်းများနှင့် အဆင့်များ
Langfuse သို့မဟုတ် Microsoft Foundry ကဲ့သို့သော အမြင်ရွယ်ကိရိယာများသည် ကိုယ်စားပြုသူ လုပ်ငန်းများကို မျက်နှာကြီးလမ်းကြောင်းများနှင့် အဆင့်အတန်းများအဖြစ် ပြသသည်။
- လမ်းကြောင်း (Trace) သည် ကိုယ်စားပြုသူ တစ်ဦး၏ လုပ်ငန်းတစ်ခုလုံး (ဥပမာ - အသုံးပြုသူမေးခွန်းကို ကိုင်တွယ်ခြင်း) ကို ကိုယ်စားပြုသည်။
- အဆင့်များ (Spans) သည် လမ်းကြောင်းအတွင်းရှိ တစ်ကိုယ်ရေခြေလှမ်းများဖြစ်သည် (ဥပမာ - ဘာသာစကားမော်ဒယ်ခေါ်ယူခြင်း သို့မဟုတ် ဒေတာရယူခြင်း)။
အမြင်ရမှုမရှိဘဲဖြင့်၊ AI ကိုယ်စားပြုသူသည် “အနက်မှန်သေတ္တာ” ကဲ့သို့ ခံစားရနိုင်ပြီး၊ ၎င်း၏အတွင်းပိုင်း အခြေအနေနှင့် စဉ်းစားမှုများမှာ ပိတ်ပင်ဖြစ်သဖြင့် ပြဿနာများရှာဖွေခဲ့ရန် သို့မဟုတ် ဆောင်ရွက်မှုတိုးတက်မှုအတွက် စနစ်တကျပြုပြင်ရန် ခက်ခဲသည်။ အမြင်ရမှုဖြင့် ကိုယ်စားပြုသူများသည် “ပြပန်းလုံး” သို့ လှုပ်ရှားကာ ယုံကြည်စိတ်ချမှုတည်ဆောက်ရန် နှင့် မည်သို့ကြံစည်ထားသလို လည်ပတ်နေခြင်းကို သေချာစေရန် အဓိပ္ပါယ်ဖြစ်လာသော တောက်ပသာယာမှုကို ပေးသည်။
ထုတ်လုပ်မှုပတ်ဝန်းကျင်များတွင် အမြင်ရမှု၏ အရေးပါပုံ
AI ကိုယ်စားပြုသူများကို ထုတ်လုပ်မှုပတ်ဝန်းကျင်သို့ ရွေ့လျားခြင်းသည် စိန်ခေါ်မှုအသစ်များနှင့် လိုအပ်ချက်အသစ်များကို ဆွဲဆောင်လာသည်။ အမြင်ရမှုသည် နေရာချထားရသော “လိုအပ်ချက် များ” မဟုတ်တော့ဘဲ အရေးပါသော နိုင်ငံတကာစွမ်းရည်ဖြစ်လာသည်။
- ပြဿနာရှာဖွေခြင်းနှင့် အခြေခံအကြောင်းရင်းခွဲခြမ်းစိတ်ဖြာခြင်း – ကိုယ်စားပြုသူမအောင်မြင်ပါက သို့မဟုတ် မမျှော်လင့်ထားသော ထွက်ရှိမှု ဖြစ်ပါက၊ အမြင်ရမှု ကိရိယာများသည် အမှားမူလအရင်းအမြစ်ကို ဖော်ထုတ်ဖို့ လမ်းကြောင်းများကို ပံ့ပိုးပေးသည်။ ၎င်းသည် စွမ်းရည်ပေါင်းများစွာရှိသော ကိုယ်စားပြုသူများတွင် အထူးအသုံးဝင်ပြီး၊ LLM ခေါ်ယူမှုများ၊ ကိရိယာအပြန်အလှန်ဆက်နွယ်မှုများနှင့် အခြေအနေဆို့ရှင်းချက်များ ပါဝင်နိုင်သည်။
- နောက်ကျမှုနှင့် ကုန်ကျစရိတ် စီမံခန့်ခွဲမှု – AI ကိုယ်စားပြုသူများသည် token တစ်ခုချင်းစီသို့မဟုတ် ခေါ်ယူမှုတစ်ခုချင်းစီအတွက် ငွေပေးချေမှုရှိသည့် LLMs နှင့် အခြား API များကို မူတည်ပြီး စွဲဆိုသည်။ အမြင်ရမှုသည် ဤခေါ်ယူမှုများကို တိကျစွာ ဆက်လက်စောင့်ကြည့်နိုင်စေခြင်းဖြင့် အလွန်နှေးကွေးမြင့်မားသော သို့မဟုတ် စရိတ်မြင့်သော လုပ်ငန်းစဉ်များကို ခွဲခြားဖော်ထုတ်နိုင်သည်။ ၎င်းသည် အဖွဲ့များကို အသုံးပြုမည့်ပုံ၊ ပိုမိုထိရောက်သော မော်ဒယ်များရွေးချယ်မှု သို့မဟုတ် စီမံအလုပ်စဉ်များပြန်လည်ဒီဇိုင်းဆွဲခြင်းဖြင့် စ့ပေါ်ကျသူ့ကုန်ကျစရိတ်များကို စီမံနိုင်စေသည်၊ ထို့အပြင် အသုံးပြုသူအတွေ့အကြုံကောင်းမွန်စေရန် ဖြစ်သည်။
- ယုံကြည်မှု၊ လုံခြုံမှုနှင့် စည်းမျဉ်းများနှင့် ကိုက်ညီမှု – အကျိုးဝင်မှုများစွာရှိသော အက်ပ်လီကေးရှင်းများတွင် ကိုယ်စားပြုသူများ၏ လုပ်ဆောင်မှုသည် လုံခြုံမှုရှိပြီး သန့်ရှင်းသော ရပ်တည်မှုရှိစေနိုင်ရန် အရေးကြီးသည်။ အမြင်ရမှုသည် ကိုယ်စားပြုသူ လုပ်ဆောင်ချက်များနှင့် ဆုံးဖြတ်ချက်များ အပေါ် စောင့်ကြည့်မှတ်တမ်း တင်ထားပေးသည်။ ၎င်းသည် prompt injection ဖြစ်စေနိုင်ခြင်း၊ ထိခိုက်ဒဏ်ရာဖြစ်စေနိုင်သော အကြောင်းအရာများ ထုတ်လုပ်ခြင်း သို့မဟုတ် တိကျမှတ်သားထားသော အသိပေးအချက်အလက် (PII) များကို မဖြစ်မှန်စွာ ကိုင်တွယ်ခြင်း ကဲ့သို့သော ပြဿနာများကို ရှာဖွေ နိုင်သည်။ ဥပမာအားဖြင့် လမ်းကြောင်းများကို သုံးသပ်၍ ကိုယ်စားပြုသူတစ်ဦးသည် မည်သည့်တုံ့ပြန်ချက်တစ်ခုတွက် မည်သည့်ကိရိယာကို အသုံးပြုဖို့ ကျောသက်ထားသည်ကို နားလည်နိုင်သည်။
- ဆက်လက်တိုးတက်မှု အချိတ်အဆက်များ – အမြင်ရမှုဒေတာသည် ထပ်မံဖွံ့ဖြိုးတိုးတက်မှုလုပ်ငန်းစဉ်၏ အခြေခံဖြစ်သည်။ ကိုယ်စားပြုသူများသည် အမှန်တကယ်ကမ္ဘာတွင် မည်ကဲ့သို့ ဆောင်ရွက်နေသည်ကို စောင့်ကြည့်ခြင်းဖြင့် အဖွဲ့များမှာ တိုးတက်ရန် မျက်မှောက်နေရာများကို ဖော်ထုတ်နိုင်ပြီး မော်ဒယ် အတည်းမှုပြုလုပ်ရန် ဒေတာစုဆောင်းနိုင်ပြီး ပြင်ဆင်မှုများ၏ သက်ရောက်မှုကို သေချာစစ်ဆေးနိုင်သည်။ ၎င်းက ထုတ်လုပ်မှုပွောဆိုချက်များ သည် အွန်လိုင်းတန်ဖိုးသုံးသပ်မှုမှ အော့ဖ်လိုင်း စမ်းသပ်မှု ထိမ်းသိမ်းမှုနှင့် ပြုပြင်မှုများအား ဆက်လက်လေ့လာသုံးသပ်မှုများ အတွက် တုံ့ပြန်ချက် လမ်းကြောင်းကို ဖန်တီးပေးသည်၊ ဒါကြောင့် ကိုယ်စားပြုသူ၏ ဆောင်ရွက်မှုသည် ဆက်တိုက်တိုးတက်နေစေသည်။
လိုက်လံကြည့်ရှုရန် အဓိက အချက်များ
ကိုယ်စားပြုသူ၏ အပြုအမူကို စနစ်တကျကြည့်ရှုနားလည်ရန် ဂဏန်းထိုးနှင့် အချက်အလက် ဝှက်ချက်များစွာကို လိုက်လံစောင့်ကြည့်သင့်သည်။ ကိုယ်စားပြုသူ၏ ရည်ရွယ်ချက်ပေါ်မူတည်ပြီး အချက်အလက်များမှာ ကွဲပြားနိုင်သော်လည်း တချို့သည် အားလုံးအတွက် အရေးပါသည်။
အမြင်ရမှုကိရိယာများပါ လိုက်လံကြည့်ရှုသော အကြမ်းဖျင်းအချက်အလက်များမှာ-
နောက်ကျမှု (Latency): ကိုယ်စားပြုသူသည် မည်မျှလျင်မြန်စွာ တုံ့ပြန်သနည်း? ကြာမြင့်ချိန်ရှည်သည် အသုံးပြုသူအတွေ့အကြုံကို အနုတ်လက္ခဏာဖြစ်စေသည်။ လုပ်ငန်းများနှင့် တစ်ခုချင်းခြေလှမ်းများအတွက် လမ်းကြောင်းများဖြင့် နောက်ကျမှုအားတိုင်းတာသင့်သည်။ ဥပမာအားဖြင့် မော်ဒယ်ခေါ်ယူမှုများအားလုံးအတွက် နှစ်ဆယ်စက္ကန့် ကြာမြင့်သူကို ပိုမိုမြန်ဆန်သော မော်ဒယ် သို့မဟုတ် မော်ဒယ်ခေါ်ယူမှုများကို 병렬မှာ လုပ်ခြင်းဖြင့် ကုန်ကျစရိတ်ကို လျှော့ချနိုင်သည်။
ကုန်ကျစရိတ်များ (Costs): ကိုယ်စားပြုသူ တစ်ခုကို ဆောင်ရွက်ခြင်းအပေါ် ငွေကြေးသက်သာမှုသည် မည်မျှနည်း? AI ကိုယ်စားပြုသူများသည် token တစ်ခုပြန်လည် ခေါ်ယူမှုများ သို့မဟုတ် အပြင် API များ၏ ငွေပေးချေမှုတွင် မူတည်သည်။ ကိရိယာအများအပြား အသုံးပြုခြင်း သို့မဟုတ် prompt များ မကြာခဏအသုံးပြုခြင်း ကြိုတင်မိမိကုန်ကျစရိတ်များတိုးပွားစေနိုင်သည်။ ဥပမာအားဖြင့် ကိုယ်စားပြုသူသည် ဘေးနည်းစွမ်းဆောင်မှုတိုးတက်ရန်အတွက် LLM ကို ငါးကြိမ်ခေါ်ယူခဲ့ပါက၊ သင်သည် ထိုဈေးကြေးသည် တန်ဖိုးရှိမရှိ အကဲဖြတ်ရမည်ဖြစ်သည် သို့မဟုတ် ခေါ်ယူမှုအရေအတွက်ကို လျှော့ချပေးရန် သို့မဟုတ် များသောအားဖြင့် သက်သာသော မော်ဒယ်ကို အသုံးပြုသင့်မလားစဉ်းစားရမည်ဖြစ်သည်။ တိုက်ရိုက်စောင့်ကြည့်မှုမှ မမျှော်လင့်ထားသော ဒေါ်ယားများ (ဥပမာ - ဘတ်စ်များကြောင့် API ပြန်လည်ခတ်မှုများ) ကိုလည်း ရှာဖွေဖော်ထုတ်နိုင်သည်။
တောင်းဆိုမှုအမှားများ (Request Errors): ကိုယ်စားပြုသူသည် မည်မျှ တောင်းဆိုမှုများ မအောင်မြင်ခဲ့သနည်း? ၎င်းမှာ API အမှားများ သို့မဟုတ် ကိရိယာခေါ်ယူမှု မအောင်မြင်မှုများ ပါဝင်နိုင်သည်။ ထုတ်လုပ်မှုတွင် ၎င်း အဖြစ်အပျက်များအတွက် ကိုယ်စားပြုသူအား ပိုမိုကောင်းမွန်စေရန် fallback သို့မဟုတ် retry များ ကို တပ်ဆင်နိုင်သည်။ ဥပမာ- LLM ပံ့ပိုးသူ A မရရှိပါက LLM ပံ့ပိုးသူ B ကို backup အနေနှင့်အသုံးပြုသည်။
အသုံးပြုသူတုံ့ပြန်ချက် (User Feedback): တိုက်ရိုက် အသုံးပြုသူတုံ့ပြန်ချက်အကဲဖြတ်မှုများ ၍တန်ဖိုးရှိသော အမြင်များ ပြသပေးသည်။ ၎င်းမှာ ပြည့်စုံသော အဆင့်သတ်မှတ်ချက်များ (👍thumbs-up/👎down, ⭐1-5ကြယ်) သို့မဟုတ် စာသား မှတ်ချက်များ ပါဝင်နိုင်သည်။ ဆက်တိုက် မလွယ်ကူသော တုံ့ပြန်ချက်များသည် ကိုယ်စားပြုသူမတင့်တယ်ဟု သရုပ်ပြနေသည်။
အဝိုင်းခံ အသုံးပြုသူတုံ့ပြန်ချက် (Implicit User Feedback): အသုံးပြုသူနေထိုင်မှုသည် တိုက်ရိုက်အဆင့်သတ်မှတ်ချက် မပေးခြင်းအတွက်တောင် အဝိုင်းခံတုံ့ပြန်ချက် ပေးသည်။ ၎င်းသည် တိုက်ရိုက်မေးခွန်းပြန်ဖြေခြင်း၊ မေးခွန်း နှစ်ကြိမ်တုံ့ပြန်မှု၊ ပြန်ကြားဖို့ ခလုတ်နှိပ်ခြင်းများ ပါဝင်နိုင်သည်။ ဥပမာ- အသုံးပြုသူများသည် ထပ်တလဲလဲတောင်းဆိုသည်ဆိုပါက ၎င်းသည် ကိုယ်စားပြုသူသည် မမျှော်လင့်ထားသလို ဆောင်ရွက်နေခြင်းဟု ခန့်မှန်းနိုင်သည်။
တိကျမှု (Accuracy): ကိုယ်စားပြုသူသည် မည်မျှ အမှန်သော သို့မဟုတ် လိုလားသည့် ထွက်ရှိမှုများကို ထုတ်ပေးသနည်း? တိကျမှု အဓိပ္ပာယ်များကွဲပြားပြီး (ဥပမာ ဆောင်ရွက်မှုမှန်ကန်မှု၊ သတင်းအချက်အလက် ရှာဖွေရေး တိကျမှု၊ အသုံးပြုသူ စိတ်ကျေနပ်မှု) ဖြစ်နိုင်သည်။ ပထမဦးဆုံး အဆင့်မှာ ကိုယ်စားပြုသူအတွက် အောင်မြင်မှု သဘောတရားကို သတ်မှတ်ခြင်းဖြစ်သည်။ သင်သည် မော်တော်မြန်ချက်များ၊ အကဲဖြတ်တွင်မှတ်ချက်များ သို့မဟုတ် လုပ်ငန်းပြီးစီးမှု အမှတ်များမှ တိကျမှုကို လိုက်လံကြည့်ရှုနိုင်သည်။ ဥပမာ-လမ်းကြောင်းများကို “အောင်မြင်” သို့မဟုတ် “ပျက်ကွက်” ဟု အမှတ်ပေးခြင်း။
အလိုအလျောက် တန်ဖိုးသုံးသပ်မှု မီတာများ: သင်သည် အလိုအလျောက်တန်ဖိုးသုံးသပ်မှုများကိုလည်း ပြုလုပ်နိုင်သည်။ ဥပမာ- LLM ကို သုံးပြီး ကိုယ်စားပြုသူထုတ်ရလဒ်ကို အကဲဖြတ်နိုင်သည်၊ ဥပမာ- အကူအညီဖြစ်မှု၊ တိကျမှု သို့မဟုတ် မဟုတ်မှု။ အမျိုးမျိုးသော ကိုယ်စားပြုသူဘက်များအတွက် အကဲဖြတ်ရာတွင် ကူညီပေးသော အများပြည်သူ အရင်းအမြစ် စာကြည့်တိုက်များလဲ ရှိသည်။ ဥပမာ- RAG ကိုယ်စားပြုသူများအတွက် RAGAS သို့မဟုတ် မလိုလားအပ်သည့် ဘာသာစကား သို့မဟုတ် prompt injection ကို ရှာဖွေရန် LLM Guard တို့။
လက်တွေ့တွင် ဤအချက်အလက်များပေါင်းစပ်မှ ဟင်းလင်းကျွေးထုတ်လုပ်မှု AI ကိုယ်စားပြုသူ၏ ကျန်းမာရေးကို အကောင်းဆုံး ဖုံးလွှမ်းပါလိမ့်မည်။ ဤအခန်းတွင် နမူနာမှတ်စုစာအုပ် သည် ဤအချက်အလက်အချို့ သီအိုရီမှ လက်တွေ့ တိုင်းတာမှု မူပိုင်ကိန်းများကို ပြသပေးမည်ဖြစ်သော်မူ၊ ပထမဆုံးအနေဖြင့် ကျွန်ုပ်တို့ သင်ယူသင့်သော အကဲဖြတ်လုပ်ငန်းစဉ်ဘယ်လိုဖြစ်သနည်းဆိုသည်ကို သင်ယူကြမည်။
ကိုယ်စားပြုသူကို ကိရိယာတပ်ဆင်ခြင်း
လမ်းကြောင်းဒေတာ စုဆောင်းရန် သင်၏ကုဒ်အပိုင်းများကို ကိရိယာတပ်ဆင်ရန် လိုအပ်သည်။ ရည်ရွယ်ချက်မှာ ကိုယ်စားပြုသူကုဒ်ကို ကိရိယာတပ်ဆင်၍ ထုတ်လွှတ်နိုင်သော လမ်းကြောင်းနှင့် မီတာများအား မြင်ကွင်းသေသပ် platform မှ ဖမ်းယူ၊ ဆန်းစစ်နှင့် မြင်သာအောင် ပြသနိုင်ရေးဖြစ်သည်။
OpenTelemetry (OTel): OpenTelemetry သည် LLM အမြင်ရမှုအတွက် စက်မှုလက်မှုစံချိန်တစ်ခု အဖြစ် ပေါ်ထွန်းလာသည်။ ၎င်းမှာ API များ၊ SDK များ နှင့် တယ်လီမီထရီ ဒေတာ ထုတ်လုပ်၊ စုဆောင်း၊ ပို့ဆောင်ရန် ကိရိယာများ ကို ပေးအပ်သည်။
Agent framework အသစ်များကို ဝတ်ဆင်စေပြီး OpenTelemetry span များကို အမြင်ရမှု ကိရိယာသို့ ပို့မြှောက်ရန် လွယ်ကူစေသော ကိရိယာတပ်ဆင်မှု စာကြည့်တိုက်များစွာ ရှိသည်။ Microsoft Agent Framework သည် OpenTelemetry နဲ့ သဘာဝဆန်းစစ် ပေါင်းစည်းထားသည်။ အောက်တွင် MAF ကိုယ်စားပြုသူတစ်ဦးကို ကိရိယာတပ်ဆင်နည်း ဥပမာတစ်ခု ပေးထားသည်။
from agent_framework.observability import get_tracer, get_meter
tracer = get_tracer()
meter = get_meter()
with tracer.start_as_current_span("agent_run"):
# ကိုယ်စားလှယ် အကောင်အထည်ဖော်မှုကို အလိုအလျောက် လိုက်နာသည်
pass
ဤအခန်းရှိ နမူနာမှတ်စုစာအုပ် သည် သင့် MAF ကိုယ်စားပြုသူကိရိယာတပ်ဆင်မှုကို ပြသပေးမည်။
လက်ဖြင့် Span ဖန်တီးခြင်း - ကိရိယာတပ်ဆင်မှု စာကြည့်တိုက်များသည် ကောင်းမွန်သော အခြေခံတန်းကို ပေးသော်လည်း ပို၍ အသေးစိတ် သို့မဟုတ် စိတ်ကြိုက် အချက်အလက်ထည့်သွင်းရန် လိုအပ်သော အခါများ ရှိသည်။ သင်သည် လက်ဖြင့် span များ ဖန်တီး၍ စိတ်ကြိုက် application logic များထည့်သွင်းနိုင်သည်။ နောက်ထပ်အရေးကြီးသော အချက်မှာ ဤ span များကို အလိုအလျောက်သို့မဟုတ် လက်လုပ်ဖန်တီးသည့် span များကို စိတ်ကြိုက် attribute (tag သို့မဟုတ် metadata အဖြစ်လည်း သိမ်းဆည်းနိုင်သည်) ဖြင့် တိုးချဲ့ပေးနိုင်သည်။ ဤ attribute များတွင် စီးပွားရေးအသေးစိတ်ဒေတာများ၊ အလယ်အလတ်တွက်ချက်မှုများ သို့မဟုတ် ပြဿနာရှာဖွေရန် သို့မဟုတ် ကိန်းသုံးခွဲခြမ်းစိတ်ဖြာမှုအတွက် အဖွဲ့အခြေအနေ များ (ဥပမာ - user_id, session_id, model_version စသည်) ပါဝင်နိုင်သည်။
Langfuse Python SDK ဖြင့် လမ်းကြောင်းနှင့် span များကို လက်ဖြင့် ဖန်တီးခြင်း ဥပမာ-
from langfuse import get_client
langfuse = get_client()
span = langfuse.start_span(name="my-span")
span.end()
ကိုယ်စားပြုသူ တန်ဖိုးသုံးသပ်ခြင်း
အမြင်ရမှုသည် မီတာများကို ပေးစွမ်းပေမယ့် တန်ဖိုးသုံးသပ်ခြင်းသည် အဆိုပါဒေတာများအား စိစစ်ခွဲခြမ်းသုံးသပ်ခြင်း(နှင့် စမ်းသပ်မှုများ ပြုလုပ်ခြင်း)ဖြင့် AI ကိုယ်စားပြုသူ၏ စွမ်းဆောင်ရည် မည်မျှကောင်းမွန်သည် နှင့် ပိုမိုတိုးတက်စေမည့် နည်းလမ်းများကို ရှာဖွေရေးဖြစ်သည်။ တခြားစကားဖြင့်၊ သင်တွင် လမ်းကြောင်းများနှင့် မီတာများ ရှိနေပြီးပါက ၎င်းတို့ကို ကျော်ဖြတ်ကာ ကိုယ်စားပြုသူအား ဆန်းစစ်နှင့် ဆုံးဖြတ်ချက်များ ယူရန် မည်သို့ အသုံးပြုရမည်နည်း။
အမြဲတမ်း တန်ဖိုးသုံးသပ်ခြင်း သည် အရေးကြီးသည်။ AI ကိုယ်စားပြုသူများသည် မေ့လျော့တတ်၍ (update များ ဒါမှမဟုတ် မော်ဒယ်အပြောင်းအလဲဖြင့်) တိုးတက်နိုင်ကြောင်း သိရသည်။ တန်ဖိုးသုံးသပ်ခြင်းမရှိပါက၊ သင့် “နာမည်ကြီး ကိုယ်စားပြုသူ” တကယ်လုပ်ကိုင်နေသည် မဟုတ်သလား သို့မဟုတ် ပြောင်းလဲဆိုးသွားသည် မဟုတ်သလား မသိနိုင်ပါ။
AI ကိုယ်စားပြုသူများအတွက် တန်ဖိုးသုံးသပ်မှုနှစ်မျိုးရှိသည် – အွန်လိုင်း တန်ဖိုးသုံးသပ်မှု နှင့် အော့ဖ်လိုင်း တန်ဖိုးသုံးသပ်မှု။ နှစ်မျိုးစလုံး သာယာကြဘူး၊ တစ်ရပ်ချင်းပြည့်စုံမှုရှိသည်။ ပုံမှန်အားဖြင့် အော့ဖ်လိုင်းတန်ဖိုးသုံးသပ်မှုမှ စတင်ပြီး၊ ၎င်းသည် ကိုယ်စားပြုသူထည့်သွင်းမှုမတိုင်မီ လိုအပ်သော အနည်းဆုံးအဆင့်ဖြစ်သည်။
အော့ဖ်လိုင်း တန်ဖိုးသုံးသပ်မှု
၎င်းပါဝင်သည်မှာ သတ်မှတ်ထားသော စမ်းသပ်ဒေတာများကို အသုံးပြု၍ ထိန်းချုပ်ထားသော အခြေအနေများတွင် ကိုယ်စားပြုသူအား အကဲဖြတ်ခြင်းဖြစ်ပြီး၊ အသုံးပြုသူ၏ တိုက်ရိုက်မေးခွန်းများကို သုံးခြင်း မဟုတ်ပါ။ သင်သည် မည်သည့် ထွက်ရှိမှုကို မျှော်လင့်ရမည်နည်းသိပြီးသော စုစည်းထားသော ဒေတာများကို အသုံးပြုကာ ကိုယ်စားပြုသူအား ဆောင်ရွက်ခိုင်းသည်။
ဥပမာအားဖြင့် သင်သည် သင်္ချာ စကားလုံးပြဿနာ ကိုယ်စားပြုသူတစ်ဦးတည်ဆောက်ပြီးသားဖြစ်ခဲ့ပါက၊ သင်မှာ ဖြေရှင်းချက်အတိအကျ သိရှိထားသည့် ပြဿနာတစ်ရာပါ စမ်းသပ်ဒေတာ ရှိနိုင်သည်။ အော့ဖ်လိုင်းတန်ဖိုးသုံးသပ်မှုကို ဖွံ့ဖြိုးတိုးတက်မှုအတွင်း (ရိုးရာ CI/CD လမ်းကြောင်းမှာပါဝင်နိုင်သည်) ဖို့ ပြုလုပ်ပြီး တိုးတက်မှုများကြည့်မယ် သို့မဟုတ် ပြုပြင်မှုရှောင်ကြဉ်နိုင်မည်ဖြစ်သည်။ အကျိုးအမြတ်မှာ ၎င်းသည် ပြန်လည်မှီတည်နိုင်ပြီး၊ သင်တွင် အဖြေဖြစ်သည့် အချက်အလက် ရှိ၍ တိကျမှု မီတာများ ရရှိမည်ဖြစ်သည်။ သင့်အသုံးပြုသူ မေးခွန်းများကို မျှော်လင့်ချက်ဖြင့် နှိုင်းယှဉ် တိုင်းတာနိုင်ပြီး မောင်းထားသော မီတာများကိုပင် အသုံးပြုနိုင်သည်။
အော့ဖ်လိုင်း တန်ဖိုးသုံးသပ်မှု၏ အဓိက စိန်ခေါ်မှုမှာ သင့် စမ်းသပ်ဒေတာ က စုံလင်ပြီး ဆက်လက် သက်ဆိုင်မှုရှိရမည်ဖြစ်ပြီး၊ ကိုယ်စားပြုသူသည် သတ်မှတ် ထားသော စမ်းသပ်စုစည်းချပ်အပေါ်သာ ရလဒ်ကောင်းနိုင်သည် သို့မဟုတ် ထွက်ရှိမှု ပုံစံ မတူသော တိုက်ရိုက်မေးခွန်း များကြုံတတ်သည်။ ထို့ကြောင့် အသစ်များနှင့် အထူးအခြေအနေများ၊ တကယ့်ကမ္ဘာ လမ်းကြောင်းတိုင်းကို ပြသသော နမူနာများဖြင့် စမ်းသပ်ဒေတာများအား အဆက်မပြတ် အပ်ဒိတ်လုပ်သင့်သည်။ “မိုးမကောင်းသော စမ်းသပ်မှု” အတိုအခေါ်ရေရှည်နီးစပ်သည့် အခြေအနေပြားသေးငယ်များနှင့် ကျယ်ပြန့်သော အကဲဖြတ် မီတာများ ကြားတွင် ပေါင်းစပ်၍ အသုံးပြုခြင်းသည် အသုံးဝင်သည်။
အွန်လိုင်း တန်ဖိုးသုံးသပ်မှု
၎င်းသည် ကိုယ်စားပြုသူအား တကယ့်ကမ္ဘာပြင်တွင် တိုက်ရိုက်အသုံးပြုမှုအတွင်း၊ ထုတ်လုပ်မှု၌ ဆောင်ရွက်မှုများအား တန်ဖိုးသုံးသပ်ခြင်း ကို ဆိုလိုသည်။ အွန်လိုင်း တန်ဖိုးသုံးသပ်မှုသည် တိုက်ရိုက် အသုံးပြုသူ ဆက်ဆံမှု ပေါ်ရှိ ဆောင်ရွက်မှုမီတာများကို စောင့်ကြည့်ကာ မရပ်မနား လေ့လာသုံးသပ်ခြင်းဖြစ်သည်။
ဥပမာအားဖြင့် အောင်မြင်မှု အဆင့်၊ အသုံးပြုသူ စိတ်ကျေနပ်မှု အမှတ်အသားများ သို့မဟုတ် တခြားမီတာများကို တိုက်ရိုက် traffic ပေါ်တွင် စောင့်ကြည့်နိုင်သည်။ အွန်လိုင်း တန်ဖိုးသုံးသပ်မှုပြုလုပ်ခြင်း၏ အားသာချက်မှာ လက်ထဲ မထားမိသည့် ကိစ္စများကို ချပေးနိုင်ခြင်း ဖြစ်ပြီး မော်ဒယ် တိုက်ဖျက်မှုများ (input ပုံစံများပြောင်းလဲခြင်းကြောင့် ကိုယ်စားပြုသူ၏ ထိရောက်မှုနည်းဆိုးခြင်း) ကိုတွေ့ရှိနိုင်ကာ စမ်းသပ် ဒေတာတွင် မရှိသည့် မမျှော်လင့်ထားသော မေးခွန်းများ သို့မဟုတ် အခြေအနေများကို သိရှိနိုင်သည်။ ဒါက ကိုယ်စားပြုသူသည် သဘာဝကမ္ဘာ၌ မည်ကဲ့သို့ ဆောင်ကြဉ်းနေသည်ဆိုတာ ပုံမှန်တင်ပြချက်ကို ပေးသည်။
အွန်လိုင်း တန်ဖိုးသုံးသပ်မှုသည် လက်ခံသူများ၏ တိုက်ရိုက်နဲ့ အဝိုင်းခံတုံ့ပြန်ချက်များကို စုဆောင်းရုံလည်းမက၊ shadow test များ သို့မဟုတ် A/B စမ်းသပ်မှုများ (agent အသစ်ကို အဟောင်းနှင့် နှိုင်းယှဉ်ရန်) တို့ကိုလည်း ဖော်ဆောင်နိုင်သည်။ ဒါ့အပြင် အသုံးပြုသူ ဆက်သွယ်မှုများအတွက် သေချာမူရလဒ်မှတ်ပုံတင် ရမှတ်များရရှိရခြင်းမှာ ခက်ခဲနိုင်သည်၊ အသုံးပြုသူတုံ့ပြန်ချက်များ သို့မဟုတ် နောက်ထပ် မီတာများ (ဥပမာ - အသုံးပြုသူသည် ရလဒ်ကို နှိပ်လိုက်သလား) ကို အားထားနိုင်သည်။
နှစ်ခုကို ပေါင်းစပ် အသုံးပြုခြင်း
အွန်လိုင်းနှင့် အော့ဖ်လိုင်း တန်ဖိုးသုံးသပ်မှုများသည် ပြိုင်ဘက်မဟုတ်ပြီး၊ အတူတကွ ဝိုင်းဝန်းဆောင်ရွက်မှုရှိသည်။ အွန်လိုင်း စောင့်ကြည့်မှုမှ အမြင်များ (ဥပမာ - AI ကိုယ်စားပြုသူ မဆောင်ရွက်နိုင်သည့် အသုံးပြုသူ မေးခွန်း အသစ်များ) ပြုလုပ်ပြီး အော့ဖ်လိုင်း စမ်းသပ်ဒေတာများအား တိုးမြှင့်နိုင်သည်။ မတူညီသော အော့ဖ်လိုင်း စမ်းသပ်မှုများတွင် အောင်မြင်သော ကိုယ်စားပြုသူများကို တခြားအခါများတွင် အွန်လိုင်းတွင် ပိုမိုယုံကြည်စိတ်ချ၍ ထည့်သွင်း စောင့်ကြည့်နိုင်သည်။
အမှန်တကယ်၊ အဖွဲ့များအများစုသည် လျှောက်လှမ်းမှုကို ဖော်ဆောင်ကြသည် -
အော့ဖ်လိုင်း အကဲဖြတ် -> ထည့်သွင်းရန် -> အွန်လိုင်း စောင့်ကြည့် -> ပြဿနာဖြစ်ရာ အသစ်များ စုဆောင်း -> အော့ဖ်လိုင်း ဒေတာတွင် ထည့်သွင်း -> ကိုယ်စားပြုသူ ပြန်လည်တိုးတက်စွာ ပြုပြင် -> ထပ်မံလုပ္ေဆာင္။
အဓိက ဖြစ်ပေါ်နေသော ပြဿနာများ
AI ကိုယ်စားပြုသူများကို ထုတ်လုပ်မှုတွင် တပ်ဆင်သည်အခါ ကြုံတွေ့ရနိုင်သည့် စိန်ခေါ်မှုများစွာရှိသည်။ ဒီမှာ အဓိက ပြဿနာများနှင့် ဖြေရှင်းနည်းများ ပါဝင်သည်။
| ပြဿနာ | ဖြေရှင်းနည်း |
|---|---|
| AI ကိုယ်စားပြုသူ လုပ်ငန်းများကို စနစ်တကျ မဆောင်ရွက်နိုင်ခြင်း | - AI ကိုယ်စားပြုသူအား ပံ့ပိုးသည့် prompt ကို ပိုမိုရှင်းလင်းစေပါ။ - လုပ်ငန်းများကို သတ်မှတ်၍ အနျဖှဲ့အလုပ်များဖြင့် ခွဲခြား၍ ကိုယ်စားပြုသူများစွာဖြင့် ကိုင်တွယ်စေခြင်း။ |
| AI ကိုယ်စားပြုသူ အဆက်မပြတ် အလွှာရောက်ခြင်း | - ကိုယ်စားပြုသူသည် မည်သည့်အချိန်တွင် ရပ်နားရမည်ဆိုသည်ကို ရှင်းလင်းသော သတ်မှတ်ချက်များ ထားရှိစေပါ။ - အတွေးပညာနှင့် စီမံချက်ပြုလုပ်မှု လိုအပ်သည့် ရှုပ်ထွေးသော အလုပ်များအတွက် ထူးခြားသော အမြင့်မော်ဒယ်အသုံးပြုပါ။ |
| AI ကိုယ်စားပြုသူ ကိရိယာခေါ်ယူမှု မမြန်ဆန်သော အခြေအနေ | - ကိုယ်စားပြုသူစနစ် အပြင်ဘက်တွင် ကိရိယာမှ ထွက်ရှိသည့် အချက်အလက်ကို စမ်းသပ် အတည်ပြုပါ။ - ကိရိယာများအား သတ်မှတ်ထားသောပါရာမီတာများ၊ prompt များနှင့် အမည်များ ပြန်လည် ပြင်ဆင်ပါ။ |
| Multi-Agent စနစ် မယူဆောင်နိုင်သော အခြေအနေ | - ကိုယ်စားပြုသူတစ်ဦးစီကို ပိုမိုသီးခြားစေရန် နှင့် ထူးခြားသည့် သတင်းအချက်အလက် ရှိစေရန် prompt များ ပြင်ဆင်ပါ။ - ကိုယ်စားပြုသူများအား ကွဲဝေမှု သို့မဟုတ် သိမ်းဆည်းသူ ကိုယ်စားပြုသူ တစ်ဦးဖြင့် အဆင့်လိုက်စနစ်တကျ တည်ဆောက်ပါ။ |
၎င်း ပြဿနာများအများစုကို အမြင်ရမှု တပ်ဆင်ထားပြီးနောက်ပိုမို ထိရောက်စွာ တွက်ဆန့်နိုင်သည်။ ယခင်တွင် ဆွေးနွေးခဲ့သည့် လမ်းကြောင်းနှင့် မီတာများက ကိုယ်စားပြုသူ လုပ်ငန်းစဉ်တွင် ဘယ်နေရာတွင် ပြဿနာဖြစ်နေသည်ကို အိမ်ရွာသေချာ ပြောပြပေးသဖြင့် ပြဿနာရှာဖွေရန်နှင့် အကောင်းမွန်အောင် လုပ်ဆောင်ရန် ပိုမိုထိရောက်စေသည်။
ကုန်ကျစရိတ် စီမံခန့်ခွဲခြင်း
AI အေးဂျင့်များကို ထုတ်လုပ်မှုတွင် တပ်ဆင်ရာတွင် စရိတ်များကို စီမံခန့်ခွဲရန် အချို့နည်းလမ်းများ如下 အောက်ပါအတိုင်းဖြစ်သည်။
ပုံမှန်ထက် သေးငယ်သော မော်ဒယ်များကို အသုံးပြုခြင်း။ သေးငယ်သော ဘာသာစကား မော်ဒယ်များ (SLMs) သည် အချို့သော သရုပ်ဆောင်မှု အသုံးပြုမှုများအတွက် ကောင်းမွန်စွာ ဖော်ဆောင်နိုင်ပြီး စရိတ်များကို အလွန် လျော့ချနိုင်သည်။ အဆိုပါ SLM တစ်ခုက သင်၏ အသုံးပြုမှုအပေါ်က ဘယ်လောက် ကောင်းမွန်စွာ လုပ်ဆောင်နိုင်မယ်ဆိုတာကို နားလည်ရန်နှင့် ကြီးမားသော မော်ဒယ်များနှင့် ယှဥ်ပြိုင် စစ်ဆေးကြည့်ရန် အကဲဖြတ်ရေး စနစ်တည်ဆောက်ခြင်းမှာ အကောင်းဆုံးနည်းလမ်းဖြစ်ကြောင်း အရင်ပြောခဲ့သည်။ ရည်ရွယ်ချက် ရှာဖွေခြင်း သို့မဟုတ် ပါရာမီတာ ထုတ်ယူခြင်းကဲ့သို့ ရိုးရှင်းသောအလုပ်များအတွက် SLM များကို သုံးစွဲရန် စဉ်းစားပြီး၊ ကြီးမားသော မော်ဒယ်များကို ရှုပ်ထွေးသော သုံးသပ်မှုများအတွက် သီးခြားထားပါ။
Router မော်ဒယ်ကို အသုံးပြုခြင်း။ အနီးကပ်နည်းလမ်းတစ်ခုမှာ မော်ဒယ်အမျိုးမျိုးနှင့် အရွယ်အစား ကွဲပြားမှုကို အသုံးပြုခြင်းဖြစ်သည်။ မည်သည့် မော်ဒယ်များအတွက်ဖြစ်စေ၊ LLM/SLM သို့မဟုတ် serverless function ကို အသုံးပြုပြီး ပင်ပန်းသော အလုပ်များအပေါ် မူတည်၍ အထူးသင့်လျော်သော မော်ဒယ်များသို့ လမ်းညွှန်လိုက်နာနိုင်သည်။ ၎င်းသည် စရိတ်များကိုလည်း လျော့ချရန်ကူညီပြီး မှန်ကန်သော အလုပ်များတွင် စွမ်းဆောင်ရည်ကို အာမခံပေးနိုင်သည်။ ဥပမာအားဖြင့် ရိုးရှင်းသော မေးခွန်းများကို သေးငယ်၍ ပိုမြန်သော မော်ဒယ်များသို့ လမ်းညွှန်ပြီး၊ ရှုပ်ထွေးသော သုံးသပ်မှုများအတွက်သာ ကြီးမားသော မော်ဒယ်များကို အသုံးပြုပါ။
တုံ့ပြန်ချက်များကို Cache ထားခြင်း။ ပုံမှန်အမေးအ həminစကားများနှင့် အလုပ်များကို မှတ်သားပြီး၊ ၎င်းတို့သည် သင်၏မော်ဒယ်စနစ်မှတစ်ဆင့် မသွားမီ တုံ့ပြန်ချက်များကို မျှဝေခြင်းအားဖြင့် တူညီသော တုံ့ပြန်ချက် အရေအတွက်ကို လျော့နည်းစေနိုင်သည်။ သင်တွင် ပိုမိုရိုးရှင်းသော AI မော်ဒယ် ဖြင့် မျှမျှတတ cached ပြန်တုံ့ပြန်ချက်များနှင့် မေးခွန်းတူညီမှုကို သတ်မှတ်နိုင်သည့် စနစ်တစ်ခုလည်း တည်ဆောက်နိုင်သည်။ ဤနည်းလမ်းသည် မကြာခဏမေးသောမေးခွန်းများ သို့မဟုတ် ပုံမှန်အလုပ်စနစ်များအတွက် စရိတ်များကို အလွန်လျော့ချပေးနိုင်သည်။
အလုပ်ဖြစ်ပုံကို ကြည့်ကြမယ်
ဤအပိုင်း၏ နမူနာ notebook တွင် ကျွန်တော်တို့သည် observability ကိရိယာများကို အသုံးပြုပြီး ကျွန်တော်တို့၏ အေးဂျင့်ကို စောင့်ကြည့်ခြင်းနှင့် အကဲဖြတ်ခြင်း၏ ဥပမာများကို တွေ့မြင်နိုင်ပါသည်။
ထုတ်လုပ်မှုရှိ AI အေးဂျင့်များအကြောင်း နောက်ထပ် မေးခွန်းများရှိပါသလား?
Microsoft Foundry Discord တွင် လေ့လာသူများနှင့် တွေ့ဆုံရန်၊ office hours တက်ရောက်ရန်နှင့် သင့် AI Agents မေးခွန်းများရရှိစေရန် လက်တွဲပါဝင်လိုက်ပါ။
ယခင် အခန်း
နောက်တစ်ခန်း
ပြောကြားချက် ဤစာတမ်းကို AI ဘာသာပြန်ဝန်ဆောင်မှု Co-op Translator အသုံးပြု၍ ဘာသာပြန်ထားပါသည်။ ကျွန်ုပ်တို့သည် တိကျမှန်ကန်မှုအတွက် ကြိုးပမ်းနေသော်လည်း၊ စက်ကိရိယာဘာသာပြန်ခြင်းများတွင် အမှားများ သို့မဟုတ် မှားယွင်းချက်များ ပါဝင်နိုင်ကြောင်း သတိပြုပါရန် လိုအပ်ပါသည်။ မူလစာတမ်းကို မူရင်းဘာသာဖြင့်သာ ယုံကြည်စိတ်ချရသော အချက်အလက်အဖြစ် သတ်မှတ်သင့်သည်။ အရေးကြီးသည့် သတင်းအချက်အလက်များအတွက် ပရော်ဖက်ရှင်နယ် လူသားဘာသာပြန်သူဝန်ဆောင်မှုကို အကြံပြုပါသည်။ ဤဘာသာပြန်ချက်ကို အသုံးပြုခြင်းမှ ဖြစ်ပေါ်လာသော နားလည်မှုကွာခြားမှုများ သို့မဟုတ် မမှန်ကန်သော အသုံးပြုမှုများအတွက် ကျွန်ုပ်တို့ တာဝန်မခံပါ။