នៅពេលដែលអ្នកតំណាង AI ផ្លាស់ប្តូរពីគំរូសាកល្បងទៅជាកម្មវិធីក្នុងពិភពពិត សមត្ថភាពក្នុងការយល់ដឹងអំពីអាកប្បកិរិយារបស់ពួកវា តាមដានការសម្តែងរបស់ពួកវា និងវាយតម្លៃលទ្ធផលរបស់ពួកវាដោយជាក់លាក់ក្លាយទៅជារឿងសំខាន់។
បន្ទាប់ពីបញ្ចប់មេរៀននេះ អ្នកនឹងស្គាល់របៀប/យល់ដោយច្បាស់ពី៖
គោលបំណងគឺផ្តល់ចំណេះដឹងដល់អ្នក ដើម្បីបម្លែងអ្នកតំណាង “ប្រអប់ខ្មៅ” របស់អ្នក ទៅជាប្រព័ន្ធតំបន់ចែង មិនស្មុគស្មាញ និងអាចទុកចិត្តបាន។
សម្គាល់៖ វាសំខាន់ណាស់ក្នុងការដាក់បញ្ចូលអ្នកតំណាង AI ដែលមានសុវត្ថិភាព និងអាចទុកចិត្តបាន។ សូមពិនិត្យមេរៀន ការបង្កើតអ្នកតំណាង AI ដែលអាចទុកចិត្តបាន ផងដែរ។
ឧបករណ៍តាមដានភាពយល់ដឹង ដូចជា Langfuse ឬ Microsoft Foundry ជាទូទៅបង្ហាញការផ្អែករបស់អ្នកតំណាងជារូបភាពរំកិលនិងពេលវេលា។
បើគ្មានការតាមដានភាពយល់ដឹង អ្នកតំណាង AI អាចមានអារម្មណ៍ដូចជា “ប្រអប់ខ្មៅ” - ស្ថានភាពខាងក្នុង និងគំនិតស្មារតីរបស់វាមានភាពមិនច្បាស់លាស់ ដែលធ្វើឲ្យរឿងធ្វើឲ្យពិបាក់ស្មារ ឬធ្វើអោយលំបាកក្នុងការបញ្ជ្រាបបញ្ហាឬបង្កើនសមត្ថភាព។ ជាមួយការតាមដានភាពយល់ដឹង អ្នកតំណាងក្លាយទៅជាប្រអប់កញ្ចក់ មានភាពច្បាស់លាស់ដែលមានសារៈសំខាន់សម្រាប់ការសាងសង់ការទុកចិត្ត និងធានាថាពួកវាធ្វើប្រតិបត្តិការដូចដែលបានគ្រោង។
ការបញ្ជូនអ្នកតំណាង AI ទៅបរិយាកាសផលិតកម្មនាំឲ្យមានបញ្ហានិងតម្រូវការថ្មីៗ។ ការតាមដានភាពយល់ដឹងមិនមែនជារឿង “ល្អសម្រាប់មាន” ទេ ប៉ុន្តែជាចំណុះសារៈសំខាន់៖
ដើម្បីតាមដាននិងយល់ពីអាកប្បកិរិយារៃយន្ត អ្នកគួរតាមដានតួអង្គនិងសញ្ញាបានច្រើន។ ទោះជាតួអង្គជាក់លាក់អាចប្រែប្រួលទៅតាមគោលបំណងរបស់អ្នកតំណាង ក៏មានតួអង្គខ្លះដែលមានសារៈសំខាន់ទូទៅ។
នេះគឺជាកត្តាជាទូទៅដែលឧបករណ៍តាមដានភាពយល់ដឹងតាមដាន៖
ពេលវេលា៖ តើអ្នកតំណាងឆ្លើយតបយ៉ាងលឿនដល់ណា? ពេលរង់ចាំយូរមានប្រសិទ្ធភាពប៉ះពាល់អាកប្បកិរិយាអ្នកប្រើ។ អ្នកគួរវាស់ពេលវេលាសម្រាប់ភារកិច្ចនិងជំហានបុគ្គលដោយតាមដានការរត់អ្នកតំណាង។ ឧទាហរណ៍ អ្នកតំណាងដែលចំណាយ ២០ វិនាទីសម្រាប់ការហៅម៉ូដែលទាំងមូលអាចត្រូវបានលឿនឡើងជាមួយម៉ូដែលដែលលឿនជាងឬរត់ការហៅម៉ូដែលជារួម।
ចំណាយ៖ តើតម្លៃក្នុងមួយដំណើរការអ្នកតំណាងជាអ្វី? អ្នកតំណាង AI ពឹងលើការហៅ LLM ដែលគិតតម្លៃតាមតូកិន ឬ API ខាងក្រៅ។ ការប្រើឧបករណ៍ជាញឹកញាប់ ឬការបញ្ចូលពាក្យច្រើនបង្កើនការចំណាយយ៉ាងឆាប់រហ័ស។ ឧទាហរណ៍ ប្រសិនបើអ្នកតំណាងហៅ LLM ចំនួន៥ដងសម្រាប់ការកែលម្អគុណភាពស្រាល អ្នកត្រូវវាយតម្លៃថាតម្លៃនេះមានតម្លៃសមរម្យឬអត់ ឬអ្នកអាចកាត់បន្ថយចំនួនការហៅ ឬប្រើម៉ូដែលថោកជាង។ ការតាមដានក្នុងពេលប្រាកដអាចជួយកំណត់កំណើតបូកបន្ថែមមិនរំពឹងទុក (ដូចជា កំហុសបង្កើតរង្វិល API លើសកំណត់)។
កំហុសសំណើរ៖ តើមានចំនួនប៉ុន្មានសំណើរដែលអ្នកតំណាងបរាជ័យ? វាអាចរួមបញ្ចូលកំហុស API ឬការហៅឧបករណ៍បរាជ័យ។ ដើម្បីធ្វើឲ្យអ្នកតំណាងរឹងមាំប្រឆាំងគ្នានៅក្នុងកម្មវិធីផលិត អ្នកអាចដាក់ទំព័រផ្ទុកជំនួស ឬការព្យាយាមម្ដងទៀត។ ឧ. ប្រសិនបើអ្នកផ្គត់ផ្គង់ LLM A បរាជ័យ អ្នកប្តូរទៅ LLM B ជាជំនួស។
មតិយោបល់អ្នកប្រើ៖ ការអនុវត្តការវាយតម្លៃដោយផ្ទាល់ពីអ្នកប្រើផ្តល់ព័ត៌មានមានតម្លៃ។ វាអាចរួមបញ្ចូលការវាយតម្លៃច្បាស់លាស់ (👍អំណោយចិត្ត/👎មិនពេញចិត្ត, ⭐1-5ផ្លូវ) ឬមតិយោបល់អត្ថបទ។ មតិយោបល់អវិជ្ជមានជាប់ទៀងទាត់គួរតែជំរុញអ្នកព្រមានថា អ្នកតំណាងមិនដំណើរការតាមដែលបានប្រាថ្នា។
មតិយោបល់អ្នកប្រើដែលមិនច្បាស់លាស់៖ អាកប្បកិរិយាអ្នកប្រើផ្តល់មតិយោបល់អនាមិក ទោះបីគ្មានការវាយតម្លៃច្បាស់លាស់ក៏ដោយ។ វាអាចចូលរួមការផ្លាស់ប្តូរសំណួរបន្ទាន់ ការសួរឡើងវិញជាច្រើនដង ឬចុចប៊ូតុងព្យាយាមម្ដងទៀត។ ឧ. ប្រសិនបើអ្នកឃើញអ្នកប្រើសួរសំណួរដដែលជាបន្តបន្ទាប់ នេះជាសញ្ញាថាអ្នកតំណាងមិនដំណើរការតាមការរំពឹងទុក។
ភាពត្រឹមត្រូវ៖ តើអ្នកតំណាងផ្តល់លទ្ធផលត្រឹមត្រូវ ឬលទ្ធផលដែលគួរឱ្យចង់បានយ៉ាងឆាប់រហ័សប៉ុនណា? ការកំណត់ភាពត្រឹមត្រូវប្រែប្រួលតាមការ (ដូចជា ត្រឹមត្រូវក្នុងការដោះស្រាយបញ្ហា, ត្រឹមត្រូវក្នុងការទាញយកព័ត៌មាន, ភាពពេញចិត្តអ្នកប្រើ) ជំហានដំបូងគឺកំណត់ថា តើជោគជ័យសម្រាប់អ្នកតំណាងរបស់អ្នកមានទ្រង់ទ្រាយយ៉ាងដូចម្តេច។ អ្នកអាចតាមដានភាពត្រឹមត្រូវតាមការត្រួតពិនិត្យស្វ័យប្រវត្តិ ពិន្ទុការវាយតម្លៃ ឬស្លាកបញ្ចប់ភារកិច្ច។ ឧទាហរណ៍ កំណត់ការរំកិលជាទីតាំង “ជោគជ័យ” ឬ “បរាជ័យ”។
តួអង្គវាយតម្លៃស្វ័យប្រវត្តិ៖ អ្នកអាចក៏ដាក់ឧបករណ៍វាយតម្លៃស្វ័យប្រវត្តិបានផង។ ឧទាហរណ៍ អ្នកអាចប្រើ LLM ដើម្បីវាយតម្លូវលទ្ធផលរបស់អ្នកតំណាង ខាងលើដូចជា ប្រសិទ្ធភាព ត្រឹមត្រូវ ឬមិនមែន។ មានបណ្ណាល័យប្រភពបើកជាច្រើនជួយអ្នកវាយតម្លៃក្ដីលម្អិតផ្សេងៗនៃអ្នកតំណាង។ ឧ. RAGAS សម្រាប់អ្នកតំណាង RAG ឬ LLM Guard សម្រាប់រកភាសាអាក្រក់ ឬការជំរុញបញ្ហា។
ក្នុងការអនុវត្ត ការរួមបញ្ចូលនៃតួអង្គទាំងនេះផ្តល់ការឆ្លើយតបល្អបំផុតលើសុខភាពអ្នកតំណាង AI។ នៅក្នុងជំពូកនេះ សៀវភៅគំរូ យើងនឹងបង្ហាញអ្នកថាតួអង្គទាំងនេះហាក់ដូចម្ដេច ក្នុងគំរូពិត ប៉ុន្តាមុនណា យើងនឹងរៀនពីរបៀបធ្វើដំណើរការវាយតម្លៃទូទៅ។
ដើម្បីប្រមូលទិន្នន័យការតាមដាន អ្នកត្រូវតែដាក់ឧបករណ៍កូដរបស់អ្នក។ គោលបំណងគឺដាក់ឧបករណ៍កូដអ្នកតំណាងដើម្បីបញ្ចេញការរំកិល និងតួអង្គដែលអាចចាប់យក ពន្លឿន និងបង្ហាញដោយវេទិកាតាមដានភាពយល់ដឹង។
OpenTelemetry (OTel): OpenTelemetry គឺជាស្តង់ដារសំខាន់របស់ឧស្សាហកម្មសម្រាប់ការតាមដាន LLM។ វាផ្តល់ឧបករណ៍ API, SDK និងឧបករណ៍សម្រាប់បង្កើត ប្រមូល និងនាំចេញទិន្នន័យតេលេមិច។
មានបណ្ណាល័យការដាក់ឧបករណ៍ជាច្រើនដែលបិទស្រទាប់អ្នកតំណាងដែលមានស្រាប់ ហើយធ្វើឲ្យវាងាយស្រួលក្នុងការនាំចេញ OpenTelemetry spans ទៅឧបករណ៍តាមដានភាពយល់ដឹង។ Microsoft Agent Framework ចូលរួមជាមួយ OpenTelemetry ដោយមានផ្ទាល់។ ខាងក្រោមជាគំរូនៅក្នុងការដាក់ឧបករណ៍អ្នកតំណាង MAF៖
from agent_framework.observability import get_tracer, get_meter
tracer = get_tracer()
meter = get_meter()
with tracer.start_as_current_span("agent_run"):
# Agent execution is traced automatically
pass
សៀវភៅគំរូ example notebook ក្នុងជំពូកនេះនឹងបង្ហាញរបៀបដាក់ឧបករណ៍ក្នុងអ្នកតំណាង MAF របស់អ្នក។
ការបង្កើត Span ដោយដៃ: ខណ:ដែលបណ្ណាល័យដាក់ឧបករណ៍ផ្តល់ជាបរិមាណល្អ ប៉ុន្តាក៏មានករណីដែលត្រូវការព័ត៌មានលំអិត ឬផ្ទាល់ខ្លួនបន្ថែម។ អ្នកអាចបង្កើត spans ដោយដៃដើម្បីបញ្ចូលតុល្យភាពកម្មវិធីបុគ្គល។ ជាអ្វីដែលសំខាន់ជាងគេ គេចង្អុលថាពួកវាអាចបន្ថែមទ្រព្យសម្បត្តិឈ្មោះផ្ទាល់ខ្លួន (ហៅថា តាក ឬមេតាដាតា) ជាគ្រឿងបន្ថែមដោយស្វ័យប្រវត្តិ ឬដោយដៃ។ ទ្រព្យសម្បត្តិទាំងនេះអាចរួមបញ្ចូលទិន្នន័យជាក់លាក់អាជីវកម្ម ការគណនាផ្នែកកណ្តាល ឬបរិបទផ្សេងៗដែលអាចមានប្រយោជន៍សម្រាប់ត្រួតពិនិត្យកំហុសឬវិភាគដូចជា user_id, session_id, ឬ model_version។
ឧទាហរណ៍ការបង្កើតការរំកិល និងពេលវេលាដោយដៃជាមួយ Langfuse Python SDK:
from langfuse import get_client
langfuse = get_client()
span = langfuse.start_span(name="my-span")
span.end()
ការតាមដានផ្តល់ជាមาต្រយោគ ប៉ុន្តែការវាយតម្លៃគឺជាដំណើរការវិភាគទិន្នន័យនោះ (និងបំពេញតេស្ត) ដើម្បីកំណត់ពីបរិមាណការសម្តែងរបស់អ្នកតំណាង AI និងរបៀបដែលវាអាចត្រូវបានកែប្រែ។ និយាយផ្សេងទៀត ពេលដែលអ្នកមានការរំកិលនិងតួអង្គទាំងនេះ អ្នកប្រើវាដើម្បីវាយតម្លៃអ្នកតំណាង និងធ្វើសេចក្តីសម្រេចចិត្តយ៉ាងដូចម្តេច?
ការវាយតម្លៃធម្មតាមានសារៈសំខាន់ ដោយសារអ្នកតំណាង AI ជាញឹកញាប់មិនទទួលបានលទ្ធផលដូចគ្នា ហើយអាចប្លែកផ្លាស់ប្តូរ (តាមរយៈកម្មវិធីបន្ថែម ឬការផ្លាស់ប្តូរអាកប្បកិរិយាម៉ូដែល) – គ្មានការវាយតម្លៃ អ្នកនឹងមិនដឹងថា អ្នកតំណាង “ឆ្លាត” របស់អ្នកកំពុងធ្វើកិច្ចការជាល្អ ឬត្រូវបានធ្លាក់ក្រោមឡើងវិញឬអត់។
មានប្រភេទការវាយតម្លៃពីរសម្រាប់អ្នកតំណាង AI ៖ ការវាយតម្លៃតាមអ៊ិនធឺណិត និង ការវាយតម្លៃក្រៅអ៊ិនធឺណិត។ ទាំងពីរមានតម្លៃ ហើយពួកវាដំណើរការជាមួយគ្នា។ យើងភាគច្រើនចាប់ផ្តើមជាមួយការវាយតម្លៃក្រៅអ៊ិនធឺណិត ដោយជាជំហានតិចតួចបំផុតមុនដាក់បញ្ចូលអ្នកតំណាងណាមួយ។

នេះពាក់ព័ន្ធនឹងការវាយតម្លៃអ្នកតំណាងក្នុងបរិដ្ឋានដែលត្រូវបានគ្រប់គ្រង ពាណិជ្ជកម្មជាធម្មតាមានការប្រើប្រាស់ឈុតទិន្នន័យសាកល្បង មិនមែនសំណួរអ្នកប្រើផ្ទាល់។
ឧទាហរណ៍ ប្រសិនបើអ្នកបានបង្កើតអ្នកតំណាងដោះស្រាយបញ្ហាគណិតវិទ្យា ពួកអ្នកអាចមានឈុតទិន្នន័យសាកល្បង របស់បញ្ហា១០០ខុសគ្នាដែលមានចម្លើយដឹងជាមុន។ ការវាយតម្លៃក្រៅអ៊ិនធឺណិតភាគច្រើនធ្វើឡើងក្នុងដំណើរការអភិវឌ្ឍ (និងអាចជាផ្នែកនៃដំណើរការជាប់រួម CI/CD) ដើម្បីពិនិត្យកែប្រែឬការពារការធ្លាក់ប្រសិទ្ធភាព។ ចំណាប់អារម្មណ៍គឺវា អាចធ្វើឡើងឡើងទៀត និងអ្នកអាចទទួលបានតួអង្គភាពត្រឹមត្រូវច្បាស់ចំពោះការមានផែនដីពិត។ អ្នកអាចដាក់សំណួរអ្នកប្រើប្រាស់និងវាស់ការឆ្លើយតបរបស់អ្នកតំណាងប្រឆាំងនឹងចម្លើយល្អឬប្រើតួអង្គវាយតម្លៃស្វ័យប្រវត្តិដូចបានពិពណ៌នា។
បញ្ហាសំខាន់ជាមួយការវាយតម្លៃក្រៅអ៊ិនធឺណិត គឺធានាថា ឈុតទិន្នន័យសាកល្បងរបស់អ្នកគ្រប់គ្រាន់ និងនៅមានសារៈសំខាន់ – អ្នកតំណាងអាចសម្យដោយល្អលើឈុតសាកល្បងថេរ តែប៉ះការសំណួរផ្ទាល់ខ្លួនមានភាពខុសគ្នាខ្លាំងនៅក្នុងការផលិត។ ដូច្នេះ អ្នកគួរប្រមូលឈុតសាកល្បងដែលធ្វើបច្ចុប្បន្នភាពជាមួយករណីគម្លាតថ្មីៗ និងគំរូដែលបង្ហាញពីស្ថានភាពពិភពពិត។ ការរួមបញ្ចូលរវាងករណី “សាកល្បងឈក់ផ្សែង” តូចៗ និងឈុតវាយតម្លៃធំៗមានប្រយោជន៍៖ ឈុតតូចសម្រាប់ពិនិត្យរហ័ស និងឈុតធំសម្រាប់មាត្រដ្ឋានសមត្ថភាពទូលំទូលាយ។

នេះជាការវាយតម្លៃអ្នកតំណាងក្នុងបរិដ្ឋានជាក់ស្តែង ពេលប្រើប្រាស់ពិតប្រាកដនៅផលិតកម្ម។ ការវាយតម្លៃតាមអ៊ិនធឺណិតជាប់នឹងកំណត់សមត្ថភាពអ្នកតំណាងលើការប្រាស្រ័យទាក់ទងជាមួយអ្នកប្រើប្រាស់ពិតប្រាកដ ហើយវិភាគលទ្ធផលជាបន្តបន្ទាប់។
ឧទាហរណ៍ អ្នកអាចតាមដានអត្រាជោគជ័យ ពិន្ទុភាពពេញចិត្តអ្នកប្រើ ឬតួអង្គផ្សេងៗលើចរាចរណ៍ផ្ទាល់។ អត្ថប្រយោជន៍នៃការវាយតម្លៃតាមអ៊ិនធឺណិតគឺវា ចាប់យកអ្វីដែលអ្នកអាចមិនរំពឹងទុកនៅក្នុងបរិយាកាសមន្ទីរពិសោធន៍ – អ្នកអាចឃើញការបម្លាស់ប្ដូរម៉ូដែលជាលំដាប់ពេល (បើសមត្ថភាពអ្នកតំណាងខូចចុះពេលប្លង់ទិន្នន័យបញ្ចូលផ្លាស់ប្ដូរ) និងចាប់បានសំណួរឬស្ថានការណ៍មិនរំពឹងទុកដែលមិនមាននៅក្នុងទិន្នន័យសាកល្បងរបស់អ្នក។ វាបង្ហាញរូបភាពពិតប្រាកដពីរបៀបដែលអ្នកតំណាងមានអាកប្បកិរិយានៅលើទីផ្សារ។
ការវាយតម្លៃតាមអ៊ិនធឺណិតជាធម្មតាចូលរួមការប្រមូលមតិយោបល់អ្នកប្រើយ៉ាងច្បាស់និងលាក់ បញ្ចូលការប្រតិបត្តិតេស្តស្រដៀង ឬអេ/ប៊ី តេស្ត (ដែលកំណត់ថាវគ្មិនថ្មីរត់លើបណ្ដាញជាគូរ ដើម្បីប្រៀបធៀបទៅនឹងវគ្មិនចាស់)។ បញ្ហានៃការប្រមូលស្លាក ឬពិន្ទុសម្រាប់អន្តរកម្មបែបនេះគ្រាន់តែពិបាក – អ្នកអាចពឹងផ្អែកលើមតិយោបល់អ្នកប្រើ ឬមាត្រដ្ឋានក្រោយ (ដូចជា អ្នកប្រើបានចុចលទ្ធផលឬអត់)។
ការវាយតម្លៃតាមអ៊ិនធឺណិត និងក្រៅអ៊ិនធឺណិត មិនមែនជាផ្ទុយពីគ្នាទេ; ពួកវាជាជំនួយគ្នាយ៉ាងខ្លាំង។ ចំណេះដឹងពីការតាមដានតាមអ៊ិនធឺណិត (ឧ. ប្រភេទសំណួរថ្មីៗដែលអ្នកតំណាងឆ្លើយតបមិនបានល្អ) អាចប្រើសម្រាប់បន្ថែមនិងធ្វើឲ្យឈុតទិន្នន័យសាកល្បងក្រៅអ៊ិនធឺណិតកាន់តែប្រសើរ។ ផ្ទុយមកវិញ អ្នកតំណាងដែលសម្តែងល្អនៅក្នុងសាកល្បងក្រៅអ៊ិនធឺណិត បន្ទាប់មកអាចដាក់បញ្ចូល ដោយមានការត្រួតពិនិត្យតាមអ៊ិនធឺណិតជំនួយ។
ពិតប្រាកដ ក្រុមជាច្រើនដំណើរការលំហូរ៖
វាយតម្លៃក្រៅអ៊ិនធឺណិត -> ដាក់បញ្ចូល -> តាមដានតាមអ៊ិនធឺណិត -> ប្រមូលករណីបរាជ័យថ្មី -> បន្ថែមទៅឈុតទិន្នន័យក្រៅអ៊ិនធឺណិត -> កែលម្អអ្នកតំណាង -> ថយវិញ។
នៅពេលអ្នកដាក់បញ្ចូលអ្នកតំណាង AI ទៅផលិតកម្ម អ្នកអាចជួបប្រទះបញ្ហាប្រភេទផ្សេងៗ។ នេះជាបញ្ហាទូទៅ និងដំណោះស្រាយអាចធ្វើបាន៖
| បញ្ហា | ដំណោះស្រាយអាចធ្វើបាន |
|---|---|
| អ្នកតំណាង AI មិនអាចអនុវត្តភារកិច្ចបានយ៉ាងរៀងរាល់ | - កែលម្អពាក្យចូលដែលផ្តល់ឲ្យអ្នកតំណាង AI; ច្បាស់លាស់ពីគោលបំណង។ - សម្គាល់ទីតាំងចែកភារកិច្ចជាផ្នែកតូចៗ ហើយអនុវត្តដោយអ្នកតំណាងច្រើននាក់អាចជួយបាន។ |
| អ្នកតំណាង AI រត់ក្នុងរង្វិលជាប់ៗគ្នា | - ធានាការចេញពីរជាកំណត់ និងលក្ខខណ្ឌ ដើម្បីឲ្យអ្នកតំណាងដឹងពេលទប់ស្កាត់ដំណើរការ។ - សម្រាប់ភារកិច្ចស្មុគស្មាញដែលត្រូវការគំនិត និងផែនការ ប្រើម៉ូដែលធំដែលមានជំនាញក្នុងការងារគិតគូរ។ |
| ការហៅឧបករណ៍របស់អ្នកតំណាងមិនបានល្អ | - សាកល្បងនិងផ្ទៀងផ្ទាត់លទ្ធផលឧបករណ៍ក្រៅប្រព័ន្ធអ្នកតំណាង។ - កែលម្អប៉ារ៉ាម៉ែត្រ ពាក្យបញ្ចូល និងឈ្មោះឧបករណ៍។ |
| ប្រព័ន្ធអ្នកតំណាងច្រើនមិនអាចរត់បានយ៉ាងរឹងមាំ | - កែលម្អពាក្យបញ្ចូលដែលផ្តល់ជូនអ្នកតំណាងនីមួយៗ ដើម្បីធានាបានថាវាពិសេស និងខុសគ្នា។ - សាងសង់ប្រព័ន្ធមានអភាពថ្នាក់ ដោយប្រើអ្នកតំណាង “បញ្ជូន” ឬអ្នកតំណាងគ្រប់គ្រងក្នុងការជ្រើសរើសអ្នកតំណាងត្រឹមត្រូវ។ |
បញ្ហាច្រើនក្នុងនោះអាចរកឃើញមានប្រសិទ្ធភាពកាន់តែខ្លាំងជាមួយការតាមដានភាពយល់ដឹង។ ការរំកិលនិងតួអង្គដែលយើងបានពិភាក្សាមុននេះជួយបង្ហាញច្បាស់ល្អណាស់នៅកន្លែងណានៃប្រតិបត្ដិការអ្នកតំណាងកើតបញ្ហា ជួយធ្វើការត្រួតពិនិត្យកំហុស និងបង្កើនប្រសិទ្ធភាពបានប្រសើរជាងមុន។
នេះជាយុទ្ធសាស្ត្រចម្លងពីការគ្រប់គ្រងការចំណាយក្នុងការដាក់បញ្ចូលអ្នកតំណាង AI ទៅផលិតកម្ម៖
ការប្រើម៉ូដែលតូចបន្ថែម: ម៉ូដែលភាសាតូច (SLMs) អាចធ្វើបានល្អលើករណីប្រើប្រភេទហ្សែនដែលជាក់លាក់មួយចំនួន និងនឹងកាត់បន្ថយការចំណាយបានយ៉ាងហោចណាស់។ ដូចដែលបានกล่าวពីមុន ការសាងសង់ប្រព័ន្ធវាយតម្លៃដើម្បីកំណត់និងប្រៀបធៀបការសម្តែងប្រាប់ ប្រៀបធៀបនឹងម៉ូដែលធំធេងគឺជាវិធីល្អបំផុតដើម្បីយល់ថា SLM នឹងអាចបំពេញការងារបានល្អប៉ុនណានៅលើករណីប្រើរបស់អ្នក។ យកចិត្តទុកដាក់ក្នុងការប្រើ SLM សម្រាប់ភារកិច្ចដែលសាមញ្ញដូចជាការបែងចែកបំណង ឬការដកយកប៉ារ៉ាម៉ែត្រ ទៅវិញទៅមករក្សាទុកម៉ូដែលធំសម្រាប់ការត្រួតពិនិត្យដំណើរការដ៏ស្មុគស្មាញ។
ការប្រើម៉ូដែលរ៉ូតែ: វិធីសាស្ត្រដូចគ្នានេះគឺការប្រើម៉ូដែលនិងទំហំជាច្រើនប្រភេទ។ អ្នកអាចប្រើ LLM/SLM ឬមុខងារ serverless ដើម្បីរ៉ូតការស្នើសុំផ្អែកលើភាពស្មុគស្មាញទៅលើម៉ូដែលសមស្របបំផុត។ នេះក៏ជួយកាត់បន្ថយការចំណាយខ្លាំងណាស់ ខណៈពេលដែលធានាប្រសិទ្ធភាពលើភារកិច្ចត្រឹមត្រូវ។ ឧទាហរណ៍ រ៉ូតសំណួរងាយៗទៅម៉ូដែលតូចដែលរហ័ស ហើយប្រើម៉ូដែលធំដែលតម្លៃថ្លៃសម្រាប់ភារកិច្ចត្រួតពិនិត្យស្មុគស្មាញតែប៉ុណ្ណោះ។
ការកាន់ជំរូវការឆ្លើយតប: ការសម្គាល់សំណើជាទូទៅនិងភារកិច្ច ហើយផ្តល់ចម្លើយជាមុនគឺជាវិធីល្អក្នុងការកាត់បន្ថយបរិមាណសំណើដូចគ្នា។ អ្នកអាចអនុវត្តន៍ចរន្ត ដើម្បីសម្គាល់ថាសំណើមានស្រដៀងទៅនឹងសំណើកាន់ជំរូវរបស់អ្នកប៉ុណ្ណា ដោយប្រើម៉ូដែល AI ហេតុផលសាមញ្ញជាងនេះ។ វិធីសាស្ត្រនេះអាចកាត់បន្ថយចំណាយយ៉ាងខ្លាំងសម្រាប់សំណួរដែលសួរញឹកញាប់ ឬដំណើរការស្រាលៗ។
នៅក្នុង កំណត់ត្រាឧទាហរណ៍នៃផ្នែកនេះ យើងនឹងឃើញឧទាហរណ៍ពីរបៀបដែលយើងអាចប្រើឧបករណ៍មើលសកម្មភាពជ្រាបដំណើរការ និងវាយតម្លៃភ្នាក់ងាររបស់យើង។
ចូលរួមនឹង Microsoft Foundry Discord ដើម្បីជួបជាមួយអ្នករៀនផ្សេងទៀត ចូលរួមម៉ោងការិយាល័យ និងទទួលបានចម្លើយសម្រាប់សំណួររបស់អ្នកអំពីភ្នាក់ងារ AI។
ប្រព័ន្ធប្រតិបត្តិការភ្នាក់ងារ
ការបដិសេធ: ឯកសារនេះត្រូវបានបម្លែងភាសា ដោយប្រើសេវាបម្លែងភាសា AI Co-op Translator។ ទោះយើងខ្ញុំមានក្តីប្រាថ្នាឱ្យបានច្បាស់លាស់ តែសូមយល់ដឹងថាការបម្លែងដោយស្វ័យប្រវត្តិក៏អាចមានកំហុសឬភាពមិនត្រឹមត្រូវ។ ឯកសារដើមជាភាសាទីតាំងគួរត្រូវបានគេប្រើជាប្រភពច្បាស់លាស់។ សម្រាប់ព័ត៌មានសំខាន់ៗ សូមណែនាំឱ្យប្រើប្រាស់ការប្រែដោយមនុស្សជំនាញ។ យើងខ្ញុំមិនទទួលខុសត្រូវចំពោះការយល់ច្រឡំ ឬការបកស្រាយខុសបន្ទាប់ពីការប្រើប្រាស់ការបម្លែងនេះនោះទេ។