ai-agents-for-beginners

הנדסת הקשר עבור סוכני בינה מלאכותית

(לחץ על התמונה למעלה כדי לצפות בסרטון של השיעור הזה)

הבנת המורכבות של האפליקציה שאתה בונה סוכן בינה מלאכותית בשבילה היא חשובה ליצירת סוכן אמין. עלינו לבנות סוכני בינה מלאכותית שמנהלים מידע ביעילות כדי לענות על צרכים מורכבים שמעבר להנדסת פרומפטים.

בשיעור זה, נבחן מהי הנדסת הקשר ותפקידה בבניית סוכני בינה מלאכותית.

מבוא

שיעור זה יכסה:

• מהי הנדסת הקשר ולמה היא שונה מהנדסת פרומפטים.

• אסטרטגיות להנדסת הקשר יעילה, כולל איך לכתוב, לבחור, לדחוס ולהפריד מידע.

• כשלי קשר נפוצים שיכולים להכשיל את סוכן הבינה המלאכותית שלך ואיך לתקן אותם.

יעדי הלמידה

לאחר השלמת שיעור זה, תדע להבין איך:

• להגדיר הנדסת קשר ולהבדיל אותה מהנדסת פרומפטים.

• לזהות את הרכיבים המרכזיים של הקשר באפליקציות מבוססות מודל שפה גדול (LLM).

• להחיל אסטרטגיות לכתיבה, בחירה, דחיסה והפרדת הקשר לשיפור ביצועי הסוכן.

• להכיר כשלי קשר נפוצים כגון הרעלה, הסחת דעת, בלבול ועלבון, וליישם טכניקות הפחתה.

מהי הנדסת קשר?

עבור סוכני בינה מלאכותית, הקשר הוא מה שמניע את התכנון של הסוכן לבצע פעולות מסוימות. הנדסת קשר היא הפרקטיקה של הבטחת הסוכן שיש לו את המידע הנכון כדי להשלים את השלב הבא במשימה. חלון ההקשר מוגבל בגודלו, ולכן כבוני סוכנים עלינו לפתח מערכות ותהליכים לניהול הוספה, הסרה ועיבוד מידע בחלון ההקשר.

הנדסת פרומפט מול הנדסת הקשר

הנדסת פרומפט מתמקדת בערכת הוראות סטטיות בודדות כדי להנחות ביעילות את סוכני הבינה עם ערכת חוקים. הנדסת הקשר היא ניהול סט דינמי של מידע, כולל הפרומפט הראשוני, כדי להבטיח שלסוכן הבינה יש את כל שהוא צריך לאורך זמן. הרעיון המרכזי בהנדסת הקשר הוא להפוך את התהליך הזה לחוזר על עצמו ואמין.

סוגי הקשר

חשוב לזכור שהקשר אינו רק דבר אחד. המידע שסוכן הבינה זקוק לו יכול להגיע ממגוון מקורות שונים וחובתנו לוודא שלסוכן יש גישה למקורות אלה:

סוגי הקשר שסוכן בינה עשוי להזדקק לנהל כוללים:

• הוראות: אלו כמו “הכללים” של הסוכן – פרומפטים, הודעות מערכת, דוגמאות בוידאה מועטה (המראות כיצד לבצע פעולה), ותיאורים של כלים שהוא יכול להשתמש בהם. כאן מתמזגת ההתמקדות בהנדסת הפרומפט עם הנדסת הקשר.

• ידע: זה כולל עובדות, מידע שנשלף מבסיסי נתונים, או זכרונות ארוכי טווח שהסוכן צבר. זה כולל אינטגרציה של מערכת Retrieval Augmented Generation (RAG) אם לסוכן צריך גישה למאגרים שונים של ידע ובסיסי נתונים.

• כלים: אלו הן הגדרות של פונקציות חיצוניות, ממשקי API ושרתי MCP שהסוכן יכול לקרוא להם, יחד עם המשוב (התוצאות) שהוא מקבל בשימוש בהם.

• היסטוריית שיחה: הדו-שיח המתמשך עם המשתמש. עם הזמן, שיחות אלו מתארכות ומורכבות יותר, מה שאומר שהן תופסות מקום בחלון ההקשר.

• העדפות משתמש: מידע שנלמד על העדפות או אי-העדפות של המשתמש לאורך זמן. מידע זה יכול להיאגר ולהישאב בעת קבלת החלטות מרכזיות כדי לסייע למשתמש.

אסטרטגיות להנדסת קשר יעילה

אסטרטגיות תכנון

הנדסת קשר טובה מתחילה בתכנון טוב. להלן גישה שעוזרת לך להתחיל לחשוב איך ליישם את מושג הנדסת הקשר:

1. הגדר תוצאות ברורות - התוצאות של המשימות שסוכני הבינה יקבלו אמורות להיות מוגדרות בבירור. ענה על השאלה - “איך ייראה העולם כשהסוכן יסיים את המשימה?” במילים אחרות, איזו שינוי, מידע או תגובה אמורים להיות למשתמש לאחר אינטראקציה עם הסוכן.
2. מפה את ההקשר - לאחר שהגדרת את תוצאות הסוכן, עליך לענות על השאלה “איזה מידע הסוכן צריך כדי להשלים את המשימה הזו?”. כך תוכל להתחיל למפות איפה המידע נמצא.
3. צור צינורות הקשר - כעת כשאתה יודע איפה המידע, עליך לענות על השאלה “איך הסוכן יקבל את המידע הזה?”. זה יכול להתבצע בדרכים מגוונות כולל RAG, שימוש בשרתי MCP וכלים אחרים.

אסטרטגיות מעשיות

תכנון חשוב, אך ברגע שהמידע מתחיל לזרום לחלון ההקשר של הסוכן שלנו, עלינו להיות לנו אסטרטגיות מעשיות לניהולו:

ניהול הקשר

בעוד שחלק מהמידע יתווסף לחלון ההקשר אוטומטית, הנדסת הקשר עוסקת בלקיחת תפקיד פעיל יותר בניהול מידע זה, שניתן לבצע בכמה אסטרטגיות:

1. מחברת סוכן זה מאפשר לסוכן בינה מלאכותית לרשום הערות על מידע רלוונטי בנוגע למשימות הנוכחיות ולאינטראקציות עם המשתמש במהלך מפגש יחיד. זה צריך להתקיים מחוץ לחלון ההקשר בקובץ או אובייקט ריצה שהסוכן יכול לאחזר מאוחר יותר במפגש זה אם יש צורך.

2. זכרונות מחברות טובות לניהול מידע מחוץ לחלון ההקשר של מפגש יחיד. זכרונות מאפשרים לסוכנים לאחסן ולאחזר מידע רלוונטי על פני מפגשים מרובים. זה יכול לכלול סיכומים, העדפות משתמש ומשוב לשיפורים בעתיד.

3. דחיסת הקשר כאשר חלון ההקשר גדל ומתקרב למגבלה שלו, ניתן להשתמש בטכניקות כגון סיכום וגזירה. זה כולל שמירת המידע הרלוונטי ביותר בלבד או הסרת הודעות ישנות.

4. מערכות רב-סוכניות פיתוח מערכות רב-סוכניות הוא צורה של הנדסת קשר כי לכל סוכן יש חלון הקשר משלו. איך ההקשר הזה משותף ומועבר לסוכנים שונים הוא דבר נוסף לתכנן בעת בניית מערכות אלה.

5. סביבת ‘חול’ (Sandbox) אם סוכן צריך להריץ קוד או לעבד כמויות גדולות של מידע במסמך, זה יכול לדרוש כמות גדולה של טוקנים לעיבוד התוצאות. במקום לאחסן את כל זה בחלון ההקשר, הסוכן יכול להשתמש בסביבת sandbox שמסוגלת להריץ את הקוד הזה ולקרוא רק את התוצאות ומידע רלוונטי אחר.

6. אובייקטים במצב ריצה זה נעשה על ידי יצירת מכולות מידע לניהול מצבים שבהם הסוכן צריך גישה למידע מסוים. למשימה מורכבת, זה יאפשר לסוכן לאחסן את תוצאות כל תת-משימה שלב אחר שלב, כך שההקשר יישאר מחובר רק לתת-המשימה הספציפית הזו.

בדיקת הקשר

לאחר שתיישם אחת מהאסטרטגיות האלה, כדאי לבדוק מה השיחה הבאה עם המודל בפועל קיבלה. שאלה מועילה לניפוי שגיאות היא:

האם הסוכן טען יותר מדי הקשר, הקשר לא נכון, או חסר הקשר שנדרש?

אין צורך לתעד פרומפטים גולמיים, פלטי כלים או תוכן זכרונות כדי לענות על שאלה זו. בייצור, יש להעדיף רשומות בדיקת הקשר קטנות שמכילות ספירות, מזהים, קודים, ותוויות מדיניות:

• בחירה: עקוב אחר כמה חתיכות מועמדות, כלים או זכרונות נחשבו, כמה נבחרו, ואיזה כלל או ניקוד גרם לאחרים להיות מסוננים החוצה.
• דחיסה: הקלט טווח המקור או מזהה מעקב, מזהה סיכום, הערכת כמות טוקנים לפני ואחרי הדחיסה, והאם תוכן גולמי הוחרג מהשיחה הבאה.
• הפרדה: ציין איזו תת-משימה לרצה בסוכן נפרד, מושב, או sandbox, איזה סיכום מגביל הוחזר, והאם פלט גדול של הכלי נשאר מחוץ להקשר סוכן ההורה.
• זיכרון ו-RAG: שמור מזהי מסמכי שליפה, מזהי זיכרון, ניקודים, מזהים שנבחרו, ומצב צנזורה במקום טקסט מלא שנשלף.
• בטיחות ופרטיות: העדף קודים, מזהים, דליי טוקנים, ותוויות מדיניות על פני טקסט פרומפט רגיש, ארגומנטים של כלים, תוצאות כלים או גופי זיכרון משתמש.

המטרה אינה לשמור יותר הקשר אלא להשאיר מספיק ראיות שמפתח יכול להבין איזו אסטרטגיית הקשר הופעלה והאם היא שינתה את השיחה הבאה עם המודל בדרך המיועדת.

דוגמה להנדסת קשר

נניח שאנחנו רוצים שסוכן בינה מלאכותית “יתאם לי טיול לפריס.”

• סוכן פשוט המשתמש רק בהנדסת פרומפט עשוי רק להגיב: “אוקי, מתי תרצה לנסוע לפריס?”. הוא רק עיבד את השאלה הישירה שלך בזמן שהמשתמש שאל.

• סוכן המשתמש באסטרטגיות הנדסת הקשר שנסקרו יעשה הרבה יותר. לפני שהוא אפילו מגיב, המערכת שלו עשויה:

  ◦ לבדוק את היומן שלך לתאריכים פנויים (שליפת נתונים בזמן אמת).

 ◦ לזכור העדפות נסיעה קודמות (מהזיכרון ארוך הטווח) כמו חברת התעופה המועדפת, התקציב או אם אתה מעדיף טיסות ישירות.

 ◦ לאתר כלים זמינים להזמנת טיסות ומלונות.

• ואז, תגובה לדוגמה יכולה להיות: “היי [שמך]! אני רואה שאתה פנוי בשבוע הראשון של אוקטובר. האם רוצה שאחפש טיסות ישירות לפריס ב-[חברת התעופה המועדפת] במסגרת התקציב הרגיל שלך של [תקציב]?”. תגובה עשירה ומודעות להקשר זו מדגימה את כוח הנדסת הקשר.

כשלי קשר נפוצים

הרעלת הקשר

מה זה: כאשר הזייה (מידע שגוי שנוצר על ידי מודל השפה) או טעות נכנסים להקשר ומוזכרים שוב ושוב, גורמים לסוכן לרדוף אחרי מטרות בלתי אפשריות או לפתח אסטרטגיות אבסורדיות.

מה לעשות: יש ליישם אימות הקשר והפרדה. לאמת מידע לפני שהוא מתווסף לזיכרון ארוך הטווח. אם מתגלה הרעלה אפשרית, יש להתחיל נושאי הקשר חדשים כדי למנוע הפצת המידע השגוי.

דוגמה להזמנת טיול: הסוכן שלך מהזים טיסת ישירה מבעבר נמל מקומי קטן לעיר בינלאומית מרוחקת שלא באמת מציעה טיסות בינלאומיות. פרטי הטיסה שלא קיימים נשמרים בהקשר. מאוחר יותר, כשאתה מבקש מהסוכן להזמין, הוא ממשיך לנסות למצוא כרטיסים לנתיב בלתי אפשרי זה, מה שמוביל לשגיאות חוזרות.

פתרון: ליישם שלב של אימות קיום הטיסה ונתיבים עם API בזמן אמת לפני הוספת פרטי הטיסה להקשר העבודה של הסוכן. אם האימות נכשל, המידע השגוי “מופרד” ואינו בשימוש.

הסחת דעת בהקשר

מה זה: כאשר ההקשר נהיה גדול מדי והמודל מתמקד יותר מדי בהיסטוריה שנצברה במקום להשתמש במה שלמד במהלך האימון, מה שמוביל לפעולות חזרתיות או חסרות תועלת. מודלים עלולים להתחיל לטעות עוד לפני שחלון ההקשר מלא.

מה לעשות: יש להשתמש בסיכום הקשר. לדחוס מדי פעם מידע שנצבר לסיכומים קצרים, לשמור על פרטים חשובים ולהסיר היסטוריה מיותרת. זה עוזר לאפס את המיקוד.

דוגמה להזמנת טיול: דיברת זמן רב על יעדי חלום לטיול, כולל תיאור מפורט של טיול הטיולים שלך לפני שנתיים. כשאתה מבקש סוף סוף “למצוא טיסה זולה לחודש הבא,” הסוכן מתבלבל בפרטים הישנים והלא רלוונטיים ושואל שוב ושוב על ציוד הטיולים או מסלולים קודמים, ומתעלם מבקשתך הנוכחית.

פתרון: לאחר מספר סיבובים או כשההקשר גדל מדי, על הסוכן לסכם את החלקים האחרונים והרלוונטיים ביותר בשיחה – תוך מיקוד בתאריכי הנסיעה והיעד הנוכחי שלך – ולהשתמש בסיכום המונגש לשיחה הבאה עם המודל, תוך הסרת השיחה ההיסטורית הפחות רלוונטית.

בלבול הקשר

מה זה: כאשר הקשר מיותר, לרוב בצורת יותר מדי כלים זמינים, גורם למודל לייצר תגובות גרועות או לקרוא לכלים לא רלוונטיים. מודלים קטנים במיוחד חשופים לכך.

מה לעשות: ליישם ניהול עומס כלים באמצעות טכניקות RAG. לאחסן תיאורי כלים בבסיס נתונים וקטורי ולבחור בלבד את הכלים הרלוונטיים ביותר לכל משימה ספציפית. מחקרים מראים שיש להגביל את הבחירה לפחות מ-30 כלים.

דוגמה להזמנת טיול: הסוכן שלך מקבל גישה לעשרות כלים: book_flight, book_hotel, rent_car, find_tours, currency_converter, weather_forecast, restaurant_reservations, וכו’. אתה שואל, “מה הדרך הטובה ביותר להתנייד בפריס?” בגלל מספר הכלים הרב, הסוכן מתבלבל ומנסה לקרוא ל-book_flight בתוך פריס, או ל-rent_car למרות שאתה מעדיף תחבורה ציבורית, כי תיאורי הכלים חופפים או שהוא פשוט לא מסוגל להבחין בין הכלים הטובים ביותר.

פתרון: השתמש בRAG על תיאורי כלים. כשאתה שואל על התנועה בפריס, המערכת שולפת דינמית בלבד את הכלים הרלוונטיים ביותר כמו rent_car או public_transport_info בהתבסס על השאלה שלך, ומציגה “עומס” ממוקד של כלים ל-LLM.

פיצוץ הקשר

מה זה: כאשר קיימת מידע סותר בהקשר, מה שגורם להיגיון לא עקבי או לתגובות סופיות גרועות. זה קורה לעיתים קרובות כשהמידע מגיע בשלבים, והנחות מוקדמות שגויות נשארות בהקשר.

מה לעשות: השתמש בגיזום הקשר והעברה. גיזום פירושו הסרת מידע מיושן או סותר כשהפרטים החדשים מגיעים. העברה נותנת למודל יומן “מחברת” נפרדת לעיבוד מידע מבלי לבלגן את ההקשר הראשי.

דוגמת הזמנת נסיעות: בתחילה אתה אומר לסוכן שלך, “אני רוצה לטוס במחלקת תיירים.” מאוחר יותר בשיחה, אתה מחליט אחרת ואומר, “למעשה, לטיול הזה, בוא נלך למחלקת עסקים.” אם שתי ההוראות נשארות בהקשר, הסוכן עלול לקבל תוצאות חיפוש סותרות או להתבלבל לגבי איזו העדפה להעדיף.

פתרון: יש ליישם גיזום הקשר. כאשר הוראה חדשה סותרת הוראה ישנה, ההוראה הישנה מוסרת או מוחלפת במפורש בהקשר. לחלופין, הסוכן יכול להשתמש במחברת כתיבה כדי ליישב העדפות סותרות לפני קבלת ההחלטה, ולוודא שרק ההוראה הסופית והעקבית מנחה את פעולותיו.

יש לך שאלות נוספות על הנדסת הקשר?

הצטרף ל-Microsoft Foundry Discord כדי לפגוש לומדים אחרים, להשתתף בשעות קבלה ולקבל מענה לשאלות שלך על סוכני בינה מלאכותית.

השיעור הקודם

Agentic Protocols

השיעור הבא

Memory for AI Agents

---

כתב ויתור: מסמך זה תורגם באמצעות שירות תרגום אוטומטי Co-op Translator. למרות שאנו שואפים לדיוק, יש לקחת בחשבון שתרגומים אוטומטיים עלולים להכיל שגיאות או אי-דיוקים. יש להחשיב את המסמך המקורי בשפתו הטבעית כמקור הסמכות. למידע קריטי מומלץ להשתמש בתרגום מקצועי על ידי מתרגם אדם. אנו לא אחראים לכל אי-הבנה או פירוש שגוי הנובע מהשימוש בתרגום זה.

This site is open source. Improve this page.