מהם מסווגים בלמידת מכונה: עצי החלטה

מסווגים הם אלגוריתמים של למידת מכונה הפועלים ע"י הקצאת מחלקה לכל אלמנט של מערך הנתונים. ישנם סוגים שונים של מסווגים, זה שנחקור במאמר זה הוא המסווגן אשר מבוסס על עצי החלטה.

עצי החלטה הם ייצוג של למידה ב למידת מכונה. עץ הוא מבנה נתונים שהמידע שלו כלול בצמתים, והצמתים מחוברים זה לזה באמצעות קשתות. הצמתים ממוקמים בדיוק במקום שבו קשת אחת פוגשת קשת אחרת.

להלן ייצוג גרפי של עץ. עצים יכולים להכיל מידע מסוגים שונים

מבחינה גרפית אנו יכולים לראות 6 צמתים המכילים את האלמנטים A, B, C, D, E, F בעוד שהקשתות הן הקטעים המחברים את המידע.

למבנה עץ כזה יש:

• צומת שנקרא שורש או שורש, במקרה שלנו הוא זה שמכיל את המידע A. זה תמיד הצומת שממנו יורד כל העץ;
• הצמתים B ו-C הם צאצאים של צומת A, כי יש קשתות הקושרות את הצאצאים מצומת עליון;
• הצמתים שאין להם צאצאים נקראים עלים, ובמקרה זה הם הצמתים D, F ו-C;
• לעץ יש גם עומק, כלומר המרחק הגדול ביותר מהשורש לעלה, במקרה שלנו 3

בלמידת מכונה מבנה עץ ההחלטות נובע בדיוק מסוג זה של מבנה, ההבדל היחיד הוא שכל צומת אינו מכיל מידע אלא מכיל תנאי, תנאי שיש להעריך. עצים אלו נקראים גם Classification And Regression Tree (CART), והם מובנים במודל המתאמן על ידי המכונה.

דוגמה לסיווג

הבה נסתכל כעת על מקרה שבו מנתחים נתונים משמונה מכוניות. עבור כל מכונית אנו מכירים את הנפח ואת מחיר המכירה כמאפיינים, וכל מכונית מתאימה ליעד נכון או לא נכון שאומר לנו אם המכונית היא הזדמנות או לא.

להלן טבלת הסיכום: