תזכורת: ממוצע וסטיית תקן
בכל מדגם של שני משתנים יש לנו שתי רשימות של ערכים: ערכי וערכי . לכל רשימה מחשבים מרכז (ממוצע) ומדד של פיזור (סטיית תקן).
במדויק: עבור ערכים הממוצע הוא , וסטיית התקן היא . סטיית התקן תמיד , והיא שווה רק כשכל הערכים שווים. באותו אופן מגדירים ו-.
תזכורת: מקדם המתאם
בנושא הקודם מדדנו במספר אחד עד כמה הנקודות בדיאגרמת הפיזור קרובות לקו ישר, ובאיזה כיוון: מקדם המתאם .
במדויק: כאשר ו-, מקדם המתאם הוא . תמיד . הסימן של הוא כיוון הקשר הלינארי (חיובי או שלילי). אם ורק אם כל הנקודות על ישר אחד, ו- אומר שאין קשר סטטיסטי לינארי.
1. משוואת ישר הרגרסיה מממוצעים, סטיות תקן ומקדם מתאם
ישר הרגרסיה
כשבדיאגרמת הפיזור הנקודות מסתדרות בערך לאורך קו ישר, אפשר לתאר את הקשר בעזרת ישר אחד: ישר הרגרסיה. בעזרתו מנבאים את לפי .
במדויק: ישר הרגרסיה לניבוי לפי הוא הישר שעובר דרך נקודת הממוצעים ושהשיפוע שלו הוא , כאשר הממוצעים, סטיות התקן (, ) ו- מקדם המתאם.
הישר נבנה משלושה דברים שכבר יודעים לחשב: הממוצעים, סטיות התקן ומקדם המתאם. כש- השיפוע הוא , והישר הוא .
באיור: חמש תצפיות, ישר הרגרסיה שלהן , ונקודת הממוצעים שעליו.
משוואת ישר הרגרסיה (לניבוי לפי )
משוואת הישר:
השיפוע:
הם הממוצעים, סטיות התקן ו- מקדם המתאם.
לא להחליף בין סטיות התקן: בישר לניבוי , סטיית התקן של נמצאת במונה, (ולא ).
מציאת משוואת ישר הרגרסיה
כשנתונים הממוצעים, סטיות התקן ומקדם המתאם (או טבלת נתונים שממנה מחשבים אותם):
1. מחשבים (או קוראים מהנתונים) את , , , ו-.
2. מחשבים את השיפוע .
3. מציבים בנוסחה .
4. פותחים סוגריים ומבודדים את , עד הצורה .
הממוצע של הולך עם , והממוצע של הולך עם : , ולא .
בדיקה עצמית: מציבים במשוואה שהתקבלה. אם לא יוצא , יש טעות בבידוד .
דוגמה א - משוואת ישר הרגרסיה מנתונים מסכמים
נתון: , , , , . מצאו את משוואת ישר הרגרסיה לניבוי לפי .
1. שיפוע: .
2. הצבה בנוסחה: .
3. בידוד : , ולכן .
דוגמה ב - משוואת ישר הרגרסיה מטבלת נתונים
בטבלה הנתונים של 5 תצפיות:
א. חשבו את , , ו-.
ב. חשבו את מקדם המתאם .
ג. מצאו את משוואת ישר הרגרסיה לניבוי לפי .
1. א. ממוצעים: , .
2. סטיות מהממוצע: ב-: . ב-: .
3. סטיות תקן: , .
4. ב. סכום המכפלות של הסטיות: .
5. מקדם המתאם: . קשר לינארי חיובי חזק.
6. ג. שיפוע: .
7. הצבה: , כלומר , ולכן .
8. בדיקה: מציבים : .
א. , , , . ב. . ג. .
2. ניבוי בעזרת ישר הרגרסיה
ניבוי
ישר הרגרסיה נבנה כדי לענות על שאלה אחת: אם ידוע , מה כדאי להעריך לגבי ? את ההערכה הזאת קוראים ניבוי.
במדויק: הניבוי של עבור ערך נתון הוא הערך של ישר הרגרסיה ב-: מציבים במשוואת ישר הרגרסיה , והתוצאה היא ערך הניבוי. זו הערכה, ולא הערך האמיתי של בתצפית.
הנקודות מפוזרות סביב הישר, ולכן הערך האמיתי בדרך כלל קצת גבוה או קצת נמוך מהניבוי. רק כש- או כל הנקודות על הישר.
באיור: ישר הרגרסיה מנבא ציון לפי מספר שעות לימוד. עולים מ- עד הישר, ופונים לציר ה-: הניבוי הוא 78.
ניבוי בעזרת ישר הרגרסיה
כשמבקשים ניבוי של עבור ערך נתון של :
1. מוצאים את משוואת ישר הרגרסיה (אם היא לא נתונה).
2. מציבים את ערך ה- הנתון. התוצאה היא ערך הניבוי של .
תכונות הניבוי
•הניבוי עבור הוא תמיד , כי הישר עובר דרך נקודת הממוצעים.
•הניבוי מדויק לכל התצפיות רק בקשר מושלם (). בכל מקרה אחר הוא הערכה.
לא כותבים "הציון יהיה 78" או "בדיוק 78". כותבים: "על פי ישר הרגרסיה, הניבוי לציון הוא 78".
לשאלה "האם אפשר להסיק שהערך הוא בדיוק...?" התשובה היא לא: זה ניבוי, והקשר אינו מושלם. בנימוק מציינים את ערך .
דוגמה - ניבוי, ותלמיד שקיבל ציון שונה מהניבוי
נבדק הקשר בין מספר שעות הלימוד למבחן () ובין הציון במבחן (). נתון: , , , , .
א. מצאו את משוואת ישר הרגרסיה לניבוי הציון לפי מספר שעות הלימוד.
ב. על פי ישר הרגרסיה, מהו הניבוי לציון של תלמיד שלמד 8 שעות?
ג. תלמיד שלמד 8 שעות קיבל 85. האם זה סותר את ישר הרגרסיה? נמקו.
1. נתון: , , , , . המטרה: משוואת הישר, ניבוי עבור , והשוואה לתצפית.
2. א. שיפוע: .
3. הצבה: , כלומר , ולכן .
4. ב. מציבים : .
5. ג. לא סותר. , כלומר הקשר אינו מושלם והנקודות מפוזרות סביב הישר. 78 הוא ניבוי (הערכה), ולתלמיד מסוים יכול להיות ציון גבוה או נמוך ממנו.
א. . ב. 78. ג. לא סותר: הניבוי הוא הערכה, כי .
3. הקשר בין שיפוע ישר הרגרסיה למקדם המתאם ונקודת הממוצעים
שיפוע ישר הרגרסיה
בנוסחה של ישר הרגרסיה מופיע מקדם המתאם בתוך השיפוע. לכן מהשיפוע אפשר ללמוד דברים על , ולהפך.
במדויק: שיפוע ישר הרגרסיה הוא המקדם במשוואה , והוא שווה . הוא אומר בכמה משתנה הניבוי של כאשר גדל ב-1. סטיות התקן ו- חיוביות, ולכן ל- ול- תמיד אותו סימן, ו- בדיוק כש-.
באיור: שלושה ישרי רגרסיה אפשריים עם אותה נקודת ממוצעים . קשר חיובי נותן ישר עולה, קשר שלילי נותן ישר יורד, ו- נותן את הישר האופקי .
שיפוע ומקדם המתאם
- , ולכן .
•הסימן של שווה לסימן של . כש- גם .
•כש- מתקיים .
שיפוע גדול לא אומר קשר חזק. השיפוע תלוי ביחידות המדידה: אם מודדים את בסנטימטרים במקום במטרים, השיפוע גדל פי 100, אבל לא משתנה. את עוצמת הקשר קובע רק .
תמיד
מקדם המתאם תמיד בין ל-. מספר מחוץ לתחום הזה לא יכול להיות מקדם מתאם.
כשצריך לבחור את מבין כמה מספרים: קודם פוסלים מספרים מחוץ ל-, אחר כך לפי הסימן (כיוון הישר או כיוון הנקודות), ובסוף לפי העוצמה (כמה הנקודות קרובות לישר).
נקודת הממוצעים
ישר הרגרסיה עובר דרך . לכן במשוואה מתקיים . כשנתונים שניים מבין , , (ו- ידוע), מוצאים את השלישי בהצבה.
דוגמה א - בחירת לפי סימן השיפוע, בלי חישוב
משוואת ישר הרגרסיה לניבוי לפי היא . אחד מן המספרים , , , הוא מקדם המתאם . קבעו איזה מהם, ונמקו (אין צורך לחשב).
1. נתון: השיפוע . המטרה: לזהות את מבין ארבעה מספרים.
2. לא יכול להיות מקדם מתאם, כי תמיד .
3. השיפוע שלילי. לשיפוע ולמקדם המתאם אותו סימן, ולכן . זה פוסל את .
4. אם , השיפוע היה . זה פוסל את .
דוגמה ב - מציאת ו- מיחס סטיות התקן
משוואת ישר הרגרסיה לניבוי לפי היא , כאשר פרמטר. נתון: , .
א. מצאו את .
ב. נתון כי . חשבו את .
ג. הראו שבמדגם הזה לא ייתכן ש-.
1. נתון: , , . המטרה: , , והוכחה ש-.
2. א. הישר עובר דרך : , ולכן .
3. ב. .
4. ג. אם , אז .
5. אבל תמיד , ולכן זה לא ייתכן.
א. . ב. . ג. אם היה יוצא , וזה לא ייתכן.
4. השפעת טרנספורמציה לינארית על ישר הרגרסיה ועל עוצמת הקשר
טרנספורמציה לינארית ב-
לפעמים כל ערכי משתנים באותה צורה: המחירים עלו כולם ב-6%, או שמכל משקל צריך להפחית 2 גרם. שינוי כזה נקרא טרנספורמציה לינארית במשתנה .
במדויק: טרנספורמציה לינארית ב- מחליפה כל ערך ב-, כאשר ו- הם קבועים, אותם קבועים לכל התצפיות, ו-. ערכי לא משתנים. בשיעור הזה : הוספה או הפחתה של קבוע (), הכפלה במספר חיובי (), או שניהם.
שינוי אחיד לא משנה עד כמה הנקודות קרובות לקו ישר, ולכן מקדם המתאם לא משתנה. מה שמשתנה הוא , אולי , ולכן גם ישר הרגרסיה.
הוספת קבוע מזיזה את כל הנקודות למעלה או למטה: הפיזור לא משתנה, השיפוע נשאר, והישר זז באותו קבוע.
הכפלה ב- מותחת או מכווצת את הנקודות לאורך ציר ה-: גם וגם מוכפלים ב-, ולכן גם השיפוע.
באיור: הפחתת 2 מכל ערכי מורידה את הישר אל , באותו שיפוע.
טרנספורמציה לינארית ב-
את הישר החדש לא צריך לבנות מחדש: מפעילים את אותו שינוי על כל אגף ימין של המשוואה .
שינוי באחוזים
עלייה של בכל ערכי היא הכפלה ב-. ירידה של היא הכפלה ב- (כאשר ).
אם כל ערכי ירדו, לא יורד והקשר לא נחלש. שינוי אחיד לכל הערכים לא משנה את . בהכפלה משתנים השיפוע ו-.
הוספת קבוע ל- לא משנה את השיפוע ולא את . היא מזיזה רק את ואת הישר כולו למעלה או למטה.
דוגמה א - הפחתת קבוע מכל ערכי
משוואת ישר הרגרסיה לניבוי משקל עכבר בגרמים () לפי משקל מנת המזון היומית שלו בגרמים () היא . התברר שהמאזניים של העכברים לא היו מכוילים, ויש להפחית 2 גרמים ממשקל כל עכבר.
א. מהי משוואת ישר הרגרסיה החדשה?
ב. מהו הניבוי החדש למשקל עכבר שמנת המזון שלו 3.5 גרמים?
1. נתון: הישר , ומכל ערך מפחיתים 2. המטרה: הישר החדש וניבוי עבור .
2. א. הפחתת קבוע לא משנה את השיפוע ואת , והישר יורד ב-2: .
3. ב. מציבים : .
א. . ב. 18.5 גרמים.
דוגמה ב - עלייה של 6% בכל ערכי
נבדק הקשר בין מספר הילדים של זוג () ובין ההוצאה החודשית שלו על דלק בשקלים (). נמצא: , ומשוואת ישר הרגרסיה היא . בעקבות עליית מחירים, ההוצאה של כל זוג עלתה ב-6%.
א. קבעו אם גדלה, קטנה או לא השתנתה, ומצאו את ערכה החדש.
ב. קבעו אם גדל, קטן או לא השתנה. נמקו.
ג. מצאו את משוואת ישר הרגרסיה החדשה.
1. נתון: , הישר , וכל ערך עלה ב-6%. המטרה: החדשה, השינוי ב- והישר החדש.
2. עלייה של 6% היא הכפלה של כל ב-.
3. א. הפיזור גדל באותו יחס: . סטיית התקן גדלה.
4. ב. לא השתנה: כל ערכי הוכפלו באותו מספר חיובי, והקשר הלינארי נשמר באותה עוצמה ובאותו כיוון.
5. ג. כל אגף ימין מוכפל ב-: .
א. גדלה: . ב. לא השתנה. ג. .
5. מתי ניבוי בעזרת ישר הרגרסיה חסר משמעות
ניבוי חסר משמעות
את הנוסחה של ישר הרגרסיה אפשר להפעיל על כל טבלת נתונים, ותמיד יוצא ישר. אבל לא תמיד לישר הזה יש ערך.
במדויק: לניבוי בעזרת ישר הרגרסיה יש משמעות רק כאשר קיים קשר סטטיסטי לינארי בין שני המשתנים, כלומר כשהנקודות בדיאגרמת הפיזור מסתדרות בקירוב סביב קו ישר. כשאין קשר סטטיסטי בין המשתנים, או כשהקשר אינו לינארי, אין לישר הרגרסיה משמעות מעשית, גם אם אפשר לחשב אותו.
קשר שאינו לינארי יכול להיות חזק מאוד ובכל זאת לתת . באיור: חמש נקודות על הפרבולה . מקדם המתאם שלהן , ולכן ישר הרגרסיה הוא , ישר שלא מתאר את הקשר בכלל.
מתי ניבוי בעזרת ישר הרגרסיה חסר משמעות
הניבוי שימושי כשהנקודות בדיאגרמת הפיזור קרובות לקו ישר, ו- קרוב ל- או ל-.
לא אומר ש"אין שום קשר". הוא אומר שאין קשר לינארי. ייתכן קשר עקום חזק, למשל בצורת קערה.
גם קשר לינארי חזק הוא קשר סטטיסטי, לא סיבה ותוצאה. לא כותבים ש- "גורם" ל- לגדול רק בגלל ש- חיובי וקרוב ל-1.
לפני ניבוי בודקים: האם קרוב ל- או ל-, והאם הנקודות בדיאגרמת הפיזור מסתדרות סביב קו ישר? אם לא, כותבים שהניבוי חסר משמעות ומנמקים.
דוגמה א - מקדם מתאם קרוב ל-0: אין קשר לינארי
נבדק הקשר בין מידת הנעליים של תלמידים () ובין הציון שלהם במתמטיקה (). נמצא , ומשוואת ישר הרגרסיה היא . האם כדאי להשתמש בישר הזה כדי לנבא ציון של תלמיד לפי מידת הנעליים שלו? נמקו.
1. נתון: וישר הרגרסיה. המטרה: להחליט אם לניבוי יש משמעות.
2. קרוב מאוד ל-0. כמעט אין קשר לינארי בין המשתנים.
3. לכן הנקודות מפוזרות רחוק מהישר, והניבוי לפי הישר לא אומר כמעט כלום על הציון של תלמיד מסוים.
לא. הקשר הלינארי חלש מאוד, ולכן הניבוי חסר משמעות.
דוגמה ב - כשהקשר אינו לינארי
בטבלה נתונים של 5 תצפיות:
א. חשבו את , ואת מקדם המתאם .
ב. מצאו את משוואת ישר הרגרסיה לניבוי לפי .
ג. האם ישר הרגרסיה מתאים לניבוי בנתונים האלה? נמקו בעזרת דיאגרמת הפיזור.
1. א. , .
2. סטיות: ב-: . ב-: .
3. סכום המכפלות: . לכן .
4. ב. , ולכן , והישר הוא : .
5. ג. בדיאגרמה הנקודות יוצרות צורת "קערה": יש קשר ברור, אבל הוא לא לינארי. הישר מנבא 6 לכל , בעוד ש- האמיתי נע בין 4 ל-8.
א. , , . ב. . ג. לא: הקשר אינו לינארי, ולכן לישר הרגרסיה אין משמעות לניבוי.