התכנסות (הסתברות)
בתורת ההסתברות יש כמה משמעויות שונות למושג ההתכנסות של סדרת משתנים מקריים, שכולן מכלילות את המושג המתמטי הפשוט יותר, גבול של סדרה. כמו בענפים אחרים באנליזה, ההתכנסות של סדרה לגבול היא רעיון מרכזי בתורת ההסתברות, ויש לו השלכות חשובות בסטטיסטיקה ובתהליכים סטוכסטיים.
לדוגמה, נניח ש-הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_n} סדרה של משתנים מקריים בלתי תלויים בעלי תוחלת הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ \mu} ושונות הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ \sigma^2} , ותהי הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ Y_n = \frac{X_1+\dots+X_n}{n}} סדרת הממוצעים. לפי החוק החלש של המספרים הגדולים, הסדרה הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ Y_n} מתכנסת בהסתברות אל התוחלת; לפי החוק החזק של המספרים הגדולים, אותה סדרה מתכנסת כמעט בוודאות; ואילו לפי משפט הגבול המרכזי, הסדרה המתוקננת הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ \frac{Y_n-\mu}{\sigma/\sqrt{n}}} מתכנסת בהתפלגות אל ההתפלגות הנורמלית הסטנדרטית.
להלן, הוא משתנה מקרי ו-הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_1,X_2,\dots,X_n,\dots} היא סדרה של משתנים מקריים, המוגדרים כולם על אותו מרחב הסתברות (למעט התכנסות בהתפלגות המוגדרת גם ללא הדרישה למרחב משותף).
התכנסות בהתפלגות
נניח ש- הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ F_n} הן פונקציות ההסתברות המצטברת של המשתנים המקריים הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_n} , וש- הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ F} היא פונקציית ההסתברות המצטברת של . הסדרה הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_n} מתכנסת בהתפלגות ל- X, אם לכל x שבו F רציפה, הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ F_n(x) \rightarrow F(x)} , כלומר, סדרת הפונקציות הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ F_n} מתכנסת נקודתית לפונקציה F לכל נקודת רציפות של F. מכיוון ש- הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ F(x) = P(X \leq x)} , משמעותה של התכנסות כזו היא שהסיכוי של ליפול בקטע מסוים, כאשר n גדול מספיק, קרוב לסיכוי של X ליפול באותו קטע. מקובל לסמן התכנסות בהתפלגות ב- הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_n \xrightarrow{\mathcal D} X} .
התכנסות בהתפלגות היא הצורה החלשה ביותר של התכנסות, והיא נקראת לפעמים התכנסות חלשה, בדומה להתכנסות חלשה של מידות. התכנסות בהתפלגות שקולה להתכנסות נקודתית של סדרת הפונקציות המציינות אל הפונקציה המציינת של המשתנה בגבול. סוג זה של התכנסות נובע מכל אחד מן הסוגים האחרים שיוצגו להלן, ומכאן שהוא השכיח ביותר. אם המשתנה המקרי X הוא קבוע, אז התכנסות בהתפלגות שקולה להתכנסות בהסתברות, החזקה ממנה בדרך כלל.
התכנסות בהתפלגות נשמרת תחת פונקציות רציפות: אם הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_n \xrightarrow{\mathcal D} X} אז הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ f(X_n) \xrightarrow{\mathcal D} f(X)} לכל פונקציה רציפה הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ f: \mathbb{R} \rightarrow \mathbb{R}} .
התכונה " לכל x" (ללא המגבלה על הרציפות של F) חזקה ממש מהתכנסות בהתפלגות.
התכנסות בהסתברות
הסדרה הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_1,\dots,X_n,\dots} מתכנסת בהסתברות אל המשתנה המקרי X, אם לכל הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ 0 < \delta} , סדרת ההסתברויות הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ P(|X_n - X|<\delta)} מתכנסת ל-1. במלים אחרות, הסיכוי לכך שאברי הסדרה יהיו רחוקים מ- X, שואף לאפס. מקובל לסמן התכנסות בהסתברות ב- הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_n \xrightarrow{P} X} . כל סדרה המתכנסת בהסתברות, מתכנסת גם בהתפלגות.
התכנסות כמעט בוודאות
הסדרה הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_1,\dots,X_n,\dots} מתכנסת כמעט בוודאות (Almost surely) אל המשתנה המקרי X, אם הסיכוי לכך ש- הפענוח נכשל (שגיאת המרה. השרת ("https://wikimedia.org/api/rest_") השיב: "Cannot get mml. Server problem."): {\displaystyle \ \lim _{n\rightarrow \infty }X_{n}=X} שווה ל-1. במקרה כזה מסמנים הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_n \xrightarrow{a.s.} X} . התכנסות כמעט בוודאות נקראת לפעמים התכנסות בהסתברות 1, התכנסות כמעט בכל מקום, או התכנסות במובן החזק.
מונח זה הוא מקרה פרטי של התכנסות כמעט בכל מקום של סדרת פונקציות מדידות. במקרה ההוא המידה לא בהכרח סופית, ולכן ההגדרה הכללית היא שקבוצת הנקודות עליהן אין התכנסות היא ממידה אפס.
כל סדרה המתכנסת כמעט בוודאות מתכנסת גם בהסתברות, ולכן גם בהתפלגות. מאידך, התכנסות כמעט בוודאות אינה שכיחה במיוחד. למשל, אם המשתנים הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_n} בלתי תלויים, אז הסדרה אינה יכולה להתכנס כמעט בוודאות, אלא אם המשתנה X שאליו היא מתכנסת הוא קבוע. אם למשתנים תוחלת אפס והטור הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ \sum V(X_n)} מתכנס, אז הסדרה מתכנסת לאפס כמעט בוודאות.
התכנסות כמעט תמיד
הסדרה הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_1,\dots,X_n,\dots} מתכנסת כמעט תמיד אל X, אם לכל הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ \delta>0} , ההסתברויות הפענוח נכשל (שגיאת המרה. השרת ("https://wikimedia.org/api/rest_") השיב: "Cannot get mml. Server problem."): {\displaystyle \ p_{n}=P(\forall k>n:|X_{k}-X|<\delta )} שואפות ל-1. תופעה זו שקולה להתכנסות כמעט בוודאות.
התכנסות בוודאות
אם הגבול הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ \lim_{n\rightarrow \infty} X_n} קיים ושווה ל- X בוודאות (ולא רק בהסתברות 1), אז הסדרה מתכנסת בוודאות ל-X. זוהי התכנסות חזקה יותר מהתכנסות כמעט בוודאות, אך מבחינת תורת ההסתברות ההבדל בין השתיים זניח, ולכן ההתכנסות בוודאות אינה שימושית במיוחד.
התכנסות בתוחלת
הסדרה הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_1,\dots,X_n,\dots} מתכנסת בתוחלת אל X, אם לכל המשתנים המקריים הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ |X_n|} יש תוחלת סופית, והסדרה הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ E(|X_n-X|)} שואפת לאפס. באופן כללי יותר, הסדרה מתכנסת במומנט ה-p-י אם לכל המשתנים כנ"ל יש מומנט p-י סופי, והסדרה הסדרה הפענוח נכשל (שגיאת המרה. השרת ("https://wikimedia.org/api/rest_") השיב: "Cannot get mml. Server problem."): {\displaystyle \ E(|X_{n}-X|^{p})} שואפת לאפס. (התכנסות בתוחלת היא התכנסות במומנט הראשון). זוהי למעשה התכנסות במרחב Lp.
התכנסות במומנט ה-p-י חזקה יותר ככל ש-p גדול יותר (בתנאי ש- הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ p\geq 1} ), ותמיד (לכל 0 < p) נובעת ממנה התכנסות בהסתברות (לפי אי-שוויון צ'ביצ'ב). מאידך, אם המשתנים הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_n} חסומים, אז התכנסות בהסתברות גוררת גם התכנסות במומנט ה-p-י לכל הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ p \geq 1} .
התכנסות חלשה
סוג נוסף של התכנסות הוא התכנסות חלשה - נאמר כי הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle X_n \overset{w}{\to} X} (מהמילה weakly) אם לכל פונקציה רציפה וחסומה הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle g} מתקיים הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle E[g(X_n)] \to E[g(X)]} .
התכנסות חלשה למעשה שקולה להתכנסות בהתפלגות. למעשה, אפשר להחליף בשקילות את התנאי על הפונקציה שתהיה פונקציה חסומה וגזירה כל מספר סופי של פעמים.
הגדרות פורמליות של טיפוסי ההתכנסות
הסדרה הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X_1,\dots,X_n,\dots} מתכנסת בהסתברות ל-הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ X} אם
- הפענוח נכשל (שגיאת המרה. השרת ("https://wikimedia.org/api/rest_") השיב: "Cannot get mml. Server problem."): {\displaystyle \ \forall \epsilon >0:\forall \delta >0:\exists N\!:\forall n>N\!:P(|X_{n}-X|<\delta )>1-\epsilon } ;
מתכנסת כמעט תמיד אם
- הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ \forall \epsilon > 0: \forall \delta > 0: \exists N\!: P(\forall n>N\!: |X_n-X|<\delta) > 1-\epsilon} ;
ומתכנסת כמעט בוודאות אם
- הפענוח נכשל (SVG (אפשר להפעיל MathML בעזרת הרחבת דפדפן): תשובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://wikimedia.org/api/rest_v1/":): {\displaystyle \ P(\forall \delta > 0: \exists N\!: \forall n>N\!: |X_n-X|<\delta) = 1} .
ראו גם
לקריאה נוספת
- עלי מרצבך ואברהם שמרון, תורת ההסתברות, אקדמון, 1994.
