התפלגות מרצ'נקו-פסטור

התפלגות מרצ'נקו פסטור

פונקציית צפיפות ההסתברות
מאפיינים
פרמטרים	$\sigma$ סטיית תקן ערכי המטריצה, $\lambda \in (0,\infty )$
תומך	$x\in [\lambda ^{-},\lambda ^{+}]\!$ כאשר:$\lambda ^{-}=\sigma ^{2}(1-{\sqrt {\lambda }})^{2},\lambda ^{+}=\sigma ^{2}(1+{\sqrt {\lambda }})^{2}$
פונקציית צפיפות הסתברות (pdf)	$(1-{\frac {1}{\lambda }})_{+}\delta _{0}+{\frac {\sqrt {(\lambda ^{+}-x)(x-\lambda ^{-})}}{2\pi \sigma ^{2}\lambda x}}1_{[\lambda ^{-},\lambda ^{+}]}(x)dx\!$
תוחלת	$\sigma ^{2}$
שונות	$\sigma ^{4}\lambda$

התפלגות מרצ'נקו פסטור היא פונקציית התפלגות מתחום המטריצות האקראיות. השימוש העיקרי בה הוא תיאור ההתנהגות האסימפטוטית של ערכים עצמיים של מטריצות אקראיות בעלות ערכים ממשיים, בלתי תלויים ושווי התפלגות.

ההתפלגות (שלעיתים נקראת גם חוק מרצ'נקו-פסטור) קרויה על שם צמד המתמטיקאים הסובייטים וולודימיר מרצ'נקו וליאוניד פסטור שהוכיחו אותה בשנת 1967.

הגדרות ותנאים לקיום המשפט

תהי $X$ מטריצה אקראית בגודל $m\times n$ שערכיה הם משתנים מקריים בלתי תלויים ושווי התפלגות המקיימים $E[X_{ij}]=0$ ו- $E[X_{ij}^{2}]=\sigma ^{2}<\infty$ לכל $1\leq i\leq m,1\leq j\leq n$. בנוסף נניח כי $m,n\rightarrow \infty$ כך ש- ${\frac {m}{n}}\rightarrow \lambda \in (0,\infty )$, ונסמן$\lambda ^{-}=\sigma ^{2}(1-{\sqrt {\lambda }})^{2},\lambda ^{+}=\sigma ^{2}(1+{\sqrt {\lambda }})^{2}$.

נסמן $Y={\frac {1}{n}}XX^{T}$. נשים לב כי $Y$ מטריצה חיובית ויהיו $\lambda _{1},...,\lambda _{m}$ ערכיה העצמיים. כמו כן, נסמן ב- $\mu _{m}$ את פונקציית התפלגות הערכים העצמיים שלה (Empirical Spectral Measure) אשר אותה נרצה לאמוד. פונקציית ההתפלגות מוגדרת לכל קבוצה $A$ חלקית של $\mathbb {R}$ על ידי:

$$\mu _{H}(A)={\frac {1}{n}}\,\#\left\{{\text{eigenvalues of }}H{\text{ in }}A\right\},\quad A\subset \mathbb {R} .$$

או באמצעות הניסוח השקול:

$$\mu _{H}(A)={\frac {1}{n}}\sum _{i}\delta _{\lambda _{i}}$$

דוגמה: בכחול היסטוגרמת ערכים עצמיים של $Y$ כאשר $X$ בגודל $10000\times 5000$ ובצהוב התפלגות מרצ'נקו פסטור עבור $\lambda =0.5$

ניסוח המשפט

כאשר תנאי המשפט מתקיימים, הפונקציה $\mu _{m}$ מקיימת $\mu _{m}\rightarrow \mu$ כאשר $\mu$ היא פונקציה המוגדרת באופן הבא:

המקרה $0<\lambda \leq 1$

במקרה זה מתקיים כי המטריצה $Y$ היא בסבירות גבוהה הפיכה והפונקציה $\mu$ מוגדרת על ידי:

$d\mu (x)={\frac {1}{2\pi \sigma ^{2}\lambda x}}{\sqrt {(\lambda ^{+}-x)(x-\lambda ^{-})}}1_{[\lambda ^{-},\lambda ^{+}]}(x)dx$

המקרה $\lambda >1$

דוגמה: בכחול היסטוגרמת ערכים עצמיים של $Y$ כאשר $X$ בגודל $2000\times 3000$ ובצהוב התפלגות מרצ'נקו פסטור עבור $\lambda =1.5$

במקרה זה למטריצה $Y$ יש ערך עצמי 0 עם ריבוב התלוי בפרמטר $\lambda$. זה בא לידי ביטוי בפונקציה בתור נקודת מסה $\mu$ בנקודה 0. השינוי ביחס למקרה $\lambda \leq 1$ מתקבל על ידי הוספה של של הביטוי $(1-{\frac {1}{\lambda }})\delta _{0}$ כאשר $\delta _{0}$ זוהי פונקציית דלתא, כך שבמקרה זה הפונקציה $\mu$ היא:

$d\mu (x)=(1-{\frac {1}{\lambda }})\delta _{0}+{\frac {1}{2\pi \sigma ^{2}\lambda x}}{\sqrt {(\lambda ^{+}-x)(x-\lambda ^{-})}}1_{[\lambda ^{-},\lambda ^{+}]}(x)dx$

לעיתים מקובל לחבר את שני המקרים לביטוי אחד באופן הבא: מגדירים את הפונקציה $(x)_{+}=max(x,0)$ ובכך ניתן להחליף את המחובר הראשון עם הביטוי $(1-{\frac {1}{\lambda }})_{+}\delta _{0}$ ובכך מקבלים ביטוי יחיד עבור שני המקרים.

מקרה פרטי: $\lambda ,\sigma =1$

במקרה זה מתקיים $\lambda ^{-}=0,\lambda ^{+}=4$ וכן:

$d\mu (x)={\frac {1}{2\pi x}}{\sqrt {(4-x)x}}1_{[0,4]}(x)dx$

עבור החלפת המשתנים $x=u^{2},dx=2udu$ מקבלים:

$d\mu (u)={\frac {1}{2\pi u^{2}}}{\sqrt {(4-u^{2})u^{2}}}1_{[0,2]}(u)*2udu={\frac {1}{\pi }}{\sqrt {(4-u^{2})}}1_{[0,2]}(u)du$

התפלגות זו נקראת גם "חוק רבע המעגל". ניתן לשים לב לדמיון הרב בין ביטוי זה להתפלגות חצי המעגל של ויגנר.

מומנטים

עבור $k\geq 1$ המומנט ה-$k$ של ההתפלגות נתון על ידי:

$$\sum _{r=0}^{k-1}{\frac {\sigma ^{2k}}{r+1}}{\binom {k}{r}}{\binom {k-1}{r}}\lambda ^{r}={\frac {\sigma ^{2k}}{k}}\sum _{r=0}^{k-1}{\binom {k}{r}}{\binom {k}{r+1}}\lambda ^{r}$$

מהצבה של $k=1$ ניתן לחשב כי תוחלת ההתפלגות היא $\sigma ^{2}$. כעת על ידי ההצבה $k=2$ השונות שמתקבלת היא $\sigma ^{4}\lambda$.

אחת הדרכים להוכחת המשפט היא באמצעות שיטת המומנטים. מכיוון שהתומך של $\mu$ קומפקטי היא נקבעת באופן בלעדי באמצעות המומנטים שלה. חישוב ישיר מראה כי

$$\int x^{k}d\mu ={\frac {\sigma ^{2k}}{k}}\sum _{r=0}^{k-1}{\binom {k}{r}}{\binom {k}{r+1}}\lambda ^{r}$$

המשפט מוכח באמצעות שימוש בלמה של בורל-קנטלי, בכך שמוכיחים כי

$\mathbb {E} [\int x^{k}d\mu _{m}]\rightarrow \int x^{k}d\mu$

וגם

$Var(\int x^{k}d\mu _{m})\leq {\frac {C_{k}}{n^{2}}}$

טרנספורמציית סטילטיס

טרנספורמציית סטילטיס של ההתפלגות נתונה על ידי הפונקציה:

$s(z)={\frac {\sigma ^{2}(1-\lambda )-z+{\sqrt {(z-\sigma ^{2}(\lambda +1))^{2}-4\lambda \sigma ^{4}}}}{2\lambda z\sigma ^{2}}}$

עבור z מספר מרוכב בעל ערך מדומה אי-שלילי, וכאשר השורש הריבועי נלקח גם כן להיות בעל ערך מדומה אי-שלילי. פונקציה זו היא פתרון למשוואה הריבועית

$\lambda \sigma ^{2}zs(z)^{2}+[z+\sigma ^{2}(\lambda +1)]s(z)+1=0$

טרנספורמציית סטילטיס משמשת גישה נוספת להוכחה של המשפט באופן הבא:

תחילה מראים כי הטרנספורמציה של $\mu _{m}$ מרוכזת סביב התוחלת שלה, כלומר אם נסמן את הטרנספורמציה שלה ב-$g(z)$ אז מתקיים:

$g(z)-\mathbb {E} [g(z)]\rightarrow 0,m\rightarrow \infty$

בנוסף, יש להראות כי פונקציה זו פותרת את המשווה:

$\lambda \sigma ^{2}zg(z)^{2}+[z+\sigma ^{2}(\lambda +1)]g(z)+1=\epsilon _{m}$

כאשר $\epsilon _{m}\rightarrow 0$ עבור $m\rightarrow \infty$. לבסוף מראים יציבות של המשוואה האחרונה.

שימושים

מודל spiked covariance

דוגמה: בכחול היסטוגרמת ערכים עצמיים של $Y$ כאשר $X$ בגודל $2000\times 1000$ ובצהוב התפלגות מרצ'נקו פסטור עבור $\lambda =0.5$. בדוגמה זו במטריצה המקורית היו 3 ערכים עצמיים: 1,4,5. באופן צפוי רק 2 מהערכים העצמיים של המטריצה הרועשת נמצאים מחוץ לתומך, ואילו השלישי "נבלע" בתוך הרעש

ערכים מורחבים – מודל spiked covariance

דוגמה לשימוש בהתפלגות מרצ'נקו פסטור היא במודל spiked covariance. כאשר עובדים עם מטריצה שערכיה רועשים, ניתן לעיתים להניח כי הרעש מבוטא כמטריצה שערכיה הם שווי התפלגות ובלתי תלויים, ולכן ערכיה העצמיים מתפלגים לפי מרצ'נקו פסטור.

כעת מוסיפים למטריצת הרעש את המטריצה המקורית, מקבלים שערכיה העצמיים של המטריצה המקורית לא השתנו בהרבה, ולכן אם הם נמצאים מחוץ לתומך של מרצ'נקו פסטור ניתן יהיה לזהות אותם מבין הערכים העצמיים של המטריצה החדשה. בנוסף ניתן יהיה לשחזר בקירוב את הערך העצמי המקורי ואת הווקטור העצמי המתאים לו. דרך זו היא דוגמה להפחתת רעשים בעזרת התפלגות מרצ'נקו פסטור.

PCA

ניתן להיעזר בהתפלגות במרצ'נקו פסטור בשימוש ב-PCA. השימוש בהתפלגות עוזר למצוא את הרכיבים העיקריים שיעזרו לאפיין את הסיגנל המקורי, ולהפריד אותם מרכיבים אחרים שככל הנראה מאפיינים רעש. בדרך זו אפשר לחשוב על קצה התומך הימני של ההתפלגות בתור "סף" אשר קובע באילו ערכים עצמיים (או באופן שקול רכיבים עיקריים) נשתמש ובאילו לא.

מלבד הפחתת רעשים, השילוב בטכניקה זו עוזר גם בכיווץ, ובהבנה טובה יותר של המידע, והוא נפוץ במגוון תחומים, ביניהם: רפואה, גנומיקה וביואינפורמטיקה, ניתוח טכני, כיווץ תמונות וסרטונים, אסטרונומיה, ועוד.

ראו גם

• מטריצה אקראית
• התפלגות חצי המעגל של ויגנר
• התפלגות טרייסי-וידום
• מודל spiked covariance

קישורים חיצוניים

• https://www.math.uni-sb.de/ag/speicher/lehre/ZMsose18/random_matrices_notes.pdf
• https://arxiv.org/pdf/2101.02928
• https://arxiv.org/pdf/2101.02928
• https://djalil.chafai.net/blog/2011/01/29/the-marchenko-pastur-law/

הערך באדיבות ויקיפדיה העברית, קרדיט,
רשימת התורמים
רישיון cc-by-sa 3.0

התפלגות מרצ'נקו-פסטור40076181Q6756972