|
יש לערוך ערך זה. הסיבה היא: תיקוני סגנון.
|
אתם מוזמנים לסייע ולערוך את הערך. אם לדעתכם אין צורך בעריכת הערך, ניתן להסיר את התבנית.
|
|
יש לערוך ערך זה. הסיבה היא: תיקוני סגנון.
|
אתם מוזמנים לסייע ולערוך את הערך. אם לדעתכם אין צורך בעריכת הערך, ניתן להסיר את התבנית.
|
אלגוריתם גאוס-ניוטון הוא אלגוריתם לפתרון בעיות ריבועים פחותים לא-לינאריות. האלגוריתם, המיוחס לקרל פרידריך גאוס, הוא למעשה תיקון של שיטת ניוטון לאופטימיזציה, ללא שימוש בנגזרות ממעלה שנייה.
הבעיה
בהינתן
פונקציות בעלות
פרמטרים כאשר
, הבעיה היא להביא את הסכום
לערכו הקטן ביותר על ידי שינוי
, כאשר
.
האלגוריתם
אלגוריתם גאוס-ניוטון הוא הליך איטרטיבי, כלומר יש לספק ערך התחלתי ל-
, שנקרא לו
. ערכים עוקבים של
ניתנים אחר כך על ידי חזרה על היחס:
![{\displaystyle p^{k+1}=p^{k}-{\Big (}J_{f}(p^{k})^{\top }J_{f}(p^{k}){\Big )}^{-1}J_{f}(p^{k})^{\top }f(p^{k})}](https://wikimedia.org/api/rest_v1/media/math/render/svg/ce5db9c5e5f9a132a5b5d68b227be2f4f0f2ab80)
כאשר
ו-
היעקוביאן של
ב-
.
את המטריצה ההופכית אין צורך לחשב במפורש. במקומה, אנו משתמשים ב-
ואז ניתן לחשב את העדכון
על ידי פתירת מערכת לינארית:
.
יישום טוב של אלגוריתם גאוס-ניוטון מספק חיפוש אלגוריתם: במקום הנוסחה מלמעלה עבור
, אנו משתמשים ב-
, כאשר המספר
הוא ברגע אופטימלי.