הרעיון להקים מוזיאון שיוקדש להיסטוריה של יהודי פולין נולד עוד ב-1997, וכבר באותה שנה הפשירה עיריית ורשה למטרה זו את השטח היחידי בתחומי הרובע היהודי לשעבר שנותר לא בנוי. המוזיאון נוסד רשמית בשנת 2005. ב-2007 החל לפעול המרכז החינוכי של המוזיאון, המארגן קורסים וסדנאות בפולין. ביוני 2007 נערך טקס הנחת אבן הפינה, במעמד נשיא פוליןלך קצ'ינסקי ומכובדים אחרים. באפריל 2012, הקמת המוזיאון נקלעה למשבר ניהולי וכספי, לאחר שהיו חסרים כעשרה מיליון דולרים למימון השלמת המבנה.
