למערה נקשרו מסורות רבות, כשהמפורסמת בהן קשורה במנוסתו של צדקיהו מלך יהודה מפני הבבלים עם חורבן בית המקדש הראשון. מסורת זו היא שהעניקה למערה את שמה. על פי המסורת הנוצרית, שימשה המערה כמחצבתו של שלמה המלך, ועל פי המסורת המוסלמית, נבלעו בה חיים אנשי קורח ועדתו. במשך דורות הייתה מערת צדקיהו חסומה למבקרים והיא נפתחה לקהל באופן קבוע רק בעת החדשה.