בשלהי התקופה העותומנית הסתובבו בירושלים יתומים במספר גדול יחסית שננטשו בגלל עוני ומגפות. המסיון ראה בזה הזדמנות לפרוס את חסותו עליהם. הקהילה הספרדית שכרה דירות בעיר העתיקה כדי לשכן אותם ולתת להם חינוך והכשרה מקצועית. בשנת 1904 פנה הרב יעקב מאיר, לימים הראשון לציון, למשפחות בורוכוף ויששכרוף כדי שיתרמו כסף להקמת בית יתומים ואכן המוסד הוקם ונחנך בשנת 1908. לתפעולו הוקמה קרן להחזקת הבית וכן נשלחו שד”רים לאיסוף כספים עבורו בחו”ל.
בית כנסת "אחדות ישראל" ע"ש עולי הגרדום
"אחדות ישראל" היתה קבוצה דתית רויזיוניסטית שעלתה לארץ מפולין בשנות ה – 30 של המאה ה – 20 והקימה בתי כנסת בתל אביב ובירושלים. בית הכנסת שבירושלים שרד עד ימינו אנו. בית הכנסת היווה מרכז לרויזיוניסטים בירושלים ולתנועת הנוער הדתית "ברית חשמונאים". בתקופת המחתרות נוצר קשר בין אנשי המחתרות אצ"ל ולח"י ובין בית הכנסת כאשר חלק מהמתפללים היו חברים במחתרות אלו. לאחר קום המדינה החליטו בבית הכנסת להנציח את חללי האצ"ל והלח"י ובנו לוח גדול עליו חרותים שמות של 497 נופלים. למעשה מהשלב הזה בית הכנסת הופך גם לאתר הנצחה. על קירות בית הכנסת אפשר לראות לוחות הנצחה נוספים שמנציחים: את 12 הרוגי המלכות שנהרגו בשל פעילותם על ידי הבריטים, את מנחם בגין מפקד האצ"ל ואשתו עליזה, את יצחק שמיר מפקד בלח"י ואשתו שולמית, את גבאי בית הכנסת ואיש האצ"ל יוסף ויטלזון וכמובן לוח שמנציח מתפללי בית הכנסת שהלכו לעולמם. אישיות מאד חשובה בהסטוריה של בית הכנסת הוא הרב אריה לוין הידוע כרבם של האסירים שהתפלל בבית הכנסת, ועד היום אפשר לראות את הסטנדר (עמוד התפילה) שלו עם שלט הנושא את שמו. כיום לא נותרו אנשי מחתרות המתפללים בבית הכנסת, אבל המתפללים הנוכחיים ממשיכים לשמור את מסורת ההנצחה שלהם.
בית הכנסת "קהל ציון"
בבניין בית היתומים הספרדי פעלו מאז הקמתו מספר בתי כנסת וביניהם בית הכנסת האשכנזי "ישורון" , בית כנסת של יהודי סלוניקי ועוד….בשנת 1955 היו בבניין שני בתי כנסת ספרדים מלבד בית הכנסת "אחדות ישראל" האשכנזי, ובגלל מיעוט מתפללים החליטו להתאחד לבית כנסת אחד בשם "קהל ציון". כדי להבין את חשיבותו של בית הכנסת צריך ללכת קצת אחורה בזמן לעיר העתיקה. ברובע היהודי, המרכז הספרדי היה בארבעת בתי הכנסת הספרדים. מבין הארבעה, בית הכנסת החשוב נקרא על שם רבן יוחנן בן זכאי. בבית הכנסת הזה גם הכתירו את הראשון לציון הוא הרב הספרדי הראשי. כאשר נפל הרובע במלחמת השחרור, חיפשו בית כנסת שיחליף את בית הכנסת של רבן יוחנן בן זכאי והוא יהיה בית הכנסת הראשי הספרדי בירושלים. בית הכנסת "קהל ציון" התאים, אולי בשל גדלו ומרכזיותו. כיום הוא לא משמש כבית הכנסת הספרדי הראשי בירושלים אבל משהו בכל זאת נשאר עד היום: ב – 4 שבתות מיוחדות בשנה מתקיימות במקום דרשות של חשובי הדרשנים ובעיקר של ה"ראשון לציון" . ואלו הם השבתות: שבת שובה שלפני יום כיפור, שבת זכור שלפני פורים, שבת כלה שלפני חג שבועות ושבת הגדול שלפני פסח. בשבתות אלה הומה המקום ואנשים מגיעים מכל רחבי העיר לשמוע את דרשת היום.