המסגד הגדול הוא אחד מהמבנים הצלבניים היחידים בארץ ששרדו כמעט בשלמותם. המבנה הוקם באמצע המאה ה-12 ככנסייה נוצרית (איננו יודעים מי בנה אותו), והכותרות המצויות במסגד, כמו שאר המאפניינים האדריכליים שבמבנה, אכן מתאימים למאה ה-12. התוכנית הכללית של המבנה היא שלושה אולמות מקבילים, אולם תווך ושתי סיטראות. זהו מבנה בזיליקאי קלאסי. יש מסגדים בזיליקאיים, אבל הם אינם מרווחים. המח’ראב מראה את הכוון למכה, אבל בכותל המזרח יש מח’ראב גדול. מח’ראב זה היה במקור אפסיס, שמראה את הכיוון המזרחי בנצרות.
במהלך כיבוש הארץ ע”י הממלוכים במאה ה-13, הפך המבנה מכנסיה למסגד עד ימינו אנו. מידי שישי מגיעים רבים מתושביה המוסלמיים של רמלה לתפילה המרכזית.
כתובת מעל לכניסה (הימנית) אל מבנה המסגד (כתובת בייברס)

כתובת זו הובאה לכאן במהלך המאה ה-19 ומספרת על כיבוש יפו ע”י השליט הממלוכי בייברס.
“בשם אללה הרחמן והרחום. יבקר במסגדי אללה רק המאמין באללה וביום האחרון ויערוך את התפילה ויתן הצדקה ואינו ירא כי אם את האלוהים (קראאן, 9, 18)… כאשר רצה אללה יתעלה לבצע את אשר חשב מראש, מילא את ידי עבדו הדל, השם את מבטחו בו והמפקיד את ענייניו בידיו, הדבק בדרכיו בקנאות, המגן על דת הנביא יקירו ורעו, הסלטאן המפואר, העצום, השש למלחמת מצווה, הלוחם המנצח, הכובש, משענת העולם והדת {רכן אל דניא ואל דין}, סלטאן האסלאם והמוסלמים, ביברס בן עבדאללה, יד ימינו של אמיר המאמינים (יתן אללה חיים ארוכים לו); והוא יצא עם צבאו המנצח ב-10 בחודש רג’ב מארץ מצרים כשהוא נחוש לקיים את הג’האד וללחום בכופרים ובעקשים. הוא חנה על יפו בבוקרו של היום ( עם שחר) וכבשה ברצון אללה בשעה השלישית של היום ההוא. אחר כך ציווה להקים את הכיפה הזו מעל הצריח המבורך הזה וכן את השער של המסגד הזה. המלאכה נעשתה בידי העבד הנכנע ח’ליל אבן שאור, שנת 666 (1268), יסלח אללה לו ולהוריו ולכל המוסלמים”.
כתובת מעל לכניסה (השמאלית) אל מבנה המסגד (שיפוץ המסגד בסוף המאה ה-13)
“בשם אלוהים הרחמן והרחום. יבקר במסגדי אללה רק המאמין באללה וביום האחרון ויערוך את התפילה ויתן הצדקה ואינו ירא כי אם את האלוהים (קראאן, 9, 18)… ציווה את השיקום {עמארה} של ג’אמע מבורך זה, הסלטאן הגדול, אל מלכ אל עאדל, פח’ר אל דניא ואל דין…. כתבע’א…. וזאת בימיו של עבד אללה יתעלה, עלי בן ח’אלד…. שנת 697 / 1298”
המִחראב - גומת התפילה בקיר המסגד הפונה למכה (בארץ לכיוון דרום)
מִחראב הנו גומחה בקיר המעידה שמדובר במסגד והיא מצביעה חכיוון מכה, הכיוון אליו מתפלל כל מוסלמי בעולם. הקיר שבו נמצא המחראב מכונה קיבלה – כיוון התפילה.
המינבר

המינבר הנו דוכן במסגד עליו עולה הדרשן (ח’טיב) כדי לשאת דרשות במהלך התפילה. המינבר ממוקם מימין למיחרב.
שער הכניסה הצלבני המקורי מכיוון מערב

זוהי הכניסה ממנה נכנסו אל הכנסיה בתקופה הצלבנית. האדריכלות של הקשת והעמודים שמסביב לשער מעידים על התקופה.
סביל (רהט)

מתקן לשתיית מים (בערבית “מַּטְהַרָה” בעברית “מַּשְׁקִית”) שהוקם בתקופה העות’אמנית (1516-1917) ונמצא על פינת המסגד ופונה אל הרחוב הסמוך לדרך יפו ירושלים ההיסטורית.