Heti Medinan porttien sisäpuolella sijaitsee suuri ja linnoitusmainen 800-luvun puolivälissä rakennettu suuri moskeija. Vaikka rakennusta on vuosisatojen aikana korjailtu ja laajennettu, alkuperäinen julkisivu on vielä nähtävissä. Moskeijan kaksi puolustustornia ovat upean näköiset ja myöhemmin lisätyt minareetit vain korostavat rakennuksen kauneutta. Moskeija on päivittäin avoinna yleisölle, mikä ei ole kovinkaan normaalia Tunisiassa.