بني المسجد في فترة حكم الإمبراطور تشنغده في عهد أسرة مينغ، ثم هدم، وأعيد بناؤه من 1796 إلى 1798. بعد تأسيس الصين الجديدة عام 1949، كان المسجد في حالة سيلمة من حيث الأساس ، لكنه تعرض للتخريب أثناء "الثورة الثقافية (1966-1976)، وحُول إلى ورش صناعية. في عام 1979 أعيد بناؤه من جديد.

ويتميز هذا المسجد بالأسلوب المعماري التقليدي الصيني المتمثل في توزيع البنايات المتناسق والعظمة والأفاريز الطائرة والسقوف الداخلية العالية. هو ليس فقط مكاناً للنشاطات الإسلامية، بل أصبح موقعاً سياحياً ممتازاً في حي تشايانغ. يوجد فيه نصبان أقيما في فترة حكم الإمبراطور جيا تشينغ من أسرة تشينغ وفي عام 1932 كل على حدة، منقوش عليهما تاريخ بناء المسجد ونظام إدارته وممتلكاته. ويُحفظ فيه 30 مجلداً من مخطوطات القرآن الكريم.