يعتبر الإسم غريبا على مسامعنا، فكيف يكون لليهود جامع؟!، هذا المسجد من أشهر مساجد الجزائر التاريخية وتم بناءه قبل حوالي 352 عامًا، وتحديدًا سنة 1666م.
تشير المصادر التاريخية الجزائرية إلى أن هذا المسجد بناه الشيخ عبد الرحمان بن فارس الأندلسي الذي قدم من الأندلس، وكان فقيهًا وتاجرًا ثريًا فاشترى عقارًا وضيعة لعائلته، وشيد المسجد الذي كان اسمه في ذلك الوقت «مسجد فارس»، وظل كذلك حتى جاء الاحتلال الفرنسي للجزائر. كالعادة عمل الاحتلال الفرنسي إلى القضاء على كل ما هو عربي وإسلامي في الجزائر، فقام في عام 1845م بهدم المسجد وأقاموا مكانه كنيسًا لليهود وسموه كنيس «ربان يلوك»، وظل المسجد معبدًا للأقلية اليهودية من سكان الجزائر الذين تجنسوا فيما بعد بالجنسية الفرنسية عام 1870. بعد حصول الجزائر على الاستقلال أعيد الكنيس اليهودي ليكون مسجدًا أطلق عليه سكان الحي حتى يومنا هذا «جامع اليهود»، وتمت إزالة كل الآثار من الداخل التي تشير إلى كون المكان كان معبدًا يهوديًا في السابق، وأضيف إلى هيئته الخارجية مئذنة، هذا فضلا عن حفر المحراب وتزيينه بالآيات القرآنية ويحتوي على صومعة إضافة إلى قبة.
يذكر المؤرخ الجزائري فوزي سعد الله في كتابه «الشتات الأندلسي في الجزائر» أن «مسجد «اليهود» في بنائه الأول بني سنة 1666، يقع في قلب مدينة الجزائر العاصمة، تعلوه القصبة العثمانية التاريخية ويعانقه جامعان عريقان هما: الجامع الكبير وجامع كتشاوة.
مما يميز هذا المسجد والمسجد الجديد في الجزائر كذلك أنه شارك في بنائه الأول وتزيينه أمهر البنائين من الديانات السماوية الثلاث، شارك في بنائه يهودي خبير في النقش على الخشب، زيّن خشب الجامع بنقوشه طيلة قرابة عام بمعية مجموعة من النجارين».
كما شارك كذلك في بنائه الأسير المسيحي، الذي كان يُلقَّب برمضان العُلْجْ ويوصَف رسميا في الوثائق بـ (مْعَلَّمْ البِناء النصراني)، والحاج إبراهيم بن المهندس وخبير الريّ الأوسطى موسى الحِمْيَري الثَّغْرِي الأندلسي». يشير المؤرخ كذلك إلى أن القايد حسن وكان يونانيًا ويوسف وكان إيطاليًا قد اعتنقا الإسلام واشتركا في بناء المسجد وغيره من المشروعات المهمة سنة 1617م من قبل الدولة العثمانية.