يرجع المؤرخون التواجد الإسلامي بفرنسا إلى عهد الخليفة الأموي سليمان بن عبدالملك (في العهد الأموي الأول بالشام) بعد القيام بست حملات استكشافية ما بين 714م=96 هـ و 759م=141هـ، أولها كانت في عهد طارق بن زياد الحاكم على الأندلس، أي قبل أن يتولى الأمر عليها عبدالعزيز بن موسى بن نصير باعتماد من الخليفة نفسه بالشام، وتمكن الوجود الإسلامي خاصة بجنوب فرنسا بتأسيس إمارة نربونة Narbonne وبقي لمدة 44 سنة كانت أخر معاقله التي سقطت في يد الفرنجة هي مدينة قرقشونة Carcassonne.
ولازالت بعض المآثار من مقابر ومساجد بمنطقة سبتمانيا شاهدة على هذا الوجود وإن كان بعضها يرجع كذلك للحقبة الثانية 850م=236هـ – 973م=362هـ من الوجود الإسلامي بفرنسا حيث وصل المسلمون إلى مدينة سانس أي في العهد الأموي الثاني (العهد الأندلسي)
وحتى بعد سقوط الأندلس في القرن السادس عشر، فلقد هاجر المسلمون الموريسكيون وطردوا إلى جنوب فرنسا خوفا من بطش محاكم التفتيش الإسبانية وبلغ عدد اللاجئين منهم أكثر من 150 ألف اندمجوا مع تعاقب الأجيال في المجتمع الفرنسي
احتلت فرنسا الجزائر سنة 1830م وجعلت منها مستعمرة وجزء من التراب الفرنسي، وهذا سيمكنها من إدارة دين جديد لفترة ما بعد قيام الجمهورية الفرنسية، لتبدأ بنشر ثقافتها ولغتها
يذكر بعض الباحثين أن تخصيص مكان للصلاة تضمن في معاهدة واتفاقية ابرمت بين لويس الخامس عشر وسلطان المغرب محمد بن عبدالله سنة 1767، حيث يمكن لكل قنصل من قناصلة فرنسا أن يؤدي شعائره الدينية المسيحية ببلاد المغرب في كنيسة تبنى خصيصا للمسيحين ويحق لمسلمي المغرب إقامة مسجد لهم في فرنسا، وهكذا تمكن المسلمون من أداء صلاتهم في قاعة من قصر فيرساي حيث كان يجتمع أعيان الدول الإسلامية من الوافدين لفرنسا وكذلك السلك الدبلوماسي العربي والتركي، ولقد خصصت الدولة الفرنسية آنذاك أول مقبرة إسلامية بباريس بعد طلب من السلطات العثمانية.
في بداية القرن العشرين عمدت فرنسا على جلب عشرات الآلاف من اليد العاملة من المسلمين خاصة من الجزائر لتستدرك تأخرها في الصناعة الثقيلة مقارنة مع بريطانيا، ومع عقد الحماية الفرنسية على المغرب ودخول فرنسا في الحرب العالمية الأولى، أقر مجلس الجيوش الفرنسي ظهيرا يحتم على المسلمين من شمال افريقيا الانخراط في الحرب العالمية الأولى والدفاع عن فرنسا عبر التجنيد الإجباري حيث فاق عدد المجندين من المسلمين العرب أكثر من 175 ألف قتل منهم 25000 أما الجنرال روبرت نيفل فلقد أقحم في تهور تام إلى مذبحة الألمان أكثر من 30 ألف سنغالي فيما يعرف بمعركة طريق السيدات حيث لعبت فيها الإستخبارات العسكرية الألمانية دورا هاما في إلحاق الهزيمة بجيشه.
بعد انتهاء الحرب العالمية الأولى، ومن أجل إعادة إعمار فرنسا، وفي سنة 1920 جلبت فرنسا 140 ألفا عاملا من كل من الجزائر والمغرب بالتساوي، وكعرفان لدور المسلمين الفعال في الحرب العالمية الأولى و الذين بدلوا أرواحهم من أجل استقلال فرنسا، قدمت فرنسا قطعة أرض بالمجان للجالية المسلمة بباريس ساهمت فيه بعض الدول الإسلامية كما كانت تقطع ضرائب خاصة من العمال المسلمين للمساهمة في تكاليف أشغال بنائه. ولقد تم وضع حجر الأساس لهذه المعلمة يوم 19 أكتوبر 1922 واستكمل بناؤه سنة 1926 وهو مسجد بمعمار مغربي أصيل حيث أن المملكة المغربية ساهمت فيه بثلث أرباع التكلفة
كان أول عميد لمسجد باريس الكبير هو قدور بن غبريط ، وهو دبلوماسي فرنسي ولد بالجزائر وأوكلت إليه مهام كثيرة من فرنسا بعضها كان في المغرب وبعضها في الحجاز. ولقد شغل منصب القنصل العام الفرنسي لدى المملكة المغربية ومنحه الجنرال الليوطي منصب رئيس بروتوكول السلطان عبدالحفيظ الذي وضع فيه ثقته.
تنحى بن غبريط عن عمادة مسجد باريس قبيل وفاته سنة 1954 .
