تأسس نادي شباب رفح عام 1953م تحت اسم نادي الشعبة وفي عام 1960 حمل النادي اسم نادي العروبة واستمر تحت هذا الاسم لمدة عامين حتى قامت الإدارة المصرية بقطاع غزة بتكوين مؤسسة رعاية الشباب ومنذ ذلك الوقت تحول اسم النادي إلى مركز رعاية الشباب وانتقل مقر النادي من مبنى الاتحاد القومي بشارع صلاح الدين إلى مقره الجديد عند المدخل الشرقي لمحافظة رفح وبهذه المناسبة أقيم مهرجانا كرويا توج بمباراة تاريخية جمعت ين نادي شباب رفح ونادي الاسماعيلى المصري بطل مصر وذلك بحضور الفريق أول يوسف العجرودى الحاكم الادارى لقطاع غزة ولفيف من الشخصيات الرياضية المصرية والفلسطينية ،
بعد نكسة 1967م استولت قوات الاحتلال الاسرائيلى على مبنى النادي وحولته مقراً لها كما حولت الملعب لمهبط طائرات .مما أدى إلى تدمير أرضية الملعب وتوقيف أنشطة النادي ،
في عام 1973م بادرت مجموعة من أعضاء النادي المخلصين إلى إعادة اعمار وإحياء النادي تحت اسم نادي شباب رفح الرياضي وتشكلت أول هيئة إدارية برئاسة على مهدي حيث كان المبنى آنذاك عبارة غرفة مسقوفة بالصاج القديم بمنطقة موقف رفح الحالي ، وفي عام 1987م انتقل مقر النادي إلى مبنى البلدية .
مع أحداث انتفاضة عام 1987م قامت قوات الاحتلال بحرق مبنى النادي وهدمه تحت ذريعة مشاركة أعضاء النادي في أحداث الانتفاضة .
ومع قدوم السلطة الفلسطينية قامت مجموعة من أبناء النادي المخلصين بالاتصال ببلدية رفح من أجل بناء مقر للنادي ووافقت البلدية على بناء المقر وهو المقر الحالي والرسمي للنادي وكان ذلك عام 1994م ،، ويعتبر نادي شباب رفح صاحب البطولات المحلية والمشاركات العربية من أقطاب الكرة الفلسطينية حيث تعتمد المنتخبات الفلسطينية في كافة الألعاب على عناصر نادي شباب رفح وقد شارك النادي في تأسيس رابطة الأندية الرياضية.