يقع السبيل تحديدًا بحي الدرج "حي بني عامر قديمًا"، إلى الشرق من قصر الباشا الأثري، ليتم إنشاء سبيل الرفاعية بجواره على يد، بهرام بيك بن مصطفى باشا، في سنة (976هـ/1568م)، ويطلق عليه حاليًا اسم سبيل الرفاعية نسبة إلى (رفعت بيك الجركسي) والذي قام بتجديده وترميمه سنة (1278هـ /1861م). وفي عهد السلطان عبد الحميد الثاني تم تجديد السبيل مرة أخرى سنة (1318هـ /1900م)، لتشهد على هذا التجديد أبيات شعرية نقشت على جدران السبيل، وتعلوها طغراء عبد الحميد الثاني. وقد بني السبيل من الحجر الرملي الصلب، وشكله الهندسي المعماري عبارة عن عقد مدبب على جانبيه مكسلتان، وبينهما ثلاث فتحات بارزة للمياه في وسط إطار مربع، وكانت تلك الفتحات مزودة بأقصاب لسحب الماء من حوض السبيل لإسقاء الناس. ومما زاد السبيل أهمية أنه يتميز موقعه بوجوده في وسط وقلب البلدة القديمة بمدينة غزة، والتي تحتضن بين حاراتها أماكن تاريخية ومعالم أثرية عريقة، اهمها المسجد العمري الكبير وقصر الباشا، وحمام المسرة، وسوق القيصرية
