ولد في عام521 هـ-1127 م في مدينة ترغاي بإقليم ستة في المغرب الأقصي وتعلم علي يد والده الذي كان من كبار العلماء في مدينته وحفظ القرآن وهو في سن الثامنة, وتوفي والده وهو في سن الثامنة عشرة من عمره, وقد حزن حزنا شديدا حيث كان له المثل الأعلي حتي أثر ذلك علي صحته ومرض بشدة مما جعل والدته تفكر في إرساله إلي أخواله في دمشق حيث أمضي فيها عامين تفقه فيهما في علوم الدين, ثم رجع إلي مسقط رأسه وهو في سن العشرين من عمره, وأمضي فيها خمس سنوات قضاها في تعليم أبناء بلدته أصول الدين, وفي ذلك الوقت توفيت والدته, وكان هذا من ضمن الأشياء الأساسية التي جعلته يرحل إلي الحجاز لتأدية فريضة الحج, وظل متنقلا بين مكة والمدينة ينهل من علم فقائها وعلمائها وعمل في تجارة المحاصيل سعيا وراء كسب الرزق, وفي السنة العاشرة له بأرض الحجاز التقي بالشيخ مجدي الدين القشيري, وأصبح بينهم محبة, وآسر الشيخ القشيري أن يأخذه إلي مصر وبالتحديد إلي مدينة قوص بقنا ليعلم المسلمين أصول دينهم, فسافر معه ومكث بقوص ثلاثة أيام فقط ثم فضل الانتقال إلي قنا تنفيذا لرؤي عديدة اخذت تلح عليه في الذهاب إلي قنا والإقامة بها.
وكان للشيخ عبدالرحيم القنائي نظرته الصوفية ومدرسته الخاصة به والتي كانت تسمح للطرق الصوفية بالأخذ منها حيث يقول إن الدين الإسلامي هو دين علم وإخلاص, من ترك واحدة فقد ضل الطريق, وقد أصدر الملك العزيز ابن صلاح الدين الأيوبي قرارا بتعيين الشيخ عبدالرحيم القنائي شيخا لمدينة قنا وتوفي سنة592 هـ-1195 م عن عمر يناهز72 عاما, ودفن بمسجده بقنا الذي يعد من أهم المزارات الدينية, و يعد من أكثر المساجد اتقانا وجودة في الجانب الهندسي والمعماري في مصر.
وقد قام الشيخ طه عتمان بتأسيس الطريقة الرحيمية القنائية رسميا وضمها إلي المشيخة العامة للطرق الصوفية, وكان له دور كبير في دعم الطريقة ماديا ومعنويا علي نهج الشيخ عبد الرحيم القنائي وتولي بعد وفاته ابنه الشيخ محمد طه عتمان وهو من علماء الازهر وتولي منصب شيخا لمعهد القراءات الازهري بقنا وبعد وفاته تولي ابنه الأكبر الشيخ أيمن محمد طه عتمان مشيخة الطريقة.
تقوم الطريقة بالاحتفال سنويا بمولد العارف بالله الشيخ عبدالرحيم القنائي في الفترة من1 إلي14 شعبان من كل عام وتقوم بالاحتفالات بالمناسبات الدينية كالإسراء والمعراج, والمولد النبوي الشريف وقد وصل اتباع ومريدي الطريقة الرحيمية القنائية إلي حوالي مليون مريد