وكان الشيخ عفيفي - يرحمه الله تعالى - قد أدخل المستشفى العسكري بالرياض الساعة الواحدة بعد الظهر من يوم الثلاثاء الموافق ١٦/٣/١٤١٥ هـ في قسم العناية المركزة، ثم أخرج من ذلك القسم في يوم الأحد ٢١/٣/١٤١٥ هـ وهو يعاني من ألم شديد في الكبد، وضعف في الكلى، ووجود سوائل في الرئتين وهبوط في ضربات القلب، وظل بالمستشفي حتى وافاه الأجل المحتوم في يوم الخميس ٢٥/٣/١٤١٥ هـ في حوالي الساعة السابعة صباحا، وكان - يرحمه الله - قبل وفاته - كما يروي ابنه محمد - في كامل وعيه وفي حالة ذكر الله ﷿ حتى ازداد ضيق نفسه، وهبط الضغط لتخرج روحه إلى بارئها، وقد صلى على جنازته عقب صلاة الجمعة ٢٦/٣/١٤١٥ هـ في جامع الإمام تركي بن عبد الله (الجامع الكبير) بالرياض، وقد صلى عليه جمع غفير من الناس، ويقول الشيخ عبد العزيز آل الشيخ، والشيخ محمد السعيد: إنه كان يوما عظيما مشهودا امتلأ الجامع الكبير إلى آخره، وهي من المرات القلائل التي يمتلأ فيها الجامع، وقد ازدحمت المواقف والشوارع المؤدية إلى المقبرة بالسيارات خصوصا بعدما انطلق الناس بسياراتهم، ومشيا على الأقدام مشيعين له، وحضر دفنه بمقبرة العود بالرياض عدد هائل من البشر غالبيتهم من المشايخ والعلماء، وطلبة العلم وتلاميذ الفقيد يغمرهم الحزن على فراقه داعين له بالمغفرة والرحمة.
وهذا الحزن من الناس، والجمع الغفير من المشيعين يدل بوضوح على ما للشيخ من مكانة وقدر في نفوس الناس وتلامذته الذني لا يحصون لكون الشيخ درس في أماكن كثيرة ومتعددة طوال ثلاثين عاما قضاها في التدريس بالمملكة،