يدعو الشيخ محمد الغزالي طوال حياته دائمًا بـ"اللهم ارزقني الوفاة في بلد حبيبك المصطفى"، وكان أهل بيته يستغربون وكذلك تلامذته ويقولون هذا صعب للغاية وشاء الله تعالى أن يدعى الشيخ لمؤتمر في الرياض عام 1996م وترجاه تلامذته ألا يذهب لئلا يتطاول عليه أحد من الأدعياء وكان الأطباء قد منعوه من السفر ومن الانفعال ولكنه صمم على السفر وألقى فيه كلمة وقام إليه أحدهم واتهمه بمعاداة السنة فانفعل الشيخ وعلا صوته وهو يدافع عن موقفه من السنة.
وكان آخر كلامه: "نريد أن نحقق في الأرض لا إله إلا الله" وأصيب بذبحة صدرية وخر ميتا ،وبأمر من الأمير عبد الله -ولي العهد- وبتوصية من الشيخ عبد العزيز بن باز-مفتي المملكة- نقل جثمان الشيخ إلى المدينة المنورة يقول الدكتور زغلول النجار:" لما حضر جثمان الشيخ للمدينة فوجئنا أن هناك طائرات خاصة أتت من جميع أنحاء العالم تقل ناسا كثيرين أتوا للصلاة على الشيخ الغزالي في المسجد النبوي وازدحم المسجد عن آخره وخرجنا بالجثمان إلى البقيع وكنا ندفنه ومازال الناس بالمسجد من كثرتهم".
يقول الرجل الذي يتولى دفن الأموات بالبقيع: إن صاحبكم هذا أمره غريب كلما شرعت في حفر حفرة أجد الأرض لا تلين معي حتى جئت هنا ولانت معي الأرض بين قبري نافع مولى عبد الله بن عمر ومالك بن أنس صاحب المذهب المالكي.
