وقال أبو اسحاق الشيرازي: أبو بكر الخطيب يُشبه بالدارقطني ونظرائه في معرفة الحديث وحفظه.
وقال السمعاني: كان الخطيب مهيبًا وقورًا، ثقة، متحريًا، حجة، حسن الخط، كثير الضبط، فصيحًا، ختم به الحفاظ.
وقال الفضل بن عمر النسوي: كنت بجامع صور عند الخطيب، فدخل عليه علوي، وفي كمه دنانير، فقال: هذا الذهب تصرفه في مهماتك، فقطب، وقال: لا حاجة لي فيه، فقال: كأنك تستقله، ونفض كمه على سجادة الخطيب، وقال: هي ثلاثمائة دينار، فخجل الخطيب، وقام، وأخذ سجادته، وراح. فما أنسى عزّ خروجه وذُلَّ العلوي، وهو يجمع الدنانير.
قال أبو الفرج الأسفراييني: كان الخطيب معنا في الحج، فكان يختم كل يوم قريب الغياب قراءة ترتيل، ثم يجتمع عليه الناس، وهو راكب، يقولون: حدثنا، فيحدث.
وقال عبد المحسن الشيحي: عادلت الخطيب من دمشق إلى بغداد، فكان له في كل يوم وليلة ختمة.
وقيل: إنَّ الخطيب قدم بغداد، فظفر بجزء فيه سماع القائم بأمر الله، فأتى دار الخلافة يستأذن في قراءة الجزء، فقال الخليفة: هذا رجل كبير، وليس غرضه السماع، فانظروا لعل له حاجة؟ فسألوه: ما حاجتك؟ قال: أن يؤذن لي في أن أُملي بجامع المنصور، فأذن له.
وحكى ابن عساكر بسنده: أنَّ الخطيب ذكر أنّه لما حج شرب من ماء زمزم ثلاث شربات، وسأل الله ثلاث حاجات أخذًا بالحديث. فالأولى: أن يحدث بتاريخ بغداد بها، والثانية: أن يُملي الحديث بجامع المنصور، والثالثة: أن يُدفن عند بشر الحافي فقضى الله ذلك.
ومولده في جمادى الآخرة سنة اثنتين وتسعين وثلاثمائة.
وتوفي في سابع ذي الحجة سنة ثلاث وستين وأربعمائة ببغداد.
وقيل: إنَّ الشيخ أبا إسحاق الشيرازي من جملة من حمل نعشه؛ لأنه انتفع به كثيرًا، وكان يراجعه في تصانيفه.