وقال العتيقي: كان معتزليّا ثقة، مات فِي شوّال، وله ثمانٍ وثمانون سنة. كَانَ فِي زمانه تُشَبَّه تصانيفه بتصانيف الجاحظ.
قَالَ أَبُو عَلِيّ الفارسي النَّحْوِيّ: أَبُو عُبَيْد اللَّه المَرْزُبَاني من محاسن الدُّنيا، وكان الملك عضُد الدولة مَعَ عظمته يجتاز بباب المَرْزُبَاني، فيقف حتى يخرج إِلَيْهِ المَرْزُبَاني، فيسلم عَلَيْهِ، وكانت داره تجمع الفضلاء، وكان مشتهرًا بشرب النبيذ، وكتابه فِي «أخبار الشعراء» خمسة آلاف ورقة، وله كتاب آخر فِي الشعراء المُحَدِّثين خاصّة، كبير إلى الغاية، يكون عشرة آلاف ورقة، و «أخبار المسمّعين» ثلاثة آلاف ورقة، و «أخبار الغناء والأصوات» ثلاثة آلاف ورقة، وله تصانيف كثيرة جدًا، أوردها القفطي. وروى الجوهري عَنِ المَرْزُبَاني أَنَّهُ أعطى مرَّةً عضد الدولة ألف دينار، وقَالَ: إنه بلغني أنك تُؤَرِّخ، فإذا جاء اسمي فأجْمِلْ، فقلت: نعم، أُجْمِلْ، وبذكرك أتجمّل.