وقال بشر بن الوليد: سمعت أبا يوسف يقول: صحبت أبا حنيفة سبع عشرة سنة لا أفارقه في فطر، ولا أضحى إلا من مرض.
وولي أبو يوسف القضاء لثلاثة من الخلفاء للمهدي، والهادي، والرشيد، وكان الرشيد يكرمه ويبجله، وحج معه، واجتمع بمالك وناظره في مقدار الصاع، وهو أول من خوطب بقاضي القضاة في خلافة الرشيد، ولم يخاطب بها أحد قبله، وهو أول من غير لباس العلماء إلى هذه الهيأة.
وقال محمد بن جرير الطبري: كان أبو يوسف فقيهًا، عالمًا، حافظًا، وكان يعرف بحفظ الحديث، وكان يحضر المحدث خمسين حديثًا وستين، ثم يقوم فيمليها على الناس، وكان كثير الحديث.
وقال طلحة بن محمد الحافظ: كان أبو يوسف مشهور الأمر، ظاهر الفضل، وهو صاحب أبي حنيفة، وأفقه أهل عصره، ولم يتقدمه أحد في زمانه، وكان نهاية في العلم، والحكم، والرياسة، والقدر، وهو أول من وضع الكتب في أصول الفقه على مذهب أبي حنيفة، وأملى المسائل، ونشرها، وبث علم أبي حنيفة في أقطار الأرض، وقد قيل: لولا أبو يوسف ما ذكر أبو حنيفة، ولكنه هو نشر قوله، وبث علمه.
وقال هلال الرأي: لم يكن في أصحاب أبي حنيفة مثل أبي يوسف، كان يحفظ التفسير والمغازي، وكان أقل علومه الفقه.
وقال ابن كرامة: كنت عند وكيع بن الجراح يومًا، فقال رجل: أخطأ أبو حنيفة، فقال وكيع: كيف يقدر أبو حنيفة يخطئ ومعه مثل أبي يوسف، وزفر في قياسهما، ومثل يحيي بن أبي زائدة، وحفص بن غياث، وحبان، ومندل، وحفظهم للحديث، والقاسم بن معن في معرفته باللغة والعربية، وداود الطائي، والفضيل بن عياض في زهدهما وورعهما، من كان هؤلاء جلساؤه لم يكن يخطئ؛ لأنه إن أخطأ ردّوه.
وقال أبو حنيفة: أصحابنا هؤلاء ستة وثلاثون رجلًا: منهم ثمانية وعشرون يصلحون للقضاء، ومنهم ستة يصلحون للفتوى، ومنهم اثنان يصلحان يؤدبان القضاة وأصحاب الفتوى، وأشار إلى أبي يوسف وزفر.
توفي في خلافة الرشيد سنة اثنتين وثمانين ومائة عن تسع وثمانين سنة، ودفن في مقابر قريش.