واجتمع سفيان، والأوزاعي، وعباد بن كثير، فقال سفيان: يا أبا عمرو حدثنا حديثك مع عبد الله بن علي - يعني عم السفاح - فقال: لما قدم الشام، وقتل بني أمية، جلس على سريره، وعبأ أصحابه أربعة أصناف مع كل صنف نوع من أنواع السلاح، ثم بعث إلي؛ فلما صرت إلى الباب أنزلوني عن دابتي، وأخذ اثنان بعضدي وأدخلوني بين الصفوف حتى أقاموني بحيث يسمع كلامي، فقال لي: أنت عبد الرحمن بن عمرو الأوزاعي؟، قلت: نعم، أصلح الله الأمير! قال: ما تقول في دماء بني أمية؟ فقلت: قد كان بينك وبينهم عهود كان ينبغي أن يفوا لك بها. قال: ويحك! اجعلني وإياهم لا عهد بيننا، فأجهشت نفسي، وكرهت القتل، فذكرت مقامي بين يدي الله، فلفظتها، فقلت: دماؤهم عليك حرام، فغضب، وانتفخت عيناه وأوداجه، فقال لي: ويحك، ولم؟، قلت: قال رسول الله ﷺ لا يحل دم امرئ مسلم إلا بإحدى ثلاث: ثيب زان، ونفس بنفس، وتارك لدينه، فقال: ويحك أوليس الأمر لنا ديانة؟، قلت: كيف ذاك؟، قال: أليس كان رسول الله ﷺ أوصى إلى علي؟، قلت: لو أوصى إليه ما حكم الحكمين، فسكت، وقد اجتمع غضبًا، فجعلتُ أتوقع رأسي يسقط بين يدي، فقال بيده هكذا، يومئ أن أخرجوه، فخرجت فما أبعدت حتى لحقني فارس فنزلت، وقلت: قد بعث لأخذ رأسي، أصلي ركعتين، فكبرتُ، وصليت، فسلَّم، وقال: إنَّ الأمير بعث إليك بهذه الدنانير، قال: ففرقتها قبل أن أدخل بيتي.
وقال الأوزاعي: كنا نمزح ونضحك؛ فلما صرنا يُقتدى بنا خشيت أن لا يسعنا التبسم.
وكان أهل الشام ثم أهل الأندلس على مذهب الأوزاعي مدة، ثم فني العارفون به، وبقي منه ما يوجد في كتب الخلاف.
وقال عقبة بن علقمة البيروتي: دخل الأوزاعي حمامًا في بيته، وأدخلت معه زوجته كانونًا، ليدفأ به، ثم أغلقت عليه، وتشاغلت فهاج الفحم، فمات. قال عقبة: فوجدناه متوسدًا ذراعه إلى القبلة.
قال أبو مسهر: أغلقت عليه غير متعمدة، فمات. فأمرها سعيد بن عبد العزيز بعتق رقبة، ولم يُخلّف إلا ستة دنانير فضلت من عطائه، وكان قد كتب في ديوان الساحل.