قرأ عليه: القاضي أبو تغلب الملحمي، وأحمد بن مسرور الخباز، ومحمد بن عمر النهاوندي، وطائفة.
وحدث عنه: أبو القاسم عبيد الله الأزهري. والقاضي أبو الطيب الطبري، وأحمد بن علي التوزي، وأحمد بن عمر بن روح، وأبو علي محمد بن الحسين الجازري، وأبو الحسين محمد بن أحمد بن حسنون النرسي، وخلق سواهم.
قال الخطيب: كان من أعلم الناس في وقته بالفقه، والنحو، واللغة، وأصناف الأدب، ولي القضاء بباب الطاق، وكان على مذهب ابن جرير، وبلغنا عن أبي محمد البافي الفقيه، أنه كان يقول: إذا حضر القاضي أبو الفرج فقد حضرت العلوم كلها (1).
قال الخطيب: وحدثني القاضي أبو حامد الدلوي، قال: كان أبو محمد البافي، يقول: لو أوصى رجل بثلث ماله أن يدفع إلى أعلم الناس لوجب أن يدفع إلى المعافى بن زكريا (2).
قال الخطيب: سألت البرقاني عن المعافى، فقال: كان أعلم الناس، وكان ثقة، لم أسمع منه (3).
وحكى أبو حيان التوحيدي، قال: رأيت المعافى بن زكريا قد نام مستدبر الشمس في جامع الرصافة في يوم شات، وبه من أثر الضر والفقر والبؤس أمر عظيم مع غزارة علمه.