ثم صحب عليا حين بويع، واستخلفه على (ع) حين خرج من المدينة إلى البصرة، ثم شهد مع على (ع) صفين، وولاه على (ع) على فارس، فأخرج أهل فارس، ووجه على (ع) زياد ابن أبيه إلى فارس، فرضوه وصالحوه، وأدوا الخراج.
وفي أسد الغابة: صحب (أي: سهل بن حنيف) على بن أبى طالب حين بويع له 7 فلما سار على من المدينة إلى البصرة، استخلفه على المدينة، وشهد معه صفين.
في نهج البلاغة في فصل كتب الإمام ورسائله، أذكر نصها:
من كتاب له (ع) إلى سهل بن حنيف، وهو عامله على المدينة، في معنى قوم من أهلها لحقوا بمعاوية.
أما بعد، فقد بلغني إن رجالا من قبلك يتسللون إلى معاوية، فلا تأسف على ما يفوتك من عددهم، ويذهب عنك مددهم، فكفى لهم غيا ولك منهم شافيا فرارهم من الهدى والحق وإيضاعهم إلى العمى والجهل، وإنما هم أهل