ثم انصرف عمر إلى منزله فلما كان الغد جاءه كعب الأحبار فقال له: يا أمير المؤمنين اعهد فإنك ميت في ثلاث ليال. قال: وما يدريك؟ قال: أجده في كتاب التوراة. قال عمر: [آ لله! إنك] أتجد عمر بن الخطاب في التوراة؟ قال: اللهم لا، ولكني أجد حليتك وصفتك وأنك قد فني أجلك قال: وعمر لا يحس وجعا، فلما كان الغد جاءه كعب فقال: بقي يومان، فلما كان الغد جائه كعب فقال: مضى يومان وبقي يوم. فلما أصبح خرج عمر إلى الصلاة وكان يوكل بالصفوف رجالا فإذا استوت كبر، ودخل أبو لؤلؤة في الناس وبيده خنجر له رأسان نصابه في وسطه، فضرب عمر ست ضربات إحداهن تحت سرته وهي التي قتلته، وقتل معه كليب بن أبي البكير الليثي وهو خليفة؛ وقتل جماعة غيره.
فلما وجد عمر حر السلاح سقط، وأمر عبد الرحمن بن عوف فصلى بالناس وعمر طريح؛ فاحتمل فأدخل بيته، ودعا عبد الرحمن فقال له: إني أريد أن أعهد إليك. قال: أتشير علي بذلك؟ قال: اللهم لا. قال: والله لا أدخل فيه أبدا. قال: فهبني صمتا حتى أعهد إلى النفر الذين توفي رسول الله صلى الله عليه وسلم وهو عنهم راض. ثم دعا عليا، وعثمان، والزبير، وسعدا فقال: انتظروا أخاكم طلحة ثلاثا فإن جاء وإلا فاقضوا أمركم، أنشدك الله يا على إن وليت من أمور الناس شيئا أن تحمل بني هاشم على رقاب الناس، أنشدك الله يا عثمان إن وليت من أمور الناس أن تحمل بني أبي معيط على رقاب الناس، أنشدك الله يا سعد إن وليت من أمور الناس شيئا أن تحمل أقاربك على رقاب الناس. قوموا فتشاوروا، ثم اقضوا أمركم وليصل بالناس صهيب.