李世民平定王世充、窦建德之后，在洛阳的洛水边杀了十多个王世充政权的高级骨干人员，单雄信是其中之一。
和评书中单雄信是出身于山西二贤庄的绿林总瓢把子不同，历史上的单雄信是曹州济阴（今山东菏泽曹县）人。单雄信和同乡徐茂公都是瓦岗军翟让时代早期的元老人物，地位很高，单雄信和徐茂公有深厚的友情，誓同生死。
后来李密杀翟让，让瓦岗军内部出现裂痕。李密在和王世充大战失败后，单雄信是首批主动投降王世充的瓦岗军将领之一。李密见事不可为，入关投唐。秦叔宝、程咬金、罗士信、裴仁基等瓦岗军将领纷纷归降王世充，率领瓦岗军余部规模最大一只力量的徐茂公则归降李唐。归降王世充的瓦岗军将领很多后来纷纷投唐，而单雄信则比较坚定的支持王世充。
单雄信是一员无敌的猛将，军中号称飞将。李世民平定王世充的过程中，单雄信至少有两次差点杀到李世民跟前，威胁到李世民的生命安全。后来窦建德救援王世充，李世民率兵前往虎牢抵御窦建德，李元吉指挥唐军继续围困洛阳。王世充派遣单雄信、杨公卿主动出击，取得了相当不小的战果，唐军大将行军总管卢君谔在此次作战中战死。此战虽没有改变战争结局，但也是相当大的胜利，让李元吉很没面子。和单雄信一起参加这次作战的杨公卿，也同样在李世民洛水旁斩杀的十多人里面。
在唐军中地位很高的徐茂公向李世民求情饶单雄信一命，并表示愿意放弃自己所有官爵换取单雄信不死，李世民没有同意。徐茂公割下一块自己的大腿肉煮给单雄信吃，示意同生共死。单雄信被杀后，徐茂公担负起照顾单雄信家人的责任。