公元207年，张绣跟随曹操去柳城征讨乌桓，还没有到达就死了。《三国志·魏略》中有这样的记载：曹操的儿子曹丕因为曹昂的死对张绣不满，说：“你杀了我哥哥，怎么还有脸面见人呢？”张绣心里很不安，最后自杀身亡。
但在民间评书中却是这样描述张绣之死的：张绣被封“宛城侯”，人称“北地枪王”，使一杆虎头金枪。他是武术名家童渊的大徒弟，战宛城时因胡车儿偷走典韦的双戟，张绣才得以枪挑典韦，他的“百鸟朝凤枪”便威震天下。后来，他与赵云大战三百回合，被赵云的“七探蛇盘枪”杀死，从此赵云成了真正的枪王。赵云和张绣的武艺可是同一师傅传授的。
现在，有一本网络小说《北地枪王张绣》，主要讲述一个现代男子穿越回到三国时期，成了“北地枪王”张绣，演绎了一段“张绣”的全新故事。