卫青出身低微，他的父亲是平阳侯曹寿家里当差的。卫青长大以后，在平阳侯家当了一名骑奴。后来，因为卫青的姐姐卫子夫进宫，受到汉武帝的宠幸，卫青的地位才渐渐显贵起来。
就在李广在战斗中被匈奴兵俘虏后又逃回的那年，汉军四路人马，三路都失败了，只有卫青打了个胜仗，被封为关内侯；以后，又接二连三地打败匈奴兵，立了战功。
公元前124年，卫青率领骑兵三万，追到长城外。匈奴右贤王以为汉军还离开很远，一点也没防备，在兵营里喝酒作乐，喝得酩酊大醉。
卫青在夜色的掩护下，急行军六七百里，包围了右贤王。汉兵从四面八方冲进匈奴营地，打得匈奴部队四面逃窜，乱成一团。右贤王的酒刚刚惊醒，要抵抗已来不及了，只好带着他的几百个亲信脱身逃走。
这一仗，卫青的人马一共俘获了一万五千多个俘虏，其中匈奴的小王十多人。
匈奴的左右贤王，只比单于低一级。这次战争，右贤王全军覆没，对匈奴单于是一个很大打击。
汉武帝得到捷报，立刻派使者拿着大将军印，送到军营，宣布卫青为大将军，连他的三个还没有成年的儿子也封为侯。
卫青推辞说：“我几次打胜仗，都是部下将士的功劳。我那三个孩子还都是娃娃，什么事都没干过。要是皇上封他们为侯，怎么能够勉励战士立功呢！”
汉武帝经他一提醒，就封了卫青部下的七名将军为侯。
第二年，匈奴又来进攻。汉武帝又派卫青率领六个将军和大队人马去对付匈奴。
卫青有一个外甥，叫霍去病，那时候才十八岁，非常勇敢，又会骑马射箭，这次也跟着卫青一道去打匈奴。
匈奴听到汉军大批人马来进攻，立即往后逃走。卫青派四路人马分头去追赶匈奴部队，一定要把匈奴主力打败。卫青自己坐镇大营，等候消息。