西汉初年，汉王朝由於经济力量尚未恢复起来，而且内部不够稳定，从刘邦到汉武帝初年，一直对匈奴采取和亲政策，每年送给匈奴大量的礼物和金钱。但是，和亲政策并没能阻挡匈奴贵族的掠夺，北部边疆的生产时常遭到破坏，无数汉族人民被抢走或杀死。汉武帝即位後，专制集权空前强化，社会经济有了很大发展，军事力量也得到加强。汉武帝决定改变和亲政策，发动了全面反击匈奴的大规模战争。卫青和霍去病正是在这场战争中涌现出来的杰出将领。

卫青，字仲卿，河东平阳（今山西省临汾市西南）人。他的母亲在平阳公主家做女仆，因丈夫姓卫，她就被称为卫媪。平阳公主原号阳信长公主，是汉武帝的姐姐，因嫁与平阳侯曹寿（汉初名臣曹参之曾孙）为妻，所以也称平阳公主。

卫媪生有一男三女，即儿子长君，长女君孺、次女少儿、三女子夫。丈夫死後，她仍在平阳侯家中帮佣，与同在平阳侯家中做事的县吏郑季私通，生了卫青。卫青在母亲的关怀下渡过了童年。後来，他的母亲感觉供养他非常艰苦，就把他送到了亲生父亲郑季的家里。但郑季的夫人根本看不起卫青这个私生子，让他到山上放羊，郑家的几个儿子也不把卫青看成手足兄弟，随意苛责。卫青在这样的环境下生活，受尽了苦难，在他的性格形成上打下了深深的烙印。有一次，卫青跟随别人来到甘泉宫，一位囚徒看到他的相貌後说：“你现在穷困，将来定为贵人，官至封侯。”卫青笑道：“我身为人奴，只求免遭笞骂，已是万幸，哪里谈得上立功封侯呢？”

卫青长大後，不愿再受郑家的奴役，便回到母亲身边。平阳公主看到卫青已长成了一个相貌堂堂的彪形大汉，非常喜欢，就让他做了自己的骑奴。每当公主出行，卫青即骑马相随。虽然没有一官半职，但与在郑家时的情景相比已是天壤之别。卫青聪明好学，渐渐学到了一些文化知识，懂得了一些上层阶级礼节。他怨恨郑家对他没有一点亲情，决定冒姓为卫，完全与郑家断绝关系。

公元前 139年春，卫青的姐姐卫子夫被汉武帝选入宫中，卫青也被召到建章宫当差。这是卫青命运的一大转折点。

卫子夫入宫不久，就有了身孕，引起了陈皇後的嫉妒。陈皇後就是汉武帝姑姑的女儿，当年曾让他许下“金屋藏娇”誓言的陈阿娇，与汉武帝成亲後，被立为皇後，但一直未能给汉武帝生一个儿子。她担心卫子夫一旦生下的是个男孩，那就会被立为太子，而卫子夫也就会因为儿子的关系，青云直上，成为皇後。这对她的地位无异是一个很大的威胁。但是，眼下卫子夫正得汉武帝的宠幸，陈皇後对她不敢加害，就找母亲大长公主诉屈。大长公主是汉武帝的姑姑，为了给女儿出气，嫁祸於卫青。她找了一个借口，把卫青抓了起来，并准备处死。卫青当骑奴时结识的好友公孙敖听到了消息，马上召集了几名壮士，赶往抢救，把卫青从死亡的边缘夺了回来。另一方面，公孙敖还派人给汉武帝送信。汉武帝得知後，大为愤怒，索性召见卫青，任命他为建章宫监、侍中。不久，汉武帝封卫子夫为夫人，提升卫青为太中大夫。可以说，卫青是沾了他姐姐的大光的。

公元前

129年，匈奴又一次兴兵南下，前锋直指上谷（今河北省怀来县）。汉武帝果断地任命卫青为车骑将军，迎击匈奴。从此，卫青开始了他的戎马生涯。

这次用兵，汉武帝分派四路出击。车骑将军卫青直出上谷，骑将军公孙敖从代郡（今河北蔚县东北）出兵，轻车将军公孙贺从云中（今内蒙古托克托东北）出兵，骁骑将军李广从雁门出兵。四路将领各率一万骑兵。卫青首次出征，但他英勇善战，直捣龙城（匈奴祭扫天地祖先的地方），斩首700人，取得胜利。另外三路，两路失败，一路无功而还。汉武帝看到只有卫青胜利凯旋，非常赏识，加封关内侯。

汉朝对匈奴的反击，使得匈奴的进犯更加猖狂了。公元前128年的秋天，匈奴骑兵大举南下，先攻破辽西，杀死了辽西太守，又打败渔阳守将韩安国，劫掠百姓两千多人。汉武帝派匈奴人敬畏的飞将军李广镇守右北平（今辽宁省凌源西南），匈奴兵则避开李广，而从雁门关入塞，进攻汉朝北部边郡。汉武帝又派卫青出征，并派李息从代郡出兵，从背後袭击匈奴。卫青率三万骑兵，长驱而进，赶往前线。卫青本人身先士卒，将士们更是奋勇争先。斩杀、俘获敌人数千名，匈奴大败而逃。