元狩二年春，以冠军侯去病为骠骑将军，将万骑出陇西……转战六日，过焉支山千有余里，合短兵，杀折兰王，斩卢胡王，诛全甲，执浑邪王子及相国、都尉，首虏八千余级，收休屠祭天金人。

——《史记·卫将军骠骑列传》

当初，张骞从西域归来，向汉武帝详细介绍了西域各国的风土民情，他说道，“大宛国位于大汉正西方约一万里处，当地城郭、房屋与中原相似，百姓也以耕作为生，且多产好马，马汗像血一样鲜红。大宛国东北为乌孙国，其东为于阗国，于阗以西，河水向西流入西海，以东的河水则流入盐泽，盐泽一带的河流都是在地下流淌的暗河，往南便是黄河源头。盐泽距离长安约五千里，匈奴的西界便在盐泽东部，直到陇西长城，南面与羌人部落接壤，将我国通往西域的道路完全隔断。

乌孙、康居、奄蔡、大月氏都是游牧国家，随牲畜逐水草而居，风俗与匈奴一样，大夏国在大宛西南方，其风俗与大宛相同。我在大夏时，曾见到蜀地出产的邛竹和蜀布，我问当地人这些是从何而来，他们说是商人自身毒国购买来的。身毒国在大夏东南约几千里的地方，风俗与大夏国类似。

因此，臣估计，既然大夏在我国西南一万两千里的地方，而身毒国又在大夏东南几千里以外，况且还有我国蜀地所产的物品，说明身毒国距离蜀地不算太远。如今我出使大夏，如取道羌人地区，不仅道路险阻，羌人又依附于匈奴，十分危险；可是如果从稍北一些地区走，便又会落入匈奴手中；而如果能够通过蜀地前往身毒国，道路应该好走很多，而且不会太过危险。”

汉武帝听说大宛、大夏、安息等都是大国，多产奇异之物，人民定居，与大汉极为相似，但军事力量却很薄弱，且喜爱汉朝财物；大月氏、康居等国兵力虽强，但却可以通过贿赂、引诱的方法让他们归附，如果能够不通过战争便能使其归附，那么汉朝疆域何止扩大万里。

因此，汉武帝欣然同意了张骞的建议，命张骞从蜀郡、键为郡出发，以王然于等人作为向导，分别从冉、徙、邛、僰四地出发，兵分四路寻找通往身毒国的道路。然而，各路使者分别走出一两千里便无法继续前进，北路被阻于氐、莋，南路则被阻于巂、昆明。尤其是昆明地区，由于此地没有政权，盗匪极其众多，经常劫杀汉朝使者，以致始终无人能够通过其地。

此外，滇国和夜郎虽有政权，但由于与汉朝的道路阻塞，他们各自称霸地方，根本不知道汉朝的强大，以至于见到汉朝使者后，竟然提出了“汉朝与我国相比，谁更强大”的疑问。

各路使者回国后，向汉武帝汇报了寻路结果，其中南路使者表示滇国乃是大国，朝廷应当争取使其归附，于是汉武帝重新开始经营西南夷地区，命人继续修建西南夷道。不过，由于南方丘陵众多、道路险阻，汉武帝也明白，想要打通南部道路并非一日之功。

与此同时，经过河南地和漠南的数次大战之后，汉朝北部威胁大减，西域匈奴便成为了摆在汉朝眼前的最大威胁，而随着单于庭和右贤王的北迁，右贤王逐渐失去对河西诸王的控制，让汉武帝看到了消灭西域匈奴势力，通过打通西域走廊，沟通中亚大宛、大夏、安息等国的希望。

汉武帝分析后认为，要消灭西域的匈奴势力，关键之处便在于打通河西走廊，只有这样才能切断匈奴与西域各国以及西羌各部的联系，打通汉朝与西域诸国之间的沟通通道，为彻底清除西域匈奴势力，以及汉朝国土向西扩张扫清障碍。

为此，在瓦解了国内淮南王刘安、衡山王刘赐和江都王刘建的叛乱，重新稳固了朝廷统治之后，汉武帝开始着手攻打盘踞在河西的匈奴部落。

彼时，匈奴在河西走廊的总人口约有五十多万，控弦十万左右，主要划分为两大势力，即位于河西走廊东部、贴近汉朝的休屠王，以及位于河西走廊西部的浑邪王，两王又各自节制着二十多个部落。休屠王控制着狐奴水（今石羊河）流域，浑邪王则控制着弱水（今黑河-额济纳河）流域，两王各有部众约五万，可用之兵约一万骑。其他匈奴各部则盘踞于河西走廊各条河谷，部众多少各不相同。

右贤王北迁之后，对于休屠王和浑邪王控制力急速下降，伊稚斜单于则顺势将触手伸向河西，意图拉拢控制河西诸部，为此不惜将用于祭祀的祭天金人都交给了休屠王保管。

元狩二年（前121年）春，汉武帝任命霍去病为骠骑将军，命其率领一万骑兵西征。由于这是霍去病第一次独立领军出征，为了确保取胜，汉武帝下诏命霍去病入京面授机宜。