元狩二年（公元前   121年），汉军主力从西路出击，俘获了匈奴浑邪王的儿子。不久，浑邪王杀了不肯投降的休屠王，率众降汉。这样，汉朝的疆域扩大到了整个河西走廊和湟水流域，即今青海湖以东、祁连山东北地区，先后设置了酒泉（治所在今甘肃酒泉市）、武威（治所在今甘肃武威市）、张掖（治所在今甘肃张掖市西北）、敦煌（治所在今甘肃敦煌市西）和金城（治所在今甘肃永靖县西北）五个郡。原来聚居在湟水流域的羌人被驱赶到更西的地区，他们与匈奴的联系被隔断了。由于汉朝控制了河西走廊，通向西域的大门已经打开。

早在建元三年（公元前138年），武帝为了招引大月氏回敦煌、祁连山旧地，以便共同打击匈奴，曾经派张骞出使西域。由于往返时都被匈奴扣留，13年后张骞才回国复命。尽管没有达到联络大月氏的目的，但张骞亲历了大宛（在今中亚费尔干纳盆地）、康居（在今哈萨克斯坦巴尔喀什湖和咸海之间）、大月氏和大夏（在今阿富汗北部）等中亚国家，使汉朝了解了这一地区的具体情况。在元狩四年（公元前119年）汉军又一次大败匈奴以后，武帝派张骞再次出使乌孙。到乌孙后，张骞派副使出使大宛、康居、大夏、安息（今伊朗一带）、身毒（今印度）等国。到元鼎二年（公元前115年）张骞回国，汉朝与西域和中亚、西亚的交通从此开通。

但是汉朝与匈奴在西域的争夺并没有结束，汉武帝对西域发动了几次军事行动，最大的一次出动了十几万兵力、十几万头牲口和十几万民工，征服了大宛。由于交通线太长，补给困难，汉朝虽然控制了天山南路，但对天山以北还不能经常控制，那里的国家还受到匈奴的威胁，不敢完全服从汉朝。又经过多次战争，到宣帝神爵二年（公元前60年），汉朝终于取得决定性胜利，完全控制了天山北路，设置了西域都护府。

西域都护府的辖境包括自玉门关、阳关以西的天山南北，直到今巴尔喀什湖、费尔干纳盆地和帕米尔高原以内的范围，初期有36国，以后增加到50国，治所设在乌垒城（今新疆轮台县东野云沟附近）。西域都护府既是汉朝的军事驻防区，也是一个特殊的行政区。一方面它与内地的正式政区不同，不设置郡、县，依然保留原来的国，汉朝一般不干预它们的内部事务，但掌握它们的兵力和人口等基本状况；另一方面，都护代表朝廷掌管这些国家的外交和军事权，可以调动它们的军队，决定它们的对外态度，必要时还可直接废立他们的君主，甚至取消某一个国。正因为如此，西域都护府也是汉朝疆域的一部分。

为了向西南开拓，大约在元光五年（公元前130年），武帝就征发巴、蜀二郡（约相当今四川东、中部）的士兵从僰道（今四川宜宾市西南安边场）向牂〔zāng赃〕柯江（今北盘江和红水河）筑路，并新设了一个犍为郡，治所就设在僰道。在这种情况下，“西夷”的邛（今四川西昌市一带）、笮（今四川盐源县一带）的君长请求归属，汉朝在那一带新设了十几个县。但由于筑路工程非常艰巨，加上汉朝正忙于对付匈奴，一度曾取消了部分新设的县。到元狩元年（公元前122年），汉朝恢复了对“西南夷”的开拓。经过几年的经营，川西高原和云贵高原上的部族如邛都、笮都、冉駹、白马、且兰、夜郎等都已纳入汉朝的统治，在这些部族的地区新置了越巂〔Xī希〕（治所在今四川西昌市东）、沈黎（治所在今四川汉源县东北）、汶山（治所在今四川茂汶县北）、武都（治所在今甘肃武都县东北）和牂柯（治所在今贵州黄平县西南）五郡。两年以后的元封二年（公元前109年），又在滇和昆明这两个部族的地区建立了益州郡（治所在今云南晋宁县东），汉朝的西南边界扩展到今高黎贡山和哀牢山一线。