汉武帝初年的时候，匈奴中有人投降了汉朝。汉武帝从他们的谈话中知道一点西域（今新疆和新疆以西一带）的情况。他们说有一个月氏（音ｙｕè－ｚｈī）国，被匈奴打败，向西逃去，定居在西域一带。他们跟匈奴有仇，想要报复，就是没有人帮助他们。
汉武帝想，月氏既然在匈奴西边。汉朝如果能跟月氏联合起来，切断匈奴跟西域各国的联系，这不是等于切断了匈奴的右胳膊吗？
于是，他下了一道诏书，征求能干的人到月氏去联络。当时，谁也不知道月氏国在哪儿，也不知道有多远。要担负这个任务，可得有很大的勇气。
有个年青的郎中（官名）张骞（音ｑｉāｎ），觉得这是一件有意义的事，首先应征。有他一带头，别的人胆子也大了，有一百名勇士应了征。有个在长安的匈奴族人叫堂邑父，也愿意跟张骞一块儿去找月氏国。
公元前138年，汉武帝就派张骞带着一百多个人出发去找月氏。但是要到月氏，一定要经过匈奴占领的地界。张骞他们小心地走了几天，还是被匈奴兵发现围住了，全都做了俘虏。
匈奴人没有杀他们，只是派人把他们分散开来管住，只有堂邑父跟张骞住在一起，一住就是十多年。
日子久了，匈奴对他们管得不那么严。张骞跟堂邑父商量了一下，瞅匈奴人不防备，骑上两匹快马逃了。
他们一直向西跑了几十天，吃尽苦头，逃出了匈奴地界，没找到月氏，却闯进了另一个国家叫大宛（在今中亚细亚）。
大宛和匈奴是近邻，当地人懂得匈奴话。张骞和堂邑父都能说匈奴话，交谈起来很方便。他们见了大宛王，大宛王早就听说汉朝是个富饶强盛的大国，这回儿听到汉朝的使者到了，很欢迎他们，并且派人护送他们到康居（约在今巴尔喀什湖和咸海之间），再由康居到了月氏。
月氏被匈奴打败了以后，迁到大夏（今阿富汗北部）附近建立了大月氏国，不想再跟匈奴作战。大月氏国王听了张骞的话，不感兴趣，但是因为张骞是个汉朝的使者，也很有礼貌地接待他。
张骞和堂邑父在大月氏住了一年多，还到大夏去了一次，看到了许多从未见到过的东西。但是他们没能说服大月氏国共同对付匈奴，只好回来。经过匈奴地界，又被扣押了一段时间，幸好匈奴发生了内乱，才逃出来回到长安。
张骞在外面足足过了十三年才回来。汉武帝认为他立了大功，封他做太中大夫。