领土问题是从古至今最尖锐、最难解决的问题，也是最容易引发冲突的问题。1960年夏，在新疆境内的“博孜艾格尔山口”，苏联边防军以越界放牧为由袭击了中国牧民。同年，中国外交部成立了“中苏边界问题办公室”，着手准备与苏联的边界谈判。1964年启动的第一轮边界谈判的成果只是在专家层面上双方承认边界存在“争议地区”。1969年3月，两国因边界问题在珍宝岛兵戎相向。这年9月，在参加了越南胡志明主席的葬礼后，苏联部长会议主席柯西金传话说，希望途经北京同中国领导人会面。9月10日，他飞到苏联塔吉克共和国首府杜尚别时得到回音：中国总理欢迎他前来会晤。11日，在北京首都机场候机楼西侧的贵宾室，他与周恩来进行了3小时40分钟的“机场谈话”。在会谈将要结束的时候，柯西金以较轻松的口气说：“我们走了一段弯路。”一场两个核大国之间的剑拔弩张暂时缓解。但此后9年的边界谈判并未缓和中苏边境的对峙。
1991年12月苏联解体，在3300公里的原中苏国界西段上，新独立的哈萨克斯坦、吉尔吉斯斯坦和塔吉克斯坦成了中国的新邻国。
1992年1月2日至7日，对外经济贸易部部长李岚清、外交部副部长田曾佩率中国政府代表团先后访问中亚五国，与五国迅速建立外交关系。在乌兹别克斯坦，代表团受到卡里莫夫总统接见、外长会见宴请、主管副外长对口会谈，一路上有开道车护送。在哈萨克斯坦，纳扎尔巴耶夫总统认为中国政府派团来访是有远见的决策，并对发展两国睦邻友好关系寄予厚望。在塔吉克斯坦，总统提议将中国大使馆所在的街道命名为“北京街”。在吉尔吉斯斯坦，阿卡耶夫总统曾两次访问过中国，他几次引用孔子的话，认为中国经济改革的经验更适合吉尔吉斯的国情。在土库曼斯坦，尼亚佐夫总统向每人赠送了一块土库曼传统的手工毛织地毯。他两次提出要求李岚清部长担任他们的顾问，并开始探讨拓展两国经贸关系的长远蓝图。
“新成立的中亚各国迫切需要一个大国、一个联合国安理会常任理事国、一个重要邻国的承认。”李自国说。双方的积极接触意愿，为边界问题的最终解决奠定了基础。1992年10月，中国政府代表团与哈、吉、俄、塔四国政府联合代表团在北京就边界问题启动了苏联解体以来的第一轮边界谈判。22轮谈判后，1996年4月26日，五国在上海签订《关于在边境地区加强军事领域信任的协定》，达成的共识包括：双方部署在边境地区的军事力量互不进攻;双方不进行针对对方的军事演习;限制军事演习的规模、范围和次数;通报边境100公里纵深地区的重大军事活动情况;相互邀请观察实兵演习;预防危险军事活动;加强双方边境地区军事力量和边防部队之间的友好交往等。翌年，五国领导人又在莫斯科签署了《关于在边境地区相互裁减军事力量的协定》。从此形成了五国元首每年轮流在各国会晤的机制。在这些共识和机制之下，边界问题得以最终解决。
尖锐的领土和边界问题的解决，是基于中国和中亚各国共同的安全需求。复旦大学俄罗斯中亚研究中心、上海合作组织研究中心主任赵胜华在《中国的中亚外交》一书中指出各国的共同利益所在：多个跨境民族的现实，要求双边从维护国家统一和反对民族分裂活动的立场上共同打击各种势力从事分裂活动;作为重要的战略屏障，双边的边界安全能够提高国内经济改革的安全系数。
事实上，原本棘手的边界问题为中国与中亚迅速加深相互认知提供了窗口。边界谈判需要保持经常性的接触。同时，边界问题涉及国家的重大利益，谈判是在国家最高领导层的注视下进行的，原则性的问题都需要国家最高领导层决策。谈判本身就是中国与中亚国家在中亚地区的一项合作，由它所创建的合作机制后来产生了更大的效应。正是在“上海五国”的基础上，2001年6月15日，“上海五国”元首和乌兹别克斯坦总统在上海进行了会晤，并签署了《上海合作组织成立宣言》。