这封邮件说微软将在中国建立一个基础研究机构，计划招募几位世界级科学家去中国创业。邮件最后说，如果张亚勤有兴趣，研究院的李开复院长想和他谈谈。
张亚勤那时并没有听说过李开复，而且作为猎头公司名单上最抢手的人，他对offer已经不太敏感了。不过，邮件中的“中国”二字，还是吸引了他的目光。
于是，他回邮件说愿意和李开复聊聊，并同时在网上搜索“李开复”这个名字。一搜才知道，原来李开复也是享誉全球的科学家，尤其在语音识别技术方面卓有成就，早在1988年，李开复还在哥伦比亚大学读书期间，就开发了“奥赛罗”人机对弈系统，击败了人类的黑白棋世界冠军，后来他又开创性地运用统计学原理开发出世界上第一个“不特定语者连续语音识别”系统，引起业界轰动。
张亚勤产生了一种英雄相惜的感觉。第二天，李开复的电话就打来了。
张亚勤并不知道，就在两个月前，李开复刚刚接受了微软公司的邀请，正式加入微软。此前，李开复是世界著名的SGI公司的副总裁，而在进入SGI之前，他曾经是大名鼎鼎的苹果公司副总裁。
李开复了解到，比尔，盖茨决定把微软剑桥研究院的模式复制到中国，在中国设立研究机构，延揽当地优秀人才。而当时令盖茨头疼的是，找不到一个合适的负责人。
微软剑桥研究院是比尔·盖茨在基础研究方面的大手笔，6年共计投资8000万美元。这所研究院集中了欧洲最天才的科学家，从事多项前瞻性的研究工作。李开复热血沸腾，于是加入微软，领衔筹备中的微软中国研究院。这位“光杆院长”面临约第一个挑战就是寻找志同道合的创业伙伴。
李开复当时也不认识张亚勤。当他征询身边的人时，好几个人推荐了张亚勤。他仔细研究张亚勤的履历时，大吃一惊：12岁进中科大少年班、23岁拿到博士、31岁成为IEEE院士
李开复在电话里只讲了5分钟，张亚勤就允诺：“我愿意回国看一看。”
听了张亚勤等人的汇报，比尔·盖茨意犹未尽，原定的会议时间大大延长
年1月15日，张亚勤只身一人从美国新泽西转道日本东京回国。他回来后正好赶上了第一次招聘高峰期，他和李开复专门为招聘成立了一个面试委员会，制定了非常严格的方案。他们亲自查阅简历，从几千个人选中选出100个人组织笔试，最后进行面试，向其中的20人发出了聘函。
在美国的时候，张亚勤全面负责桑纳福研究院多媒体组的工作，所有决定几乎都由他来做，他是绝对主角。现在，作为微软中国研究院的首席科学家，他变成了配角，职责是协助李开复制定并不断修正微软中国研究院的研究方向和选题，健全研究院的组织机构，并在研究小组之间进行协调。
张亚勤时刻没有忘记他在美国时的老板说过的话：“你回去，有可能成功，也很有可能被边缘化。”张亚勤当时随口回答了一句：“我还年轻，可以去试试，不成我再回来。”不过张亚勤从没有打算“做不成了就回去”，那不是他的风格。
那时，张亚勤的家人还没有回国，他白天面试、定方向、讨论课题，晚上和大家一起吃饭，然后接着关在办公室里搞课题，神经实在绷得紧了就去打保龄球，每天晚上差不多11点钟才离开办公室。在那段时间里，张亚勤重读了很多武侠小说。
年5月，盖茨派微软首席技术官克雷格·蒙迪来北京考察微软中国研究院的进展情况。在研究院里里外外转了一圈后，克雷格·蒙迪大开眼界，回到总部，他这样向比尔·盖茨汇报：“中国研究院的那些人真是厉害，没想到在中国的这个平台，居然吸引了这么一批优秀的人才。”
2000年，IEEE视频杂志最佳论文奖获得者揭晓，张亚勤摘得桂冠。这个专业大奖每年只有一位获奖者，这项殊荣对于当时的研究院意义重大。颁奖典礼上，主持人介绍获奖者张亚勤时说：“他来自中国！”台下听众开始交头接耳地议论起来。
站在领奖台上的张亚勤也不像以往那样一脸淡定，此时的他努力压抑着喜悦，双手接过奖杯，然后高高举起，向台下的嘉宾致意。此时，泪水在张亚勤眼里打着转。
张亚勤有资本自豪。这一年多来，研究院取得了丰硕的成果，仅他领导的多媒体小组就在全球最优秀的学术刊物和会议上发表了80多篇论文，在网络协议领域申请注册了40项专利，做出了60项新发明，并有8项成熟技术转让给微软公司的相关产品部门。
原定一年后再听汇报的盖茨，索性邀请李开复和张亚勤立刻到雷德蒙。自此，微软中国研究院形成了直接向盖茨汇报的制度。
2000年7月，包括李开复、张亚勤在内的微软中国研究院的六位核心骨干就多媒体领域向比尔·盖茨作了第一次汇报。在向盖茨进行演示时，张亚勤讲到小波及信号分解，盖茨立即从座位上跳起来，径直向演示屏幕走来，说：“很好。可你是怎么压缩的呢？”让张亚勤惊讶的是，盖茨的问题都相当深入。
正式的汇报会议结束后，盖茨意犹未尽，虽然助理催他参加下一个会议，他还是继续留下来跟张亚勤等人讨论。他评价说：“你们干得非常漂亮！”中国研究院的这次汇报显然让盖茨很感兴趣。
张亚勤说：“盖茨是一个很聪明的人，对问题有很深入的了解。不过在我的领域，他肯定没有我懂得多，所以向他汇报工作，我相当有信心。”
向盖茨作完汇报后，微软中国研究院的代表们兴冲冲地走出了微软总部大楼。当晚，李开复带大家去聚餐庆功，还抽起了“走私”来的古巴雪茄，并且第一时间发邮件给在中国的同事们。
2003年11月，微软CEO史蒂夫·鲍尔默造访中国。他的行程中有一项是拜见温家宝总理。作为微软在中国的一员大将，张亚勤一路陪同鲍尔默。
在前往拜见温总理的路上，鲍尔默和张亚勤聊起了微软进入移动领域的想法，鲍尔默突然表示，他和比尔·盖茨都认为张亚勤是领导这个团队的最佳人选，并问他：“你有兴趣吗？”
两个星期后，张亚勤来到雷蒙德市，与盖茨会面。会谈中，盖茨再次表达了这个想法：“手机会成为移动技术很重要的平台，尤其在发展中国家，很多人第一次接触计算终端，不是个人电脑，而是手机。所以，我需要你来做这件事情。”
2004年1月，张亚勤经过深思熟虑，答应了盖茨的邀请，调回微软总部出任微软全球副总裁，负责移动通信及嵌入式系统在全球的开发业务。按照微软的“导师文化”，回到总部需要找一个导师，张亚勤希望盖茨做他的导师，盖茨痛快地答应了。
2005年7月4日，张亚勤受邀去休假归来的李开复家里聊天。李开复告诉他，第二天打算去微软辞职，加盟谷歌。