张亚勤没想到的是，李开复的离职影响到了他正在开拓的事业。不久，比尔，盖茨、史蒂夫·鲍尔默都找他谈话，希望他能回到中国领导研发。于是，张亚勤又回来了。
2006年1月，张亚勤回国，把微软亚洲研究院、微软亚洲工程院以及一些产品研发部门整合成微软中国研发集团，他出任集团主席。这也是除美国之外最大的研发基地。至此，他把一个不到10人的微软中国研究院，发展成为拥有3000人的大型研发集团。
张亚勤的成功是极其炫目的，在1978年中科大少年班同学当中，他可能是最为成功的一位。然而，他并不认为成功与天资有特别紧密的联系，他在接受采访时曾说：“重要的是怎么样使用你的聪明，怎么样去发挥你的潜力。智慧就是要把你的天分，把你的潜力挖掘到最大的程度。”
当问到张亚勤是否愿意让孩子12岁上大学时，他给出了一个确定的答复：“我不会让我的小孩12岁念大学，而且我也不会让我的小孩12岁就到国外去读中学。我希望他们在17岁、18岁之前，都和父母在一块儿，然后再读书去。为什么呢？有了小孩在一起的这种天伦之乐，我觉得对于孩子的发展，对父母都是有好处的。”