马谡几次命令兵士冲下山去，但是由于张郃坚守住营垒，蜀军没法攻破，反而被魏军乱箭射死了不少人。
魏军切断了山上的水源。蜀军在山上断了水，连饭都做不成，时间一长，自己先乱了起来。张郃看准时机，发起总攻。蜀军兵士纷纷逃散，马谡要禁也禁不了，最后，只好自己杀出重围，往西逃跑。
王平带领一千人马，稳守营盘。他得知马谡失败，就叫兵士拼命打鼓，装出进攻的样子。张郃怀疑蜀军有埋伏，不敢逼近他们。王平整理好队伍，不慌不忙地向后撤退，不但一千人马一个也没损失，还收容了不少马谡手下的散兵。
街亭失守。蜀军失去了重要的据点，又丧失了不少人马。诸葛亮为了避免遭受更大损失，决定把人马全部撤退到汉中。
诸葛亮回到汉中，经过详细查问，知道街亭失守完全是由于马谡违反了他的作战部署。马谡也承认了他的过错。诸葛亮按照军法，把马谡下了监狱，定了死罪。
马谡自己知道免不了一死，在监狱里给诸葛亮写了封信，说：“丞相平日待我像待自己的儿子一样，我也把丞相当作自己父亲。这次我犯了死罪，希望我死以后，丞相能够像舜杀了鲧还用禹一样，对待我的儿子，我死了也没牵挂了。”
诸葛亮杀了马谡，想起他和马谡平时的情谊，心里十分难过，流下了眼泪。以后，他真的把马谡的儿子照顾得很好。
诸葛亮认为王平在街亭曾经劝阻过马谡，在退兵的时候，又用计保全了人马，立了功，应该受奖励，就把王平提拔为参军，让他统率五部兵马。
诸葛亮对将士们说：“这次出兵失败，固然是因为马谡违反军令。可是我用人不当，也应该负责。”他就上了一份奏章给刘禅，请求把他的官职降低三级。
刘禅接到奏章，不知该怎么办才好。有个大臣说：“既然丞相有这个意见，就依着他吧。”刘禅就下诏把诸葛亮降级为右将军，仍旧办丞相的事。
由于诸葛亮赏罚分明，以身作则，蜀军将士都很感动。大家把这次失败当作教训，士气更加旺盛。这年冬天，诸葛亮又带兵杀出散关（今陕西宝鸡西南），包围了陈仓（今宝鸡东），杀了一个魏将；第二年春天，又出兵收复武都（今甘肃成县）、阴平（今甘肃文易西北）两个郡。后主刘禅认为诸葛亮立了功，下了一道诏书，恢复诸葛亮的丞相职位。