关家垴山顶的日军以为八路军还从斜坡往上攻，正全神贯注地盯着斜坡，没想到八路军突然从他们屁股后面冒出。一阵手榴弹响过之后，关家垴山顶阵地上的日军顿时陷入混乱之中。隐蔽在壕坎下的突击队趁势迅速冲上去，双方随即在关家垴山顶展开激战。769团的后续部队也不断攻上垴顶，加入战斗，最终控制了制高点。
同时，772团和决死第1纵队25团、16团等部也先后攻上关家垴。经过激烈的肉搏，日军一部被歼，其余则退到了半山腰的窑洞中，拼死抵抗，火力仍然很猛。
八路军向关家垴连续发动了18次进攻，终于攻占了日军的第一道防线。然而，由于八路军缺少重型武器，围歼日军余部的战斗进展缓慢。直至深夜，日军仍顽强地据守在窑洞中。
经过
悲壮的胜利
从武乡县、辽县出动的2500多人的日军增援部队正在向关家垴挺进，黎城等地的数千名日军机动部队也在向关家垴靠拢。385旅和新编第10旅已与增援的日军交上了火。陈赓又派出一个团前去支援。
关家垴之战，已打成了一场八路军4个旅（决死队1个旅含2个团）与4000多日军的大会战。
八路军腹背受敌，但彭德怀还是决意拿下关家垴。
刘伯承、陈赓见彭德怀如此坚决，只得组织部队继续攻打，力争在日军增援部队到来前解决冈崎大队。
彭德怀一声令下，总部炮兵阵地的迫击炮连续不断地向日军占据的主阵地轰击。总部特务连和772团第一连组成的突击队在前面开路，大部队紧跟而上。
八路军打得很英勇，日军抵抗也同样顽强。又是整整一个晚上，八路军始终没能完全占领阵地。
再不撤，眼看将要被日军包了饺子。彭德怀终于下令撤出战斗。冈崎大队的余部突围了，日军对关家垴周围地区进行了疯狂的报复，数天之内屠杀群众6000余人。
关家垴战斗，交战双方都付出了重大的代价。
几天后，彭德怀、左权、刘伯承、陈赓等人一齐登上关家垴，仔细察看了日军构筑的临时工事、暗堡掩体、火力配置。刘伯承指示随行的参谋人员将敌人的阵地一一绘制成图。当刘伯承看到日军挖的众多“猫耳洞”，人躲藏在里面非常安全，很受启发。他说：别小看这小小的招式，非常实用，凭我们现有的武器还真难对付。
彭德怀挨批，心感不安
关家垴战斗持续了两昼夜，但有关这次战斗的批评和争议却持续了几十年。
中国共产党对外一直对百团大战完全肯定，但内部对于百团大战的评价却随时间的变迁有一些变化。
百团大战刚结束时，中共中央对此十分肯定。随着1941、1942年日军大“扫荡”导致八路军极端困难后，对百团大战的批评声音渐高。毛泽东在肯定百团大战功绩的同时，对其存在的问题提出了批评。他特别对百团大战的宣传很不满意。聂荣臻回忆：毛主席批评说，这样宣传，暴露了我们的力量，引起了日本侵略军对我们力量的重新估计，使敌人集中力量搞我们。同时，使得蒋介石增加了对我们的警惕。你宣传100个团参战，蒋介石很惊慌。
延安整风中一些同志批评百团大战存在的问题，毛泽东曾解释说，百团大战“在群众中应该说打得好，在高级干部中也要说明百团大战是英勇的，只能在战术上加以说明（问题）。” 毛泽东所说“战术”是指他一贯主张独立自主地开展山地“游击战” ，而关家垴战斗则是一场阵地攻坚战。此外，毛泽东对彭德怀在百团大战中的战场专断也有看法。
1943年1月，邓小平在太行分局的一次会议上指出：百团大战使本区军事力量过于暴露，伤亡很大，元气不易恢复。
1945年刘伯承在中共“七大”发言：百团大战不打不行，但是打，也不是使用百团大战的打法，更不是运动战，尤其是阵地战这样的打法，而是要用全面游击战争的打法。
彭德怀对“打得比较苦些，伤亡也比较大些”的关家垴之战也深感不安。在《彭德怀自述》中，他将关家垴战斗视为自己戎马一生的四大败仗之一，其他三次是红军时期赣州战役，解放战争时期的西府陇东战役和朝鲜战争的第五次战役。彭德怀试图歼灭日军的一、二个大队，使敌人不敢轻易来犯，进而顺利扩张百团大战的战果，但没想到损兵折将后竟啃不下冈崎大队这块硬骨头，真是如鲠在喉啊！犟脾气一上来，头脑越发不冷静，连刘伯承、陈赓的意见也不听，他下不来台了。
然而，关家垴之战毕竟也给予了日军巨大的震撼。