各级军官受到迫害，部队遭受重创，朱可夫倖免于难。1939年夏，朱可夫调任远东第1集团军司令，指挥苏军在满蒙边界附近同日军进行短期交战，围歼敌重兵集团，因此再次脱颖而出，被授予“苏联英雄”称号。1941年6月22日，德国法西斯发起“巴巴罗萨行动”，朱可夫被提升为苏军总参谋长。同年，他指挥莫斯科保卫战取得胜利。1943年7月，他在库尔斯克指挥了战争史上最大规模的一次坦克会战，成功击败了德国法西斯的战略反攻。1944年夏，作为最高统帅部代表，朱可夫亲自策划并指挥了“巴格拉季昂”战役，在白俄罗斯发起大规模战略进攻作战，一鼓作气将德军赶出苏联国土，并从此踏上了长途追击德军的征程，一直进逼柏林。1944年11月，朱可夫被任命为白俄罗斯第1方面军司令，与乌克兰第1方面军协同作战，合力进攻柏林。