可是，日本军队的行动并未因此而停止。日本大本营指责的其实也只不过是日本军队的失利。如果日本军队偷袭得手，它怎么会指责？
7月2日夜，日军开始按计划行动。由第23师团的步兵23兵团长小林恒一少将，率领所属步兵第71联队和第72联队，于7月3日子夜，从北面渡过哈拉哈河，随即向西南进攻，歼灭苏蒙军队，占领高台阵地；河东战线由第1战车团长安冈正臣，指挥其战车第3联队和第4联队，及步兵第64联队、野炮兵第2大队，于7月3日拂晓向河东苏蒙军发动进攻，将其全歼于河东地区，并策应河西进攻台地。
进攻河西的小林恒一少将的部队的渡点，是在离诺门罕约20英里的达克湖附近。7月3日是小弦月天气，零点正是伸手不见五指的黑天，这样就给渡河日军带来许多不便，使部队比原计划晚了3个小时到达。
第71联队的藤田千野少佐的第1步兵大队首先渡过哈拉哈河。这支日军过河并没有遇到大的抵抗。藤田便通知主力部队迅速过河。至7月3日凌晨3时半，第23师团的兵力全部渡河完毕。这次顺利渡河使日本军官们感到非常高兴，他们认为，可以对苏蒙军队进行突然袭击了。
可是日本人肯定想不到苏联军队已经发现了日军的军事行动。苏联军队前线司令官朱可夫立即对其做了周密布置：让日军前进之后再围歼。蒙军骑兵第6师奉命退至巴查岗山西北地区待命，等待援军。对阿弗宁上校作了布置后，又下令让所有的预备队立即向巴查岗山方向前进，并向敌人展开进攻。苏联军队坦克第11旅、装甲第7旅、摩托步兵第24团、1个炮兵营、1个装甲营以及所有能出动的飞机，全部向巴查岗山方向前进。
7月3日，苏军炮兵和飞机封锁哈拉哈河渡口，阻止日军增加援军。上午9时，苏军坦克第11旅前卫营赶到巴查岗山地区，同蒙军骑兵第6师向日军展开了猛烈进攻。不久所有增援部队赶到。
在一望无际的大草原上，苏军的机械化装备发挥其威力。到处是纵横驰骋的苏军坦克和装甲车部队。日本军队痛苦的挣扎着，可是他们再怎么努力战斗，也始终不是苏联先进武器装备的对手。
一位死里逃生的日军，在日记中这样写道：“90辆坦克向我们冲来。我们当时惊惶失措，战马嘶鸣，拖着火炮车到处乱窜，汽车四处乱开。空中，我军两架飞机被击落。官兵个个都心惊胆战。我们嘴里越来越常说的字眼是‘可怕’、‘可悲’、‘心惊胆战’、‘惊心动魄’。”
日军第23师团长小松原道太郎，对于苏蒙军的猛烈攻击感到震惊，他连忙调派在河东守卫军桥的步兵第26联队和野炮第3大队到河西增援。可是，在苏蒙军的炮火轰击下，增援部队根本无法渡河。
7月3日下午3时，关东军副参谋长矢野晋三郎少将，根据河东进攻火力和眼前的情况，向第23步兵团长小林恒一建议，部队不应该继续留在河西作战，立即停止进攻，并于当晚撤回到河东。
日本军队决定当晚撤回河东。夜幕降临后，部队在黑夜中依靠北极星辨别方向回撤。可是突然之间，空中落下大批的照明弹，将整个战场照得如同白昼。苏蒙军的炮弹铺天盖地从天而落。惶惶如惊弓之鸟的日军以为又将遭到坦克部队的冲击，部队一片混乱。
7月14日早晨，日军退到军桥附近，战斗已移到军桥附近。被打得晕头转向的日军好不容易才退过桥。担任守桥和最后炸桥的是工兵第23联队，最后过桥的是第26联队。
担任河东岸作战任务的安冈正臣部队也是厄运当头。按照计划，安冈部队本应于7月3日拂晓发动进攻。因为是草原作战，日军无此先例，黑夜里在草原上行军，因为没有固定的道路可循，日军出发后不久，各部队便失去联系。最后只能凭借枪炮声来判断相互的大致位置。日军突破苏蒙军警戒阵地后，三个联队都迷失方向，并同安冈正臣的指挥部失去了联系。当一部与苏蒙军接头后，这才给晕头转向的其他部队，指明了进攻的大致方向。日军战车第3联队在攻击开始后，立遭苏蒙军炮火的猛烈反击。第3联队队长吉丸清武大佐亲自指挥，在攻到离河岸4英里处的苏蒙军主阵地时，由于伤亡惨重，于晚9时半停止进攻，休整集结待天明。原与第3联队共同作战的山县武光大佐的步兵第64联队，由于迷失方向，未能与第3联队协同作战，等与战车第3联队会合时，已停止进攻。战车第3联队与步兵第64联队会合后，于7月3日中午，再次向苏蒙军主阵地733高地发动进攻。在苏蒙军大密度的炮火下，两联队日军最后以13辆坦克和5辆装甲车被击毁、第3联队队长吉丸武清大佐和联队副官古贺音人少佐战死的惨重代价，战车第3联队余部才得以突围。但苏蒙军733阵地最终还是被日军占领。
日军在河东发动的进攻作战至此结束。日军的一些军官认为，同装备如此精良的苏军作战，日军实在不是对手。如此下去必将遭到惨败。前线中下级指挥官并不能决定关东军司令部作战计划。
遭到惨败的日本关东军，却不愿在大败之后停止军事行动。他们依然野心勃勃，妄图以与重野战炮兵部队的配合对苏蒙军发动攻势，但均未能攻克主阵地。
8月4日，日军大本营决定投入更大的兵力发动新的攻势。日军大本营下令海拉尔地区的第6军辖第23师团和海拉尔第8国境警备队投入战斗，由获洲立兵中将担任该军司令官。
一直处于防守的苏蒙军队，得到苏军最高统帅部命令，要求给关东军致命的最后一击。苏蒙军队指挥部立即进行总攻前的准备工作，总攻预计不迟于8月20日，目的在于最后消灭入侵蒙古人民共和国境内的日军。
苏军共向哈拉哈河以东地域投入了5个装甲旅、2个骑兵师、1个摩托化步兵师、1个机械化步兵旅、2个步兵师、1个空降兵旅，以及大量的炮兵和航空兵部队，以便进行这次总攻。另外，苏联方面还把5、6万吨的重要物资从长达650英里以外的供应站运来。
苏蒙军为了掩护队伍在夜间行动，使用各种音响器材来模拟各种军事行动。经过前几次的战斗，日军已经精疲力尽，又经长时间的模拟音响使日军后来对任何响动都习以为常，以为是苏蒙军有意破坏其休息，使之无力作战。所以，如此大规模的军事行动，日军却并未察觉。一切准备完毕，总攻就要开始。
8月20日，是一个星期天，天气晴朗。经过长时间交战的日军指挥部深信苏蒙军队还没有做好进攻准备，因而允许军官星期日休假。日军这一致命弱点，却被苏军前线司令官朱可夫上将猜中，并决定只能在该天发动进攻。
1939年8月19日夜间至20日拂晓，苏蒙军大批轰炸机群，对驻扎在诺门罕地区的日军第23师团和第7师团第14旅团，进行了空前猛烈的轰炸，投下的炸弹像雨点一样。轰炸机飞回后就是各炮群的高密度的持续覆盖的射击。
苏蒙军的突然袭击惊人的成功，日军在精神上、火力上都被压制住了。日军在一个半小时内，无任何炮火还击。致使日军的观察、通信联系及炮兵阵地全被摧毁。
就在苏军空袭和炮火的打击下，苏蒙军队的两支装甲部队和摩托化步兵，以极迅速的动作从南北两翼，向日军侧后发起迂回攻击。苏联军队的意图十分明显，就是力图将日本军队予以分割，然后各个歼灭。
8月23日晚，日军伤亡惨重。由于日本军队根本不适应在流沙、沙坑、沙丘之中作战，所以日军的战斗行动极为困难。有些士兵已经逐渐识破官方所吹嘘的“皇军不可战胜”的神话，开始有厌战情绪产生。
8月24日，日军处境更加困难。第23师团之第23步兵团长小林恒一少将被击成重伤，第72联队长酒井美喜雄大佐也受重伤，两人相继离开火线。已到末日的关东军，却不肯就此停战。
日本军队第23师团在第6军司令官的率领下，对南路苏联军队发动了反攻。日军急调第7师团主力，妄图打破苏蒙军对第23师团的围攻。调驻牡丹江市以东的第2师团、野战重炮兵联队、速射炮部队至战场，又调驻佳木斯的第4师团赶至诺门罕。
8月26日，当日本的增援部队相继到达战场时，苏蒙军担任两翼迂回的部队，已经形成合围之势，将日军第23师团等部团团包围起来，日军多次突围均未成功。
8月27日，苏联军队开始对被围的日军，进行分割，然后歼灭。日军各级指挥官在绝望之中纷纷自杀。日军的战线几乎崩溃了。
8月28日，战争已基本结束。经过8天8夜的激战，苏联军队和蒙古军队全歼了日军第23师团、第7师团一部及配属的几个炮兵联队。
8月30日，苏蒙军队又成功地消灭了侵入蒙古人民共和国边界的日军第6军的全部兵力。
诺门罕事件至此结束。日本法西斯在这次事件中，受到极其沉重的打击，日本法西斯政府不得不重新对苏联武装力量的威力进行衡量，并且不得不重新制订对苏联的政策方针。
正当日军在中蒙边境的反苏战斗被打得惨败之时，日本听到了一个他们十分不愿听到的消息。8月23日，德国和苏联在莫斯科正式签订了《苏德互不侵犯条约》。日本法西斯本来是与德国一起密谋来联合反苏反共，想不到德国竟然私下和苏联签订了互不侵犯条约。日本人现在才明白，自己被德国人愚弄并出卖了。
日本关东军虽然遭到如此惨败，却不肯就此服输，他们企图抽调关内的第5师团和第14师团等部队，与苏联继续作战。日军大本营于9月30日制止了日本关东军的贸然行动。日军最高统帅部也开始追究与该事件有关人员的责任，借此来平息世界舆论。对诺门罕事件负有直接责任的关东军司令官植田谦吉、参谋长矶谷廉介被免职，并转入预备役。日本政府得知苏德签订互不侵犯条约之后，大为震惊，于是便向德国提出抗议，责备其背信弃义。
1939年9月9日，日本驻苏联大使东乡茂德，向苏联提出停战请求。15日，东乡大使与苏联外长莫洛托夫，在莫斯科签订了关于诺门罕地区的停战协定。该协定规定，日满军队和苏蒙军队于9月16日上午2时(莫斯科时间)停止一切军事行动，双方军队停留在9月15日下午1时的控制线上。同时，日本和苏联还达成了成立划界委员会的协议。日本帝国主义所发动的诺门罕军事行动是相当于局部战争规模的反苏军事挑衅，最终以自己的彻底失败而告终。日本方面自己承认的伤亡人数为18000多人。
法西斯头子东条英机和其他军政头目对于诺门罕事件的失败，十分震惊。在这以后，面对错综复杂的国际关系的新变化，东条英机意识到，不宜对苏过早采取行动，而应先向南征服中国。
