根据陈光和罗荣桓的意图，由来光祖（师机关的参谋）指挥师特务营的2连，配合独立旅1团3营歼灭独山庄之敌；骑兵连和4连担负警戒和预备队的任务。
天渐渐地黑下来了，115师的各作战部队利用青纱帐及其他有利的地形地物，向指定的攻击位置运动。为了出敌不意，各部队都尽可能地接近预定的作战目标。在独立旅3营这个方向上，有的战士甚至听到了敌人的说话声和睡觉的鼾声。
到晚上8时之前，各部队都已进入预定的攻击位置。随后3发信号弹腾空而起，发起攻击的时间到了。战士们在轻重机枪的掩护下，猛虎似地扑向敌人。日伪军在遭到突然打击之下，一时懵头转向，不知所措。有的日军光着脊背，有的穿着短裤，你挤我拥，纷纷向庄南的那座院子逃窜。3营立即乘胜追击，把大院团团围住。与此同时，攻打庄西独立土墙院的3营12连和庄北小高地的11连也是旗开得胜，完成了预定的作战任务，并正在向10连的方向攻击前进。
长田敏江迅速调整部队，并立即分成十几个战斗组，在密集的火力支援下。向外突围，妄想用四面开花的方法杀出重围。战斗进入白热化，双方部队都有较大的伤亡。战斗进行了五六个小时，敌人已被115师消灭了大部分。但是剩下的日伪军都退守到车马店，以密集的火力优势进行顽抗，八路军久攻不下。有的人担心如果日军的援军赶到，115师将处于十分不利的地位。
这时，师部派政治部秘书苏孝顺（现名苏静）到下边了解情况。苏孝顺和来光祖在电话中向师领导汇报了部队战斗的情况。罗荣桓听完汇报后说：“敌人是孤军深入，现在企图固守待援。但是，郓城、汶上的敌人兵力空虚，如果临时抽调，最快要明天中午才能到达。我们已派部队向汶上方向警戒。你们放心打，要集中力量，一鼓作气，争取明天上午10点以前全歼残敌。”随后，罗荣桓又在电话中鼓励部队：“有一句俗话，两军相逢勇者胜，一定要把敌人消灭掉！”
各攻击部队迅速调整了部署。独立旅3营集中所有的轻、重机枪，以猛烈的火力作掩护，由排长李炳祥率领突击队，闪电般地冲进大院，登上房顶，抡锹挥镐，在房顶上挖开几个窟窿，将手能弹丢进屋里，炸得敌人血肉横飞。没被炸死的破门而出，突出包围，向青纱帐逃窜。师特务营的骑兵连飞马扬刀，冲上去奋力拼杀，犹如砍瓜切菜一样。独山庄的老百姓也纷纷出来，活捉四散逃跑的敌人。
上午9时，战斗胜利结束。此战共歼灭日伪军300余人，俘虏日军13人，缴获野战炮2门、九二步兵炮1门、掷弹筒3具、轻重机枪17挺、步枪200余支，以及其它军用物资。在打扫战场时，在一个洼地里发现了长田敏江的尸体。他这个皇亲国戚也没有逃脱应得的下场。
梁山战斗不同于消灭伪军的樊坝战斗，也不同于被动反击的陆房突围。这是一次在平原地区进行的、以日军为主要作战对象的成功的伏击战。双方兵力相当，日军火力处于优势，八路军取得了全歼日军一个大队的战果。梁山战斗提高了115师坚持平原游击战的信心和勇气。就在当月，当时负责日俘管理的独立旅秘书阎学增曾作了一首名为《梁山战斗》的诗。诗是这样写的：
七月鲁西唱大风，梁山好汉请长缨。
冲锋彻夜英雄胆，歼灭整营鬼子兵。
少佐长田非命死，十三战俘得新生。
东平湖卷千重浪，万里青纱正向荣。
这首诗充分体现了115师在梁山战斗后的那种自豪和充满自信的心情。
梁山战斗的胜利，也极大地鼓舞了鲁西人民的抗日热情，提高了八路军在当地群众中的威望。战斗结束后，周围的老百姓纷纷拉来西瓜、猪肉、鸡蛋慰问八路军。仅仅半个月的时间，梁山和东平湖之间，就有3000多名青年参加了八路军。
梁山战斗的捷报也迅速地传遍了全国。不久，中央军委给115师发来了贺电。
梁山战斗的结果惊动了日本天皇。因为天皇的亲戚把小命丢在中国的山东，天皇追究侵华日军总部的责任，侵华日军总部也没有别的办法，只好再向下查问，到了尾高龟藏这一级，就只有背黑锅的份儿了。为此，尾高龟藏气急败坏，迅速纠集了5000余人，调动了100余辆汽车、40多辆装甲车，开进梁山地区，轮番进行“扫荡”，寻找机会与八路军主力决战。
为了避开日军的锋芒，115师化整为零，利用青纱帐与日军周旋。缴获的两门野炮被拆开埋了起来（可惜，后来这两门被115师当作宝贝的野炮，还是被日军掳走了）。陈光和罗荣桓经常带少数人员白天进高粱地，晚上就找个村子过夜。有一天，敌人突然包围了罗荣桓正在宿营的村子，罗荣桓带领随行人员，安然从村东头脱险。
后来，为了应付日军的“扫荡”，罗荣