7月，5团进驻红杨树，受到当地百姓的热烈欢迎；国民党借日寇之手消灭新四军的企图失败。
新四军5团发现国民党军失利的主要原因是抵抗精神差；防守兵力施展不开。
在水网地区作战，日军通过圩堤进攻，防御部队拥在一条圩堤上，呈纵向三线配置，虽人数众多，但实际接战的兵力并不多，加之火力不如日军，所以伤亡大，一现缺口就全线崩溃。
5团团长孙仲德出身于保定军校，作战经验丰富。鉴于国民党军失利的教训，孙仲德率部在圩堤拐弯处挖开一道200米宽的豁口，用以将日军堵在圩堤的直线段。
另外，在挖断的下段圩埂的侧面及横断面上，挖出小坑道，设置了许多射击暗孔，分层配置好明暗工事，架起机关枪埋伏，以横向对敌纵向。
几天后，日寇沿青弋江大堤开来，进入伏击圈，新四军猛烈射击，日军被成片打倒。
日寇一边用炮火猛轰新四军阵地，一边疯狂冲锋。由于新四军的工事全部一线平行配置，没有纵深，日军炮火未起作用，冲锋的日寇成了新四军的靶子。最后，一向骄横的日军只得拖着上百具尸体退走。
为防日寇来日再犯，新四军加固工事；又将大树投入河中封锁河道，阻止日军汽船从水路进攻。
几天后，学乖了的日寇利用圩堤作掩护，从靠河沿的外围隐蔽接近，可是一到豁口处，日军又暴露在新四军的火力之下。
日军正面强攻不成，又派兵力迂回夹击，但5团早有防备，日寇遭受痛击，进攻告败。后日军又多次攻打红杨树，但都被新四军击退。
日伪军先后付出伤亡近200人的代价，却再未进入红杨树。
红杨树战斗是新四军进入皖南地区的第一战，日军不可战胜的神话破灭，极大地鼓舞了战区的群众。
战斗结束后，红杨树周边的百姓，敲锣打鼓地给五团送菜、送肉，主动地帮助部队修筑工事。