1944年4月19日至5月4日，新四军第3师兼苏北军区发起高杨战役，一举拔除日伪设在高沟、杨口两镇的据点。这次战役是苏北地区持续时间最长的战役，收复了六塘河两岸广大地区，使淮海、盐阜两大战略区连成一片，改变了苏北抗日斗争的被动局面，揭开了苏北新四军由战略相持转向战略反攻的序幕。
洞悉敌情，周密部署
1944年春，日军为加强太平洋战场作战和向我大后方进攻，从苏北地区抽走部分兵力，收缩防务，放弃若干次要据点，更多依靠伪军对我根据地进行“蚕食”和掠夺，使敌后抗日战争形势发生了重大变化。苏北根据地军民在粉碎日伪军连续不断地“扫荡”“蚕食”和伪化后，不失时机地向敌人发起局部反攻。高沟、杨口两镇位于涟水、灌南、沭阳三县交界地区，属涟水县管辖，是淮海区与盐阜区两块抗日根据地联结的要地，也是敌军深入淮海抗日根据地东部最大的据点。日军和伪军第36师第72旅盘踞后，以高沟、杨口为核心进行坚固设防，构筑连环据点，高沟深垒，搭建大小炮楼77个，控制了以高沟、杨口为核心的六塘河地区。
4月，新四军第3师兼苏北军区在分析全局形势和敌我态势后，针对苏北日军抽调兵力赴豫西参加打通大陆交通线作战、其后方空虚等实际情况，决定抓住有利战机，集中淮海军分区第1、第4支队各3个团，第2支队第6团，第7旅第20团及涟东、淮安总队共10个团的兵力，采取分割包围、各个击破的战法，发起高杨战役，打通淮海、盐阜两区交通线，扩大淮海根据地和配合淮北反伪化斗争。针对敌坚固设防和可能增援的特点，我军分析情况作出判断，决定第4支队以两个团和警卫连负责包围高沟周围据点，同时以1个团兵力和涟水县总队在高沟东南准备狙击由涟水等地向高沟、杨口增援之敌；第1支队钳制杨口等地伪军，并相机拔除杨口外围据点，孤立杨口，以便高沟打下后集中兵力会攻杨口。
围城打援，分歼敌伪
新四军参战各部于4月19日前进入阵地，将高沟、杨口分别包围起来。19日夜，战斗首先在高沟打响。由于守卫高沟南门伪军一个班在班长率领下起义，4支队10团在起义伪军班的接应下，从南门杀入镇内，连续攻占了伪警察局、伪72旅办事处、区公所以及大小炮楼10余个。20日拂晓，敌集中兵力多次反击，妄图夺回据点，均被10团击溃。与此同时，11团先后攻克高沟西南张庄据点和东南小黄庄据点，消灭外围守敌，于20日夜进入镇内，与10团合力围攻残敌，部分残敌逃入东北角几个大据点内。21日和23日，11团两次出镇，协同12团和涟水总队，击退新安镇增援高沟的日军和日伪军。23日晚，11团回到镇内，与10团并肩向高沟东北角之敌据点发起进攻，但因敌伪工事坚固，进展不大。镇内残敌连遭我军数日痛击，弹尽粮绝，死伤惨重，又得知援敌被击溃的消息，于是企图突围。24日夜，高沟守敌向北突围，10团、11团突入北门据点，歼敌一部，逃敌被我阻击部队全部歼灭。
攻克高沟据点后，4支队主力即加入1支队部署会攻杨口。至4月25日上午，1支队已按原计划扫清杨口外围据点。在此期间，1支队迫近作业，把战壕挖到距敌地堡、炮楼三五十米处，在敌人旁边构筑重机枪阵地和迫击炮发射点。守敌惊恐万分，多次向我反扑，均被击退。26日上午，4支队和涟水总队击溃新安镇增援杨口之敌。27日，杨口镇内之敌见孤立无援后7次反扑突围，均被1支队2团击溃。趁敌溃乱之际，1支队迅速扩大战果，攻占杨口除核心据点以外的所有据点。29日中午，为救援杨口敌人，新安镇日伪军倾巢而出，猛攻4支队打援阵地。4支队指战员英勇战斗，与敌人血战两小时，将敌击溃。11团乘胜追击，其他部队迂回包围，围歼日军一中队和伪军一部，残敌逃回新安镇，打援战斗取得重大胜利。杨口战斗激战中，新四军第3师师长兼政委黄克诚令7旅20团从盐阜根据地星夜赶来支援，我军士气大振，并对攻打杨口核心据点和打敌增援部队作了重新部署。
发起总攻，战斗告捷
5月1日，日军一部配合伪军徐继泰部500余人，分三路沿六塘河北岸向杨口增援，途中被2团、3团击退，残敌逃回响水口。此后，敌军从响水口抽调伪军西援杨口，从连云港调来飞机投弹扫射，对我打援部队发起猛攻，妄图挽回其失败的命运，但始终未能夺回丢失据点。战至5月3日8时，死伤惨重的援敌逃回响水口。根据敌我双方态势，我军决定发起总攻。5月4日12时，各参战部队陆续按时进入阵地，13时总攻开始。我军集中重机枪、迫击炮对杨口核心据点新宅实施五分钟火力急袭，炸穿敌人核心炮楼。在强力急袭后，未等部队发起总攻击，敌人就缴械投降。至此，杨口战斗胜利结束。
高杨战役是新四军战斗史上正确运用集中使用兵力、各个歼灭敌人战术原则的典型战役。正是在统一指挥下善于发挥下级指挥员灵活机动的积极性，各参战部队全体指战员发扬英勇顽强战斗的作风，使得在守敌多次反扑和外敌增援频繁的复杂情况下，保证战斗的胜利。高杨战役，历时16昼夜，攻克了日伪深入淮海根据地东部最大的据点，击溃涟水、新安镇、响水口等地日伪军的多次增援，全歼伪军主力36师72旅及伪保安第5大队，击毙击伤和俘虏的日伪军官兵达2500余人，缴获长短枪42支，各种弹药3000余发，收复50平方公里土地，解放人民群众8万余人。为庆祝高杨战役胜利，中共淮海地委、行署、军分区于5月16日召开祝捷大会，并在《淮海报》上发表了告淮海军民书。高杨战役极大地鼓舞了淮海军民，军队士气高昂，地方群情振奋，坚定了军民抗战必胜的信念，动摇了日伪军的作战意志和守备信心。