枣宜会战、鄂中战斗之后，荆(州)襄(樊)平原的日军，经过一段时间的休整，实力增强，他们急于想寻找中国军队主力决战，以求尽快解决所谓的“中国事变”,以便日本从中国抽兵南进，进攻太平洋及东南亚等地。
 1940年底，日本大本营根据11月的御前会议决定的《中国事变处理纲要》,制定了《对华长期作战指导计划》。该计划要求：“(一)在1941年秋季以前，大致不放松现行对华压力，在此期间采取一切手段，特别是利用国际形势的变化，谋求中国事变的解决(第一期)。自1941年秋季以后，转为长期持久战态势，于数年后确立在华兵力50万体制(第二期)。(二)作战以维持治安与占领区的肃正为主要目的，不进行大规模作战，必要时在短时间内，实行近距离奇袭作战，但不以扩大占领区，返回原驻地为原则。(三)在第一期夏秋之际发挥综合战力，对敌施加重大压力，谋求解决事变。……(四)继续以航空进攻作战施加重压，不可放松。对此另行计划。(五)在整个期间，力图从地面、海上及空中加强封锁。切断法属印支路线，破坏滇缅公路，兼用以海军封锁海面、陆军封锁海港作战等方法，加强对华经济压迫。”①
 为贯彻《对华长期作战指导计划》,日本参谋本部第二课部员井本少佐于1941年1月14日至19日，携带文件飞往华北、华中、华南与现地军进行联络调整。中国派遣军总司令官西尾寿造大将认为：“一、方针虽指出对北方坚忍不拔，但不应变更倾注主力于中国事变的宗旨。二、虽说务期于1941年内解决事变，但能否实现？虽尽力而为，却无把握。”②西尾寿造“对于缩减在华兵力，依然抱有抵触情绪。”③1月30日，中国派遣军根据对华长期作战指导计划，作了如下内容的报告：“一、1941年度的作战，根据当前任务，大致确保现在的占领地区，尤其在夏秋季节须发挥综合战力，对敌施加重大压力。特别期待于在华北消灭山西南部中央军的一战。二、在夏秋之际，最大限度发挥航空进攻作战的威力。三、在整个期间加强陆地及海上的封锁杜绝流入、流出，特别将重点放在上海、天津、汉口等地。四、政务方针根据中国事变处理纲要办理。尤其在占领地区内，建立对敌隔绝区域。”④西尾寿造还认为：“无论为适应中央部于1941年内获得解决事变头绪的意图，或考虑到明年以后的国际形势，都必须在本年内为消灭敌军战斗力取得显著成果。”⑤正是基于此，中国派遣军总司令部决定在华发动几次大规模作战特别是“中原会战”,消灭中国军队主力。
 1941年1月上旬，华中日军得悉自去年枣宜战役后即不明去向的汤恩伯第三十一集团军正在东进，当时位于信阳以北约一百五十公里的遂平至项城一带，判断汤部东进目的意在进攻安徽的新四军。日军认为此系速战速决消灭汤恩伯部的好时机。于是，迅速制订计划，发动了豫南战役。
 当时华中战场中国军队的对日守备区正面，横亘鄂、皖、豫三省，全长四百余公里。正面日军，约有步兵七个半师团，独立骑兵一个旅团，独立战车(坦克)三个联队，独立野战重炮一个联队，共约步兵十五万余人，骑兵八千五百余人，大炮五百五十余门，战车三百余辆，装甲车二百余辆，飞机一百多架。⑥
 日军集中于豫南的部队，分为三路：左翼兵团由第三师团全部，附第四师团第八联队及水野战车部队为基干，由第三师团长丰岛指挥；其中央兵团以第十七师团(缺一个联队)附第十五师第六十七联队及吉松濑等战车部队为基干，由第十七师团长平林指挥；其右翼兵团以第四十师团为主力，由该师团长天谷指挥。以圆部和一郎为总指挥。
 此外，皖北豫东方面之日军骑兵第四旅团全部附平林战车联队为一路，由亳州向涡阳进犯；第二十一师团之太田联队由宿州向西进犯；第三十五师团之汤口、小林两联队，附太郎田工兵联队及骑炮兵战车、装甲车各一部，分由开封向通许、朱仙镇进犯。郑州至黄河南岸日军亦向西行动，连击新黄河线向西行，威胁老黄河以北至温县以东地区，企图策应日军在豫南方面的作战。
 此时，中国第五战区的兵力部署为：在平汉铁路及黄泛区方面为第三十一集团军，主力位于豫南平汉铁路正面；平汉铁路东侧为第二十一集团军(大别山兵团);桐柏山区为第二集团军(左集团);随枣地区为第二十二集团军(中央集团);大洪山至襄河左(东)岸地区为第二十九集团军(右集团),襄河西岸为第三十三集团军(河西集团);此外，在黄泛区方面还有骑兵第二军。
 国民政府军事委员会战前综合各方情报，判断豫南方面之日军，将集中主力沿平汉铁路北犯，企图击破我南阳迤东地区的野战军；皖北豫东的日军，有西犯策应之势态。于是命令第五战区司令长官李宗仁，应避免与日军主力正面决战。以一部于平汉路正面进行持久抵抗，迟滞日军之主力前进；一部向日军后方挺进，截断其交通；主力由两翼向日军进行侧击。据此，第五战区决定在平汉铁路正面配置一部兵力，主力则置于日军进攻路线之两侧，保持机动，准备于日军向汝南、郾城、舞阳分路北进时，即向日军侧背发起攻击。
 1月25 日，第五战区调整部署如下：第二集团军以主力集结于泌阳附近；第三十一集团军分别集结于象河关及汝南以东地区；第八十四军主力向息县旧治集结；第五十九军速向枣阳以北推进；第二十九集团军向桐柏、新城集结；第二十九、第二集团军各编组若干有力支队潜入日军后方，进行袭扰。
 同一天，蒋介石电示第三十一集团军司令汤恩伯：“敌军必于下月初或本月底向弟所属各部进攻，务希严令各部积极准备，不可为敌所制。此次敌之攻势，其范围必较远大，豫东南之商城、阜阳、郾城，豫西之南阳、临汝，皆为其预定之目标，近则舞阳、沔阳、桐柏、确山、正阳自为其必窜之途，希以此敌之意图，速作对策，限于本月底布置完妥。总以避免与敌正面决战，而以少数兵力在正面节节抵抗，引其深入，以主力在敌各进路之两翼，作主动的侧击；另以有力一部埋伏敌后，待其前进以后，专事切断其交通。望于月内布置完妥；豫东方面尤应特别注意。”⑦
 汤恩伯因“判敌之主力由信阳分两路：一由泌阳方城舞阳；一由平汉线北犯之公算较多。其主力恐用在豫西方面。”所以作了如下部署：“十三军控制舞阳以南，象河关、尚店、土山镇、仪封镇形成向东向西均可侧击之姿态，八十五军主力控制上蔡、汝南间，准备侧击平汉路北进之敌。该军之一师在西平、遂平占领正面阵地，作强韧之抵抗。在随县之二十九军令开桐柏附近，跟踪袭击北犯之敌，该军艳日可达到桐柏附近。李仙洲军在阜阳、涡、蒙一带，不便移动，暂令续行前任务。”⑧
 1月25日晨，三路日军同时向中国军队进犯：左翼兵团展开于小林店、古城、查山线，发起向北攻击；中央兵团则由明港附近，向北攻击；右翼兵团展开于槐角镇、正阳间，强渡淮河，实行攻击。同时，日军空军亦协同地面部队作战，对中国军队阵地猛烈轰炸。中国军队依预定计划，初期为避免无谓牺牲，仅以少数兵力实行伏击侧击，主力相继转移控制。
 26日，日军攻至泌阳、高邑、邢店、确山之线；27日，日军进于春水、沙河店、驻马店东西之线。此时，中国第五战区长官司令部以北方第三十一集团军汤恩伯部之两军，向日军两翼出击并于敌后实行尾追，计以第十三军向象河关附近之敌行机动攻击，以第八十五军主力向上蔡附近行机动攻击，以第十一集团军之第六十八军，向象河关以南日军尾击，第五十五军则由唐河向泌阳；并以第三十二集团军之第五十九军向南阳前进。
 29日，中国第十三军在舞阳南方接官厅、小史店附近，猛烈攻击日军之左纵队，激战甚烈。同时，中国第八十五军则于上蔡东南汝南附近，攻击日军之右纵队，两纵队之日军，均受到巨大损失。
 中央纵队之日军，沿平汉路西侧北进。中国部队略与阻击后，按预定计划转移。 日军消耗疲劳，意志沮丧。此时日军左右两翼受中国军队优势兵力之打击，接官厅附近之战斗，日军伤亡三千余人，战车被击毁六辆。至31日，日军为挽救其两纵队之危险，乃变更部署，将中央纵队分向两翼迂回：以第十五师团之日军，由遂平经上蔡向右旋，企图与汝南北进之日军，由南北夹击中国第八十五军；其第十七师团主力，则由遂平经西平分两路向舞阳方面左旋；日军左纵队第三师团主力及第四师团一部，亦向舞阳前进，企图与第十七师团主力南北夹击中国接官厅、小史店附近之第十三军。中国第十三军、第八十五军，遂先后于日军合围未完成之前，以第十三军向叶县以北地区转移，以第八十五军向郾城、商水间及沙河以北地区转移。 日军突入舞阳与上蔡后，业已扑空，分别回窜。同时，中国豫西主力第五十九、第五十五、第六十八各军，则分别由唐河、泌阳及其以北地区，向舞阳日军后方攻击。中国皖西第八十四军及游击队向正阳北进，于29日克复正阳，向日军尾击。
 日军为捕捉中国第五战区主力，又未能适时于所望之地点形成优势兵力，主宰战场，反被中国军队阻止截击，其侧背复受中国第六十八、第五十五、第五十九军各军之威胁；加之连日与中国军队苦战，极为疲惫，后方联络既被中国军队截断，致孤立无援，乃于2月2日夜，开始南退。 日军第三师团除残留一部于舞阳、保安砦牵制中国第十三军外，其主力由方城分向南阳、镇平窜犯，中国第十三军乃乘机反攻，于克复保安砦、舞阳后，即向方城日军后方猛烈追击。先是中国第五十九军于南阳东侧，沿白河之线向东实行防御。
 2月3日，日军分路由南阳北方之大石桥、镇平向南阳南窜。4日夜，日军攻陷南阳，中国第五十九军乃转移于南阳西侧沿潦河西岸防御。是时，中国第十三军主力，已进出方城向日军后方尾击，第五十五军亦向南阳南侧前进。6日拂晓，中国第五十九军之第三十八师向日军反攻，克复南阳，日军向唐河东窜。
 当2月4日晚，日军第三师团主力窜南阳时，其第十七师团主力及第十五师团、第四师团各一部，业已由舞阳经象河关向泌阳南犯，企图与由南阳东窜之日军会合，夹击第六十八、第五十五、第二十九各军，当日军窜至象河关附近时，被中国第六十八军勇猛截击，日军伤亡惨重，遗弃军品甚多。迨窜至泌阳附近时，又被中国第二十九军迎头阻击，伤亡更重。至7日夜，被中国军队四面围攻，遗尸遍野，乃以一部沿唐河—泌阳大道，主力沿桐柏—信阳大道向信阳附近溃退，中国南下之第八十五军，尾日军向泌阳东南追击、第十三军、第二十九军及第五十九军、第五十五军各一部，向信阳附近追击，旋即恢复战前态势。
 皖北豫东之日军，为策应其豫南方面之会战，与豫南日军进犯之同时(1月25日晨)分路西犯，一路为第二十一师团之太田联队，由宿州向西南进犯，另一路骑兵第四旅团附平林战车联队，由亳州分三路向涡阳、山河集、双桥西犯，与中国骑兵团在什字河、倪邱集各附近激战，另一路为第三十五师团之汤口联队由通许、朱仙镇向西南进犯，与中国贺师激战，另一路为小林联队则沿黄河郑州北岸西犯，此时安阳附近，日本空军亦不断出击，向周家口、郑、郾城、叶县、襄城、舞阳、洛阳各城市及中国军队第一线轰炸。1月29日，日军进至三塔集附近，被中国军队攻击，伤亡甚重，淮阳附近之日军，乃由中国军队左侧威胁，中国守军遂退守阜阳、太和、界首之线。旋即，日军发起猛攻。5日，太和、界首相继失陷。6日晨，中国军队向日军反攻，克复太和、界首，日军向东北退却。
 豫南战役，自1月25日起至2月10日止，前后共进行17天。据国民政府军事当局报告，日军于是役伤亡九千余人，被焚毁汽车三百余辆，被击毁战车、装甲车一批，还损失了大量军需品。⑨