日军对河南的进攻在华北抗战失败后就开始了。从北面,1937年10月中旬,华北日军沿平汉铁路往南进军,豫北告急。11月5日,豫北重镇彰德(今安阳市)陷落,之后,河南逐步沦陷。1938年2月6日,日军分两部进犯豫北。一部沿大名公路进犯濮阳,先后占领清丰、濮阳、长垣、封丘等县,往新乡以南进攻;另一部日军从彰德出发,沿平汉铁路往南侵犯,2月11日至3月中旬,先后占领汤阴、淇县、汲县、辉县、新乡,与前路日军会合。两路日军会合后向西进犯,焦作、济源沦陷后,黄河以北全部沦陷。1938年4月,日军任命肖瑞臣继续担任隶于中华民国临时政府的河南省之省长,对沦陷区进行殖民统治。
从东面,1938年5月13日,来自徐州方向的日军占领了豫东永城县,接着,28日又占领了商丘。从6月1日开始,日军先后占领杞县、通许、尉氏、太康,国民党军队撤退到豫西山区。6月6日,日军占领河南省省会开封后,一路向西,侵入中牟,直逼郑州。6月9日,国民政府扒开花园口黄河大堤组织日军前进的步伐。
从南面,1938年10月12日,来自皖西方向的日军攻克固始、光山、罗山、商城等县城后,完全控制了整个信阳,将豫东与皖西连成一片,并与其他日军形成合围武汉之势。
到1938年10月25日武汉失守时止,河南省的豫北、豫东、豫南共50余县沦陷。河南省111县,半壁沦入敌手。而国民党一、五战区主力退据黄河以南、新黄河以东半壁江山,控制了另外半个河南的约60个县与敌对峙达6年之久。