抗战前夕，范文澜来到开封，任教于河南大学。时值日军由华北南侵，范文澜便以河南大学的名义成立了一个抗敌工作训练班，聘请有经验的教员讲授中国问题和游击战术，参加训练班的青年学得非常积极。

　　抗敌训练班声誉很好，范文澜与同仁商量后，决定挑选部分优秀学员南下信阳打游击，并沿途举办短期培训班，联系当地青年，宣传抗战，发动民众，培养抗日骨干力量。

　　这支近百人的队伍被命名为河南大学抗敌训练班农村服务团（简称服务团），由河南大学教授嵇文甫、范文澜分别担任正副团长，成员大多来自河南大学及北仓女子中学、省立女子中学、开封女子师范和开封高中。服务团一切具体事务都由范文澜负责。

　　服务团从开封步行到许昌，在许昌办了一个为期两周的训练班，受到当地政府、驻军和民众的欢迎。1938年1月30日（农历1937年腊月二十九日），范文澜带领服务团抵达舞阳县一个小村庄。这时恰逢过年，服务团连夜组织学员画漫画、写标语，向村民宣传抗日道理；随后又在附近村庄举办识字班，编唱通俗易懂的《抗日三字经》。范文澜带领学员们教唱抗日救国歌曲，演出抗日话剧。

　　春节后，范文澜带领服务团进驻舞阳县城，与当地抗战及青年团体联手进行抗日宣传，这引起了驻舞阳第五十二军军长关麟征的不安，于是授意县政府将服务团赶出县城。舞阳县长也不敢出面，派警察局长去找服务团。

　　范文澜听到警察局长的“逐客令”后非常愤怒。第二天，他找到关麟征，质问他为什么赶服务团走。关麟征自知理屈，随即摆了几桌酒席为范文澜和服务团学员“压惊”。范文澜将酒桌当成了演讲台，他对大家说道：“诸位，我们在这里似乎听不到枪声和炮声，可是大家可曾想到，就在这个时候，我们这个有着几千年文明史的中华民族，正在遭受着一场怎样的劫难？！日本帝国主义的铁蹄在野蛮地践踏着我们的国土，大好河山烽烟四起，同胞们的鲜血染红了大地！有多少父老在血泊中呻吟！有多少兄弟姐妹在遭受着敌人的蹂躏！我们的民族在流血啊！大家还是团结起来，拯救我们的民族吧！”服务团学员和在场军官们无不被范文澜的演讲感染。

　　1939年春，日军加紧对信阳、桐柏一带的侵犯，为保证范文澜安全，中共鄂豫边区党委决定范文澜从信阳回到确山县竹沟镇，随同党委机关一同行动。