１９３９年，回民教导总队改编为八路军第三纵队回民支队，马本斋任司令员。１９４２年８月，回民支队奉命到达冀鲁豫抗日根据地，他被任命为冀鲁豫军区第三军分区司令员兼回民支队司令员。马本斋作战勇猛，身先士卒，在回民支队和广大群众中享有很高威望。改编后的回民支队，在他的率领下，战斗力不断提高，队伍迅速发展到２０００多人，成为八路军冀中军区野战化较早的一支能征善战的精锐部队。

日本侵略军为消灭回民支队，无所不用其极，但都没有能够得逞。１９４１年８月２７日，日本侵略军抓走了马本斋的母亲白文冠，企图逼降素有孝子之名的马本斋。同时，以马母为诱饵，诱使马本斋率部来救，以乘机消灭回民支队。日本侵略军用种种手段，逼迫马母给马本斋写劝降信。但是，深明大义的马母宁死不屈、义正辞严地拒绝敌人：“我是中国人，我儿子当八路军是我让他去的。劝降？那是妄想！”马母绝食７天，以身殉国。回民支队指战员纷纷请战，要为马母报仇。马本斋沉痛地劝说战友们，“以大局为重，不要上敌人的圈套。”他向母亲写下誓言：“伟大母亲，虽死犹生，儿承母志，继续斗争！”

从１９３７年至１９４４年，马本斋率领回民支队，不惧牺牲，浴血作战，奋勇杀敌，经历大小战斗８７０余次，歼灭日伪军３．６万余人，在广阔的冀中平原和冀鲁豫边区，所向披靡，屡建战功，打得日本侵略军闻风丧胆。

１９４３年底，他在率部参加冀鲁豫抗日根据地反蚕食战斗中，颈后长了毒疮。由于战事繁忙，加之缺医少药，未能及时治疗，不久病情加重。１９４４年１月底，回民支队奉命开赴延安。出发前，他抱病为部队作了最后一次动员，叮嘱同志们“要跟着党，跟着毛主席，抗战到底！”同年２月７日，马本斋在冀鲁豫军区后方医院不幸病逝，时年４２岁。３月１７日，延安各界举行马本斋追悼大会，毛泽东、周恩来、朱德等中央领导送了花圈和挽联。毛泽东的挽词是：“马本斋同志不死！”周恩来的挽词是：“民族英雄、吾党战士！”朱德的挽词是：“壮志难移，回汉各族模范。大节不死，母子两代英雄！”