在那之后，牛皋就组织民众在平顶山一带阻击金军，屡有胜利。

后来更是凭功升到了保义郎。

杜充任东京留守时，牛皋在鲁山讨伐势力强大的贼寇杨进，三战三胜，累次升迁为荣州刺史、中军统领。

金军再次进攻京西，牛皋与敌大战十余次都获得胜利，升为果州团练使。

金军攻江西，自荆门北撤，牛皋率部埋伏在宝丰的宋村，将金军击败，升和州防御使，充任五军都统制。

又与金将孛堇战于鲁山邓家桥，将孛堇击败，转任西道招抚使。

伪齐向金请师入侵南宋，牛皋在险要之地设伏，亲率大军驻扎在丹霞等待来犯之敌，然后设伏兵擒获敌将郑务儿，升为安州观察使，不久任蔡、唐州、信阳军镇抚使、知蔡州。

从这些履历可以看出，牛皋此人有勇有谋，乃是统兵大将，不是谐星。

事实也正是如此。

后来岳飞统管江西、湖北军务，决定由襄汉进军中原收复失地，牛皋奔赴临安面见赵构，力陈刘豫必败，中原可复，赵构将牛皋所部划归岳飞指挥，牛皋自那加入岳家军。

加入岳家军之后，牛皋和岳家军全都如鱼得水。