二十九军的人数虽然不少，但是武器装备却很差，轻重机枪和火炮的数量极少，最大的重武器也只是屈指可数的八十二毫米迫击炮和七十五毫米山炮，全军上下以落后的汉阳造、中正式步枪类的轻武器为主，而且即便是这类落后的步枪，也即不能做到人手一把，弹药也很有限。因此，二十九军士兵普遍配备大刀用于近战，每个团、每个营乃至每个连都会专门成立一支专门使用大刀进行肉搏战的大刀队，所以二十九军也被冠以"大刀队"的别名。
因为武器装备落后，弹药数量也很有限，在这样的客观条件约束下，二十九军的战法通常十分简单，那就是在战斗打响后，先集中火力短暂压制敌方火力，大刀队趁机快速冲锋到敌军阵地，依靠大刀这种冷兵器与敌军展开肉搏战，尽管这种战法很落后，但这也是没有办法的办法，二十九军在组建之初，负责在山西一带驻守，在日军准备攻打热河前夕，被调往察哈尔驻防。
1933年，日军攻打热河时，二十九军又被调到了冀北地区阻击日军南下，在此期间，二十九军军长宋哲元将军高呼"宁为战死鬼，不为亡国奴"，带领手下将士在喜峰口长城一带英勇抗击日军，打出了组建以来的第一次抗日威名。"南京方面"被迫与日本签下"塘沽协定"后，"蒋嫡系部队"被逼撤出华北地区，此时的河北一带已经成为了抗日前线，阎锡山的晋军为了自保，也没有贸然进入河北地区，只有二十九军还坚持驻防在察哈尔和冀北一带的抗战第一线。
刚开始，"蒋嫡系军队"虽然撤出华北地区，但是蒋公也并不想让二十九军进驻京津这两座北方重城，但是在1935年，一个由日本暗中支持的阴谋事件发生，给了二十九进军进入京津两城谋求发展的契机。
1935年5月底的一天，一支日军暗中扶持的数百人的土匪汉奸自称"正义自治军"，武装占领了丰台火车站，但是这群乌合之众很快就被北平守城军队击退，二十九军也借着这个事件，应当时的北平军分会增援请求，进入北平城，接着又进驻天津，正式接手了京津两城的卫戍。同时，"南京方面"也意识到，现在京津两城的守城力量实在过于薄弱，一带日军发动战争，京津两地很快就会沦陷，于是也就默认了二十九军进驻北平城和天津城的事实，让宋哲元担任了平津卫戍司令。
进驻京津两城后，宋哲元十分清楚，野心勃勃的日本帝国主义其最终目的是吞并我华夏，他们一定会很快武力侵略华北。于是，宋哲元将军一面与日军虚与委蛇尽量拖延日军，一面又以日军随时都有可能武力侵略华北为由向"南京方面"施压，希望能够得到"南京方面"的支持，扩充自身实力，为接下来的抗日积蓄力量、做好准备。
在当时，宋哲元将军与日军虚与委蛇进行接触的做法，受到了一些人的误解，他们认为，宋哲元抗战决心不坚决，在与日军接触过程衡中不够强硬，这种行为丧权辱国，不适合担任平津卫戍司令，呼吁让"南京方面"慎用宋哲元，在这种种不利情境下，宋哲元将军忍辱负重，只默默用行动证明自己。不久，随着日军挑起七七事变，宋哲元将军也终于带领自己手下的二十九军，向国人证明了他们的抗战决心！