张自忠，字荩忱，1891年8月11日出生在山东临清唐元村的一个官宦家庭。张自忠6岁入私塾就读，3年后，父亲张树桂前往江苏赣榆就任巡检，把张自忠也带了去。
1905年，张树桂因政绩不错，署理赣榆知县，官晋五品。此时张自忠14岁，已长成一个英姿勃发且充满正义感的少年。张树桂见儿子长大了，又生性刚烈，就把他送回了临清老家。张自忠回临清不久，就从赣榆传来噩耗：父亲因病卒于任上。
光绪三十四年（1908年），他考入了临清高等小学堂。强调忠、孝、仁、义的传统道德从小便在张自忠的内心深深扎下了根。
学习之余，张自忠常借一些小说来阅读消遣。最让他喜爱的是《三国演义》《说唐》和《说岳精忠传》。这些古典名著对传统道德作了活生生的注释，关云长、岳武穆和秦叔宝的忠义侠行和浩然之气对他影响颇深。
宣统三年（1911年）10月，辛亥革命爆发。冬，张自忠考入了当时中国北方有名的法律学校天津北洋法政学堂。在这里，他第一次接触到孙中山的三民主义学说和“驱除挞虏，恢复中华，建立民国，平均地权”的资产阶级革命政纲。
这些振聋发聩的进步思想在他原本只知孔孟之道的头脑中增添了崭新的内容，对他日后的成长产生了相当大的影响。1911年底，张自忠秘密加入同盟会，亲身投入了轰轰烈烈的革命运动。
1916年9月，同乡好友车震偕张自忠到了廊坊，将他推荐给了冯玉祥。冯玉祥听了老友的介绍，又将张自忠上下打量一番，见他长得高大英武，且颇有“沉毅之气”，便很满意地收下了他。
投奔冯玉祥之初，张自忠被委为中尉差遣。不久，张自忠由见习官升任排长，所在连连长就是后来颇有名气的“倒戈将军”石友三。
1918年9月冯玉祥在常德设立了军官教导团，以炮兵团团长鹿钟麟任团长。张自忠奉派进入教导团军官队深造。主要学习战术、率兵术、地形、兵器、兵史、筑城、简易测绘等。
1924年春，张自忠被冯玉祥任命为学兵团团长。是年秋，第二次直奉战争爆发。吴佩孚任命冯玉祥为第三军总司令，令其出古北口进击开鲁，但冯玉祥暗中班师回京，与驻防北京的孙岳部里应外合，发动北京政变，囚禁直系首领曹锟，并将溥仪皇帝驱逐出宫。
在此过程中，张自忠部受命由古北口直趋长辛店，截击吴佩孚的交通兵团，迫其缴械投降。不久，张自忠奉命移驻丰台。张自忠率部到达丰台，驱逐英军，重获丰台主权。
1930年5月，中国近代史上规模空前的军阀混战――蒋冯阎中原大战爆发，双方投入的兵力高达130万人。此时，张自忠任第6师师长，编入张维玺统领的南路军。
5月初，南路军首先在平汉线向蒋军开战。5月中旬，张自忠指挥第6师一夜之间从蒋军徐源泉部手中夺回许昌十五里店。6月中旬，张自忠等部由平汉线转用于陇海线，支援东路军。在高贤集打败蒋军精锐张治中之教导第2师。
他的参谋长张克侠评价说：“其决心坚强，临危振奋。每当情况急迫之时，辄镇静自持，神色夷然。”
1930年9月18日，一直坐山观虎斗的东北军统帅张学良宣布放弃中立立场，通电拥蒋，随即挥师入关，占领华北。张自忠的第6师除了配属粱冠英的第17旅随梁投蒋外，尚有第15、16旅一部和手枪团大部，约5000人，是西北军残部中最完整的部队之一。
1931年1月16日，西北军残部正式编成东北边防军第3军，宋哲元任军长，秦德纯、刘汝明任副军长，冯治安任37师师长，张自忠为38师师长。同年6月，南京政府开始整编全国陆军，第3军改番号为第29军。
1933年1月10日，二十九军主力奉命由山西阳泉开赴通州、三河、蓟县、玉田待命。这是张自忠有生以来第一次同日军交战。
1933年3月4日承德失陷后，二十九军奉命赴喜峰口阻敌，冷口防务交商震部接替。3月7日，张自忠与冯治安抵达遵化三屯营与日军激战七日，日军无法获胜，转而将主攻方向转到罗文峪方面。
张自忠、冯治安将37师刘景山219团和38师祁光远228团调往罗文峪方面，归刘汝明师长指挥。战斗结果，日军再遭败绩，狼狈撤退。这是抗日战争前期中队少有的胜利之一。
但由于蒋介石此时的主要注意力仍放在“围剿”和红军上，长城防线兵力薄弱，日军从冷口突破商震部防线，攻入长城以内，继而占领迁安，二十九军陷于腹背受敌、孤立无援的境地，被迫放弃喜峰口、罗文峪阵地，向西南方向退却。
国民政府加紧向日军谋求停战，最终被迫同日方签订了屈辱的《塘沽协定》。