为收复中原提高个人威望，354年二月桓温率四万大军从江陵出发，经襄阳，出武关，越秦岭，向关中进军，讨伐由氐族人苻氏建立的前秦政权。这是桓温第一次北伐。前秦王苻健派太子率五万大军抵御晋军。这年四月，桓温率军与秦军大战于蓝田，打败了秦军，进军灞上，抵达前秦都城长安的郊区。当地老百姓纷纷牵牛担酒前来犒劳晋军。老人流涕道：“不图今日复见官军～”六月，桓温因军中缺粮，被迫从潼关退兵。秦军跟踪追击，晋军损失一万多人。356年六月，桓温进行第二次北伐，从江陵发兵，向北进军。八月，桓温挥军渡过伊水，与羌族首领姚襄军战于伊水之北，大败姚襄，收复洛阳。桓温在洛阳修复了西晋几个皇帝的陵墓，又多次建议东晋迁都洛阳。但是东晋朝廷只求苟安东南，无意北还，又对桓温的北伐抱消极态度，桓温只好退兵南归。到359年，中原地区被慕容氏的前燕政权所占领。363年，桓温被任命为大司马，都督中外诸军事，录尚书事，第二年又兼扬州刺史。桓温身为宰相，又兼荆扬二州刺史，东晋大权全掌在桓温之手。369年，桓温利用执掌的权力，发动了第三次北伐，讨伐前燕政权。这年四月出发，六月到金乡（今山东金乡）。桓温率水军经运河、清水河进入黄河，一直进军至枋头（今河南浚县西南，薄酒重要渡口）。前燕王任命慕容垂为大都督，率五万军队前往抗击，另派将领截断晋军粮道。晋军与燕军数战不利，粮道又被截，储备将竭。桓温被迫撤军，从陆路撤还。慕容垂率8000轻骑兵追击，打得晋军溃不成军，斩晋军三万余。桓温败归后，所收复的淮北土地重又丧失。