鲁僖公二十四年（公元前636年），流亡在外十九年的公子重耳，在秦的援助下回国即位，是为历史上有名的晋文公。他举贤任能，勤理军政，“救乏振滞，匡困资无。轻关易道，通商宽农。懋穑劝分，省用足财”（《国语·晋语四》），实行有利于生产发展的政策。这样就使“政平民阜，财用不匮”（《国语·晋语四》），晋国大治，打下了开创霸业的基础。

　　鲁僖公二十三年（公元前635年），周王室发生了王子带之乱，周襄王出居郑国汜地（今河南襄城县境）避难，并派人到秦、晋求援。晋文公君臣认为这是获得勤王的绝好机会。于是辞掉秦师，出兵杀王子带，护送襄王回国。襄王为了酬谢文公的功劳，赐他阳樊（今河南济原县东南）、温（今河南温县）、原（今河南济原县北）、櫕矛（今河南修武县）四邑，“晋于是始起南阳（今河南西北位县、济原一带）”（《左传》僖公二十五年），提高了晋在中原诸侯中的威望。

　　晋文公即位时，宋襄公已经死去两年，当时不仅鲁、郑、宋等国都屈服于楚，甚至象中衰后的齐国也受到楚国的危胁。晋文公要想称霸中原，首先必须转其矛头指向楚国。鲁僖公二十七年（公元前633年），楚围宋，宋告急于晋。晋大夫先轸对文公说：“极施（指文公出亡过宋时，曾受宋君的厚赠）救患，取威定霸，于是乎在矣。”狐僵也对文公说：“楚始得曹而新昏于卫，若伐曹、卫，楚必救之，则齐、宋免矣。”（均见《左传》信公二十七年）文公听从此言，便把晋国旧有的二军扩充为三军，先去侵伐楚的与国曹、卫，并将侵占的曹、卫之田送给宋，又叫宋人赂取齐、秦的救援。楚师子玉遣使至晋，表示愿释宋围，但要晋军同时退出曹、卫。而晋人私许曹、卫撤兵，使曹、卫背楚从晋，晋又拘留楚国的来使，以激怒楚，于是，鲁僖公二十八年（公元前632年），晋国联合了秦、齐、宋，出兵车七百乘，与楚大战于城濮（山东范县临濮集）。战争开始时，楚军占优势，晋军为了争取主动，“退三舍”即去九十里处驻扎下来。但楚军主帅坚持开战，“楚众欲止”士气不甚旺盛。战争中，晋军下军副将胥臣选择楚军力量薄弱的右军陈、蔡两国攻击；晋的中军与上军则集中力量打击楚的下军，因而打败了楚军的左右两翼，取得了胜利。这次战争史称“城濮之战”，是春秋前期最大的一次战争，使楚国在扩张中第一次遭到严重打击，有力地制止了楚的北上。晋文公打退了狄族，保护了王室；又打击了北侵的楚国，再一次缓和了紧张局势。城濮之战后，诸侯服晋，晋文公就在践土（今河南原阳县西南）同齐、鲁、宋、卫等七国之君结盟曰：“皆羿王室，无相害也！有渝此盟，明神殛之，俾队其师，无克祚国，及而玄孙，无有老幼”（均见《左传》僖公二十八年）。这次会盟中，周襄王也被召来参加，并册命晋文公为“侯伯”。从此，晋国也就正式确立了霸主地位。