乾时之战以后，大获全胜的齐军在鲍叔牙的带领下进入鲁国，直逼曲阜。这让鲁庄公惊慌不已。然而出乎他的意料，齐军前来，并不是要攻灭鲁国，而是索取人质。鲍叔牙给鲁庄公写了一封信，其中希望鲁国处死公子纠，并将召忽和管仲送回齐国。虚惊一场的鲁庄公面对着齐军大兵压境，并未多想，便将公子纠杀死，召忽闻听此事，也自杀成仁。而管仲则被鲁庄公抓起来，派人押送至齐国。
其实，鲁庄公又一次上了齐国的当。鲍叔牙和管仲交情莫逆，怎么会加害于他呢？这个主意其实是鲍叔牙的建议，当齐桓公打算拜他为相的时候，鲍叔牙毅然决然地以能力不足为理由推辞了，他明白只有经天纬地之才、济世匡时之略的管仲才能辅佐雄才大略的齐桓公成就霸业。于是他建议齐桓公拜管仲为相。
原本齐桓公还在为管仲的一箭之仇耿耿于怀，但在鲍叔牙的一再推荐下，他对管仲的才能也起了兴趣。便借口要手刃管仲报仇，将其从鲁国要了回来。管仲是个绝顶聪明的人，他自然明白鲍叔牙的一番苦心。经过三天的斋戒、沐浴、更衣之后，齐桓公亲临驿馆，恭恭敬敬地将管仲请到宫中问政，而管仲自然顺水推舟，决定为齐桓公效力。
不过，年轻气盛的齐桓公一开始并未完全听从管仲的建议。由于鲁国之前一直与齐国不睦，之后又支持公子纠继位，齐桓公对鲁国可谓深恶痛绝。虽然在乾时之战中获得了胜利，但齐桓公并不满足于自卫反击的成果。于是，他不顾管仲的再三劝阻，于第二年发动了对鲁国的战争。
应该说，刚刚从乾时之战中恢复过来的鲁国，此时确实不是齐国的对手。倘若再次失败，大有可能从此一蹶不振，从此沦为齐国附庸。然而，鲁国的一个下级贵族曹刿却改变了这一切，他知道以鲁庄公的军事能力并不足以指挥鲁国获胜，便自告奋勇前往参战。
曹刿同鲁庄公曾有一段非常有名的对话，被记载在《左传》中，原文如下：
问：“何以战？”公曰：“衣食所安，弗敢专也，必以分人。”对曰：“小惠未徧，民弗从也。”公曰：“牺牲玉帛，弗敢加也，必以信。”对曰：“小信未孚，神弗福也。”公曰：“小大之狱，虽不能察，必以情。”对曰：“忠之属也，可以一战。战则请从。”
曹刿否定了鲁庄公靠小恩小惠收买人心和求神拜佛祈求神灵庇护的做法，而是建议鲁庄公公正、公平、公开地对待下属，只有这样才能提振全军的士气。
齐鲁两军在长勺（今山东曲阜东北）摆开了战场。按照春秋时期的作战方法，双方先擂鼓激发士气，然后出兵交战。齐国仗着人多势众，率先擂鼓，发起了攻击。鲁庄公正打算擂鼓迎战，却被曹刿阻止；见鲁军不应战，齐军只好再次擂鼓，曹刿依然不理不睬；就在齐军擂第三通鼓的时候，鲁军忽然鼓声大作，两军交战，齐军居然被杀得大败。在这场战争中，曹刿后发制人，利用“一鼓作气，再而衰，三而竭”的道理，击溃了强于自己的齐军。后世称之为“长勺之战”，这也是中国军事史上以弱胜强的著名战例。
鲁国本来在齐国的压制下日渐衰退，但长勺之战却让鲁国国势重振。受到这一战役的刺激，当年鲁国就趁势进攻宋国，企图再次提高鲁国的地位和声望。这给了齐桓公另一个进攻鲁国的机会。原本长勺之战的失败并没有让齐桓公死心，于是他再次联合了同鲁国不睦的宋国，共同进攻齐国。
鲁庄公原本打算坚守不出，但公子偃却认为可以分而治之，各个击破。相比起军容严整、战力较强的齐国，宋军破绽百出。可以先击破宋军，齐军自然就会退兵了。鲁庄公并没有听从公子偃的建议，但后者却并不打算奉命。为了壮大气势，公子偃在马匹上蒙了虎皮，偷偷率军从南门出城攻打宋军，鲁庄公得知后也率主力随后接应。宋军果然不是鼓起士气的鲁军的对手，被鲁军在乘丘打得大败。齐国见此情况，只得退兵。第二年宋国为了报仇，再度兴兵攻鲁，可惜有齐国帮助的宋国尚且不能战胜鲁国，如今单独出兵，自然更不是敌手。两军在酂地交战，鲁国先排好阵形，并趁宋军尚未列阵完毕时就发动攻击，再次将宋军击溃。
宋国没来由地被卷进了齐鲁的纠纷中，又连战连败，由此也引发了宋国的另一场内乱。原来在乘丘之战中，宋国的猛将南宫长万被鲁庄公以金仆姑箭射中，活捉了去，后来在宋国的再三恳求下才被释放回国。在迎接南宫长万时，宋闵公随口说道：因为南宫沦落为鲁国的囚犯，所以以后不会再尊敬南宫了。这本来是个无心的玩笑，没想到却因此断送了宋闵公的一条性命。
南宫长万被鲁国羞辱，本来就心怀愤懑，被国君如此嘲讽，自然怀恨在心，于是决定造反。周僖王元年（公元前682年），南宫长万发动叛乱，先在蒙泽杀死了宋闵公，又在东宫附近杀死了太宰华督，并立公子游为国君。宋国的公子们纷纷出奔曹国，并迅速组织起一支军队试图打退南宫长万。萧叔大心以及公室其他族人向曹国借兵，杀回宋国，先杀了南宫长万的族人南宫牛，又进入都城杀死了公子游，另立逃亡到亳地的公子御为国君，是为宋桓公。南宫长万及其另一员手下猛获仓皇出逃到陈国和卫国。宋国随即与陈、卫交涉，希望将这两人送回。卫国一开始还想庇护猛获，但在大夫石祁子的劝说下还是将猛获交了出来。而陈国在宋国许下的财礼的诱惑下，也乐得做个顺水人情，便将南宫长万灌醉，用牛皮裹紧送回了宋国。最终这二位都被处死。
经过这场内乱，宋国再次衰弱下去，无力与周边诸国抗衡。同时，齐桓公也意识到以齐国现在的国力还无法称霸诸侯，于是他将注意力转向国内，在管仲的主持下开始了政治经济体系的改革。
和鲁国的争斗没有占到任何的便宜，这对于执政伊始的齐桓公无疑是当头一棒。但齐桓公不愧是一代明君，他并没有因为暂时的挫折而畏缩不前，反而明智地认识到对于刚刚从内乱中平复的齐国，想要争霸，还是要从内政做起。于是他任命管仲为卿，在齐国掀起了一场全面的改革。
