奔后赵石虎。王敦入建康，当了丞相，掌握了军队。元帝在苦闷之中，于王敦起兵当年也就是永昌元年（322）十一月死去。皇太子司马绍即位，这就是东晋明帝。明帝因长了黄胡子而有名，但他在位仅三年。不过王敦在他在位期间死了，其党徒也被清除。顺便说一句，被誉为书圣的王羲之相当于王敦的侄子。
在五岁的成帝即位后，皇太后庾氏的哥哥庾亮领受遗诏，和王导共同辅佐幼帝。庾亮为了维系东晋王朝，一心想防止军阀的出现。东汉和魏都是被军阀曹家、司马家所取代，而东晋担心的则是流民军团的领导人变成军阀。从北方逃到南方的流民的首领是苏峻，庾亮计划把他召到建康，和军队分开。知道了这一点的苏峻拉起了造反大旗，占领了建康。庾亮逃亡，庾太后身死。平定这次苏峻之乱的是陶侃。
年轻的庾亮因躁进而导致失败，这成全了老练的王导，他再度执政。庾亮曾在王敦驻扎过的武昌监督军队。他在指挥军队的时候，逐渐有了自信，屡屡提议发动北伐。但没什么人赞成，所以对他而言直到最后也只是个愿望。
庾亮死后，有个叫桓温的大实力派人物登场。庾亮曾那般担心过的军阀在东晋诞生了。桓温从武昌向蜀出兵，讨灭了四川氐族的成汉政权，武功震动天下，权威高涨。朝廷担心个人的出类拔萃，令扬州刺史殷浩主持北府。东晋有西府（武昌）和北府（扬州）两大军事基地。北府是从流民军团的驻屯地发展起来的，因此实力不如西府，这个人事举动被认为是朝廷要培养一个和桓温势均力敌的对手。
石虎死后，北伐的好机会就来了。北府的殷浩率军北伐，但被曾归附东晋的羌族姚襄背叛，因而大败而归。战败的原因在于殷浩，他不仅妨碍姚襄立战功，还把他的弟弟们当人质禁闭起来。桓温立即上书弹劾殷浩，而丢丑的殷浩面对弹劾却毫无反驳之力，被贬为庶人。就这样，主持了西府的桓温把北府的军权也收入囊中。这就宣告了军阀的诞生。
桓温率军北伐，一度攻到了长安附近。这里已是氐族前秦的领土了。前秦早早就割完了麦子，因此东晋军担心军粮不济而撤回。这不是战败，必须承认进兵到关中本身就是个巨大的成功。两年后，桓温再次发兵北伐，收复了洛阳。
东晋皇帝都很短命。明帝终年二十七岁，他的儿子成帝终年二十二岁，成帝的弟弟康帝终年二十三岁。两岁即位的穆帝（康帝之子）死于十九岁，而且没有儿子。成帝的儿子二十一岁时被立，也在二十五岁时死了，被叫做哀帝。哀帝死后，他的弟弟司马奕即位。司马奕在位的太和四年（369），桓温第三次北伐。虽然攻下了前燕，因西方的前秦向前燕派去两万步骑，桓温不得不退兵。不过，桓温把责任推到豫州刺史袁真身上，愤怒的袁真投降了前燕。为了略微挽回点颜面，桓温废了皇帝。他以身体有缺陷的理由废了司马奕（因此他没有帝号，被称为海西公），立会稽王司马昱为帝。这就是简文帝，即位时已经五十一岁了。桓温打算让这个老实的简文帝把帝位禅让给他，简文帝却在桓温还未做好登基准备时死去，年过花甲的桓温也在一年后死了。
之后，东晋进入了由稳健派谢安和桓冲领导下的安定期。
简文帝的儿子司马曜于372年即位，是为孝武帝。他在位二十四年，却喜好饮酒，不管政治。北方的五胡十六国中有时还会出现明君，而在东晋，也有皇帝短命的缘故，却无人可称得上是明君。
在北方各国中最突出的明君，还是要数前秦皇帝苻坚，尽管他在最后失败了。