但晋武帝身后不久，西晋宗室之间发作八王之乱，曹魏以来入徙塞内的草原游骑少数民族也乘机起兵称帝，天下又堕入分裂混战的局面。在304年因为成汉与刘渊的立国，使北方进入五胡十六国期间。316年西晋亡于匈奴的刘曜后，西晋宗室司马睿南迁重修晋国，史称东晋，南北再度分立。南边有汉人的东晋统治，而北方则有入主中原的少数民族统治。在入主中原的众几多数民族中以匈奴、羯、鲜卑、羌及氐为主，统称五胡。他们在北方接踵建立很多国度，而北魏史学家崔鸿以此中十六个国度撰写了《十六国春秋》，因而后代史学家称这期间为“五胡十六国”。

梁朝的建立者萧衍善于文学，499年被任命为雍州刺史，他乘齐海内哄，出兵篡夺了皇位，建立了梁朝。萧衍是为梁武帝，共在位四十八年。在武帝期间，北方的魏国已经式微，再无才气对南边构成威胁。这本应为南边生长的大好机会，但武帝却昏庸无能，放纵大臣剥削群众，却又以本身俭仆为借口，对一些忠臣的建议置之不睬。公元五四八年，投降梁的东魏大将侯景背叛。他以武帝从子萧正德为内应，打击梁国。次年，侯景攻陷台城。此时，梁武帝早已饿死于城中，其子萧纲即位，是为梁简文帝。公元五五一年，侯景杀死简文帝，是以梁已完整处于崩溃的边沿。公元五五七年，在讨伐侯景的战役中生长起来的陈霸先灭梁，建立陈。至此，梁宣布灭亡。

在南边建立的宋、齐、梁、陈、四朝被统称为南朝，与之相对应的在北方建立的一些朝代为北朝。

偏居一方的东晋于公元420年被废，代替的刘裕建立的宋，为辨别于后代赵匡胤建立的宋朝，史学家长称之为“刘宋”。宋朝的建国天子刘裕是东晋末年景长起来的新兴力量，他在与东晋四大师族的斗争中获得的胜利。因为刘裕出身贫寒，又看到了东晋因大族频频发兵抵挡而使其灭亡的经验，故而在他即位后，不再重用王谢大族。其用人也多为贫寒出身，兵权则首要交于本身的皇子，以是没重蹈东晋产生大族盘据的复辙。但是，因为皇子相互间的争权夺利，最后乃至与相互残杀，这是刘裕始料未及的。422年，刘裕卒，宋少帝、文帝接踵即位。此中，文帝刘义隆在位的三十年间，是宋朝最繁华的一段期间，这时南边的经济、文明才真正有所生长。公元450年至公元451年，宋与北朝的魏邦交兵虽各有胜负，但却都丧失惨痛，使南北方无才气再产生大战。今后，南北方相对稳定下来。公元454年，文帝薨。文帝身后，宋孝武帝、宋明帝前后为帝，但他们俩都是驰名的暴君，其不但对诸将疑忌，并且兄弟间相互残杀，政治一度混乱。在此期间，南兖州刺史萧道成趁政治混乱之机而构成了较强的权势。479年，萧道成灭宋，建立齐。至此，宋朝宣布灭亡。