《晋书·刘牢之传》：“太元初，谢玄北镇广陵。时苻坚方盛，玄多募劲勇，牢之与东海何谦、琅邪诸葛侃、乐安高衡、东平刘轨、西河田洛及晋陵孙无终等以骁猛应选。玄以牢之为参军，领精锐为前锋，百战百胜，号为北府兵。”

　　《资质通鉴》：“玄募骁勇之士，得彭城刘牢之等数人，以刘牢之为参军，常领精锐为前锋，战无不捷，时号北府兵。星空体育登录”

　　东晋大门阀谢家，把北方流民、流氓、以及原驻军的精锐整合，星空体育登录组建了一支拱卫京师、足以对抗北方骑兵、间接听命于大门阀的军队——北府兵。

　　谢家对于北府兵的整合，对自己的家族、东晋政治、乃至中国政局都产生很大影响。

　　公元383年8月，前秦符坚亲率步兵60万、骑兵27万、羽林郎3万，共90万大军从长安南下，符坚宣称：“以我百万大军，即使将马鞭扔到长江中，也足以让长江断流。”

　　谢玄派谴刘牢之率5000北府军精锐奔袭洛涧，大破前秦军5万，杀敌15000，北府兵初战告捷。淝水决战，谢玄的8000北府骑兵趁符坚军队后撤，过淝水猛攻前秦军阵，前秦军顷刻崩溃，符坚的弟弟苻融战死，符坚本人中箭，落荒逃走。

　　淝水一战，8000北府兵大破秦军主力，历史记载：杀散、歼灭前秦军70万人！符坚的王朝也因此崩溃。

　　后来，北府兵收拾桓玄，直到2000北府精兵跟随刘裕杀到建康称帝，北府兵影响了中国几十年。

　　虽然严格意义上讲“北府兵”有几个时期，星空体育登录但总的来说，从谢家整合开始，北府兵就成了名副其实的精锐部队，这支部队的著名将领如刘牢之、刘裕等人也成了举足轻重的人物，哪个门阀能控制北府兵，他就控制了江南汉人政权。