率众南下
311年（永嘉五年），洛阳陷落，祖逖率亲族乡党数百家避乱于淮泗（今江苏徐淮地区）。一路之上，祖逖躬自步行，把车马让给老弱疾病之人，衣粮药物施予有急之人。逃亡途中多遇盗贼险阻，祖逖应付自如，被同行诸人推为“行主”。抵达泗口时（今徐州市），被镇东大将军、琅琊王司马睿任命为徐州刺史。不久，又被征为军谘祭酒，在京口（今江苏镇江）屯驻。
西晋被推翻后，祖逖常怀“振复之志”。当时扬州灾荒，手下的宾客义徒常常劫掠富户。有人若被官吏揭露捕获，祖逖便去解救。人们因此非议，但祖逖仍若无其事，我行我素。

挥军北伐
313年（建兴元年），晋愍帝即位，以司马睿为侍中、左丞相、大都督陕东诸军事，命其率兵赴洛阳勤王。司马睿当时致力于确保江南一隅不失，根本无意北伐。祖逖进言道：“晋室之乱，非上无道而下怨叛也。由藩王争权，自相诛灭，遂使戎狄乘隙，毒流中原。今遗黎既被残酷，人有奋击之志。大王诚能发威命将，使若逖等为之统主，则郡国豪杰必因风向赴，沈弱之士欣于来苏，庶几国耻可雪，愿大王图之。”司马睿于是封祖逖为奋威将军、豫州刺史，并象征性地拨调千人粮饷、三千匹布帛以充军费，更由其自募战士，自造兵器。
祖逖率先前随他南下的宗族部曲百余家，毅然从京口渡江北上。行至中流，祖逖眼望茫茫大江，敲击着船楫立誓：“祖逖不能清中原而复济者，有如大江！”辞色壮烈，众皆慨叹。
渡过长江后，祖逖暂驻淮阴，起炉冶铁，铸造兵器，同时又招募到二千多士兵。

收复豫州
317年（建武元年）六月，祖逖进驻芦洲（今安徽亳县），遭到流人坞主张平、樊雅的阻遏。张平、樊雅是兖豫一带的豪强，各据一城，有众数千人。张平部下还有董瞻、于武、谢浮等十多支小部队，都有数百人。
祖逖派参军殷乂去联络二人，但殷乂轻蔑张平，认为他不能保住头颅。张平大怒，杀死殷乂，并拥兵固守。 祖逖攻城不下，遂使用离间计，引诱张平的部将谢浮。谢浮借与张平商讨军情之机，杀死张平，率众归降，祖逖则进据太丘（今永城）。
张平死后，樊雅仍占据谯城。樊雅夜袭祖逖，拔戟大呼，直逼大营，军中大乱。祖逖临危不乱，安排左右拒敌，督护董昭英勇杀敌，终于打退了樊雅的进攻。祖逖率部追讨，张平余部帮助樊雅迎击祖逖。为了尽快攻下谯城，祖逖向蓬坞堡主陈川（自称宁朔将军、陈留太守）、南中郎将王含求援。陈川派李头来援，王含也命参军桓宣领兵五百助战。 祖逖让桓宣劝降樊雅，桓宣于是单马入谯城，劝道：“祖逖方欲平荡二寇，每何卿为援。前殷乂轻薄，非豫州意。今若和解，则忠勋可立，富贵可保。若犹固执，东府赫然更遣猛将，以卿乌合之众，凭阻穷城，强贼伺其北，国家攻其南，万无一全也。愿善量之。” 樊雅于是出城归降。祖逖得以进据谯城（今安徽亳州）。不久，石虎围困谯城，王含又遣桓宣来救，石虎退走。

对抗后赵
祖逖对前来助战的李头非常礼遇，李头叹道：“得此人为主，吾死无恨。”陈川得知后将李头杀死，李头的亲信冯宠率所属四百多人投奔祖逖。陈川于是派人大掠豫州诸郡，被祖逖派兵击溃。
319年（太兴二年）四月，陈川以浚仪（今河南开封）投降石勒。五月，祖逖进攻蓬关（蓬陂，今河南开封），讨伐陈川。石虎领兵五万来援，战于浚仪。祖逖大败，退守淮南（今安徽寿县）。 石虎在豫州进行了一番洗劫之后，带着陈川回师襄国，只留下将领桃豹戍守蓬陂坞西台。
320年（太兴三年），祖逖派韩潜镇守蓬陂坞东台。相持四十日后，祖逖派人用布囊盛满砂土，假装是食用的大米，派千余人运至东台；又派人挑着真正的大米，佯作累坏了躺在道旁喘气歇息。赵军派精兵来袭，担夫弃担而逃。赵军见里面全是大米，以为晋军粮食充足，士气大挫。石勒遣大将以千头壮驴运粮，祖逖在汴水设伏尽得其粮。赵军无粮，退据东燕城。 祖逖因而尽得二台，并派韩潜进占封丘压逼桃豹，自己则进屯雍丘（今河南杞县）。此后，祖逖多次出兵邀截赵军，使石勒的力量迅速萎缩。

忧愤而死
大兴四年（321年），晋元帝以戴渊为征西将军、都督司、兖、豫、并、雍、冀六州诸军事、司州刺史。 祖逖认为戴渊虽有才望，但无远见，无助于北伐，而且自己既收复黄河以南大片土地，却突然由如此从容不逼的文臣统领，心中甚为不快。同时，祖逖忧虑权臣王敦和宠臣刘隗对立，内乱将会爆发，北伐难成，因而忧愤成疾。祖逖虽然患病，但仍图进取，抱病营缮虎牢城，同时派人修筑营垒作为南部部队的据点以防后赵进侵。
同年九月，“妖星见于豫州之分”，祖逖仰视星空，叹道：“为我矣！方平河北，而天欲杀我，此乃不祐国也。”不久，祖逖病逝于雍丘，享年五十六岁，追赠车骑将军。豫州百姓如丧父母，谯梁百姓为之立祠。祖逖死后，王敦大喜过望，认为朝廷中再也没有敌手，谋逆之心日益明显。
祖逖之弟祖约代替其兄统领部众， 但节节失败，祖逖收复的河南大片土地最终被后赵攻陷。

轶事典故:
.
闻鸡起舞
祖逖与刘琨一起担任司州主簿时，感情深厚，不仅常常同床而卧，同被而眠，而且都有着建功立业，成为栋梁之才的远大理想。一次半夜，祖逖听到鸡叫，叫醒刘琨道：“此非恶声也。”意思是，这是老天在激励我们上进，于是与刘琨到屋外舞剑练武。

南塘一出
西晋灭亡后，祖逖心怀振复之志，对手下的宾客义徒待之犹如子，希望他们将来为北伐建功。扬州灾荒，这些宾客常常劫掠富户救济贫困。祖逖不但前去解救被官府捕获的门客，还常常主动问他们：“比复南塘一出不？”意思是，要不咱们再到南塘（当时富户集中的地方）去干一票？

中流击楫
西晋灭亡后，祖逖常怀恢复之志。后来，他率领兵马进行北伐。当他北渡长江，船至中流之时，眼望面前滚滚东去的江水，感慨万千。想到山河破碎和百姓涂炭的情景，想到困难的处境和壮志难伸的愤懑，豪气干云，热血涌动，于是敲着船楫朗声发誓：“祖逖不能清中原而复济者，有如大江”！意思是若不能平定中原，收复失地，决不重回江东！

家庭成员----
父亲：祖武，晋王掾、上谷太守。
妻子：许氏，许柳姊。
兄长：祖该
异母兄：祖纳，光禄大夫，封晋昌公。
同母弟：祖约，祖逖死后领兄长部众并守豫州。苏峻之乱时与苏峻勾结，失败后投奔石勒，最终宗族全被诛杀。
儿子：祖涣，沛内史，随祖约反叛。
庶子：祖道重，祖约被杀时幸免于难，后赵灭亡后复归江南。
侄子：祖济，汝南太守。

接替兄职
祖约早年被举为孝廉，并任成皋县令。永嘉之乱后，随兄长祖逖渡江，被司马睿引为掾属，后转从事中郎，典选举事。祖逖北伐建功后，祖约也逐渐得到重用，迁至侍中。
321年（太兴三年），祖逖病死，祖约代为平西将军、豫州刺史，并接掌兄长的部众。异母兄祖纳认为祖约“内怀陵上之心，抑而使之可也，今显侍左右，假其权势，将为乱阶矣”，晋元帝（即司马睿）以为祖纳妒忌其弟贵宠，没有听信。祖约到任后，无法安抚控制部下，士卒都不依附。322年（永昌元年），后赵石勒南侵，并围困谯郡。祖约不能抵抗，退守寿春。豫州地区因而大乱，被石勒所侵占。
324年（太宁二年），王敦举兵反晋，祖约驱逐王敦指任的淮南太守任台，以功封五等侯，进号镇西将军，屯驻寿春，防卫北方后赵的进攻。

渐生怨望
325年（太宁三年），晋明帝驾崩，遗诏命大司徒王导、尚书令卞壸、车骑将军郗鉴、中书令庾亮、领军将军陆晔、丹阳尹温峤辅政。祖约自认为名气和资历不在郗鉴和卞壸之下，却未能辅政，对朝廷十分怨恨。
326年（咸和元年），后赵石聪进攻寿春，祖约多次上表求救，但朝廷都没有出兵支援。石聪久攻寿春不下，遂进犯淮南诸地，杀掠五千多人，建康大震。朝廷忙命王导为大司马、假黄钺、都督中外诸军事，驻军江宁，以抵御后赵。
历阳内史苏峻派部将韩晃击退石聪后，朝廷准备在江南修筑涂塘以防御后赵。祖约闻知后认为自己被朝廷抛弃了，心中愈加怨恨。

举兵叛乱
327年（咸和二年）十月，庾亮欲削苏峻兵权，遂征其为大司农，加散骑常侍，位特进。苏峻不应命，并联络祖约以讨伐庾亮为名起兵。祖约对朝廷怨恨已久，遂派侄儿沛内史祖涣与淮南太守许柳领兵与苏峻会合。
328年（咸和三年）二月，苏峻攻陷建康，执掌朝政，自任骠骑将军、录尚书事，祖约被任命为侍中、太尉、尚书令。四月，庾亮、温峤推陶侃为盟主，起兵讨伐苏峻、祖约，并陈其罪状。六月，石勒派石聪南侵，并进攻祖约，由于部将背叛，祖约大败，逃奔历阳。
329年（咸和四年）正月，冠军将军赵胤派部将甘苗率军猛攻历阳。祖约弃城北逃，将领牵腾则率众献城投降。

宗族被灭
祖约北逃后，率宗族及亲信数百人投降后赵天王石勒。石勒十分鄙薄祖约，久久不愿接见他。
330年（咸和五年），程遐向石勒进言道：“天下粗定，当褒忠除奸，当初汉高祖斩杀丁公（不忠于项羽），即是此意。如今忠于事君者莫不擢拔贵显，背叛不臣者尽加诛夷，这正是大王您广受拥戴的原因。祖约叛晋来投，主上您对他却不加处理，让臣实为困惑。况且祖约竟还大会宾客，与宗族宾客夺人土地，乡里为患，如此之人，留着也是祸害。”
石勒于是派人送书信给祖约，表示：“祖侯远来，未得欢会，可邀集全家宗族子弟，来京一见。”但在当天石勒却称病推辞不见，改让程遐会请祖约。祖约自知大难临头，饮酒至醉。祖氏一族百余人全部在市集被杀，妇女被分赐诸胡为妾婢。

逸事
祖约十分惧内，某晚在家外小妾处过夜时，被人乱剁一刀。祖约非常害怕，以为是老婆派人害自己性命，上奏元帝说要放弃在京城的官职。元帝不许，祖约竟私自跑出京城，躲避老婆的“毒手”。结果被司直刘隗参了一本，但是元帝并没有加罪。