「聞雞起舞」、「中流擊楫」，是中國人耳熟能詳的典故。但真正瞭解這兩個典故主人翁祖逖事跡者，則不會太多。
西晉末年，大族擅權，豪強肆虐，民不聊生，表面上的繁榮已經掩蓋不住日益加深的社會危機了。西晉惠帝時（291—306年），汝南王亮、楚王瑋、趙王倫、齊王冏、長沙王乂、成都王穎、河間王顒、東海王越等八個諸侯王之間，為爭奪中央最高權力，發生了一連串的相互殘殺和戰爭，歷時16年之久。西晉皇族中參與這場動亂的王不只八個，但八王為主要參與者，且《晉書》將這八王彙編為一列傳，故歷史上稱為「八王之亂」。這場動亂從宮廷內權力鬥爭開始，而後引發戰爭，禍及社會，造成了較大的破壞，也加劇了西晉的統治危機，成為西晉迅速滅亡的重要因素，之後的中國進入五胡十六國時期。
「八王之亂」的最終結局是東海王司馬越奪取大權，他毒死了惠帝，另立惠帝的弟弟豫章王司馬熾為帝，是為晉懷帝，改年號為永嘉。
311年，晉懷帝與荀晞密謀殺害司馬越，並且發出詔書討伐。司馬越在這年3月病死在軍中。而司馬越的軍隊在護送司馬越的靈柩回到東海封國時，與匈奴石勒的軍隊於苦縣作戰大敗，十萬人全被殲滅，西晉的最後一支可用兵力也被消滅，已再無可戰之兵。
很快，匈奴大軍攻陷洛陽，晉懷帝被俘虜，中原地區頓時大亂，史稱永嘉之禍。北方人民紛紛逃亡到南方避難，祖逖也被迫帶著親族宗黨幾百家南下淮泗（今江蘇徐淮地區）。一路上大家風餐露宿，歷盡艱辛，祖逖主動把車馬讓給老弱和病人，又把糧食、衣物和藥品分給別人。他和大家同甘共苦。大家對他敬佩有加，一致推舉他擔任流人隊伍的「行主」。
在南下的過程中，祖逖目睹了老百姓的慘壯。南下江南後祖逖多次向江南的實際領導司馬睿建議北伐，滿足於偏安一隅的司馬睿對祖逖敷衍了事，就任命其為徐州刺史，軍咨祭酒，移居京口（今江蘇鎮江）。當時的徐州已經淪落到了匈奴人手中，祖逖的徐州刺史實際上就是個虛職罷了，其實就是個光桿司令。
不過，倔強的祖逖還是不斷的向司馬睿上書請戰，力請北伐。祖逖的要求，代表了人民的願望，但卻不是司馬睿的選項。司馬睿自移鎮建鄴，為拼湊江南小朝廷而不遺餘力，他和擁戴他的門閥士族都無意北伐。從司馬睿來說，雖然國土淪喪，他仍不失為偏安之主；如果北伐成功，這皇帝的寶座還不知究竟屬誰呢？但面對祖逖大義凜然的請求，他又不願落下阻止北伐的惡名，於是，便消極對待此事。為了敷衍天下人耳目，司馬睿乃任命祖逖為奮威將軍、豫州刺史、前鋒都督出師北伐，只撥給他一千人的糧食與三千匹布，不給鎧甲兵器，而不給一兵一卒，讓他自募士眾，自製刀槍。
於是，祖逖便帶著輜重和自願跟隨他南下的幾百人一起北上。
祖逖率部到達江北的淮陰後，一方面派人冶鑄兵器，一方面派人招募流民。祖逖面臨的對手不僅是割據冀、豫一帶，擁兵十多萬的羯族首領石勒，河南地區還盤踞著為數眾多的漢族地主豪強武裝，即所謂「塢主」。這些塢主修筑塢堡，自稱刺史、太守，稱霸一方，依違於晉、趙之間，情況非常複雜。他們可能成為北伐軍的盟友，也可能成為北伐軍的敵人。這種形勢決定祖逖北伐的道路是一條充滿了艱難險阻的道路。
不久之後，祖逖新組建的北伐部隊就達到了兩千多人，隨後祖逖率部行進到屯雍丘（今河南杞縣）。當時在河南地區，匈奴漢只是名義上的統治者，其實在各個地區的塢主都是擁有自己獨立的武裝力量。這些人沒有統一起來打匈奴，反倒是經常的互相攻擊，經常在漢與晉之間做牆頭草，哪邊勢力強就依違於哪邊。
祖逖得知情況後，派人和這些鎢主進行談判，表示願意聯合共同防石勒。一些小的塢主迫於石勒的威脅，不得不送其子弟到襄國為人質，祖逖十分理解他們的處境，任由這些小塢主既服從石勒，又服從自己。這些塢主對祖逖十分感激，石勒軍有什麼軍事行動，都提前告知祖逖，因此祖逖的部隊經常打勝仗，其聲望越來越高。
石勒統治範圍內的很多漢人將領紛紛向祖逖歸附，而留在北方仍然效忠於晉室的將領李矩、郭默、上官巳、趙固等人也表示願意聽從祖逖的指揮，共同打擊石勒。祖逖的聲勢頓時大振！在此後的一段時間，由於要為北渡黃河作準備，祖逖下令嚴整軍紀；自奉儉約，不畜資產，勸督農桑，發展生產，深得百姓愛戴。
祖逖自身生活儉樸，不畜私產，其子弟與戰士一樣參加耕耘、背柴負薪。他還收葬枯骨，加以祭奠。因此，北伐軍得到河南地區人民群眾的擁護和愛戴。一次，祖逖擺下酒宴，招待當地的父老兄弟，一些老人流著眼淚說：「吾等老矣！更得父母，死將何恨」！乃在座上歌曰：「幸哉遺黎免俘虜，三辰既朗遇慈父。玄酒忘勞甘瓠脯，何以詠恩歌且舞」。
石勒不敢和祖逖糾纏。於是石勒派人修葺了祖逖的祖宗陵寢，同時還派遣使者向祖逖請求互市。祖逖雖然沒有直接答應，但他也沒有拒絕，對雙方通商貿易睜一隻眼閉一隻眼。這一舉措，使豫州的稅收都達到了田賦的十倍。史稱，「聽互市，收利十倍，於是公私豐贍，士馬日滋」。
其時匈奴劉耀與羯族石勒互相攻擊，時機對晉朝很有利，但東晉內部迭起糾紛，對祖逖不支持，反而派都督戴淵相牽制。他因朝廷內明爭暗鬥國事日非而憂憤終日。321年，祖逖病死在雍丘（今河南杞縣），終年五十六歲。
據史書記載，中原老百姓聽到祖逖病逝的消息後，如喪考妣，萬分悲痛，許多地方的民眾為他建了紀念祠堂，表示了對這位北伐英雄的尊敬。宋人胡曾有首詠史詩，表達了對祖逖病亡的歷史遺憾：「策馬行行到豫州，祖生寂寞水空流。當時更有三年壽，石勒尋為階下囚」。
