是把匈奴骑兵打跑了。这一战，虽然规模不大，却让刘琨的这支临时军队有了士气，也让沿途的流民知道了这个叫刘琨的将军。
好不容易走到晋阳城下，刘琨一看，心都凉了半截。晋阳早就被匈奴兵洗劫过好几次了，城墙塌了一半，城里的房子要么被烧了，要么塌了，街上到处是尸体，有的尸体都烂了，散发着恶臭，连条狗都见不到。《晋书》里用“府寺焚毁，僵尸蔽地，其有存者，饥羸无复人色”来形容当时的晋阳，意思是官府的房子全烧了，地上全是尸体，就算有活下来的人，也饿得没人样了。
换作一般人，看到这景象，早就打退堂鼓了：“这破城，守个屁啊！”可刘琨不是一般人。他站在塌了的城墙上，对跟着他来的一千多个士兵说：“各位兄弟，咱们来这儿，不是为了当官发财，是为了守住咱们汉人的土地。这城是破，可只要咱们在，这城就不能丢，我们汉人的精气就还在！”
说完，他第一个跳下马，拿起铁锹，开始修城墙。士兵们见主将都这么拼，也没人抱怨了，跟着一起干。白天，他们修城墙、清理尸体、掩埋骸骨——刘琨还专门让人举行了祭祀仪式，祭奠死去的百姓和士兵，安抚人心；晚上，他们还要防备胡人的偷袭，有时候胡人趁着夜色来骚扰，刘琨就带着士兵们打游击，有时候一晚上要打两三仗，连睡觉的时间都没有。
光有城墙还不行，得有人啊！晋阳城里的百姓早就跑光了，刘琨就派人出去，到周边的山区、乡下找逃难的流民，跟他们说：“晋阳现在在修城，有饭吃，有兵保护，希望大家能回来！”刚开始，流民们都不信——这乱世里，谁还敢相信当官的？有的流民甚至说：“之前的刺史跑了，匈奴人杀了我们的家人，我们再也不回城了！”
可刘琨说到做到。他把自己带来的粮食拿出来，分给流民吃，哪怕自己和士兵们只能吃野菜、喝稀粥；他还让士兵们帮流民盖房子、开垦荒地，因为晋阳附近有汾水，他就组织人修水渠，引汾水灌溉农田；有流民生病了，他亲自去探望，让军医给看病抓药。有个老流民叫张老栓，带着一家五口逃到山里，快饿死了，被刘琨的人找到。刘琨亲自去看他，把自己身上的棉袄脱下来给张老栓披上，还让厨房煮了粥给他们喝。张老栓感动得哭了，说：“刘大人，您真是个好人！我们不跑了，就跟着您守晋阳！”
就这么着，越来越多的流民回到了晋阳。没几个月，晋阳就从一座死城，变成了有几千人居住、能防守的城池。刘琨又在城里办学校，教孩子们读书——他自己就是个文人，写得一手好诗，有时候还亲自去学校讲课，跟孩子们说：“就算在乱世里，也不能忘了咱们汉人的文化，不能忘了读书识字。”他还组织百姓练兵，男人们农闲时当兵，练习射箭、骑马；女人们纺线织布，供应军队的衣服。各位看官，您别小看这事儿，在乱世里，能让百姓有饭吃、有学上，还能有安全感，这本身就是件了不起的事——刘琨守的不只是一座城，更是一种希望。
可麻烦很快就来了。匈奴刘聪听说刘琨驻守在晋阳，立马派大将刘曜、刘粲率军来打。刘曜是刘聪的堂兄，是个猛将，手下有两万多精锐骑兵；刘粲是刘聪的儿子，也很会打仗。而刘琨手里的兵，大多是刚招募的流民，没怎么打过仗，跟匈奴的精锐骑兵比，简直没法比。
永嘉六年（公元312年）正月，匈奴兵把晋阳围了个水泄不通，天天用箭射城墙，还用撞车撞城门。刘琨站在城墙上，亲自指挥防守，城门快被撞破了，他就让人用沙袋、木头堵住，还亲自拿着大刀砍爬上来的匈奴兵。士兵们见主将这么勇敢，也都拼了命，用石头砸、用开水浇，硬是把匈奴兵挡了回去。
可匈奴兵没走，就在城外扎营，想把晋阳困死。晋阳城里的粮食很快就不够了，士兵们只能吃野菜、树皮，有的士兵饿得连弓都拉不动了；冬