劉琨善吹胡笳。公元307年，劉琨出任并州刺史，進(jìn)駐晉陽(yáng)城。有一年，數(shù)萬(wàn)匈奴士兵將晉陽(yáng)圍困住。劉琨見(jiàn)勢(shì)不妙，如與敵軍硬拼，必然兵敗城破，于是一面嚴(yán)密防守，一面修書(shū)請(qǐng)求援軍。過(guò)了七天援軍還未到，城內(nèi)糧草不濟(jì)、兵士恐慌萬(wàn)狀。劉琨登上城樓，俯眺城外敵營(yíng)，發(fā)出一聲長(zhǎng)嘯，冥思苦想對(duì)策。忽然他想起“四面楚歌”的故事，于是下令會(huì)吹卷葉胡笳的軍士全部到帳下報(bào)到，很快組成了一個(gè)胡笳樂(lè)隊(duì)，朝著敵營(yíng)那邊吹起了《胡笳五弄》。他們吹得既哀傷、又凄婉，匈奴兵聽(tīng)了軍心騷動(dòng)。半夜時(shí)分，再次吹起這支樂(lè)曲，匈奴兵懷念家鄉(xiāng)，皆泣淚而回。

早期生活
　　劉琨是西漢中山靖王劉勝的后裔。他的祖父劉邁，曾任相國(guó)參軍、散騎常侍。父親劉蕃，官至光祿大夫。劉琨工于詩(shī)賦，頗有文名。賈后之侄賈謐權(quán)過(guò)人主，身旁聚集了一批豪族貴戚出身的文人，互相唱和，號(hào)為“二十四友”，而劉琨兄弟也廁身其間。

　　西晉元康五年（295年），二十六歲的劉琨出任司隸從事。后又被高密王司馬泰辟為掾?qū)?，遷任著作郎、太學(xué)博士、尚書(shū)郎。

八王之亂
　　永康元年（300年），趙王司馬倫執(zhí)政，以劉琨為記室督，又改任從事中郎。永寧元年（301年），司馬倫稱帝，劉琨任太子詹事，輔佐司馬荂。齊王司馬冏、成都王司馬穎、河間王司馬颙等諸王共同討伐司馬倫，劉琨被司馬倫任命為為冠軍將軍、假節(jié)，與孫會(huì)領(lǐng)兵三萬(wàn)抵抗司馬穎，結(jié)果在黃橋大敗而回。司馬冏輔政后，劉琨因出身名門(mén)，被任命為尚書(shū)左丞、司徒左長(zhǎng)史。302年（太安元年），司馬冏兵敗，范陽(yáng)王司馬虓鎮(zhèn)守許昌，并推薦劉琨為司馬。

　　永興元年（304年），晉惠帝被張方脅迫遷都長(zhǎng)安。次年，劉喬攻擊司馬虓，劉琨援救不及，其父母皆被俘獲。306年（光熙元年），劉琨從幽州王浚處求得八百騎兵，擊破東平王司馬懋，戰(zhàn)敗劉喬，救出父母，又?jǐn)貧⑺抉R穎麾下大將石超，收降滎陽(yáng)守將呂朗。同年，司馬越將晉惠帝救回洛陽(yáng)，劉琨因功被封為廣武侯，邑二千戶。

出鎮(zhèn)并州
　　光熙元年（306年）九月，司馬越為了擴(kuò)張勢(shì)力，派劉琨出任并州刺史、加振威將軍、領(lǐng)護(hù)匈奴中郎將。劉琨帶領(lǐng)一千余人輾轉(zhuǎn)離開(kāi)首都洛陽(yáng)，于307年（元嘉元年）春到達(dá)晉陽(yáng)（今山西太原）。當(dāng)時(shí)的晉陽(yáng)經(jīng)歷戰(zhàn)亂，已成一座空城。劉琨在左右強(qiáng)敵環(huán)俟的環(huán)境下安撫流民，發(fā)展生產(chǎn)，加強(qiáng)防御。不到一年晉陽(yáng)就恢復(fù)了生氣，成了晉在中原的少數(shù)幾個(gè)存留抵抗勢(shì)力之一。

　　當(dāng)時(shí)的晉陽(yáng)南面是強(qiáng)大的匈奴前趙，北面是正在崛起的鮮卑代國(guó)，東面是和段部鮮卑結(jié)盟的幽州刺史王浚。劉琨和拓跋鮮卑首領(lǐng)拓跋猗盧結(jié)為兄弟，和前趙石勒等大將的戰(zhàn)斗互有勝負(fù)。

　　河南人徐潤(rùn)因通曉音律得到劉琨的重用，但是此人無(wú)能而跋扈。奮威將軍令狐盛進(jìn)言要?jiǎng)㈢バ鞚?rùn)，反被徐潤(rùn)誣殺，造成其子令狐泥等人的反叛。劉琨吸引了許多志愿抗擊匈奴、羯人的志士，但他的政治軍事才能也使不少人離去。

　　建興元年（313年），晉愍帝繼位，封劉琨大將軍、都督并州諸軍事，加散騎常侍、假節(jié)。建興三年（315年），劉琨被晉愍帝封為司空、都督并冀幽諸軍事。劉琨辭去司空，接受都督之職。不久，代王拓跋猗盧被其兒子拓跋六修殺死，拓跋普根平定叛亂也因病而死，劉琨在拓跋部作為人質(zhì)的兒子劉遵同箕澹等率3萬(wàn)余人投奔劉琨。

依附段部
　　建興四年（316年），石勒出兵進(jìn)攻并州，劉琨不聽(tīng)姬澹勸阻全軍盡出，中伏大敗，丟失并州，只身投奔幽州刺史、遼西鮮卑左賢王、假撫軍大將軍段匹磾，并與其結(jié)為兄弟。同年，劉曜攻破長(zhǎng)安，晉愍帝被俘，西晉滅亡，劉琨令長(zhǎng)史溫嶠向司馬睿勸進(jìn)。司馬睿稱帝后，加封劉琨為侍中、太尉，其余官銜不變，并賜他名刀一把。

　　建武元年（317年），段匹磾以劉琨為大都督，率軍討伐石勒。結(jié)果段匹磾堂弟段末杯接受石勒賄賂，不肯進(jìn)軍，劉琨因勢(shì)弱只得退兵。

含冤而死
　　太興元年（318年），段部鮮卑內(nèi)斗，段末杯擊敗段匹磾自任單于，并俘虜了劉琨的兒子劉群。劉群得到段末杯的厚待，便給劉琨寫(xiě)密信邀請(qǐng)他共擊段匹磾，誰(shuí)料密信被段匹磾截獲。段匹磾雖相信劉琨，但最終還是將劉琨下獄。

　　劉琨素有名望，拘押期間，遠(yuǎn)近之人盡皆憤嘆。代郡太守辟閭嵩與劉琨部下將領(lǐng)企圖反叛段匹磾救出劉琨，因泄密而失敗。東晉權(quán)臣王敦派人密告段匹磾，讓他殺掉劉琨。劉琨聽(tīng)說(shuō)王敦來(lái)使，便對(duì)兒子劉遵說(shuō)：“處仲（王敦）使來(lái)而不我告，是殺我也。死生有命，但恨仇恥不雪，無(wú)以下見(jiàn)二親耳”。

　　同年五月初八，段匹磾自稱奉皇帝詔旨將劉琨縊殺，子侄四人同時(shí)遇害。劉琨時(shí)年四十八歲。東晉因段匹磾勢(shì)力強(qiáng)大，還要依靠他討伐石勒，因此沒(méi)有吊祭劉琨。劉琨死后，世子劉群、姨甥盧諶、內(nèi)侄崔悅等投奔遼西段末杯，而部下將佐大都投靠石勒。

　　太興三年（320年），劉琨的從事中郎盧諶、崔悅等上表朝廷為劉琨鳴冤，太子中庶子溫嶠也上表附議。晉元帝于是追贈(zèng)劉琨為侍中、太尉，謚曰愍。