李陵失败之处距离汉境已经很近了，仅有不到百里，却苦于无人传信而没有救援。边塞将官将李陵败没的消息传达给了汉武帝。汉武帝本想让李陵死战，后来听说他被生擒，很是生气，问群臣李陵之事，大家都附和皇帝，纷纷指责李陵罪该万死。唯有太史令司马迁敢为李陵鸣不平，他说道：“李陵事亲甚孝，与士诚信，常奋不顾身以殉国家之急，颇有国士之风。如今不幸有事，大家都为了保家护妻子而指责他，实是让人痛心！况且李陵带步卒不满五千，深陷戎马之地，抗数万之师，使虏救死扶伤不暇，悉举引弓之众共攻围之。转斗千里，矢尽路穷，军士仍张空拳，冒白刃，北向与敌死战。能得人之死力，虽古名将不是过也。身虽陷败，然其所摧败亦足以显于天下。李陵之所以不死，一定是欲寻机以报大汉。”不想这一番话让汉武帝更是火上浇油，当即处司马迁以腐刑。
一年后，汉武帝有所感悟，派公孙敖领兵出塞攻击匈奴迎接李陵还朝。出塞后，公孙敖畏惧深入匈奴会有不测，但皇帝命令又不能不从。正踌躇间，发现了十余骑匈奴散兵。当下就捉获了几骑，派会胡语的人询问道“我朝李陵如今在你们那里做什么呢？”虏答道“日夜与大单于谈论兵法，并教我们练兵。”听后公孙敖计上心来，回朝后对汉武帝说道“出塞后捕得胡虏，说李陵教单于练兵以备汉军，是以臣不敢妄自前进。”汉武帝听后大怒，族了李陵全家，李陵母亲、弟弟、妻子儿子全被杀。
后来汉遣使者出使匈奴，李陵问使者：“吾为汉将步卒五千人横行匈奴，以无救而败，然我亦终不为匈奴所用，吾有何负于汉而诛吾家？”使者道：“汉听说李少卿教匈奴为兵。”陵道：“教匈奴者是塞外都尉李绪，他被匈奴攻之而降，不是我李陵。”李陵日夜悲泣，想自己家是因为李绪而诛，便寻机将李绪刺杀。李绪之妻是单于妻之妹，单于妻大怒欲杀李陵，单于便将李陵藏到了北方，直到单于妻死乃还。
单于对用兵如神的李陵很是钦佩，将自己女儿嫁给他，并立为右校王，每逢重大事情都请其参与议会，以示宠贵。这么做也是想让李陵操练匈奴，帮助自己对付汉朝。但李陵坐席与议会间终不提及用兵之法，亦不教单于练兵之术，单于也无如之何。
后来苏武出使匈奴，因其部下欲杀汉朝逃亡之人，苏武自己也受牵连被匈奴囚禁。以死威胁，苏武不降，单于就将其置于大窖中，绝其饮食。天雨雪，苏武就以雪掺杂旃毛为食物，数日不死。匈奴以为神，就将其置于北海无人处，使其牧羊，并与他约定只有公羊下乳才能回来。苏武到北海后，挖野鼠，采草根为食。杖汉节牧羊，节操不改。李陵听闻后，屡次前去访问，并带去食物饮品等。
由于汉与匈奴多年战争使得匈奴渐衰，单于又老死，其子立为新单于。而汉武帝也死，汉昭帝立，数年后大汉便与匈奴和亲。汉昭帝对李陵与苏武之事甚为感动，便派使者去匈奴接李陵与苏武回来。单于置酒赐汉使者，汉使对李陵说道“此番陛下请少卿来归故乡，毋忧富贵。”李陵回道：“回归甚易，只怕会再次受辱，奈何！”汉使说道：“新天子对你很是赞赏，这么多年了，你不想家吗？”李陵说道：“家？我全家人都死了，大汉哪还有我的家？”又指着旁座的胡妇胡子说道“我已在此娶妻生子，丈夫不能再辱！”知道李陵没有归意后，汉使询问苏武的下落。单于说道“在北海牧羊，不知还活着吗？”
汉使找到苏武后，大是惊叹。年近六旬的苏武已是须发皆白，塞北苦寒且无食，他们很难想象一个人在如此恶劣的环境中能生存十多年。得知苏武准备跟使者回去后，夜晚，李陵置酒相贺。说道：“如今足下还归，扬名于匈奴，功显于汉室，远胜于李陵千倍。虽古竹帛所载，丹青所画，何以过子卿！我之所以失身匈奴，留此残命，本是想效仿曹柯之盟，异日劫持单于以报大汉。此乃陵宿昔所不忘者也。可如今我全家被族戮，我已万念俱灰，决定老死于荒漠！然陵此生终不背叛大汉，绝不为匈奴所用，望子卿归后能向陛下表明我的心志。异域之人，一别长绝！”
李陵与苏武出帐。时月色溶溶，银光下射，沙白如雪。胡天一望，星夜寥阔，景致萧索。李陵起舞，歌道：“径万里兮度沙幕，为君将兮奋匈奴。路穷绝兮矢刃摧，士众灭兮名已聩。老母已死，虽欲报恩将安归！”李陵泣下数行，与苏武决别。
苏武于公元前81年回到长安，后来他与皇帝都思念李陵，汉昭帝便派使者再次出使匈奴，苏武也请使者捎去一封信给李陵，仍是希望他能够回来。李陵回信再次表明了自己的心志，他在回信中写到
“胡地玄冰，边土惨裂，但闻悲风萧条之声。凉秋九月，塞外草衰。夜不能寐，侧耳远听，胡笳互动，牧马悲鸣，吟啸成群，边声四起。晨坐听之，不觉泪下。嗟乎子卿，陵独何心，能不悲哉！与子别后，益复无聊，上念老母，临年被戮；妻子无辜，并为鲸鲵。子归受荣，我留受辱，命也如何？陵不难刺心以自明，刎颈以见志，顾国家于我已矣，杀身无益，适足增羞，故每攘臂忍辱，辙复苟活。人之相知，贵相知心，故言之于卿。
昔先帝授陵步卒五千，出天汉之外，入强胡之域；以五千之众，对十万之军；策疲乏之兵，当新羁之马。然犹斩将搴旗，追奔逐北，灭迹扫尘，斩其枭帅，使三军之士，视死如归。匈奴既败，举国兴师。更练精兵，强逾十万。单于临阵，亲自合围。疲兵再战，一以当千，然犹扶乘创痛，决命争首。死伤积野，余不满百，而皆扶病，不任干戈，然陵振臂一呼，创病皆起，举刃指虏，胡马奔走。兵尽矢穷，人无尺铁，犹复徒首奋呼，争为先登。当此时也，天地为陵震怒，战士为陵饮血。单于谓陵不可复得，便欲引还，而贼臣教之，遂使复战，故陵不免耳。
昔高皇帝以三十万众，困于平城。当此之时，猛将如云，谋臣如雨，然犹七日不食，仅乃得免。况当陵者，岂易为力哉？而执事者云云，苟怨陵以不死。然陵不死，罪也；子卿视陵，岂偷生之士而惜死之人哉？宁有背君亲，捐妻子而反为利者乎？然陵不死，有所为也，故欲如前书之言，报恩于国主耳，诚以虚死不如立节，灭名不如报德也。昔范蠡不殉会稽之耻，曹沬不死三败之辱，卒复勾践之仇，报鲁国之羞，区区之心，窃慕此耳。何图志未立而怨已成，计未从而骨肉受刑，此陵所以仰天椎心而泣血也。
男儿生以不成名，死则葬蛮夷中，谁复能屈身稽颡，还向北阙，使刀笔之吏弄其文墨邪？愿足下勿复望陵。嗟乎子卿，夫复何言？相去万里，人绝路殊。生为别世之人，死为异域之鬼。长与足下生死辞矣。幸谢故人，勉事圣君。足下胤子无恙，勿以为念。努力自爱，时因北风，复惠德音。李陵顿首。”
李陵在被匈奴俘虏后又活了二十多年，当年跟随李陵征战匈奴而陷没的汉兵都纷纷来投靠，一些汉朝的降者与因犯罪而逃亡之人也来投靠。李陵部众越来越多。在李陵死后，其子便跟随胡俗，以母亲的名字拓跋作为自己的姓氏。单于封其为乌籍都尉，使他自为一部。公元57年，匈奴发生内乱，五单于争立，李陵之子由于支持乌藉单于也参与了，不幸的是失败后与乌藉单于一同被呼韩邪单于擒杀。他的后裔及残余的家族部众北逃，并与鲜卑部落通婚结合，形成了拓跋鲜卑部。
在晋朝后期，拓跋鲜卑占据了中国的大半个北方，建立北魏政权，日益强盛，开始和南方以汉人为主的南朝相对抗。北方统治者以及宗室、重臣都以鲜卑为高贵的游牧正统，他们不愿意承认与汉人有过融合。大臣崔浩就因著史，说拓跋氏是李陵之后而激怒魏主，被魏主处死。之后北魏统治者大肆屠杀承认自己是李陵之后的人。这时很多承认是汉人之后的拓跋鲜卑不愿弃祖，暗中西迁，也有部分纯汉血统的汉人追随他们，不断的迁徙，后来改姓氏为朱邪。他们重新组成一个小部落，成为沙陀。由于部落弱小，哪个种族强盛他们便依附于谁，曾先后臣服于柔然，突厥。自己慢慢得以发展，至数万人众。