管敢来到匈奴这一方之后，向单于告秘道：“大王，您千万不能在这个时候撤军，前边汉军的将领叫李陵，他的军队根本就没有后援，而且弓箭也快用完了，只有李陵和校尉韩延年积压自率领着八百人在前面开路，他们两方用黄色和白色的旗子做标志，如果大王能够派精锐骑兵用弓箭去攻打他们的话，那汉军就会一败涂地的。”单于听了之后大喜，随即下令匈奴骑兵一齐向汉军发起了进攻，同时让人喊道：“李陵，韩延年，你们快快投降吧！”又派出一队人马截断了汉军的退路，展开了猛烈的攻击。李陵的军队被困在山谷当中，而匈奴骑兵在山上，从四面八方向山谷里射箭，箭如雨下，李陵的军队伤亡很是惨重。
李陵只得率领军队继续向南撤，可是学没到达鞍汗山，一天五十万支箭全部用完了，于是他们放弃了辎重车辆。还剩下的三千多名士兵没有了武器的，也只有砍下车的辐条做武器，连那些文职人员手里也拿着一把短刀。李陵率领残军退到了一个狭长的山谷当中，单于见他们进入了绝地，就亲自率领士兵截断了汉军的后路，指挥匈奴士兵把山上的大石头滚下山谷。汉军死伤惨重，根本就无力再战了。到了黄昏的时候，李陵独自一人身着便衣走出营地，左右随从想要跟随，可是都被李陵拦住了，说道：“你们不要跟着我，我要一个人去生擒单于。”然后自己消失在了茫茫夜色当中，众兵士们都在营帐里静静的等着，一直过了很久，李陵才回到了营中，并且长叹道：“唉，看来我们注定是要失败的，这里就是我们的埋骨之所了。
”说完之后，李陵命令把所有的旗全部砍倒，与自己部队里的珍宝一起都埋在了地下。做完这些之后，李陵又叹了口气说道：“如果再有几十支箭的话，我肯定可以率领你们冲出去，但现在已经没有武器了，天亮以后，就只能坐以待毙，咱们现在不如各自逃命，也许还能有人侥幸逃脱回去告诉天子咱们这些人的所作所为。”众多士兵都黯然无语，李陵让将士们每人带二升干粮，一片冰，约定到遮虏障会合。半夜，李陵令人击鼓，叫醒了将士，但是战鼓已经破了，敲不响，李陵与韩延年跨上战马，十几名壮士相随。匈奴几千名骑兵在后面追击，在追击当中韩延年战死。李陵眼见自己周围的人一个一个的都死去了，决定投降，以能够拖延时间让别的人冲出去，也能让一部分人活下来。其他的人利用这一段时间分散出围，可是逃到了边塞的也只有四百多人。
李陵兵败的地方离边塞只有一百多里了，边塞的将领将李陵投降的消息上报给朝廷。汉武帝本来满心以为李陵会战死的，却传来了李陵投降的消息，不由得勃然大怒，就派人去责问陈步乐，陈步乐惊恐之下，自杀身亡。汉武帝专门举行朝会来议论这件事，满朝文武当中大多数都说李陵投敌判国有罪，只有一个人为李陵开脱，这个人就是司马迁。司马迁对武帝说道：“陛下，李陵孝顺父母，对人有信有义，常常奋不顾身的解救国家危难。这些都是他平常的志愿，很有国士的风范。现在出征不幸失败，那些保全了自身性命和妻子儿女性命的臣子就跟着捏造李陵的短处，实在是令人痛心呐！况且李陵率领不到五千步兵的军队，深入到匈奴腹地，抵挡住几万敌军；匈奴被打得都顾不上救护伤兵，把全国能拉弓射箭的人全部调集来围攻李陵。李陵率领部军转战千里，武哭用尽了，退路被截断了，士兵们都拿着没有箭的空弩机，冒着敌人的枪刀利剑，仍然拼死力战，能够得到陛下如此拼死效力，就是古代的名将，也渤如此，李陵虽然兵败，但他对匈奴的打击也足以使他名扬天下了。臣以为李陵之所以没有战死，应该是想找机会逃出来，再找机会重新报效国家。陛下您要三思，千万不能听信谗言而定李陵的罪呀！”
汉武帝听了司马迁的一番话之后并没有往心里去，他以为司马迁和李陵的交情至厚，之所以这样说是为李陵开脱罪责，盛怒之下下令把司马迁施以宫刑。可是时间过了很久之后，汉武帝又有些后悔了，他后悔当初不该让李陵陷入孤军奋战，孤立无援的境地，他觉得应该在李陵率军出塞的时候，再让强弩将军路博德前去接应；他觉得自己错在事先颁下诏书，让老将路博德得以使奸，耻于做李陵的后援，不肯去接应李陵。为了表示自己的后悔，他又派出使者去犒赏那些逃回来的将士们。在公元前97年，汉武帝派公孙敖率兵深入匈奴腹地，想把李陵接回来，可是公孙敖无功而返，他害怕汉武帝怪罪于他，于是就编造谣言，对武帝说他们抓到了匈奴的俘虏，说李陵在匈奴教单于制造兵器，防备汉军，所以才没有收获。汉武帝听公孙敖这么说，竟然深信不疑，竟然下了诏令把李陵的全家满门抄斩。可是又过了一段时间之后，武帝又听说教单于制造兵器的并不是李陵，而是投降匈奴的汉军将军李绪，汉武帝又后悔了，可是这一次他却没有再做出什么表示悔意的样子来。
李陵在匈奴派人将李绪杀死，被单于的母亲知道了就想杀死李陵，单于就把他藏在了北方，一直等到他母亲去世之后才让李陵回来。单于很喜欢李陵的勇猛，便把自己的女儿嫁给李陵为妻，封他为右校王，非常重用他。一直等到汉武帝死后，昭帝继位，霍光、金日殚、上官桀受托辅佐少主，执掌朝政，霍光等人一向与李陵的关系不错，所以特地派李陵的老朋友陇西人任立政三人一起前往匈奴，劝李陵回国。可是任立政却无功而返，他只带回来李陵的一句话：“回去容易，但大丈夫不能受两回屈辱。”众人听了之后叹息不已，李陵就此老死于匈奴。