苏武出使匈奴的第二年，汉武帝派贰师将军李广利带兵三万，攻打匈奴，打了个大败仗，几乎全军覆没，李广利逃了回来。李广的孙子李陵当时担任骑都尉，带着五千名步兵跟匈奴作战。单于亲自率领三万骑兵把李陵的步兵团团围困住。尽管李陵的箭法十分好，兵士也十分勇敢，五千步兵杀了五六千名匈奴骑兵，但是匈奴兵越来越多，汉军寡不敌众，后面又没救兵，最后只剩了四百多汉兵突围出来。李陵被匈奴逮住，投降了。

李陵投降匈奴的消息震动了朝廷。汉武帝把李陵的母亲和妻儿都下了监狱，并且召集大臣，要他们议一议李陵的罪行。

大臣们都谴责李陵不该贪生怕死，向匈奴投降。汉武帝问太史令司马迁，听听他的意见。

司马迁说：“李陵带去的步兵不满五千，他深入到敌人的腹地，打击了几万敌人。他虽然打了败仗，可是杀了这么多的敌人，也可以向天下人交代了。李陵不肯马上去死，准有他的主意。他一定还想将功赎罪来报答皇上。”

汉武帝听了，认为司马迁这样为李陵辩护，是有意贬低李广利（李广利是汉武帝宠妃的哥哥），勃然大怒，说：“你这样替投降敌人的人强辩，不是存心反对朝廷吗？”他吆喝一声，就把司马迁下了监狱，交给廷尉审问。

审问下来，把司马迁定了罪，应该受腐刑（一种肉刑）。司马迁拿不出钱赎罪，只好受了刑罚，关在监狱里。