此典出自司马迁《报任少卿书》：“人固有一死，或重于泰山，或轻于鸿毛，用之所趋异也。”
这段文字出自司马迁的一封信，这段话的意思是：人谁都免不了一死，但是有的死比泰山还重，有的死比鸿雁毛还轻。它这里面包含着非常深刻的人生哲理。
司马迁是西汉太史令司马谈的儿子，大约出生在公元前145年或135年，而何时去世，至今还没有一个准确的记载。
公元前110年，司马迁的父亲临终嘱咐他，要他继承太史令的事业，写出一部完整的通史。
公元前108年，司马迁做了太史令后，便开始在皇宫的皇家藏书楼检索图书。司马迁这个人特别勤奋刻苦，每天早出晚归，在一堆堆的木简和绢书中查阅和整理历史资料。经过四五年时间的整理和考证，他便开始构思，动手写《太史公书》。《太史公书》就是我们今天所说的《史记》。
就在司马迁日夜埋头写《太史公书》的时候，朝廷出了一件事。
西汉名将李广的孙子李陵率五千精兵出击匈奴，结果寡不敌众，李陵被俘后投降了。汉武帝为了这件事十分愤怒，他身边的大臣们也都把责任推到了李陵身上。汉武帝征求司马迁的意见时，司马迁认为李陵作战勇敢，以五千人打败了匈奴几万骑兵，最后是在寡不敌众、粮尽援绝的情况下才败降的，所以，不应该治罪。汉武帝因司马迁为李陵说情，非常生气，就下令将司马迁处以“腐刑”，就是我们今天所说的“阉割”。
汉武帝为了利用司马迁的才华，任命司马迁为中书令，而这个职务原来一直是由太监担任的。司马迁为了完成《史记》的撰写，忍受了侮辱和迫害，身心都受到了极大的摧残。
司马迁受刑后，老朋友任安曾写信劝他，司马迁一直没有给他回信。后来，他听说任安也因故被下了大狱，这才复信。这封信就是著名的《报任少卿书》。在信中，司马迁回顾了自己的遭遇，表示自己所以蒙受耻辱后还顽强地活着，就是为了实现自己的愿望。
“泰山鸿毛”就出于这封信中。司马迁在这句话的自勉下，经过了十三年的寒来暑往，最终完成了我国第一部完整的纪传体通史——《史记》。
两千多年过去了，尽管人们还不时地引用“泰山鸿毛”这个典故，但从没有人能够像毛泽东那样推陈出新地把这个典故引申到一支军队的建军宗旨上来。
1945年9月5日，中央警卫团下属的副队长张思德在烧窑时不幸牺牲。毛主席得到这个消息后，沉思良久，指示要给张思德同志开一个隆重的追悼会。就是在这次追悼会上，毛主席作了影响深远的著名演讲《为人民服务》。在文中毛主席这样写道：“我们的共产党和共产党所领导的八路军、新四军，是革命的队伍。我们这个队伍完全是为着解放人民的，是彻底地为人民的利益工作的……人总是要死的，但死的意义有不同。中国古时候有个文学家叫做司马迁的说过：‘人固有一死，或重于泰山，或轻于鸿毛。’为人民利益而死，就比泰山还重；替***卖力，替剥削人民和压迫人民的人去死，就比鸿毛还轻。张思德同志是为人民利益而死的，他的死是比泰山还要重的。”
毛主席的这次演讲，对进一步加强团结，增强每一个革命者的责任感，克服困难，全心全意为人民服务，具有重要的指导意义。
博通古今，喜欢引经据典，又常常推陈出新的毛泽东，对这个成语的引用，可以说是空前绝后的。