北宋真宗天禧三年（1019年），光州（今河南光山县）县令司马池，因为任职多年又有一定的政绩，朝廷把他的官品从九品提升到八品。这年金秋季节，光州一派丰收景象，人们都带着丰收的喜悦。说来也巧，正当光州百姓喜获丰收的时候，也是县令司马池晋品升级的日子，同时，又一件喜事降临了。在十月十八日，司马池的夫人聂氏又给司马池生下一个儿子，这就是司马光。很明显，司马池之所以给儿子取名为司马光，这个“光”字，不仅有出生地上的纪念意义，而且这个字本身，也明显有着相当不错的寓意，比如光耀门庭、光宗耀祖等等。
司马光家世代官宦，远祖是西晋皇族平安献王司马孚，原籍河内（今河南沁阳）。司马孚之裔司马阳，是北魏的征东大将军，死后葬于陕州夏县涑水乡的高堠里，其子孙便于此地家居，因以为籍贯。此后这个家族的政治地位开始下降，司马光的高祖司马休，曾祖司马政、伯祖司马炳皆因五代战乱没有做官。到了北宋初年，司马光的祖父司马炫又考中了进士，当了官。司马炫虽然只做过县官，但却是一位很有名气的人，此人“以气节著乡里”，他在陕州富平县为县令不久，就使“境内大治”。
司马光出生时他的父亲司马池担任该县知县。司马池（公元979—1041年），字和中，幼年失怙，父亲积攒下来的薪俸，也算一笔不菲的遗产，但司马池毫无保留，全都交给叔父们去经营，所得全作为家族的公费。他的志愿是像父亲一样，读书中进士，进入仕途。司马氏家族累世聚居，他们从不分家，大家吃住都在一起。
司马池在20岁不到的年纪，就表现出独到的见解和眼光。解州（今山西省运城市盐湖区解州镇）池盐运往京城汴梁，通常是这样的路线：蒲坂（今山西省永济市蒲州镇）——窦津（今山西省芮城县陌南镇）——大阳（今山西省平陆县茅津渡）。当时人们认为这样不仅绕远而且路很难走，于是开含口（今山西省绛县冷口乡）盐道，从闻喜（今山西省闻喜县）经垣曲（今山西省垣曲县）。都认为这样确实方便了不少，而司马池说：“前人为什么舍近求远？恐怕近道有不便之处。”大家不以为然。当年夏天，山洪暴发，盐车、人、牛全被冲到了河里。大家这才叹服。
司马池是一位孝子。他幼年丧父，是母亲皇甫氏一手将他拉扯成人的。司马池赴京赶考，但在殿试前夕，母亲皇甫氏病故了。朋友们为了不影响他考试，就把报丧的家书藏了起来。但似乎是心灵感应，殿试的前一天晚上，司马池怎么也睡不着，说：“母亲一直有病，该不会是她有什么事吧？”第二天到了考场门口，徘徊良久，跟朋友说，朋友只告诉他母亲得了病。司马池听后号啕痛哭，立即返乡。
司马池后来中进士，被任命为河南府（今河南省洛阳市东）永宁县（今河南省洛宁县）主簿，他出入总是骑一头毛驴。县令陈中孚是个倨傲凶狠的家伙，司马池跟他不是很合得来。有一次，司马池因公去见陈中孚，结果他像皇帝一样面南而坐，对司马池不理不睬。司马池也毫不让步，将这家伙拽到东面的座位上坐下，然后才开始谈公务。
司马池历任睦州建德（今浙江省建德市东北，睦州州治所在）、益州（即成都府，今四川省成都市）郫县（今四川省郫县）县尉。郫县县尉任上，当时突然有传言说：驻军即将哗变！又说：少数部族已经叛乱。富人们纷纷埋藏金银财宝，逃到山里头去了，搞得人心惶惶。知县借口公干，跑到州府躲着去了。主簿也称病不出。当时正是正月十五上元节，司马池下令城内张灯结彩，大开城门，任四乡百姓游览观赏。这样过了三个晚上，人心渐渐安定下来。任满，获得十三丰推荐信，迁郑州（今河南省郑州市）防御判官。不久，调任光山（今河南省光山县）知县。
司马池任光山知县的时候，宫中搞土木工程，向各州调运竹木，州府限三天完成。司马池认为光山县本地不产大竹，只能去外地购买，这样无论如何三天之内不可能完成，于是与百姓另定一期限，约定逾期完不成就要接受处罚。结果光山县反而完成得比其他县都要早。
因为翰林学士、光州（今河南省潢川县）知州盛度的推荐，司马池改任秘书省著作佐郎、监寿州（今安徽省凤台县）安丰县（今安徽省寿县南）酒税。很快，他又被调任遂州小溪县（今四川省遂宁市，遂州州治所在）知县。任满还朝，龙图阁学士刘烨出知河南府（今河南省洛阳市东）兼留守司，辟司马池知司录参军事。一年多，司马池升任留守司通判。数日后，入为群牧判官。
在群牧判官任上，曹利用曾委托司马池收缴大臣们所欠的马款，司马池说：“命令得不到执行，是因为领导带头违犯。您现在就欠得不少，如果不先缴清，我怎么去向他人催收。”
曹惊讶地说：“经办人告诉我都缴清了呀。”随后，曹即命人缴清了欠款。其他人见此情势，几天之内也都缴清。后曹利用被贬黜，原来依附他的人害怕受牵连，纷纷反戈，回头攻击曹利用。只有司马池在朝堂内外扬言，说曹利用是被冤枉的。
章献太后身边的太监皇甫继明，当时兼任估马司的头，他自称买马有赢利，要求升官。这件事交群牧司核实，结果根本没有。其他人害怕皇甫的权势，明知道他在瞎说，但觉得还是附会算了。只有司马池说不行，皇甫继明当然怀恨在心。后来司马池被任命为开封府推官，皇甫继明从中作梗，遂罢为耀州（今陕西省铜川市）知州。不久升利州路转运司。任满，固求外职，遂除凤翔府（今陕西省凤翔县）知府。其后，以知谏院召，司马池说：“谏职不过两条路，或者犯颜直谏以尽臣节，或者保持缄默以图高官；不是招来祸患，就是坏了名声，无法两全。”上章恳辞。仁宗皇帝感慨万端，对宰相说：“人人都喜欢升迁，司马池却不，难能可贵呀。”司马池后来进直史馆，再任凤翔知府。
此次凤翔任上发生的一件事颇能说明司马池的为人。当时，有件疑难案件呈报后被大理寺驳回，凤翔府具体负责办案的官员很害怕，自责不已。司马池对他说：“是我工作做得不好，不怪你们。”独自把责任承担下来。幸好朝廷有诏，此事不再追究。
在凤翔任上还有一件事：司马池手下的一个镇巡检，晚上在一富人家里喝酒，被他的手下碰到了，这种事情在当时不被允许。这个手下胁迫巡检与他约定，以后不再督管手下，才松了绳索。司马池发现以后，将首恶绳之以法，那个巡检也因此被撤职。
司马池还兼侍御史知杂事，在御史台，拜工部郎中。他多次上疏，论朝政得失。历任户部度支、盐铁副使。任职期满，皇帝说：“就是那个坚辞谏官的司马池吧。”授天章阁待制、知河中府（今山西省永济市蒲州镇）。期满，司马池又改任同州（今陕西省大荔县）知州。一年多，迁兵部郎中，仍以前职，出知杭州（今浙江省杭州市）。
在杭州知州任上，司马池因为生性质朴平易，不擅长处理繁杂的事务，而且不屑于搞吃喝、吹拍之类的应酬，加上不熟悉吴地风俗，因此指责就传到了朝廷。两浙转运使江钧、张从革以决策失当等十余条罪名弹劾司马池。他遂被降为虢州（今河南省灵宝市）知州。就在江、张二人弹劾司马池后不久，他们的厨师、姻亲因涉嫌偷盗公家银器、偷税漏税被拘捕。有人对司马池说正可以借机报仇，司马池说：“这样的事情我做不出。”庆历元年（公元1041年）十一月，逝于晋州（今山西省临汾市尧都区）知州任上，享年63岁。
司马光的母亲聂氏是司马池的第二任妻子。关于这位女性，所知不多，只知道她的父亲叫聂震，曾做过秘阁校理这个官职，她先于司马池一年去世，去世后封钱塘县太君。庞籍称其“才淑之懿，孝睦之行，著于闺门，而称于乡党焉。”
司马光的长兄司马旦，字伯康，司马池的长子。他比司马光大13岁。史书上说他“清直敏强，虽小事必审思，度不中不释。”古时官制，父祖为官时，朝廷会根据其官职，恩选不同人数的子孙直接做某个级别的官，称为恩荫。司马旦就是通过这种方式走上仕途的。但这并不表明他在政治上的平庸。
在郑县（今陕西省华县，华州州治所在）主簿任上发生的三件事颇能说明其政治才能。其一，当时有一拖了十年也结不了的案子，是一个寡妇诉某人强夺其田产。本来案子并不复杂，主要是被告上下使钱，买通证人、官吏等等。司马旦取来案卷，很快就结了案。夺人田产者被抓被罚自不必说，因此案牵连而被撤职查办的官吏就有数十位。其二，郑县当时有一个家伙，自充老大，横行乡里，谁也不敢把他怎么样。司马旦不理他这一套，硬是把这个家伙逮捕归案，绳之以法。当时司马旦还很年轻，刚开始都不把他当回事，自此对其刮目相看。其三，有一年郑县发生蝗灾，官府的工作人员，也积极地投入到捕蝗斗争中去。按说这是好事，但可能就有些官吏做了些巧立名目，向农民收取类似茶钱之类的费用。司马旦发现了以后说：“蝗虫这东西，它是人民的敌人，应该让他们自己去捉；至于我们，只管接收就行了。”后来这一条被写进当地的法令。
司马旦一生历官十七任，一直做到从四品的太中大夫。退休后回到故乡夏县养老。他做官的时候风风火火，退休后为人却相当低调，心态特别好，别人都看不出他是曾经做过大官的人。司马旦兄弟相处得很好，司马光的观点里有很多受司马旦的影响。后来皇帝想让司马光出任门下侍郎的时候，司马光开始极力推辞，经过司马旦的一番开导，司马光终于接受了。
司马光的二哥司马望，司马池的次子，早年夭折。
司马光还有位姐姐。在那个著名的青胡桃皮事件中，她对司马光呵护有加，费了好大的劲想要替小弟搞掉胡桃皮，但最终未能成功。成年之后，她嫁给了一个叫崔榖的人，博陵人氏，崔氏在当地属望族。
司马光的先辈和堂兄六七人都是进士出身，他们多是好学之士，爱好诗文，其家族世代书香，“笃学力行”，是一个具有文化传统和学问素养的文明家族。他就是在这样的环境中成长起来的。