洪武十五年八月，一代贤后马氏病逝。不但太祖仰天痛哭，发誓不再立后，就是宫廷内外都默思哀悼。太祖起兵的时候，几乎每天都要打仗，马皇后一直跟随太祖左右，常常劝诫太祖不要大开杀戒。马氏被册立为皇后以后，仍然像当初一样节俭，身上的衣服都洗得褪色了，还不肯换新的。后宫的嫔妃都非常敬重她，将她比作东汉时的明德马皇后。
皇后生了五个儿子。周王朱橚年纪最小，放荡不羁。封藩的时候被封到开封，马皇后派江贵妃和他一起去，还赠给江贵妃一件自己常穿的衣服，一根棍子，对她说：“大王如果有什么过错，你就穿上我的衣服，拿着棍子打他。如果他还是倔强的话，马上报告给我，我决不轻饶！”周王朱橚听了这话，再也不敢胡作非为了。马皇后驾崩之后，朱橚又开始放纵。太祖一气之下将他贬到云南，后来因为怀念马皇后的恩德，又把他调了回来。
每次有灾荒，马皇后就带着后宫的人吃素食，太祖对她说已经发过救济的粮食了，不必担忧。马皇后就说接济不如预备。马皇后平时常常会问百姓是不是安居乐业，并说：“皇帝是天下之父，皇后为天下之母，自己的孩子不能安居，父母怎么能安心呢？”
马皇后虽然尊贵，但每天仍然亲自伺候皇上进餐。皇上早晚的御膳，她都格外关注。妃嫔们劝她注意自己的身体，马皇后就对妃嫔们说：“从古到今，做妻子的照顾丈夫的饮食，是理所当然的事情。况且皇上脾气暴躁，若是偶有失误，谁敢担当？”有一次，呈上的汤稍微有些凉，太祖举起饭碗就扔向马皇后。马皇后急忙躲闪，耳畔仍被擦着，受了微伤，更被泼了一身污渍。马皇后神态自若，从容地换了衣服，重新呈上热汤。妃嫔们这才深信马皇后的话，并折服于马皇后的德行。宫里如果有人被临幸怀了孕，马皇后就会倍加体恤。妃嫔们如果惹皇上不高兴了，马皇后还会设法调解。
曾经有谣言说郭景祥的儿子不孝，打了郭景祥。太祖想将他正法，皇后上奏说：“臣妾听说郭景祥只有这么一个儿子，独子容易娇惯，不过也未必尽如人言。如果查明属实，再行刑也不迟。不然杀错了人，可就断了人家的香火了。”后来，太祖得知是诬陷，说道：“若不是听了皇后的话查明再作判决，郭家的香火就断了。”
李文忠驻守严州的时候，杨宪上疏诬陷他。马皇后说杨宪的话不能轻易相信，李文忠这才得以免罪。李希贤教皇子时，曾用笔杆击伤皇子的额头。太祖大怒，马皇后在一旁劝解道：“这就像是让人家给裁衣服，只能由人家裁剪，而不应该为了儿子责备老师。”太祖这才罢休。
马皇后病重的时候，群臣都请太祖祈祷祭祀、广求良医。马皇后却对太祖说：“生死由命，祈祷祭祀也没什么用，即使有良医，也不能起死回生。如果吃了药没什么效果，皇上定然会怪罪医生，这样反而增加了臣妾的罪过。”太祖叹息不已。后来问马皇后有没有什么遗言，马皇后呜咽着说：“臣妾与陛下从布衣起家，仰仗陛下的洪福，臣妾才成为国母，这些已经足够了，还有什么话啊？不过臣妾死后，愿陛下能亲贤纳谏，像刚开始一样谨慎治国。”说完便逝世了，享年五十一岁。宫里的人全部失声痛哭，就是朝廷百官也一律默哀。宫中的人曾写了一首追忆歌：
我后圣慈，化行家邦，抚我育我，怀德难忘。怀德难忘，于万斯年，毖彼下泉，悠悠苍天。
马皇后于九月葬在孝陵，尊谥号为孝慈皇后，太祖终生不再立后。
太子朱标是马皇后的长子。太祖与陈友谅交战的时候，马皇后背着朱标一路随军前行。朱标被立为储君后，皇后画了一幅《负子图》交给他。后来李善长等人被赐死，太子进谏说：“父皇滥加诛杀，恐怕会伤了和气。”太祖默不作声。第二天，太祖将一根荆棘丢在地上，命太子拾起来，握在手中。太子面有难色，太祖笑着说：“朕如今杀戮群臣，正是为你除刺，你难道不明白朕的苦心？”太子说：“上有尧舜之君，下有尧舜之民……”话还没说完，太祖忽然脸色大变，举起几案就朝太子丢去。太子急忙起身躲开，怀里的图不小心掉在了地上。太祖拾起来一看，顿时号啕大哭，这才没有追究太子的责任。
后来鲁王朱檀因为喜好吞服金石，毒发身亡。潭王朱梓有心谋变，弄得夫妇俱焚。太子目睹这一切，惶惶不可终日。潭王朱梓的母妃阇氏本来是陈友谅的妃子，当年太祖逼迫侍寝的时候，已经身怀六甲。朱梓长大后，被封到长沙做藩王。临行前，阇氏将他的身世告诉了他，并说之前委身于太祖，都是为了这一支血脉。朱梓哭着离开。到了长沙，朱梓终日闷闷不乐，整天与同僚吟诗作对，聊作消遣。后来，因为岳父被判为胡惟庸的党羽遭到诛杀，朱梓准备谋反。太祖派人将他召回，朱梓因为担心阴谋泄露，愤愤说道：“宁见阎王，不见贼王。”说完，纵火焚宫，与妻子一同跳入火海。母亲阇氏忧悔成疾，没过几天也逝世了。
至于李善长一案，也是受了胡惟庸牵连。李善长的弟弟李存义，与胡惟庸结成儿女亲家。胡惟庸获罪后，李存义本来应该连坐，太祖顾念他的功勋，免他死罪，将他贬到崇明。但李善长却没有入宫拜谢，由此招来太祖的不满。后来，李善长向信国公汤和借三百名卫兵帮他盖房子。汤和表面上答应，暗地里却告诉了太祖。那时，京中百姓被株连的有很多，其中有个叫丁斌的，是李善长的亲戚。李善长替他求情，惹得太祖大怒，竟命人将丁斌捉来盘问。丁斌本来给胡惟庸家做事，一经审讯，就将李存义当日如何与胡惟庸勾结的事情，和盘托出。刑官捉来李存义父子严审。李存义父子煎熬不住，索性把事情的缘由全推到李善长身上。一班朝臣阿谀奉承，轮流上疏参劾李善长，都说他大逆不道。可怜李善长七十七岁高龄，却被逼得悬梁自尽，所有家眷共七十多人，全部被杀。随后，吉安侯陆仲亨、延安侯唐胜宗、平凉侯费聚、南雄侯赵庸、江南侯陆聚、宜春侯黄彬、豫章侯胡美、荥阳侯郑遇春等人一并坐罪诛杀。太祖又列出诸臣的罪状，写了奸党录，宣告天下。
太子朱标向来仁厚，看到这一切，心中忧虑万分。后来，太祖想要迁都，秦王朱樉担心会失去封地，颇有怨言。太祖又将他召回，软禁起来，命太子调查秦王的过失。太子回朝后，一再说秦王无罪。太祖不肯相信。太子忧愤成疾，于洪武二十五年夏归天。太祖赐谥号为懿文太子。
太祖当时有二十四个儿子。在这二十四个儿子中，燕王朱棣最为刚毅迅猛。太祖常说朱棣酷似自己，所以特别钟爱。太子死后，本想立朱棣为储君。只因太子那时候已生有五子，长子早年夭折，次子朱允炆已经长大成人，太祖便决定立朱允炆为皇太孙。
一年之后，颍国公傅友德奏请太祖赐给他一千亩怀远的田地，太祖非但不准，反而将他赐死。定远侯王弼在家里叹息道：“皇上春秋已高，喜怒无常，我恐怕也要遭殃了。”为了这一句话，竟被奉诏赐死。宋国公冯胜被人诬陷，说他在稻场下私藏兵器，意图谋变。太祖将他召入，赐酒赐宴。谁知回到家中，就七窍流血而死。
总计开国的功臣，只有徐达、常遇春、李文忠、汤和、邓愈、沐英六个人保住了名声，死后被封王封爵。但徐达、常遇春、李文忠、邓愈四人都死在胡惟庸、蓝玉党狱以前，沐英镇守云南，远离天子，得以善终。汤和晚年得以善终，只因他绝顶聪明，见太祖疑忌功臣，便告老还乡，绝口不谈国事。享年七十，寿终正寝。
太祖诛杀功臣之后，所有守边的事情，都交给皇子们专任。燕王朱棣最为英武，洪武二十三年，他率兵出古北口，收降了元太尉乃儿不花。二十九年，又出兵到彻彻儿山，斩杀元将孛林铁木儿等数十人。太祖闻报后大喜，曾说要肃清沙漠，必须依靠燕王。洪武三十一年，太祖命燕王朱棣统率诸王。
燕王的权力越来越大，兵马越来越强，再加上燕京是元朝的遗都，更加野心勃勃。洪武三十一年闰五月，太祖驾崩，享年七十一岁，遗诏命太孙朱允炆继位，并说诸王镇守四方，不必来京。朱允炆依照遗诏，登上皇位，将太祖的梓宫葬于孝陵，追谥为高皇帝，庙号太祖，改第二年为建文元年。朱允炆后来遭遇国难，连庙号、谥号都没有，明代只沿称他为建文帝。