据说，《思亲操》也是舜创制的乐曲。由于父母对他的虐待，舜离家到历山耕种。尽管如此，他还是时刻不忘父母养育之恩，不计前嫌。有一天，他看见一只母斑鸠带着一只小斑鸠在飞，那母斑鸠不时捕捉飞虫来喂小斑鸠，十分勤劳。舜感动了。他想念着哺育自己的父母，便情不自禁地唱起《思亲操》来：
登上那崔嵬的历山，
见两只斑鸠在空中飞旋。
日与月啊如梭如箭，
思念父母啊有家难还！
舜是“二十四孝”中第一个孝子，《思亲操》应该是后来“乌鸦反哺”等典故的滥觞。
尧对舜进行了种种考验。让舜推行德教，民众都恪守父义、母慈、兄友、弟恭、子孝之道；让他总理百官，所有政务都有条不紊；让他在四门接待四方诸侯，来自四方的诸侯都非常友好；最后把他放到深山，经受狂风雷雨的考验，舜也不迷失方向。
当舜50岁时，尧把天下大事托付给他。他总摄大权，统领百官，做了一系列轰轰烈烈的大事业。他向尧推荐了高阳氏苍舒、叔达等才子八人，谓之“八恺”。接着又举荐了高辛氏伯奋、促堪等八位能人，谓之“八元”。这十六位贤人辅佐尧，把天下管理得很好。在举贤任能的同时，舜又把使势倚强、横暴不法的“四大凶神”共工、欢兜、鲧、三苗该流放的流放，该处罚的处罚，于是天下大治大安。尧整整用了27年的时间对他进行考察、培养和试用，直到完全可以放心了，才把天下正式禅让给他。
尧去世之后，舜办事更加谨慎，他征聘贤人辅政，让人民提意见，以改正自己的过失。到了晚年，因见自己的儿子不孝，便把天下禅让给禹。如果以上故事成立，那么夏朝以前就有孝的传统了。
与舜同时代的东夷族还有两位孝子，叫做少连、大连，是一母同胞。在《礼记·杂记》中，孔子介绍说：“少连、大连善于为父母守丧，三天不吃不喝，三月之内朝夕祭奠，从不懈怠。在父母去世一周年内悲哀不能自已，在为父母服丧的三年期间，一直处于忧愁之中。”少连、大连被公认为东夷族的孝子。由此可以推断出，不仅我们礼仪之邦的中原崇尚孝道，东夷族的孝亲意识也非常浓厚。正因如此，少连受到孔子的高度称赞，把他与娴熟贵族礼仪的柳下惠相提并论，并作为降志辱身的人格典范。
2.大禹干蛊治洪水
夏朝是中国历史上最早的国家，奠基者是大禹。大约在距今四千多年以前，我国的黄河流域经常发生水患，尧命令大禹的父亲鲧负责治水。鲧采取“水来土挡”、堵塞拦截的方法治水，最终失败，被舜给杀了。鲧治水失败后，舜任命其子禹主持治水。禹接受任务后，对全国的主要山脉、河流作了一番严密的考察，发现龙门山口过于狭窄，难以通过汛期洪水。他还发现黄河淤积，流水不畅。于是他大刀阔斧，改“堵”为“疏”。就是疏通河道，拓宽峡口，让洪水能更快地通过。他率领民众开挖沟洫，把积水排入河道，又疏通旧河道，开凿新河道，让泛滥成灾的洪水经由河道流入大海。经过几十年的奋战，九州的大山都进行了开凿整理，河流疏浚通达，湖泽筑起了堤防而不再漫溢，亘古未见的大水患终于平息了。
据说禹治水，“三过家门而不入”，甚至在家门前经过，听到刚出生的儿子啼哭不止，他也没进去看一眼。禹治水时，手执耒臿，身先士卒，腿上的汗毛都磨光了。禹治水13年，耗尽心血与体力，成为远古造福民众的著名人物，舜也因此把帝位禅让给了他。
禹继承父亲鲧的遗志，成功完成治水工作，这本身就是一种孝。《周易·蛊》中称之为“干父之蛊”，也叫“干蛊”。即继承、完成父祖的事业，以扬名显亲。唐朝诗人包何《相里使君第七男生日》诗：“他时干蛊声名著，今日悬弧宴乐酣。”
3.商人的祖先崇拜
目前还没有从考古中发现夏朝的文献材料，夏以后文献所记的夏朝史实，只能作为后世的追述，有些情节可能是后人虚构的，但是不管怎样，把这些故事安插到夏、商时代，至少反映出了中国先民特别强调孝道的源远流长。
商代甲骨文中已经有了“孝”这个字，它的上半部分为“老”字的简写，下半部分为“子”字。“老”字在甲骨文中有很多种变形，但是都像一个头发散乱的老人，有的拄着拐杖，有的身躯佝偻，“子”字在甲骨文里像一个在襁褓中的婴儿。用甲骨文来书写“孝”这个字，就是一幅生动的图画：老人用自己的身体呵护着孩子，孩子用手搀扶着老人，老人在上面提携着孩子，孩子在下面敬仰老人，承袭老人的衣钵。真是感叹古人的智慧，“孝”字可以说是我们老祖宗用智慧创造出来的世界上最完美的一个字了。在甲骨卜辞中“孝”字还被用作地名，如“孝鄙”，商代的金文中也发现了“孝”字，是作为人名出现的。
殷商时代，祭祀祖先的制度和礼仪已经相当发达。商王创设了一种宗教迷信仪式——卜筮。无论是祭祀祖先还是出兵作战、田耕农作，事无巨细，都要占卜来预测吉凶。董作宾在《中国古代文化的认识》一文中指出：“殷人对祖先真做到了‘事死如事生，事亡如事存’的地步……殷人对祖先的看法，以为他们虽然死了，但精灵依然存在，与活着的时候完全一样，地位、权威、享受、情感，也是一样的。而且增加了一种神秘的力量，可以降福授福于子孙。”在殷商时代，祖先崇拜观念以及孝观念，究其实质，是宗教性的，崇拜祖先、孝敬祖先、祭祀祖先的根本目的，是为了祈求祖先神灵的佑护以祈福避祸。
据后来的史料记载，殷王小乙去世后，他的儿子武丁为他守丧三年，远离王位和政事，这就是一种孝。武丁有个儿子叫孝己，对父母特别孝敬，孝己的生母死后，武丁听信了孝己后母的谗言，把孝己放逐在外，孝己最终“忧苦而死”。
《史记·殷本纪》记载：“汤崩，太子太丁未立而卒，于是乃立太丁之弟外丙，是为帝外丙。帝外丙即位三年，崩，立外丙之弟中壬，是为帝中壬。”这种“兄终弟及”的王位继承方式跟“父死子继”一样，都与孝道有关，孝观念是维系这种制度的伦理保障。
4.伯夷、叔齐让位劝孝
伯夷、叔齐，是孤竹君的两个儿子。父亲想立叔齐为君，等到父亲死后，叔齐又让位给长兄伯夷。伯夷说：“这是父亲的意愿。”于是就逃开了。叔齐也不肯继承君位而逃避了。百姓就推孤竹国君的二儿子继承了王位。正当这个时候，伯夷、叔齐听说西伯姬昌敬养老人，便商量去投奔他。等到他们到达的时候，西伯已经死了，他的儿子武王用车载着他的灵牌，率军讨伐商纣王。伯夷、叔齐叩马进谏说：“父亲死了尚未安葬，就打起仗来，能称得上是孝吗？以臣子的身份而讨伐君王，能称得上是仁吗？”武王身边的人想杀死他们，太公姜尚说：“这是两位义士啊！”扶起他们，并将他们送走了。周武王灭商后，天下都归顺了周朝，而伯夷、叔齐以此为耻，坚持不吃周朝的粮食，并隐居于首阳山，采薇（野菜）充饥。待到饿得快要死了的时候，作了一首歌，歌词说：“登上首阳山，采薇来就餐，用暴力来取代暴力，却不知这种做法的错误呀！我所向往的神农氏（指炎帝）、虞（指舜帝）和夏王朝时代不知不觉中都灭亡了，我应该回归到哪里呢？可叹死期近，生命已衰残！”就这样饿死在首阳山。
伯夷遵从父命，坚决不当国君，是孝；叔齐把国君的位子让给哥哥，是悌；兄弟二人对王位不争反而让，是孝悌。对周武王以臣伐君的行为而叩马进谏，是忠；逃到首阳山采薇，不食周粟而死，是廉节。伯夷、叔齐不仅是道德高尚的完人，而且也是商朝末年的著名孝子。
由舜、禹、少连、大连、孝己、伯夷、叔齐的传说可知，早在儒家孝道形成之前的夏商时期，这种自发的、淳朴的孝意识就很浓厚了。这些情节可能是后人虚构的，但把这些故事安插到商周时代，至少反映了在后人的心目中夏商周时代也应该有孝道。
（三）有孝有德的西周孝观念
西周是孝观念形成、发展的重要时期。
1.泰伯三让天下
早在西周建立之前，周族就已有“孝悌”的风尚。周族先祖古公亶父的儿子泰伯、虞仲是孝敬父亲、和睦兄弟的榜样。
古公亶父有三个儿子：泰伯、虞仲（仲雍）、王季。王季的儿子是周文王。周文王出生时有圣瑞，一只红色的大鸟叼着丹书落在周文王的门上。古公亶父非常喜欢这个孙子，为他取名叫昌，认为他能昌大周族。泰伯、虞仲知道父亲想立三弟王季为世子，再把王位传给昌。为了实现父亲的意愿，两人就一起跑到南方荆蛮之地，把王位让给了王季。这样既成全了父亲的心愿，也成全了周朝800年的盛世。这里既有对父亲的孝，又有对弟弟的悌和让。
孔子《论语·泰伯》的第一句话就是称赞泰伯的：“泰伯，其可谓至德也，三以天下让，民无得而称焉。”孔子的意思是，泰伯三次将天下让给王季，却没向天下人宣传，民无以称赞他，所以是最高尚的道德。
西周建立后，本已有之的孝观念得到了极大的丰富和发展。西周把上帝称为天，视为天地间的最高主宰，周王不过是履行天命。因此，西周统治者继续宣传天命观，但是西周的孝观念展现了神性的退却和人性的张扬。同样是祭祖追孝，殷商对能降福遣灾的祖灵怀着恐惧的心理，甚至多少带有一些无奈和怨恨的情绪，而西周对祖先的享孝、追孝，从某种程度上讲，是对祖先血缘亲情的表达，是发自内心的敬仰。《礼记·表记》：“殷人尊鬼，尊而不亲；周人亲亲，亲而不尊。”正是对这一差异的准确描述。
西周淡化了鬼神观念，同时又赋予了天命以新的内涵，既要顺从天意，又要适应民心，认为天意是民心的集中体现。为了敬天保民，必须明德，即重视伦理规范，加强自我克制。西周统治者认为殷商覆灭的原因在于失“德”。西周时提出了“天命靡常，唯德是辅”、“以德配天”、“敬德保民”的思想。实际上，周代信神弄鬼的氛围比商代淡化了许多，人本思想受到重视，伦理问题显现。周以天为宗，以德为本。天子必须是“孝子”。
西周非常重视孝道，把孝作为维系宗法关系的纽带。在“敬天明德”思想的指导下，“孝”成为西周占主导地位的伦理价值观念。
2.周文王三时孝养、寝门视膳
西周孝道观的形成，开始于周文王时代。《礼记·文王世子》记载了这样一则故事：周文王做世子的时候，一日三次问候父亲王季。早晨鸡初鸣，就起身穿戴整齐，到父亲的寝门外，问当值的内庭小臣说：“今天父亲睡得怎么样？”小臣说：“睡得安稳。”文王听了就很高兴。到了中午又来探视，照样问候一遍。到了晚上又来探视，照样问候一遍。如果王季不舒服，不能按时起居，小臣就及时把情况报告给文王。文王听后就会面色忧愁，走路也不安稳。王季的饮食恢复正常，文王才恢复常态。膳食送上的时候，文王一定要察看冷热的程度，膳食端下来的时候，还会问吃了多少，同时吩咐膳宰说：“不要再上原来这几样菜了。”膳宰回答：“是。”然后文王才离去。
周文王这段孝父的故事，被称作“三时孝养”、“寝门视膳”，后成为关心父亲饮食起居的代名词。唐代文学家韩愈《大行皇太后挽歌词三首》诗：“一纪尊名正，三时孝养荣。”南朝梁王褒《为百僚请立太子表》：“问安寝门，视膳天幄。”
由于文王首树孝道楷模，儿子周武王也继承了父亲的孝行，但不敢做得超过父亲。有一次文王病了，武王衣不解带，日夜在身边侍候。文王吃一口饭，武王也只吃一口饭；文王吃两口饭，武王也吃两口饭。一直过了12天，文王痊愈，武王才松了一口气。
周代自周文王开始推行养老礼制。《孟子·离娄上》称赞周文王实行养老制度说，伯夷躲避商纣王，居北海之滨，听说周文王兴起，说：“投奔他，我听说西伯（周文王）善养老。”姜太公躲避商纣王，居东海之滨，听说周文王兴起，说：“投奔他，我听说西伯（周文王）善养老。”伯夷和姜太公是天下最有资格和声望的老人，他们都归附了文王，就说明天下的父亲都归附了。天下的父亲都归附了，儿子们还能不去吗？所以说，“诸侯有行文王之政者，七年之内，必为政于天下矣”。这里的“文王之政”，主要指养老。
西周时期，已经有推行道德教育的官员“师氏”。《周礼·地官·师氏》载，师氏“以三德教国子：一曰至德，以为道本；二曰敏德，以为行本；三曰孝德，以知逆恶。教三行：一曰孝行，以亲父母；二曰友行，以尊贤良；三曰顺行，以事师长”。
这里明确提出了“孝德”、“孝行”两个概念。“孝德，尊祖爱亲，守其所以生者也。”也就是要敬爱给了自己生命的父母和先祖。孝行就是“亲父母”，把对父母的孝敬落实到行动中。“师氏”这一官职的设立，说明西周已开始推行“孝德”、“孝行”方面的教育，这与周文王推行养老制度是一致的。
以后的周武王、周成王，尤其是摄政的周公，都对周文王的孝养制度奉行不替。《诗经·大雅·下武》称赞周武王：“永言孝思，孝思维则。”“孝思”即思念尽孝。周武王时刻不忘“孝思”，是天下“孝思”的楷模。
《诗经·周颂·闵予小子》讲：“于乎皇考，永世克孝，念兹皇祖，陟降庭止，维予小子，夙夜敬止，于乎皇王，继序思不忘。”赞美了周成王永世能尽孝道，这都反映了西周统治者对孝道的提倡和重视。