诺贝尔的祖先来自波罗的海海岸的斯堪的纳维亚半岛的最南端。在斯科纳省的东诺贝尔洛夫，阿尔弗雷德·诺贝尔的父亲伊曼纽尔·诺贝尔，是一位富有传奇色彩的人物。
伊曼纽尔1800年3月24日出生于耶夫勒。他的家境极为贫困，父母无力供他进学校读书，这位天才从未受过正规教育，他写的字往往令人无法辨认，拼写上的错误就更不用说了。19世纪初，航海是西欧、南欧、北欧许多沿海地区青少年的梦想，由于伊曼纽尔体格健壮，力量过人，而且乐观开朗，再加上外祖父曾当过水手的原因，他从十四岁开始就去学习航海了。
后来，伊曼纽尔在一位建筑师那里做学徒，以打工为生，并进入一所文化学校，接受了一些基本文化教育。也就是在这个时候，他抓住了一次偶然的大显建筑才能的良机，他的人生有了重要转折。那一年，瑞典国王理查四世和他的随从要路过伊曼纽尔的家乡耶夫勒。伊曼纽尔得知理查四世特别喜欢凯旋门后，立即在短时间内奇迹般地设计建造了一座凯旋门向国王致敬。国王路过凯旋门时，对在这样一处偏僻的地方竟能在仓促之间建成这么一座宏伟建筑，惊叹不已，对这个从未受过正规教育的年轻人非常赏识。伊曼纽尔因此得以在1821～1825年进入斯德哥尔摩建筑学校学习，并且每年都获得该校的奖学金资助。在校求学期间，伊曼纽尔不但勤勉好学，而且充分展示了他的天分，曾因制作精巧模型多次获得学校的发明奖。
1825年以后，伊曼纽尔转到工程学校受聘担任设计教师，由于亚麻精整机的设计而获得年度奖金。1826年这所学校改建为工业学院。伊曼纽尔虽然缺乏理论修养，但凭着他的实践能力和继承自卢德贝克的在实用方面的特殊天资，从1826年开始担任建筑师和工程师的职务。伊曼纽尔与这个工业学院的关系只有几个月，同时他开始搞发明工作。
1827年，伊曼纽尔与一位书记长的女儿罗琳娜·安德丽塔·阿尔塞尔结婚，组成了一个美满的家庭。罗琳娜身材苗条，精力充沛，朴素善良，有智慧且不乏幽默。
婚后，她颇能吃苦耐劳，节俭持家。此后，伊曼纽尔虽几次大起大落，但罗琳娜始终对自己的丈夫表示理解和支持，无怨无悔，为丈夫营造了一个良好的工作环境和欢乐温暖的家庭氛围。他们一共生育了八个孩子，但只有罗伯特、路德维希、阿尔弗雷德三个儿子长大成人。伊曼纽尔和罗琳娜的婚姻持续了四十五年之久，他们被外界公认为一对幸福的伉俪。正是他们——智慧的父亲和慈爱的母亲，给了阿尔弗雷德·诺贝尔一生用之不竭的优良品质：聪明、勤奋、博爱。
1828年，因伊曼纽尔经营的一家不动产生意有可观的收入，还算富有，因此，伊曼纽尔夫妇于1828年1月1日搬进斯德哥尔摩郊外斯塔卡尔塞布鲁克的一幢寓所。住房周围树木成荫，湖水掩映，居住环境十分优雅而清新。
伊曼纽尔擅长机械制造，但才能无法施展，只好先当建筑师。他曾接受了好几处委托，承建了两所房屋，一是安茹法官的，在斯托托盖特；另一处是贵族毕特生的，在蒙克布隆。他还在耶可布斯柏格附近承建一所洗衣房，在斯库鲁桑德承建一座造价三万泰勒的悬桥。1833年一场无名大火使伊曼纽尔在兰格霍尔曼、克拉帕斯塔德的财产毁于一旦，债台高筑，在别无选择的情况下，只有宣布破产。1834年7月，破产生效，但仍未解除一切债务，直到1850年，他虽已偿还多半旧债，但仍未完全还清。
1833年的那场大火使伊曼纽尔倾家荡产，迫使他搬到诺曼街九号一所便宜的房子。在那座两层楼建筑后部，一道木楼梯从院子通向诺贝尔一家的住所：一间起居室，两间卧室和一个厨房。房内除了一些必不可少的生活用具外，几乎不能再简陋了。1833年10月21日，罗琳娜在这所房子里生下了阿尔弗雷德·诺贝尔。阿尔弗雷德九岁以前就是在这里度过的。在这里，诺贝尔三兄弟同母亲相依为命。
房子的简陋显而易见，老诺贝尔当初租下它，就是因为房租便宜。但谁也没想到，这里成长着一位世界上最富有的人之一。伊曼纽尔不论如何努力，不论如何对自己的才能充满信心，可事事都不能如愿以偿。他到底还能做些什么？这时，从埃及传来将要开凿苏伊士运河的消息，重新鼓起了伊曼纽尔的勃勃雄心，让他产生了灵感：他要发明一种炸药，使运河隧道和筑路建设工程省时省力，彻底改变以前施工落后、缓慢的面貌。运河工程巨大，工期历经数年，如果自己发明出一种强烈的炸药，一定能获得持续多年的丰厚利润，为自己的事业开创一条新出路。
古罗马皇帝克劳迪亚斯一世为福齐诺地区排水之用下令开凿一条三英里长的运河，三万农奴干了十一年之久才竣工。一千多年过去了，虽然说17世纪初中国的火药已传入西方，可是全用于枪炮，在大型工程中仍使用原始的施工方法，没有什么突破性的进展。如16世纪和17世纪开掘一条通往芬兰境内哈尔蒂山脉五英里长的隧道，前后竟用了一百五十年之久。早在17世纪，铁矿开采已成为瑞典工业的支柱产业。
瑞典国王斯塔夫斯二世不仅借助铁矿的生产装备新军，而且制造武器出口。由于生产方式的落后，瑞典的铁矿开采已日益衰落，如果有一种强力的炸药能够在关键部位炸开岩石，提高掘进速度，增加采矿效率，就可能使瑞典的铁矿开采业复兴。
只有通过新式炸药的使用，才能改变筑路及开矿的落后现状，虽然伊曼纽尔并不懂相关的知识，又没受过安全操作的训练，但他不顾一切后果，立即一头扎进这个危险而有前途的试验之中。这令罗琳娜十分不安。1837年，伊曼纽尔在他家后院的那个棚子里开始进行炸药试验，研究炸药的各种配方，以及温度、湿度等对炸药性能的影响。一天早晨，伊曼纽尔家后院里猛然传来爆炸的巨响，震得房屋摇晃，门窗格格作响。受惊的邻居们聚集到院子里对伊曼纽尔大声谩骂，充满敌意和愤怒，而伊曼纽尔这时正为他找到一种新炸药配方而兴高采烈。年仅四岁的阿尔弗雷德目睹了父母尴尬、孤立的场面，这一情景直至他成年后都一直铭刻在心里。谁也不会想到长大成人后的阿尔弗雷德像父亲一样，沉迷于与死神为伍的炸药，成为闻名于世的炸药大王。
1837年，伊曼纽尔告别妻儿只身迁居芬兰。对于此事，伊曼纽尔曾写下如下的话：
我是想把自己的计划付诸实施。但我早就想到，在有许多反对者的祖国是无法达到这一个目的的。
他在芬兰停留时间很短，以出售一种新式煤油灯维持生活。最后他辗转到了人地生疏的俄国，定居在圣彼得堡。
伊曼纽尔在圣彼得堡制造各种机械，其中特别闻名的是一种切割轮毂的机械。他更致力于炸药的研究，设计制造出防御用的地雷和水雷。在此期间，他结识的一位俄国将军、工程师伊盖尔夫对他的发明很有兴趣，并向国防部长提交了报告。
1852年，伊曼纽尔的水雷终于在圣彼得堡附近的奥契达河河口试验成功。但关于水雷管辖权的归属，海军、陆军展开了无休止的争执，问题被无限期地搁置起来。1853年，俄国和土耳其因“巴勒斯坦圣地”发生军事冲突，同年10月4日，土耳其对俄宣战。1854年3月28日，英法对俄宣战，克里米亚战争爆发。9月，英、法、土三国联军在黑海北岸的克里米亚地区登陆，开始对俄国要塞塞瓦斯托波尔进攻，就连沙皇王宫所在的圣彼得堡也必须防备来自海上的攻击，为了应付战事，总参谋部想起了伊曼纽尔的水雷，授命他紧急制造水雷，尽快在海域设防，以抵御英国舰队。罗伯特·诺贝尔按照父亲伊曼纽尔的设计在芬兰湾港口与圣彼得堡的战略要地、结冰的克隆斯达特军港的入口布置了水雷。英法联合舰队未敢冒险进入芬兰湾。联合舰队司令内皮尔对其海军部报告说：“芬兰湾布满了恶魔的机械。”
没有敌船被这些水雷击沉或击毁是肯定的，尽管如此，水雷在当时对敌舰也确有一定的威慑作用。一个英国水兵发现了一枚水雷，把它捞上来放置在旗舰“威灵顿公爵号”上，交给军火专家检查，在拆卸这枚水雷时，当场炸死了一名水手。有一艘俄国汽船不听领港员指示的路线，结果因撞上一串封锁港口的水雷而受到重创。游弋在附近涅瓦河口斯韦伯格的英国舰队目睹到这一事故，由此确信这种水雷的确有效。正是这一事件使停泊在芬兰湾的英国舰队未敢发动攻击。由于水雷对港口确有一定防御作用，因此俄国军方源源不断地向伊曼纽尔工厂订货。
伊曼纽尔自从1837年迁到圣彼得堡后，事业蒸蒸日上。
1842年他开办了一座金属工厂和铸造厂，生意很兴隆，成了俄国有名望的工程师企业家，这才得以在1842年10月把罗琳娜母子接到圣彼得堡团聚，并在随后的几年里把在瑞典时的债务一一还清，摆脱了债务的困扰。
1855年3月2日，沙皇尼古拉一世驾崩。同年9月，俄国炸毁塞瓦斯托波尔要塞，击沉舰船，撤出要塞，宣告了在克里米亚战争中实际上俄国已战败。亚历山大二世继位后于1856年2月在《巴黎和约》上签字。新沙皇锐意改革，他认为导致克里米亚战争失败的原因之一是俄国军事装备质量赶不上英国和法国。于是他决定从外国订购先进的武器装备，并下令取消同国内企业签订的全部合同。沙俄军方原来与诺贝尔父子工厂签订的所有军备合同，当然从此就被全部废除。这一消息对诺贝尔一家来说如雷击顶。在此之前，为了完成沙俄军方的订单，伊曼纽尔为扩大工厂的生产能力曾向银行贷了巨款。沙俄政府的毁约，使伊曼纽尔的工厂债台高筑，陷入困境。伊曼纽尔据理要求俄国政府履行合同、为毁约赔偿损失，但遭到了拒绝。祸不单行，随后不久，他的工厂又发生了一次火灾，这无异于雪上加霜。1857年4月他在写给阿尔甥尔一家人的一封信中说：
你为火灾的损失向我表示慰问，这些损失虽大，但同政府造成的损失相比，不过是沧海一粟。战争刚结束，政府就毁约，拒绝履行已订的合同，这击倒了我微弱的生机，三个月来我已完全不知所措。感谢上帝，现在我已完全恢复，能工作，也能思考。你还记得吗，有一次我们谈到我的处境时，我曾说过，如果政府信守书面印刷的文件，维持我奉政府命令开办的工厂的盛况，我的境况会很好，否则我将一无所有，因为我已把一切投入企业。
为了渡过这场危机，伊曼纽尔仔细地编制了工厂的概况表，列举了资产、生产计划、开销，并做出分析、提出概要。
1858年末派精通外语的阿尔弗雷德到伦敦和巴黎筹款，但未获成功。到1859年，伊曼纽尔无路可走，不得不又一次面临破产的打击，他把工人转让给他的债权人，留下三个儿子料理工厂的债务问题，黯然神伤地带着妻子罗琳娜以及在俄国出生的儿子埃米尔回到瑞典。
伊曼纽尔回到瑞典时已年近六十，一无所有，在旁人看来，他的事业似乎已经枯竭，该在自己的故乡默默无闻地度过晚年了。然而伊曼纽尔这位不屈不挠的发明家却壮心不已，他在斯德哥尔摩的赫伦内堡租了一座房子既当住处又当实验室，又沉醉于他那些富于幻想的发明之中。
当时的瑞典，正忙于修铁路、开矿山，急需更猛烈的炸药。伊曼纽尔面对这个潜在的大市场，又想起了他的火药，决定重操旧业，研究可以提高爆破力的新式炸药。
1863年，阿尔弗雷德完成了第一个重要发明，这个发明就是黑色火药和硝化甘油的混合物，使黑色火药的爆炸力大大加强。1863年10月16日瑞典商业部授予他制造这种炸药的10年专利权。伊曼纽尔信心百倍地和阿尔弗雷德一起很快地创建起新炸药工厂。这所工厂除了伊曼纽尔和阿尔弗雷德外，仅有一q位工程师、一q名男仆和一q名女仆。阿尔弗雷德的弟弟埃米尔也是这个炸药工厂的重要成员。埃米尔当时二十一岁，是乌普萨拉大学的学生，那年夏天也在这个工厂工作。1864年9月3日早晨，一场震惊赫伦内堡乃至整个斯德哥尔摩的惨剧发生了，工厂由于意外事故发生爆炸，在废墟里找到五具残骸：埃米尔·诺贝尔、工程师赫兹曼、男仆、女仆和一名过路的工人。
这次事故，使伊曼纽尔刚刚愈合的创伤又被撕裂。性格刚强的他一生经历了两次破产，这次又在自己开办的工厂里断送了爱子的性命，遭受到前所未有的不幸。这次最沉重的打击，使从未被压垮的伊曼纽尔，积郁成疾，在1864年10月6日猝然中风。此后长年卧床不起，再也没有恢复。
虽然伊曼纽尔富于幻想，但他的确是一个天才，他并没有接受过真正的技术教育，却凭着天资，成为一名发明家。
他富有想像力，但时时感到缺少教育的痛苦，他不能辨别什么是离奇的想像，什么是实际可行的。他并不是一位商人，没有多少经营头脑。他是乐观主义者，对可能遭遇到的困难和实际障碍不能通盘筹划。他生平所遇的挫折多半由自身缺点所招致，但他性格乐观，对于这些挫折从不介意。他曾拥有大规模的工厂，但对工作的兴趣超过对效益的兴趣。他的确是一个好人，只要自己有力量就尽力扶助他人。他生平历尽艰苦，但他是能吃苦的人。他暮年因病不得不减少工作，这是他最难受的。创造性的思维和丰富的想像力、乐观的情绪和自强不息的进取心、屡遭挫折而毫不气馁的坚韧精神，这些对于他的儿子——阿尔弗雷德·诺贝尔及其兄弟产生了巨大的影响。