利玛窦（Matteo Ricci）1552年生于意大利的马切拉塔城。10岁时进人马切拉塔耶稣会学校学习，其间表现出对欧洲古典文学的浓厚兴趣；17岁时到罗马攻读法律，不久即加入圣母会，过起严格的修身生活。1571年加人罗马耶稣会，并于次年进罗马学院就读。5年的大学生活，奠定了他一生的学识基础。
利玛窦的大学时代，正是欧洲近代思想和科学曙光初露的时代。经过文艺复兴，欧洲人深刻意识到：在中古科学的陈旧大厦里，惟一可取的是理智和对事实的批判观察。罗马学院的课程设置，恰恰体现了那个时代的特点。5年间，利玛窦学习了《欧几里得几何》、应用数学、地理学、音乐理论、透视学、天文学、修辞学、哲学等等学科，还学习天文仪器和钟表的制作技术。这期间，他已开始了传教生涯。
1576年12月，耶稣会印度传教区办事处主任希尔法（Martinoda Silva）由东印度返抵罗马，要求增派赴东方的传教士。早已立志航海并到东方传教的利玛窦，立即向耶稣会会长提出了申请，第二年初，他的申请获得了批准。
利玛窦此后的活动，大致可分为三个时期：第一时期起于1577年5月利玛窦离开罗马，止于1595年4月首次北上之前。这是利玛窦入华创建传教基地时期。第二时期始于1595年4月利玛窦首次北上，止于1600年5月第二次北上之前。这是利玛窦在华传教产生广泛影响的一个时期。第三时期自利玛窦1600年5月第二次进北京始，直至他1610年5月逝世。这是利玛窦在华传教取得全面收获的时期。
第一时期创建传教基地利玛窦于1577年5月由罗马启程，取道热那亚前往葡萄牙。在第二年3月抵达里斯本之后，曾受到葡萄牙国王的接见。接着，利玛窦便与13名传教士一起乘葡萄牙商船启程赴印度。同年9月到达果阿（Goa），在那里居住了4年。
早于利玛窦赴华探险的耶稣会士是方济各·沙勿略（S.Fran.ciscus Xaverius），他于1552年10月抵达广东上川岛，本想进入广州，却遭到拒绝。不久，他便死于上川岛。沙勿略虽然失败了，但他的主张和策略对后来的传教士却产生了重大影响。
明嘉靖三十六年（公元1557年），葡萄牙殖民者占领了澳门；10年后，澳门便成了天主教东方传教的根据地。澳门“向北是中国，幅员比马六甲岛辽阔，向东是日本和菲律宾群岛，向西是交趾支那、柬埔寨和泰国等其他国家。”（见于《利玛窦日记》）耶稣会利用澳门地理上的战略位置，于1565年在那里设立了一个常设机构——澳门学院（college at Macao），负责管理日本、中国的传教事务。
在耶稣会士罗明坚（Michael Ruggiefi）第四次（公元1582年4月26日）赴广州之前，利玛窦应范礼安（Alexander VMignano早于利玛窦到达澳门的耶稣会士）之召由果阿启程来华。抵达澳门后，利玛窦即刻开始学习汉语，并在范礼安指导下了解中国的风土人情、国家制度和政府组织情况。1583年8月，利玛窦等终于获准进入中国内地居住。
在广东肇庆，利玛窦等受到了知府王泮的接见。王泮明确表示，他愿意做他们的保护人。在王泮的影响下，肇庆的其他官员也纷纷效法与利玛窦交游。与官府的态度相反，当地百姓对利玛窦们十分反感，千方百计想把他们驱逐出境。为了避免引起肇庆百姓的敌对情绪，开始时，利玛窦“缄口不谈宗教事”（缄：jian）。他先把主要精力放在与中国士大夫的友好交往以及熟悉中国国情和学习汉语之上，同时用西方的技术、奇器、方物等吸引中国人，以引起他们的好奇，博取他们的欢心。这期间，他具体做了三件事：一、开放肇庆教会图书室，让人参观。肇庆教会图书室因此成了“中国最早的西方图书馆”；二、利用刻印《世界地图》。宣传基督教。利玛窦在为王泮刻印他的《山海舆地全图》加注时，乘机介绍基督教的信仰和风俗；三、展览各种天文仪器，吸引人们参观。人们在参观之后，都惊叹不已，纷纷赞扬利玛窦是伟大的天文学家。利玛窦还在肇庆制作了不少天文仪器，分赠给当地官员。以天文仪器作为笼络手段，是明末第一批来华耶稣会传教士的一贯策略。
1589年8月15日圣母升天节这一天，利玛窦同葡萄牙传教士麦安东（Antoine d’Almeida）一起乘船赴韶州。通过与当地官员的交游，利玛窦提高了自己在韶州的声誉。在那里，他更注意培养、重用华人信徒，所收第一个学习西方科学的学生叫瞿汝夔（字太素）。利玛窦向中国人传授西方科学知识的目的，当然还是为了传播基督信仰。瞿太素是江苏常熟人，出身于名门望族，既是利玛窦的得意门生，更是他的得力助手。瞿太素把自己学到的西方天文、数学知识记下来（其中包括他翻译的《欧几里得几何》部分章节）寄给各地的朋友，同时还到处传扬利玛窦和传教会的美名，最后甚至成了耶稣会的保护者。
1592年春节，利玛窦应瞿太素之邀出访南雄并在那里传播基督教义。许多人都来听他宣教，最后有10人当即受洗入教。鉴于当地群众有很强烈的反教情绪，同年底，利玛窦曾返回澳门半个月，与范礼安商讨对策，制定方针。他们主要商讨的是传教士如何儒化和积极准备北上这两个问题。利玛窦抵肇庆时，曾称自己为“僧”，称教堂为“寺”。后来，他们逐渐认识到僧徒在中国的社会地位是很低的，中国占统治地位的思想是儒家思想，儒士是中国统治阶级的社会基础，于是也便以儒为荣，决计不再使用“僧”名和“寺”名，废除剃头刮脸穿袈裟的佛教之俗，从此留须蓄发，改穿丝服。
第二时期积极传教韶州气候恶劣，不利传教，利玛窦决心另辟新的传教点。1595年5月，利用一位兵部侍郎的关系，利玛窦得以离开韶州赴江西。在南昌，已经完全儒生化了的利玛窦受到了人们的欢迎，井获准在那里定居传教。
利玛窦不仅赢得了巡抚陆万垓（gai）的信任和赏识，而且还与宁王朱权的后人建安王父子交朋友。他送给建安王卧式时钟、天文仪器、画像等从欧洲带来的礼物，还送给他自己写的两本书《世界图志》和《交友论》，极得建安王欢心。此外，利玛窦还注意与当地学者交游。理学名儒章潢便是他的好友之一。在当时的思想界，章潢是一位颇有影响的重要人物，著有《图书编》、《周易象义》、《诗经源体》、《书经原始》、《春秋窃义》、《礼记札言》、《论语约言》诸书。其中的《图书编》是自利玛窦入华后，最早在中国理学家文集中体现“西学东渐”影响的一部著作。
文学家、书画家李日华也与利玛窦有过交往，他在《紫桃轩杂缀》卷一中这样描写利玛窦：“玛窦紫髻碧眼，面色如桃花。见人膜拜如礼，人亦爱之，信其为善人也。”他还曾赠诗利玛窦，对他远涉重洋来华传教的殉道精神作了形象的描绘。