1938年11月19日，根据竺可桢的提议，浙江大学校务会议确定以“求是”为校训。竺可桢根据中国传统文化和西方科学发展的历史经验，把“求是”解释为“排万难冒百死以求真知”，“博学之，审问之，慎思之，明辨之，笃行之”。他根据自己的处世经验，提出“只问是非，不计利害”作为“求是”的行动准则。“求是”，实际上成为办好浙江大学的思想路线，对塑造大学生的道德品质起到了主导作用，也是指导浙江大学各项工作取得成功的思想保证。
竺可桢领导浙江大学取得成功，还在于他时时处处起着示范作用。学校迁到江西泰和暂时落脚后，他立即又往西寻觅下一步学校安顿、发展的地方，岂料短短时间内，他的发妻和爱子因先后染上痢疾而病故。这对竺可桢家庭生活来说是个严重的打击。但丧妻失子之痛并没有动摇竺可桢办好大学的决心，在处理完丧事后，又继续为公务而奔波。他对全校教职员工和学生充满了爱心，凡是家庭有了困难或发生变故的，他都亲自过问处理，因此，深得全校同仁和学生的爱戴。有了这么一位具有凝聚力的校长，全校的决策，都能实现令行禁止。
浙大西迁5000里，其行进方向，与前不久红军长征路线大体相同，后人因而也有称其为“文军长征”的。这支文化队伍，对于有利于民族文化保护和社会发展的事，都会尽力而为。在撤离杭州的时候，竺可桢克服了很大困难，把杭州文澜阁所藏《四库全书》共三万六千余册，转辗运到贵阳，抗战胜利后，又搬回杭州，保住了这份国宝。学校在江西泰和暂留时，竺可桢发动师生在做好教学工作之余，帮助地方上修筑防洪堤，兴办垦殖场和学校，为当地人民做了好事，撒下了科学和文化的种子。
1945年8月，抗日战争终于取得最后胜利。随着蒋介石挑起内战，全国各个大学为争取民主、自由的斗争风起云涌。浙江大学于1947年10月，终于爆发了学生于子三被捕且被杀害在监狱里的悲剧。这个事实进一步促使竺可桢认清了国民党政府的真实面目，同时也破灭了希望政府支持教育、科学事业的幻想。他根据“只问是非，不计利害”的行动准则，毅然站在学生一边，谴责当局迫害学生的***暴行。在当时政治形势下，竺可桢感到要继续办好学校实在力不从心；同时他又向往他的科研事业。在人民解放军隆隆的炮火声中，他决意向当时政府辞去校长的职务，离开了他潜心操劳13年之久的浙江大学，去迎接新中国的黎明。
竺可桢于1949年4月离开杭州赴上海后，迎来了上海的解放。当他在6、7月内几次听到周恩来、陈毅的讲话以后，不但领略到中国共产党的政治主张，更体会到党对科学技术事业的重视和对中国知识分子寄予的厚望。他在5月27日，即上海解放后第三天的日记中曾写到“解放军之来，人民如大旱之望云霓，希望能苦干到底，不要如国民党之腐败。科学对于建设极为重要，希望共产党能重视之。”这一段话，充分表现了竺可桢对中国共产党的基本政治态度和一个科学家的责任心。1949年7月，竺可桢到北京参加全国自然科学工作者代表会议筹备会。会后，他率队到东北参观，所见所闻，更使他信心倍增，从而决心在中国共产党领导下，为新中国的科学事业贡献自己的力量。
鉴于竺可桢的学术水平、政治态度以及在国内学术界中的地位和作用，经1949年10月16日举行的中央人民政府委员会第三次会议讨论决定，他被任命为中国科学院副院长。按照当时中国科学院领导班子的实际情况，自然科学方面的实际责任，按专业分工，比较多的便自然落在竺可桢以及稍后被任命的吴有训副院长的肩上。
从1949年11月1日建院起到1956年，是中国科学院初兴时期，也是竺可桢在中央人民政府领导下，按照中国科学院党组意图，对中国科学院全面建设贡献比较大的时期。
建院之初，竺可桢兼任计划局局长，副局长是钱三强。摆在他们面前的最紧迫任务就是要尽快在前中央研究院和北平研究院等旧有机构的基础上组建新的研究机构，为发展新中国科学事业打下坚实的组织基础。
接收旧机构的工作先从北京做起，由中国科学院通知在北京的原北平研究院和中央研究院的研究所以及静生生物调查所，明确正式归属关系，然后由竺可桢或陶孟和陪同郭沫若分别到各研究所和全体研究人员见面并征求意见。与此同时，竺可桢又相继访问了清华、北大、燕京诸校，广泛征求他们关于办好中国科学院的意见，了解有关科学领域在学术上有造诣的科学家人选。如果其中有的人选还在国外，则商定争取归来的具体办法。这项工作告一段落以后，竺可桢与陶孟和又同赴南京、上海，继续进行调查，为最后确定中国科学院下属第一批研究所的建制做了大量的工作。
针对当时一些研究所研究课题有重复，有的派系纷繁，成见较深的实际情况，竺可桢和许多科学家促膝长谈，互通心声。他以诚待人又坚持原则的工作作风曾感动了不少人。竺可桢在调整工作中提出三项原则：其一是把调查的重点放在性质上有重复的研究所，明确如何归并的具体方针；其二是强调科学院科研工作的计划性和集体性；其三是突出重点，予以特别支持。
在确定研究机构改组方案的过程中，反映出竺可桢顾全大局的高尚品格和实事求是的科学精神。前中央研究院的气象研究所，是竺可桢自1928年起苦心经营发展起来的研究所，不仅对我国近代气象科学事业的发展做出了开创性的贡献，在国际上也有较高学术地位，成为旧中国有重要影响的研究单位之一。中国科学院成立后，竺可桢完全可以使这个研究所保留下来，但是他没有这么做。根据当时科学的发展状况、国民经济实际的需要和所内一些科学家的愿望，他主张扩大成立为地球物理研究所，把气象学研究只作为其中一个研究室来设置。后来的发展实践证明，这样做非但没有削弱气象学的研究，还由于密切了大气物理学和其他固体地球科学的联系，使大气物理学得到了长足的发展。
竺可桢在领导中国科学院发展新中国科学研究事业时，有一个明确的指导思想，即中国科学院在发挥自身优势时，必须加强和高等院校及各产业部门的联系。1949年12月19日召开科学院办公会议时，竺可桢提议成立全国科学研究委员会或称部院委员会，以协商院外各部门之间的科学技术研究工作。它的任务是在有关政府部门派员参加的情况下，找出迫切需要解决的科学问题，一部分由科学院负责去做；另一部分则可交与合适的部门去做，以免造成研究工作的重复。竺可桢又于1949年12月23日代表中国科学院参加第一次全国教育工作会议，在会上发言表示，中国科学院希望与教育部门加强联系，建议中国科学院研究人员到高等院校去兼课，把最新研究工作成果渗透到教学工作中去。竺可桢的这些主张对于密切中国科学院与高等院校和产业部门的联系曾起到积极作用，地球物理研究所和中央军委气象局（今国家气象局的前身）的密切合作就是一个范例。这两个单位，前者侧重理论研究，人才济济；后者是中国气象事业的主管部门。当时地球物理研究所派出陶诗言、顾震潮等高级研究人员，和气象局共同建立了联合分析预报中心和联合资料分析中心，对奠定和发展我国气象预报事业起到了很大作用。
竺可桢历来重视人才。建院初期，他从多方面着手，为中国科学院凝聚研究力量。
首先，院计划局对全国自然科学方面人才进行了调查。根据各方面专家的推荐，当时有相当学术成就的自然科学家为865人，其中174人还在国外。经竺可桢和其他院领导共同努力，争取了一批具有相当学术成就的科学家先后到中国科学院工作，他们中间有童第周、曾呈奎、贝时璋、庄孝僡、蔡邦华、戴芳澜、汤佩松、殷宏章、潘菽、裴文中、王淦昌、汪德昭、庄长恭、王葆仁、虞宏正、叶渚沛、尹赞勋、黄秉维等。就象当年在浙江大学努力延聘有学术威望的教授一样，竺可桢为了敦请这些科学家来院工作，曾倾注了不少心血。当时有些科学家在大学里工作，他曾和教育部领导反复协商，大力争取。有的成功了，教育部门同意调出，如童第周、曾呈奎等；有的被教育部婉拒，没有调进科学院工作，但一直和竺可桢保持着密切的联系，例如苏步青等。为了争取尹赞勋来科学院，他曾几次拜访地质部副部长何长工，最后终获同意。当汪德昭、叶渚沛等从国外归来时，竺可桢自费设宴为他们接风，向他们介绍新中国的情况和中国科学院的性质、任务，动员他们到中国科学院参加研究工作。
为了充实新中国科研人员力量，竺可桢还亲自出面发出函电，邀请在海外他的故交或学生中有成就的学者回国参加建设。在他号召下，有的很快即踏上归途。成为中国科学院研究力量的骨干，例如姚錱、施履吉等。
为了弥补科学院研究力量的不足，竺可桢倡导高等院校的教授来研究所兼职，担任专门委员会的委员，在研究方向任务和人员培养方面帮助科学院工作。他还认真组织实施科学院和高校共同组建研究机构，例如在北京大学建立植物生理研究室，请当时的北大教授汤佩松主持；通过侯光炯教授，在西南农学院设立西南土壤研究室等，对推动基础研究起一定作用。
竺可桢更对年青科技人员的培养倾注了很大心血。在当时的情况下，他主张多派青年科技人员到苏联深造，或随专家一起赴苏联及东欧国家考察、进修。他本人出访苏联和东欧国家时，总是向我大使馆详细询问中国科学院派去留学生的学习成绩，并与他们会见，或进行个别谈话，或举行座谈会，或要他们陪伴参观，担任翻译，从中对留学生的业务水平进行考察。曾担任兰州冰川冻土研究所所长的谢自楚，就是在当时竺可桢访苏时的建议和鼓励下，选择了冰川研究专业，后来成长为我国较早从事冰川研究的年青学者之一。
对于刚分配来科学院的大学毕业生，竺可桢总是要与他们见面，向他们作建国前后的对比，展望中国科学事业的未来，介绍中国科学院的情况，对年轻人提出殷切希望。1954年8月，当年第一批大学毕业生80余人来科学院报到，竺可桢和他们作了近三小时的谈话；同年还有第二批大学毕业生83人，因交通被洪水所阻，延期到北京。报到后，竺可桢又与他们作了同样的讲话。就如同30年代浙江大学新生入学时，竺可桢校长一定要对学生进行国家前途和青年人的任务的教育一样，让大学毕业生一踏进新中国的科学大门，就立即意识到自己的责任。
根据当时政务院关于中国科学院应该计划与指导全国科学研究事业的精神，中国科学院十分注意地方科研工作的发展和新学科研究机构的设立。前者是为了更好地为当地国民经济建设服务，后者是为了进一步推动新兴学科的发展。竺可桢为促进这两方面工作不遗余力。
西北地区占全国面积三分之一左右，地下资源十分丰富，是我国经济建设潜在力量很大的地区。竺可桢曾于1954年去黄河流域亲自考察一个多月，实地调查了水土流失的严重情况。这次考察对竺可桢震动很大，他亲眼看到黄河中游不少地区滥垦滥伐，造成了大量的水土流失。他认为，水土保持工作应该是“面”的问题，而不是线或点的问题。人类破坏了大自然的生态平衡，如果不采取相应措施，必将受到大自然的惩罚。有鉴于此，中国科学院必须把黄河全面开发及根治黄河问题作为一个长期的重点工作。这也是较早建立中国科学院西北分院的一个原因。竺可桢于1953年12月、1954年6月，两次前往西安，与西北地区行政领导商议西北分院建院方案，决定在陕西武功首先建立中国科学院西北农业生物研究所（即今西北水土保持研究所的前身），以适应治黄河的需要，接着于1954年在沈阳又成立林业土壤研究所。以后，在竺可桢的提议和指导下，在兰州又设立了一系列的研究所，使兰州成为我国重要的地学研究中心之一。其中有些研究工作，如沙漠、冰川研究，后来都跻身于世界先进行列。
竺可桢密切注视着国际上当代科学发展的动向。建国初期，他深感到旧中国海洋科学事业的落后。他经过一番努力，得到教育部门的支持，首先将山东大学的童第周、曾呈奎教授调来中国科学院，由他们会同原北平研究院动物研究所所长张玺共同主持成立海洋生物研究室，在此基础上很快发展成为多学科的综合性海洋研究所，为发展我国海洋科学事业作出了重大贡献。1964年国家决定成立国家海洋局，统一管理海洋资源调查和开发研究工作，竺可桢对此举十分支持，从全局出发，同意将当时原属中国科学院的一部分海洋研究力量划归新建的国家海洋管理部门；但是他又考虑到国家海洋局和中国科学院的性质、任务不尽相同，不同意将中国科学院所有海洋研究机构统统划归国家海洋局的主张。为了坚持海洋科学的基础理论研究工作不被削弱，他直接向当时国家科委主任聂荣臻同志陈述意见，中国科学院的海洋研究所和南海海洋研究所因而得以保留。
为了使科学研究服务于国家边缘地区建设，中国科学院于1951年5月派出了西藏科学工作队。经竺可桢精心组织，选派了以地质学家李璞为队长，大地测量学家方俊为副队长，共有48人参加的考察队伍，进行了地质、地理、生物、农业、社会、历史、语言、文艺和医药等内容的考察。这是西藏有史以来第一次有组织的多学科科学考察。在取得了初步成果后，于1952年6月又派出土壤学家李连捷率领的农业科学家共11人再次进藏。此外，根据国家在海南岛、雷州半岛和广西南部发展橡胶种植的要求，竺可桢组织了由多学科科研人员组成的考察队参加调查，这些调查标志我国早期自然资源综合考察的开始。