刚刚成立的联合国没有固定的总部和会址。联合国的制宪会议是在美国旧金山市的大歌剧院召开的，1946年2月14日，第一届联大则是在英国的伦敦举行，51个创始会员国与会。当年讨论联合国总部设在哪里的时候，美国和几个欧洲大国曾进行过激烈的争论。各方都希望成为联合国的东道国。最后联合国决定把总部设在美国。
在选定美国之后，联合国专门成立了一个选址委员会，在1946年的下半年考察了几个城市，如费城、波士顿和旧金山。尽管优先考虑的选址是纽约市以北的几个地方，但当时选址委员会并没有对拥挤的曼哈顿进行认真研究。在确定选址的最后时刻，美国巨富小洛克菲勒主动提出捐赠850万美元，买下了纽约曼哈顿岛靠近东河、面积达18英亩的一片地皮，供联合国修建总部。
选址一旦确定，接下来的工作是设计联合国总部。联合国不打算搞国际招标竞争，而是决定从各国聘请著名建筑师共同合作完成建筑设计工作。来自美国的沃里斯·哈里森被任命为总建筑师，其头衔是规划部主任。
1947年年初，来自五大洲的10名最杰出的建筑师、规划部主任及其顾问委员会齐聚纽约的洛克菲勒中心，开始联合国总部大楼的规划设计工作。这10位建筑师均由有关国家政府提名。中国著名建筑学家梁思成亦名列其中。经过反复的评估和分析，最终确定联合国总部由秘书处大厦、大会大厦、会议楼区域（包括各理事会会议厅）和图书馆等四大主体建筑物组成。为了给联合国总部建设筹措资金，美国政府向联合国提供了一笔6500万美元的无息贷款。联合国按分期付款的方式还贷，最后一笔贷款100万美元于1982年付清。
在1949年10月24日举行的奠基仪式上，联合国首任秘书长特里格夫·赖伊为建筑物奠基。奠基石上镌刻着“联合国”的字样，分别用1949年开始使用的联合国5种官方语言（即中文、英文、法文、西班牙文和俄文）书写，日期则用罗马数字写成。奠基石用常规方法制作，内置一金属盒，里面存放着《联合国宪章》、《世界人权宣言》和会议日程表的复印本，另外还有总部咨询委员会会议记录之类的文件。金属盒上面有秘书长特里格夫·赖伊和规划部主任沃里斯·K·哈里森加盖的私章。如今，这块奠基石的位置在联合国总部用地南部边界的图书馆大楼东面的地下。
1952年，联合国大楼正式启用。
联合国总部这个场所归联合国所有，是一个国际领地。除非在征得联合国秘书长同意的情况下，美国的联邦政府、州政府或地方政府的任何军官或官员，无论是行政官员、司法官员，还是军官或警官，都不得进入联合国总部。